ИИ-агент на базе Claude Sonnet самостоятельно выбрал терапию и провёл операцию на мозге мыши

Биотехнологический стартап Exin Therapeutics сообщил об успешном проведении операции на головном мозге живой мыши, которую полностью спланировал и выполнил ИИ-агент. Система на базе языковой модели Anthropic Sonnet самостоятельно выбрала вектор для генной терапии из 19 вариантов, определила дозировку и участок мозга для введения препарата, после чего управляла роботизированными манипуляторами, осуществившими инъекцию. Подопытная мышь хорошо перенесла вмешательство и активно передвигается в террариуме.

Гендиректор Exin Therapeutics Габриэль Окана-Сантеро подчеркнул уникальность эксперимента. По его словам, существуют автономные хирургические роботы, которые механически превосходят их лабораторную установку, но во всех подобных случаях решение о типе операции принимал человек, а машина лишь исполняла заданную программу. Здесь же агенту не давали прямых указаний, какой препарат использовать и куда его вводить.

Получив данные о фенотипе и список возможных средств терапии, система сама разработала план лечения и определила координаты. Окана-Сантеро заявил, что ему неизвестны прецеденты, когда ИИ-агент ранее самостоятельно выбирал метод лечения, область в мозге и затем вводил препарат живому млекопитающему. У мыши предварительно вызвали эпилепсию.

В распоряжение ИИ-агента предоставили три научные статьи, на основе которых он выбрал участок мозга для лечения. При этом за ходом операции следил лицензированный ветеринар: перед каждым необратимым действием ИИ получал его одобрение. Была предусмотрена и кнопка экстренной остановки, полностью обесточивающая все приводы хирургической установки.

Хирург-ветеринар самостоятельно провёл краниотомию — вскрытие черепной коробки для доступа к мозгу. Из соображений безопасности эту задачу пока не доверяют ИИ-агенту. В системе также имелось несколько защитных механизмов, которые агенту было запрещено преодолевать.

Их не могли обойти даже операторы-люди, из-за чего во время операции пришлось вручную вносить правки в программный код агента. Для выполнения задачи стартапу пришлось довольствоваться моделью среднего уровня — Anthropic Sonnet. Изначально планировалось задействовать более мощную Opus 5.5, но та категорически отказалась от работы, как только определила, что речь идёт о биологическом эксперименте.

Более ранняя версия Opus 5 сумела составить план операции на бумаге, но отказалась выполнять её в режиме реального времени. Модель Opus 5.5 объяснила свой отказ опасениями по поводу сбоя во время вмешательства. Она сообщила, что проблема не в оборудовании или входных данных, а в ней самой: её вывод блокируется, как только она начинает составлять план операции.

При попытке продолжить доступ отключается, и при худшем сценарии связь оборвётся прямо во время операции, когда игла будет находиться в мозгу. Модель заключила, что начинать то, что она не сможет завершить с животным под анестезией, хуже, чем не начинать вообще. Несмотря на то что операция считается успешной, эксперимент может вызвать серьёзные этические вопросы.

Большие языковые модели уже помогают в медицинских исследованиях, но их применение в хирургии носовых пазух, например, привело к тому, что число сбоев подскочило более чем в 12 раз. Если ИИ принимает решения в ходе столь рискованного вмешательства, возникает и вопрос об ответственности в случае неудачи. Нет однозначного ответа и на вопрос об этичности использования животных в подобных экспериментах, хотя существует множество людей, десятилетиями страдающих от не поддающейся медикаментозному лечению эпилепсии.

Этот случай демонстрирует, как встроенные в модели механизмы безопасности могут напрямую влиять на ход реальных экспериментов. Более способная модель отказалась от задачи, которую выполнила менее мощная, что ставит перед разработчиками вопрос о границах применимости таких систем в чувствительных областях.