METR: скорость улучшения моделей Anthropic выросла вдвое за счёт использования ИИ в разработке

Исследователи из некоммерческой организации METR, специализирующейся на оценке возможностей и безопасности искусственного интеллекта, получили доступ к внутренним данным компании Anthropic. В их распоряжении оказались результаты ещё не выпущенных моделей, показатели обучения и метрики производительности. Дополнительно команда провела 15 интервью с сотрудниками компании.

Анализ показал, что с октября 2025 года результаты моделей Anthropic на внутренних тестах, измеряющих их способности, улучшались в 1,9 раза быстрее, чем прежде. Иными словами, за последний год компания добилась такого же прогресса, как за два предыдущих. Исследователи приводят 95-процентный доверительный интервал от 1,5 до 2,8 раза, подчёркивая, что оценка носит приблизительный характер.

Ключевым фактором ускорения METR называет использование самого искусственного интеллекта в процессе исследований и разработки. По оценке организации, около 80% наблюдаемого прироста скорости может быть связано именно с этим. Сотрудники Anthropic применяют языковые модели для написания кода и постановки экспериментов.

Некоторые из них в ходе внутренних опросов сообщали о двенадцатикратном увеличении личной производительности, однако в METR относятся к таким самооценкам скептически. Речь пока не идёт о полностью автономной разработке. Системы ещё не способны самостоятельно проводить наиболее критичные этапы обучения новых моделей.

Тем не менее, авторы доклада фиксируют первые признаки того, что в перспективе такие возможности могут появиться. Если ИИ начнёт не просто ассистировать специалистам, а самостоятельно решать всё больше задач по созданию и улучшению следующих поколений систем, это способно запустить процесс рекурсивного самосовершенствования. Рекурсивное самосовершенствование — сценарий, при котором ИИ разрабатывает более мощные версии самого себя.

В таком случае скорость прогресса может выйти из-под контроля человека, опережая способность исследователей оценивать безопасность и вырабатывать методы управления. Именно этот риск METR и подсвечивает в своей работе. Проверить выводы независимым образом затруднительно.

Anthropic отредактировала значительную часть наиболее информативных данных перед их передачей METR, мотивируя это опасениями, что публикация поможет конкурентам быстрее развивать собственный ИИ. Организация раскрыла факт правок и подчеркнула, что её оценка остаётся приблизительной. Работа METR вновь привлекает внимание к дилемме ускоряющегося развития.

Если модели начнут активно участвовать в создании своих преемников, их возможности могут расти быстрее, чем зреют инструменты контроля и согласования поведения ИИ с человеческими целями. Сама Anthropic в преддверии IPO предупредила инвесторов о физической угрозе человечеству со стороны искусственного интеллекта. Исследование не даёт однозначного ответа на вопрос, когда именно может быть пройдена точка невозврата, но фиксирует значимое изменение темпа.

Удвоение скорости совершенствования моделей за год — это эмпирический сигнал, который, по мнению METR, требует более пристального внимания к методам оценки безопасности на всех этапах жизненного цикла систем. В индустрии в целом растёт интерес к метрикам, которые позволяют измерять не только возможности моделей, но и скорость их прироста. Подобные замеры становятся важным элементом дискуссии о том, успевает ли инфраструктура безопасности за темпом разработки.

Выводы METR, даже с учётом оговорок о неполноте данных, добавляют аргументов сторонникам более строгого мониторинга внутренних процессов ИИ-компаний.