MIT предложил править веса моделей вместо дообучения — Qwen улучшилась на MATH-500

Группа исследователей из Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) Массачусетского технологического института предложила подход под названием «программирование в пространстве весов» (weight-space programming). Идея в том, чтобы менять поведение нейросети не через дообучение или повторное обучение, а через точечную правку её весов — числовых параметров, которые и определяют, как модель отвечает на запросы. В эксперименте языковая модель GPT-6 Astra от OpenAI выступала в роли инструмента: она анализировала компактную модель Qwen3.5-0.8B с открытыми весами, изучала её поведение и сама определяла, какие параметры нужно изменить.

Стандартный процесс обучения на основе градиентов при этом не использовался. Правки затронули примерно 0,016% от общего числа весов модели. Результат на бенчмарке MATH-500 вырос с 7,9 до 48,1%.

По оценке исследователей, улучшение произошло главным образом за счёт устранения повторяющихся логических рассуждений, которые модель выдавала вместо решения задачи. ИИ-исследователь Юйчэн Цзинь (Yuchen Jin) описал метод так: «Это как генная инженерия для нейронных сетей. Даже круче, чем дистилляция!».

Если метод удастся сделать достаточно надёжным, у разработчиков появится способ корректировать работу моделей без традиционного дообучения. Точечная правка весов потенциально сокращает время и вычислительные ресурсы на отдельные улучшения, хотя подход пока находится на стадии экспериментов и конкретных показателей экономии нет. В перспективе такие схемы позволят моделям модифицировать другие модели — а со временем, возможно, и самих себя.

Ограничения тоже обозначены. Пока не доказано, что прямое редактирование весов стабильно выигрывает у обычного обучения по скорости, стоимости или эффективности. Универсальным подход не назвать: у модели Gemma 3 270M, которая не страдала от характерных для Qwen повторов, правки Astra не улучшили математические способности.

Ещё один эксперимент показал, что без предоставления дополнительных данных — например, о механизмах внимания — модель не смогла надёжно различать разные типы поведения целевой сети. То есть качество правок зависит от того, насколько хорошо «редактор» понимает, что именно он исправляет. Реакция сообщества разделилась.

Часть исследователей видит в методе инструмент быстрого обслуживания моделей и экономии ресурсов. Другая часть говорит о рисках: если правки весов станут рутинной практикой, цикл улучшения моделей может заметно ускориться. «Пусть это будет просто шумиха.

Ведь если это правда, то прогресс может ускориться колоссально — а это очень плохие новости, приближающие нас к глобальной катастрофе. До чего же безрассудное направление исследований», — заявил Максим Фурн (Maxime Fournes), генеральный директор организации Pause AI, которая выступает за приостановку разработки передовых ИИ-систем до доказанной безопасности и демократизации контроля над ними. Практический смысл для индустрии пока умеренный: метод проверен на небольших моделях и в узкой задаче — математике.

Но сама постановка вопроса важна. Сейчас любое изменение поведения LLM требует данных, обучения и вычислений; если часть таких правок удастся делать адресно, это изменит экономику поддержки моделей. Для пользователей ИИ-сервисов это пока новость из лаборатории, а не о продуктах.

Но она показывает направление, в котором ищут способы удешевить обновление моделей: не переучивать всё заново, а находить конкретные параметры, отвечающие за конкретную проблему.