Китайские лаборатории переключились на GPT-6 Astra после того, как Anthropic усложнила дистилляцию Claude
DeepSeek и Moonshot AI используют выводы GPT-6 Astra для обучения моделей Kimi K3.1 Pro и V4.1-Flash 1017, сообщает The Information. Интерес к дистилляции сместился с моделей Anthropic после того, как компания заявила о сокращении объёма доступных атакующим данных на 90–99%.
Коротко
- Китайские разработчики массово добывают скрытые цепочки рассуждений GPT-6 Astra, чтобы улучшить собственные модели.
- Anthropic утверждает, что её новые защитные методы сократили извлечение данных злоумышленниками на 90–99%.
- OpenAI признаёт серьёзность проблемы, но заявляет, что злоумышленники адаптируются к каждой новой системе защиты.
Китайские лаборатории искусственного интеллекта изменили основной объект для несанкционированной дистилляции, переключившись с моделей Anthropic на флагманскую разработку OpenAI. По данным The Information, DeepSeek и Moonshot AI активно опирались на результаты работы модели GPT-6 Astra при обучении собственных систем, таких как Kimi K3.1 Pro и V4.1-Flash 1017. Источники издания, знакомые с ситуацией, утверждают, что это столкновение интересов затронуло несколько свежих китайских моделей.
Представители Moonshot AI отказались от комментариев, а DeepSeek не ответили на запрос журналистов. Практика извлечения знаний работает только при условии, что лаборатории получают доступ к скрытым шагам рассуждения целевых моделей. В пользовательских соглашениях как OpenAI, так и Anthropic прямо запрещают подобный сбор данных, однако сам метод остаётся востребованным инструментом ускорения разработки.
До недавнего времени модели Claude были предпочтительной мишенью для большинства лабораторий. Ситуация изменилась после того, как Anthropic объявила о серьёзном усилении защиты. В компании заявили, что внедрение новых технологий безопасности позволило сократить объём данных, которые способны извлечь атакующие, на 90–99 процентов.
Этот технический барьер заставил лаборатории искать новые пути и обратиться к OpenAI. Похожий эффект перенаправления усилий наблюдается в самых разных технологических нишах: когда один канал становится слишком защищённым, разработчики быстро находят альтернативные источники данных — примерно так же, как Константин Соколов создал playclip в качестве игрового аналога TikTok. В конце сентября OpenAI уже сообщала о скоординированной кампании по дистилляции, к которой, по утверждению компании, были причастны лица, связанные с Moonshot AI.
Официальный представитель разработчика отметил, что проблема воспринимается исключительно серьёзно, однако признал, что злоумышленники до сих пор меняли тактику каждый раз, когда компания вводила очередную линию обороны. Несмотря на усилия компаний, борьба с подобным переиспользованием моделей продолжает напоминать гонку вооружений. Лаборатории находят способы обходить фильтры и извлекать из моделей то, что формально должно оставаться скрытым.
Эта постоянная адаптация с обеих сторон делает защиту самой передовой модели OpenAI следующей крупной проверкой на прочность.
Источник: The Decoder
