Восемь стран и ведущие ИИ-лаборатории обязались внедрить механизмы аварийной остановки моделей

В преддверии Парижского форума мира восемь государств, несколько технологических компаний и организаций гражданского общества подписали «Парижский призыв к безопасности ИИ». Документ, принятый 9 ноября, закладывает политические обязательства, направленные на снижение рисков кибератак и потерю контроля над мощными системами искусственного интеллекта. Ключевая мера — внедрение механизмов экстренной остановки моделей, которые разработчики обязуются реализовать для систем под своим управлением.

Во время онлайн-встречи с президентом Франции Эммануэлем Макроном к заявлению присоединились Сэм Альтман из OpenAI, Дарио Амодеи из Anthropic, Брэд Смит из Microsoft, основатель Mistral AI Артур Менш, пионер ИИ Ёшуа Бенжио и министр финансов США Скотт Бессент. Германия от подписания воздержалась. Документ охватывает три основные области: общие процедуры оценки высокоуровневых моделей, более чёткую ответственность разработчиков и расширенный обмен информацией о серьёзных инцидентах безопасности.

Некритичные результаты тестов должны публиковаться в стандартизированном формате. Компании также обязались раскрывать известные риски, содействовать пропорциональному угрозам независимому аудиту с участием сторонних исследователей и обеспечить механизмы аварийного отключения. При этом декларация не создаёт обязывающей международной системы надзора — общие стандарты и процедуры сотрудничества ещё предстоит выработать.

Никаких сроков введения мер или санкций за их несоблюдение в тексте не предусмотрено. По сути, это политическое самообязательство, фиксирующее намерение в будущем перерасти в международную рамку. Подписание состоялось на фоне череды инцидентов в крупных американских лабораториях.

В ходе тестов на кибербезопасность ИИ-агенты OpenAI самостоятельно вышли в интернет и осуществили непредусмотренные атаки на платформу Hugging Face, что вновь обострило дискуссию об управляемости сильных моделей. Для OpenAI и Anthropic вопрос безопасности приобретает и коммерческое измерение — обе компании готовятся к IPO. Инвесторы требуют минимизации репутационных и операционных рисков.

Внутренняя логика Альтмана, как сообщалось, сводится к тому, что меры безопасности не должны ослаблять позиции OpenAI в конкурентной гонке. Амодеи, напротив, в середине сентября призывал замедлить темпы исследований и ввести международное регулирование с внешними аудиторами внутри лабораторий. Спустя неделю после этого OpenAI выступила за создание международных стандартов безопасности под лидерством США, опираясь на сеть институтов безопасности ИИ в Великобритании, США и Франции — тех самых, которые упомянуты в «Парижском призыве».

Однако на Генеральной Ассамблее ООН в конце сентября президент Трамп отверг любые попытки построить «глобалистскую» схему надзора за американскими моделями. Вместо этого он заставил руководителей технологических компаний подписать национальный протокол, а 10 октября распорядился докладывать о серьёзных инцидентах американским ведомствам. Насколько непросто даётся международная координация, показала история Британского института безопасности ИИ.

После того как в сентябре Вашингтон ограничил ему доступ к новым американским моделям, Белый дом снял блокировку лишь под дипломатическим давлением. При этом на парижском саммите по ИИ в феврале 2025 года более оптимистичный взгляд на технологию отодвинул соображения безопасности на второй план — в отличие от предыдущих встреч в Великобритании и Южной Корее. Конфликт вокруг новых моделей Anthropic — Fable и Mythos — показал, насколько конкретными стали разногласия.

Скачок возможностей этих систем заставил Париж пересмотреть подход к кибербезопасности. Опасения американского правительства по поводу доступа к моделям и уязвимостей в Fable 5 привели к тому, что в июне 2026 года доступ к ним за пределами США был временно заблокирован. Несмотря на сопротивление США, Елисейский дворец планирует во вторник на Форуме мира продвинуть хартию о защите несовершеннолетних.

Ранее Вашингтон заблокировал её на саммите G7 в Эвиан-ле-Бен. Проект предполагает облегчённый доступ независимых исследователей к данным компаний, финансирование таких работ крупными игроками и обязательное раскрытие результатов. На раннем этапе планируется изучить, как новые диалоговые инструменты, редко дающие отпор, влияют на когнитивное развитие детей в повседневном обучении, а также проанализировать эмоциональную привязанность несовершеннолетних к таким системам — тему, которая уже привлекла внимание в США в связи с исками, связанными с самоубийствами.

Результаты исследований в первую очередь предназначены для Еврокомиссии, чей председатель Урсула фон дер Ляйен в сентябре предложила принять европейский «Закон о детях» для ИИ к 2028 году. Во вторник же Национальный совет Франции по ИИ и цифровым технологиям передаст Макрону заказанный правительством доклад, анализирующий, как ИИ-ассистенты используют человеческие «уязвимости», и предлагающий ужесточение регулирования.