AIВолна

Нейросети и искусственный интеллект: модели, компании, инструменты и исследования

воскресенье, 1 ноября

Регулирование

Anthropic расширила водяные знаки на четыре модели Claude, но на двух осталась лазейка

Anthropic встраивает невидимые водяные знаки в Claude Mythos 5, Opus 4.7, Opus 4.6 и Sonnet 4.6. На двух последних моделях знак срабатывает только при стандартных настройках сэмплирования — изменив temperature, top_p или top_k, разработчики могут его избежать. Компания объясняет спешку декабрьским дедлайном EU AI Act.

Коротко

  • Anthropic оснастила водяными знаками Claude Mythos 5, Opus 4.7, Opus 4.6 и Sonnet 4.6 для соответствия EU AI Act.
  • На Opus 4.6 и Sonnet 4.6 знак исчезает при малейшем отклонении параметров сэмплирования от значений по умолчанию.
  • Водяной знак не содержит идентифицирующей информации и внедряется на уровне модели, работая на всех облачных платформах.

Anthropic уведомила клиентов API о расширении встроенного текстового водяного знака ещё на четыре семейства Claude: Mythos 5, Opus 4.7, Opus 4.6 и Sonnet 4.6. Более новые модели, такие как Opus 5.5, уже несли маркировку, а развёртывание на Amazon Bedrock может занять несколько дополнительных дней. Компания описывает водяной знак как «незаметный узор в выборе слов», который не меняет смысла, качества и читаемости текста.

Он не добавляет ни одного токена или символа, не влияет на стоимость, форматы запросов и ответов, и практически не замедляет вывод. Отдельно подчёркнуто, что водяной знак не содержит никакой информации о пользователе, его организации или беседах с Claude. Для Opus 4.6 и Sonnet 4.6 знак срабатывает только при дефолтных значениях трёх параметров сэмплирования — temperature, top_p и top_k.

Достаточно отклонить хотя бы один из них от стандартного, чтобы водяной знак не появился. Anthropic прямо предупреждает: «Если вы полагаетесь на водяной знак для соблюдения собственных требований, держите эти настройки на значениях по умолчанию». На Mythos 5 и Opus 4.7 такое ограничение, судя по письму, отсутствует — маркировка применяется независимо от параметров.

Лазейка на старых моделях тем заметнее, что Opus 4.6 остаётся лучшей моделью Anthropic для письменных задач, опережая даже Opus 5.5. Причиной форсированного внедрения назван декабрьский дедлайн EU AI Act. Модели, выпущенные после 2 августа 2026 года, получали водяной знак сразу, тогда как более старые дооборудуются им поэтапно.

Поскольку знак вшит на уровне модели, он работает на каждой платформе, где размещены эти Claude, включая AWS, Google Cloud и Microsoft Foundry, и отключить его клиенты не могут. Технически используется вариант технологии SynthID text от Google DeepMind, меняющей статистику выбора слов так, чтобы формировался статистически детектируемый рисунок. Для разработчиков доступен API детекции в режиме закрытого превью.

OpenAI запустила собственную систему textGrain в октябре 2026 года, но она активируется по умолчанию лишь для пользователей ChatGPT и Codex в ЕС. API-клиентам во всём мире textGrain отключён, и они могут включать или выключать её самостоятельно. Google DeepMind ранее открыл код SynthID и встроил его в модели Gemini.

Остаётся ли качество текста нетронутым — вопрос спорный. Джон Грубер отмечает, что абсолютных синонимов не существует, а значит, замещение слов по ключу водяного знака неизбежно снижает смысловую точность. Юридический портал Artificial Lawyer поднимает отдельную проблему для юридических фирм: клиенты, запретившие использование ИИ, могут обнаружить водяной знак в документах, а наслоение нескольких водяных знаков в одном файле способно породить путаницу.

#безопасность #anthropic #регулирование

Обсуждение

Комментариев пока нет — начните разговор.

Читайте также