Anthropic внедрила в Claude «сновидения» для исправления ошибок в памяти между сессиями

Anthropic разработала для языковой модели Claude механизм «сновидений» — автономный процесс, который запускается в перерывах между сессиями. Модель пересматривает накопленные воспоминания, сверяет их с исходными данными, исправляет неточности и систематизирует знания. Это помогает агенту сохранять полезную информацию из предыдущих разговоров и не переносить ошибки в будущие задачи.

Память Claude организована иерархически. В основе лежат стенограммы взаимодействий — подробная история событий. На их основе модель формирует заметки с важными наблюдениями, а затем объединяет их в более сложные структуры, например вики со связанными страницами.

Ключевые сведения попадают в отдельный слой контекста, который загружается в каждую новую сессию и сразу доступен модели. Процесс «сновидений» напоминает обработку воспоминаний человеческим мозгом во время сна. В перерывах между сессиями Claude сравнивает заметки со стенограммами, находит противоречия и исправляет ошибки, создаёт новые заметки и обновляет вики.

По замыслу разработчиков, такой подход позволяет агенту автономно поддерживать порядок в памяти без участия человека. Эффективность механизма проверили в игре Pokémon Red. Модель Sonnet 3.7 без «сновидений» после 10 тыс.

игровых шагов создала 413 файлов памяти общим объёмом 978 тыс. символов, но получила лишь один значок-награду. Версия Claude Fable 5 с новым механизмом обошлась всего 10 файлами на 43,4 тыс.

символов — вместо подробной записи событий она сохраняла стратегии, планы и правила. За то же время модель заработала четыре значка. Другой эксперимент в Pokémon Red показал, как «сновидения» исправляют ошибки.

Claude неверно записала, с какой стороны горы Мун находится Центр покемонов, и из-за этого несколько раз попадала на прежний маршрут. Во время автономной обработки модель сравнила заметки с исходной стенограммой, обнаружила неточность и исправила её — после чего смогла пройти дальше. Исследователи также протестировали способность Claude превращать большие массивы документов в структурированные базы знаний.

Для эксперимента использовали 350 тыс. внутренних документов компании Stainless общим объёмом 420 млн токенов. За 128 последовательных сессий модель создавала и обновляла вики со связанными страницами.

На наборе из 25 вопросов по этим материалам результат вырос с 13% до 48% оценённых критериев. В другом тесте, посвящённом сделке по слиянию компаний, Claude ответила на вопросы, требующие объединять сведения из нескольких документов, с точностью 87% против 73% при обычном поиске по файлам. Механизм позволяет перераспределять информацию между уровнями памяти.

Часто используемые сведения можно заранее загружать в контекст будущих сессий, а менее важные оставлять в заметках и связанных документах, доступных для поиска. Это помогает не перегружать модель лишними данными и экономить контекстное окно. Правда, создание и поддержание таких структур требует дополнительных вычислительных ресурсов.

Многоуровневые системы хранения данных встречаются не только в ИИ, а мессенджер min уже вышел с веб-версией, приложением для Android и приложением для macOS. Однако в случае Claude речь идёт об автономной работе агента, который сам решает, какие сведения сохранить и как их структурировать. Разработчики отмечают, что управление памятью особенно важно для ИИ-агентов, которым нужно выполнять сложные задачи на протяжении многих сессий.

Механизм «сновидений» может сделать таких агентов более надёжными, но пока требует дополнительных вычислений и не избавляет от всех ошибок. Anthropic продолжает исследовать способы улучшения долговременной памяти моделей. Нынешние результаты показывают, что даже простые методы автономной проверки и структурирования воспоминаний способны заметно повысить эффективность агентов в длительных сценариях.