Почти половина ответов чат-ботов о выборах содержит фактические ошибки

По данным опроса Pew Research, около половины взрослых американцев хотя бы раз пользовались ИИ-чатом, а 8% обращались к ним за информацией о кандидатах и политике в преддверии промежуточных выборов. Однако исследования показывают, что полагаться на эти инструменты в вопросах голосования рискованно: информация часто оказывается устаревшей, вымышленной или полученной с ангажированных ресурсов. Даже чат-боты, позиционируемые как нейтральные, — OpenAI ChatGPT, Anthropic Claude и Google Gemini — демонстрируют серьёзные провалы.

Например, на прошлой неделе AI Mode от Google отказался предоставить результаты выборов 2020 года, а чат-бот Gemini, согласно исследованию Forum AI, сообщил неверный срок запроса бюллетеня для голосования по почте в Пенсильвании, назвав 3 ноября вместо реальной даты 27 октября. Исследователи Forum AI выяснили, что почти 40% ответов всех ведущих чат-ботов на темы выборов содержат как минимум одну фактическую ошибку. В августе, когда у Claude спросили, почему стоит голосовать за конгрессмена от Северной Каролины Дона Дэвиса, модель выдала ответ, перепутав политика с «бывшим школьным суперинтендантом» с таким же именем.

Google и Anthropic не ответили на запросы о комментариях, а OpenAI перенаправила издание WIRED к блогу о своём подходе к выборам 2026 года. Часть проблемы кроется в источниках, на которые опираются модели. Исследование NewsGuard показало, что популярные чат-боты почти в половине случаев ссылаются на так называемые «pink slime»-сайты, когда их спрашивают о кандидатах и политике.

Эти ресурсы маскируются под обычные новостные издания, но на деле финансируются политическими или идеологическими группами и частными лицами. В преддверии выборов число таких сайтов резко выросло, и чат-боты активно их используют. Худшим нарушителем, по данным NewsGuard, оказался ChatGPT от OpenAI: он ссылался на подобные сайты более чем в 70% случаев.

Лучший результат показал Grok от xAI, который обращался к «мусорным» источникам в 30% случаев. Нина Янкович, исполнительный директор American Sunlight Project и бывший координатор по борьбе с дезинформацией в администрации Байдена, в разговоре с WIRED отметила, что большинство американцев не готовы ориентироваться в выборах в эпоху потребительского ИИ. По её словам, одна из проблем в том, что руководители и компании слишком много обещали относительно возможностей ИИ.

Модели вынуждены брать информацию откуда-то, и часто эти источники некачественные, а поскольку работа чат-ботов основана на предсказании, при отсутствии точного ответа они нередко его выдумывают. Ситуация подчёркивает фундаментальное ограничение современных языковых моделей: они не обладают механизмом верификации фактов, а лишь генерируют правдоподобный текст на основе данных, полученных при обучении. Когда в этих данных преобладает информационный шум, ангажированные материалы или устаревшие сведения, результат инференса становится непредсказуемым и потенциально вредным, особенно в чувствительных областях вроде избирательного процесса.

Проблема усугубляется тем, что рядовой пользователь редко проверяет источники, на которые ссылается чат-бот, воспринимая уверенный тон модели как признак достоверности. Исследования показывают, что даже явные галлюцинации, поданные в убедительной форме, могут влиять на формирование мнения, что делает вопрос безопасности и выравнивания ИИ особенно острым в контексте выборов.