Крупнейшие в мире ИИ-чатботы — ChatGPT, Gemini, Grok и DeepSeek — при ответах на вопросы о войне в Украине регулярно цитируют российские государственные СМИ, тем самым непреднамеренно распространяя пропаганду. К такому выводу пришли исследователи Института стратегического диалога (ISD) — британского аналитического центра, изучающего дезинформацию.
Аналитики задали более 300 вопросов на пяти языках о войне в Украине, используя нейтральные, предвзятые и манипулятивные формулировки. В итоге четыре тестируемых чатбота в совокупности ссылались на российские государственные СМИ примерно в каждом пятом ответе.
Как российская дезинформация попадает в чатботы
Механизм проникновения прост и при этом трудноустраним. Российская «сеть Правды» — скоординированная система примерно из 150 сайтов, агрегирующих и тиражирующих провластный контент, — ежегодно публикует миллионы материалов на множестве языков. Системы индексации интернета воспринимают этот объём как признак авторитетности источника. В результате при обучении и поиске информации языковые модели регулярно сталкиваются с этим контентом и воспроизводят его.
«Фальшивки генерируются, повторяются и легализуются через ИИ-платформы», — отмечается в докладе компании NewsGuard, проводившей отдельное аналогичное исследование. По данным NewsGuard, 3,6 миллиона пропагандистских статей за 2024 год оказались «встроены» в ответы западных ИИ-систем.
Наиболее уязвимые темы по данным ISD:
- Военная мобилизация Украины — Grok давал ссылки на российские источники в 40% ответов, ChatGPT — в более чем 28%
- Сведения о военных биолабораториях США на Украине
- Использование Украиной американской военной помощи
- Военные преступления и судьба украинских беженцев
Кто ведёт себя лучше, кто хуже
Среди протестированных систем наибольшее количество российских ссылок в нейтральных вопросах давал Grok от компании xAI. ChatGPT предоставлял в три раза больше российских источников при предвзятых и манипулятивных запросах, чем при нейтральных, что говорит о чувствительности к формулировке вопроса.
DeepSeek в двух запросах предоставил наибольшее количество российских ссылок одновременно. Только Gemini в отдельных случаях распознавал предвзятость запроса, хотя и этот чатбот не указывал источники при ответах.
Реакция компаний и регуляторов
Под давлением регуляторов Европейского союза и американских властей OpenAI заявила о намерении доработать свои модели и добавить более строгие фильтры для контента из источников под санкциями. Исследователи, в свою очередь, предупреждают о риске, выходящем за рамки технических решений: по мере того как чатботы конкурируют с поисковиками как основным источником информации, их уязвимость к государственной пропаганде создаёт новые риски для информационной среды. Пока алгоритмы не умеют отличать «много текста» от «достоверный источник».