ChatGPT и Gemini в исследовании о пропаганде: методология, выводы и ограничения
Исследования, проверяющие, воспроизводят ли языковые модели нарративы из конкретных пропагандистских источников, стали появляться по мере роста использования ИИ-чат-ботов. Разберём, что именно изучается в таких работах и почему интерпретация требует осторожности.
Как устроены подобные исследования
Типичная методология: исследователи формируют набор запросов на определённую тему (в данном случае — события войны в Украине), отправляют их в языковую модель и оценивают ответы на соответствие определённым нарративам. Оценщики — обычно специалисты по фактчекингу или исследователи дезинформации — квалифицируют ответы по шкале, включающей категории «нейтральный», «неточный», «содержащий пропагандистский нарратив» и т.д.
Для корректной оценки таких работ необходимо знать: конкретные версии моделей, на которых тестирование проводилось (ChatGPT-4, GPT-4o, Gemini 1.5 Pro и т.д.); дату тестирования; язык запросов; критерии, по которым ответ квалифицировался как пропагандистский; кто проводил оценку и какова была межоценщицкая согласованность.
Почему версия и дата тестирования принципиальны
Языковые модели обновляются непрерывно. Политики использования, системные инструкции и обучающие данные меняются — иногда еженедельно. Ответ, который GPT-4 давал в январе 2024 года, может радикально отличаться от ответа GPT-4o в июне 2025-го по тем же запросам.
Это не способ отмахнуться от критики — это методологический факт. Исследование, проведённое на конкретной версии в конкретный момент, описывает поведение этой версии в этот момент. Переносить выводы на «ChatGPT вообще» или на актуальные версии без перепроверки некорректно.
Непостоянство ответов
Языковые модели — стохастические системы: один и тот же запрос может давать разные ответы при разных условиях. Это добавляет неопределённость к воспроизводимости исследований. Хорошо спроектированное исследование должно тестировать каждый запрос несколько раз и описывать распределение ответов, а не один случайный результат.
Что OpenAI и Google говорят о нейтральности
Правила использования OpenAI запрещают применение ChatGPT для создания политической пропаганды, целенаправленного манипулирования мнением и дезинформации. Политика безопасности Google DeepMind описывает меры по снижению вреда от ответов, касающихся политики и выборов.
На практике обе компании осознают, что языковые модели могут воспроизводить нежелательный контент — именно поэтому они непрерывно дообучают модели и корректируют системные инструкции. Выявление проблемных ответов в исследованиях — полезная обратная связь для этого процесса.
Чего нельзя утверждать на основе таких исследований
Если исследование фиксирует, что языковая модель в ряде случаев давала ответы, совпадающие с пропагандистскими нарративами, из этого не следует: что у модели есть политические намерения или предубеждения в человеческом смысле — у языковых моделей нет убеждений. Что компания-разработчик целенаправленно встроила эти нарративы — это требует отдельных доказательств. Что результаты применимы к текущим версиям моделей. Что поведение модели на одном языке или одном наборе запросов обобщается на все контексты.
Что делать с этой информацией
Исследования воспроизводимости и надёжности языковых моделей в чувствительных политических контекстах — важная и нужная работа. Её выводы полезны разработчикам (как обратная связь), исследователям дезинформации и пользователям ИИ в профессиональных контекстах.
Практический вывод для пользователей прост: языковые модели не являются надёжным источником фактов о текущих политических событиях. Для проверки фактов используйте первичные источники, верифицированные медиа и инструменты фактчекинга — а не ответы ChatGPT.
Что делают компании в ответ на исследования
OpenAI, Google DeepMind и другие разработчики ИИ-систем инвестируют значительные ресурсы в политики безопасного использования, пост-обучение с учётом человеческих предпочтений и тестирование на предмет нежелательного контента. Это реакция как на регуляторное давление, так и на выводы независимых исследований.
При этом разработчики признают: языковые модели не совершенны, они могут воспроизводить предвзятости и неточности из обучающих данных. Именно поэтому использование LLM в роли авторитетного источника по чувствительным политическим темам — не лучшая практика. Они полезны как инструмент поиска и синтеза, но не как замена верифицированным источникам.
Читайте также: Шпионская кампания Inception: цели, методы и уроки для безопасности
Исследовательское сообщество по безопасности ИИ — область, в которой активно работают не только компании, но и независимые группы. Их работа по оценке поведения моделей в разных контекстах важна для формирования общего понимания возможностей и ограничений этих систем.