Сколько пользователей LLM подвергаются воздействию российской пропаганды?

После выдвижения в прошлом году теории о манипулировании пользователями с помощью LLM-технологий, мы подсчитали, что пользователи ежемесячно сталкиваются с сотнями тысяч ответов чат-ботов, находящихся под влиянием России.

Наша информационная среда за последние годы кардинально изменилась с появлением LLM-систем. Сейчас, насчитывая более миллиарда пользователей по всему миру, такие инструменты, как ChatGPT, Perplexity и Claude, стали для многих основным источником новостей , инструментом для исследований и менеджером задач, экономящим время . Нет сомнений: LLM-системы повсеместны. Однако с появлением новых технологий возникают и новые попытки манипулировать ими в неблаговидных целях. Мы уже видели это раньше; например, когда в 2000-х годах резко возросло использование интернета в домашних условиях, на сцену также хлынули фишинговые и поддельные веб-сайты .

В феврале прошлого года организация American Sunlight Project впервые опубликовала наш доклад, посвященный теории «груминга в сфере LLM» — массового производства и копирования ложных нарративов в интернете с целью манипулирования результатами работы LLM. В нем мы проанализировали сеть «Правда», централизованную сеть веб-сайтов, распространяющих пророссийскую пропаганду — более 3 миллионов статей в год — на десятках языков, ориентированную на страны от Нигера до Японии, от Сербии до Канады. В то время мы обнаружили, что пользовательский интерфейс сети настолько враждебен к пользователям, что, по нашему мнению, основной целью сети является автоматическая проекция в цифровое пространство. Последствия уже ощутимы — NewsGuard , Институт стратегического диалога , Атлантический совет и Европейская обсерватория цифровых медиа с тех пор провели критические исследования, документирующие случаи «груминга в сфере LLM».

Однако один важный вопрос до сих пор остается без ответа: в каком масштабе обычные пользователи чат-ботов фактически подвергаются воздействию искусственно созданных сообщений? В этой статье представлены результаты нового исследования, в котором мы пытаемся напрямую количественно оценить это воздействие в Европейском Союзе (ЕС), переходя от обсуждения уязвимости в принципе к обсуждению вреда на практике.

По нашим оценкам, пользователи чат-ботов по всему Европейскому союзу ежемесячно взаимодействуют как минимум с 500 000 ответами, связанными с Украиной и имеющими российское влияние.

Карта количества ответов чат-ботов, связанных с Украиной и имеющих российское влияние, в месяц в странах Европейского союза.

Для получения этого числа потребовалось создание нового конвейера обработки данных, но не в том смысле, в котором это подразумевается при программировании. Вместо этого мы искали четыре других числа, каждое из которых являлось подмножеством первого:

• Количество посещений чат-бота, связанного с новостями, в месяц.
• Количество посещений чат-бота, посвященного украинским новостям, в месяц.
• Количество ответов чат-бота, связанных с украинскими новостями, в месяц.
• Количество ответов чат-бота, связанных с Украиной и находящихся под влиянием России, в месяц.

Четыре шага для получения результата:

Шаг 1: Количество посещений чат-ботов, связанных с новостями, в месяц: Сначала мы определили процент людей, использующих чат-боты для получения новостей в каждой стране ЕС, используя отчет Reuters Digital News Report за 2025 год . Мы умножили этот процент для каждой страны на численность ее населения. Это дало нам приблизительное количество посещений чат-ботов, связанных с новостями, в месяц в каждой стране ЕС.

Шаг 2: Количество посещений чат-бота, посвященного новостям Украины, в месяц: Далее мы оценили популярность Украины как новостной темы, используя Google Trends. Чтобы проиллюстрировать работу Google Trends, представим, что люди ищут в Google только две вещи: «Трамп» и «Чемпионат мира по футболу FIFA». Google Trends позволяет отслеживать популярность Трампа по сравнению с Чемпионатом мира. Самая популярная тема, в данном случае Чемпионат мира, всегда получает оценку 100. Оценка Трампа основана на том, насколько меньше его ищут по сравнению с Чемпионатом мира. Если Трампа ищут вдвое меньше, чем Чемпионат мира, то оценка Трампа составит 50, а Чемпионата мира — 100. Следовательно, «Трамп» составит 33% (50/150) от всех поисковых запросов в Google. По сути, мы умножили процент поисковых запросов, связанных с новостями Украины, для каждой страны на численность ее населения.

Шаг 3: Количество ответов чат-бота, связанных с украинскими новостями, в месяц: После определения количества посещений, связанных с украинскими новостями, нам все еще нужно было преобразовать количество посещений в количество ответов. Для этого мы использовали исследование Neilsan Norman Group , в котором было определено среднее количество запросов пользователей на одно посещение основных чат-ботов. Этот подход предполагает, что количество запросов пользователей на одно посещение, касающихся украинских новостей, равно среднему количеству запросов пользователей на одно посещение по любой теме, что, по нашему мнению, вероятно, приводит к заниженной оценке, поскольку сложные темы, такие как новости, скорее всего, приведут к большему количеству запросов, чем в среднем.

Шаг 4: Количество ответов чат-ботов, связанных с Украиной и имеющих российское влияние, в месяц: Наконец, мы определили количество ответов чат-ботов, связанных с Украиной и имеющих российское влияние, используя результаты последнего исследования Института стратегических диалогов, в ходе которого были проанализированы различные чат-боты о российском конфликте на Украине, чтобы определить долю ответов, имеющих российское влияние (примерно 18%). Это дало нам окончательный результат: количество ответов чат-ботов, связанных с Украиной и имеющих российское влияние, в месяц.

Наши расчеты, иллюстрирующие эти этапы, и оценки масштабов воздействия по странам можно посмотреть здесь . В общей сложности, по нашим оценкам, пользователи чат-ботов в ЕС ежемесячно сталкиваются как минимум с 504 060 ответами чат-ботов, связанными с Украиной и находящимися под влиянием России.

Ограничения и последствия

Наиболее корректной интерпретацией результатов было бы рассмотрение их как консервативной базовой оценки. Возможно, мы допустили несколько недооценок, например:

• Умножив процент людей, посещающих чат-боты для получения новостей, на численность населения страны, чтобы определить количество посещений в данной стране, получаем результат, который, по сути, предполагает, что каждый человек, посещающий чат-боты для получения новостей, делает это только раз в месяц. В действительности же эти люди, скорее всего, посещают чат-боты чаще , чем раз в месяц.
• В рейтинг популярности темы «Украина» учитывались только запросы, включавшие Украину, а также определенный процент запросов, включавших Россию. Однако неизбежно, что запросы, близкие к Украине и не содержащие ни одного из этих слов, например, «Трамп» или «война», скорее всего, имели целью получение информации об Украине.
• Запросы, связанные с новостями, могут вызывать больше вопросов в ходе одной беседы, чем запросы других типов.

Однако, даже если оценка этих результатов не является точной, они должны служить тревожным сигналом. Переведя, например, результаты по Германии в годовой исчисление, можно лучше понять масштаб: 1 520 520 ответов на сообщения чат-ботов, связанных с Украиной и находящихся под влиянием России (126 710 в месяц). Теперь предположим, что использование чат-ботов в качестве источников новостей в Германии удвоилось за пять лет. При прочих равных условиях результат составляет 3 041 040 ответов в год, однако удвоение этого процента все еще оставляет его на уровне всего 8% населения. Учитывая быстрые темпы технологических изменений, вполне разумно предположить среднесрочную перспективу, когда, скажем, 32% немцев будут использовать чат-боты в качестве источника новостей. В этом случае число составит 12 164 160 ответов в год, находящихся под влиянием России.

Ситуация может усугубиться. Например, при дальнейшем расширении сети «Правда» или других сетей Россия может увеличить свою долю источников, цитируемых чат-ботами по поводу вторжения в Украину, с 18%. Или же больше людей в ЕС могут начать использовать чат-боты для получения информации о полномасштабном вторжении — или о будущих международных конфликтах, развязанных Кремлем. И это даже не говоря о вторичном эффекте использования новостными агентствами этих ответов в качестве источника информации, что также имеет свои опасные последствия.

Наиболее важный вывод, подтверждаемый этим анализом, заключается в том, что Россия уже проникла в мир чат-ботов, и существует множество способов, которыми она может расширить эту возможность. В свете того, что правительство США сократило свою деятельность как по продвижению информационной грамотности , так и по борьбе с открытым иностранным влиянием — жизненно важной, беспристрастной работе, защищающей демократию, — продолжающееся влияние «груминга» со стороны магистров права представляет реальную угрозу безопасности выборов, государственных институтов и реальным человеческим жизням по всему миру

Источник:
https://americansunlight.substack.com/p/how-many-llm-users-are-exposed-to