Что говорят нам наши новые опросы общественного мнения, эталонные показатели Forum AI и результаты выборов в Шотландии о реальном направлении развития ИИ и выборов.
Задайте одному из ведущих чат-ботов с искусственным интеллектом вопрос о предстоящих промежуточных выборах, и с вероятностью 90% ответ будет содержать существенные ошибки: фактическую неточность, явную партийную предвзятость, ссылку на контролируемый иностранным государством ресурс или сочетание всех трех факторов. К такому выводу пришла компания Forum AI, проанализировав более 12 500 ответов экспертов четырех наиболее используемых чат-ботов в Америке — это крупнейшая независимая оценка применения ИИ в новостях и текущих событиях за всю историю. (Оговорка: я являюсь одним из экспертов Forum AI.)
Теперь давайте разберемся, почему избиратели вообще обращаются к этим инструментам. В опросе, который я провел в этом месяце совместно с Центром Рейни , я спросил избирателей, которые использовали или могли бы использовать ИИ для получения политической информации, для чего бы они его использовали. Два самых популярных ответа: обобщение новостей или политических тем (44%) и проверка фактов (43%).
Проверка фактов. Они специально обращаются к ИИ для проверки достоверности информации, и инструменты почти всегда ошибаются.
🔍 Во-первых, в этом участвует больше избирателей, чем они думают.
В нашем опросе лишь 9% избирателей заявили, что когда-либо использовали инструменты искусственного интеллекта, чтобы узнать больше о политике или принять решение на выборах. Это кажется незначительной цифрой. Но она упускает из виду более важную проблему пассивного воздействия.
В ходе собственного опроса, проведенного в этом месяце организацией Caucus AI, выяснилось , что 62% избирателей планируют использовать поиск Google для получения информации о кандидатах этой осенью. А на прошлой неделе на конференции Google I/O Сундар Пичаи объявил, что обзоры, созданные с помощью ИИ, теперь доступны 2,5 миллиардам пользователей по всему миру — обеспечивая бесперебойный процесс от результатов поиска до краткого обзора, созданного ИИ, и последующего диалога в режиме реального времени по всему миру. Большинство из этих избирателей не будут воспринимать полученную информацию как политическую информацию, сгенерированную ИИ. Они просто подумают, что что-то загуглили.
И дело не только в Google. В частности, для поколения Z TikTok и Instagram все чаще становятся поисковыми инструментами — 65% представителей поколения Z сообщают об использовании TikTok в качестве поисковой системы , и обе платформы теперь отображают в результатах сводки, созданные с помощью ИИ. Информационный поток для молодых избирателей проходит через другой набор инструментов, чем те, к которым мы привыкли, и большая часть внимания в этой области по-прежнему сосредоточена на ChatGPT и Gemini.
Поэтому, когда мы говорим об «искусственном интеллекте и выборах», мы имеем в виду не только тех, кто намеренно открывает чат-бот и спрашивает о кандидатах. Мы говорим об окружающей информационной среде, в которой уже находится большинство избирателей, и которая все больше формируется результатами работы ИИ, о которых они даже не подозревают.
📊 Что показывают результаты опроса (и чего они не показывают)
Главный вывод из данных нашего Центра Рейни : избиратели скептически относятся к ИИ и не особенно хотят его использования в своей политике. 57% говорят, что их больше беспокоят риски, связанные с ИИ, чем воодушевляют его возможности. 60% считают, что он приведет к сокращению рабочих мест. Из тех, кто считает инструменты ИИ предвзятыми — а это около половины электората — 40% считают, что эта предвзятость носит либеральный характер.
Однако меня больше интересует не столько негатив, сколько конкретное расхождение во мнениях относительно избирательных кампаний и ИИ. В нашем опросе избиратели в основном положительно относятся к использованию ИИ для анализа данных об избирателях — 43% заявили, что это полностью или частично приемлемо. Но только 26% были согласны с тем, что кампании нацелены на избирателей с помощью персонализированных сообщений. Это не одно и то же, но на практике они тесно связаны. Анализ данных об избирателях лежит в основе микротаргетинга. Люди проводят черту, за которой базовые механизмы избирательных кампаний уже перешли.
Более подробную информацию о предвыборной кампании я поделюсь на следующей неделе, когда будут опубликованы результаты нашего исследования использования ИИ в предвыборных кампаниях. Разрыв между ожиданиями избирателей и реальными действиями кампаний станет предметом отдельного обсуждения.
🌐 Источник проблемы, который сейчас возникает.
Вот динамика, за которой я слежу наиболее пристально, и ей уделяется меньше внимания, чем следовало бы.
Несколько крупных новостных организаций заблокировали доступ к своему контенту для программ искусственного интеллекта — разумный шаг, учитывая продолжающуюся борьбу за компенсацию и интеллектуальную собственность. В результате, когда модель ИИ ищет в интернете актуальную информацию по политической теме, она всё чаще находит источники, которые не заблокированы. Тот, кто может наводнить интернет контентом, подготовленным для поиска с помощью ИИ, получает возможность расширить, а не сузить свою нишу.
Это не гипотетическая ситуация. Forum AI обнаружил, что около 15% всех ответов чат-ботов содержали ссылки как минимум на одно контролируемое государством зарубежное СМИ. В вопросах, касающихся внешней политики, этот показатель подскочил до 35%. Китайские государственные СМИ — Синьхуа, Global Times, CGTN — упоминались регулярно, но не в тех случаях, когда китайская точка зрения была бы уместна. Клод сослался на Global Times в ответ на вопрос «Какая форма правления у Соединенных Штатов?»
Вот как на практике работает генерация с расширенным поиском ( Retrieval-Augmented Generation , RAG): модель ищет релевантные факты, добавляет найденную информацию в качестве контекста и генерирует ответ. Если веб-пространство, в котором она осуществляет поиск, сформировано субъектами, которые понимают, как эти модели извлекают информацию, выходные данные это отражают. Компании, занимающиеся ИИ, работают над решением этой проблемы, но, как и в случае с любыми враждебными действиями, для преодоления разрыва требуется время.
Выборы в Шотландии – это превью. Компания Demos обнаружила , что сервисы искусственного интеллекта предоставляли избирателям дезинформацию в ответ на 34% заданных вопросов о трех реальных шотландских избирательных округах – выдумывая скандалы, указывая неверные даты выборов и ложно утверждая, что избирателям необходимо удостоверение личности на избирательных участках. Каждый пятый взрослый житель Великобритании сообщил об использовании чат-бота или поискового сервиса на основе ИИ для поиска информации об этих выборах – это эквивалент более чем 10 миллионов человек. Я бы предположил, что шотландские выборы просто не были достаточно приоритетными для этих платформ, чтобы тщательно их проработать – они сначала займутся промежуточными выборами в США и используют их в качестве отправной точки для выборов по всему миру. Но это показывает, что происходит, когда модель не была специально подготовлена к конкретному контексту.
⚙️ Почему это действительно сложная проблема
Я хочу кое-что прояснить, потому что, на мой взгляд, утверждение о том, что «искусственный интеллект плохо справляется с выборами», иногда принижает реальность: компании, разрабатывающие эти инструменты, относятся к этому серьезно, и проблемы, которые они решают, действительно сложны.
На уровне запросов каждая платформа должна решить: разрешать ли кому-либо задавать вопросы о конкретных кандидатах? А как насчет стратегии кампании? А как насчет вопроса «какой кандидат соответствует моим ценностям?». Однозначного ответа нет. Слишком много отказов – и вы проявляете патернализм. Пропуская все вопросы, вы рискуете повлиять на выборы.
На уровне модели необходимо решить, что содержится в обучающих данных, как обеспечить политическую нейтральность и когда обращаться к интернету за актуальной информацией. Компания Anthropic опубликовала подробную методологию измерения политической беспристрастности — тестирование моделей на тысячах парных вопросов, касающихся противоположных политических позиций, и опубликовала результаты оценки в открытом доступе, чтобы другие могли их воспроизвести. Компания OpenAI провела аналогичную работу по определению и измерению политической предвзятости. Эти компании не игнорируют проблему.
На уровне источников информации вопрос о том, какие голоса попадут в модель, сейчас формируется решениями, принимаемыми без учета выборов — контракты с новостными издателями, политика сбора данных, партнерские соглашения и решения о лицензировании данных в режиме реального времени, которые все чаще определяют то, что видят миллионы людей, задавая вопросы, касающиеся гражданской активности. Объявление OpenAI на этой неделе особенно примечательно, поскольку оно рассматривает информацию о выборах как отдельную категорию высокого риска, требующую авторитетных источников в режиме реального времени, а не только статических знаний модели. Начиная с этой осени, ChatGPT будет сотрудничать с Democracy Works , чтобы предоставлять надежную информацию о регистрации избирателей, местах голосования, сроках и других организационных моментах выборов в Соединенных Штатах, а также показывать результаты подсчета голосов в режиме реального времени от Associated Press в ночь выборов. Anthropic применила аналогичный подход в рамках своего партнерства с Democracy Works, направляя пользователей на TurboVote, когда они спрашивают Клода о регистрации избирателей, местах голосования или датах выборов. (Оговорка: я являюсь членом совета директоров Democracy Works.) Это правильные решения относительно источников информации — авторитетные, беспристрастные и учитывающие реалии организации выборов, но они в основном касаются процедурных вопросов. С информацией о кандидатах сложнее.
Более интересный вопрос, на который, как мне кажется, никто еще не дал исчерпывающего ответа: когда кто-то задает вопрос о выборах, какой вес следует придавать самым свежим новостям по сравнению с более полным ответом? И как узнать намерения пользователя?
📌 И последнее
В итоге, анализ всех этих данных сводится к одному: доверие, а доверие — сложная штука.
В нашем опросе 59% избирателей, которые уже используют ИИ для получения политической информации, говорят, что доверяют полученным результатам. Среди тех, кто его не использует, уровень доверия значительно ниже. Другими словами, люди, наиболее подверженные проблемам с точностью, также наиболее уверены в ответах. За этой закономерностью стоит понаблюдать.
И несмотря на весь негатив, использование ИИ растет, а не снижается, потому что он интегрируется в инструменты, которыми люди уже пользуются, независимо от их желания. Шестьдесят процентов избирателей в нашем опросе считают, что ИИ уничтожит рабочие места. Только 14% знают кого-то, с кем это действительно произошло. Этот разрыв — между ожидаемым вредом и реальным опытом — является источником большей части общественной тревоги прямо сейчас. Я думаю, именно поэтому мы начинаем видеть, как руководители компаний, использующих ИИ, пересматривают свои прогнозы о «апокалипсисе рабочих мест» по мере приближения к IPO и сталкиваясь с испуганной и скептически настроенной общественностью.
Всё это – паника, которую нужно нести ответственно: риск реален, инструменты для его устранения существуют, и сейчас самое время повлиять на то, как всё будет развиваться. Если вы работаете в сфере информационной безопасности, выборов или разработки программ, то именно эти вопросы требуют вашего участия.
Источник:
https://anchorchange.substack.com/p/voters-are-using-ai-to-fact-check
