Oснованное на фактах руководство по некоторым основным предложениям о том, как демократические правительства, платформы и другие могут противостоять дезинформации.
Краткое содержание
Дезинформация широко рассматривается как серьезная проблема для демократий во всем мире. Многие политики ищут быстрые и эффективные способы отговорить людей от принятия и распространения ложных убеждений, которые ухудшают демократический дискурс и могут спровоцировать насильственные или опасные действия. Однако дезинформацию оказалось трудно определить, понять и измерить, не говоря уже о том, чтобы с ней бороться.
Даже когда лидеры знают, чего они хотят достичь в борьбе с дезинформацией, они изо всех сил пытаются оказать влияние и часто не осознают, как мало известно об эффективности политики, обычно рекомендуемой экспертами. Политики также иногда зацикливаются на нескольких частях головоломки дезинформации, включая новые технологии, такие как социальные сети и искусственный интеллект (ИИ), не учитывая весь спектр возможных ответов в таких сферах, как образование, журналистика и политические институты.
Этот отчет предлагает высокоуровневое, основанное на фактических данных руководство по некоторым основным предложениям о том, как демократические правительства, платформы и другие могут противостоять дезинформации. В нем собраны основные идеи эмпирических исследований и реальных данных о десяти различных видах политических мер, включая проверку фактов, иностранные санкции, алгоритмические корректировки и кампании по противодействию сообщениям. В каждом тематическом исследовании мы стремимся дать политикам осознанное представление о перспективах на успех, устраняя разрыв между по большей части скудным научным пониманием и осознанной необходимостью действовать. Это означает ответ на три основных вопроса: Что известно о вмешательстве? Насколько эффективным кажется вмешательство, учитывая современные знания? И насколько легко это реализовать в большом масштабе?
Общие выводы
- Не существует серебряной пули или «лучшего» варианта политики. Ни одно из вмешательств, рассмотренных в этом отчете, не было одновременно хорошо изученным, очень эффективным и легко масштабируемым. Скорее, польза большинства вмешательств кажется весьма неопределенной и, вероятно, зависит от множества факторов, которые исследователи едва начали исследовать. Например, точная формулировка и представление ярлыков в социальных сетях и проверка фактов могут иметь большое значение, в то время как кампании по противодействию сообщениям зависят от тонкого соответствия восприимчивой аудитории и заслуживающих доверия ораторов. Смелый утверждает, что любая политика является единственным и срочным решением проблемы дезинформации, к которому следует относиться с осторожностью.
- Политики должны установить реалистичные ожидания. Дезинформация — это хроническое историческое явление, имеющее глубокие корни в сложных социальных, политических и экономических структурах. Его можно рассматривать как совместную движущую силу сил спроса и предложения. Со стороны предложения у некоторых субъектов существуют мощные политические и коммерческие стимулы участвовать в обмане, поощрять его или терпеть обман, в то время как со стороны спроса психологические потребности часто заставляют людей верить ложным повествованиям. Существуют надежные варианты сдерживания как спроса, так и предложения, но технократический подход к решениям все еще имеет серьезные ограничения против дезинформации. Ограниченные ресурсы, знания, политическая воля, юридические полномочия и гражданское доверие ограничивают возможности, по крайней мере, в краткосрочной и среднесрочной перспективе.
- Демократические страны должны принять портфельный подход для управления неопределенностью. Политики должны действовать как инвесторы, предпринимая разнообразные усилия по борьбе с дезинформацией, одновременно обучаясь и со временем меняя баланс. Здоровый политический портфель должен включать тактические действия, которые кажутся хорошо изученными или эффективными (например, проверка фактов и маркировка контента в социальных сетях). Но это также потребует более дорогостоящих и долгосрочных ставок на многообещающие структурные реформы (например, поддержку местной журналистики и медиаграмотности). Каждая политика должна сопровождаться конкретным планом постоянной переоценки.
- Долгосрочные структурные реформы заслуживают большего внимания. Хотя в демократических странах реализуется множество различных политик по борьбе с дезинформацией, огромное внимание уделяется наиболее осязаемым, немедленным и видимым действиям. Например, платформы, правительства и исследователи регулярно попадают в заголовки газет, объявляя об открытии или разрушении иностранных и других недостоверных онлайн-сетей. Однако такие действия, хотя и полезны, обычно имеют узкий эффект. Для сравнения, более амбициозные, но медленные усилия по возрождению местной журналистики и повышению медиаграмотности (среди других возможностей) получают меньше внимания, несмотря на обнадеживающие исследования их перспектив.
- Платформы и технологии не могут быть единственным фокусом. Исследования показывают, что платформы социальных сетей различными способами способствуют распространению дезинформации, например, с помощью алгоритмов рекомендаций, которые поощряют и усиливают вводящий в заблуждение контент. Тем не менее, цифровые платформы существуют рядом и взаимодействуют со многими другими онлайн- и офлайн-силами. Риторика политических элит, программы традиционных средств массовой информации, таких как телевидение, и повествования, циркулирующие среди доверенных членов сообщества, — все это имеет большое влияние на формирование речи, убеждений и поведения людей. В то же время растущее число цифровых платформ снижает эффективность действий любой отдельной компании по противодействию дезинформации. Учитывая такое взаимодействие многих голосов и усилителей, эффективная политика будет включать взаимодополняющие действия во многих сферах.
- Противодействие дезинформации не всегда аполитично. Те, кто работает над сокращением распространения и воздействия дезинформации, часто считают себя бескорыстными экспертами и технократами, действующими над схваткой политических дебатов, не стремясь и не осуществляя политическую власть. Действительно, такие действия, как удаление недостоверных ресурсов в социальных сетях, более или менее политически нейтральны. Но другие усилия, такие как кампании по противодействию сообщениям, в которых используются рассказывание историй или эмоциональные призывы для конкуренции с ложными идеями на повествовательном и психологическом уровне, трудно отличить от традиционной политической пропаганды. В конечном счете, любые институциональные усилия объявить, что истинно, а что ложно – и подкрепить такие заявления властью, ресурсами или престижем – подразумевают некоторую претензию на власть и, следовательно, могут рассматриваться как имеющие политическое значение (и последствия). Отрицание этой реальности чревато риском чрезмерного вмешательства или ответной реакции, что усугубляет недоверие.
- Пробелы в исследованиях широко распространены. Относительно тщательное исследование проверки фактов дает представление о возможностях и ограничениях будущих исследований других контрмер. С одной стороны, целенаправленные усилия позволили исследователям утвердить проверку фактов как в целом полезный инструмент. Политики могут быть уверены в том, что проверка фактов заслуживает инвестиций. С другой стороны, исследователи выяснили, что эффективность проверки фактов может сильно различаться в зависимости от множества контекстуальных и плохо понимаемых факторов. Более того, многочисленные пробелы в знаниях и методологические предубеждения сохраняются даже после сотен опубликованных исследований по проверке фактов. Поскольку проверка фактов представляет собой высший уровень современных знаний о мерах по борьбе с дезинформацией, можно ожидать, что другие меры также потребуют постоянных исследований в течение длительных периодов — от фундаментальной теории до высокоприкладных исследований.
- Исследования — это задача поколений с неопределенными результатами. Пробелы в знаниях, отмеченные в этом отчете, могут послужить дорожной картой для будущих исследований. Заполнение этих пробелов потребует большего, чем просто проведение отдельных исследований; необходимы крупные инвестиции в фундаментальную исследовательскую инфраструктуру, такую как человеческий капитал, доступ к данным и технологии. Тем не менее, социальные науки развиваются медленно и редко дают однозначные ответы на самые актуальные вопросы. Возьмем, к примеру, экономику: сто лет исследований помогли западным политикам обуздать (хотя и не устранить) депрессии, рецессии и панику, однако экономисты все еще обсуждают важные вопросы налогов и торговли и лишь с опозданием учитывают катастрофические климатические риски. Неоднозначные результаты экономической науки служат отрезвляющим ориентиром для изучения дезинформации, которая является гораздо менее зрелой и устойчивой областью.
- Генеративный ИИ будет иметь сложные эффекты, но, возможно, не изменит правила игры. Быстрое развитие искусственного интеллекта вскоре может значительно упростить и удешевить создание реалистичного и/или персонализированного ложного контента. Несмотря на это, чистое воздействие на общество остается неясным. Исследования показывают, что готовность людей верить ложной (или правдивой) информации часто не обусловлена в первую очередь уровнем реализма контента. Скорее, большее значение могут иметь другие факторы, такие как повторение, привлекательность повествования, воспринимаемый авторитет, групповая идентификация и душевное состояние зрителя. Между тем, исследования микротаргетинговой рекламы, которая уже в значительной степени основана на данных и автоматизирована, ставят под сомнение представление о том, что персонализированные сообщения являются уникально привлекательными. Генеративный ИИ также можно использовать для противодействия дезинформации, а не только для ее разжигания. Например, хорошо спроектированные и контролируемые человеком системы искусственного интеллекта могут помочь специалистам по проверке фактов работать быстрее. Хотя долгосрочное влияние генеративного ИИ остается неизвестным, ясно, что дезинформация — это сложное психосоциальное явление, которое редко можно свести к какой-либо одной технологии.
Резюме тематического исследования
- Поддержка местной журналистики. Имеются убедительные доказательства того, что упадок местных новостных агентств, особенно газет, подорвал гражданскую активность, знания и доверие, способствуя распространению дезинформации. Поддержка местной журналистики могла бы помочь остановить или обратить вспять такие тенденции, но это не было напрямую проверено. Стоимость является серьезной проблемой, учитывая затраты на качественную журналистику и глубину финансового упадка отрасли. Благотворительность может предоставить целевую поддержку, например стартовый капитал для экспериментов. Но долгосрочное решение, вероятно, потребует вмешательства правительства и/или альтернативных бизнес-моделей. Это может включать прямые субсидии (передаваемые через неправительственных посредников) или косвенные меры, такие как налоговые льготы и права на ведение переговоров.
- Медиаграмотное образование. Существуют убедительные доказательства того, что обучение медиаграмотности может помочь людям выявить ложные истории и ненадежные источники новостей. Однако различия в педагогических подходах означают, что эффективность одной программы не обязательно означает эффективность другой. Наиболее успешные варианты дают мотивированным людям возможность контролировать свое потребление медиа и искать высококачественную информацию, прививая уверенность и чувство ответственности наряду с развитием навыков. Хотя обучение медиаграмотности обещает многообещающие результаты, оно сталкивается с проблемами в скорости, масштабах и адресности. Охват большого количества людей, включая тех, кто наиболее восприимчив к дезинформации, обходится дорого и занимает много лет.
- Проверка фактов. Большой объем исследований показывает, что проверка фактов может быть эффективным способом исправить ложные убеждения в отношении конкретных утверждений, особенно для аудитории, которая не особо заинтересована в партийных элементах утверждений. Однако влияние на фактические убеждения не обязательно приводит к изменениям в отношениях или поведении, таким как уменьшение поддержки лживого политика или необоснованного политического предложения. Более того, эффективность проверки фактов во многом зависит от контекстуальных факторов, таких как формулировка, представление и источник, которые недостаточно понятны. Даже в этом случае проверка фактов вряд ли вызовет обратный эффект, который заставит людей удвоить ложные убеждения. Специалисты по проверке фактов сталкиваются со структурным недостатком, заключающимся в том, что ложные утверждения можно создавать дешевле и распространять быстрее, чем корректирующую информацию; предположительно, технологические инновации могут помочь изменить этот баланс.
- Маркировка контента социальных сетей. Существует множество доказательств того, что маркировка ложного или ненадежного контента дополнительным контекстом может снизить вероятность того, что пользователи поверят ему и поделятся им. Крупные, напористые и разрушительные ярлыки являются наиболее эффективными, тогда как осторожные и общие ярлыки часто не работают. Напоминания, которые подталкивают пользователей задуматься над точностью, прежде чем делиться информацией, обещают, как и усилия по присвоению новостным агентствам оценок достоверности. Разные аудитории могут по-разному реагировать на ярлыки, и существуют риски, которые остаются плохо понятыми: например, ярлыки могут иногда вызывать у пользователей либо чрезмерно доверчивое, либо чрезмерное скептическое отношение к немаркированному контенту. Крупные платформы социальных сетей в значительной степени используют ярлыки, но дальнейшее расширение может потребовать более эффективного обмена информацией или новых технологий, которые сочетают человеческое суждение с алгоритмической эффективностью.
- Стратегии контринформации. Имеются убедительные доказательства того, что правдивые коммуникационные кампании, призванные привлечь людей на повествовательном и психологическом уровне, более эффективны, чем одни лишь факты. Нацеливаясь на более глубокие чувства и идеи, которые делают ложные утверждения привлекательными, стратегии контринформации могут потенциально повлиять на труднодоступную аудиторию. Однако успех зависит от сложного взаимодействия многих непостижимых факторов. Лучшие кампании используют тщательный анализ аудитории для выбора наиболее резонансных средств массовой информации, средств, тем и стилей, но это дорогостоящий процесс, успех которого трудно измерить. Многообещающие методы включают в себя передачу уважения и сочувствия, обращение к просоциальным ценностям и придание аудитории чувства свободы воли.
- Кибербезопасность для выборов и кампаний. Есть веские основания полагать, что кибербезопасность, связанная с избирательными кампаниями и выборами, может быть значительно улучшена, что предотвратит некоторые операции по взлому и утечке информации и вызывающие страх нарушения избирательных систем. В сфере кибербезопасности достигнут прочный консенсус в отношении некоторых базовых практик, многие из которых остаются нереализованными кампаниями и организаторами выборов. Улучшение кибербезопасности было бы особенно полезно для предотвращения хакерских атак и утечек, хотя кандидатам будет сложно расставить приоритеты в области кибербезопасности, учитывая практические требования предвыборной кампании. Сами избирательные системы можно сделать существенно более безопасными при разумных затратах. Однако до сих пор нет никакой гарантии, что общественность будет воспринимать такие системы как безопасные перед лицом риторических нападок со стороны проигравших кандидатов.
- Управление государством, сдерживание и подрыв. Кибероперации, нацеленные на иностранных субъектов влияния, могут временно сорвать конкретные зарубежные операции в такие чувствительные периоды, как выборы, но любой долгосрочный эффект, скорее всего, будет незначительным. Существует мало свидетельств того, что кибероперации, санкции или обвинения привели к стратегическому сдерживанию, хотя некоторых иностранных граждан и подрядные фирмы можно частично устрашить. Запреты иностранных платформ и государственных СМИ имеют сильный эффект первого порядка (ограничение доступа к ним); их последствия второго порядка включают в себя возмездие против демократических СМИ со стороны государства-объекта нападения. В целом, наиболее мощным инструментом государственного управления могут стать упреждающие усилия национальных лидеров по просвещению общественности. Однако в демократических странах мира внутренняя дезинформация гораздо более плодотворна и влиятельна, чем операции иностранного влияния.
- Удаление недостоверных сетей активов. Обнаружение и удаление с платформ учетных записей или страниц, которые представляют собой ложную информацию, имеет очевидные преимущества, но его эффективность трудно оценить. Фрагментарные данные, такие как непроверенные заявления компаний, проекты исследований платформы и разведывательные данные США, позволяют предположить, что непрерывные удаления могут снизить влияние недостоверных сетей и возложить определенные издержки на преступников. Однако немногие платформы даже заявляют, что достигли этого, и необходимые инвестиции значительны. Между тем, угроза, исходящая от сетей недостоверных активов, остается неясной: несколько эмпирических исследований показывают, что такие сети и социальные сети, влияющие на операции в целом, могут быть не очень эффективными в распространении дезинформации. Эти первые результаты подразумевают, что демонтаж платформ может привлечь чрезмерное внимание в общественном и политическом дискурсе.
- Сокращение сбора данных и таргетированной рекламы. Защита конфиденциальности данных может использоваться для уменьшения воздействия микротаргетинга или персонализированных сообщений на основе данных как инструмента дезинформации. Однако зарождающиеся исследования показывают, что микротаргетинг, хотя и умеренно эффективен в политическом убеждении, далеко не соответствует той манипулятивной силе, которую ему часто приписывают. В той степени, в которой микротаргетинг работает, защита конфиденциальности, похоже, заметно снижает его эффективность. Но это влечет за собой высокие экономические издержки — не только для технологических и рекламных компаний, но и для малого и среднего бизнеса, который полагается на цифровую рекламу. Кроме того, усилия по смягчению микротаргетинга могут повысить издержки политической деятельности в целом, особенно для активистов и групп меньшинств, у которых нет доступа к другим каналам коммуникации.
- Изменение алгоритмов рекомендаций. Хотя платформы не являются ни единственными источниками дезинформации, ни основными причинами политической поляризации, существуют убедительные доказательства того, что алгоритмы социальных сетей усиливают и закрепляют эту внеплатформенную динамику. Таким образом, алгоритмические изменения могут улучшить проблему; однако это не изучалось напрямую независимыми исследователями, и рыночная жизнеспособность таких изменений сомнительна. Оптимизация основных платформ для чего-то иного, чем взаимодействие, подорвет основную бизнес-модель, которая позволила им достичь нынешнего размера. Пользователи могли бы выбрать более здоровые алгоритмы с помощью промежуточного программного обеспечения или альтернативных платформ, ориентированных на гражданственность, но большинство людей, вероятно, этого не сделают. Кроме того, алгоритмы — это грубые и непрозрачные инструменты: их использование для сдерживания дезинформации также приведет к подавлению некоторого легитимного контента.
Благодарности
Авторы выражают благодарность Уильяму Адлеру, Дэну Баеру, Альбину Биргеру, Келли Борн, Джессике Брандт, Дэвиду Бронятовски, Монике Балджер, Кьярану Картмеллу, Майку Колфилду, Тимеа Червенёва, Раме Эллуру, Стивену Фельдштейну, Бет Голдберг, Стефани Хэнки, Джастину Хендриксу, Вишну Каннан, Дженнифер Кавана, Рэйчел Кляйнфельд, Саманта Лай, Лора Ливингстон, Питер Мэттис, Тамар Миттс, Брендан Найхан, Джордж Перкович, Мартин Ридл, Рональд Робертсон, Эмили Роузман, Джен Розьер Рейнольдс, Зив Сандерсон, Брет Шафер, Лия Селиг Чаухан, Лоре Смилли, Рори Смит, Виктории Смит, Кейт Старберд, Джошу Стернсу, Джеральду Торресу, Миган Вафф, Алисии Уэнлесс, Лоре Уотерс, Гэвину Уайлду, Камье Ядав и другим за ценные отзывы и идеи. Дополнительная благодарность Джошуа Салливану за помощь в проведении исследований, а также Эли Брэйс, Линдси Мейзланд, Анджули Дас, Джоселин Соли, Эми Меллон и Джессике Кац за поддержку публикаций. Окончательный отчет отражает только точку зрения авторов. Это исследование было поддержано грантом Проекта специальных конкурентных исследований.
Об авторах
Джон Бейтман — старший научный сотрудник Программы технологий и международных отношений Фонда Карнеги за международный мир. Области его исследований включают дезинформацию, кибероперации, искусственный интеллект и технонационализм. Ранее Бейтман был специальным помощником председателя Объединенного комитета начальников штабов генерала Джозефа Ф. Данфорда-младшего, работал спичрайтером и ведущим стратегическим аналитиком во внутреннем аналитическом центре председателя. Он также помогал разрабатывать политику военных киберопераций в канцелярии министра обороны и был старшим аналитиком разведки в Разведывательном управлении Министерства обороны, где он возглавлял группы, ответственные за оценку внутренней стабильности Ирана, принятие решений на высшем уровне и кибердеятельность. Бейтман является выпускником Гарвардской школы права и Университета Джонса Хопкинса.
Дин Джексон — директор Public Circle Research & Consulting и специалист в области демократии, средств массовой информации и технологий. В 2023 году он был назначен первым научным сотрудником Tech Policy Press и научным сотрудником Лаборатории исследований пропаганды Техасского университета в Остине. Ранее он был аналитиком-расследователем Специального комитета по расследованию нападения на Капитолий США 6 января и руководителем проекта Гильдии исследователей операций влияния Фонда Карнеги за международный мир. С 2013 по 2021 год Джексон руководил исследованиями и координацией программ, связанных со СМИ и технологиями, в Национальном фонде за демократию. Он получил степень магистра международных отношений в Чикагском университете и степень бакалавра политологии в Государственном университете Райта в Дейтоне, штат Огайо.
Примечания
1 Ячейки этой таблицы имеют цветовую маркировку: зеленый цвет соответствует наиболее положительной оценке каждого фактора, красный – наименее положительной, желтый – промежуточной. Эти общие рейтинги представляют собой комбинацию различных субфакторов, которые могут вызывать напряжение: например, вмешательство может быть высокоэффективным, но только в течение короткого времени или с высоким риском последствий второго порядка.
Зеленая ячейка означает, что вмешательство хорошо изучено, вероятно, будет эффективным или легко осуществимым. Для первого столбца это означает, что по этой теме имеется большой объем литературы. Хотя он, возможно, и не дает однозначных ответов на все важные вопросы, он обеспечивает убедительные показатели эффективности, стоимости и связанных с этим факторов. Во втором столбце зеленая ячейка указывает на то, что вмешательство может быть высокоэффективным для долгосрочного решения проблемы при относительно низком уровне риска. Для третьего столбца зеленая ячейка означает, что вмешательство может быстро оказать большое воздействие при относительно низких затратах и без серьезных препятствий для успешной реализации.
Желтая ячейка указывает на то, что вмешательство менее хорошо изучено (имеется соответствующая литература, но основные вопросы об эффективности остались без ответа или значительно недостаточно изучены), менее эффективно (его воздействие заметно, но ограничено по размеру или продолжительности, или оно несет в себе некоторый риск обратной реакции), или сталкивается с серьезными препятствиями на пути реализации, такими как стоимость, технические барьеры или политическая оппозиция.
Красная клетка указывает на то, что вмешательство плохо изучено, и мало литературы, предлагающей рекомендации по ключевым вопросам; что оно оказывает незначительное влияние, имеет лишь узкие варианты использования или имеет значительные последствия второго порядка; или что для его реализации или масштабирования требуются особенно крупные инвестиции ресурсов или политического капитала.
