В журнале Harvard Kennedy School Misinformation Review была опубликована статья Нууррианти Джалли из Школы медиа и стратегических коммуникаций Университета штата Оклахома, в которой предлагается переосмысление всей этой области. Она утверждает, что дезинформацию следует рассматривать как системный информационный риск — явление, при котором искаженные или манипулированные информационные потоки одновременно дестабилизируют множество взаимозависимых социальных, политических и институциональных систем, вызывая каскадные последствия, выходящие за пределы самой информационной среды.
Отправной точкой являются три знакомые катастрофы, объединенные общей искрой. В 2023 году онлайн-слухи ускорили крах Silicon Valley Bank. Во время пандемии ложные заявления о вакцинах подорвали доверие к рекомендациям в области здравоохранения и привели к предотвратимому ущербу. Ложь о выборах в США запустила спираль, кульминацией которой стал штурм Капитолия. Каждый раз искра была информативной, но пожар поглотил финансовую, медицинскую и политическую системы.
Таким образом, тезис Джаллы сводится к следующему: большинство институциональных мер реагирования, от удаления контента до просвещения в СМИ и преследования «злоумышленников», направлены на борьбу с отдельными эпизодами, тогда как проблема носит структурный характер. Разработанные в области финансов и климатологии системы управления рисками, в основе которых лежат стресс-тестирование и аудит устойчивости, в значительной степени не используются в информационной сфере. Пришло время это изменить.
I. От эпизода к системе
Системный риск — это концепция из области финансового надзора и климатических исследований. Она относится к нарушениям, которые распространяются по сетям связей и вызывают непропорциональные системные сбои. Классическая финансовая литература описывает институты, «слишком важные, чтобы обанкротиться», проблемы которых распространяются на всех окружающих. Важно не масштаб отдельного события, а динамика связей — то есть способность нарушения распространяться по сети, взаимодействуя со скрытыми уязвимостями и доводя стабильные системы до кризиса.
Джалли демонстрирует, что дезинформация соответствует этому определению по пунктам. Она не ограничивается одной областью, а, наоборот, использует политическое недоверие, финансовую нестабильность и кризисы в сфере здравоохранения, превращая уязвимые места в более масштабную дестабилизацию. Банковский слух 2023 года был опасен не потому, что он был ложным; он был опасен потому, что ударил по системе с хрупкой ликвидностью, подпитываемой архитектурой социальных сетей, и запустил цикл, в котором каждая реакция усугубляла проблему. Автор обнаруживает ту же закономерность в насилии после выборов в Джакарте в 2019 году и в событиях в Вашингтоне.
Контекст делает этот диагноз неотложным. Доверие к институциям падает во всем мире, регулирование платформ неравномерно, от Европейского закона о цифровых услугах до систем, основанных на цензуре, а контент, созданный с помощью ИИ, распространяется массово и дешево. Таким образом, информационная система вступает в эпоху растущей хрупкости именно тогда, когда цена ее загрязнения снижается.
II. Бирманский каскад и пожары, которых не было.
Наиболее убедительным доказательством в комментариях является поэтапная цепная реакция, начавшаяся в Мьянме и продолжающаяся с 2016 года.
Первая связь — это ложные утверждения и разжигание ненависти, распространяемые в Facebook, которые, как задокументировано Amnesty International, помогли оправдать нападения на меньшинство рохинджа. Вторая связь — это блокировка военных аккаунтов на платформе. Третья связь — это ответные меры хунты, которая ввела отключения интернета и ограничения на использование социальных сетей, лишив мирных жителей жизненно важного средства коммуникации, в то время как платформа продолжает использоваться для пропаганды. Четвертая связь — это тот факт, что отключения стали постоянной особенностью ситуации: только в 2024 году было зафиксировано более 130 отключений.
Эта последовательность событий приводит к выводу, который выходит далеко за пределы Мьянмы. Реакция на кризисы, вызванные дезинформацией, сама по себе может стать катализатором системной уязвимости. Вмешательство, оцениваемое как оправданное в каждом конкретном случае, запускает следующее звено в каскаде. Те, кто управляет системными рисками, должны так же тщательно просчитывать последствия своих собственных действий, как и действия своих оппонентов.
Вторая группа примеров касается стихийных бедствий. Во время ураганов «Харви» и «Ирма» распространявшиеся слухи о правилах приема в убежища и якобы обязательной проверке документов отпугивали уязвимые группы населения от поиска убежища, вынуждая власти перенаправлять ресурсы со спасательных работ на опровержение ложных сведений. Во время «Черного лета» в Австралии скоординированные нарративы под хэштегом #ArsonEmergency преувеличивали роль поджогов, отвлекая внимание от климатических причин пожаров и ослабляя поддержку превентивных мер. Дезинформация не вызывает ураган или лесной пожар, но она превращает природную опасность в системный кризис, усугубляя информационный сбой в дополнение к физическому.
III. Запланированный отказ
Чтобы объяснить, почему каскады повторяются, Джалли спускается на один уровень ниже, к инфраструктуре.
Применяемый им социотехнический подход указывает на нечто неудобное для платформ. Дезинформация — это не аномалия системы, а скорее предсказуемая особенность. Рекомендательные системы, оптимизированные для вовлечения пользователей, усиливают эмоционально заряженный контент, а модели монетизации вознаграждают контент, который разделяет и удерживает пользователей. Исследования платформ уже много лет показывают, что в таких архитектурах ложь распространяется быстрее, чем правда. Следовательно, неудача заложена в самой конструкции.
На эту конструкцию накладывается синтетический слой. Дипфейки подрывают доверие к доказательствам, на которое опираются суды, редакции новостей и демократические институты. В комментарии приводятся два недавних случая. На президентских выборах на Тайване в 2024 году сфабрикованная аудиозапись обвинила Лай Чин-те в мошенничестве, а та же кампания использовала нарезанные и отредактированные видеозаписи для искажения заявлений. В мае 2025 года ФБР предупредило, что голосовые сообщения, сгенерированные искусственным интеллектом, выдают себя за высокопоставленных американских чиновников в попытках украсть учетные данные доступа. Таким образом, синтетические медиа перестают быть просто курьезом и становятся неотъемлемой частью инфраструктуры политической дестабилизации, смещая дискуссию с «что является правдой» на «можно ли еще доказать правду?»
IV. Пределы образования и новаторская теория веры
Наиболее подрывная часть комментария касается самого популярного средства: просвещения в области СМИ.
Джалли не отрицает этого, но устанавливает четкие границы. Большинство мер вмешательства основаны на дефицитарной модели, которая предполагает, что люди попадаются на ложь из-за невежества. Однако исследования показывают, что вера в ложь подпитывается идентичностью, эмоциями и чувством принадлежности. Люди ретвитят контент не потому, что их ввели в заблуждение, а потому, что он находит у них отклик, укрепляет лояльность и сигнализирует о политической принадлежности. Никакая коррекция не может сравниться с таким резонансом. Этот вывод согласуется с исследованием австралийской кампании, опубликованным в том же журнале, в котором половина случаев обнаружения дезинформации основывалась на фильтрах идентификации, а не на проверке.
Однако следующий тезис поистине новаторский. Системный риск не требует, чтобы кто-либо в него верил. Каскад может разворачиваться одновременно по нескольким путям. Массовое распространение лжи, независимо от веры аудитории, ухудшает качество всего распространения и повышает стоимость распознавания истины. Веры небольшой группы ключевых участников — лиц, принимающих решения, журналистов или должностных лиц здравоохранения — достаточно, чтобы спровоцировать институциональный коллапс, в то время как ресурсы, перенаправляемые на исправление ошибок и контркоммуникацию, ослабляют способность учреждения выполнять свои надлежащие функции. Даже ироничное распространение лжи, с комментариями и без веры, ускоряет ее распространение и насыщает сеть.
Этот диагноз приводит к позитивной программе. Поскольку платформы влияют на демократические процессы, общественное здравоохранение и геополитическую стабильность, к ним следует относиться как к критически важной инфраструктуре, а не как к нейтральным каналам распространения информации. В практическом плане это означает перенос инструментов, знакомых по банковскому надзору, в мир информации — стресс-тесты, имитирующие распространение ложных сведений о выборах или здравоохранении через рекомендательные системы, определение точек усиления и способность платформы их нейтрализовать. Закон о цифровых услугах с его ежегодными оценками системных рисков и независимыми аудитами крупнейших платформ является первым прототипом такого режима, но за пределами ЕС аналогичные обязательства практически отсутствуют, и платформы работают трансгранично. Таким образом, Джалли заключает, что целостность информации следует рассматривать как общественное благо, а не как индивидуальную ответственность пользователя.
V. Пять замечаний в конце
Первое наблюдение заключается в том, что изменение метафоры меняет набор инструментов. Пока дезинформация является «ложью», соответствующей фигурой реагирования является прокурор, ищущий лжеца, и цензор, удаляющий контент. Когда она становится системным риском, фигурой реагирования становится пруденциальный надзор — то есть аудиты, стресс-тесты, эквивалентные требования к капиталу и отчетность о рисках. Этот сдвиг имеет практические последствия для всех, кто работает в этой области, поскольку сфера деятельности в будущем ближе к управлению рисками, чем к модерации контента.
Второе наблюдение заключается в том, что тезис о том, что дезинформация вредит, даже если аудитория ей не верит, является самым важным предложением в комментарии и должен изменить методы измерения. Измерение только убеждений с помощью опросов и тестов на выявление ложных сведений отражает лишь один из путей причинения вреда. Не менее важны показатели системной нагрузки — то есть, насыщенность сети ложными сведениями, стоимость проверки и процент институциональных ресурсов, направляемых на исправление. Дезинформация может проиграть все дебаты, одновременно выигрывая войну на истощение.
Третье замечание заключается в том, что бирманский урок заслуживает статуса принципиального. Борьба с дезинформацией — это движение внутри системы, и само оно подчиняется логике каскадного распространения. Блокировка учетных записей, отключение сетей, законодательство и образовательные кампании — все это имеет вторичные и третичные последствия, которые могут быть опаснее, чем первоначальная проблема. Поэтому серьезное управление информационными рисками требует оценки каскадных эффектов перед каждым крупным вмешательством, подобно тому как финансовое регулирование требует оценки последствий для стабильности.
Четвёртое наблюдение заключается в том, что комментарий Джалли и исследование, опубликованное в австралийском журнале, закрывают главу. Стратегии, основанные на индивидуальном подходе, терпят неудачу по обоим пунктам. Люди плохо распознают ложь, потому что они распознают её через свою идентичность, и даже если бы это было так, системный вред всё равно бы происходил и без их веры. Десятилетие, внушавшее надежду бдительному гражданину, подходит к концу не потому, что гражданин потерпел неудачу, а потому, что проблема изначально не была его виной.
Пятое наблюдение одновременно является самым фундаментальным. Финансовая аналогия несет в себе как обещание, так и предостережение. Обещание состоит в том, что пруденциальный надзор за экономикой внимания возможен, и Закон о цифровых услугах уже тестирует свои первые инструменты. Предостережение состоит в том, что финансовый надзор развивался на протяжении столетия, от одной паники к другой, и до сих пор он не предотвратил все кризисы. Информационный эквивалент Базельского соглашения, со стандартами стресс-тестирования, общими определениями рисков и международной координацией, только начинает формироваться. Тот, кто первым внедрит стресс-тестирование информации, будь то в регулировании или в коммерческой сфере, установит стандарт, по которому будет измеряться устойчивость платформ, институтов и государств в течение следующего десятилетия.
Источники: Harvard Kennedy School Misinformation Review, Нууррианти Джалли, Университет штата Оклахома, Amnesty International, Freedom House, Human Rights Watch, Reuters, ФБР, Закон ЕС о цифровых услугах | Res Futura | resfutura.pl
Источник:
https://resfutura.pl/dezinformacja-jako-ryzyko-systemowe-nowa-teza-harvard-misinformation-review/
