Может ли Twitter пресечь дезинформацию?

Поскольку до промежуточных выборов в США в 2022 году осталось всего несколько дней, мы спросили 4 экспертов по социальным сетям, как Twitter может решить свою огромную проблему с фейковыми новостями. Вы будете удивлены консенсусом в их рекомендациях.

---

В то время как у дезинформации есть много домов, Twitter известен своей сверхъестественной способностью быстро и далеко распространять неверную информацию с тревожными результатами. Интенсивное использование платформы бывшим президентом Дональдом Трампом, особенно во время его донкихотских попыток отменить результаты выборов 2020 года, является лишь одним из многих примеров того, как дезинформация в Твиттере используется в качестве оружия.

Несмотря на эту очевидную проблему с дезинформацией, неясно, сколько Twitter может или сделает, чтобы обуздать ее распространение. В недавнем отчете разоблачителя представлены доказательства того, что Twitter явно не в состоянии контролировать дезинформацию, особенно за пределами США. Продолжающаяся попытка купить компанию самопровозглашенным сторонником свободы слова и миллиардером Илоном Маском поставила под серьезный вопрос будущую приверженность Twitter контролю дезинформации.

В преддверии первых национальных выборов в США с 2020 года я задаю одни и те же вопросы нескольким экспертам по дезинформации: что Twitter должен делать с дезинформацией на своей платформе и готова ли компания это делать?

Хотя не все согласны, есть удивительный консенсус. Оказывается, мы много знаем о проблеме дезинформации, но не всегда можем справиться с ней. Более того, избавиться от дезинформации на самом деле может быть хуже, чем научиться жить с ней.

Примечание о семантике

Когда я впервые начал писать о дезинформации несколько лет назад, я знал, что мне будет трудно отличить ее от ее более коварного родственника — дезинформации. Дезинформация — это все , что является фактически неверным, а дезинформация — это фактически неверная информация, специально распространяемая с намерением ввести в заблуждение. Чтобы не упускать их из виду, я применил небольшой мнемонический прием: неверная информация — это ошибка, а дезинформация — это дез-сиденье (обман).

Моя цель здесь не в том, чтобы выяснить намерение, поэтому для простоты я предполагаю наилучшие возможные намерения и везде использую «дезинформацию», за исключением тех случаев, когда субъекты интервью используют другой термин. Однако мой выбор слов не означает, что у Твиттера и других социальных сетей меньше проблем с дезинформацией.

Оданга Мадунг о дезинформации на всеобщих выборах в Кении

Поскольку до промежуточных выборов в США еще несколько недель, а выборы 2020 года уходят в прошлое, я обратился к журналисту-расследователю и члену организации Mozilla Tech and Society Fellows Оданге Мадунгу, чтобы узнать, как Твиттер провел недавние выборы в Кении. подробно написано.

«Я могу говорить о кенийском контексте, потому что я кенийец, и мы только что вышли из того, что я считаю дерьмовым шоу избирательной информационной среды благодаря платформам», — сказал мне Мадунг во время нашего звонка в WhatsApp. «Эта страна, по сути, погрузилась в то, что мы называем поствыборной информационной антиутопией».

«Многие из нас действительно не могли сказать, что было правдой, а что нет. Я не преувеличиваю», — сказал Мадунг.

Хотя я не мог видеть его лица, было легко сказать, что Мадунг не преувеличивает, так как его энергичный голос стал очень тихим и ровным.

Это не первый раз, когда Мадунг критикует участие социальных сетей в кенийской политике. В сентябре 2021 года Мадунг и соавтор Брайан Обило опубликовали отчет о том, что предполагаемый алгоритм отслеживания тенденций в Твиттере систематически манипулировался в особенно напряженный момент в кенийской политике. Они обнаружили 3700 учетных записей, сгенерировавших более 23 000 твитов в рамках 11 различных кампаний по дезинформации, восемь из которых были отмечены как актуальная тема в Твиттере. В заявлении Twitter, включенном в отчет, говорится, что компания «приняла меры» в отношении 100 учетных записей, которые исследовали авторы, и обнаружила доказательства «как минимум одной сети скоординированных учетных записей».

Оданга Мадунг

Мадунг и Обило продолжают заявлять о конфликте между бизнес-моделью Twitter и его стремлением обуздать дезинформацию. Авторы пишут: «Общее сообщение, которое это посылает, состоит в том, что можно сеять ненависть на платформе, если ее владельцы могут размещать рекламу рядом с контентом и зарабатывать на этом деньги».

Критика Мадунгом социальных сетей не ограничивается Twitter. В моем разговоре с ним он широко говорил о платформах социальных сетей в целом. В июне этого года его исследование сообщений TikTok , связанных с всеобщими выборами в Кении, привело к тому, что эта платформа удалила несколько видео.

Когда нас попросили прокомментировать свою роль во всеобщих выборах в Кении в 2022 году, Twitter отослал нас к своему сообщению в блоге , в котором рассказывается об усилиях компании. Компания сказала мне: «Мы стремимся предоставлять услуги, которые способствуют и способствуют свободным и открытым демократическим дебатам, защищая при этом здоровье предвыборных дискуссий, о чем свидетельствует наша гражданская честность и работа».

Твиттер и прозрачность

Мнение Мадунга о деятельности Twitter во время всеобщих выборов в Кении было предвосхищено внутренним отчетом, обнародованным осведомителем Пейтером Затко . В этом отчете говорится, что Twitter не смог предоставить даже «урезанную» версию усилий, которые он предпринял во время президентских выборов в США в 2020 году для предстоящих выборов в Японии. В отчете также говорится, что сотрудникам Twitter не хватало языковых навыков, чтобы должным образом реагировать на глобальную дезинформацию.

Чтобы лучше контролировать дезинформацию, Мадунг сказал мне, что Twitter должен быть более прозрачным в отношении своих вмешательств. «Без прозрачности для нас почти невозможно узнать, что сработало в этом контексте, а что не сработало, и, следовательно, какие вмешательства мы должны удвоить, а какие следует отозвать». В качестве примера Мадунг сказал мне, что если Twitter помечает дезинформацию, платформа должна публиковать информацию о том, как эти ярлыки уменьшили количество просмотров этих твитов.

Когда я связался с Twitter, компания предоставила некоторую информацию об эффективности маркировки твитов, но в контексте промежуточных выборов в США. Twitter заявил, что в прошлом году протестировал обновленные этикетки и внедряет их по всему миру. Компания сообщила мне: «Наши переработанные ярлыки увеличили рейтинг кликов на 17%, а это означает, что больше людей нажимали на ярлыки, чтобы прочитать разоблачающий контент. Мы также заметили заметное снижение активности с твитами, помеченными новым дизайном: -13% в ответах, — 10% ретвитов и -15% лайков». Компания отмечает, что она также удалила твиты и иным образом уменьшила видимость твитов, которые нарушают ее политику гражданской честности.

С тех пор, как я впервые поговорил с Мадунгом, Twitter, похоже, повысил прозрачность, расширив доступ к данным с помощью своего консорциума Twitter Moderation Research Consortium . Это предоставляет дополнительные данные исследователям, которым разрешен доступ. Мадунг сказал, что это усилие похвально, но он по-прежнему настроен скептически.

«Нам нужно быть осторожными, чтобы не попасться на что-то похожее на то, что гринвошинг сделал с движением за экологическую справедливость», — сказал Мадунг, имея в виду практику маркетинга, которая использует язык заботы об окружающей среде, но не подкрепляется существенными действиями. Он сказал, что Twitter должен «расширить сферу деятельности за пределы информационных операций и охватить более широкие аспекты информационного беспорядка, которые охватывают серые области информационной среды».

Начни раньше, не останавливайся слишком рано

Мадунг также критикует Твиттер за то, что он своевременно дезинформирует о выборах, говоря, что он и другие платформы социальных сетей действуют слишком медленно, чтобы начать борьбу с дезинформацией, а затем слишком быстро прекращают свои усилия. «Особенно в гиперактивной информационной среде, такой как США, вы не можете просто прийти за три месяца до выборов и сказать: «Сейчас мы решаем что-то делать!» — язвительно заметил Мадунг. «Нет. Уже слишком поздно».

Как и в случае с президентскими выборами в США в 2020 году, Мадунг говорит, что проблемы в кенийском Twitter продолжались и после голосования. «Было просто много предвыборной дезинформации в послевыборном контексте, которая не обязательно была развенчана или обозначена, и которая, по сути, позволяла безудержно распространяться вокруг платформы, что сильно повлияло на восприятие избирателями пост-выборов. предвыборная обстановка», — сказал он. Мадунг сказал мне, что эта путаница и дезинформация вызвали огромную тревогу у кенийского населения.

После выборов в США в 2020 году Twitter подвергся критике за то , что в марте 2021 года, всего через два месяца после смертоносного нападения на Конгресс, в ходе которого была предпринята попытка помешать утверждению результатов выборов 2020 года, Twitter приостановил соблюдение своей политики гражданской честности.

Я спросил Мадунга, считает ли он, что Twitter сможет внести необходимые изменения, чтобы обуздать дезинформацию на своей платформе. «Лучше просто говорить с точки зрения улик», — сказал он. «Все, что вам нужно сделать, это наблюдать за записью, и пока я не думаю, что запись настолько хороша».

Когда мы завершили наш разговор, Мадунг снова стал тихим и серьезным. «Особенно в свете промежуточных результатов я узнаю одну вещь: многое из того, что платформы обещают вам, ребята, — полная чушь», — предупредил Мадунг. «[Американские избиратели] действительно должны привлечь их к ответственности».

Мадунг признал, что, хотя он не знал специфики того, что Twitter будет делать для защиты промежуточных выборов в США, он предположил, что компания «выполнит обычный сценарий», который включает в себя маркировку постов, которые могут вводить в заблуждение, сотрудничество со специалистами по проверке фактов, и другие подобные усилия.

В последующем разговоре с Мадунгом он добавил еще одно предупреждение: целеустремленность защитников, призывающих Twitter бороться с дезинформацией, может привести к обратным результатам. «Сосредоточение внимания на узких целях, таких как предотвращение насилия или устранение конкретного проблемного человека, хотя и важно, не может быть нашей единственной целью».

Когда я связался с Твиттером, чтобы прокомментировать его подход к дезинформации на своей платформе и промежуточным выборам в США в 2022 году, компания направила меня к своему сообщению в блоге , в котором перечислены некоторые из ее планов исправления, таких как маркировка вводящих в заблуждение твитов, партнерство с новостями и проверка фактов. организации, создание информационных «центров», контроль рекомендуемых твитов и упреждающее устранение дезинформации, среди прочих усилий.

В сообщении компания говорит: «Люди используют Twitter, чтобы найти достоверную информацию о выборах в режиме реального времени, и мы серьезно относимся к этой ответственности. Наш подход к промежуточным выборам в США многогранен и применяется на нескольких языках. эта работа.»

Майкл Колфилд о ритмах дезинформации

По словам Майкла Колфилда, ученого-исследователя из Центра информированной общественности (CIP) Вашингтонского университета, основная проблема дезинформации в ходе выборов заключается в том, что для достижения успеха вовсе не обязательно менять индивидуальное поведение . «Беспокойство не в том, что ваш дядя Фрэнк думает, что выборы украдены, — сказал Колфилд. — На самом деле это не имеет большого значения. Но имеет значение, думает ли так ваш госсекретарь.

Колфилд говорил со мной по видеосвязи, сидя перед профессорским книжным шкафом. Он говорил с легкой, профессорской властностью, но с мрачной улыбкой, учитывая суть нашего разговора.

Некоторая дезинформация, с которой столкнулись он и его коллеги из CIP, вполне предсказуема, поскольку она часто появляется в связи с выборами. Я спросил, может ли он дать мне представление о том, чего ожидать. «Дайте мне мой календарь», — сказал он.

Календарь дезинформации

Мы впервые говорили в начале сентября, и Колфилд сказал, что следующая предсказуемая часть дезинформации, которую мы можем ожидать, будет касаться бюллетеней по почте, потому что именно тогда некоторые штаты и организации начинают отправлять заявки. Колфилд предсказал, что некоторые примеры этих заявлений будут размещены в Интернете и будут называться, ошибочно или нет, настоящими бюллетенями, подразумевая, что это доказательство мошенничества.

Он также ожидает, что появятся теории заговора, основанные на случайных отметках или опечатках в бюллетенях для голосования по почте, а кража почты будет изображаться как подозрительная. «Будет кража почты, потому что кражи почты есть всегда», — сказал он.

Колфилд ожидает, что к середине сентября, когда сотрудники избирательных участков будут готовиться к выборам, учебные материалы будут использоваться в качестве корма для дезинформации. Он, скорее всего, примет форму «вырванной из контекста или тайно записанной, что может показаться предвзятым или предвзятым», — сказал он, отметив при этом, что, возможно, некоторая подготовка действительно может быть неправильной.

Еще одним источником дезинформации, вероятно, станет тестирование машин для голосования и табуляторов, то есть машин, используемых для подсчета бумажных бюллетеней. «Иногда, когда вы тестируете машины, вы обнаруживаете, что они были настроены неправильно, и в них может быть какая-то ошибка», — сказал Колфилд. «Это будет изображаться так, как будто машины на самом деле сфальсифицированы». Ирония судьбы, продолжил Колфилд, заключается в том, что тестирование машин на самом деле гарантирует их правильную работу в день выборов.

Хотя он ясно дал понять, что может продолжать предсказывать дезинформацию до тех пор, пока я готов слушать, у него был еще один сценарий, о котором он хотел меня предупредить. В начале октября «избирательные органы будут избавляться от материалов выборов 2020 года». В некоторых штатах, пояснил он, требуется, чтобы избирательные материалы хранились в течение 22 месяцев после предыдущих выборов, а затем уничтожались. Он предположил, что это будет представлено как «обширный план по сокрытию 2020 года» или что «люди будут интерпретировать их как уничтожение материалов с текущих выборов».

Я связался с Колфилдом, чтобы узнать, сколько его предсказаний сбылось. Что касается утечки информации об обучении работников опроса, он сказал: «Я думаю, что мы немного поторопились с этим. Или ошиблись». Точно так же еще не появилось уничтожение избирательных материалов, неправильно реконтекстуализированных, но он предупреждает, что это все еще возможно.

Однако он сказал, что опечатки и случайные следы, используемые в качестве доказательства заговора, появлялись несколько раз и пользовались «средним вниманием». Как и тестирование машины для голосования неправильно изображается как попытка фальсификации голосования. Заявки на бюллетени и другие материалы, не связанные с голосованием, которые изображались как настоящие бюллетени, были наиболее значительными. «Это одно из самых крупных событий, которые мы видели в этом цикле», — сказал мне Колфилд в электронном письме. Наиболее показательным современным примером является спор в Колорадо , где регистрационные карточки с инструкциями о том, как зарегистрироваться, изображались как утвержденные зарегистрированные или фактические бюллетени. Колфилд отметил, что он писал о возможной дезинформации такого рода несколькими неделями ранее .

Критический контекст

Когда его спросили о роли Twitter в распространении дезинформации, Колфилд похвалил компанию. Он сказал, что ближе к концу выборов 2020 года Twitter пометил некоторые сообщения, чтобы сделать их менее популярными. По его словам, вместо того, чтобы просто забанить человека или контент, Twitter смог замедлить распространение дезинформации. Компания отметила в своей документации, что она использовала методы, которые препятствовали распространению вводящих в заблуждение постов.

«Место, где Twitter показал себя комично плохо, — это ярлыки», — сказал он. «Особенно общность ярлыков». Он описал сценарий, в котором шокирующее дезинформационное видео, показывающее, например, измельчение бюллетеней, может получить ярлык, который просто говорит о том, что выборы 2020 года были безопасными и безопасными. Лучший ярлык будет напрямую относиться к содержанию поста и называть его неточным.

«У [пользователей Твиттера] есть вопрос в голове», — сказал Колфилд. «Контекст должен относиться к вопросу, который есть у читателя».

По крайней мере, в политике Twitter, похоже, движется в этом направлении. В своей недатированной политике в отношении манипулируемых медиа , которая распространяется на повторно отредактированные, дипфальсифицированные или реконтекстуализированные медиа, которые не являются сатирическими, Twitter заявляет, что твиты с манипулируемыми медиа могут быть помечены как вводящие в заблуждение, с дополнительными ограничениями на то, сколько медиа может быть распространено. Политика также позволяет Твиттеру требовать удаления манипулируемых медиафайлов, блокировать или подавлять учетные записи, которые их опубликовали, или некоторую комбинацию того и другого.

Когда я связался с Twitter по этому поводу, компания сослалась на свое партнерство с новостными агентствами, такими как Associated Press и Reuters, как на попытку предоставить читателям контекст. «Мы можем чаще создавать тренды с контекстными описаниями и ссылками на отчеты из надежных источников. Мы также можем заблаговременно предоставлять контекст по темам, вызывающим широкий интерес, включая те, которые потенциально могут генерировать вводящую в заблуждение информацию», — сказали мне в компании.

Жизнь с дезинформацией

Когда я спросил Колфилда, считает ли он, что Твиттер сделает все необходимое для пресечения дезинформации на своей платформе, я был удивлен, насколько его мышление похоже на мнение Мадунга. «Я не уверен, что вы хотите «подавить» дезинформацию», — сказал он. Это также неизбежно приведет к скрытию важной, фактической информации. «Здоровая информационная среда будет иметь определенный уровень дезинформации».

Вместо этого платформы социальных сетей должны найти баланс. «Наша традиционная реакция на дезинформацию неадекватна новой скорости и масштабу», — сказал он. Что лучше, так это система, которая дает учреждениям время для ответа и своевременно предоставляет читателям нужный им контекст. «Исправления приходят, — продолжил Колфилд, — но намного позже первоначального взрыва дезинформации. И когда [исправления] действительно приходят, они отстают на уровне, намного меньшем, чем количество разоблаченных людей».

«Это все еще заканчивается борьбой, но она более равномерна», — сказал он.

Колфилд считает, что найти баланс возможно , так как достаточно быстро предоставлять полезную информацию, но Twitter может быть трудно выдержать связанные с этим расходы. «Я думаю, что это трудно», сказал он. «Дело в том, что часть их работы будет заключаться в том, что они будут время от времени принимать неправильные решения, и они будут платить очень высокую цену».

Джиллиан Йорк о поиске параллелей с медицинской дезинформацией

После политического хаоса, вызванного дезинформацией на выборах в США в 2016 и 2020 годах, легко забыть, что в 2020 году разразилась еще одна эпидемия дезинформации, связанная с пандемией COVID-19. С самых первых дней прибытия вируса в США Интернет кишел дезинформацией о его происхождении, безопасности вакцин (они очень безопасны) и поддельных лекарствах.

Я связался с Джиллиан Йорк, директором по вопросам международной свободы слова в Electronic Frontier Foundation, в офисе в Берлине. Она сказала мне, что основная проблема борьбы с медицинской дезинформацией заключается в том, что компании слишком часто полагаются на автоматическое удаление данных, которое, по словам Йорка, является наиболее доступной мерой. Однако автоматизация процесса означает, что другие разговоры также удаляются, включая, например, обсуждения долгосрочных последствий COVID-19. Йорк сказал, что это особенно проблематично в сообществах, где люди могут обсуждать медицинские методы лечения и возможные недостатки этих методов лечения.

Джиллиан Йорк

«Мы видели, что цензура часто имеет неприятные последствия», — сказал мне Йорк. «Сносить вещи — это нормально, но нельзя сносить вещи и исчезать», — продолжила она. «Вы должны убедить людей в том, что на самом деле правильно». Простая цензура не дает альтернатив дезинформации.

«Авторитарный подход к дезинформации не решит проблему», — сказал Йорк. «Цензура заманчива, и, возможно, это правильный ответ — в ограниченном количестве».

В поисках уроков медицинской дезинформации

Йорк подчеркнул, что, особенно с медицинской дезинформацией, большинство из них, вероятно, не являются злонамеренными. «Есть некоторые действительно токсичные вещи, исходящие от людей, стремящихся уничтожить или получить прибыль, — сказал Йорк, — но есть много людей, которые просто напуганы».

«Нам следует больше смотреть на людей, которые часто распространяют дезинформацию, а не на людей, которые просто ставят под сомнение то, что они слышали», — сказал мне Йорк.

Чтобы устранить корни медицинской дезинформации, Йорк сказал, что компании не могут полагаться на чрезмерно простые усилия по модерации, основанные на негибкой, универсальной политике, проводимой неспециалистами. «У меня довольно редкий рак, и я бы не поверила модератору, который получает менее 15 долларов в час от какой-то сторонней компании», — сказала она мне. Она объяснила, что, хотя некоторые медицинские альтернативы опасны, некоторые из них заслуживают внимания, и их обсуждение полезно для пострадавших людей.

Пространство для вопросов и даже несогласия важно, особенно для сообществ, которые исторически плохо обслуживались медицинским истеблишментом. «Помните, что еще при нашей жизни ЛГБТ-люди считались психически больными», — сказал Йорк. Пример такой сложной истории можно увидеть в классификации гомосексуализма в Диагностическом и статистическом руководстве по психическим расстройствам . «Понятно, что не все доверяют медицинской отрасли».

Мотив прибыли

Когда дело доходит до того, будет ли Twitter адекватно реагировать на дезинформацию, Йорк признал, что это «сложнее, чем некоторые думают», но подчеркнул, что существуют фундаментальные проблемы с тем, чем стали социальные сети. Она сказала, что для нее старые добрые времена Twitter были, когда ее лента была просто людьми, за которыми она следила. Twitter, Instagram и большинство других платформ социальных сетей полагаются на алгоритмические каналы, которые отображают продвигаемый контент, сообщения не в хронологическом порядке и сообщения от людей, на которых вы не подписаны.

«Стремясь получить прибыль, эти компании постоянно пытаются вводить новшества, чтобы получать больше кликов и больше внимания», — сказал Йорк. «Это становится бездушной системой».

Что касается прозрачности в отношении медицинских дезинформационных вмешательств, Twitter указал мне на свой подход к COVID-19. «Посредством применения наших вводящих в заблуждение информационных политик ( гражданская честность , COVID-19 , кризис ) наши команды работают над защитой разговоров [о] здоровье в Твиттере, обеспечивая при этом людям контекст, необходимый им для принятия обоснованных решений о контенте, с которым они сталкиваются», — говорит Твиттер. «Наш подход к вводящей в заблуждение информации в Твиттере является повторяющимся, и мы продолжаем делиться новостями об этой работе».

В дополнение к вышеупомянутым помеченным твитам компания ссылается на свою функцию «Читать перед тем, как твитнуть», которая предлагает вам прочитать связанные статьи перед их публикацией. По данным компании, « ранние тесты показали, что люди открывали статьи на 40% чаще после просмотра подсказки и на 33% чаще перед ретвитом».

Твиттер также отослал нас к своей расширенной программе Birdwatch и сообщил, что первые результаты обнадеживают. «Согласно пилотным опросам, человек, который видит заметку Birdwatch, в среднем на 20-40% менее склонен согласиться с содержанием потенциально вводящего в заблуждение твита, чем тот, кто видит только твит. На 35% меньше вероятность лайкнуть или ретвитнуть твит, чем у того, кто видит твит в одиночестве».

Джевин Уэст о науке дезинформации

Джевин Уэст, доцент Вашингтонского университета и один из соучредителей Центра информированной общественности, разбирает теорию и инструменты, которые CIP использует для отслеживания дезинформации, особенно слухов.

Часть работы Уэста заключалась в создании инфраструктуры для ежечасного приема миллионов публичных разговоров из социальных сетей, чтобы наблюдать за ростом и падением дезинформации. «Мы отслеживаем тенденции, мы смотрим на темы, которые поднимаются, хэштеги, которые растут, люди, которые получают слишком много лайков», — объяснил Уэст, который осторожно указал, что эта работа выполняется под надзором институционального доска отзывов и не включает личные беседы, к которым он и его команда в любом случае не имеют доступа.

В результате появилась возможность отслеживать слухи и «видеть, как они усиливаются и кто их распространяет», — сказал Уэст. Важно отметить, что Уэст и его коллеги могут видеть, как контент перемещается между платформами социальных сетей и как он просачивается в традиционные медиа.

Цель состоит в том, чтобы понять дезинформацию, кто ее распространяет, как она распространяется, и, если возможно, вмешаться. Поскольку Уэст и его команда не работают ни в одной социальной сети, эти вмешательства обычно принимают форму публичных отчетов, работы с журналистами, а иногда и предупреждений непосредственно компаниям, работающим в социальных сетях.

Неудивительно, что работа не обошлась без проблем. Дезинформация, как объяснил Уэст, часто содержит информацию, которая одновременно является и правдивой, и ложной. Кроме того, в процесс вовлечены многочисленные заинтересованные стороны и действующие лица, некоторые из которых являются автоматизированными ботами, выдающими себя за людей. «Это сложное пространство, особенно потому, что контент может давить на вас психологически», — сказал Уэст.

Создание теории дезинформации

Я связался с Уэстом по телефону, пока он был между встречами. Он говорил быстро и энергично, особенно когда мы заговорили об исследовательской работе, которую он и несколько соавторов опубликовали в журнале Nature Human Behavior . В то время как другие предлагают личный опыт и исторические знания, Уэст и его команда строят теории, которые объясняют и предсказывают распространение дезинформации. В сложном мире дезинформации это казалось настолько близким к достоверности, насколько я мог найти.

Уэст объяснил, что в статье он и его команда использовали модели заражения, аналогичные тем, которые эпидемиологи используют при отслеживании распространения таких заболеваний, как COVID-19. Это позволило его команде понять, как распространяется дезинформация, и проверить эффективность вмешательств, направленных на замедление этого распространения.

Это важно, потому что, как сказал мне Уэст, в сфере дезинформационных вмешательств проводится много экспериментов. «Это то, что мы разработали с помощью этого метода», — сказал Уэст. «Теперь мы можем принять новое вмешательство и включить его в модель, а затем посмотреть, насколько оно эффективно».

Он провел меня через некоторые из них, такие как «автоматические выключатели», которые следят за всплеском взаимодействий и намеренно снижают видимость недостоверных учетных записей или дезинформации. Также есть теги или ярлыки, когда платформа социальных сетей помечает сообщение как потенциально вводящее в заблуждение. Эта последняя попытка дала неоднозначные результаты, сказал Уэст, соглашаясь с другими экспертами, с которыми я консультировался. По его словам, навешивание ярлыков иногда приводило к дальнейшему распространению дезинформации, а не к ее сокращению.

Уэст сказал, что более многообещающим вмешательством было prebunking, когда людям показывают примеры дезинформации, которые они могут увидеть в будущем, прежде чем они столкнутся с ней в дикой природе. В своем сообщении в блоге о промежуточных выборах в США в 2022 году Twitter назвал prebunking методом, который он планировал использовать. Точно так же Федеральное бюро расследований и Агентство по кибербезопасности и безопасности инфраструктуры опубликовали в начале октября заявление, которое, казалось, развеяло опасения по поводу срыва выборов в результате кибератак ( прямая ссылка на PDF ).

Твиттер специально упомянул prebunking, когда я попросил прокомментировать их подход к дезинформации на промежуточных выборах в США. «Мы продолжаем развертывать Twitter Moments (prebunk и debunk действия), которые обеспечивают надежные ресурсы для выборов». Компания также направила нас на свой Elections Hub , который содержит национальные и локализованные новости о выборах на английском и испанском языках, а также «объявления общественных служб по обучению избирателей (PSA) на английском и испанском языках, созданные с использованием информации от беспартийного правительства и организаций по защите интересов голосования. .»

Когда я разговаривал с Уэстом, он предупредил, что модель, разработанная его командой, — это «всего лишь модель» и что реальная жизнь может сложиться иначе. Тем не менее, он считает, что у него есть веские основания считать это ценным. «Мы действительно можем это проверить», — сказал Уэст. «Мы можем посмотреть, когда используются определенные вмешательства, а затем увидеть, насколько они падают, а затем посмотреть, предсказывает ли модель то же самое».

«Иногда вы не можете,» признал он. «Но мы ищем способы — насколько мы можем — проверить это».

Открытость важна

Возможно, о научном мышлении свидетельствует тот факт, что Уэст с таким же энтузиазмом говорит о проверке и проверке своей модели перед скептически настроенной аудиторией, как и о самой модели. Однако Уэст осознает, что его модель ограничена данными, доступными исследователям. Он утверждает, что если бы социальные сети — помимо Twitter — делились с исследователями большим количеством данных, это давало бы более четкое представление о вселенной дезинформации.

«Я должен отдать должное Twitter больше, чем некоторым другим платформам социальных сетей», — сказал Уэст. «У них есть хороший API, они делают данные доступными для исследователей, — продолжил он. — Некоторые из этих других платформ социальных сетей, например принадлежащие Meta, не так открыты».

Больше данных, по мнению Уэста, позволяет исследователям взять на себя роль независимых третьих лиц, действующих над схваткой конкурирующих платформ социальных сетей. «Я неравнодушен к этому, потому что я академик», — сказал Уэст. — Но я действительно в это верю.

С тех пор, как я впервые поговорил с Уэстом, Twitter объявил, что он еще больше расширил доступ к своему Консорциуму по исследованию модерации Twitter. В последующем электронном письме Уэст сказал мне, что, по его мнению, это был шаг в правильном направлении, но он не решил проблему полностью. «Кампании по манипулированию платформой и примеры информационных операций в основном идентифицируются Twitter», — сказал он. «Это хорошо, потому что Twitter выполняет часть тяжелой работы и находится в наиболее удобном положении для выполнения этой работы. Это плохо, потому что он теряет возможности для других групп с другими методами выявления кампаний, не найденных Twitter».

Джевин Уэст

Я спросил Twitter, знает ли компания о работе Уэста или использует модели его команды, но не получил ответа. На вопрос, может ли компания сообщить нам, со сколькими исследователями она сотрудничала в рамках Консорциума исследований модерации Twitter, и охарактеризовать данные, которыми она поделилась, Twitter ответил мне: «Мы сосредоточены на создании глобальной группы членов Консорциума, и на сегодняшний день принимаются заявки от исследователей со всего мира. В этом году мы предоставили доступ к 15 наборам данных, включая кампании по манипулированию платформами из Северной и Южной Америки, Азиатско-Тихоокеанского региона, Европы, Ближнего Востока и Северной Африки, а также стран южнее Сахары. Африка».

Умеренность в меру

Работа Уэста и его соавторов уже дала некоторые интересные результаты. Он сказал мне, что, используя модели распространения дезинформации, его команда пришла к выводу, что умеренное применение нескольких различных вмешательств более эффективно, чем доведение любого вмешательства до крайности.

«Крайнее вмешательство будет заключаться в деплатформировании людей или деплатформировании целой группы людей», — объяснил Уэст. Последующая работа будет заключаться в том, чтобы посмотреть, насколько эффективно деплатформирование останавливает распространение дезинформации. «Я могу сказать, что полученные на данный момент результаты показывают, что деплатформирование может оказаться не таким эффективным средством сокращения распространения дезинформации, как мы изначально думали», — сказал мне Уэст. «Это, конечно, может измениться, когда мы проведем полный анализ».

Во всех своих интервью я спрашивал людей, думают ли они, что Twitter будет готов сделать все возможное, чтобы обуздать дезинформацию на своей платформе. Что касается Уэста, я спросил, думает ли он, что компания, занимающаяся социальными сетями, согласится следовать рекомендациям его газеты.

«У Твиттера гораздо большие проблемы с точки зрения финансов и отношений с Илоном Маском», — пошутил Уэст, имея в виду то и дело повторяющуюся покупку у непостоянного миллиардера . «Я не думаю, что они внесут эти изменения в ближайшее время, потому что они могут привести к кардинальным изменениям в том, как пользователи используют свою платформу, и я не думаю, что они хотят идти на такой риск. И это понятно!»

На более высоком уровне Уэст сказал, что он надеется, что Twitter будет взаимодействовать с исследователями и действительно будет изучать опубликованные исследования. «Мы тратим много времени на размышления о методах и способах проверки, и у них есть данные».

Уэст сказал мне, что надеется, что Twitter сможет принять модель его команды, чтобы провести собственную оценку того, как могут работать вмешательства. Это, по его словам, позволит им экспериментировать в «теоретических мирах», а не в нашем собственном. Твиттер не ответил прямо, когда я спросил, знает ли компания о работе Уэста или об использовании моделей его команды.

«Потому что прямо сейчас большинство социальных сетей — не только Твиттер, но и большинство социальных сетей — они просто экспериментируют», — неожиданно сказал Уэст по телефону. «Но они экспериментируют с демократией».

Для него ставки так высоки. «Это может звучать немного мелодраматично, но на самом деле роль, которую социальные сети играют в нашей демократии и здоровье нашей демократии, зависит от того, как мы решим эту проблему».

«Большинство социальных сетей имеют много преимуществ, но и много негативных последствий. Они оказали много негативного воздействия на общество, и мы, как общество, должны их устранить», — сказал Уэст, предложивший сочетание корпоративных и политика правительства. «Это будет долгосрочная дискуссия».

Повод для надежды, повод для беспокойства

Эти четыре интервью и ответы, которые я получил от компании, дают мне много оснований надеяться, что Twitter и другие социальные сети смогут справиться с дезинформацией. Дезинформация сложна и требует сложного ответа, но она далеко не загадочна. Мы видели это во многих странах и контекстах и ​​начали понимать, что работает, а что нет. Мы можем предвидеть дезинформацию, картировать ее движения и предсказывать, как она будет развиваться. Вырубить его полностью невозможно, а может даже и нежелательно, как оказалось. Мы начинаем понимать, как лучше реагировать, когда начинает распространяться плохая информация. Я удивлен, увидев, что политика Twitter соответствует рекомендациям экспертов, по крайней мере, в некоторых отношениях.

Есть также много причин для беспокойства. Твиттер и компании, работающие в социальных сетях, не очень хорошо справляются с дезинформацией, и большинство людей, с которыми я разговаривал, сомневались, что компании поступят правильно. Не потому, что контроль над дезинформацией невозможен, а потому, что это может навредить компаниям в финансовом отношении.

Опять же, дикой картой в разговоре является Илон Маск. Заявленное Маском предпочтение нескольких ограничений на высказывания любого рода, похоже, лишено нюансов, которые, по мнению экспертов, необходимы для эффективного противодействия дезинформации. Как и его заявленный план по сокращению штата Twitter . Какое влияние он окажет на политику Twitter и способность модерировать дезинформацию — открытый и тревожный вопрос.

Дезинформация пугает, потому что она может заменить правду, искажая реальность таким образом, что это не так просто исправить, как только дезинформированное повествование укоренится. Подход Twitter к контролю над дезинформацией будет проверен на предстоящих промежуточных выборах в США. Даже если Twitter преуспеет в этом, он будет снова протестирован в бесчисленное количество моментов до и после. Если это когда-нибудь потерпит неудачу, мы, возможно, никогда не узнаем наверняка, потому что правда будет настолько скрыта в этом хаосе.

Источник:
https://au.pcmag.com/social-media/96933/can-twitter-stamp-out-misinformation-should-it