В этом году миллиарды людей придут на избирательные участки в более чем 50 странах . Манипулирование информацией в Интернете присутствовало на предыдущих выборах, но в дальнейшем станет возможным благодаря распространению искусственного интеллекта (ИИ). Злоумышленники будут продолжать использовать новые технологии для делегитимации процесса голосования и подрыва демократических ценностей.
Призрак новых платформ
Манипулирование информацией в Интернете становится все более децентрализованной проблемой, поскольку пользователи перемещаются между основными и новыми платформами. Эта децентрализация, хотя и полезна для доступа к различным платформам, затрудняет отслеживание и предотвращение дезинформации о выборах.
Многие платформы, в том числе крупнейшие в мире, не имеют достаточной модерации контента. В преддверии выборов 2022 года в Кении Фонд Mozilla обнаружил, что TikTok является каналом для быстрого и широко распространяющейся политической дезинформации. Злоумышленники использовали страх гражданского населения перед повторением истории насилия в Кении после выборов, чтобы запугать избирателей и обострить политическую напряженность. Модерация контента на платформах может различаться в зависимости от региона в зависимости от размера пользовательской базы в стране.
Другие платформы летают еще дальше и остаются вне поля зрения радаров. Компании, базирующиеся за пределами США, такие как Kakao, Line и Viber, имеют обширную базу пользователей, централизованную в определенных странах и регионах. Однако они не используют те же правила модерации контента, что и основные популярные платформы, поскольку их политика разрабатывается на разовой основе, отражает более открытые стандарты сообщества или несовершенна с точки зрения разжигания ненависти, дезинформации или других проблем.
Структурные изменения в X открыли возможности для других платформ. Альтернативами стали Mastodon и Bluesky. Новые приложения, связанные с социальными сетями, такие как Discord, аудиочат-приложение Clubhouse, Twitch и другие социальные сети, такие как Gab (еще одна альтернатива X), также стали более заметными и повлияли на поток и распространение информации. Однако ни одна из них не набрала критическую массу пользовательской базы X и других устаревших компаний, занимающихся социальными сетями, а это означает, что будущее онлайн-пространства, скорее всего, останется распределенным между различными платформами и онлайн-сообществами.
В преддверии президентских выборов в Иране 2021 года Clubhouse стал площадкой для иранских предвыборных дебатов, где кандидаты в президенты использовали онлайн-комнаты приложения, в которых насчитывалось до 8000 участников, для обсуждения своих политических целей. Пользовательская политика Clubhouse не защищает конфиденциальность пользователей, связывая учетные записи с номерами телефонов и, следовательно, с национальными удостоверениями личности. Использование приложения иранскими правительственными чиновниками показало, в какой степени приложения для социальных сетей должны быть подготовлены с самого начала, например, за счет лучшей координации между командами компаний, занимающихся социальными сетями, а также готовых и синхронизированных механизмов реагирования, основанных на надежном сборе данных об операциях влияния. , тенденции и злонамеренные действующие лица.
Telegram стал доминирующей платформой обмена сообщениями во время президентских выборов в Бразилии в 2022 году . Исследователи Бразильской интернет-лаборатории обнаружили в Telegram кампании по дезинформации, призывающие к военному вмешательству и ставящие под сомнение проверенные результаты выборов. Telegram отреагировал на эти проблемы только после того, как Верховный избирательный суд Бразилии постановил заблокировать его, что привело к подписанию меморандума о взаимопонимании между Telegram и правительством, в котором были изложены условия координации, уведомления о проблемах и системы реагирования на запросы об удалении контента. по бразильскому законодательству.
Но этот результат был уникальным из-за особого стечения факторов в бразильском контексте и вряд ли обеспечит повторяемую модель глобальной модерации контента. Так как же заинтересованные стороны могут взаимодействовать с этими и другими, зачастую меньшими платформами (многие из которых сопротивляются участию гражданского общества, государственного сектора или органов управления выборами) в вопросах модерации контента, доступа к данным, операций влияния и других связанных тем? Поскольку сами платформы сейчас разбросаны, ответы, вероятно, также должны быть многогранными.
Помощь платформам и сообществам в оказании положительного влияния
Гражданское общество, ученые и инвесторы должны работать над тем, чтобы социальные сети, включая альтернативные и небольшие платформы, оказывали положительное влияние на демократические процессы, а не служили векторами для манипулирования информацией.
Сообщество цифрового управления, от специалистов по доверию и безопасности до руководителей политик и руководства компаний, должно способствовать открытым дискуссиям об подотчетности платформ и обеспечивать политический и технический надзор, чтобы обеспечить соответствие политик и продуктов этих новых и появляющихся платформ демократическим ценностям. Эта работа может поддержать платформы даже в странах, где правовое регулирование ограничено. Следующие рекомендации являются взаимозависимыми и целостными. Они направлены на то, чтобы: 1) сделать обеспечение демократических гарантий простым и менее затратным за счет управления с открытым исходным кодом; 2) облегчить создание механизмов подотчетности с помощью инструментов для проведения оценки целостности информации и воздействия на права человека; и 3) сильно стимулировать платформы, требуя от них соблюдения демократических норм с начало через инвесторов и платформы, которые необходимы для их работы.
Используйте управление с открытым исходным кодом для продвижения демократических норм
В зависимости от ценностей, приоритетов, ресурсов и бизнес-структур платформ им может быть сложно создать и обеспечить соблюдение устойчивых команд доверия и безопасности. Интернет-сообщество, гражданское общество, разработчики программного обеспечения и другие платформы могут создавать рабочие группы, чтобы помочь построить управление с открытым исходным кодом. Некоторые примеры такого типа управления включают Wikipedia и Reddit. В течение многих лет Википедия и ее политика частично управлялись через совет , включающий представителей сообщества модераторов, редакторов и авторов, который помогает определять ее политику. Сообщество модераторов Reddit также сыграло важную роль в его развитии и успехе, хотя эта модель находится под угрозой, поскольку компания стремится стать публичной.
Чтобы оценить успех управления открытым исходным кодом или если платформы не заинтересованы в сотрудничестве, те, кто интересуется демократическими социальными сетями, могут обратиться к оценке воздействия открытого исходного кода.
Академические центры, такие как Обсерватория социальных сетей Университета Индианы, создали информационные панели , которые отслеживают и сообщают о крупнейших распространителях дезинформации. Оценки воздействия на права человека с открытым исходным кодом могут использоваться гражданским обществом и местными сообществами для измерения и оценки влияния платформы на выборы и реакции платформы на смягчение онлайн-вреда. Их можно использовать для пропаганды изменений в политике и модерации, удаления контента или повышения его видимости, информирования о подходах к регулированию и информирования мира о том, что происходит на выборах, политических процессах и в обществе в более широком смысле.
Гражданское общество и многосторонние коалиции: повышайте осведомленность о рисках, связанных с недостаточно изученными платформами
Организации гражданского общества могут участвовать в оценке системных рисков и выступать в качестве сети для участия в управлении кризисными протоколами для решения избирательных проблем, о которых сообщают местные жители на местах, таких как ложная информация об избирательных участках или результатах голосования. Мета-надзорный совет, Крайстчерчский призыв к действию и концепция Совета по социальным сетям, предложенная неправительственной организацией Article 19 , — все они представляют собой версии этой идеи. Они создают сеть, которая может обеспечить формальный или неформальный надзор за платформами с участием многих заинтересованных сторон. Надзор может осуществляться в сотрудничестве с технологическими корпорациями или может представлять собой внешний публичный механизм, своего рода аудит, который может предоставить информацию о том, что идет не так на этих платформах.
Создайте профиль инвестора, соответствующий принципам прав человека
Инвесторы и доноры, заботящиеся о правах человека, могут потребовать от стартапов соответствия определенным критериям, основанным на основных принципах целостности информации, таких как приверженность прозрачности в отношении удаления, создание надежных систем модерации контента для защиты целостности информации или обеспечения конфиденциальности пользователей. . Наличие сформировавшегося пула инвесторов не только поможет достичь этой цели, но и позволит им диверсифицировать свой портфель.
После недавнего инцидента , когда группа пользователей использовала расовые оскорбления в качестве своего имени, X Alternative Bluesky объявила, что будет инвестировать в свою команду по доверию и безопасности, признав, что ей следовало с самого начала рассмотреть более жесткую политику по сдерживанию разжигания ненависти. В некоторых сообщениях указывается, что этот шаг был предпринят под давлением инвесторов.
OpenAI следовала модели принципиального инвестора, когда ее первый совет директоров придерживался прав человека, но после роспуска этого совета обязательства нового совета стали менее ясными.
Используйте «демократических ботов» и поощряйте участие сообщества
Боты часто используются в качестве быстрых и простых инструментов для распространения дезинформации , но при правильном программировании их можно использовать и в добрых целях. Организации гражданского общества и научные круги могут сотрудничать с разработчиками программного обеспечения для создания «ботов управления» или «ботов демократии», в которых демократические принципы напрямую включаются в процесс разработки ботов. Боты-демократы могут отмечать недостоверные политические аккаунты, отмечать глубокий фейковый контент или предоставлять пользователям информацию о модерации на платформе.
Платформы могут стимулировать эти разработки, вознаграждая разработчиков признанием за соответствие определенным критериям и поведение, соответствующее установленным демократическим принципам. Укрепление доверия и безопасности в этих программах потребует сотрудничества всех сторон, поэтому платформам будет полезно объединиться в многостороннюю коалицию для проверки и оценки этих демократических ботов.
Например, Discord разработал собственную платформу для разработчиков ботов , где пользователи могут создавать новые способы взаимодействия администраторов и сообществ с каналами. Он также создал программу под названием « Связанные роли », где члены сообщества Discord могут разрабатывать новые приложения для взаимодействия с сообществом. Discord может побудить разработчиков поддерживать демократические принципы.
Поощряйте коалиции присоединяться к существующим и развивать будущие демократические альтернативы
Гражданское общество и многосторонние коалиции могут выступать за альтернативные платформы, соответствующие демократическим ценностям. Следует также поощрять новые платформы социальных сетей присоединяться к существующим группам, которые выступают за права пользователей, уважая демократические принципы прозрачности и подотчетности, конфиденциальности и надлежащего управления.
Глобальная сетевая инициатива представляет собой один из таких примеров. Это многосторонняя сеть, состоящая из технологических компаний и компаний, занимающихся социальными сетями, телекоммуникаций, организаций гражданского общества, таких как Национальный демократический институт, и ученых, которые согласны с определенными принципами прозрачности, конфиденциальности и свободы выражения мнений. Участники могут просматривать и даже оценивать политику компании, чтобы обеспечить ее соблюдение и сообщать о несоблюдении. Развивающимся компаниям следует рассмотреть возможность присоединения к этим механизмам или даже создания новых, отражающих постоянно развивающуюся технологическую среду, например, для поддержки искусственного интеллекта.
Установите правила управления контентом в App Store
Технологические компании, которые предоставляют «курируемые» магазины приложений, имеют некоторую власть в управлении самими приложениями, которые они размещают. Например, магазин приложений Apple требует, чтобы приложения соответствовали местным нормам, и обязывает приложения иметь механизмы управления контентом. В 2015 году по запросам Apple и Google Telegram добавил свои первые условия в отношении контента, требующие: «Никаких призывов к насилию, никакой порнографии и никакого нарушения авторских прав на каналах общественного вещания».
Однако использование магазинов приложений в качестве единственного механизма обеспечения соблюдения правил управления контентом и демократических принципов имеет свои недостатки. Удаление приложения из магазинов приложений может быть непропорциональным и сделать приложение недоступным для пользователей. Навязывание требований через магазины приложений также может привести к тому, что приложения будут пассивно выполнять контрольный список без реальной демонстрации готовности. Например, как упомянул генеральный директор Telegram , когда Apple и Google запросили политику в отношении контента, Telegram добавил самые простые условия обслуживания, теоретически возможные в приложении.
Заключение
Влияние онлайн-платформ на выборы и демократию во всем мире выходит за рамки гигантских технологических компаний. Распространение небольших и новых платформ сделало задачу управления еще более сложной. Поскольку цифровое сообщество ориентируется в этом сложном ландшафте, совместные усилия с участием операторов платформ, гражданского общества, инвесторов и пользователей будут иметь решающее значение для формирования будущего онлайн-демократии, одновременно защищая ценности, которые лежат в ее основе.
Авторитарные страны создают свои собственные приложения, платформы и онлайн-экосистемы, которые не соблюдают эти правила и будут формировать наш онлайн-мир, если мы не ответим приложениями, основанными на демократических принципах и принципах прав человека. В этом мире есть уникальные союзники, в том числе в частном секторе: магазины приложений, платежные компании и другие, которые могут помочь установить правила и онлайн-нормы. Решая уникальные проблемы, возникающие из-за разнообразия онлайн-платформ, и выступая за демократические принципы, мы можем стремиться к созданию более инклюзивной и демократической цифровой экосистемы.
Даниэль Арнаудо ( @ipolitico ) — старший советник NDI по информационным стратегиям, охватывающим пересечение демократии и технологий.
Доктор Фарзане Бадии ( @farzanehbad ) — основатель Digital Medusa, инициативы, направленной на обеспечение беспрепятственного глобального доступа к Интернету и цифровым услугам посредством разумного управления.
Источник:
https://www.justsecurity.org/93708/social-media-disinformation-2024-elections/
