Спасение представительной демократии от интернет-троллей

И тем не менее, за последний год такие платформы, как Meta, X и YouTube, преуменьшили значение модерации контента и отменили политику, которая сдерживала ненависть, притеснения и ложь. Согласно новому отчету , это привело к созданию «токсичной онлайн-среды, уязвимой для эксплуатации со стороны антидемократических сил, сторонников превосходства белой расы и других злоумышленников».

Интернет-атаки на женщин в политике уже набирают обороты . Четыре из пяти женщин-парламентариев подвергались психологическому насилию, такому как издевательства, запугивания, словесные оскорбления или преследования, а более 40% подвергались угрозам нападения, сексуального насилия или смерти.

Выборы в США 2020 года оказались особенно показательными. Недавний анализ кандидатов в Конгресс показал, что женщины-демократы получили в 10 раз больше оскорбительных комментариев в Facebook, чем их коллеги-мужчины. И сразу после того, как кандидат в президенты Джо Байден назвал Камалу Харрис своим кандидатом на пост вице-президента, ложные утверждения о ней распространялись в Твиттере не менее 3000 раз в час .

Подобные тенденции были зафиксированы в Индии , Великобритании , Украине и Зимбабве . Женщины из числа меньшинств подвергаются наихудшему насилию, а также тем, кто широко освещается в средствах массовой информации или высказывается по феминистским вопросам . В Индии каждый седьмой твит о женщинах-политиках носит проблематичный или оскорбительный характер. Мусульманские женщины и женщины, принадлежащие к маргинализированным кастам, несут на себе основную тяжесть этой язвы.

Непропорциональное преследование женщин отбивает у них охоту баллотироваться на посты, вытесняет их из политики или вынуждает их отстраняться от онлайн-дискурса таким образом, что это вредит их политической эффективности – и все это ослабляет демократию. В Италии «угрозы изнасилования используются для запугивания женщин-политиков и вытеснения их из публичной сферы», — говорит Лаура Болдрини, итальянский политик, занимавшая пост президента Палаты депутатов страны, добавляя, что сами политические лидеры часто высказывают подобные угрожающие заявления. замечания. Это создает порочный круг: нехватка женщин в правительстве, как было показано, приводит к политике, которая менее эффективна в снижении насилия в отношении женщин.

Технологические компании должны предпринять четыре шага, чтобы противостоять этой тенденции. Для начала им следует опубликовать руководящие принципы о том, что представляет собой разжигание ненависти, а также угрозы и запугивания на своих платформах. Некоторые технологические гиганты включили и даже представили примеры гендерно-разжигающих ненависть высказываний в свою политику. Политика Google в отношении YouTube является одним из примеров.

Во-вторых, платформам необходимо реинвестировать в эффективную модерацию контента во всех странах , а не только в США и Европе. Это означает использование сочетания человеческого капитала и усовершенствованных автоматизированных систем (во время пандемии Covid-19, когда технологические компании больше полагались на алгоритмы, участники кампании во Франции заметили, что разжигание ненависти в Твиттере увеличилось более чем на 40% ). Не менее важным является обучение модераторов выявлению онлайн-насилия в отношении женщин в политике и более справедливое инвестирование в эффективную модерацию контента. До сих пор неприятная работа по поиску и удалению оскорбительного контента обычно передавалась на аутсорсинг в регионы, где рабочая сила наименее дорогая.

В-третьих, в новые продукты и инструменты должны быть встроены принципы «безопасности за счет конструкции». Это может означать создание механизмов , которые «увеличат трение» для пользователей и в первую очередь затруднят распространение гендерно-разжигающих ненависть высказываний и дезинформации. Компаниям следует улучшить свою практику оценки рисков перед запуском продуктов и инструментов или их выводом на новый рынок. Также будут важны инвестиции в инновации, такие как ParityBOT , который служит инструментом мониторинга и уравновешивания, обнаруживая проблемные твиты о кандидатах-женщинах и отвечая положительными сообщениями.

Наконец, независимый мониторинг со стороны исследователей или групп граждан поможет обществу отслеживать проблему и то, насколько хорошо технологические платформы справляются с ней. Такой мониторинг потребует от компаний предоставления доступа к своим данным о количестве и характере полученных жалоб с разбивкой по полу, стране и ответам.

В контексте отказа компаний, занимающихся социальными сетями, от политики в отношении контента и снижения инвестиций в модерацию, важно отметить, что процент женщин на руководящих должностях в сфере технологий в настоящее время составляет 28% и продолжает снижаться . Если, как и в политике, женщины-руководители технологий с большей вероятностью будут заниматься проблемой насилия в отношении женщин, эта тенденция может создать аналогичный порочный круг.

Крайне важно, что правительства также должны предпринять шаги для предотвращения подрыва демократии гендерным насилием в Интернете. Тунис и Боливия объявили вне закона политическое насилие и притеснения в отношении женщин, а Мексика недавно приняла закон, который наказывает тюремным заключением на срок до девяти лет тех, кто создает или распространяет интимные изображения или видео женщин или нападает на женщин в социальных сетях.

В Великобритании правовые нормы, изданные в 2016 и 2018 годах , позволяют преследовать интернет-троллей, которые создают уничижительные хэштеги, участвуют в виртуальном моббинге (подстрекают людей преследовать других) или распространяют поддельные изображения. В 2017 году Германия приняла закон, который требует от платформ удалять разжигание ненависти или незаконный контент в течение 24 часов, иначе они рискуют получить миллионы долларов штрафов (аналогичная мера была отменена во Франции из-за опасений цензуры).

Но даже когда законы существуют, женщины-политики говорят о «практически постоянных» злоупотреблениях и сообщают , что сотрудники правоохранительных органов не воспринимают онлайн-угрозы и оскорбления всерьез. В Великобритании, например, менее 1% случаев, о которых сообщалось в онлайн-подразделение Скотланд-Ярда по преступлениям на почве ненависти, заканчивались обвинениями. Полицейские и судьи нуждаются в более качественной подготовке, чтобы понимать, как существующие законы могут применяться к онлайн-насилию в отношении женщин-политиков; слишком многие думают, что это просто «часть работы».

Технологические компании и правительства должны действовать прямо сейчас, чтобы обеспечить равное участие мужчин и женщин в выборах этого года. Если они этого не сделают, представительные демократии станут менее представительными и менее демократичными.