Недавнее распространение в социальных сетях дипфейковых порнографических изображений Тейлор Свифт, созданных искусственным интеллектом, похоже, придало импульс борьбе за юридические последствия за интимные изображения и другие формы синтетических медиа, полученные без согласия. Но со временем этот инцидент, скорее всего, станет еще одним символом использования цифровых и социальных сетей для вытеснения женщин из политической жизни. Хотя такой инцидент вряд ли отвлечет Тейлор Свифт от общественной жизни, пугающий эффект созданных ИИ изображений и видео, используемых для преследования женщин в политике, становится все более растущим явлением.
Несмотря на ранние тревоги со стороны черных феминисток и годы до реалистичных дипфейков Зеленского, распространяющих дезинформацию о войне в Украине, или звонков роботов, выдающих себя за Джо Байдена , реалистичные дипфейки женщин и меньшинств уже давно являются мощными векторами гендерного насилия, поддерживаемого технологиями. В год громких выборов, отмеченных новыми генеративными угрозами ИИ, влияние онлайн-насилия в отношении женщин окажет замалчивающее влияние на политические амбиции и участие женщин и девочек, уменьшая их присутствие и голос в политике и общественной жизни.
Но гендерные атаки с использованием технологий могут стать разрешимой проблемой. Нам нужно более жесткое законодательство, лучший доступ к данным и наблюдение за ситуацией со стороны наблюдателей за выборами, чтобы создать новый прецедент онлайн-безопасности женщин и девочек.
Ситуация с онлайн-насилием в отношении женщин в политике
Насилие в отношении женщин в Интернете включает агрессию, принуждение и запугивание, направленное на исключение женщин из политики просто потому, что они женщины. Он нацелен на отдельных женщин, чтобы причинить им вред или вытеснить их из общественной жизни, но также посылает сигнал о том, что женщинам не место в политике – как избирателям, кандидатам, должностным лицам или организаторам выборов.
В этом году большая часть мира пойдет на выборы в эпоху сверхубедительных синтетических медиа, способных генерировать изображения и аудио на реалистичном просторечии на нескольких языках, которые создаются и распространяются автоматически и в большом масштабе. Целенаправленные попытки сдержать участие женщин в политической жизни станут еще более вредными не только в 2024 году выборов, но и для будущих поколений, где молодые женщины сделают расчет, что выход в общественную сферу обходится слишком дорого.
В недавнем разговоре с Центром гуманных технологий ученый-юрист доктор Мэри Энн Франкс рассказала о том, как рост дипфейкового порно изменил ситуацию в Интернете для женщин: «Все, что им действительно нужно, — это несколько фотографий или видео вашего лица, которые они могут получить из безобидных мест, таких как сайты социальных сетей. Следующее, что вы знаете, человек может создать изображение или видео кого-то, что сделает его похожим на интимное изображение, хотя на самом деле этого никогда не было». Согласно часто цитируемой статистике, девяносто шесть процентов дипфейков в Интернете изображают женщин в порнографии без согласия. Огромный объем выборов в сочетании с доступностью и геймификацией создания дипфейков – как мы стали свидетелями на досках объявлений 4chan, где в «ежедневном задании» пользователям предлагалось создавать изображения ИИ для взрослых с помощью лучшего собственного движка вместо более распространенных моделей с открытым исходным кодом. – означает, что рынок таких материалов, скорее всего, будет бурно развиваться.
Люси Пёрдон, основатель и директор некоммерческой правозащитной организации Courage Everywhere, работает на выборах в Кении с 2013 года и является экспертом в области гендерной справедливости и технологий. Размышляя о последствиях этого идеального шторма для женщин-политиков, она отметила, что «преследование в Интернете будет иметь более высокую цену для женщин-политиков, поскольку это преследование проявляется не только в нападках на политическую компетентность, но и в культурном неприятии женщин. Женщины-кандидаты уже слишком недостаточно финансируются, чтобы противостоять сексуализированной и гендерной дезинформации, и они всегда будут подвергаться риску более жесткого возмездия».
Уход женщин в Интернет может иметь серьезные последствия для управления и демократии. Глобальный опрос 14 000 девочек в двадцати двух странах показал, что 98% из них используют социальные сети, а половина сообщила, что подверглась нападкам за свое мнение еще до того, как они стали достаточно взрослыми, чтобы голосовать. В результате почти 20% респондентов перестали публиковать свое мнение. Игровое поле радикально меняется в политических контекстах, где идентичность женщины уже находится под постоянной угрозой. Оскорбления или насилие в Интернете могут быстро превратиться в прямые физические угрозы . Национальный демократический институт измерил влияние атак на политическое участие женщин в политическом онлайн-дискурсе в Кении, Колумбии и Индонезии, отслеживая поведение политически активных женщин в Твиттере до и после того, как они подверглись онлайн-атакам. NDI нашел «убедительные доказательства» того, что злоупотребления в Интернете «снижают желание женщин продолжать пользоваться социальными сетями».
Между тем, если мы посмотрим на всю экосистему женского политического участия, также примечательно, что женщины составляют 80% избирательных работников в Соединенных Штатах и сталкиваются с уникальными гендерными притеснениями. Аналогичным образом, Центр Бреннан недавно сообщил, что женщины-должники на уровне штатов и местных властей в три-четыре раза чаще, чем мужчины, подвергаются насилию по признаку пола. Бывшие сотрудники избирательных комиссий Джорджии Вандреа «Шай» Мосс , Хелен Батлер и Руби Фриман, против которых были выдвинуты ложные обвинения в фальсификации результатов выборов в Джорджии, — это лишь некоторые из многих чернокожих женщин, занимающихся избирательной комиссией и сотрудницами, которые сообщили, что сталкивались с преследованиями, угрозами и уголовными преступлениями. обвинения, которые вынудили некоторых покинуть работу.
Хотя целенаправленные исследования онлайн-вреда, наносимого женщинам в политике, по-прежнему трудно найти, исследование 2021 года, опубликованное Центром Вильсона, обратило внимание на язвительность, направленную против женщин в общественной жизни. В отчете изучались онлайн-разговоры о женщинах-политиках, в том числе о тогдашнем премьер-министре Новой Зеландии Джасинде Ардерн, государственном секретаре Министерства внутренних дел Великобритании Прити Патель, сенаторе США, а ныне вице-президенте Камале Харрис (демократ), члене палаты представителей Александрии Окасио-Кортез (демократ от штата Нью-Йорк). , член палаты представителей Элиза Стефаник (республиканец от штата Нью-Йорк), сенатор Сьюзен Коллинз (республиканец от штата Мэн) на шести платформах социальных сетей. В отчете обнаружено более 336 000 отдельных материалов гендерного и сексуального насилия, опубликованных более чем 190 000 пользователей и адресованных 13 субъектам исследования. Он также подчеркнул, что вредоносное творчество – использование закодированного языка; итеративные, контекстно-ориентированные визуальные и текстовые мемы; и другие тактики, позволяющие избежать обнаружения в социальных сетях, — это самое большое препятствие на пути выявления и борьбы с гендерным насилием и дезинформацией в Интернете. «Мы уже давно бьём тревогу: дипфейковое порно, онлайн-гендерное насилие и дезинформация являются проблемами национальной безопасности, и мы продолжаем терять доступ к данным, позволяющим получить полную картину насилия в отношении женщин в общественной жизни. Мы изучили 336 000 случаев злоупотреблений, но мы знаем, что проблема серьезнее», — поделилась Нина Янкович, ведущий автор отчета и эксперт по дезинформации, написавшая книгу «Как быть женщиной в Интернете» и сама ставшая объектом широко освещаемой скоординированная кампания по гендерной дезинформации.
Кроме того, в докладе отмечается, что злоупотребления часто происходят за пределами наиболее заметных мест. Например, в Твиттере оскорбления могут отправляться не только в ответ на целевой твит или в виде твита-цитаты или снимка экрана твита, а в ответ на другой контент, который может отмечать или не отмечать цель. «Пользователи кричат на свою цель так же, как и на нее. Поэтому, пока у нас не будет доступа к отчету конкретного субъекта исследования, мы не сможем понять масштабы проблемы», — подчеркнул Янкович.
Этот пробел в данных является ключевой проблемой в борьбе с гендерным насилием с использованием технологий. Отсутствие данных означает, что защитники по-прежнему плохо подготовлены к тому, чтобы предвидеть или отслеживать новые способы, которыми генеративный ИИ будет влиять на гендерное насилие с помощью технологий. Последнее исследование доктора Руммана Чоудхури для ЮНЕСКО предполагает, что синтетические истории и композиционные дипфейки будут среди множества новых и различных методов причинения вреда людям. Если мы представим себе скоординированную кампанию дезинформации, направленную на создание репутационно вредной истории, то композиционные дипфейки будут включать в себя создание реалистичного аудио, видео, текста (например, «фейковых» новостных статей) и изображений, которые подкрепляют историю.
Глядя на поле
Одним из потенциальных решений, которое поможет смягчить эти проблемы, является использование наблюдателей за выборами для каталогизации участия женщин в политической жизни. Наблюдатели за выборами обеспечивают наглядность и документируют точки давления, чтобы другие могли их заметить. «Наблюдатели за выборами, находясь на местах, создают очень контекстуальные отчеты, соединяя точки, в конечном итоге передавая государству рекомендации о том, как укрепить демократические процессы, и подчеркивая свои обязательства в соответствии с международным правом прав человека», — говорит Пёрдон. Местные наблюдатели за выборами представляют собой недостаточно используемый ресурс, который можно было бы обучить отслеживать последствия гендерной дезинформации. Однако во многих юрисдикциях наблюдатели сталкиваются с нехваткой финансирования и значительными политическими рисками. Наблюдатели за выборами помогли укрепить общественное доверие к избирательному процессу и теперь готовятся отслеживать целевую дезинформацию, особенно в отношении кандидатов-женщин. «Отчеты о наблюдении за выборами», такие как отчеты Национального демократического института и Международного республиканского института, каталогизируют важные тенденции в области гендерной интеграции и медиа-экосистемы, которые способствуют пониманию влияния ИИ на участие женщин в политической жизни и помогают контекстуализировать вмешательства.
Правовые рычаги перемен
Правовые ограничения, особенно связанные с порнографическими дипфейками, созданными без согласия, или порнографическими медиа, созданными с помощью искусственного интеллекта, в целом были немногочисленны и редки. Но точно так же, как поклонники Тейлор Свифт вызвали настоящую сейсмическую активность на ее концертах, они также помогли мобилизовать двухпартийные действия в Сенате США. Закон о нарушении явных поддельных изображений и редактировании без согласия 2024 года или « Закон о неповиновении 2024 года » добавит гражданское право на иск за интимные «цифровые подделки», создав последствия за изображение идентифицируемого лица без его согласия. При пониженном стандарте доказывания это положение позволит жертвам взыскать финансовый ущерб с любого, кто «сознательно создал или владел» изображением с намерением его распространения.
Реальный вопрос, однако, заключается в том, принесет ли этот предложенный федеральный закон (даже если он будет принят в разделенном Конгрессе) результаты, особенно для женщин, не имеющих ресурсов или социального капитала, как высокопоставленные общественные деятели. «Наш законодательный орган не соответствует своей цели в эту эпоху, потому что он не понимает и не рассматривает онлайн-преступления как настоящие преступления. Нам нужен уголовный закон на федеральном уровне, который не будет стимулировать такое поведение, но также привлечет финансирование для более глубокой подготовки и обучения сотрудников правоохранительных органов», — сказала Нина Янкович, которая поделилась своим разочарованием по поводу дорогостоящих и длительных гражданских исков как единственного средства правовой защиты для нее. как жертва дипфейкового порно.
Более строгие правовые ограничения могут иметь несколько положительных внешних эффектов. Они могут заставить платформы социальных сетей расставить приоритеты и серьезно отнестись к принудительным мерам против такого поведения, а также создать более серьезные последствия и затраты для тех, кто занимается созданием или распространением дипфейковой порнографии. И они могут направить необходимые ресурсы правоохранительных органов на поддержку жертв. Закон о безопасности в Интернете в Соединенном Королевстве, Закон Южной Кореи об особых случаях, касающихся наказания и т. д. за преступления на сексуальной почве , Законопроект о законодательном собрании Калифорнии № 602 и Законопроект Палаты представителей штата Вирджиния № 2678 предлагают надежные модели для обращения в суд. Сравнительный анализ этих правовых подходов показывает потенциальный золотой стандарт в законодательстве Южной Кореи, который запрещает создание и распространение порнографических дипфейков без согласия, не требует злого умысла со стороны преступника и предусматривает наказание за нарушение закона тюремным заключением. .
После громкого инцидента с участием Тейлор Свифт и предстоящих десятков выборов появилась возможность использовать растущую политическую волю, чтобы сделать Интернет более безопасным для женщин и девочек. Более строгое регулирование и скоординированные действия всего избирательного аппарата будут иметь важное значение для устранения стимулов к пагубной гендерной дискриминации в Интернете. Мы больше не можем позволить себе наблюдать, как дипфейки и гендерное насилие с помощью технологий расширяют цифровой гендерный разрыв и отчуждают будущие поколения женщин от политической жизни.
Источник:
https://www.techpolicy.press/deepfakes-and-elections-the-risk-to-womens-political-participation/
