Прошлый год принес смешанные результаты для технологий и демократии.
В то время как в области цифровых прав были достигнуты некоторые знаковые победы , особенно в усилиях по регулированию темной экосистемы частных шпионских программ , используемых против журналистов и правозащитников, глобальная свобода Интернета снова пошла на убыль .Протесты, выборы и перевороты были отмечены сбоями в работе сетей, которые с каждым годом кажутся все более обычным явлением, дезинформация распространялась по платформам как от государственных СМИ , так и от наемных частных пиар-фирм , а угрозы кибербезопасности возрастали против государств , компаний и демократических акторов .
И среди всех этих новостей темпы технологических изменений только ускорились. В то время как существующие технологии продолжают нарушать все аспекты нашей жизни, новые технологии обещают еще больше изменить статус-кво. Новые модные словечки входят в обиход слева и справа, но что может означать введение этих новых систем для демократических ценностей?
Новые технологические тренды, за которыми стоит следить
Технологическая инфраструктура следующего поколения и «сплинтернет»
Цифровая инфраструктура для следующего поколения сотовой связи уже развернута на большей части территории США и Западной Европы, но в ближайшие несколько лет ожидается широкое распространение вышек, кабелей и сетевой инфраструктуры, необходимых для обеспечения 5G большей частью остальных стран. мир. Высокие скорости, низкая задержка и способность обрабатывать огромные объемы данных означают, что 5G произведет революцию в нашем восприятии связи. Это также создает многочисленные проблемы и возможностидля демократических стран, которые принимают решения о поставщиках оборудования и крупных государственных инвестициях в будущее Интернета для своих граждан. Поскольку такие компании, как Huawei, захватывают огромные контракты и долю рынка для оборудования 5G, самой серьезной угрозой для демократии со стороны 5G может быть не Коммунистическая партия Китая, спонсирующая эту технологию, а амбициозные авторитарные режимы в хрупких, отступающих демократиях, которые будут использовать расширенные технические возможности для следить и подавлять. Столкнувшись с конкурирующими взглядами на будущее Интернета, кажется, что мир стоит перед двумя расходящимися путями развития технологий будущего: на одном преобладают основанное на правах применение и регулирование технологий, или на другом, где свобода выражения мнений, объединений и другие права человека сдерживаются все более мощными технологическими системами.
Искусственный интеллект и маргинализация
В ближайшем будущем искусственный интеллект (ИИ) также будет стремительно развиваться. Когда дело доходит до демократии, ИИ обещает улучшить предоставление услуг, но он также помогает создавать и распространять дезинформацию и ложный контент, которые подрывают экосистему СМИ и подрывают доверие к демократическим институтам. В то время как ИИ используется платформами социальных сетей для автоматизации процессов модерации контента, эти приложения перемежаются чрезмерной цензурой, поскольку алгоритмы неправомерно помечают и удаляют контент, нарушая права на свободное выражение мнений. В государственном секторе несовершенные, непрозрачные алгоритмы искусственного интеллекта, которые обещали упростить предоставление услуг, ложатся чрезмерным бременем на людей с ограниченными возможностями, помечая их как мошенников в сфере социального обеспечения.по более высоким ставкам. Как часто отмечают разоблачители и специалисты по этике ИИ, без надлежащего надзора технология на базе ИИ сильнее всего ударит по маргинализированным группам, поскольку она находит новые применения.
Растущее использование искусственного интеллекта также имеет отношение к демократии в области технологий наблюдения, особенно биометрического наблюдения. Все более эффективные инструменты распознавания лиц становятся глобальными, используя навыки ИИ по распознаванию образов через сети датчиков и камер повсюду от Москвы до Сеула, от Нью-Йорка до Минска. Без надлежащей защиты конфиденциальности данных и прав человека массовая слежка окажет серьезное сдерживающее воздействие на демократию в местах, где граждане считают, что их слова, движения и привычки могут быть отслежены и зарегистрированы любым устройством, находящимся поблизости. Хотя некоторые недавние проекты наблюдения с использованием технологий были остановлены, автократические правительства, стремящиеся расширить свои возможности по наблюдению за своим населением, скорее всего, продолжат использовать все более инвазивные технологии наблюдения.
Биометрическое наблюдение, женщины и демократия
Риски биометрического наблюдения в более широком смысле, вероятно, будут представлять большую угрозу для демократии, поскольку приложения и программы, собирающие биометрические данные, продолжают расти. Одной из областей, которая остается недостаточно изученной, являются приложения для отслеживания фертильности и менструации (FMT)., которые собирают некоторые из самых личных и интимных данных о здоровье женщин и тех, у кого менструация, по всему миру. Отсутствие прозрачности в отношении того, какие объекты обрабатывают данные из FMT, означает, что многие люди, использующие эти приложения, не знают, в какой степени передаются записи их циклов, симптомов и поведения. Если это не остановить, многие женщины станут уязвимыми для неправомерного использования данных. В одном потенциальном кошмарном сценарии FMT взломана известная женщина в политике или общественной жизни, и данные, которые, как она думала, она надежно отслеживала, просочились в общественность. Затем это используется оппортунистическими актерами, чтобы делать женоненавистнические заявления или комментарии о ее интимной жизни, используя время ее менструального цикла для дискредитации ее заявлений и дебатов, или используя ее попытки избежать или добиться беременности в качестве корма для сексуализации ее и нападения на ее характер. .он-лайн женоненавистничество .
Что мы можем сделать?
Перед лицом угроз, которые эти новые технологические тенденции представляют для демократии, есть несколько многообещающих направлений для регулирования и некоторые инновационные идеи о том, как мы можем направить эти технологии таким образом, чтобы признавать и уважать права человека и демократические ценности. Во-первых, правительствам необходимо направить свои инвестиции в ИИ и другие новые технологии в области, которые принесут пользу гражданам и сократят неравенство, а не усугубят его . Ключевым аспектом этого будет улучшение возможностей для создания и обеспечения соблюдения законодательства о защите данных, которое защищает права граждан перед лицом проектов по сбору биометрических данных. Недавние изменения, требующие, чтобы кенийская система биометрической идентификации соответствовала законам страны путем проведения оценки воздействия на защиту данных .— это шаг в правильном направлении для повышения прозрачности биометрических систем и обеспечения того, чтобы данные не использовались не по назначению.
По словам эксперта по этике ИИ Тимнита Гебру , которая сама была уволена из исследовательской группы Google за критику алгоритмическая предвзятость их инструментов. Расширение возможностей для сотрудников безопасно высказываться и занимать позицию, противоположную руководителям, ориентированным на получение прибыли, может помочь смягчить опасности этих технологий, даже если они все еще находятся в стадии разработки.
В то время как многие компании, продающие технологии наблюдения, опробовали свои алгоритмы в Синьцзяне , авторитарные власти все больше полагаются на инструменты и системы, разработанные компаниями, базирующимися в демократических странах . Эти компании должны подвергаться более тщательной проверке за продажу авторитарным режимам, и наши рамки должны выйти за рамки предположения, что любая западная компания по своей сути демократична и уважает права человека. Инициатива по экспортному контролю и правам человека , подписанная Австралией, Данией, Норвегией и Соединенными Штатами , является многообещающим началом борьбы с распространением новых технологий для слежки и репрессий, которые, как мы надеемся, найдут большую поддержку со стороны демократических стран мира в предстоящем году. .
Наконец, как бы мы ни фокусировались на вреде, причиняемом в настоящем, и на потенциально антиутопических применениях новых технологий в будущем, столь же важно признавать преимущества и социальные блага, которые они могут принести. Я упоминаю об этом не потому, что эти преимущества оправдывают любой из этих вредов и болезней; как раз наоборот. Выгоды от новых технологий, будь то экономический рост, улучшение состояния здоровья, более оперативные услуги или любые другие, будут распределяться неравномерно по странам и неравномерно по группам внутри стран.
По мере того, как мы мчимся к технологическому будущему, как никогда важно обращать внимание на собственные слепые зоны. Мы отслеживаем, где в мире внедряются технологии наблюдения, ИИ и другие новые технические инструменты и на кого они влияют, но не менее важно следить за тем, где они не развернуты. Половина мира по-прежнему не имеет доступа к Интернету, и по мере того, как правительства начинают инвестировать в новые блестящие инструменты искусственного интеллекта, мы должны продолжать задаваться вопросом, кто исключен из этих передовых разработок и как мы можем использовать эти преимущества для всех сегментов бизнеса. общество.
Авторка: Элизабет Саттерлин
Источник:
https://dem.tools/blog/emerging-technology-and-democracy-what-can-we-expect-see
