Создавая новые цифровые рычаги управления, искусственный интеллект и другие высокотехнологичные достижения повышают ставки в глобальной борьбе между сторонниками демократии и жаждущими власти автократами. На фоне растущих угроз плюрализму и свободе слова поддержка инновационных организаций гражданского общества, противостоящих цифровому авторитаризму и создающих демократическую инфраструктуру, имеет ключевое значение для построения более свободного будущего.
Китайская модель укореняется за рубежом
Цифровая авторитарная модель, когда-то считавшаяся исключением из правил, распространяется всё шире, впервые появившаяся в Китайской Народной Республике (КНР). Словно подчёркивая, насколько быстро её распространяются, просочившиеся документы, проанализированные в прошлом месяце консорциумом правозащитников и журналистов-расследователей, показали, что компания Geedge Networks, работающая в КНР, предлагала «коммерческую версию Великого китайского файрвола», которую местные органы власти могли устанавливать по своему усмотрению. Пакеты «Безопасный город» и другие инструменты наблюдения на основе искусственного интеллекта от КНР можно найти от Юго-Восточной Азии до Латинской Америки.
Стремление Пекина продвигать собственную модель «сверху вниз, по закону» в глобальном технологическом управлении набирает обороты . Глобальная популярность моделей ИИ с открытым исходным кодом, разработанных КНР, усилит влияние встроенной цензуры в таких темах, как события на площади Тяньаньмэнь, которая ужесточилась после нашумевшего запуска DeepSeek в начале этого года. Подобно тому, как анализ « сетевого авторитаризма » Пекина в начале 2010-х годов смягчил ранние надежды на освободительный потенциал интернета, популярность DeepSeek резко опровергает ранние предположения о том, что генеративный ИИ как технология окажется несовместимым со строгим государственным контролем за свободой слова.
Правительства и компании признали эту угрозу — совсем недавно, после заявления OpenAI о необходимости технологий, соответствующих «давним демократическим принципам». Сегодня все взоры прикованы к конкуренции на государственном уровне в технологическом пространстве. Однако противостояние цифровому авторитаризму нельзя свести к простому вопросу о том, где производятся технологии: другое расследование, проведённое в прошлом месяце, выявило долгую историю поставок американскими компаниями строительных блоков для государства наблюдения КНР. На гораздо более фундаментальном уровне ряд технологий, изначально призванных рассеивать власть, также создали новые рычаги контроля. Угроза, исходящая от чрезмерной концентрации цифровой власти, требует распределённого, гибкого и глубоко укоренённого в обществах, находящихся под осадой самонадеянных цифровых авторитарных государств ответа.
Противостояние авторитарному вызову
Технологическая сфера иллюстрирует, почему — перед лицом сокращения гражданского пространства, резких перекосов в финансировании и даже сообщений о его упадке — гражданское общество остаётся как никогда важным для будущего свободы. Работая на Международном форуме демократических исследований Национального фонда демократии, я наблюдал, как, оставаясь в тени, гражданские группы по всему миру прорываются сквозь цензуру, обеспечивая работу государственных технологий на благо граждан и создавая инструменты, расширяющие возможности обычных людей. Несмотря на нынешнюю поляризацию технологического пространства, эта работа продвигает фундаментальные ценности индивидуальной свободы и народной активности по отношению к государству, которые лежат в основе демократических политических традиций, как в США, так и за их пределами. Их плюралистический, «снизу вверх» подход предлагает крайне необходимую альтернативу будущему борьбы с нулевой суммой между влиятельными группами за контроль над централизованными платформами, а через них — над нашими жизнями.
Сегодня цифровые системы — от новостных лент социальных сетей до автоматизированных инструментов оценки, используемых государственными бюрократиями, — служат посредниками в нашем доступе к политической информации, взаимодействии с нашими правительствами и отношениях друг с другом. Для автократов последствия очевидны: убедитесь, что именно вы устанавливаете границы допустимых дебатов, формируете обучение систем ИИ и контролируете каналы, по которым текут деньги и информация. Как отметили Джош Чин и Лиза Лин из Wall Street Journal в своей передовой книге о государстве наблюдения КНР , современные технологии, обещающие автоматизированное «социальное управление», исключающее трудности открытых дебатов, представляют собой кульминацию многолетней авторитарной концепции: использование данных для «подавления инакомыслия».
Такое видение централизованного технологического контроля угрожает не только дискретной сфере цифровых прав, но и самым базовым ценностям открытых обществ. Например, Комиссия США по международной религиозной свободе отметила , что «нарушения китайским правительством религиозной свободы уникальны из-за того, в какой степени оно полагалось на передовые цифровые и биометрические технологии для эффективного создания государства наблюдения». В своей войне против независимой гражданской жизни автократы разворачивают всепроникающую слежку (опираясь на официальные инструменты, такие как «Скайнет» КНР или цифровую идентификационную систему Венесуэлы , а также данные частных компаний); агрессивную цензуру, осуществляемую посредством сочетания цифровой фильтрации и расплывчатых законов, номинально направленных на реальные или предполагаемые социальные недуги ; и армии ботов и троллей, которые хоронят критический контент, забрасывают критиков угрозами насилия или массово сообщают о политически «оскорбительном» контенте . Зачастую эти тактики используются одновременно, когда активное государственное финансирование тайных фабрик троллей одновременно с принятием законов о «фейковых новостях» и нанесении вреда в Интернете для наказания своих критиков.
Достижения в области искусственного интеллекта (ИИ) повышают актуальность этой проблемы, и этот риск выходит далеко за рамки DeepSeek. Внутри страны КПК использует цифровые данные телефонов, биометрическое наблюдение, «умные» городские технологии и многое другое для отслеживания и ограничения перемещений и поведения людей. Иран громко заявил об использовании технологии распознавания лиц для принуждения женщин к ношению хиджаба, в то время как Россия использовала аналогичные методы для преследования мужчин, пытающихся сбежать из мясорубки путинской войны на Украине.
В перспективе, глобальная лихорадка в разработке «суверенного ИИ» предоставит автократам новые возможности для внедрения цензуры непосредственно в информационные шлюзы. В то же время, поскольку передовые модели обучаются на огромных объёмах данных, полученных из глобального интернета, цензурированные и заполненные пропагандой информационные пространства в некоторых странах теперь могут влиять на результаты работы ИИ по всему миру . А «безопасные города» КНР, связанные со стремлением к созданию в конечном итоге « мирового цифрового мозга », порождают призрак государства, в котором вездесущие инструменты слежки беспрепятственно взаимодействуют с другими цифровыми системами, распределяющими ресурсы и доступ, обеспечивая быстрый и всеобъемлющий социальный контроль с минимальной необходимостью человеческого участия.
Другие развивающиеся технологии также создают возможности, которые легко могут быть использованы для злоупотреблений. Например, как показывает недавний доклад эксперта по кибербезопасности Валентина Вебера на Международном форуме демократических исследований о « авторитаризме, ориентированном на данные », цифровые валюты центральных банков позволяют более эффективно осуществлять государственный финансовый мониторинг и контроль, а нейротехнологии и интерфейсы виртуальной реальности предоставляют новые и инвазивные возможности для понимания внутренних мыслей и чувств людей.
Как гражданское общество дает отпор
Там, где цифровой путь для автократов очевиден, демократы сталкиваются с более серьёзным вызовом. Базовые принципы открытого общества принципиально противоречат жесткой централизации цифрового контроля. Как подчеркивают продемократические голоса, такие как посол Тайваня в области цифровых технологий Одри Тан , для сторонников демократии широта и самобытность систем ценностей, религиозных или светских убеждений и индивидуальных взглядов людей — это особенность, а не недостаток. Технологии, основанные на данных, не могут заменить политическую конкуренцию и компромисс. И вместо того, чтобы держать обычных людей под микроскопом государства, информация должна распространяться таким образом, чтобы граждане могли привлекать свои правительства к ответственности.
Техноавторитарный импульс стремится противодействовать разобщённым индивидам грубой силой. Чтобы дать ему отпор, сторонники демократии должны использовать уникальные преимущества динамичного, плюралистичного гражданского общества. Обладая лишь незначительной долей ресурсов, доступных государствам и корпорациям, специалисты по гражданским технологиям – от известных организаций, защищающих свободу интернета, до низовых групп, обходящих цензуру в Китае или отслеживающих коррупцию в Центральной Азии – делают технологии более эффективными для обычных людей. Члены широкого сообщества цифровой демократии различаются по своим приоритетам, подходам и взглядам на сложные компромиссы, присущие цифровой политике. Но их инициативы бесценны для построения нашего цифрового будущего как лаборатории плюрализма, а не выбора между конкурирующими концепциями контроля.
Недавнее сокращение финансирования породило немало спекуляций о том, что гражданское общество уже пережило свой расцвет. Однако взгляд на борьбу с современным цифровым авторитаризмом напоминает о том, что потребность в третьей силе, способной укрепить позиции и усилить голос общественности в противовес концентрированной власти, только растёт. Специалисты в области технологий гражданского общества борются с технототалитаризмом как минимум на трёх важнейших фронтах:
1. Прорыв цензуры и запугивания
Во-первых, они прорываются через цензуру и запугивания , чтобы обеспечить возможность быть услышанными широкому кругу независимых голосов . Эти инициативы противодействуют использованию цифровых узких мест для ограничения свободы слова и доступа к информации. Там, где авторитарные режимы создают новые технологические препятствия для свободы слова, защитники цифровых прав отвечают такими инструментами, как VPN и зеркальные сайты , которые открывают доступ к «запрещенному» контенту. Новаторы используют спутниковую связь для создания информационных каналов в самых драконовских закрытых учреждениях, таких как Иран. В таких местах, как Нигерия, защитники свободы слова и свободы прессы бросают вызов законам, используемым для подавления журналистских расследований, политической оппозиции и публичных дебатов. Группы гражданского общества, такие как Access Now, предоставляют диссидентам каналы для борьбы с неправомерными удалениями и другими видами цифровой цензуры. Исследователи предоставляют общественности информацию о пропагандистских тактиках, которые автократы пытаются держать в тени.
Цель этой работы не в том, чтобы создать альтернативную монополию на публичное пространство, и никогда не должна ею быть. Скорее, она направлена на то, чтобы дать свободомыслящим людям в условиях жестких репрессий — где инакомыслящим приходится бороться с приложениями-доносчиками на телефонах, преследованиями полиции за посты в социальных сетях и массовыми политическими арестами в сочетании с хорошо оснащенным пропагандистским аппаратом — шанс на борьбу с властолюбивыми элитами, которые подтасовывают им карты.
2. Назначение людей ответственными
Во-вторых, гражданские технологи назначают людей на руководящие должности, поддерживают и контролируют государственные учреждения, чтобы гарантировать, что цифровизация уважает основные права и свободы. Эти усилия направлены на обеспечение подотчетности правительств по мере того, как они становятся все более зависимыми от передовых технологий. От Великобритании до Объединенных Арабских Эмиратов режимы всех политических мастей экспериментируют с приложениями ИИ, призванными помочь в формировании государственной политики. Однако там, где в правительстве используются сложные системы ИИ, государственным служащим может быть трудно предоставлять объяснения или меры по исправлению ситуации, когда что-то идет не так. Там, где алгоритмы, используемые для конфиденциальных целей, таких как назначение судей на дела, держатся в секрете, политические деятели могут скрываться за «объективными» технологиями, вмешиваясь за кулисами.
Чтобы снизить эти риски, сотрудничество правительства с гражданскими программистами по всему миру позволило технически подкованным гражданам повысить эффективность работы государственных учреждений. В то же время внешние наблюдательные группы, такие как бесстрашные исследователи и защитники гражданских свобод от Сербии до Филиппин , которые проливают свет на непрозрачные сделки, стоящие за китайским «Цифровым шёлковым путём» , обеспечивают честность правительств в использовании технологических инструментов. Как заметил один польский активист , «те, кто правит кодом, правят народом». Прозрачное участие гражданского общества в поддержке, мониторинге и модернизации технологий государственного сектора помогает гарантировать, что код и программисты работают на нас.
3. Разработка технологий, расширяющих возможности граждан
Наконец, осознавая, что коммерческие инструменты могут быть присвоены автократами или просто плохо сочетаться с общественными проектами, гражданское общество разрабатывает технологии, расширяющие возможности граждан в отношениях с правительствами. Эти проекты открывают новые направления в развитии технологий, противодействующих централизации власти. За несколько лет до появления ChatGPT инновационные антикоррупционные активисты в Перу , Бразилии и Украине использовали ИИ для анализа публичных документов, чтобы выявить, где чиновники, вероятно, обогащались за счёт общества. Журналисты, работающие с данными, проделали аналогичную работу с утекшими документами, спутниковыми снимками и другими общедоступными источниками.
Специалисты по гражданским технологиям разработали инструменты на основе искусственного интеллекта (ИИ) для расследования военных преступлений и нарушений прав человека , а также для поддержки независимого мониторинга выборов в закрытых странах. Они используют виртуальную реальность для раскрытия фактов насилия, таких как обращение с политическими заключёнными в Венесуэле . В закрытых обществах защищённые инструменты, разработанные специалистами по гражданским технологиям, позволяют гражданам общаться, не скрываясь от любопытных глаз государства, осуществляющего надзор. Сторонники делиберативной демократии — от миротворцев в зонах конфликтов до активного тайваньского сообщества гражданских технологий — разрабатывают механизмы на основе ИИ, позволяющие людям делиться своим мнением, а правительствам — получать мнения избирателей.
Будущее свободы
В совокупности эта работа указывает на видение, в котором ИИ, вместо того чтобы патерналистски формировать наше будущее сверху, предоставляет людям на местах доступ к информации и возможности для содержательных дискуссий. Небольшие организации, разрушающие интернет-цензуру и отслеживающие деятельность коррумпированных чиновников, могут показаться хрупкими по сравнению с растущим Голиафом государственного цифрового авторитаризма. Тем не менее, они находят способы вернуть цифровое преимущество обычным людям. Эти примеры цифровой демократии подчёркивают незаменимую роль групп гражданского общества в защите свободы: они пресекают злоупотребления со стороны правительства, предоставляют рядовым гражданам инструменты и информацию и, что самое главное, предоставляют им выбор.
В конечном счёте, подлинно демократическая альтернатива удушающему единообразию технототалитаризма может возникнуть только в результате плюралистического набора усилий, идущих снизу вверх. Открытые политические системы отвергают разделение каждого аспекта жизни на отдельные данные, которые можно количественно оценить, классифицировать и вознаградить или наказать по единой схеме. Напротив, они ревностно защищают фундаментальные свободы слова, собраний и убеждений — именно потому, что признают, что ни один человек, ни одна организация или машина не всегда знают лучше всех. В условиях, когда общества по всему миру находятся под угрозой со стороны авторитарных моделей, стремящихся загнать нас в тесную цифровую клетку, низовые инициативы, которые одновременно продвигают и воплощают этот подход, будут иметь решающее значение для будущего свободы.
Бет Керли — старший программный сотрудник Международного форума демократических исследований Национального фонда демократии. Она является редактором и соавтором серии публикаций Форума, посвящённых новым технологиям и демократии, включая недавние публикации «Data-Centric Authoritarianism» и
Источник:
https://www.techpolicy.press/autocrats-digital-advances-underscore-the-need-for-civil-society/
