Кирпичик за кирпичиком правительства и компании, реагирующие на кризис общественного здравоохранения, закладывают фундамент для завтрашнего состояния эпиднадзора. Непрозрачные приложения для смартфонов собирают биометрические и геолокационные данные, чтобы автоматизировать отслеживание контактов, ввести карантин и определить состояние здоровья людей. Государственные учреждения получают доступ к большим массивам пользовательских данных от поставщиков услуг в процессе, который не имеет надзора и гарантий от злоупотреблений. Полиция и частные компании ускоряют внедрение передовых технологий для наблюдения за гражданами в общественных местах, включая распознавание лиц, тепловое сканирование и инструменты прогнозирования.
Эти системы были развернуты с небольшим вниманием или сопротивлением. Большинство стран еще не ввели существенных ограничений на сбор и обмен биологической информацией отдельных лиц, известной как биометрические данные, государственными и корпоративными субъектами. Между тем, последние два десятилетия быстрых технологических изменений уже внедрили наблюдение почти во все аспекты управления и коммерческой деятельности, создав тревожное количество информации, которая может быть поглощена и манипулирована как государственными, так и негосударственными субъектами.
История показала, что новые государственные полномочия, приобретенные во время чрезвычайного положения, как правило, переживают первоначальную угрозу. В своих ответных мерах на террористические акты 11 сентября правительства всего мира ускорили милитаризацию правоохранительных органов, наделили государственные учреждения более широкими мандатами с меньшим надзором, усилили подозрения и дискриминацию в отношении маргинализованного населения и нормализовали массовый надзор. Пандемия COVID-19 может послужить катализатором для подобных бед. Вызывает тревогу тот факт, что власти многих стран используют кризис общественного здравоохранения для введения новых и интрузивных форм надзора, приобретая новые полномочия социального контроля с небольшим количеством сдержек и противовесов.
Необходимость проведения проверок по сбору беглых данных
Отслеживание контактов имеет жизненно важное значение для борьбы с пандемией. Тем не менее, цифровые программы мониторинга, которые могут охватить больше идентифицируемой информации, чем ручное тестирование и отслеживание, внедряются в спешном порядке, часто вне рамок верховенства права и других структур надзора и подотчетности, которые могут обеспечить защиту основных прав. Данные, собранные с помощью приложений для смартфонов или государственных учреждений—такие как местоположение, имена и списки контактов, могут быть объединены с существующими общественными и корпоративными наборами данных для выявления интимных подробностей личной жизни людей, включая их политические пристрастия, сексуальную ориентацию, гендерную идентичность, религиозные убеждения и то, получают ли они специализированные формы медицинской помощи. Выводы, сделанные о человеке на основе этих данных, могут иметь серьезные последствия, особенно в тех странах, где его мнение или личность могут привести к более тщательному изучению и прямому наказанию.
Пандемия открывает новую эру цифровой социальной сортировки, в которой люди идентифицируются и распределяются по определенным категориям на основе их предполагаемого состояния здоровья или риска заражения вирусом. Будучи отмеченной, данная группа может подвергнуться стигматизации и маргинализации. Они могут столкнуться с ограничениями в доступе к государственным услугам или образованию, вернуться на работу, отправить своих детей в детский сад, посетить торговый центр или воспользоваться общественным транспортом. Такие программы могут даже принимать во внимание действия членов семьи, соседей по дому или соседей, наказывая отдельных лиц по ассоциации.
Власти воспользовались кризисом, чтобы ввести интрузивные формы надзора с небольшим количеством сдержек и противовесов
Эти системы общественного здравоохранения будет чрезвычайно трудно, если не невозможно, вывести из эксплуатации. Как и в вопросах национальной безопасности, государственные органы всегда будут утверждать, что им нужно больше данных для защиты страны. Кроме того, будет большой спрос на медицинскую информацию со стороны маркетологов, страховщиков, кредитных агентств и любых других отраслей, которые могли бы извлечь из нее выгоду. Учитывая, что Агентство национальной безопасности США само пострадало от нарушений на высоком уровне, затрагивающих некоторые из его наиболее конфиденциальной информации, сомнительно, что такие частные субъекты смогут защитить данные от киберпреступников и спонсируемых государством хакеров.
Более широкое общественное обсуждение и независимый надзор необходимы для того, чтобы ослабить расширение и укоренение практики массового надзора. По крайней мере, власти должны доказать, что предлагаемая мера необходима и соответствует поставленной цели. Многие новые программы, например, включают данные о местоположении мобильных устройств для облегчения отслеживания контактов, но технология может быть недостаточно точной, чтобы определить, находились ли два человека на безопасном расстоянии друг от друга, а системы, основанные на спутниковых сигналах, неэффективны, если люди находятся в помещении. Такая неопределенность особенно проблематична, если записи о местоположении используются для наказания людей за несоблюдение правил карантина или социального дистанцирования.
Даже если эксперты в области общественного здравоохранения могут продемонстрировать необходимость и эффективность программы мониторинга, она должна включать независимый надзор, прозрачность и узкоспециализированные правила, которые сводят к минимуму то, какие данные собираются, кто их собирает и как они могут быть использованы. Без таких надежных гарантий предельные выгоды от эпиднадзора за пандемиями перевешиваются угрозой, которую они представляют для демократических ценностей и прав человека.
Распространение приложений для наблюдения
Приложения для смартфонов были развернуты для отслеживания контактов или обеспечения соблюдения карантина по крайней мере в 54 из 65 стран, охваченных настоящим докладом. В то время как эти приложения могут облегчить людям идентификацию тех, с кем они взаимодействовали в течение определенного периода времени, их быстрое и почти повсеместное внедрение представляет огромный риск для конфиденциальности, личной безопасности и более широких прав человека. Разработчики в значительной степени проигнорировали установленные принципы конфиденциальности по дизайну, подход, предназначенный для обеспечения того, чтобы соображения конфиденциальности были встроены в архитектуру и программное обеспечение инструмента. Большинство приложений имеют закрытый исходный код, что не позволяет проводить сторонние проверки или аудиты безопасности, и на практике существует мало возможностей обжаловать и исправить любые злоупотребления. Кроме того, во многих странах стандарты кибербезопасности могут быть намеренно ослаблены, чтобы облегчить более широкий сбор данных государственными органами.
Эти программы для смартфонов автоматически собирают конфиденциальную информацию о том, где живут пользователи, с кем они проживают, их повседневной жизни, их случайных взаимодействиях и многом другом. Многие приложения запрашивают демографические и другие данные для облегчения идентификации пользователей, а затем отправляют файлы в незашифрованном виде на централизованный сервер, расположенный в правительственных учреждениях. Исследователи продемонстрировали, как легко эти данные могут быть переданы киберпреступникам, органам безопасности и даже другим приложениям, работающим на телефонах людей. Некоторые программы подключаются к дополнительным технологиям наблюдения, таким как распознавание лиц и электронные браслеты, чтобы проверить личность пользователей и более внимательно следить за их передвижениями.
Индия является домом для нескольких пандемических приложений, которые представляют угрозу для прав человека. Aarogya Setu, приложение с закрытым исходным кодом, которое было загружено более чем 50 миллионами индийцев, сочетает в себе Bluetooth и глобальную систему позиционирования (GPS) отслеживания для определения потенциального воздействия пользователей и генерирует цветовую кодировку “состояние здоровья”, чтобы оценить их риск заражения. Информация, собранная из поддерживаемого правительством приложения, хранится в централизованной базе данных, где она передается учреждениям здравоохранения и другим государственным учреждениям. Более миллиона человек должны были использовать его, и по крайней мере в одном городе отказ загрузить приложение может привести к уголовным обвинениям. Еще одним приложением с закрытым исходным кодом, которое собирает и хранит личную информацию, включая данные GPS, является Quarantine Watch, разработанная в партнерстве с правительством штата Карнатака. Приложение требует от пользователей отправлять свои фотографии в сопровождении метаданных о своей геолокации, чтобы доказать, что они соблюдают обязательную изоляцию. Государственные чиновники пошутили, что ” селфи в час отпугнет полицию.”
Хотя Индия в настоящее время рассматривает законопроект о защите данных, стандарты кибербезопасности остаются слабыми, и чувствительные базы данных COVID-19, созданные новыми приложениями, уже были нарушены. Миллионы личных записей из приложения для проверки симптомов, разработанного ведущим телекоммуникационным провайдером Jio, были доступны без пароля в онлайн-базе данных. Еще до пандемии недостатки в системе биометрической идентификации Aadhar привели к многочисленным скандалам, связанным с утечкой данных. В настоящее время Индия вводит общенациональную программу распознавания лиц, которая, по мнению защитников частной жизни, может способствовать репрессиям и дискриминации. Отдельно, в октябре 2019 года и июне 2020 года, два доклада показали, что связанные с правительством шпионские программы были развернуты против журналистов и активистов, которые привлекли внимание к нарушениям прав человека в стране.
Мобильные приложения в России добавили к растущему аппарату наблюдения режима. Приложение социального мониторинга получает доступ к данным GPS, записям звонков и другой информации и запрашивает случайные селфи у пользователей для обеспечения выполнения карантинных приказов и других ограничений на передвижение. Всего за месяц власти наложили на пользователей почти 54 000 штрафов на общую сумму более 3 миллионов долларов. Штрафы иногда были ошибочными и произвольными, с теми, кто был помечен для штрафов, включая неправильного идентичного близнеца, прикованного к постели профессора и спящих пользователей, которые получали запросы на селфи посреди ночи. Жители Москвы старше 14 лет должны войти на правительственный сайт, чтобы сообщить о своих запланированных перемещениях; пользователи получают QR-код, который затем сканируется сотрудниками Службы безопасности, чтобы убедиться, что у них есть разрешение находиться в данном месте.
Приложение BeAware правительства Бахрейна необходимо для тех, кто находится в самоизоляции или карантине из-за потенциального местного воздействия или недавнего возвращения из-за границы. Физическим лицам грозит штраф в размере до 10 000 бахрейнских динаров ($26 000), минимальный трехмесячный тюремный срок или и то, и другое за то, что они не носят электронный браслет или не соблюдают приложение. Программа отправляет информацию о местоположении и диагностике на центральный правительственный сервер и предупреждает власти, если человек отошел более чем на 15 метров от телефона. Правительство уже давно следит за диссидентами по политическим мотивам, в том числе с помощью изощренных шпионских программ, нацеленных на преследуемое шиитское мусульманское большинство.
Приложение Tetamman Саудовской Аравии также поставляется с обязательным Bluetooth-браслетом. Несоблюдение строгих карантинных мер может привести к тюремному заключению сроком до двух лет, штрафу в размере 200 000 риалов ($53 000) или и тому, и другому. Исследователь безопасности сообщил, что саудовское правительство, возможно, также тестирует инструмент отслеживания контактов Fleming, который был создан израильской компанией NSO Group. Правительство уже использовало другие продукты NSO Group для мониторинга и запугивания своих критиков. Власти сильно подозреваются в развертывании шпионских программ компании Pegasus для доступа к коммуникациям активистов и журналистов, включая журналиста Джамаля Хашогги, который в конечном итоге был убит саудовскими агентами в 2018 году.
В Турцииновая система под названием Hayat Eve Sığar (HES) сочетает отслеживание контактов с кодом состояния здоровья. Положительный код HES является обязательным для всех внутренних поездок. В то время как приложение турецкого правительства является наиболее эффективным способом защиты такого кода, пользователи также могут отправлять определенные личные данные на номер телефона. Приложение выдает сигналы Bluetooth на окружающие устройства, чтобы облегчить отслеживание контактов. Он используется для контроля за соблюдением карантинных приказов и направляет данные непосредственно в правоохранительные органы в случае нарушений. Правительственная слежка и злоупотребление пользовательскими данными были широко распространены в Турции в течение многих лет, и гражданское общество забило тревогу по поводу потенциального злоупотребления новым приложением.
Как и сам вирус, карантин и приложения для отслеживания контактов оказали непропорциональное воздействие на определенные группы населения. Сингапурские трудящиеся-мигранты, которые часто страдают от плохих жилищных и трудовых условий, специально обязаны использовать приложения для отслеживания контактов, регистрации симптомов и отчетности о состоянии своего здоровья, что отличает их от других жителей. В Украине десятки людей оказались в зоне активного конфликта: люди без смартфонов и доступа в интернет, в основном пожилые люди, не смогли загрузить обязательное правительственное приложение Diy Vdoma self-isolation и, таким образом, им не разрешили пересечь контролируемую сепаратистами территорию на контролируемую правительством территорию.
Частные компании также быстро разрабатывают и продают приложения для медицинского кода, которые все чаще служат привратниками для доступа к основным государственным услугам и осуществления основных прав. COVI-Pass-система, разработанная британской компанией, – предоставляет пользователям “VCode” для сканирования при входе в офисные здания, посещении спортивных мероприятий или прогулках в общественных местах. Люди получают результаты с цветовой кодировкой в зависимости от их предыдущих тестов на вирус или его антитела. COVI-Pass уже продан правительствам и компаниям более чем в 15 странах. Частные компании в Соединенных Штатах также выразили заинтересованность в том, чтобы требовать от клиентов использования таких систем кодирования, включая авиакомпании и отели.
На фоне распространения проблемных приложений некоторые разработчики попытались создать новые продукты, ориентированные на конфиденциальность. Международный консорциум поддержал децентрализованный протокол отслеживания близости с сохранением конфиденциальности (DP-3T). Швейцарская команда, стоящая за этим проектом, открыла свой исходный код для экспертной оценки, чтобы максимизировать кибербезопасность и конфиденциальность данных. Кроме того, технологические гиганты Apple и Google совместно разработали интерфейс прикладной программы Exposure Notification System application program interface (API). Программное обеспечение opt-in передает случайные идентификационные номера через Bluetooth на окружающие смартфоны и сохраняет их непосредственно на телефоне, а не на централизованных серверах компании или правительства. Пользователи уведомляются, если они взаимодействуют с человеком, который был идентифицирован или позже идентифицирован как положительный тест на COVID-19.
API Google и Apple позволяют медицинским учреждениям создавать свои собственные приложения, используя архитектуру компаний, уважающих частную жизнь. Органы власти Эстонии, Бразилиии Соединенных Штатов Америки развертываются приложения, использующие либо DP-3T, систему уведомления об экспозиции, либо и то, и другое. Эстонцы также могут рассчитывать на сильную правовую защиту страны в отношении конфиденциальности и прозрачности. Однако недавний послужной список Бразилии в области конфиденциальности и наблюдения вызывает озабоченность в связи с цифровым отслеживанием контактов. Например, в октябре 2019 года президент Больсонаро подписал указ, без консультаций с общественностью или обсуждения, обязывающий федеральные агентства обмениваться целым рядом данных о гражданах, включая медицинские карты и биометрическую информацию. В Соединенных Штатах также отсутствуют федеральные законы о конфиденциальности, которые могли бы ограничить способы доступа, продажи или использования данных, хранящихся на телефонах и в приложениях.
Децентрализованные, опциональные и основанные на Bluetooth средства отслеживания контактов являются многообещающей альтернативой более агрессивным, обязательным приложениям, которые имеют централизованный контроль. Однако даже они не свободны от конфиденциальности и других рисков. Приложения для смартфонов в целом непрозрачны в отношении того, как они собирают, хранят и обрабатывают данные, а также как и с кем они делятся информацией. Другие приложения на устройстве пользователя, например, могут получить доступ к конфиденциальным данным, хранящимся там с помощью программы отслеживания контактов, что позволит им продавать материалы рекламодателям, страховщикам, кредитным агентствам или другим брокерам данных. Отслеживание близости также уязвимо для подделки или взлома. Самое главное, что ни одно приложение для отслеживания контактов не будет полезным или эффективным, если оно не будет широко внедрено и развернуто в среде с надежным тестированием, ручными системами отслеживания контактов и хорошо обеспеченной инфраструктурой общественного здравоохранения.
Подключение к телекоммуникационным данным
По меньшей мере в 30 странах правительства используют пандемию для проведения массового эпиднадзора в прямом партнерстве с поставщиками телекоммуникационных услуг и другими компаниями. Новые инициативы по обмену данными могут помочь властям провести отслеживание контактов и анализ больших данных для понимания распространения вируса. Однако расширенному сбору данных во многих странах не хватает прозрачности, пропорциональности и защиты частной жизни, что создает явные риски для основных свобод. Особую тревогу вызывает тот факт, что в ряде случаев эта работа поручается национальным органам безопасности и военным ведомствам.
В Пакистанеправительство переоснастило антитеррористическую систему для поддержки усилий по “отслеживанию и отслеживанию”. Секретная программа была разработана межведомственным разведывательным агентством (ИСИ), которое было замешано в насильственных исчезновениях и других вопиющих нарушениях прав человека. Это позволяет “геозону” идентифицировать всех людей, которые прошли через определенную область в определенное время. Есть отдельные сообщения о том, что агенты разведки прослушивают телефоны пациентов больниц, чтобы определить, выражают ли их друзья и родственники сами симптомы заболевания. Чиновники также имеют доступ к национальной биометрической базе данных, содержащей информацию о более чем 200 миллионах граждан. Мало что известно общественности об общей программе, хотя отчеты показывают, что данные могут быть переданы полиции, департаментам здравоохранения и провинциальным правительственным учреждениям. Пациенты, у которых анализы были положительными, в том числе медицинские работники, получили утечку своей личной информации в интернете, что имело серьезные последствия для их социального положения и эмоционального благополучия.
Шри-Ланка также интегрировала свой оборонный аппарат в ответ на пандемию. Сотрудники военной разведки получают персональные данные от операторов мобильной связи, чтобы идентифицировать людей, которые взаимодействовали с подтвержденными пациентами или избежали карантина. В прошлом вооруженные силы Шри-Ланки обвинялись в грубых нарушениях прав человека и внесудебных казнях, а после президентских выборов 2019 года власти усилили запугивание и преследование журналистов, правозащитников и других лиц, которых они воспринимают как критиков.
Южная Корея была сравнительно эффективна в сдерживании своей вспышки коронавируса, но ее Закон О контроле и профилактике инфекционных заболеваний (IDCPA) допускает широкий эпиднадзор, поднимая вопросы об эпидемиологической необходимости и пропорциональности. Чиновники извлекли информацию из записей кредитных карт, отслеживания местоположения телефонов и камер наблюдения—все это без судебного приказа—и объединили ее с личными интервью для быстрого отслеживания контактов и мониторинга фактических и потенциальных инфекций. Истории кредитных карт раскрывают интимные подробности жизни людей, которые выходят далеко за рамки того, что необходимо для отслеживания контактов; покупки людей могут указывать на их сексуальную ориентацию и религиозные убеждения, например. Южнокорейские чиновники время от времени обнародовали пол, возрастной диапазон и движения пациентов, что подпитывало онлайн-насмешки, критику и социальную стигматизацию. С положительной стороны, IDCPA действительно включает важные положения о закате, требующие немедленного уничтожения данных, связанных с пандемией, когда соответствующие задачи будут выполнены.”
Правительство Эквадора приняло многогранный подход к эпиднадзору в условиях пандемии. ECU 911, сеть общественной безопасности страны, построенная в основном китайскими фирмами с тесными связями с режимом в Пекине, активно собирала информацию с тысяч камер наблюдения, геолокационных данных и полицейских записей, чтобы участвовать в “умном” анализе. ECU 911 включается в новую платформу общественного здравоохранения, которая объединяет данные о местоположении со спутниковых и мобильных телефонов, а также информацию из приложения covid-19 страны, включая имена, национальные идентификационные номера, даты рождения и геолокационные записи. Национальным и местным органам власти предоставляется информация из базы данных платформы для отслеживания контактов, обеспечения соблюдения карантина и выявления любых крупных скоплений людей в таких местах, как школы, дома и места похорон. Существует мало прозрачности относительно того, как долго хранятся данные, кем они могут быть использованы и для каких целей.
В апреле 2020 года губернаторы штатов Нигерии объявили о новом партнерстве с MTN, ведущим телекоммуникационным провайдером страны, чтобы смоделировать, насколько уязвимы их Штаты к пандемии, основываясь на информации абонентов. Всего два месяца назад было установлено, что правительство и силы безопасности имели доступ к записям мобильных данных для идентификации и ареста журналистов. Armenia’s парламент проголосовал в марте 2020 года за предоставление надзорным органам возможности получать телекоммуникационные метаданные от поставщиков услуг, включая телефонные номера и местоположение, время и другие метаданные звонков и сообщений, без судебного пересмотра. Эти данные должны были использоваться для выявления лиц, которые могли столкнуться с вирусом, и для наблюдения за теми, кто находился в изоляции, но отсутствие прозрачности и надзора делало неясным, как эти записи будут или могут быть использованы на практике.
Некоторые правительства предприняли предварительные шаги по снижению рисков конфиденциальности для пользователей и вместо этого получают доступ к агрегированным и анонимизированным наборам данных для руководства политикой общественного здравоохранения. В Австралии, например, телекоммуникационная компания Vodafone предоставила правительству данные о местоположении миллионов людей в агрегированном и анонимном формате, что позволило ей понять перемещения населения и определить широкое соблюдение социальных дистанцирующих ограничений.
В Соединенных Штатахиндустрия мобильной рекламы передавала агрегированные и анонимизированные данные о местоположении федеральным, государственным и местным органам власти. Власти стремились централизовать данные о местоположении людей в более чем 500 городах, чтобы проанализировать, как распространяется болезнь. Однако, запрашивая данные у рекламных компаний, а не у поставщиков мобильных услуг, правительственные учреждения обходили минимальные механизмы надзора за конфиденциальностью, встроенные в американское законодательство. Белый дом и центры по контролю и профилактике заболеваний (CDC) также, как сообщается, вели переговоры с техническими платформами о доступе к агрегированным и анонимным данным о местоположении.
Хотя анонимизированные данные могут быть менее инвазивными, чем индивидуализированная информация, записи могут быть идентифицированы или деанонимизированы в сочетании с другими наборами данных или проанализированы с помощью инструментов больших данных, предназначенных для поиска закономерностей в содержании из разных источников. Этот потенциал означает, что анонимизированная и агрегированная информация остается уязвимой для эксплуатации или неправильного использования как правительствами, так и негосударственными субъектами. Этот риск усугубляется непропорциональными законами о надзоре и отсутствием надежной защиты частной жизни во многих странах, включая Австралию и Соединенные Штаты.
Ограниченный доступ к некоторым формам данных может быть полезен для отслеживания распространения вируса и информирования о текущих и будущих мерах реагирования на кризисы в области здравоохранения. Однако любой обмен цифровой информацией должен быть прозрачным, подлежать независимому надзору и регулироваться принципами необходимости и соразмерности прав человека. Собранная информация должна быть защищена от других видов использования и, как правило, уничтожена после того, как вирус будет взят под контроль. Это поможет гарантировать, что власти и частные компании не смогут легко перепрофилировать медицинские данные для достижения политических, правоохранительных или коммерческих целей.
Выкатывание состояния наблюдения ИИ
Ни одна страна не применяла более всеобъемлющего и драконовского подхода к эпиднадзору за COVID-19 , чем Китай, где началась пандемия. За последние два десятилетия Коммунистическая партия Китая построила самое сложное и интрузивное в мире государство слежки, состоящее как из низко -, так и из высокотехнологичных элементов. В последнее время, когда Китай стремится стать мировым лидером в области технологий искусственного интеллекта к 2030 году, власти экспериментируют с машинным обучением, большими данными и алгоритмическим принятием решений в угоду политически репрессивной политике режима “социального управления”. Автоматизированные системы фиксируют подозрительное поведение в интернете и, все чаще, на улицах, используя крупнейшую в мире сеть камер видеонаблюдения. С января власти объединили свои существующие средства мониторинга и биометрические записи с инвазивными новыми приложениями и новыми возможностями для сбора данных.
После заражения коронавирусом региональные чиновники сотрудничали с крупнейшими китайскими технологическими фирмами Alibaba и Tencent для разработки приложений “код здоровья”. Преобладающее программное обеспечение присваивает отдельным лицам QR-код и низкие (зеленые), средние (янтарные) или высокие (красные) оценки риска в зависимости от таких факторов, как история их местоположения и самоотчетные симптомы, хотя ни власти, ни компании не предоставляют дополнительную информацию о том, как рассчитываются уровни риска. Для доступа в определенные общественные места и офисные здания требуется зеленый код. Хотя существуют различия между десятками приложений, используемых в каждой провинции или муниципалитете, анализ, проведенный юридической фирмой Norton Rose Fulbright, показал, что Политика конфиденциальности Пекинского приложения не включает строгие принципы конфиденциальности по дизайну и не устанавливает каких-либо временных ограничений на хранение данных. Расследование New York Times показало, что приложение Alipay Health Code автоматически делилось данными с полицией.
Поскольку первоначальная вспышка была взята под контроль в Китае, некоторые приложения для кодирования здоровья были откатаны в таких городах, как Шанхай. И наоборот, яв мае чиновники здравоохранения в Ханчжоу предложили расширить городскую систему приложений от простых цветовых кодов до личных “показателей здоровья”, которые отражали бы характер сна людей, потребление алкоголя, привычки к курению и уровень физической активности. Это предложение вызвало бурю возмущения среди пользователей и даже вызвало редкий упрек со стороны государственных СМИ. Эта концепция имеет некоторое сходство с экспериментами с правительственными системами “социального кредита” и пилотными приложениями, управляемыми корпорациями, такими как Ant Financial Sesame Credit, которые отслеживают личное и онлайн-поведение пользователей. Появление в черном списке, ведущемся муниципальными или провинциальными властями, может привести к ограничениям на передвижение, образование и финансовые операции. В отличие от этого, высокорейтинговые пользователи Sesame Credit могут получить привилегированный доступ к частным услугам, отказам от депозитов и коротким линиям в Службе безопасности аэропорта. В настоящее время государственная и частная системы функционируют раздельно, хотя есть некоторые признаки того, что в будущем они могут быть объединены.
Китайские власти также вынудили государственные телекоммуникационные и частные технологические компании обмениваться данными с органами государственной безопасности. Терминалы передачи данных были установлены на вокзалах, в гостиницах и других местах с интенсивным движением для быстрого сбора информации о передвижениях и местоположении людей. Сотни людей подали жалобы на утечки данных, связанные с COVID-19, и нарушения конфиденциальности, а некоторые наблюдатели призывают к большей защите персональных данных, чтобы обуздать хаотичный обмен данными, вызванный кризисом здравоохранения. Такие требования усиливают растущее давление от китайских пользователей сети с 2018 года в пользу законодательства о защите данных, которое ограничило бы возможности правительств и корпораций по доступу и использованию личной информации.
Власти также испытывают терпение жителей с помощью все более навязчивого видеонаблюдения и распознавания лиц. Люди жаловались на то, что их просят установить веб-камеры в своих домах и за их парадными дверями. Компании по распознаванию лиц, такие как Hanwang, утверждают, что теперь они могут идентифицировать людей, даже если они носят маски. Поисковый гигант Baidu объявил в феврале, что он создал программное обеспечение для сканирования лиц, чтобы помочь правительству идентифицировать людей, которые не соответствуют требованиям ношения масок. В марте власти модернизировали камеры распознавания лиц в 10 городах с помощью технологии теплового обнаружения, которая якобы может сканировать толпы людей и определять, у кого есть лихорадка.
Хотя китайские системы наблюдения остаются самыми передовыми и широко распространенными в мире, правительства в странах демократического спектра внедряют биометрическое наблюдение и искусственный интеллект, практически не защищая права человека. По сообщениям, в марте для обеспечения соблюдения карантина в Москве была использована сеть из более чем 100 000 камер с функцией распознавания лиц. Парижская система общественного транспорта начала тестировать ИИ-видеокамеры, созданные технологической компанией Datakalab для сбора статистики о всадниках в масках. Тем временем компании, базирующиеся в Соединенных Штатах и Европе, предлагают инструменты правительствам, школам, ресторанам и другим учреждениям, утверждая, что они могут идентифицировать людей с лихорадкой на расстоянии. Биометрическая система пограничного контроля, продаваемая немецкой компанией DERMALOG, в настоящее время пилотируется в Бангкоке, чтобы сопоставить распознавание лиц с обнаружением лихорадки для идентификации путешественников, которые могут иметь инфекционные заболевания.
Многие из высокотехнологичных инструментов, представленных в прошлом году, не позволяют эффективно справиться с кризисом. Вместо этого они усиливают существующие политические репрессии и социальное неравенство из-за своей зависимости от неточных или предвзятых данных и реалий расизма и дискриминации, которые формируют контекст, в котором они используются. Распознавание лиц, например, особенно ненадежно для цветных и трансгендерных людей. Одно исследование показало 99-процентную точность для белых мужчин, в то время как частота ошибок для женщин с более темной кожей достигала 35 процентов. Другое исследование выявило, что коренные американцы имеют самые высокие ложноположительные показатели среди всех этнических групп в Соединенных Штатах.
Другие формы биометрических технологий, включая те, которые используют принудительный сбор ДНК и распознавание эмоций, также подвержены дискриминационным неточностям и могут быть столь же легко использованы. Биометрические системы могут сопоставлять информацию со снимков лица, радужной оболочки, отпечатков пальцев и ДНК, а затем использовать непрозрачные алгоритмы для идентификации, отслеживания и классификации людей. Среди других потенциальных применений такая технология может быть использована для выявления и мониторинга отдельных протестующих, представителей этнических и религиозных меньшинств, независимых журналистов или любой другой группы, которая считается угрозой для тех, кто находится у власти.
Если такие технологии разрешены к внедрению, то крайне важно, чтобы они регулировались надежными законами и нормативными актами для защиты основных прав и предотвращения нормализации вредного и навязчивого мониторинга. Опасности, которые они представляют для свободы и демократии, слишком серьезны, чтобы их игнорировать.
Жизнь в черном ящике
Настоятельная необходимость борьбы с COVID-19 только ускорила расширение биометрического наблюдения и алгоритмического принятия решений в таких областях, как здравоохранение, полиция, образование, финансы, иммиграция и торговля. Общественность должна скептически относиться к этой тенденции, когда частные компании и государственные органы обещают чисто технологические решения проблем, для решения которых требуются конкретные экономические, социальные или политические действия.
Непрозрачные алгоритмы быстро заменяют человеческое суждение в жизненно важных областях человеческой жизни, и результаты, вероятно, создадут новое неравенство и еще больше поставят в невыгодное положение тех, кто уже был уязвим для дискриминации. В контексте здравоохранения, например, можно было бы использовать прогностическую технологию для определения того, являются ли определенные люди или группы людей более склонными к заражению или распространению вируса, а затем запретить им доступ в общественные места. Аналогичным образом, в системе уголовного правосудия люди, считающиеся подозрительными на основе автоматизированного анализа неточных или дискриминационных данных, могут быть помечены для усиления контроля или даже ареста.
Только коллективные действия в глобальном масштабе могут остановить импульс развивающегося государства наблюдения ИИ
Поскольку коммерческие предприятия, органы безопасности и правительственные бюрократии начинают доверять и полагаться на цифровые технологии, со всеми их недостатками, существует риск того, что сама технология может эффективно стать авторитетом, а не инструментом, используемым для реализации человеческих решений. Политика, определяемая непостижимой автоматизированной системой, не может быть рассмотрена или исправлена с помощью традиционных демократических процедур. Человечество в настоящее время сохраняет некоторое понимание того, почему алгоритм генерирует один результат, а не другой, но ИИ может в конечном счете устранить то, что известно как “объяснимость”, а вместе с ней и любое чувство прозрачности, надзора или ответственности за несправедливость.
Будущее частной жизни и других основных прав зависит от того, что мы будем делать дальше. По мере того как школы вновь открываются, люди возвращаются в офисы, а поездки возобновляются, несмотря на продолжающуюся пандемию, толчок к обязательным мобильным приложениям, биометрическим технологиям и паспортам здоровья будет только расти. Крайне важно, чтобы общественность задумалась о том, необходимы ли или желательны определенные новые формы надзора в демократическом обществе, чтобы противостоять раздутым или нереалистичным обещаниям пропагандистов высокотехнологичных инструментов и подтолкнуть избранных должностных лиц к созданию сильной защиты частной жизни и других демократических гарантий в законе. Отдельные страны могут взять на себя инициативу, но только коллективные действия в глобальном масштабе могут откатить нынешние эксцессы и остановить импульс развивающегося государства наблюдения ИИ.
Методология и источники данных: Freedom House выявила ряд связанных с COVID-19 точек наблюдения и собрала соответствующую информацию по всем 65 странам, охваченным Freedom on the Net. Полученная в результате база данных была частично информирована о свободе личности в чистых страновых отчетах, написанных внешними аналитиками
