На этой неделе старший корреспондент по внешней политике Politico, Нахал Туси, беседует с топ-менеджером Google’s Jigsaw — компании, которая стремится использовать технологию для борьбы со всем, начиная от автократии и заканчивая дезинформацией.
За последнее десятилетие вопрос о том, является ли технология силой освобождения или угнетения, был решен: это и то, и другое. Головокружительные дни протестов, организованных с помощью социальных сетей в Египте, сменились разгонами со стороны государства-наблюдателя. Вините ли вы технологию, или вы ищете новые способы ее использования?
Ясмин Грин — одна из тех людей, которые пытаются каждый день ответить на эти и связанные с ними вопросы. Она является генеральным директором Jigsaw, компании Google, одной из миссий которой является оказание технологической помощи людям в авторитарных государствах. Jigsaw сосредотачивается на борьбе с насилием, экстремизмом, дезинформацией, цензурой и токсичностью, говорит Грин.
Я разговаривала с ней в июне на Осло-ском Форуме Свободы, где она была одной из технических гуру, общающихся с активистами в области прав человека. Она звучала как реалистка с желанием оставаться оптимисткой, даже когда новые вызовы, такие как развитие искусственного интеллекта, делают ее работу еще более тревожной.
Вы возглавляете команду, которая разрабатывает технические решения для угроз открытому обществу. Разве сама технология, от инструментов наблюдения до неизбежной чрезмерной зависимости от различных типов технологий, не является серьезной угрозой для открытого общества?
Конкретно в центре внимания Jigsaw — предыстория заключалась в том, что это было пересечение геополитики и Интернета — когда мы начинали более десяти лет назад, это была технологическая утопическая эра. Ожидалось, что Интернет просто демократизирует мир.
У нас был немного более циничный взгляд, который заключался в том, что люди у власти будут так же взволнованы, как и массы, использовать технологии для достижения своих целей. Мы часто смотрим на национальные государства и экстремистские группы, незаконные сети.
Как вы видите влияние искусственного интеллекта на вашу работу?
ИИ уже давно играет роль в обеспечении безопасности в Интернете и представляет угрозу для людей. Сейчас существует такое восприятие кризиса вокруг ИИ, хотя ИИ не нов.
Когда Open AI выпустила ChatGPT в ноябре, такой мейнстримный разговор об ИИ… впервые у вас есть ИИ, который чувствует себя человеком по отношению к людям, и в этом есть реальная проблема. Теперь вы можете себе представить, как может произойти раскрытие учетных записей, которые могут быть использованы для манипуляций или тайного влияния.
У вас также есть этот сдвиг шкалы времени, когда мы больше не говорим о годах или годах даже для новых приложений этого действительно мощного генеративного ИИ. Мы говорим о неделях или месяцах. Это создало ощущение кризиса, что также является возможностью, потому что есть вещи, которые мы могли бы сделать, чтобы сделать Интернет более безопасным, что раньше было слишком сложно.
Сосредоточенность и безотлагательность, которые дает вам кризис, могут позволить нам, с точки зрения цели Jigsaw, изменить работу Интернета.
То есть регулирование социальных сетей действительно может произойти?
Регулирование на самом деле имеет много ветра в своих парусах по сравнению с каждым годом до сих пор. Я думаю больше, например, одна из вещей, над которой работает Jigsaw, — это новый подход к противодействию дезинформации в Интернете, который называется пре-банкингом — [разоблачением] ложных заявлений или попыток манипулирования, которые еще не произошли.
Формула предварительного размещения состоит (prebunking) из трех частей: Предупредите людей о надвигающейся попытке ими манипулировать; микродозировать их с помощью техники манипулирования или повествования, а затем, третье, решительно опровергнуть это. Вы снабжаете людей навыками видеть это и защищать себя, когда они сталкиваются с информацией в дикой природе. Это похоже на выработку ментальных антител с помощью этой предварительной обработки.
Мы как бы впервые пришли к консенсусу среди большого количества ученых-бихевиористов и ученых-исследователей, что вы можете делать эти вещи, чтобы быть на переднем крае, чтобы защитить людей от дезинформации и манипуляций. И похоже, что эта точка перегиба ИИ потенциально может стимулировать развертывание и масштабирование этих кампаний. Мы публиковали об этом .
Нас всех объединяет то, что мы не любим, когда нас используют в своих интересах, поэтому, если вы можете предсказать людям, что они станут мишенью, тогда они активируют свой когнитивный щит.
Когда Россия вошла в Украину, мы говорили с людьми, экспертами, правительством и гражданским обществом о том, каких нарративов мы можем ожидать. Одним из них было вооружение мигрантов, когда украинцы бежали.
Мы двигались очень быстро и работали с партнерами из гражданского общества, креативщиками, а также с некоторыми государственными учреждениями над созданием этих видеороликов перед размещением, и мы разместили их в Интернете — на YouTube, а также в Facebook, Tik Tok, Twitter — чтобы продвинуться вперед. антиукраинских нарративов. Мы проверили, что это значительно повысило способность людей находить козлов отпущения изрядное количество.
В какой стране или конфликте вы столкнулись с самой большой проблемой и пытались использовать технологические инновации, чтобы помочь открыть общество, и каким образом?
Есть две причины, по которым Иран так важен для меня.
Во-первых, я иранка, так что это смешение личных и профессиональных устремлений. Но также и в том смысле, что цензура на инфраструктурном уровне Интернета представляет собой реальную угрозу не только глобальной сети, но и благополучию людей во всем мире. Иран является отличным примером того, что Интернет действительно может быть кислородом для движения сопротивления.
И народ, и правительство это понимают. Вы понимаете, что там, где население разбирается в технологиях, правительство тоже разбирается в технологиях. Исламская Республика Иран настолько изощренна в своем наглом использовании технологий для слежки и цензуры, блокировки и преследования людей.
Что действительно сложно, так это то, что каждый раз, когда происходят прорывы, когда людям предоставляются инструменты обхода — программное обеспечение для людей на местах, чтобы иметь возможность обойти инструменты блокировки правительства — правительство сосредотачивает все свои технологии, возможности и свое внимание. о блокировке этого программного обеспечения.
Это действительно извращенная динамика в репрессивных странах, где что-то становится популярным, а правительство хочет это заблокировать.
Вы испытали это с иранцами во время этого недавнего протестного движения, и это звучит так, как будто вы говорите, что правительство способно подавить любые технологические попытки поддержать протестующих.
Да… Все постоянно изобретают. Это марафон. Сообщество свободы Интернета уделяет особое внимание обеспечению доступа. Таким образом, у режимов есть менее обеспеченный ресурсами, но очень преданный противник с точки зрения людей, которые пытаются обойти эту блокировку.
С каким мифом о таких влиятельных компаниях, как Google, вы хотели бы покончить?
Одна из вещей, которые я считаю устаревшим анализом, — это понятие эхо-камер и двигателей радикализации, которое, я думаю, могло быть верным в прошлом.
Было много перемоток, переобучения и переосмысления систем рекомендаций, что означает, что это уже не так динамично.
Возможно, с большей прозрачностью, которая, как я думаю, появится благодаря регулированию и возможности для большего числа исследователей заглянуть под капот этих алгоритмов, они смогут увидеть, что это не так, потому что я думаю, это устаревший нарратив, который еще не был полностью опровергнут.
