Создание общественной технологической инфраструктуры будущего

Машины слетали с дороги , убивая пешеходов и даже детей, игравших на улице. Они соревновались за место на немаркированных дорожках с конными экипажами и канатными дорогами. Без четкого консенсуса в отношении того, кому принадлежат дороги, невозможно было регулировать их и обеспечивать общую безопасность для всех. И, в конце концов, загрязнение и выхлопные газы оказались глобальными проблемами, проникая в атмосферу и резко увеличивая выбросы углерода.

То есть до тех пор, пока руководители автомобильных компаний, законодатели на местном, государственном и федеральном уровнях, организации гражданского общества и потребители не осознали, что бездействие опасно и неустойчиво. Вместе они построили физическую инфраструктуру для создания более безопасных дорог с ограничениями скорости и знаками остановки, а также регулирующую инфраструктуру для управления поведением на этих дорогах. За более чем столетие межсекторального сотрудничества мы внедрили ремни безопасности, страховщиков, проверки безопасности и выбросов, даже разработали инновации для разработки электромобилей и зарядных станций, чтобы укрепить эту связанную с автомобилем инфраструктуру для продвижения общественного блага. Некоторые из этих проблем были смягчены, некоторые решены. Некоторые все еще появляются. Работая вместе, мы создали коллективные и соединительные мышцы, чтобы развиваться и адаптироваться к новым вызовам с помощью новых решений.

Сегодня мы переживаем новую промышленную революцию. Каждый год в нашу цифровую жизнь внедряются сотни, если не тысячи инноваций, подобных модели Т, в виде новых веб-сайтов, приложений, валют, алгоритмических инструментов, средств автоматизации и многого другого.

И снова инфраструктура нашего общества не поспевает за ними.

За последние 30 лет цифровые коммуникационные технологии изменили то, как мы общаемся и взаимодействуем с окружающим миром, создавая возможности во всех сферах современной жизни. Но так же часто, как эти технологии способствуют обучению и содействию справедливости, они также используются для усиления неравенства. Слишком много людей, особенно тех, кто исторически был исключен или маргинализирован, не имеют доступа к цифровым платформам, извлечения из них выгоды или влияния на них. Управление и использование технологий связаны почти со всеми факторами неравенства , что подчеркивает масштабы этой проблемы.

Политики изо всех сил пытаются регулировать все, от телефонов с искусственным интеллектом до рекламных моделей. Потребители спешат использовать новые приложения и услуги, часто не понимая, какие неблагоприятные последствия они влекут за собой. И в результате их неприкосновенность частной жизни , а иногда и их безопасность ,  и даже их внимание и способность отличать правду от вымысла, становятся жертвами в гонке за созданием новых технологий.

Ясно то, что решение этих проблем заключается не только в подходе, ориентированном на разработку технологий во благо , но и в вопросе «хорошо для кого?»

Новаторская, но все еще развивающаяся область, технология общественных интересов (PIT), одновременно задает этот критический вопрос и находит ответы. Технология общественного интереса — это междисциплинарный подход, который требует, чтобы технология проектировалась, развертывалась и регулировалась ответственным и справедливым образом, другими словами, в интересах общества.

Он работает на понимании того, что технология не является и никогда не была «нейтральной». Вот почему технологи общественного интереса — инженеры, ученые, организаторы сообществ, активисты — сосредотачиваются на опыте исторически маргинализированных групп, тех, кто стал мишенью и игнорировался технологиями.

Эта сфера и эта серия подробных обзоров охватывают разные сектора и призывают представителей академических кругов, гражданского общества, частного и государственного секторов индивидуально и коллективно строить общество, которое может в полной мере извлечь выгоду из технологий и ограничить их неблагоприятные последствия.

Приведенные ниже примеры показывают критически важный вклад, который вносят технологи, представляющие общественные интересы, в каждый сектор. Вместе они создают дорожную карту многоотраслевых решений и способствуют целостному пониманию подключенного будущего, руководствуясь технологическими знаниями, представляющими общественный интерес.

Академия

Академические и учебные заведения закладывают основу знаний для экспертов в области технологий, настоящих и будущих. Уроки, полученные в этих учебных заведениях, играют огромную роль в формировании технологий, которые мы используем в повседневной жизни. С этой целью необходимо обеспечить, чтобы наши учебные заведения и учебные заведения были надлежащим образом подготовлены к созданию разнообразной, справедливой и междисциплинарной экосистемы технологий, представляющих общественный интерес. Высшие учебные заведения кодифицируют знания и передовой опыт, а также взращивают мудрость и служение следующего поколения. Тем не менее, слишком часто в университетских программах факультетов компьютерных наук, науки о данных и инженерных факультетов особое внимание уделяется техническим навыкам в разрозненных дисциплинах за счет трансдисциплинарных наборов навыков .

В результате многие талантливые дизайнеры, инженеры и технологи, создающие технологии следующего поколения, не были обучены предвосхищать соответствующие идеи из таких областей, как государственная политика или социология, — идеи, которые определяют то, как люди взаимодействуют с цифровыми товарами, услугами и платформы.

В лучшем случае отсутствие подготовки не позволит нам избежать вреда или разработать необходимые решения; в худшем случае оно будет воспроизводить и усиливать существующее неравенство, невидимо кодируя его в цифровом мире. Возьмем систему уголовного правосудия, где более 20 штатов используют алгоритмическое моделирование для расчета риска рецидива обвиняемых по уголовным делам, несмотря на то, что алгоритмы существуют в «черном ящике» и непрозрачны способы, которыми они рассчитывают свои рекомендации. При проверке экспертами некоторые из этих алгоритмов оказались предвзятыми и на 77% более вероятными .ошибочно предсказать, что чернокожие обвиняемые совершат насильственное преступление, чем белые обвиняемые. Отчасти это является отражением предвзятости данных, которые использовались для обучения прогностических технологий. Когда человека останавливает полиция или арестовывает, эти данные вводятся в алгоритмы прогнозирования. Поскольку прогностические алгоритмы легко искажаются количеством арестов , а предвзятость в работе полиции приводит к тому, что у чернокожих в два раза больше шансов быть арестованными, чем у белых, и в пять раз больше шансов быть остановленными полицией без уважительной причины, использованные данные оценка обвиняемых по уголовным делам по своей сути направлена ​​против чернокожих. И эти типы алгоритмов черного ящика безотчетно принимают решения в каждом секторе, где мы живем и работаем, — от школ до магазинов и больниц.

Чтобы удовлетворить острую потребность в экспертах, которые понимают как технологию, так и ее этические и социальные последствия, академические учреждения должны сделать этот процесс приоритетным. Университеты могут начать с разработки, расширения и инвестирования в программы PIT, чтобы технологи будущего выпускались с техническими знаниями и междисциплинарными знаниями, необходимыми для создания технологий, которые предвосхищают вред и существенно улучшают жизнь людей. К счастью, университеты не должны строить без плана. У нас уже есть образцовые модели программ PIT, многие из которых возглавляют студенческие активисты и мыслители. Например, Сеть университетов технологий общественных интересов включает 49 колледжей и университетов и восемь международных филиалов, приверженныхпродвижение возможностей экспериментального обучения, усиление поддержки преподавателей и создание инициатив и исследований PIT.

В нашей собственной работе мы видели, как их усилия многократно окупились. Например, в Технологической лаборатории общественных интересов Гарвардского университета (программа, совместно возглавляемая Суини) перед студентами стояла задача провести собственные научные эксперименты, документирующие неожиданные и непредвиденные неблагоприятные последствия технологий для общества. Лучшие эксперименты принесут студентам возможность представить свои идеи регулирующим органам в Вашингтоне, округ Колумбия.

Руководители Лаборатории технологий общественного интереса рассчитывали привезти в Вашингтон одного, а то и двух студентов. Но в итоге мы взяли 26 человек, которые представили проекты, начиная от ценовой дискриминации на услуги онлайн-репетиторов и заканчивая расовой предвзятостью в онлайн-сервисах. И работа этих и последующих студентов помогла зажечь новые меры общественной защиты, изменить правила и изменить методы ведения бизнеса в крупных технологических компаниях. Эти реальные изменения закладывают основу для более справедливой цифровой реальности.

Вред, наносимый технологиями, проникает во все сферы жизни, и нам необходимо обновить наше понимание того, как присутствие и влияние технологий могут подорвать или продвинуть наши цели, в том числе для самой демократии. Одна из инициатив, впервые предложенная Технической лабораторией общественных интересов в Гарварде, VoteFlare , предупреждает избирателей об изменениях в их регистрационном статусе и принятии бюллетеней по почте, чтобы они могли убедиться в точности информации и следить за тем, чтобы не было фальсификации или изменений, которые могут помешать им отдать свой голос. .

Это доказательство того, что академия может предложить технологам целеустремленную и успешную карьеру и создать более справедливое технологическое будущее для всех нас.

Частный сектор

Компании частного сектора быстро внедряют новые технологии, которые меняют структуру нашей повседневной жизни — от приложений и веб-сайтов до валют и виртуальных реальностей. Многие из этих инноваций находятся в частной собственности нескольких избранных технологических гигантов. Такие компании частного сектора тратят миллионы на привлечение лучших технических специалистов, но они часто не вкладывают средства в междисциплинарных экспертов, обученных предвидеть непредвиденные последствия определенных вариантов дизайна и защищать пользователей и компании от потенциально вопиющих ошибок.

Сегодня, из-за того, что эта точка зрения остается недостаточно развитой, компании часто проявляют реакцию, когда сталкиваются со своими упущениями, играя в догонялки после того, как ущерб был нанесен, — и все это, допуская дезинформацию, нарушения конфиденциальности, предвзятый искусственный интеллект и подстегивая рекордно низкое общественное доверие к технологической отрасли. Например, компании, которые используют маркетинговые стратегии с большим объемом данных без надлежащего надзора, могут неявно придерживаться предвзятости. Сторонники справедливого жилья и справедливой занятости рассказали, как цифровые рекламодатели смогли настроить таргетинг на рекламу в Facebook, используя прокси-серверы данных для расы, возраста и пола, чтобы позволить клиентам незаконно блокировать определенные демографические данные от подачи заявок на работу или жилье.

Хотя такое поведение широко распространено в крупных технологиях, несколько ключевых аутсайдеров в частном секторе лидируют, когда дело доходит до партнерства с междисциплинарными экспертами по технологиям, представляющим общественный интерес, для понимания и смягчения неблагоприятных последствий их технологий. Возьмем Airbnb: после получения документов , подтверждающих , что хозяева азиатского происхождения в некоторых местах зарабатывают на 20 процентов меньше, чем их белые коллеги , Airbnb заново изобрела свою процедуру бронирования во имя объективности и обновила свою политику недискриминации. Компания также сотрудничала с правозащитными организациями для создания Project Lighthouse,основанная в США инициатива, призванная помочь Airbnb собирать и анализировать данные о расовой дискриминации на своей платформе и информировать будущие политики и функции для ее преодоления. Работая с технологами, занимающимися общественными интересами, и институционализируя их результаты, компании могут следовать модели Airbnb и гарантировать, что они с самого начала учитывают влияние и справедливость.

Гражданское общество

По мере того, как технологические компании становятся все более могущественными, сегодняшние организации гражданского общества стремятся привлечь к ответственности монументальные институты — как правительства, так и технологических гигантов. Их просят охватить новые и более крупные сообщества — онлайн и лично. И они делают это во все более технологичном мире, в котором американцы проводят более 10 часов в день в Интернете, а данные, возможно, являются самым ценным товаром в мире .

Тем не менее, многим из этих организаций не хватает технологического опыта, чтобы масштабировать свои усилия и сформулировать, как технологии связаны и укоренены в проблемах гражданских прав и прав человека.

Без междисциплинарных экспертов, работающих совместно с лидерами гражданского общества для освещения взаимосвязи между справедливостью, технологиями и участием сообщества, цифровые практики, которые маргинализируют уязвимые группы, будут продолжаться. 

Чтобы восполнить этот пробел, спонсоры должны предоставить организациям гражданского общества ресурсы и опыт, необходимые для принятия технологий с точки зрения общественных интересов. Такой подход не только поможет им служить своим сообществам, но и поможет уменьшить разрозненность внутри и между теми, кто работает в общественных интересах и частном секторе, между гражданскими правами и цифровыми правами.

Мы уже видели, что происходит, когда эти сектора совместно вырабатывают решения. В 2011 году Фонд Форда инвестировал в организации, занимающиеся гражданскими правами и правами в Интернете, которые создали Таблицу конфиденциальности и технологий гражданских прав , коалицию из более чем 30 организаций, существующую 10 лет. The Table использует отношения между ведущими экспертами в области гражданских прав и технологий для решения таких проблем, как подавление избирателей, цифровое наблюдение за сообществами иммигрантов и разжигание ненависти.

Благодаря их сотрудничеству эта коалиция успешно выступила за то, чтобы Google запретил рекламу кредитов до зарплаты, грабительских кредитов, ориентированных на цветные сообщества. И это убедило Федеральную комиссию по связи ограничить непомерную стоимость телефонных звонков из тюрьмы, а также расширить субсидируемые телефонные планы для американцев с низкими доходами, включив в них широкополосный доступ в Интернет. Коалиция сотрудничала по сотням вопросов, и хотя мы видим прогресс, требуется гораздо больше.

Эти успехи показывают, как, инвестируя в технологии, представляющие общественный интерес, гражданское общество может играть важную роль как в качестве агента подотчетности, так и в качестве активного участника улучшения нашей технологической экосистемы. 

Правительство

Наше технологическое будущее требует продуманного участия правительства — как для защиты общественных интересов, так и для создания надежных конкурентных рынков, требующих инноваций. Тем не менее, без технологического опыта, в том числе широкого понимания потенциального вреда технологий, правительство беззубо в своих попытках должным образом регулировать крупные технологии.

И правительство не просто не регулирует технологии — оно не может использовать технологии в своей деятельности. Менее четырех лет назад Министерство обороны США все еще использовало гибкие диски в некоторых устаревших системах. И за последний год правительство подверглось критике за ненадежное развертывание веб-сайтов и сложные онлайн-системы, которые обеспечили доступ богатых американцев к вакцинам и тестированию на COVID -19 раньше, чем их соседи с низким доходом. 

Решение этих поразительных двойных проблем — отсутствие регулирования и отсутствие реализации — должно стать главным политическим приоритетом. Но вместо этого федеральное правительство продолжает недофинансировать свои операции в области технологий и кибербезопасности, эффективно сдерживая нашу технологическую инфраструктуру. Только в прошлом году Соединенные Штаты инвестировали менее 2 миллиардов долларов в технологии и кибербезопасность в рамках Американского плана спасения, а не 10 миллиардов долларов , которые первоначально предлагались.

В 2021 году 27% всех объявлений о вакансиях в сфере ИТ так и не были заполнены. Это представляет в общей сложности 1443 вакансии в сфере ИТ, незаполненных в 2021 финансовом году, и это только с учетом мест, где у правительства есть и ясность, и бюджет, чтобы попытаться нанять этот талант.

От местного до федерального уровня, приглашая технологов, представляющих общественный интерес, к процессу разработки политики, правительства могут более адекватно регулировать технологии и устанавливать новый глобальный стандарт. 

Фактически, администрация Байдена уже сделала долгожданный первый шаг. В 2021 году Белый дом нанял технолога по общественным интересам Алондру Нельсон , защитника расовой справедливости и профессора Школы социальных наук Института перспективных исследований, на должность заместителя директора Управления Белого дома по научно-технической политике. 

Многообещающие признаки появляются и на государственном уровне. На протяжении всей пандемии сеть PIT, состоящая из 6000 безвозмездных ученых и исследователей, получившая название US Digital Response, помогала правительствам штатов разрабатывать меры реагирования на COVID-19, включая создание онлайн-панелей данных для отслеживания ресурсов больниц и восстановление службы веб-сайта Министерства труда. Эти усилия спасли жизни, а при дополнительном финансировании эту и другие инициативы можно расширить и формализовать на федеральном уровне для создания более надежной и прозрачной инфраструктуры PIT.

Вместе к справедливому технологическому будущему

В этой подробной серии статей будут освещены эти и другие примеры того, как мы можем построить лучший и более равноправный технологический мир, в центре которого будут стоять общественные интересы. И так же, как реакция страны на опасность автомобилей в начале 20-го века, продвижение технологий, представляющих общественный интерес, будет работать лучше всего при широком участии. Социальные предприниматели, бизнес-лидеры, филантропы, технологи, лидеры гражданского общества и ученые могут объединиться для выполнения этой работы. 

Ставки, которые мы описываем, высоки, а проблемы сложны. По мере того, как технологии расширяют свое влияние повсюду, чтобы решать проблемы нашего времени, нам также необходимо видение технологий, представляющих общественный интерес, повсюду, в каждом секторе, и через множество объективов, будь то гражданские технологии, общественные технологии, технологии для блага. . Сейчас самое время.

Хотя это может показаться крутой горой, мы можем найти утешение в том, что уже были здесь раньше. С самого начала область права общественных интересов столкнулась с такими же большими трудностями; но филантропы, адвокаты и сообщества объединились, чтобы создать поле, которое является настолько неотъемлемой частью социальной справедливости и правового ландшафта, что мы едва можем вспомнить, когда его не существовало.

От COVID-19 до уголовного правосудия, от цифровой рекламы до защиты демократии и во всех других областях, которых касается технология, технологи, представляющие общественные интересы, должны быть там, гарантируя, что технологии работают во благо, для всех, сейчас и в будущем. Пришло время инвестировать в это движение.

Читайте другие истории Дженни Туми и Латаньи Суини .