Конструкция платформы — это молчаливый пилот, управляющий поведением человека.
Каждый выбор дизайна, который делают платформы социальных сетей, подталкивает пользователей к определенным действиям, ценностям и эмоциональным состояниям.
Это дизайнерское решение – предлагать новостную ленту, сочетающую проверенные источники новостей с блогами о теориях заговора, перемежаемыми фотографиями семейного пикника, без какого-либо различия между этими совершенно разными типами информации. Это дизайнерское решение – использовать алгоритмы, которые находят наиболее эмоциональный или скандальный контент для показа пользователям в надежде, что это удержит их онлайн. И это дизайнерское решение – отправлять ярко-красные уведомления, держа пользователей в ожидании следующего фото или пикантной сплетни.
Социальные сети вносят существенные изменения в то, как люди получают новости , общаются и ведут себя . Например, « бесконечная прокрутка » — это функция дизайна, призванная заставить пользователей прокручивать страницу, не доводя её до конца, где они могли бы остановиться.
Я политолог , изучающий аспекты технологий, поддерживающих демократию и социальную сплоченность , и я наблюдаю, как на них влияет дизайн платформ социальных сетей.
Демократия переживает глобальный кризис , и технологии играют в этом свою роль . Большинство крупных платформ оптимизируют свои решения для получения прибыли , а не для интересов сообщества или демократии. Технологические гиганты всё чаще встают на сторону автократов , а решения платформ помогают контролировать общество .
Однако есть и альтернативы. Некоторые компании разрабатывают онлайн-платформы для защиты демократических ценностей.
Оптимизировано для получения прибыли
Горстка технологических миллиардеров доминирует в глобальной информационной экосистеме. Без публичной ответственности и контроля они определяют, какие новости появляются в вашей ленте, какие данные они собирают и делятся.
Компании, занимающиеся социальными сетями, заявляют, что их бизнес — объединять людей, но на самом деле большую часть денег они зарабатывают, работая в качестве брокеров данных и рекламных агентств . Время, проведённое на платформах, приносит прибыль. Чем больше времени вы проводите онлайн, тем больше рекламы видите и тем больше данных они могут о вас собрать.
Эта бизнес-модель, основанная на рекламе, требует дизайна, который стимулирует бесконечную прокрутку, социальное сравнение и эмоциональную вовлеченность . Платформы регулярно заявляют, что они просто отражают поведение пользователей, однако внутренние документы и сообщения информаторов показывают, что токсичный контент часто получает поддержку , поскольку привлекает внимание людей.
Технологические компании разрабатывают платформы, основанные на обширных психологических исследованиях . Примерами служат мигающие уведомления, заставляющие ваш телефон подпрыгивать и пищать, красочные награды за лайки ваших публикаций и алгоритмы, которые выдвигают максимально эмоциональный контент, чтобы стимулировать ваши самые базовые эмоции: гнев, стыд или ликование.
Оптимизация дизайна для вовлечения пользователей подрывает психическое здоровье и общество в целом . Социальные сети предпочитают шумиху и скандалы фактической точности, а публичные манипуляции — безопасности, конфиденциальности и свободе действий пользователей . В результате преобладание поляризующей, ложной и вводящей в заблуждение информации разрушает демократию.
Многие аналитики выявили эти проблемы почти десять лет назад. Но теперь возникла новая угроза: некоторые руководители технологических компаний стремятся захватить политическую власть, чтобы продвинуть новую эру техно-автократии .
Оптимизировано для политической власти
Техноавтократия — это политическая система, в которой авторитарное правительство использует технологии для контроля над населением. Техноавтократы распространяют дезинформацию и пропаганду , используя тактику запугивания , чтобы демонизировать других и отвлечь внимание от коррупции. Они используют огромные объёмы данных, искусственный интеллект и слежку для цензуры оппонентов .
Например, Китай использует технологии для мониторинга и слежки за своим населением с помощью камер в общественных местах. Китайские платформы, такие как WeChat и Weibo, автоматически сканируют, блокируют или удаляют сообщения и публикации, содержащие такие деликатные слова, как «свобода слова». Россия продвигает внутренние платформы, такие как «ВКонтакте » , которые находятся под пристальным наблюдением и частично принадлежат государственным структурам, использующим их для политической пропаганды .
Более десяти лет назад такие технологические миллиардеры, как Илон Маск и Питер Тиль, а ныне вице-президент США Джей Ди Вэнс, начали объединяться с крайне правыми политическими философами, такими как Кёртис Ярвин. Они утверждают, что демократия препятствует инновациям , и отдают предпочтение концентрированному принятию решений в мини-государствах, контролируемых корпорациями и управляемых посредством надзора . Приняв эту философию техноавтократии, они перешли от финансирования и разработки интернета к реформированию государственного управления.
Техноавтократы используют платформы социальных сетей в качестве оружия в рамках своего плана по разрушению демократических институтов .
Политический захват X и Meta также имеет последствия для глобальной безопасности. В Meta Марк Цукерберг устранил барьеры для правой пропаганды и открыто поддержал повестку президента Дональда Трампа . Маск изменил алгоритм X, чтобы выделить контент правого толка , включая российскую пропаганду .
Разработка технологий для демократии
Осознавая влияние дизайна платформ на общество, некоторые компании разрабатывают новые платформы гражданского участия, которые поддерживают, а не ограничивают доступ общества к проверенной информации и площадкам для общественного обсуждения. Эти платформы предлагают функции дизайна, которые крупные технологические компании могли бы использовать для повышения уровня демократического взаимодействия, способного противостоять техно-автократии.
В 2014 году группа технологов основала Pol.is — технологию с открытым исходным кодом для проведения публичных обсуждений, использующую науку о данных. Pol.is позволяет участникам предлагать и голосовать за политические идеи, используя то, что они называют « вычислительной демократией ». Дизайн Pol.is позволяет избежать личных нападок, поскольку в нём нет кнопки «ответить». В нём нет яркой новостной ленты, а используются алгоритмы, выявляющие области согласия и несогласия, чтобы помочь людям разобраться в многообразии мнений. Вопрос-подсказка предлагает людям предлагать идеи и голосовать за или против других идей. Участники участвуют анонимно, что помогает сосредоточиться на проблемах, а не на людях.
Тайвань использовал платформу Pol.is для обеспечения массового гражданского участия в демократическом движении 2014 года. Лаборатория коллективного разума правительства Великобритании использовала платформу для организации общественных дискуссий и разработки новых политических предложений по вопросам климата и здравоохранения. В Финляндии общественный фонд Sitra использует Pol.is в своих публичных диалогах «Что вы думаете, Финляндия?» .
В 2017 году в Барселоне (Испания) была разработана новая платформа для демократии участия под названием Decidim. Теперь Decidim используется по всей Испании и Европе и позволяет гражданам совместно предлагать, обсуждать и принимать решения по государственной политике и бюджетам посредством прозрачных цифровых процессов.
Лауреат Нобелевской премии мира Мария Ресса основала Rappler Communities в 2023 году на Филиппинах. Эта социальная сеть объединяет журналистику, сообщества и технологии. Её цель — восстановить доверие к государственным учреждениям, предоставляя безопасные площадки для обмена идеями и общения с соседями, журналистами и организациями гражданского общества. Rappler Communities обеспечивает конфиденциальность и переносимость публичных данных , то есть вы можете переносить свою информацию — например, фотографии, контакты или сообщения — из одного приложения или платформы на другую. Эти функции недоступны на основных платформах социальных сетей.
Технологии, разработанные для улучшения общественного диалога, возможны и могут работать даже в зоне боевых действий. В 2024 году Альянс за мир на Ближнем Востоке начал использовать Remesh.ai , платформу на основе искусственного интеллекта, для поиска точек соприкосновения между израильтянами и палестинцами с целью продвижения идеи общественного мирного процесса и определения элементов соглашения о прекращении огня .
Разработка платформ — это своего рода социальная инженерия, направленная на достижение определённой цели, поскольку она формирует поведение, мышление и взаимодействие людей, часто незаметно. Разработка большего количества и более эффективных платформ для поддержки демократии может стать противоядием от волны глобальной автократии, которая всё больше подпитывается технологическими платформами, усиливающими общественный контроль.
Лиза Ширч — профессор кафедры практики исследований мира в Университете Нотр-Дам. Эта статья перепечатана из The Conversation по лицензии Creative Commons.
