Что правительствам следует знать о цифровом участии и ИИ

Поскольку цифровое участие и ИИ приобретают все большее значение в процессах участия, правительствам и организациям требуется руководство для навигации в этом пространстве, особенно при выборе и использовании соответствующих цифровых инструментов для их конкретных контекстов. В феврале мы опубликовали наши последние рейтинги цифрового участия , в которых мы оценили 30 инструментов цифрового участия (некоторые из которых являются платформами цифрового участия с поддержкой ИИ) и составили профили еще 17 инструментов с поддержкой ИИ. 

В этой статье мы делимся идеями и тенденциями, полученными из наших исследований и рейтингов, в том числе тем, как платформы интегрируют ИИ и что правительствам следует учитывать при подходе к этой новой технологии .

Мир цифровых платформ участия 

Инструменты с самым высоким рейтингом в этом выпуске в основном имеют открытый исходный код, включая Your Priorities , CONSUL , Decidim , adhocracy+ , Democracia OS , LiquidFeedback и Pol.is , а также некоторые фирменные платформы, такие как Go Vocal , Loomio и Cap Collectif . Эти платформы получили высокие баллы по шести ключевым критериям оценки. Эксперты нашего комитета по цифровому участию считают их экономически эффективными, надежными, доступными и адаптируемыми, с минимальными техническими требованиями, комплексными функциями, надежной защитой данных и прозрачной модерацией.

Цифровые инструменты для демократии участия и вовлечения граждан теперь используются в большинстве стран, включая все уровни правительства, университеты, международные организации, неправительственные организации, фонды, корпорации, профсоюзы и другие политические институты. Эти инструменты использовались для борьбы с изменением климата, совместного проектирования общественных пространств, муниципальных бюджетов, гендерных вопросов, здравоохранения, жилья, инфраструктуры, образования, управления отходами, разработки политики и многого другого.

• Согласно нашему исследованию, большинство платформ находятся в Соединенных Штатах, Канаде и Европе , особенно в Великобритании, и в основном используются в Европе, Северной Америке, Океании и Южной Америке. Некоторые расширились до Африки и Азии, например, Your Priorities ( Таиланд) , Consul ( Сомали ), Decidim ( Япония ), Go Vocal ( Южная Африка ), Decision21 ( Замбия ) и Pol.is ( Пакистан ). Некоторые по-прежнему сосредоточены на определенных странах, например, Cocoriko, Courbanize и Open Stad.

• Цены варьируются от бесплатных для платформ с открытым исходным кодом до 20 000 долларов США в год для фирменных инструментов, хотя некоторые платформы не раскрывают стоимость публично, требуя от потенциальных клиентов запрашивать дополнительную информацию (а часто и совершать коммерческие звонки). 

• Большинство платформ были запущены в период с 2008 по 2019 год , причем Delib (основанная в 2001 году) является самой долгоживущей в нашей выборке. EngagementHQ, Your Priorities, LiquidFeedback, Ethelo и Consider.it были созданы в период с 2007 по 2011 год. Английский является наиболее часто поддерживаемым языком, за ним следуют французский, испанский и немецкий, хотя большинство платформ поддерживают дополнительные переводы. 

• Большинство платформ поддерживают процессы участия, которые могут быть «ориентированы на метод» (например, обсуждение, составление бюджета с участием) и/или «ориентированы на цель» (например, консультация, планирование, построение консенсуса). Из 30 оцененных платформ большинство предназначены для процессов обсуждения, за которыми следует составление бюджета с участием, и около половины поддерживают общественные консультации, разработку политики с участием и планирование. 

ИИ встречает цифровое участие: основные моменты и тенденции

Со временем технологии ИИ были интегрированы в большинство платформ, которые мы оценили. Хотя многие платформы ранее использовали ИИ и обработку естественного языка, с ростом популярности генеративного ИИ они начали открыто использовать эту технологию для внедрения новых функций, которые улучшают процессы участия. Следовательно, правительства и организации все больше интересуются обещаниями и проблемами ИИ в демократических процессах. Основываясь на нашем исследовании 30 платформ, использующих ИИ, вот что должны знать правительства и организации. 

Состав инструментов ИИ

Разработчики платформы цифрового участия активно создают, тестируют и запускают важные функции и возможности ИИ. Некоторые платформы, такие как Crowdsmart, сосредотачивают ИИ в своей основе, в то время как другие предлагают ИИ в качестве дополнения или интегрируют существующие основные сервисы, такие как ChatGPT. Известные платформы, включая Adhocracy+, Make.org, Empurrando Juntas, Decidim, Consul, 76 Engage, Social PinPoint, EngagementHQ и Go Vocal, все вовлечены в эту работу. Однако во многих случаях функции генеративного ИИ все еще находятся на ранней стадии разработки и остаются экспериментальными.

Слайды с нашего недавнего вебинара по искусственному интеллекту и цифровой демократии, посвященного возможностям и рискам

Некоторые платформы сообщают, что, хотя они и занимаются инновациями и изучают способы использования ИИ , они обеспокоены воздействием систем ИИ на окружающую среду, поскольку затраты на электроэнергию, необходимые для питания ИИ, могут поставить под угрозу цели устойчивого развития. Разработчики также изучают вопросы конфиденциальности данных, этических соображений и непреднамеренных предубеждений, поскольку эффективность моделей ИИ в значительной степени зависит от количества и качества данных, на которых они обучаются. В то же время разработчики платформ с участием признают потенциал ИИ для повышения эффективности, упрощения принятия решений на основе данных, повышения доступности и содействия инклюзивности в процессах с участием. Например, ИИ уже помогает снижать языковые барьеры в программах с участием. 

Большинство платформ подчеркивают необходимость «информировать людей» о функциях ИИ и позволяют администраторам программ отказаться от использования ИИ. Человеческий надзор помогает обеспечить инклюзивные результаты и ограничивает влияние алгоритмических предубеждений. В большинстве случаев ИИ, по-видимому, в первую очередь используется для анализа после участия, а не для поддержки основных совместных действий, за некоторыми исключениями. Когда ИИ поддерживает участие, это обычно проявляется в виде помощи в составлении текстов, предложений или поддерживающего чат-бота для помощи участникам. Функции ИИ на основе обработки естественного языка, такие как извлечение тем, анализ настроений и классификация, являются обычными и появились еще до бума генеративного ИИ.

Поддерживаемые функции и возможности

Большинство функций помогают участникам и/или администраторам, взаимодействуя с текстовыми вкладами участников каким-либо образом , например, переводом, резюме, классификацией, синтезом и модерацией. Хотя функции ИИ часто предназначены для поддержки или помощи администраторам программ (например, с обзорными панелями или резюме активности), некоторые функции, такие как чат-боты или «помощники пользователей ИИ», предназначены для помощи участникам. Например, агент чата может помочь провести граждан через процессы участия и помочь им, если они застрянут на каком-либо этапе процесса. 

Перевод AI является наиболее часто используемой функцией AI , появляющейся на 19 из 30 исследованных нами платформ. Это демонстрирует привлекательность приложения для платформ участия, чтобы охватить как можно больше сообществ. Он обычно используется для перевода материалов, таких как учебные документы, пригласительные письма и сообщения в социальных сетях, которые затем могут быть проверены и улучшены людьми. 

Следующая наиболее распространенная функция ИИ — анализ настроений , который позволяет администраторам понимать общий эмоциональный тон (положительный, отрицательный или нейтральный настрой) участников из большого количества отзывов. Хотя методы кластеризации были обнаружены более чем на трети платформ, группируйте схожие идеи и контент, отправленный пользователями. Другие распространенные функции ИИ включают сокращение токсичного контента, модерирование обсуждений, резюмирование длинных текстов и руководство пользователями через процессы участия с помощью чат-ботов или помощников ИИ. Некоторые платформы запустили более продвинутые генеративные функции ИИ, такие как визуализация физических мест в своих сообществах посредством генерации изображений или помощь в формировании репрезентативных групп. 

Вот некоторые примечательные примеры использования ИИ на рассмотренных нами платформах:

• All Our Ideas и Assembl (Bluenove) применяют генеративный ИИ на всех своих платформах, помогая участникам осмысливать обсуждения с помощью повествовательных инструментов, ментальных карт и методов повествования.

• UrbanistAI моделирует результаты политики, визуализируя влияние вмешательств, таких как изменения транспортного потока и качества воздуха, на здоровье сообщества.

• Make.org интегрирует байесовский алгоритм обучения в свой процесс участия, чтобы обеспечить рандомизированный и справедливый выбор предложений для голосования.

• Polco использует своего чат-бота на основе искусственного интеллекта Polly для анализа данных об участии, выработки стратегических идей и оказания помощи в создании контента, написании грантов и организационном планировании.

• PlaceSpeak , deliberAIde и Стэнфордская онлайн-платформа обсуждения сосредоточены на качестве и модерации контента, используя ИИ для анализа настроений, удаления личной информации, подталкивания пользователей и поддержания обсуждений в соответствии с повесткой дня.

Что следует учитывать правительствам и организациям при использовании цифровых платформ участия на базе искусственного интеллекта

• Во-первых, администраторы должны убедиться, что любой выбранный ими инструмент ИИ соответствует всем принципам или правилам ИИ, реализованным в их учреждении, как по духу, так и на практике.

• Далее правительствам и организациям необходимо рассмотреть свои внутренние требования к емкости для самостоятельного использования инструмента. Они должны оценить, предоставляется ли администраторам и конечным пользователям специализированное обучение по ИИ, поскольку настройка инструмента ИИ может потребовать высокого уровня вовлеченности команды, что делает администраторов в значительной степени зависимыми от владельцев продукта.

• Любое применение ИИ должно поддерживать значимый публичный вклад и быть прозрачным для пользователя, т. е. пользователь должен быть проинформирован о том, что он использует систему ИИ. Также должно быть ясно, как ИИ используется в принятии решений, какие данные используются и какую роль ИИ играет в формировании результатов.

• Выбирая платформу для участия на базе искусственного интеллекта, ищите те, которые сводят к минимуму предвзятость и ошибки , особенно те, которые обучены на специализированных данных. 

• Отдавайте приоритет инструментам, которые позволяют гражданам формировать решения , а не заменяют человеческое участие. Обычный гражданин, как правило, является новичком в использовании цифровых инструментов участия, не говоря уже об ИИ. Поэтому эффективное участие требует от правительств и организаций просвещения и расширения прав и возможностей общественности относительно того, как работают эти инструменты.

• Перевод с помощью ИИ , как правило, эффективен для языков с высоким уровнем ресурсов — языков с богатыми ресурсами данных, таких как английский, — но менее эффективен для перевода языков с низким уровнем ресурсов . Учитывая, что подавляющее большинство языков в мире не имеют достаточных ресурсов, это несоответствие может усугубить неравенство в процессах участия, поскольку носители языков с высоким уровнем ресурсов получают более качественные переводы по сравнению с носителями языков с низким уровнем ресурсов. 

• С точки зрения этики и прозрачности администраторам необходимо понимать, как ИИ используется на платформе . Это включает в себя алгоритмическую прозрачность — могут ли администраторы понимать, как генерируются результаты? Эти соображения могут помочь вам подготовиться и устранить потенциальные предубеждения в результатах, производимых системами ИИ, а также ограничения доступности для вашего сообщества. 

Приглашаем вас поделиться практическими примерами: поделитесь своим опытом использования инструментов цифрового участия на базе искусственного интеллекта!

После публикации наших рейтингов инструментов цифрового участия в феврале мы разрабатываем подробные тематические исследования, чтобы выделить лучшие практики по всему миру. В настоящее время мы идентифицируем примеры цифрового участия и приложений ИИ, которые привели к явным преимуществам для правительств, организаций и сообществ. Наша цель — исследовать, разрабатывать и делиться ключевыми примерами, в которых цифровое участие и/или инструменты ИИ были применены к процессам участия и обсуждения, оценивая как преимущества, так и проблемы, возникающие на этом пути.