City AI Connection — это серия публикаций о новых идеях в области искусственного интеллекта с упором на применение в государственном секторе. Первоначально эти статьи публикуются исключительно в сообществе City AI Connect, а затем — на веб-сайте Центра передового опыта в области государственного управления Bloomberg в Университете Джонса Хопкинса govex.jhu.edu. City AI Connect — это глобальное обучающее сообщество и цифровая платформа для городов, где можно опробовать и продвигать использование генеративного искусственного интеллекта для улучшения государственных услуг.
С момента запуска ChatGPT от OpenAI в ноябре 2022 года организации по всему миру изучали, как использовать возможности ИИ для упрощения, оптимизации и, в некоторой степени, автоматизации своей работы. Города сделали то же самое, хотя аспект работы города, ориентированный на общественность, требует некоторых дополнительных мер предосторожности при использовании ИИ для обеспечения соблюдения принципов безопасности, защиты и конфиденциальности. В результате города в значительной степени приняли сервисно-ориентированный подход к внедрению инструментов ИИ, в частности, больших чат-ботов на основе языковой модели, чтобы обслуживать своих жителей таким образом, чтобы увеличить масштаб таких усилий, не ставя под угрозу безопасность и прозрачность.
Буэнос-Айрес, один из первых городов, присоединившихся к Bloomberg Philanthropies City Data Alliance, стал пионером в использовании чат-ботов на основе искусственного интеллекта для повышения качества обслуживания, запустив своего помощника «Boti» в 2019 году, а Вашингтон, округ Колумбия, еще один город в Альянсе, выпустил аналогичного чат-бота в прошлом году. Совсем недавно, в феврале 2024 года, Денвер запустил «Sunny», чат-бот на основе искусственного интеллекта, предназначенный для ответов на вопросы жителей по неэкстренным вопросам. Работающий на Citibot (сторонний поставщик), Sunny присутствует на каждой странице городского веб-сайта. Его приглашение «Let’s Chat» переведено на четыре языка, что отражает не только разнообразное население города, но и его инклюзивность в учете различных потребностей его основных пользователей.
По словам Лоры Данвуди, директора по работе с жильцами Денвера, Sunny изначально был разработан для быстрого ответа на вопросы жильцов. Часто, если жильцы ищут информацию о конкретной услуге или форме, им приходится долго искать, чтобы перейти на нужную веб-страницу. С Sunny, вместо того, чтобы тратить время на поиск ответов (что часто требует прочтения увесистых материалов, чтобы найти нужную форму или ссылку), жильцы могут быстро получить то, что им нужно, за одну или две подсказки.
Альберто Антенанджели, старший ведущий архитектор данных в консалтинговой компании, описывает эту функцию Sunny как «генерацию дополненного поиска». Чтобы этот атрибут работал для города, чат-бот должен быть обучен с использованием очень специфичного городского контента, а не общей базы знаний, такой как та, которую использует ChatGPT. В противном случае, когда жители задают вопросы, чат-бот может извлекать информацию с веб-страниц других городов или из других источников, которые не имеют отношения к конкретному городу этого жителя.
Помимо сбора информации, адаптированной под конкретные запросы жителей, Sunny также может служить точкой входа для жителей, чтобы загружать фотографии и сообщать о вещах, имеющих отношение к городским чиновникам, например, о незаделанных выбоинах. Антенанджели описывает этот второй тип услуг, предоставляемых Sunny, как «автоматизацию колл-центра». С помощью этой функции чат-боты не только создают диалог с пользователем и извлекают для него информацию, но и извлекают необходимую информацию из пользователей, чтобы помочь им заполнять формы, подавать отчеты или обрабатывать документы. Здесь парадигма из расширенной генерации поиска, где пользователь отвечает за направление разговора, теперь смещена к чат-боту, который направляет разговор в сторону получения от пользователя информации, необходимой для заполнения документа или отчета.
Обязательно, в обоих случаях использования, необходимо предусмотреть достаточное количество мер безопасности, чтобы чат-боты были готовы к публике. Данвуди описывает тактику, которую использовала ее команда, известную как «red-teaming», когда тестировщики задают боту деликатные или даже «неуместные» вопросы в попытке «сломать бота». Когда команда ловит ответы, которые являются непрофессиональными, неточными или неуместными, они могут вернуться и выстроить ограждения, чтобы гарантировать, что это не произойдет в реальном времени. Антенанджели считает, что именно здесь может помочь «оперативная инженерия»: с некоторыми специализированными инструкциями чат-боты могут быть защищены от «джейлбрейка» или открыты для общей базы знаний, поскольку они извлекают информацию для пользователей.
И Данвуди, и Антенанджели согласны, что генеративный ИИ имеет потенциал для использования за пределами дополнения поиска и автоматизации колл-центров. Фактически, Антенанджели утверждает, что при наличии соответствующего количества мер безопасности чат-боты ИИ в конечном итоге могут быть использованы для содействия внедрению и соблюдению политики. Например, если пользователи спрашивают чат-ботов о текущей политике в отношении зонирования или строительных норм, чат-бот может переварить большие объемы политики, обобщить их и извлечь правила, имеющие отношение к пользователю. «Вы можете анализировать политику и извлекать обязательства, относящиеся к этой политике», — говорит Антенанджели. «ИИ может помочь в этом», если будет существовать этическая и ответственная структура для разработки ИИ.
Помимо защиты данных от несанкционированного доступа или сокрытия конфиденциальной информации от публичного использования, Антенанджели добавляет, что инструменты ИИ должны в первую очередь использоваться как «компаньоны производительности» и что даже в этих случаях «вы должны четко сообщать, где используется ИИ», чтобы всегда была прослеживаемая линия от инструмента ИИ до результата. Тем не менее, Антенанджели говорит, что всегда должен быть «человек в цикле», чтобы постоянно проверять сгенерированные ИИ ответы для оптимизации подсказок и повышения качества. «Поскольку в конечном итоге это все статистический процесс, всегда есть вероятность, что вы получите неверные результаты», — объясняет Антенанджели.
Тем не менее, обещание использования генеративного ИИ для городских решений остается захватывающей инновацией. Что касается Санни, Данвуди признает, что, хотя это все еще относительно новое и все еще находится на начальной стадии, сила использования ИИ продолжает расти и совершенствоваться в ее городе. «Просто знайте, что это худшее, что когда-либо будет, и это уже очень хорошо», — говорит Данвуди. «С этого момента будет только лучше!»
Доктор философии Лайла Сорурбахш является директором Академии GovEx.
Источник:
https://govex.jhu.edu/blog/2924/