Когда премьер-министр Швеции Ульф Кристерссон небрежно признался, что использует ChatGPT для получения «второго мнения» по вопросам политики, это вызвало споры, далеко выходящие за рамки одного приложения. Избиратели ожидают, что лидеры будут взвешивать факты и принимать взвешенные решения, а не передавать решения алгоритмам. Однако Швеция не одинока. В Албании правительство пошло ещё дальше, применив ИИ для борьбы с коррупцией и создав Министерство ИИ .
Эти случаи выявляют более серьезную дилемму: как отличить ИИ, который служит общественным интересам, от ИИ, который молча подрывает их?
Почему потребительские инструменты неэффективны в государственном управлении
Большие языковые модели общего назначения обучаются на интернет-текстах, чтобы выдавать правдоподобные ответы. Они звучат безупречно и убедительно, когда выражают уверенность, но часто могут быть совершенно неверными. В них отсутствуют механизмы проверки, требования к цитированию, и они не различают фактическую точность и статистическую правдоподобность. Как написал один шведский колумнист : «Чат-боты скорее напишут то, что, по их мнению, вы хотите услышать, чем то, что вам нужно услышать».
Ещё большую озабоченность вызывает зависимость от инфраструктуры, которую создают эти инструменты. Когда политические лидеры вносят свои политические соображения в ChatGPT или другие программы магистратуры по управлению правами (LLM), они сталкиваются с системами, в которых, согласно исследованию Инициативы по определению происхождения данных Массачусетского технологического института (MIT), «не раскрываются источники обучения, что в конечном итоге приводит к снижению понимания данных обучения». Эта непрозрачность становится особенно проблематичной в сочетании с иностранным контролем: европейские лидеры рискуют передать принятие решений на аутсорсинг компаниям, контролируемым США. Это поднимает важные вопросы суверенитета данных: кто в конечном итоге контролирует эту информацию и что происходит с конфиденциальными политическими обсуждениями после того, как они покидают национальные серверы? Опираясь на частные иностранные платформы, европейские лидеры рискуют передать свою цифровую инфраструктуру на аутсорсинг и создать зависимость, которая может ослабить будущую независимость политики.
Недавнее объявление OpenAI о партнёрстве с правительством США, предлагающем всем федеральным служащим страны доступ к ChatGPT за 1 доллар в год, подчёркивает эту проблему. OpenAI обещала «надёжные гарантии, высокую прозрачность и глубокое уважение» к «общественной миссии». Однако эти корпоративные заявления не опираются на рамки государственной политики, поскольку являются частными компаниями, устанавливающими условия работы правительств.
Как должен выглядеть искусственный интеллект, пригодный для общественного использования
Важно понимать, как и когда правильно использовать ИИ в политике. При правильном подходе преимущества огромны.
Возьмём, к примеру, медицину. Недавнее исследование журнала Lancet Oncology в Швеции показало, что ИИ, работающий совместно с рентгенологами, выявил на 20% больше случаев рака молочной железы, чем рентгенологи, работающие в одиночку. Похоже, эта технология способна обнаруживать даже самые незначительные признаки рака на ранней стадии, которые человеческий глаз может не заметить. Благодаря более точному анализу данных и распознаванию образов с помощью правильного ИИ удалось спасти жизни.
Государственная политика заслуживает такого же специализированного подхода. Поскольку решения затрагивают миллионы, лидерам следует использовать концепцию «государственного ИИ» — систем, созданных или, по крайней мере, находящихся в собственности или управлении государственно-частных консорциумов, специально для общественного блага и под демократическим контролем, а не полагаться на чат-ботов потребительского уровня, которые часто реагируют словами, которые эксперты называют « галлюцинациями » .
Людям необходимо создавать специализированные инструменты для реализации государственной политики. Системы, которые агрегируют проверенные данные – из открытых баз данных, из исследований политики и передового мирового опыта, – содержат перекрестные ссылки на достоверные источники и выявляют новые сигналы и закономерности, одновременно поддерживая четкие аудиторские следы, которые должны проверяться пользователями.
На практике это означает создание специализированных платформ для консультаций и рекомендаций по вопросам политики. В последнем докладе ОЭСР об управлении с помощью ИИ особо отмечены такие инструменты, как британский AI Consultation Analyzer, который расширяет возможности правительства по анализу мнений граждан в ходе общественных консультаций по правовым вопросам, гарантируя, что все голоса будут услышаны. Помимо консультаций, специализированные компании разрабатывают ИИ для моделирования политики: PolicyEngine имитирует влияние изменений политики на бюджеты и граждан, а такие платформы, как Futures, используют машинное обучение для выявления тенденций, рисков и поддержки прогнозирования в целях стратегического планирования.
Наличие качественных данных — это фундаментальная задача для более глубокого понимания ситуации. Страны с эффективными стратегиями работы с данными , такие как Дания, Корея и Швеция, могут значительно улучшить процесс принятия политических решений с помощью ИИ, сохраняя при этом демократическое управление.
ИИ также открывает новые возможности для демократического участия. В Калифорнии, после разрушительных лесных пожаров в Лос-Анджелесе в начале 2025 года, организация Engaged California использовала анализ с помощью ИИ для составления более 1000 подробных ответов жителей в четкие и применимые на практике выводы, сохраняя при этом родной язык жителей и подчеркивая общие проблемы, связанные с жильем, страхованием и долгосрочной устойчивостью. Эти инструменты позволяют учитывать весь спектр мнений, собирая обратную связь по немедленным действиям, а также по средне- и долгосрочной политике. Таким образом, ИИ усиливает демократическое участие, а не подменяет демократические функции.
Что нужно, чтобы туда попасть?
Для успеха этих подходов странам нужно нечто большее, чем просто подготовленные лидеры. Европейский подход должен стать своего рода программой, но он пока находится на ранней стадии развития. Закон ЕС об искусственном интеллекте устанавливает важные принципы, но не содержит конкретных требований к развитию общественной инфраструктуры. Существующие в Европе суперкомпьютеры EuroHPC были разработаны для научных исследований, а не для обучения универсальных или генеративных моделей искусственного интеллекта. Они не рассчитаны на коммерческое или государственное использование в больших масштабах.
Разрыв в инфраструктуре значителен. США недавно объявили о выделении 500 миллиардов долларов на инициативу «Звёздные врата» на развитие инфраструктуры ИИ, в то время как, по оценкам , к 2030 году Европе потребуется 500–700 миллиардов евро, чтобы обеспечить 16% мировых вычислительных мощностей для ИИ пропорционально её экономическому весу.
Это создаёт структурные недостатки во всех секторах. Без инвестиций в инфраструктуру европейские институты остаются зависимыми от иностранных платформ.
Нам также необходимы гармонизированные нормативные рамки, выходящие за рамки текущих усилий. Поскольку Закон об ИИ устанавливает стандарты прозрачности и подотчётности, в государствах-членах также должны быть более эффективные механизмы взаимодействия в сфере ИИ. Кроме того, обязательный аудит систем ИИ, используемых в государственном управлении, и чёткие правила обработки данных являются необходимыми минимальными требованиями.
Самое важное для стран — это государственно-частное партнёрство. Это не означает исключение частных инноваций, которые, как мы знаем, играют основополагающую роль. Это означает создание государственных структур искусственного интеллекта, где компании будут сотрудничать с правительствами под более чётким контролем, с советами по этике, в состав которых войдут организации гражданского общества, что позволит системам отражать интересы различных сообществ.
Это не страх перед будущим. Это признание того, что государственная политика требует иных стандартов, чем потребительские технологии. Когда врачи используют ИИ для диагностики рака, они используют системы, специально обученные работе с медицинской визуализацией, проверенные строгими испытаниями и применяемые в соответствии с чёткими протоколами. Государственная политика требует тех же стандартов.
Мир находится на перепутье. ИИ изменит систему управления и государственную политику; это неизбежно, как и во многих других сферах нашего общества. Главный вопрос заключается в том, создадут ли демократические общества собственную инфраструктуру ИИ или же они скатятся в будущее, где «министры ИИ» будут появляться без какой-либо ответственности, а зависимость от частных платформ будет тайно устанавливать правила.
Надлежащее обучение имеет основополагающее значение для использования технологий. Руководители должны не просто утверждать правила, но и глубоко понимать их применение, ограничения и, в частности, перспективы развития. ИИ может действительно помочь — агрегируя мнения общественности, выявляя закономерности в разнообразных данных и моделируя сценарии. Но человеческое суждение всегда должно определять окончательные решения. Это не опционально. Это демократия, работающая бок о бок с технологиями.
Маргрете Вестагер, бывший руководитель цифрового ведомства ЕС, заявила : «То, как мы обращаемся с технологиями, также показывает, чего мы ожидаем от нашей демократии и наших обществ». Лидеры правительств должны ожидать, что технологии будут служить демократическим ценностям, а не подрывать их по неосторожности или даже наивности.
Формирование политики требует большего, чем просто чат-боты для потребителей или неопределённые роли, управляемые искусственным интеллектом, в правительстве. Для этого необходим разумный, уверенный и ответственный подход, сочетающий инновации с ответственностью. Граждане заслуживают этого от своих лидеров.
Автор: Педро Таварес
Педро Таварес — соучредитель и генеральный директор GovHorizon, платформы, использующей ИИ для анализа тенденций в сфере управления и политики для принятия стратегических решений в государственном и частном секторах. Он специализируется на цифровом управлении, политических концепциях на основе ИИ и создании инициатив, ориентированных на граждан, которые достигают поставленных целей .
Источник:
https://www.techpolicy.press/when-politicians-mistake-ai-hype-for-strategy/
