Производитель ChatGPT OpenAI наметил план по предотвращению использования его инструментов для распространения дезинформации о выборах, поскольку избиратели в более чем 50 странах готовятся проголосовать на национальных выборах в этом году.
Меры предосторожности, изложенные стартапом в области искусственного интеллекта из Сан-Франциско в своем блоге на этой неделе, включают в себя сочетание уже существующих политик и новых инициатив по предотвращению злоупотребления его чрезвычайно популярными инструментами генеративного ИИ . Они могут создавать новый текст и изображения за считанные секунды, но также могут быть использованы в качестве оружия для создания вводящих в заблуждение сообщений или убедительных фальшивых фотографий.
Эти шаги будут применяться конкретно к OpenAI, всего лишь одному игроку в расширяющейся вселенной компаний, разрабатывающих передовые инструменты генеративного искусственного интеллекта. Компания, которая объявила об этих шагах в понедельник, заявила, что планирует «продолжить работу по обеспечению безопасности нашей платформы, предоставляя точную информацию о голосовании, обеспечивая взвешенную политику и повышая прозрачность».
Он заявил, что запретит людям использовать свою технологию для создания чат-ботов, которые выдают себя за реальных кандидатов или правительства, искажают то, как работает голосование, или отговаривают людей голосовать. В компании заявили, что до тех пор, пока не будут проведены дополнительные исследования убедительной силы ее технологии, она не позволит своим пользователям создавать приложения для целей политической кампании или лоббирования.
По словам OpenAI, «в начале этого года» компания будет ставить цифровые водяные знаки на изображениях искусственного интеллекта, созданных с помощью генератора изображений DALL-E. Это позволит навсегда пометить контент информацией о его происхождении, что облегчит определение того, было ли изображение, появляющееся в другом месте в сети, создано с помощью инструмента искусственного интеллекта.
Компания также заявила, что сотрудничает с Национальной ассоциацией государственных секретарей, чтобы направлять пользователей ChatGPT, которые задают логистические вопросы о голосовании, к точной информации на беспартийном веб-сайте этой группы CanIVote.org .
Мекела Пандитаратне, советник программы демократии в Центре юстиции Бреннана, сказала, что планы OpenAI являются позитивным шагом в борьбе с дезинформацией о выборах, но это будет зависеть от того, как они будут реализованы.
Например, насколько исчерпывающими и всеобъемлющими будут фильтры при пометке вопросов, касающихся избирательного процесса?» она сказала. «Будут ли предметы, которые проскользнут сквозь трещины?»
ChatGPT и DALL-E от OpenAI — одни из самых мощных инструментов генеративного ИИ на сегодняшний день. Но есть много компаний с такими же сложными технологиями, у которых нет таких мер защиты от дезинформации о выборах.
Хотя некоторые компании, занимающиеся социальными сетями, такие как YouTube и Meta, ввели политику маркировки ИИ, еще неизвестно, смогут ли они последовательно ловить нарушителей.
«Было бы полезно, если бы другие компании, занимающиеся генеративным искусственным интеллектом, приняли аналогичные рекомендации, чтобы можно было обеспечить соблюдение практических правил в масштабах всей отрасли», — сказал Даррел Уэст, старший научный сотрудник Центра технологических инноваций Брукингского института.
Без добровольного принятия такой политики во всей отрасли регулирование дезинформации, создаваемой ИИ в политике, потребует принятия законодательства. В США Конгрессу еще предстоит принять закон, направленный на регулирование роли отрасли в политике, несмотря на некоторую двухпартийную поддержку. Между тем, более трети штатов США приняли или внесли законопроекты о борьбе с дипфейками в политических кампаниях, поскольку федеральное законодательство застопорилось.
Генеральный директор OpenAI Сэм Альтман сказал, что даже при наличии всех мер безопасности его компании, его душа неспокойна.
«Я думаю, это хорошо, что у нас много беспокойства, и мы собираемся сделать все возможное, чтобы сделать все как можно лучше», — сказал он во время интервью во вторник на мероприятии Bloomberg во время Всемирного экономического форума в Давосе, Швейцария. «В этом году нам придется следить за этим невероятно внимательно. Супержесткий мониторинг. Очень плотная петля обратной связи». ___
Ассошиэйтед Пресс получает поддержку от нескольких частных фондов для улучшения разъяснительного освещения выборов и демократии. Подробнее о демократической инициативе AP можно узнать здесь . AP несет полную ответственность за весь контент.
