Тим Бернард о результатах «Убедительного эффекта политического микротаргетинга в эпоху генеративного искусственного интеллекта», новой статьи Альмога Симхона, Мэтью Эдвардса и Стефана Левандовски, опубликованной в PNAS Nexus.
С тех пор, как ChatGPT был выпущен в конце 2022 года, было много предположений о рисках для общества, связанных с генеративным искусственным интеллектом, но мы видели относительно мало проблесков их реализации: списывание домашних заданий , адвокаты, цитирующие случаи галлюцинаций , даже изображения Тейлор Свифт. Какими бы вредными они ни были, возможно, они не достигли уровня «цивилизационной опасности», но дело о выборах в Словакии и звонки роботов в Нью-Гэмпшире вызывают серьезную обеспокоенность. Недавнее исследование трех исследователей из Бристольского университета исследует еще один распространенный страх: может ли генеративный искусственный интеллект обеспечить пугающе эффективные целевые политические кампании?
Это не новый страх. Как говорится в документе, Cambridge Analytica заявила, что может использовать данные Facebook для определения личностных качеств людей и использовать эту информацию для создания чрезвычайно убедительных политических кампаний. Публичное разоблачение этих претензий, а также ряда должностных преступлений со стороны компании (а также того факта, что они работали над некоторыми успешными, но противоречивыми целями, включая президентскую кампанию Трампа 2016 года и кампанию за выход из ЕС), вызвало серьезную обеспокоенность. Однако более поздние открытия показали, что Cambridge Analytica на самом деле не обладала заявленными способностями. Но смогут ли будущие попытки объединить огромные объемы личных данных – будь то на платформах социальных сетей или на серверах брокеров данных – с политическими коммуникациями, реализовать основную идею коммерческого предложения ныне несуществующей компании?
Действительно, новое исследование призвано продемонстрировать, что на этот раз все по-другому. Авторы ссылаются на несколько прошлых исследований последних лет, которые послужили основой для этого. Первым важным строительным блоком являются исследования, которые устанавливают, что личные качества, в том числе личностные качества «большой пятерки», могут быть надежно выведены из онлайн-информации. Во-вторых, микротаргетинг на людей с сообщениями, адаптированными к их собственным качествам, оказался в определенных ситуациях более убедительным в статистически значимой степени.
Где появляется генеративный ИИ? Эта технология способна сделать ранее очень трудоемкую работу по микротаргетингу легко масштабируемой, если она сможет:
- Адаптируйте текст политических сообщений для разных сегментов аудитории и
- Убедитесь, что сгенерированный текст понравится целевому сегменту.
Исследователи рассмотрели эти вопросы в двух сериях исследований:
В исследовании 1 использовалась настоящая политическая реклама из Facebook; использовали большую языковую модель (LLM), чтобы оценить их привлекательность по личностному измерению «открытость к опыту»; и попросили испытуемых оценить их воспринимаемую убедительность, а затем пройти тест, чтобы оценить их личностную черту «открытость к опыту». Это исследование показало положительные результаты, указывающие на то, что модели могут, по сути, определить, какие сообщения будут наиболее убедительными для людей с разной степенью устоявшихся черт личности.
В исследовании 2 LLM использовались для создания различных версий существующей политической рекламы: одной для тех, у кого высокие оценки открытости, и одной для тех, у кого низкие оценки открытости. Поскольку в ходе исследования 1 уже было установлено, что модели могут идентифицировать убедительные сообщения для людей с разными оценками, сгенерированные сообщения оценивались LLM для подтверждения их эффективности таргетинга.
В совокупности исследования, проведенные в статье, показывают, что LLM можно использовать для легкой разработки эффективной и масштабной политической рекламы с микротаргетингом. Величина эффекта рекламы в экспериментах была довольно небольшой, но, как отмечают авторы, на закрытых выборах небольшая доля дополнительных избирателей может иметь решающее значение. Это вызывает особую обеспокоенность в таких демократических странах, как США, где результаты в сильно разделенных колеблющихся штатах могут решить исход президентских выборов всего с перевесом в несколько тысяч голосов.
В документе прямо определяется эта возможность как угроза честным выборам, отмечая, что микротаргетированный контент может быть «неправдивым или манипулируемым, или и тем, и другим», и утверждая, что преимущества технологии будут использованы в крупнейших кампаниях (другие хвалят технологию за ее способность чтобы выровнять правила игры и позволить небольшим кампаниям использовать преимущества методов, уже используемых гигантами).
Авторы предлагают свои выводы в качестве доказательства, которое регуляторы и политики должны принять во внимание, и предлагают одно собственное предложение: можно разработать прогностическую модель (предположительно с помощью служб электронной почты и рекламных платформ), чтобы предупреждать пользователей о том, когда они просматривают микротаргетированные объявления. содержание кампании, тем самым снижая ее эффективность.
Понятно, что кампании будут использовать любые (надеюсь, законные!) средства, имеющиеся в их распоряжении, чтобы улучшить свои результаты, и поэтому, если этот метод действительно работает, он будет использован. Производитель одной из наиболее известных платформ генеративного искусственного интеллекта (одной из систем, использованных в исследовании) хотел бы, чтобы его продукты не использовались для подобных кампаний в больших масштабах. Но хотя политика OpenAI запрещает создавать собственные приложения с использованием их API для работы в избирательных кампаниях, существуют и другие модели, в том числе с открытым исходным кодом, и уже существуют компании, специализирующиеся на использовании ИИ для политических кампаний .
Ожидать, что платформы разработают и внедрят эффективные контрмеры, может быть довольно оптимистично. Но даже без конкретной информации о том, какие коммуникации являются микротаргетинговыми, общественность все равно может адаптироваться. Если микротаргетинговая реклама станет новой нормой (в политике и вне ее), как это произошло с таргетированной рекламой, мы не знаем, сможет ли сохраниться ее дополнительная мера эффективности, подтвержденная в этой статье. В любом случае, волна выборов 2024 года по всему миру, скорее всего, станет свидетелем нескольких живых экспериментов.
