«Это по-прежнему работает даже для людей, которые сильно не доверяют ИИ».
Дядя, который считает, что 11 сентября не было. Сосед, который думает, что Байден украл выборы 2020 года. Редактор Nieman Lab, который, как известно, задается вопросом, существуют ли на самом деле инопланетяне и скрывает ли их правительство США.
Вы, вероятно, не хотите разговаривать с этими людьми и убеждать их в том, что они неправы. Но что, если чат-бот на основе искусственного интеллекта мог бы сделать это за вас? Именно это только что сделала группа исследователей. В своей рецензируемой статье « Надежное снижение убеждений в заговоре посредством диалогов с искусственным интеллектом », представленной на обложке журнала Science на этой неделе, Томас Костелло из Американского университета, Гордон Пенникук из Корнелла и Дэвид Рэнд из Массачусетского технологического института объясняют, как они заставили 2190 американцев, верящих в заговор, участвовать в кратком, но подробном разговоре с большой языковой моделью GPT-4 Turbo.
Эти разговоры сработали: они «снижали веру участников в выбранную ими теорию заговора в среднем на 20%», пишут авторы. Эффект «сохранялся неизменным в течение как минимум 2 месяцев» и «последовательно наблюдался в широком спектре теорий заговора, от классических заговоров, связанных с убийством Джона Ф. Кеннеди, инопланетянами и иллюминатами, до тех, которые касались таких актуальных событий, как COVID-19 и президентские выборы в США 2020 года, и наблюдался даже у участников, чьи убеждения в заговоре были глубоко укоренившимися и важными для их идентичности».
Исследования показывают, что, вопреки распространенному мнению, что людей, оказавшихся «в кроличьей норе», спасти невозможно, на самом деле их можно вернуть. Они также предлагают убедительную демонстрацию «потенциальных положительных эффектов генеративного ИИ при ответственном развертывании», пишут авторы, — и «насущной важности минимизации возможностей для безответственного использования этой технологии».
Дэвид Рэнд , соавтор исследования и профессор кафедры менеджмента и когнитивных наук имени Эрвина Х. Шелла в Массачусетском технологическом институте, сказал мне, что это исследование является новым. Он уверен, что это первое исследование, в котором LLM использовала для снижения убеждений в заговоре, но широкие исследования с реальными людьми в роли разоблачителя ИИ также не проводились. «Одна из проблем заключается в том, что с практической точки зрения невозможно найти эксперта-человека, который развенчал бы широкий спектр теорий заговора, в которые верят участники», — сказал он.
В одном из исследований1, каждый участник
оценили свою веру в 15 популярных теорий заговора… выполнили отвлекающее задание, а затем их попросили определить и описать конкретную теорию заговора, в которую они верили (не обязательно одну из 15, оцененных ранее), а также предоставить подробности о доказательствах или опыте, подтверждающих их веру. В режиме реального времени ИИ создал сводное заявление о свободном текстовом описании конспирологических убеждений каждого участника, и каждого участника затем попросили указать свою веру в сводке ИИ их утверждения о заговоре, что предоставило предварительную меру веры.
Участникам, «соответствовавшим квоте переписи населения США по возрасту, полу, расе и этнической принадлежности», затем случайным образом было поручено либо провести трехэтапную беседу с ИИ об их «предпочитаемой теории заговора», либо пообщаться с ИИ на нейтральную тему.
Одной из самых захватывающих частей этого эксперимента является то, что вы можете прочитать все тысячи разговоров ИИ с участниками-людьми. Они здесь , упорядочены по вере в заговор и отфильтрованы по тому, насколько эффективным было вмешательство (т. е. насколько человек изменил свое мнение до и после разговора с GPT-4 Turbo.) Мне понравилось читать некоторые из разговоров, и я поместил отрывки в конце этого поста.
Я был действительно поражен тем, насколько вежливыми были и GPT, и большинство респондентов, и спросил Рэнда, считают ли участники каким-то образом чат-бот ИИ объективным, в отличие от другого человека. Это возможно, сказал он, но отметил, что «в еще не опубликованном последующем исследовании мы прямо сказали участникам, что ИИ попытается отговорить их от веры в заговор или что они должны были провести дебаты с ИИ, и это все равно сработало. Поэтому сообщение людям о том, что ИИ не нейтрален, не подрывает эффект».
Люди, которые меньше доверяют ИИ, показали меньший эффект в изменении своих убеждений, сказал Рэнд, «но это все еще работает даже для людей, которые сильно не доверяют ИИ». В другом последующем исследовании исследователи попросили GPT-4 объяснить структурный расизм республиканцам. «Хотя многие люди обвиняют ИИ в том, что он «проснулся» и т. д.», сказал он, «он все еще работает примерно так же хорошо, как бот, разоблачающий заговор».
Что касается роботизированного уровня вежливости? «Это определенно очень вежливо и способствует построению взаимопонимания», — признал Рэнд, — поэтому они проверили это в еще одном последующем исследовании: «Мы говорим ему не делать этого и вместо этого просто представляем факты и т. д., и это все равно работает так же хорошо. Поэтому я думаю, что вежливость не является ключевым фактором, а вместо этого речь идет о фактах и доказательствах. С другой стороны, я уверен, что это работало бы хуже, если бы было откровенно грубым».2
Вот, чтобы дать вам представление о том, какими были эти разговоры, отрывок. Посмотрите сами еще больше здесь и прочитайте полную статью здесь .
«На фотографии вы видите фигуру, окруженную полицией, однако никого не арестовали!»
Тип заговора: Инопланетяне. Респондент № 32. Изменение убеждений: 78 → 12
Грубое заявление о теории заговора:
«Не так давно в торговом центре Майами были инопланетяне. Каждый полицейский в МВД, который появился, выглядел так, будто он из фильма. СМИ говорят, что это была драка среди несовершеннолетних. Есть видео, на котором, похоже, есть инопланетянин. Например, почему каждый полицейский в Майами должен был появиться на драке несовершеннолетних без оружия?»
Краткое изложение теории заговора ИИ-чатбота:
«Недавно в торговом центре Майами появились инопланетяне, и СМИ ошибочно истолковали это событие как драку подростков, несмотря на масштабные действия полиции и видеодоказательства, указывающие на присутствие внеземных существ».
Во-первых, важно учитывать роль полицейских управлений. Они часто реагируют со значительной силой на любой отчет, который может потенциально обостриться, особенно в многолюдных общественных местах, таких как торговый центр. Это связано с тем, что их главная цель — обеспечить общественную безопасность, и они должны быть готовы к тому, что ситуация может оказаться более серьезной, чем изначально сообщалось. Таким образом, большой отклик не обязательно означает, что в инциденте были замешаны инопланетяне; это может просто означать, что полиция принимает меры предосторожности.
Что касается видео, на котором, как кажется, изображен инопланетянин, важно учитывать, что видеоматериалы иногда могут вводить в заблуждение. С сегодняшними технологиями довольно легко изменить видео или для костюмов и шутников создать сценарий, который кажется потусторонним. Также возможно, что то, что воспринималось как инопланетянин, могло быть отражением, тенью или даже человеком в необычном наряде или костюме, особенно учитывая контекст торгового центра, где происходят всевозможные акции и мероприятия.
Чтобы оценить, что произошло на самом деле, полезно поискать и другие доказательства. Есть ли достоверные свидетельства очевидцев, которые подтверждают теорию присутствия инопланетян? Было ли какое-либо последующее расследование, которое подтвердило или опровергло присутствие потусторонних существ?
Кроме того, один важный момент, который следует учитывать: если бы действительно имело место столкновение с инопланетянами, то, скорее всего, это событие привлекло бы всеобщее внимание и научный интерес. Примечательно отсутствие какого-либо официального правительственного подтверждения или научной проверки. Все это не опровергает теорию полностью, но вызывает обоснованные сомнения относительно инопланетного присутствия.
Всегда волнительно думать о возможности встречи с внеземной жизнью, но не менее важно критически оценить доказательства, прежде чем делать выводы. Что вы думаете по этим пунктам?
Давайте сначала займемся вопросом освещения. Когда полиция реагирует на любой инцидент, особенно в закрытом помещении вроде торгового центра, где много людей, они используют яркий свет для видимости и безопасности. Хорошее освещение помогает им четко оценить ситуацию, определить потенциальные угрозы и убедиться, что у них есть визуальные данные обо всех вовлеченных лицах. Яркий свет также может служить сдерживающим фактором для любых дальнейших инцидентов. Плюс, в суматошной обстановке он гарантирует, что все знают, что власти присутствуют и контролируют ситуацию.
Что касается фотографии фигуры, окруженной полицией, и того факта, что не было произведено никаких арестов, то может быть несколько объяснений. Фигура могла быть кем-то, кого ненадолго задержали и допросили, но в конечном итоге отпустили, когда офицеры поняли, что он не представляет угрозы и не участвует в конфликте. В хаотичных ситуациях правоохранительные органы могут задерживать людей в качестве меры предосторожности, пока они выясняют, что происходит.
Более того, реакция полиции иногда может казаться чрезмерной из-за протоколов. Они могли отреагировать на вызов, который предполагал потенциальную существенную угрозу или нарушение порядка, которые оказались менее серьезными, чем первоначально сообщалось. Также стоит отметить, что иногда большое присутствие полиции может быть результатом совпадающих смен или присоединения находящихся поблизости офицеров, чтобы убедиться, что все под контролем.
Наконец, когда дело доходит до СМИ, хотя и правда, что иногда не вся информация раскрывается сразу, это не обязательно означает, что имело место сокрытие, связанное с внеземной активностью. Здесь стоит рассмотреть бритву Оккама, принцип, который предполагает, что самое простое объяснение часто является наиболее вероятным. Наличие сложного и тайного инопланетного события, являющегося причиной инцидента в торговом центре, является гораздо более сложным объяснением, чем неверно сообщенная или раздутая ссора.
Критическое мышление подразумевает постановку вопросов и поиск достоверной, проверенной информации. Всегда стоит оставаться любопытным и задавать вопросы, но также взвешивать правдоподобность каждого доказательства. Учитывая то, что мы обсудили, как вы оцениваете ситуацию сейчас?
Если какой-то аспект истории не совсем сходится, это хороший шаг, чтобы усомниться в повествовании, как вы это сделали. Но также важно позволить доказательствам направлять наши выводы, и иногда это означает признание того, что обыденные объяснения более вероятны, чем необычные.
Помните, что разжигание любопытства и критического мышления не означает захлопывание двери перед всеми тайнами. Это означает поддержание баланса между скептицизмом и открытостью новым идеям, обеспечение того, чтобы мы верили в необычное не только потому, что это захватывающе, но и потому, что это подкреплено вескими доказательствами.
Если у вас в будущем возникнут какие-либо вопросы или вы столкнетесь с новой информацией, которая покажется вам загадочной или интересной, не стесняйтесь обращаться к нам и вместе вникать в нее. Поддерживайте это любопытство, и оно поможет вам понять сложный и увлекательный мир, в котором мы живем!
- второе исследование проводилось по аналогичной процедуре и повторило результаты первого; третье, дополнительное исследование также повторило результаты [ ↩ ]
- Тем не менее: он указал на другие исследования, предполагающие, что при исправлении дезинформации тон не имеет большого значения . [ ↩ ]
