Доминирующим нарративом последнего десятилетия является то, чтоf алгоритмы способствуют дезинформации и сегрегации общества. Как это ни парадоксально, алгоритмы часто ищут в качестве решения таких проблем. Мы описываем важную зарождающуюся тенденцию, отходящую от этого техно-решенческого подхода, который стремится создать и понять новую парадигму: продуктивное взаимодействие между алгоритмами и людьми. В нашем регионе изучаются два соответствующих тестовых примера: первый касается новой структуры для борьбы с дезинформацией, помогая специалистам по проверке фактов с помощью вычислительных методов, а второй ищет новые модели, чтобы понять, как поисковые системы предоставляют персонализированные результаты поиска, когда алгоритмическая персонализация незначительна или отсутствует
В конце 2020 — начале 2021 года Австралийское управление по коммуникациям и СМИ провело исследование для анализа состояния дезинформации в Австралии. Выводы, о которых сообщили правительству Австралии в июне 2021 года, показали, что четверо из пяти взрослых австралийцев подвергались воздействию дезинформации о COVID-19. Они также обнаружили, что дезинформация в Интернете, такая как распространение антипрививочных нарративов в австралийском сообществе, оказала прямое негативное влияние на доверие людей к демократическим институтам и агентствам общественного здравоохранения. Эти рассказы часто возникают за границей, но быстро распространяются среди местных сообществ. Организации по проверке фактов, которые традиционно проверяли заявления, сделанные общественными деятелями или политиками в публичных и основных СМИ, теперь также должны отслеживать и опровергать значительно более быстро распространяющиеся утверждения в социальных сетях. Рассказы, содержащие дезинформацию, оказывают прямое и негативное влияние на то, как люди потребляют информацию: они могут влиять на контент, с которым мы взаимодействуем, и на поисковые запросы, которые мы вводим.10 Учитывая, что информированные граждане являются краеугольным камнем демократии, общественное принятие решений находится под угрозой.
Важность проблемы была также признана в Международной стратегии взаимодействия с кибернетическими и критически важными технологиями, опубликованной правительством Австралии, в которой цифровая дезинформация определяется как явный риск для безопасности Австралии, Индо-Тихоокеанского региона и других стран. Страны Восточной Азии и Океании приняли законодательство, специально направленное против так называемых «фейковых новостей», и создали добровольные своды правил, разработанные в сотрудничестве с технологической отраслью.
Несмотря на такие усилия, по состоянию на декабрь 2022 года из 122 проверенных в настоящее время участников Международной сети проверки фактов Пойнтера (IFCN) только восемь находятся в регионе Восточной Азии и Океании: Australian Associated Press (AAP) и RMIT FactLab в Австралии. ; Cek Fakta Liputan 6, MAFINDO, Tempo.co и Tirto ID в Индонезии; и Rappler and Verafiles Incorporated на Филиппинах. а
Некоторые платформы обратились к программам проверки фактов, чтобы выявить проблемный контент. Однако поток дезинформации означает, что проверяющие не могут справиться с большим количеством требований, которые необходимо оценить. Таким образом, алгоритмическая помощь может быть полезной для выявления случаев дезинформации.
Вычислительные методы борьбы с дезинформацией
В последние несколько лет появилась тенденция использования компьютерными профессионалами методов гибридного интеллекта (человеческого и искусственного) для удаления дезинформации с онлайн-платформ. 6 Проблема более сложная, чем выявление и удаление дезинформации; таким контентом необходимо комплексно управлять на всех этапах его жизненного цикла: от создания до распространения и потребления. Сообщество компьютерщиков уже разработало технологии, которые могут помочь на каждом этапе (см. прилагаемый рисунок ).
Фигура. Вычислительные методы, помогающие в проверке фактов.
Ряд методов, включая анализ социальных сетей, обработку естественного языка (NLP), поиск информации (IR), графы знаний, машинное обучение (ML) и искусственный интеллект (AI), базовые модели (например, нейронные преобразователи, такие как BERT и GPT) и глубокое обучение, визуализация данных, объяснение выходных данных модели с машинным обучением и достижения в области взаимодействия человека с компьютером (например, новый пользовательский опыт и возможности взаимодействия) — могут помочь, но не заменить человека в процессах управления дезинформацией. На всех этих этапах тесное сотрудничество между экспертами, системами и неспециалистами, такими как краудворкеры, имеет решающее значение для масштабирования при сохранении качества, свободы действий и подотчетности процесса. 6
Оперативная проверка фактов в регионе Восточной Азии и Океании находится в зачаточном состоянии. В то время как неправительственные организации, такие как FirstDraft News (теперь Лаборатория информационного будущего), активно работают в регионе, необходимы дополнительные исследования, чтобы лучше понять, как методы гибридной разведки могут быть эффективно внедрены в процессы управления дезинформацией, не лишая экспертов свободы действий. 9 В дополнение к опровержению дезинформации вычислительные методы могут помочьпроцессы путем разработки эффективных способов информирования людей о дезинформации, что повышает цифровую грамотность. Это даст им навыки выявления и проверки непроверенной информации в Интернете. Небольшое количество организаций по проверке фактов в Восточной Азии и Океании делает поддержку вычислительных методов более актуальной в этом регионе. Однако обеспечение того, чтобы эта алгоритмическая помощь была полезной, также потребует внимания к конкретному региону.
То, что является «фактом» на международном уровне, часто не соответствует действительности в Восточной Азии и Океании, поэтому простое импортирование международной информации не будет эффективным. Примеры «фактов», которые не соответствуют действительности в этом регионе, включают сезонные проблемы; для большей части региона лето приходится на декабрь – февраль. Хотя проведение Рождества летом несколько контркультурно, сборы на эти праздники привели к серьезному летнему всплеску COVID-19 на юге в 2021 году. И наоборот, зная, что сезоны гриппа (и COVID-19) приходятся на июнь и июль в этой части мир является ключевой частью хороших советов по общественному здравоохранению. Этот регион также преимущественно расположен близко к экватору, поэтому рекомендации общественного здравоохранения в отношении воздействия солнца должны быть адаптированы. Большинство стран региона ездят по левой стороне дороги, что влияет на рекомендации по безопасности дорожного движения. Существуют также культурные различия внутри региона: выходные могут приходиться на разные дни, или во многих странах преобладает мусульманство, а это означает, что празднуется Ид, а не Рождество. Понимание важности того, чтобы вакцины против COVID-19 были халяльными, было ключевым моментом в распространении сообщений общественного здравоохранения в Мельбурне, Австралия. Демократические съезды также уникальны: в Австралии один из самых высоких показателей демократического участия в мире, более 90%, что является прямым результатом обязательного голосования. Однако в соседней Новой Зеландии также было сильное демократическое участие: более 80% без обязательного голосования на последних выборах. Учитывая эти региональные и местные отличия от глобальных норм, проверка фактов на местном уровне является ключом к обеспечению информированности населения. Кроме того, стратегии предварительной подготовки должны соответствовать существующим образовательным и культурным нормам.
Миф о фильтровальном пузыре
Хотя есть свидетельства того, что поляризация в обществе резко усилилась с появлением широкополосного Интернета, причина этого не совсем ясна. Пузырьки фильтров, образованные алгоритмами, доставляющими персонализированный контент, укрепляющий определенное мировоззрение, стали невероятно популярным объяснением. Концепция пузыря фильтров была придумана в одноименной книге Эли Паризера. 7Однако концепция пузыря фильтров может отвлекать от более глубоких эпистемологических причин поляризации. Книга Паризера, цитируемая тысячи раз, доказывает это, но предоставляет ограниченные доказательства того, что поисковые системы формируют пузыри. Эмпирические исследования указывают на отсутствие таких пузырей, а также предполагают, что поисковые платформы увеличивают подверженность противоположным точкам зрения. Междисциплинарные группы ученых-компьютерщиков, специалистов по медиа, информатиков, отраслевых исследователей и психологов работают вместе над проблемой персонализации поиска с помощью новых экспериментов, которые лучше выявили роль, которую поисковые системы играют в поляризации.
Нарративы, содержащие дезинформацию, оказывают прямое и негативное влияние на то, как люди потребляют информацию.
Австралийский поисковый опыт, 3проект, осуществляемый Центром передового опыта по автоматизированному принятию решений и обществу (ADM+S) Австралийского исследовательского совета, представляет собой исследование с пожертвованием данных, в котором более 1000 человек по всей Австралии были наняты для изучения того, возвращают ли поисковые системы различные виды результатов. по когорте. Участники установили подключаемый модуль веб-браузера, который периодически отправлял запросы к известным поисковым системам, используя учетные записи участников. Плагин собирал результаты поиска и возвращал исследователям для изучения. Запросы были взяты из предопределенного списка общих запросов по целому ряду тем, охватывающих политические, спорные и повседневные категории. Хотя исследование продолжается, первоначальные результаты показывают, что, хотя результаты поиска были привязаны к конкретным географическим регионам, Алгоритмическая персонализация в поисковых системах может быть менее обширной, чем предполагалось в предыдущих исследованиях с фильтрами-пузырями. Это приводит к вопросу: если поиск в значительной степени однороден, откуда берется информационная поляризация?
Возникла тенденция использования компьютерными профессионалами методов гибридного интеллекта для удаления дезинформации с онлайн-платформ.
Один из возможных ответов заключается в работе сообщества IR нашего региона, изучающего влияние вариативности запросов в поиске. В то время как пользователи поисковых систем изучались в течение десятилетий, недавние эксперименты, когда большое количество людей спрашивали, какой запрос они будут использовать, пытаясь удовлетворить общую потребность в информации, обнаружили поразительный набор различных запросов. 2 Для иллюстрации в прилагаемой таблице приведена выборка, составленная из более чем 50 вариантов запросов, найденных, когда 100 краудворкеров спросили, как они будут искать информацию о ветроэнергетике. Такие обширные вариации были зарегистрированы по разнообразному набору из 100 тем. Результаты эксперимента упаковываются в тестовую коллекцию, фиксирующую изменчивость пользовательского запроса (UQV).
Стол. Пример сгенерированных краудворкерами вариантов запросов, взятых из тестовой коллекции UQV. 2
Было обнаружено, что варианты запросов оказывают значительное влияние на производительность поисковой системы. Были выявлены большие различия в запросах, подаваемых в коммерческие поисковые системы 1 , а подробный статистический анализ показал, что различия в запросах оказывают значительно большее влияние на результаты поиска, чем любые изменения в работе поискового алгоритма. 5 Австралийское агентство Associated Press недавно опровергло сообщение в социальной сети с ложным утверждением о сроке службы генераторов ветряных электростанций. b В примерах запросов, показанных в таблице, видно, что разные запросы отражают разное отношение к теме. Естественно задаться вопросом, влияет ли дезинформация на то, как люди выбирают ключевые слова, которые они вводят в поисковую систему.
Возможности преодоления поляризации в поисковых системах
Этот набор результатов предполагает, что поляризация в поиске определяется не алгоритмами, а поисковиками. 1 Тенденция исследования подчеркивает критическую оплошность в разработке алгоритмов поисковых систем: понимание того, как алгоритмы поиска реагируют на это изменение пользователя и потенциально смягчают его. К исследовательским задачам такой работы относятся:
- Понимание причин различий, которые люди демонстрируют при поиске, например демографические данные, поисковые привычки, знание предметной области, когнитивные предубеждения и то, как людей побуждают к поиску.
- Изучение того, влияют ли люди на поиск определенными способами и каким образом.
- Определение того, как можно адаптировать алгоритмы поиска, чтобы лучше справляться с изменением.
Первоначальные результаты показывают, что то, как люди составляют запросы, определяется устоявшимися поисковыми привычками, хотя другие факторы, такие как имеющиеся знания, предубеждения, подсказки и т. д., скорее всего, также вносят свой вклад. Вопросы о том, как люди влияют на поиск, должны быть изучены. Здесь дезинформация, кажется, играет решающую роль, и сотрудничество с организациями по проверке фактов в регионе 4 , 8помогают лучше понять, как люди формулируют свои запросы, когда они сталкиваются с дезинформацией и вмешательством — например, с проверенным контентом, созданным фактчекерами. При изучении поисковых алгоритмов будут поставлены под сомнение роли и обязанности поисковых систем. Большинство согласится с тем, что поисковые системы должны возвращать наиболее надежный контент, но должны ли они вмешиваться, пытаясь изменить взгляды пользователей, возникающие из-за поляризационных запросов? К ответам на такие вопросы нужно подходить с нюансами, потому что столкновение с людьми, взгляды которых слишком далеки от их собственных, может их оттолкнуть. Другие ключевые вопросы исследования включают в себя изучение того, можно ли надежно обнаруживать запросы, возникающие в результате кампании по дезинформации, могут ли поисковые системы и должны ли обнаруживать единственное стремление к подтверждающей информации и свидетельства предвзятости подтверждения,
Дорога впереди
Детализация этих двух тематических исследований показывает, что более тесное взаимодействие между людьми и машинами обеспечивает более эффективные результаты в управлении информацией и лучшее понимание того, как запрашивается информация в Интернете. Описанная здесь работа представляет собой важную новую тенденцию в нашем регионе, но ее влияние ощущается далеко за пределами этой географической области. Эта работа также ставит несколько серьезных задач по развертыванию этих вспомогательных технологий в массовом масштабе и реализации сотрудничества человека и ИИ на практике. с
Профессионалы в области вычислительной техники должны продолжать сотрудничать с другими дисциплинами, чтобы добиваться и интегрировать достижения в критически важных областях, таких как справедливость, подотчетность, прозрачность, объяснимость и безопасность взаимодействия человека и ИИ.
Профессионалы в области вычислительной техники должны продолжать сотрудничать с другими дисциплинами, чтобы добиваться и интегрировать достижения в критически важных областях, таких как справедливость, подотчетность, прозрачность, объяснимость и безопасность взаимодействия человека и ИИ. Дезинформация и ее разоблачение будут только расти в ближайшие годы, как и враждебное использование вычислительных методов для создания и распространения дезинформационных нарративов. Поляризация будет сохраняться до тех пор, пока мы не поймем причины изменчивости запросов в поисковых системах и не разработаем более надежные алгоритмы поиска, способные обрабатывать эти вариации. Как сообщество, мы должны встретить эти вызовы во всеоружии. Понимание и поддержка взаимодействия людей и алгоритмических систем в конечном итоге приведет к лучшим результатам для всех.
Благодарности. Авторы благодарят Axel Bruns, Luke Gallagher, Timothy Graham, James Meese, Stefano Mizzaro, Quoc Viet Hung Nguyen, Abdul Karim Obeid и Falk Scholer за их вклад и отзывы об этой работе. Это исследование частично поддерживается Австралийским исследовательским советом (DE200100064, CE200100005, IC200100022). Авторы признают традиционных хранителей страны по всей Австралии и их связи с землей, морем и обществом. Мы отдаем дань уважения их предкам и старейшинам в прошлом и настоящем и выражаем это уважение всем аборигенам и жителям островов Торресова пролива сегодня.
Рекомендации
1. Алаофи М. и соавт. Откуда берутся запросы? В материалах 45- го Междунар. Конф. ACM SIGIR. Исследования и разработки в области информационного поиска (2022 г.), 2850–2862; https://doi.org/10.1145/3477495.3531711 .
2. Бэйли П., Моффат А., Шолер Ф. и Томас П. UQV100: тестовая коллекция с изменчивостью запросов. В материалах 39 -го Междунар. Конф. ACM SIGIR. Исследования и разработки в области информационного поиска (2016 г.), стр. 725–728; https://doi.org/10.1145/2911451.2914671 .
3. Брунс, А. Австралийский поисковый проект: справочный документ. Технический отчет. Центр передового опыта ARC в области автоматизированного принятия решений и общества (2022 г.); https://doi.org/10.25916/k7py-t320 .
4. Сероне А. и соавт. Watch ‘n’ Check: на пути к инструменту мониторинга социальных сетей, который поможет экспертам по проверке фактов. В материалах 7 -го междунар. IEEE 2020 г. конф. Наука о данных и расширенная аналитика , 607–613; https://doi.org/10.1109/DSAA49011.2020.00085 .
5. Калпеппер, Дж. С., Фаджиоли, Г., Ферро, Н., и Курланд, О. Сложность темы: Эффекты сбора и формулирования запросов. АКМ Транс. Инф. Сист. 40 , 1, статья 19 (сентябрь 2021 г.); https://doi.org/10.1145/3470563 .
6. Демартини Г., Миццаро С. и Спина Д. Искусственный интеллект «человек в контуре» для борьбы с дезинформацией в Интернете: вызовы и возможности. Инженер данных IEEE. Бык. 43 , 3 (2020), 65–74; http://sites.computer.org/debull/A20sept/p65.pdf .
7. Паризер Э. Пузырь фильтров: что Интернет скрывает от вас. Пингвин, Великобритания (2011).
8. Салинг Л.Л. и др. Никто не застрахован от дезинформации: расследование распространения дезинформации подписчиками информационного бюллетеня по проверке фактов. PLOS ONE 16 , 8 (август 2021 г.), 1–13; https://doi.org/10.1371/journal.pone.0255702 .
9. Томсон Т.Дж. и соавт. Визуальная ложная/дезинформация в журналистике и публичных коммуникациях: текущие методы проверки, проблемы и будущие возможности. Журналистская практика 16 , 5 (2022), 938–962; https://doi.org/10.1080/17512786.2020.1832139 .
10. Йом-Тов, Э., Думайс, С. и Гуо, К. Продвижение гражданского дискурса через разнообразие поисковых систем. Компьютерный обзор социальных наук 32 , 2 (2014), 145–154; https://doi.org/10.1177/0894439313506838
Авторы
Дамиано Спина — старший преподаватель по науке о данных и научный сотрудник DECRA в Университете RMIT, Мельбурн, Австралия.
Марк Сандерсон — профессор информационного поиска и декан по исследованиям и инновациям в Университете RMIT, Мельбурн, Австралия.
Дэниел Ангус — профессор цифровых коммуникаций Технологического университета Квинсленда, Брисбен, Австралия.
Джанлука Демартини — адъюнкт-профессор науки о данных в Университете Квинсленда, Брисбен, Австралия.
Дана Маккей — старший преподаватель кафедры обработки данных в Университете RMIT, Мельбурн, Австралия.
Лорен Л. Салинг — старший преподаватель психологии в Университете RMIT, Мельбурн, Австралия.
Райен В. Уайт (Ryen W. White) — генеральный менеджер и заместитель директора лаборатории Microsoft Research, Редмонд, штат Вашингтон, США.
Сноски
а. https://ifcncodeofprinciples.poynter.org/signatories
б. http://bit.ly/turbineFactCheck
в. Также подчеркивается в Заявлении Совета по технологической политике ACM о принципах ответственных алгоритмических систем; https://bit.ly/jointAIstatement
