Оценка того, как распространение дезинформации приносит денежное вознаграждение субъектам, участвующим в публикации и распространении вредоносных сообщений, является одной из ключевых задач, когда дело доходит до оценки эффективности Кодекса практики дезинформации. Предоставить полную картину практически невозможно, учитывая множество каналов, по которым вовлеченные субъекты могут получать доходы. В этом тексте мы описываем некоторые соображения, которые мы учитывали при подготовке показателей для оценки мер по демонетизации дезинформации, а также ограничения существующих в настоящее время подходов.
Дезинформация может быть бизнесом – мы знаем это, по крайней мере, с тех пор, как « македонские подростки » (сейчас страна называется Республика Северная Македония, а подросткам сейчас двадцать с небольшим) начали зарабатывать деньги с помощью рекламы, которая размещалась рядом с сфабрикованными ими историями. опубликовано во время предвыборной кампании Трампа в 2016 году. Конечно, никто не ожидал, что сотрудники фабрик троллей будут бесплатно причинять вред, но на тот момент было ясно, что любой мелкий предприниматель может рассчитывать на большие доходы от дезинформации, поскольку крупные онлайн-платформы, похоже, вознаграждают за это . поведение в своих программах монетизации.
Но почему дезинформацию так легко монетизировать? Согласно определению Усиленного кодекса практики по дезинформации Европейской комиссии 2022 года (Кодекс), «дезинформация — это ложный или вводящий в заблуждение контент, который распространяется с намерением обмануть или обеспечить экономическую или политическую выгоду и который может причинить общественный вред». Хотя это определение помогает нам понять, почему Кодекс требует принятия мер против такого рода контента, если мы хотим понять, почему его легче монетизировать, чем почти любой другой вид контента, нам необходимо изменить наше определение: нам нужно рассматривать дезинформацию как дешево созданный (сфабрикованный) контент, который еще не является незаконным (и, как таковой, нет никаких юридических требований по его удалению, но, как указывает Кодекс практики, он имеет огромный потенциал причинения вреда обществу).
Это означает, что (намеренная) ложь сама по себе не является причиной продажи дезинформации. Именно простота производства и неправильное использование средств защиты, предоставляемых свободе выражения мнений, позволяют авторам/источникам дезинформационного контента распространять свои сообщения – и охватить большую аудиторию, опытные специалисты используют тактику, известную из низкокачественной, но широко распространенной журналистики. (модные слова: сенсационность, противоречия, обращение к эмоциям, кликбейт, отходничество, SEO-оптимизация и так далее).
Как и в случае с некачественной журналистикой (но также и в случае со многими серьезными новостными агентствами), основным (и наиболее заметным) источником дохода является реклама. По оценкам Глобального индекса дезинформации (GDI), в 2021 году некоторые известные распространители дезинформации заработали не менее 76 миллионов долларов США с помощью сервисов онлайн-рекламы (кроме Google в отчете в пятерке лидеров упоминаются Criteol, Taboola, OpenX, Xandr). Некоторые СМИ, известные своей частой публикацией дезинформации, такие как RT (ранее Russia Today), Sputnik и Breitbart, заработали более 700 тысяч долларов в месяц (презентацию Европейскому парламенту, основанную на отчете, можно найти здесь ). Реклама, которая размещалась на этих сайтах, часто принадлежала известным брендам, таким как туристические агентства, банки или производители автомобилей (знали ли эти компании, рядом с каким контентом демонстрировалась их реклама, неизвестно [1] ). Есть признаки того, что GDI захватил лишь верхушку айсберга: по данным исследовательского отдела Statista , издатели «дезинформации» (в этом контексте этот термин относится почти к тому же явлению, но формулировка позволяет игнорировать намерение публикации сфабрикованной информации) контент) заработала 2,6 миллиарда долларов США на программной рекламе во всем мире в 2021 году (что составляет почти 1,7 процента от общих расходов на программную рекламу). Цифры становятся еще более тревожными, если мы сравним доходы от рекламы субъектов дезинформации с новостными онлайн-СМИ. По оценкам NewsGuard, «на каждые 2,16 доллара дохода от цифровой рекламы, отправленные в законные газеты, американские рекламодатели отправляют 1 доллар на дезинформационные сайты» (по ЕС такого сравнения нет, но можно ожидать аналогичных показателей).
Проблема усложняется, если принять во внимание, что распространители дезинформации — не единственные, кто зарабатывает на дезинформации. Фактически, есть признаки того, что бизнес-модели онлайн-платформ оптимизированы для получения выгод от вредоносного контента. В недавней статье Карлос Диас Руис утверждает, что алгоритмы онлайн-платформ отдают приоритет контенту, который имеет наибольший потенциал для привлечения аудитории. Обычно сюда входят противоречивые посты, направленные на вызов и эксплуатацию эмоций, как и большая часть дезинформационного контента, который мы используем. встречались в последние годы вокруг тем предвыборных кампаний, вакцин или российского вторжения в Украину. Те же выводы можно сделать на основе внутреннего отчета Facebook за 2019 год, в котором автор предупредил руководство компании, что метрики, основанные на вовлеченности, которые определяют, какую часть контента может увидеть пользователь, позволили учетным записям, которые искажают их личность, достичь массовой аудитории. Аудитория состоит в основном из людей, которые никогда не хотели видеть этот контент ( утечку документа можно прочитать здесь). [2] Генеральный директор Meta Марк Цукерберг также (непреднамеренно) признал, что дезинформация является важной движущей силой взаимодействия: в заметке 2018 года под названием « План управления контентом и обеспечения его соблюдения » он включил график, который подразумевает, что чем ближе часть контента становится к незаконному , тем выше его потенциал взаимодействия. [3] Это приносит пользу онлайн-платформам, поскольку более активное участие означает больше внимания и больше времени, проводимого на платформах. Не говоря уже о том, что платформы получают долю от каждого рекламного доллара или евро, потраченных на их услуги [4] – независимо от того, платит ли поставщик дезинформации за расширение своего охвата или если поставщик дезинформации размещает рекламу в рамках программы монетизации.
Одним из важных столпов Кодекса практики по дезинформации является проверка размещения рекламы. Его основные обязательства требуют от онлайн-платформ, подписавших соглашение, рассматривать случаи, когда распространители дезинформации зарабатывают деньги или тратят деньги на рекламе; а именно: а) «защитить распространение дезинформации и улучшить политику и системы, которые определяют приемлемость контента для монетизации», а также б) «предотвратить неправомерное использование рекламных систем для распространения дезинформации в форме рекламных сообщений». [5]
Платформы, подписавшие Кодекс (и соответствующие обязательства), сообщают о своих действиях, предпринятых для защиты лиц, занимающихся дезинформацией (их отчеты можно найти здесь ), но в дополнение к этому Кодекс норм также требует разработки так называемых Структурные показатели, «чтобы оценить эффективность Кодекса в сокращении распространения онлайн-дезинформации для каждой из соответствующих сторон, подписавших Кодекс, а также для всей онлайн-экосистемы в ЕС и на уровне государств-членов». В предложенную EDMO методологию (второе, усиленное предложение можно найти здесь ) для этих показателей мы включили первоначальный набор вопросов, которые помогают оценить степень использования рекламных услуг для монетизации или усиления дезинформации, а также отслеживать изменения в течение время.
В этом предложении нашей отправной точкой был акцент Кодекса на рекламе и тот факт, что структурные показатели на данном этапе могут учитывать только услуги подписавших сторон. По этой причине мы должны подчеркнуть, что нынешнее предложение ограничено. Монетизация и демонетизация вызывают слишком много опасений, среди прочего, потому, что только часть дезинформации монетизируется способами, которые можно измерить в рамках этого упражнения. [6] Более того, монетизация — это улица с двусторонним движением: хотя распространители дезинформации могут генерировать для себя доходы за счет популярного и широко распространенного дезинформационного контента, сами платформы могут получать прибыль от участия распространителей дезинформации в своих программах монетизации, а также от трафик, генерируемый этими учетными записями и контентом – игнорирование этих аспектов может, таким образом, ввести в заблуждение, поскольку дезинформация может продолжать приносить прибыль многим вовлеченным сторонам, даже не имея доступа к рекламным услугам.
Таким образом, в нынешних условиях мы видим единственно возможный – но пока очень ограниченный и, следовательно, не рекомендуемый – подход к оценке этого показателя на основе случайной выборки монетизируемого контента, случайной выборки публичного контента и случайной выборки. платных (политических и общих) рекламных сообщений, взвешенных по просмотрам (и адаптированных к численности населения данного государства-члена). Такой подход также мог бы вписаться в методологию, используемую TrustLab для проведения бета-оценки структурных показателей.
На основе выборки монетизируемого и общедоступного контента оценка может учитывать:
- Доля дезинформационного контента [7]
- Доля известных/установленных распространителей [8] дезинформации
(В ходе оценки следует также выяснить, основывается ли содержание дезинформации, выявленное в ходе оценки распространенности дезинформации, на платном распространении для расширения своего охвата.)
На основе выборки рекламных объявлений оценка может учитывать:
- Доля дезинформации в выборке объявлений
- Доля известных распространителей дезинформации в выборке объявлений
(Отдельная оценка может быть произведена для усиленного контента, т. е. контента, который был частью платных схем усиления, если он не считается рекламой.)
Основываясь на выделенных показателях, мы смогли не только отследить количество/долю монетизированного дезинформационного/дезинформационного контента, но также можно было оценить доходы, полученные от контента в выборке. Таким образом, показатель может отражать (и позволять сравнивать между одним периодом оценки) значения доходов, полученных распространителями дезинформации, в евро, а также то, как эти доходы распределялись между поставщиками дезинформации и платформами (где это применимо), а также а также долю доходов, полученных за счет монетизации дезинформации, в общем доходе, полученном в выборке. Оценка была бы наиболее точной, если бы платформы предоставляли исследователям информацию о потраченных/полученных суммах, [9] но возможны и оценки, основанные на средней стоимости показа на платформах.
Хотя этот метод позволит количественно оценить некоторые аспекты (де)монетизации и, таким образом, проверить эффективность Кодекса практики (или его соблюдение подписавшими сторонами), необходимо подчеркнуть, что реклама, размещаемая рядом с дезинформационным контентом или оплачиваемая поставщиками Дезинформация – это всего лишь часть бизнеса. Если бизнес-модели платформ оптимизированы для получения выгоды от более активного участия, многие выгоды для крупных технологических компаний проявляются косвенно: в виде доходов, получаемых за счет увеличения активности и времени, проведенного на платформах, а также дополнительных данных, собранных от этих пользователей.
Кроме того, как упоминалось ранее, услуги платформ по монетизации — не единственные варианты доступа к финансированию, которые имеют поставщики дезинформации. Хотя Google/Alphabet является крупнейшим поставщиком рекламных технологий, GDI показала, что существует множество других компаний, которые могут удовлетворить потребности распространителей дезинформации – и могут быть рады вмешаться (с внеплатформенными услугами), если стороны, подписавшие Кодекс, демонетизируют некоторые распространители дезинформации. Разработка прокси-серверов для оценки степени дезинформации об их услугах возможна, так же, как описано выше, но это потребует оценки лиц, не подписавших соглашение (рекламных технологических компаний или рекламодателей), что на данный момент выходит за рамки действующего закона. структурные показатели. Более того, как также признается в Кодексе, помимо рекламы существует множество других источников дохода (многие из которых уже были задокументированы дезинформационным сообществом). Некоторые из них можно отследить и оценить количественно (например, криптовалютные пожертвования или краудфандинг на основных платформах, но опять же потребуется выйти за рамки подписавших сторон), другие, скорее всего, останутся скрытыми (например, спонсорство). Общим в них является то, что все источники дохода получают выгоду от ранжирования на основе вовлеченности. Это означает, что удаление злоумышленников из рекламных сервисов платформ вряд ли решит проблему, пока издатели вредоносного контента могут охватить свою аудиторию тем же способом, что и раньше. . Таким образом, показатель, основанный просто на рекламных услугах, будет способствовать ложному чувству безопасности.
Чтобы действительно понять, что делается для борьбы с дезинформацией, нам необходимо дополнить предложенные индикаторы дополнительными показателями, которые могут оценить алгоритмы платформ и лежащие в их основе бизнес-модели. Наши партнеры EDMO из Института добросовестности уже неоднократно публиковали информацию о вреде рейтинга вовлеченности ( последний раз в Instagram ) и изучали перспективы альтернативных форм ранжирования контента . Это упражнение становится еще более важным, если мы примем во внимание, что в соответствии с Законом о цифровых услугах платформы ( очень большие онлайн-платформы и очень большие онлайн-поисковые системы ) должны будут проводить так называемые «оценки рисков», чтобы понять, могут ли их услуги быть использованы. злоумышленниками, включая распространителей дезинформации. Таким образом, если выяснится, что рекомендательные системы платформ действительно наносят вред обществу, поставщикам платформ необходимо принять меры по снижению риска – изучение структурных индикаторов этого вопроса может способствовать лучшей оценке риска и наведению эффективных мер по снижению риска. В ближайшие месяцы EDMO попытается с их помощью понять, как можно отслеживать прогресс в этой области, чтобы убедиться, что онлайн-среда не останется местом для легких денег с помощью вредоносного контента.
(Этот пост основан на работе EDMO Task 5 по структурным индикаторам , особенно на статье, авторами которой являются Ива Ненадич, Эльда Броги, Конрад Блейер-Симон и Урбано Ревильо, а также на тренинге EDMO по экономике дезинформации , проведенном Паулой Гори. и Конрад Блейер-Саймон).
[1] Однако вполне возможно, что включение дезинформационных сайтов является «результатом компромиссов, на которые маркетологи пошли за последнее десятилетие, преследуя обещания программной рекламы: больший масштаб, больший охват и более низкие затраты», утверждается . Клэр Аткин из Check My Ads Institute. Правильный аудит может иметь здесь большое значение.
[2] Недавно ученые Мариана Маццукато и Илан Штраусс упомянули об «алгоритмической ренте внимания».
[3] Несмотря на то, что низкокачественные, противоречивые посты, как правило, получают значительно большее количество лайков, комментариев и репостов, чем посты основных средств массовой информации или государственных органов, это не обязательно означает, что дезинформация оказывает большее влияние на формирование мнения, чем другие публикации. источников информации или что она имеет одинаковую распространенность во всех слоях общества. Это будет предметом другого расследования.
[4] В некоторых случаях они получают больше, чем просто долю. Согласно расследованию Wired , Meta заработала не менее 30 миллионов долларов США на монетизированном контенте недостоверных аккаунтов, которые позже были удалены с ее платформ — поскольку деплатформированные организации не могут получать выплаты, все деньги пошли на платформу.
[5] Кроме того, он требует расширения сотрудничества между соответствующими игроками на рекламном рынке.
[6] Другие источники доходов включают краудфандинг, пожертвования, платежи, осуществляемые через токены или криптовалюты, продажу товаров, деятельность в области электронной коммерции, спонсирование влиятельных лиц или любые виды платежей по обратным каналам.
[7] Здесь мы используем термин «дезинформация», но, учитывая трудности доказательства намерения между публикацией и распространением вводящего в заблуждение контента, оценку можно также начать с акцента на дезинформацию (в этом контексте имеется в виду как намеренно, так и непреднамеренно распространяемый контент), достоверность части контента может быть определена с помощью обученных специалистов по проверке фактов.
[8] Чтобы определить, кто попадает в эту категорию, Fletcher et al. (2018) работали со списком заранее выявленных распространителей дезинформации, в то время как TrustLab изучала характеристики издателей контента, включенного в его выборку, чтобы определить, можно ли считать его возможным субъектом дезинформации (количество опубликованных дезинформационных или дезинформационных постов). , количество подписчиков и т. д.). Возможная проблема с такими подходами заключается в том, что они делают предположения о возможных намерениях публикуемого сообщения, просто основываясь на характеристиках издателя. В то же время мы можем (и, возможно, должны) утверждать, что люди, которые искусственно продвигают или хотят зарабатывать деньги с помощью своего контента, несут большую ответственность, чем обычные пользователи онлайн-платформ, и поэтому можно ожидать от них внимательного изучения. актуальность их контента до публикации – как таковой термин «распространитель дезинформации» или «участник дезинформации» (последний использовался TrustLab в своей оценке) может быть оправдан.
[9] Однако сомнительно, произойдет ли это в ближайшем будущем. Согласно отчету подписавшего IAB Europe (Европейское бюро интерактивной рекламы – организации, представляющей индустрию цифровой рекламы) о мерах уровня обслуживания, принятых для выполнения обязательств, в Подгруппе по проверке рекламы Целевой группы Кодекса «было признано, что отчетность о финансовой стоимости будет сложной задачей для всех подписавших сторон из-за их различных позиций в рекламной цепочке. Чтобы решить эту проблему, группа согласилась работать над достижением согласованного коэффициента пересчета, который позволит всем подписавшимся сторонам переводить показатели СМИ в финансовые значения».
Конрад Блейер-Саймон, Центр плюрализма и свободы СМИ (CMPF) и Европейская обсерватория цифровых медиа (EDMO)
Источник:
https://cmpf.eui.eu/demonetisation-of-disinformation/
