В онлайн-мире, где царят цензура, манипуляции и фильтрация информации, доступ к ценным знаниям в интернете стал сложнее, чем когда-либо. Пора пересмотреть наши отношения с крупнейшими информационными фильтрами — коммерческими технологическими компаниями. Также пора подготовиться к усилению государственной цензуры на «глобальном Севере», расширить возможности поиска информации альтернативными способами и осознать, что, получая информацию от людей, мы можем потенциально укрепить отношения в условиях растущего авторитаризма.
Очевидно, что отказаться от услуг современных технологических гигантов или хотя бы сократить их использование непросто, но есть множество причин, по которым сейчас самое время об этом подумать. Эти сервисы открыли многим людям доступ к миру информации, который раньше был немыслим. Социальные сети, поисковые системы и сайты рекомендаций упростили навигацию по новым местам, создание сообществ и поиск новых впечатлений.
Но интернет, открывший доступ к информации миллиардам людей по всему миру, изменился, иногда медленно, иногда скачкообразно. Хотя технологические компании когда-то расширили доступ к разнообразной информации и знаниям, информация из коммерческих источников подвергается жёсткой фильтрации. Персонализация поиска, поисковая оптимизация (SEO) и платные результаты стали ключевыми функциями экосистемы, ограничивая доступ к нефильтрованной информации через основные поисковые системы. В последнее время обзоры, генерируемые ИИ, ещё больше скрывают разнообразие точек зрения, поскольку пользователи начинают полагаться на эти сводки, а не на первоисточники .
В то же время дезинформация влияет на поисковые системы, а иногда и делает их мишенью, а правительства по всему миру всё больше ограничивают доступ к контенту, связанному с такими спорными темами, как ЛГБТК+ и расизм. В США ряд ограничений ужесточается через законодательство штатов. Сейчас, как никогда ранее, важно развивать навыки критического мышления и медиаграмотности, общаться с людьми лично, искать достоверные источники информации напрямую, читать книги, проверять цитаты, самостоятельно делиться информацией и избегать постоянных предложений крупных технологических компаний.
Во-первых, важно отметить, что независимо от того, что делают поисковые системы или социальные сети, информацию невозможно безопасно потреблять без определённой степени критического мышления и большой осторожности. Например, исследование 2023 года показало, что «онлайн-поиск для оценки правдивости ложных новостных статей фактически увеличивает вероятность доверия к ним», особенно при использовании ключевых слов из этих статей. В исследовании рекомендованы программы медиаграмотности, и очевидно, что такое образование необходимо не только детям, но и взрослым.
Некоторые из упомянутых выше информационных фильтров существуют уже давно, ещё до недавнего взрыва генеративного ИИ, такого как поисковая оптимизация (SEO). SEO относится к методам, используемым для повышения вероятности появления контента в результатах поиска. SEO можно манипулировать разными способами, и есть профессионалы, которые специализируются именно на этом. Страницы, созданные людьми, которые не могут позволить себе эти услуги или не обладают техническими навыками, будут оказываться ниже в результатах поиска, даже в некоммерческих поисковых системах. Аналогичным образом, платные результаты поиска выдвигают рекламу наверх. Эта реклама не всегда чётко обозначена, но даже когда это так, она вытесняет другие « органические » результаты поиска ещё ниже.
Google News заслуживает особого упоминания. Он функционирует как новостной «агрегатор», собирая источники со всего интернета для создания новостной целевой страницы, персонализированной в разной степени. Сайт отображает «главные новости» и предлагает дополнительные источники, когда пользователь нажимает на эту опцию. Хотя у Google есть некоторые базовые правила по включению контента в Новости и Поиск, его методы ранжирования новостей и источников остаются в значительной степени непрозрачными — и тем не менее он невероятно популярен. По данным Press Gazette , в мае 2025 года Google News был шестым по посещаемости англоязычным новостным сайтом в мире. Включение в Google News не только придает изданию ощущение легитимности, но и привлекает значительный трафик.
Но не все СМИ, представленные в агрегаторе, равноценны, и Google не несёт за это никакой ответственности. Более того, в результатах поиска новостей теперь также отображаются публикации из X , что позволяет пользователям, ищущим новости по определённым темам, получать контент из социальных сетей. Это привело к тому, что Google Search усиливает вводящий в заблуждение контент. Например, созданное искусственным интеллектом видео, в котором Хасан Насралла берёт на себя ответственность за уничтожение Ливана, было опубликовано в Твиттере официальным аккаунтом Израиля после бомбардировки Ливана Израилем. Эта публикация появилась, когда я в то время проверял результаты поиска Google News по этой теме и, вероятно, отображалась в результатах поиска других пользователей, ищущих достоверную информацию о ситуации.
К сожалению, изображения и видео, сгенерированные ИИ, — не единственный способ, которым ИИ затрудняет доступ к достоверной информации. Генеративный ИИ играет всё более важную роль, что приводит к тревожным последствиям. Некоторые пользователи переходят напрямую к ChatGPT или Grok вместо традиционных поисковых систем, в то время как сами поисковые системы интегрируют генеративный ИИ в свои результаты. Например, « Обзоры ИИ » Google и ИИ Bing предоставляют краткие ответы со ссылками, которые отличаются от более стандартного списка результатов.
Это влечет за собой множество проблем, включая галлюцинации ИИ, встроенную предвзятость или потенциально преднамеренную манипуляцию, как в случае с Grok . Исследование Вашингтонского университета, посвященное поисковым системам на основе генеративного ИИ, показало , что одна из них «создала информацию, которой изначально не существовало», совершая такие ошибки, как объединение цитат из двух разных источников. Недавние утечки и индексация поисковой системой Google якобы личных разговоров с Клодом, ChatGPT и Grok в двух отдельных случаях также имеют крайне тревожные последствия для конфиденциальности.
Не менее тревожным является и влияние на то, как люди взаимодействуют с информацией. Большинство пользователей вряд ли пролистают ответы, сгенерированные ИИ, чтобы проверить информацию или получить доступ к первоисточникам. Отраслевые исследования, проведенные в прошлом году, показали, что «обзоры ИИ могут привести к колоссальному снижению органического трафика на 15–64% » и что «60% поисковых запросов теперь завершаются без перехода пользователей на другой веб-сайт». Исследование, проведенное в этом году, показало, что сайты, «ранее занимавшие первое место в результатах поиска, могут потерять около 79% своего трафика по этому запросу, если результаты будут показаны ниже обзора ИИ». Как выразился опытный технологический журналист Джейсон Кеблер в недавней критике негативного влияния ИИ на журналистику : «Эта общая динамика — резкое падение трафика из-за фрагментов ИИ, ChatGPT, небрежности ИИ, Twitter, когда никто не работает так хорошо, — была названа « трафиковым апокалипсисом » и практически погубила некоторые небольшие веб-сайты, а руководители обвинили ее в сотнях увольнений на крупных».
Такая фильтрация по платформам, наряду с усилением государственной цензуры, затрудняет доступ к информации и связь с сообществами, занимающимися некоторыми из самых острых геополитических и социокультурных проблем современности. Люди обращались к интернету за информацией о геноциде в Газе, правах иммигрантов, росте авторитаризма и крайне правых, о здравоохранении трансгендеров и более широких темах ЛГБТК. Он также стал важным пространством для поиска солидарности и отстаивания прав человека. Такие движения, как Black Lives Matter , « Арабская весна » и протесты фермеров в Индии , были созданы, поддержаны и усилены интернетом.
И что теперь? Первое, что нужно изменить, — это наше мышление. Немногие могут просто отказаться от использования основных платформ, но нам следует использовать их с открытыми глазами. Важно понимать, как фильтруется информация, которую мы видим.
Медиаграмотность, особенно ориентированная на онлайн-информационную среду, также может быть полезна. Нам не нужно ждать, пока этим займутся школы. Гражданское общество может рассмотреть возможность сотрудничества с влиятельными лицами для охвата более молодой аудитории и сотрудничества с правозащитными организациями, не связанными с цифровыми правами, для привлечения более широких сообществ. Обладая хотя бы минимальной медиаграмотностью, становится легче оценивать источники информации и вырабатывается привычка обращаться к ним напрямую, когда это возможно. И, конечно же, в интернете есть места, где прозрачность по-прежнему в приоритете. Например, Википедия позволяет легко найти ссылки, позволяющие оценить качество потребляемой информации.
Возможно, сложнее всего сейчас будет побороть инстинкт «погуглить», «проверить группу в Facebook» или «зайти на X, чтобы узнать последние новости о развитии ситуации». Нам нужно начать искать, где можно найти коммуникацию, как можно меньше опосредованную технологиями. В эпоху растущего авторитаризма и социальной изоляции общение крайне важно, но нам следует подумать о том, чтобы чаще общаться офлайн и изменить то, как мы делаем это онлайн. Это может означать возвращение к неудобным разговорам и восстановление забытых отношений, а также более активную работу по поиску достоверной информации и поддерживающих сообществ.
Это не обязательно плохо. Всемирная организация здравоохранения недавно создала « Комиссию по социальным связям » для борьбы с «эпидемией одиночества». Но мы можем бороться с ней сами, инвестируя в формы общения и взаимопонимания, которые алгоритм никогда не сможет обеспечить.
Диа Кайяли (они/их) / Dia Kayyali (they/them) – член основного комитета консультативной сети Christchurch Call Advisory Network, консультант по технологиям и правам человека, а также общественный организатор. Будучи лидером в области модерации контента и подотчётности платформ, Диа сосредоточена на реальном влиянии политических решений, принимаемых законодателями и технологическими компаниями, с особым акцентом на последствиях для стран с преобладающим населением. Они сформировали глобальную солидарность для противодействия и улучшения воздействия политики на уязвимые сообщества, от представителей ЛГБТКИА+ до религиозных меньшинств. Они также активно отстаивали права человека, напрямую взаимодействуя с политиками в США, Европейском союзе и по всему миру. Ранее они работали старшим специалистом по работе с делами и политике в Совете по надзору (также известном как Совет по надзору за Facebook), директором по политике в Mnemonic, руководителем программы Tech + Advocacy в WITNESS и были активистами в Electronic Frontier Foundation.
Источник:
https://www.techpolicy.press/in-an-age-of-information-gatekeeping-dont-just-google-it/
