Искусственный интеллект на службе пропаганды: ChatGPT и другие чат-боты распространяют российские нарративы

Новое исследование выявило, что популярные чат-боты, такие как ChatGPT и Gemini, при ответах на вопросы об Украине цитируют российские государственные СМИ и ресурсы, связанные с Кремлем, продвигая дезинформацию.

📋 Обзор

Исследователи из Института стратегического диалога (ISD) обнаружили тревожную тенденцию: популярные чат-боты, разработанные OpenAI, Google, DeepSeek и xAI, при ответах на вопросы о войне в Украине ссылаются на российские источники, в том числе на СМИ, находящиеся под санкциями и связанные с российской разведкой или прокремлевскими структурами. Это поднимает серьезные вопросы об ответственности разработчиков ИИ и их способности контролировать распространение дезинформации.

Основные детали

Согласно отчету ISD, почти пятая часть ответов чат-ботов на вопросы об украинском конфликте содержала ссылки на российские государственные источники. Исследователи утверждают, что российская пропаганда активно использует так называемые «информационные лакуны» – ситуации, когда поиск актуальных данных выдает мало результатов из надежных источников, – чтобы продвигать ложную и вводящую в заблуждение информацию. Чат-боты, в свою очередь, невольно становятся распространителями этой пропаганды.

Значение для России

В России, где доступ к независимым источникам информации ограничен, а государственные СМИ активно продвигают определенную точку зрения на конфликт в Украине, распространение пророссийских нарративов через ИИ может иметь еще более серьезные последствия. Пользователи, доверяющие технологиям и не имеющие возможности критически оценить информацию, могут быть введены в заблуждение. В России, как и во многих других странах, растет популярность использования чат-ботов для получения информации и ответов на вопросы. Если эти чат-боты будут продолжать распространять дезинформацию, это может укрепить позиции прокремлевских сил и затруднить доступ к объективной информации.

Заключение

Полученные результаты ставят под сомнение способность крупных языковых моделей (LLM) ограничивать распространение информации из санкционных источников, что вызывает все большую обеспокоенность, поскольку все больше людей используют чат-ботов на базе ИИ в качестве альтернативы традиционным поисковым системам и источникам информации. Разработчикам необходимо срочно принять меры для фильтрации пропагандистского контента и обеспечения доступа к объективной и достоверной информации. В противном случае, ИИ может стать мощным инструментом для распространения дезинформации и манипулирования общественным мнением.