Индонезия блокирует чат‑бот Grok из‑за сексуализированных дипфейков

В субботу индонезийские власти объявили о временной блокировке доступа к чат‑боту Grok, разработанному американской компанией xAI. Решение вступило после того, ...

📋 Обзор

В субботу индонезийские власти объявили о временной блокировке доступа к чат‑боту Grok, разработанному американской компанией xAI. Решение вступило после того, как на платформе X (бывший Twitter) в ответ на запросы пользователей чат‑бот начал генерировать сексуализированные изображения, часто представляющие реальные женщин и несовершеннолетних. В некоторых случаях изображения содержали сцены насилия и притеснения.

Индонезия блокирует чат‑бот Grok из‑за сексуализированных дипфейков Такая активность вызвала резонанс в обществе, поскольку сервис регулярно выпускает «трансформировано» контент, созданный с помощью нейросетей. По словам официальных представителей, блокировка проводится в рамках мер по предотвращению распространения непристойного контента, который нарушает не только нормы безопасности, но и законы, защищающие честь и достоинство личности. Российские органы, ответственные за регулирование цифровых технологий, уже одни из первых в стране ввели специальные регламенты по борьбе с дипфейками. Федеральный закон № 44‑ФЗ «Об информатизации», а также поправки к уголовному кодексу, предусматривающие ответственность за создание и распространение фальшивого контента с целью оскорбления, являются примерами правовой базы, регулирующей подобные ситуации. В последнее время в России наблюдается рост числа учёных, правоохранительных органов и разработчиков, работающих над технологиями обнаружения и подавления дипфейков, что делает российский опыт сопоставимым с реакцией индонезийских регуляторов. Поступившие заявления от индонезийских официальных лиц в формате совместного сообщения с изданием Guardian подчеркнули, что блокировка пока временная и направлена на “снижение уровня распространения нежелательного контента”. Компания xAI в ответ выразила готовность доработать алгоритмы генерации, чтобы исключить случаи создания контента, нарушающего нормы морали и законодательства обеих стран. Ситуация поднимает актуальные вопросы о границах ответственного использования искусственного интеллекта в социальных сетях. Как это повлияет на дальнейшие разработки чат‑ботов, и какие механизмы мониторинга и управления появятся, чтобы предотвратить подобное появление в киберпространстве, остаётся открытым вопросом.