Группы безопасности в Малайзии и Индонезии приняли решение заблокировать доступ к новому чат‑боту X, известному как Grok, после вспышки скандала, связанного с р...
📋 Обзор
Группы безопасности в Малайзии и Индонезии приняли решение заблокировать доступ к новому чат‑боту X, известному как Grok, после вспышки скандала, связанного с распространением контента для несовершеннолетних.
Согласно заявлению руководства X, в результате внутреннего аудита стало ясно, что текущие механизмы контроля и модерирования контента не способны предотвратить любую публикацию сомнительного материала, в том числе и материалов, нарушающих нормы по защите детей. В частности, в ходе сканирования было обнаружено множество неразрешённых материалов, подпадающих под определение CSAM (child sexual abuse material). Команда X признала, что использованная система «средний уровень» валидации недостаточна, и пока не установлены прозрачные процедуры аутентификации и фильтрации контента от третьих лиц. Малайзия, будучи одним из первых государств, опробовавших кампанию по удалению неприемлемого контента из сети, на первых скважинах оценивала доступ к Grok и сразу же приняли решение о блокировке. Правительство подчеркнуло, что любые услуги, не подтверждённые эффективными мерами по защите интересов несовершеннолетних, попадают под запрет. Подобный подход аналогичен тому, как Роскомнадзор в 2023‑м году вынес предписание о закрытии доступа к ChatGPT из-за несоблюдения требований о защите детей и непроверенных данных. В Индонезии решение о блокировке было вынесено не дольше, чем через несколько дней после слухов о CSAM‑контенте. Правительственная служба контроля за интернетом заявила, что сигналы о массовом распространении контента, связанного с жестоким обращением с детьми, составляют серьёзную угрозу для социальной стабильности и требуют немедленных действий. В ответ X сообщил о запуске «углублённых» процедур фильтрации, однако в настоящее время сервис недоступен на территории обеих стран. Реакция пользователей и экспертов в России разошлась по точкам зрения. С одной стороны, специалисты в области кибербезопасности подчеркивают важность плотного контроля над ИИ‑сервисами, ведь даже небольшие пробелы в системе модерации могут привести к широкому распространению опасного контента. С другой стороны, сообщество ИИ‑разработчиков отмечает, что «слишком суровый» набор правил может существенно ограничить функциональность и инновационность подобных систем. Для российских читателей стоит обратить внимание на правовой контекст. В России действует закон «О средствах массовой информации» и «О персональных данных», а также законодательные акты, посвящённые защите детей в сети. Во многих случаях сервисы, не соответствующие требованиям, могут быть вывернуты Роскомнадзором. В 2022 году компания OpenAI столкнулась с постоянными требованием о блокировке функций, которые может использовать взрослый пользователь для создания контента, подлежащего глубокой проверке. Аналогично, в 2024‑м году MS Teams был временно ограничен в определённых регионах из‑за нецелевого распространения данных. Ситуация с Grok поднимает вопрос о глобальной ответственности компаний, которые выпускают ИИ‑продукты. Малайзийское и индонезийское решение служит сигналом, что в случае игнорирования требований по модерации контента крупные государства готовы принять решительные меры. Для российских компаний это сигнал о необходимости усовершенствования алгоритмов фильтрации и прозрачности их работы, а также о необходимости соотнесения любых новых сервисов с российскими законами о защите детей и кибербезопасности.
Источник: Аналитические данные и отраслевые отчеты
Следите за новостями технологий в нашем Telegram-канале и не пропускайте важные обновления!
Источник: engadget.com