Character.AI ужесточает правила: подросткам закроют доступ к чат-ботам после серии исков о суицидах

Платформа Character.AI вводит возрастные ограничения после обвинений в причастности к подростковым суицидам. С 25 ноября несовершеннолетние не смогут общаться с ИИ-персонажами, но смогут просматривать старые диалоги.

📋 Обзор

Популярный сервис Character.AI, позволяющий пользователям общаться с ИИ-персонажами, объявил о введении строгих ограничений для пользователей младше 18 лет. Это решение последовало за волной судебных исков от семей, утверждающих, что взаимодействие с чат-ботами платформы спровоцировало подростковые суициды.

Основные детали

С 25 ноября 2025 года Character.AI полностью заблокирует возможность общения с чат-ботами для несовершеннолетних пользователей. До этого момента, в течение месяца, компания планирует постепенно ограничивать доступ, установив двухчасовой лимит ежедневного использования. Для выявления несовершеннолетних пользователей Character.AI будет использовать технологии анализа разговоров и взаимодействий на платформе, а также информацию из связанных аккаунтов в социальных сетях. После 25 ноября подростки смогут только просматривать свои предыдущие диалоги, но не смогут создавать новых чат-ботов или общаться с существующими. В качестве альтернативы компания разрабатывает новые функции для этой возрастной группы, включая возможность создания видео, историй и стримов с использованием ИИ-персонажей. Генеральный директор Character.AI Карадеп Ананд заявил в интервью The New York Times, что компания...

Значение для России

В России тема влияния ИИ на подростков также вызывает обеспокоенность. Хотя Character.AI не является столь популярной платформой, как, например, VK или Telegram, где также активно используются чат-боты, прецедент с судебными исками в США может повлиять на политику российских IT-компаний. Вполне вероятно, что российские разработчики начнут более внимательно относиться к возрастным ограничениям и модерации контента в своих ИИ-продуктах. Можно вспомнить недавние дискуссии вокруг безопасности онлайн-игр для детей, где также поднимался вопрос о психологическом воздействии контента. Например, в России существуют аналогичные платформы, предлагающие общение с виртуальными персонажами, и им, возможно, придется пересмотреть свои правила. Стоит отметить, что в российском законодательстве уже предусмотрена ответственность за доведение до самоубийства, и если будет доказана вина разработчиков ИИ в подобных случаях, им может грозить уголовное преследование.

Заключение

Решение Character.AI - это важный сигнал для всей индустрии ИИ. Оно подчеркивает необходимость ответственного подхода к разработке и внедрению технологий, особенно когда речь идет о взаимодействии с детьми и подростками. Этот случай может стать катализатором для разработки более строгих правил и стандартов безопасности в сфере ИИ, как в США, так и в России, и во всем мире. В будущем, вероятно, мы увидим больше внимания к этическим аспектам ИИ и к защите наиболее уязвимых пользователей от потенциального негативного воздействия.