В центре внимания вновь оказалась этическая сторона развития искусственного интеллекта. Компания OpenAI, разработчик популярного чат-бота ChatGPT, отвергает свою ответственность в трагическом случае самоубийства 16-летнего подростка, Адама Рейна, который на протяжении нескольких месяцев обсуждал свои суицидальные мысли с искусственным интеллектом.

Основные детали

Согласно заявлению OpenAI, в поданном в суд ответе компания утверждает, что трагические события стали результатом «неправомерного, несанкционированного, непредусмотренного, непредвиденного и/или неправильного использования ChatGPT» со стороны Рейна. В компании ссылаются на пользовательское соглашение, которое запрещает использование ChatGPT подростками без согласия родителей или опекунов, обход защитных мер и использование чат-бота для обсуждения самоубийства или самоповреждений. OpenAI также апеллирует к Разделу 230 Закона о соблюдении приличий в коммуникациях, который защищает интернет-платформы от ответственности за контент, созданный пользователями.

В своем блоге OpenAI заявила, что будет «уважительно отстаивать свою позицию, учитывая всю сложность и нюансы ситуации». Компания подчеркнула, что рассматривает подобные случаи с максимальной серьезностью и постоянно работает над улучшением безопасности и надежности своих моделей искусственного интеллекта.

Значение для России

Данный случай поднимает важные вопросы об ответственности разработчиков ИИ в России, где интерес к подобным технологиям растет экспоненциальными темпами. В России, как и во многих других странах, пока отсутствует четкое законодательное регулирование в сфере искусственного интеллекта, что создает правовую неопределенность в подобных ситуациях. Если бы подобный случай произошел в России, возник бы вопрос о том, на кого возложить ответственность: на разработчика чат-бота, на родителя, не уследившего за ребенком, или на самого подростка. Примером может служить активное обсуждение в российских социальных сетях роли онлайн-игр в подростковых суицидах, что подчеркивает актуальность проблемы и для российской аудитории.

Важно отметить, что в России активно разрабатываются аналогичные чат-боты и системы искусственного интеллекта, поэтому необходимо учитывать международный опыт и разрабатывать собственные этические нормы и правовые рамки для регулирования этой сферы. Например, Сбер уже представил своего чат-бота GigaChat, который, как и ChatGPT, может использоваться для различных целей, включая общение и поиск информации. Необходимо заранее предусмотреть механизмы защиты пользователей от потенциального вреда, который может быть нанесен неправомерным использованием таких технологий.

Заключение

Иск против OpenAI – это прецедент, который может оказать значительное влияние на развитие индустрии искусственного интеллекта. Он подчеркивает необходимость разработки четких правил и стандартов, регулирующих использование ИИ, особенно в отношении уязвимых групп населения, таких как подростки. В будущем, вероятно, возрастет спрос на инструменты родительского контроля и системы мониторинга, позволяющие отслеживать взаимодействие детей с чат-ботами и другими онлайн-сервисами. Также, вероятно, будут предприняты попытки ужесточить требования к пользовательским соглашениям и повысить прозрачность алгоритмов работы ИИ.