Американские законодатели от обеих партий представили законопроект GUARD Act, направленный на защиту несовершеннолетних пользователей от потенциально опасного воздействия чат-ботов с искусственным интеллектом. Инициатива вызвала широкий резонанс в IT-индустрии и обществе.

Основные детали

Законопроект GUARD Act (Guaranteeing Appropriate and Responsible AI Development Act) предполагает введение строгих возрастных ограничений на использование ИИ-чатботов. Согласно документу, компании, разрабатывающие и предоставляющие доступ к таким сервисам, будут обязаны проводить обязательную верификацию возраста как для новых, так и для существующих пользователей. Проверка должна осуществляться с использованием сторонних систем, чтобы обеспечить максимальную надежность и исключить возможность обхода ограничений. Кроме того, компании должны будут периодически повторять процедуру верификации для уже подтвержденных аккаунтов.

Особое внимание уделяется защите персональных данных пользователей. Собранная информация может храниться компаниями только в течение ограниченного времени, необходимого для проведения верификации. Сенатор Ричард Блюменталь, один из соавторов законопроекта, заявил, что компании, стремясь к быстрой прибыли, часто пренебрегают безопасностью детей, предоставляя им доступ к чат-ботам, которые могут быть использованы для сексуального насилия, склонения к самоповреждению или суициду. За нарушение требований GUARD Act предусмотрены серьезные штрафные санкции, включая уголовную ответственность.

Значение для России

В России тема регулирования ИИ также активно обсуждается. Хотя аналогичного законопроекта пока нет, эксперты отмечают растущую обеспокоенность влиянием ИИ на молодежь. Многие российские компании, разрабатывающие чат-боты и виртуальных ассистентов, уже сейчас внедряют системы фильтрации контента и мониторинга поведения пользователей, чтобы предотвратить возможные негативные последствия. Например, голосовой помощник «Алиса» от Яндекса имеет встроенные механизмы защиты от нежелательного контента и ограничения доступа к информации, предназначенной для взрослых. Однако, как и в США, в России существует проблема обхода этих ограничений, и необходимость более жесткого регулирования становится все более очевидной. Принятие GUARD Act в США может послужить стимулом для разработки аналогичных мер в России и других странах.

Заключение

Законопроект GUARD Act представляет собой важный шаг в направлении защиты детей от потенциальных рисков, связанных с использованием ИИ-чатботов. В случае его принятия, IT-компаниям придется серьезно пересмотреть свои подходы к верификации пользователей и обеспечению безопасности контента. Эта инициатива может стать прецедентом для других стран, включая Россию, где вопрос регулирования ИИ становится все более актуальным.