OpenAI поддержала законопроект, который может защитить разработчиков ИИ от исков за катастрофические последствия

В Иллинойсе предложили ограничить ответственность крупных ИИ-компаний, если их модели использовали для массовой гибели людей или ущерба свыше $1 млрд.

📋 Обзор

OpenAI выступила в поддержку законопроекта штата Иллинойс SB 3444, который способен заметно изменить правила игры для всей индустрии искусственного интеллекта в США. Документ предлагает ограничить ответственность разработчиков так называемых frontier-моделей — самых мощных и дорогих систем ИИ — в случаях, когда такие модели используются для нанесения критического общественного вреда, включая массовую гибель людей, тяжёлые травмы или колоссальный имущественный ущерб.

Основные детали

Согласно описанию инициативы, под «критическим вредом» понимаются сценарии, в которых действия с применением ИИ приводят к смерти или серьёзным травмам 100 и более человек либо к имущественному ущербу не менее 1 млрд долларов. Законопроект предусматривает, что разработчики frontier-моделей не будут нести ответственность за такие последствия, если не будет доказано, что они действовали умышленно или по преступной неосторожности, а также если они заранее опубликовали на своём сайте отчёты о безопасности, защите и прозрачности.

Отдельно в документе прописано, что frontier-моделью считается ИИ-система, обучение которой потребовало более 100 млн долларов вычислительных затрат. На практике это означает, что закон может касаться прежде всего крупнейших игроков американского рынка: OpenAI, Google, xAI, Anthropic и Meta. Для стартапов и небольших лабораторий такая планка сегодня фактически недостижима, поэтому инициатива ориентирована именно на верхний сегмент отрасли.

Как отмечает WIRED, шаг OpenAI выглядит как изменение законодательной стратегии компании. Ранее она в основном занимала оборонительную позицию и выступала против инициатив, которые могли бы прямо возложить на лаборатории ИИ ответственность за вред, причинённый их технологиями. Теперь же речь идёт уже о поддержке более жёсткой и системной модели правовой защиты отрасли. Несколько экспертов по ИИ-политике заявили изданию, что SB 3444 выглядит более радикальным, чем законопроекты, которые OpenAI одобряла прежде.

Фактически обсуждается ключевой для всей индустрии вопрос: кто отвечает за последствия применения мощных моделей — тот, кто создал технологию, или тот, кто использовал её во вред? Сторонники инициативы, по сути, предлагают закрепить подход, близкий к логике поставщика инфраструктуры: если компания разработала модель, раскрыла сведения о рисках и не действовала заведомо безответственно, то дальнейшая вина должна ложиться на злоумышленников, операторов или интеграторов.

Значение для России

Для российской аудитории эта дискуссия особенно показательна, потому что она во многом повторяет споры, которые неизбежно возникнут и на отечественном рынке по мере роста генеративных моделей, автономных систем и ИИ-сервисов для бизнеса. Если проводить аналогию, вопрос можно сформулировать так: отвечает ли производитель автомобиля за преступление, совершённое на машине, или всё же за последствия должен отвечать водитель? В случае с ИИ ситуация сложнее, потому что сама модель может влиять на решения пользователя, автоматизировать опасные действия и масштабировать ошибку мгновенно.

Для российских компаний, работающих с ИИ, американская инициатива важна как ориентир того, как крупнейшие мировые игроки хотят выстроить регуляторный контур: обязательные публичные отчёты о безопасности в обмен на снижение юридических рисков. Такой подход может оказаться привлекательным и для других юрисдикций, поскольку он позволяет не душить инновации бесконечными исками, но одновременно создаёт минимальный набор требований к прозрачности. В России, где государство и крупный бизнес активно внедряют ИИ в финтехе, промышленности, логистике и госсервисах, вопрос о распределении ответственности между разработчиком модели, интегратором и конечным пользователем будет только обостряться.

Особенно чувствительной эта тема выглядит для банковского сектора, критической инфраструктуры и крупных платформ. Если представить масштабный сбой в автоматизированной системе оценки рисков, цепную ошибку в промышленном управлении или манипуляции в финансовых сервисах, то спор о том, кто обязан компенсировать ущерб, быстро выйдет из академической плоскости в реальную судебную практику. Американский законопроект показывает, что ведущие ИИ-компании пытаются заранее зафиксировать для себя более безопасные правила.

Заключение

Поддержка SB 3444 со стороны OpenAI — это не просто реакция на очередную региональную инициативу, а сигнал о том, как крупнейшие разработчики ИИ видят будущее регулирования. Компании хотят снизить риск многомиллиардных исков в ситуациях, когда их модели становятся инструментом чужих действий, даже если последствия оказываются катастрофическими. Критики опасаются, что такой подход ослабит стимулы к реальной безопасности и позволит лидерам рынка переложить слишком большую часть ответственности на пользователей. Но если закон будет принят, он может стать заметным прецедентом не только для США, но и для глобальной дискуссии о том, где заканчивается ответственность создателя технологии и начинается вина её оператора.