Как CISO защитил активы на $8,8 трлн от атак «теневого» ИИ за 90 дней: опыт Clearwater Analytics

Интервью с CISO компании Clearwater Analytics о том, как корпоративный браузер стал первой линией обороны против несанкционированного использования ИИ сотрудниками и утечки конфиденциальных данных. Успешный кейс защиты активов на триллионы долларов.

📋 Обзор

В условиях стремительного развития искусственного интеллекта, компании сталкиваются с новыми угрозами безопасности, связанными с неконтролируемым использованием ИИ сотрудниками. CISO компании Clearwater Analytics, Сэм Эванс, поделился опытом оперативного развертывания защиты от так называемого «теневого ИИ», предотвратив потенциальную утечку данных, управляемых компанией активов на сумму $8,8 трлн.

Основные детали

В октябре 2023 года перед советом директоров Clearwater Analytics встала серьезная проблема: сотрудники могли непреднамеренно раскрыть конфиденциальные данные, загружая их в неконтролируемые AI-сервисы. По словам Эванса, наихудшим сценарием было бы использование клиентских данных для обучения сторонних моделей ИИ, что могло привести к утечке информации и нарушению конфиденциальности.

Основным инструментом защиты стал корпоративный браузер, который позволяет контролировать доступ сотрудников к различным веб-сервисам и предотвращать передачу конфиденциальных данных в неавторизованные системы. Этот подход позволил компании быстро и эффективно закрыть потенциальную брешь в безопасности, не ограничивая при этом возможности сотрудников использовать ИИ для решения рабочих задач.

Эванс подчеркнул, что атаки становятся все более изощренными, и фишинговые письма, например, теперь гораздо сложнее распознать. Использование ИИ злоумышленниками для создания убедительных подделок требует от компаний постоянного совершенствования систем защиты.

Значение для России

В России проблема «теневого ИИ» также становится все более актуальной. Многие российские компании, особенно в финансовом секторе и сфере консалтинга, управляют большими объемами конфиденциальных данных. Сотрудники могут использовать общедоступные AI-сервисы, такие как ChatGPT или YandexGPT, для повышения эффективности работы, не осознавая рисков утечки информации. Внедрение корпоративных браузеров и других инструментов контроля доступа к данным становится необходимостью для защиты интеллектуальной собственности и конфиденциальности клиентов.

Примером может служить ситуация, когда сотрудник российской консалтинговой компании загружает клиентские данные в ChatGPT для анализа рынка, не зная, что эта информация может быть использована для обучения модели и стать доступной третьим лицам. Внедрение корпоративного браузера с настроенными политиками доступа могло бы предотвратить такую утечку.

Заключение

Кейс Clearwater Analytics демонстрирует, что оперативное внедрение современных решений безопасности, таких как корпоративные браузеры, может эффективно защитить компании от угроз, связанных с неконтролируемым использованием ИИ. Российским компаниям следует обратить внимание на этот опыт и разработать стратегии защиты от «теневого ИИ», чтобы предотвратить утечки данных и сохранить конкурентоспособность.

🌟 Ключевые моменты

🤔 Экспертное мнение