Black Hat 2025: Искусственный интеллект – новая угроза изнутри компании?

На конференции Black Hat 2025 эксперты по кибербезопасности заявили, что инструменты на базе ИИ, призванные защищать компании, сами становятся источником угроз из-за действий инсайдеров и хакеров.

📋 Обзор

Конференция Black Hat 2025 стала площадкой для обсуждения парадоксальной ситуации: инструменты на основе искусственного интеллекта, которые компании внедряют для повышения безопасности, все чаще используются злоумышленниками, в том числе инсайдерами, для совершения атак.

Основные детали

В докладах прозвучали тревожные цифры. За последние полгода количество взломов облачных инфраструктур выросло на 136%. Зафиксированы случаи, когда северокорейские хакеры, используя сгенерированные ИИ личности, проникли в 320 компаний. Группировка Scattered Spider теперь разворачивает программы-вымогатели менее чем за 24 часа. Эксперты отмечают, что злоумышленники активно используют возможности ИИ для создания фишинговых писем, обхода систем аутентификации и автоматизации атак.

Однако, на Black Hat 2025 также были представлены решения, основанные на так называемом «агентном ИИ», которые позволяют обнаруживать и предотвращать подобные угрозы. Компания CrowdStrike, например, смогла выявить 28 северокорейских агентов, внедрившихся в 320 компаний под видом удаленных ИТ-специалистов, благодаря технологиям «агентного ИИ». Важно отметить, что многие вендоры представили метрики производительности своих решений, полученные в ходе бета-тестирования и реального использования. Основной акцент был сделан на оперативной готовности и практических результатах, а не на теоретических обещаниях.

CISOs (директора по информационной безопасности), с которыми общались журналисты VentureBeat на Black Hat, отмечают значительное увеличение количества обрабатываемых оповещений при текущем штате сотрудников и существенное сокращение времени расследования инцидентов.

Значение для России

В России проблема использования ИИ в киберпреступности также актуальна. Российские компании, как и их зарубежные коллеги, сталкиваются с фишинговыми атаками, использующими сгенерированные ИИ тексты и изображения. В качестве примера можно привести участившиеся случаи мошенничества с использованием дипфейков – поддельных видеороликов, в которых якобы участвуют известные лица или руководители компаний. Для защиты от подобных угроз российским компаниям необходимо инвестировать в разработку и внедрение собственных решений на основе ИИ, а также активно сотрудничать с международным сообществом по обмену информацией об угрозах.

На российском рынке уже есть примеры компаний, разрабатывающих системы обнаружения угроз на основе ИИ. Например, Positive Technologies активно использует машинное обучение для выявления аномалий в сетевом трафике и обнаружения сложных атак. «Лаборатория Касперского» также предлагает решения на базе ИИ для защиты от киберугроз.

Заключение

Конференция Black Hat 2025 показала, что гонка вооружений в сфере кибербезопасности продолжается. Искусственный интеллект становится мощным инструментом как для защиты, так и для нападения. Компаниям необходимо быть готовыми к новым вызовам и активно внедрять передовые технологии для обеспечения безопасности своей инфраструктуры и данных. Важно помнить, что человеческий фактор остается ключевым: обучение сотрудников и повышение их осведомленности о киберугрозах – важный элемент комплексной стратегии защиты.

🌟 Ключевые моменты

🤔 Экспертное мнение