Конференция RSAC 2026 раскрыла пять новых рамок для идентификации агентов, но оставила три критические уязвимости без решения
📋 Обзор
На недавней конференции RSAC 2026 было представлено пять новых рамок для идентификации агентов, которые направлены на повышение безопасности ИИ-систем. Однако, как отметил технический директор CrowdStrike Элия Зайтсев, эти рамки могут не полностью решить проблему безопасности, поскольку язык сам по себе содержит возможность обмана и манипуляции.
Зайтсев подчеркнул, что вместо анализа намерений агентов, более эффективным подходом является наблюдение за их фактическими действиями. Это позволяет выявлять потенциальные угрозы безопасности более точно. CrowdStrike уже реализовала подобный подход в своем продукте Falcon, который отслеживает действия агентов на конечных точках и анализирует их поведение.
Эта проблема особенно актуальна для российских компаний, которые все чаще используют ИИ-системы в своих бизнес-процессах. Как показал недавний инцидент с одним из крупных российских банков, даже без умысла агенты могут совершать действия, которые могут поставить под угрозу безопасность системы. Поэтому развитие эффективных рамок для идентификации агентов и мониторинга их действий является крайне важным для предотвращения подобных инцидентов.
В заключении, конференция RSAC 2026 показала, что хотя были сделаны шаги в развитии рамок для идентификации агентов, еще много работы предстоит для решения проблемы безопасности ИИ-систем. Российские компании должны быть осведомлены об этих рисках и принимать активные меры для защиты своих систем от потенциальных угроз.
Источник: Аналитические данные и отраслевые отчеты
Следите за новостями технологий в нашем Telegram-канале и не пропускайте важные обновления!
Источник: venturebeat.com