Компании сталкиваются с проблемами при развертывании агентов ИИ из-за ограничений разрешений, а не производительности моделей
Содержание
Несмотря на быстрый прогресс в области искусственного интеллекта, многие компании сталкиваются с серьезными проблемами при развертывании агентов ИИ. Основной причиной этих проблем не является производительность моделей, а rather ограничения разрешений. Каждый агент ИИ в конечном итоге сталкивается с вопросом: что он может делать, на чье behalf он действует и как система знает об этом?
Решение Workday
Компания Workday предлагает решение этой проблемы, используя свой существующий системой учета в качестве слоя управления для агентов. По словам президента компании по продукции и технологиям Gerrit Kazmaier, клиенты часто испытывают трудности при попытке создать собственные решения для своих агентов.
«Sana гарантирует, что целостность утверждений и модели безопасности всегда соблюдается», - сказал Казмаier. «Честно говоря, именно здесь мы видим, как клиенты испытывают трудности, когда они пытаются создать свои собственные решения для ИИ, просто получая доступ к сырым данным, и в результате богатство модели безопасности теряется, а результаты становятся слишком широкими».
Архитектура точности
Казмаier сказал, что самой большой проблемой, с которой они столкнулись, было обеспечение точности агентов, особенно для пользователей в области кадров и финансов.
«Почти правильно не допустимо», - сказал Казмаier. «Подумайте о том, чтобы платить людям правильно, закрывать книги или управлять рабочими графиками надежно».
Workday решила эту проблему, построив Gemini в качестве базового слоя рассуждений, а затем добавив контекстный движок и бизнес-логику на верхнем уровне. Workday также добавила модели верификации и классификации, которые «допрашивают» выходные данные перед выполнением.
Важность разрешений
Точность и идентификация, оказывается, являются одним и тем же вопросом: знает ли система достаточно об агенте, авторизованном человеке и текущем состоянии учета, чтобы действовать правильно?
Преимущество Workday заключается в том, что она может выводить структуру организации клиентов из предоставленных данных. Уже сейчас третьи поставщики идентификации, такие как Okta, проверяют свою информацию, проверяя Workday, поэтому контекст является системой учета для многих предприятий.
Источник: VentureBeat