Угрозы безопасности ИИ-агентов: как предотвратить компрометацию инфраструктуры

С развитием ИИ-агентов в корпоративной инфраструктуре возникают новые вызовы для систем безопасности. Эксперты отрасли активно обсуждают функциональные возможности агентов, но уделяют недостаточно внимания методам обеспечения их безопасности. Группа исследователей из Яндекса, включая Дениса Макрушина, Ратмира Самарханова и Андрея Погирейчика, провела проверку гипотезы о возможности компрометации ИИ-агентов в разработке и эффективности простых средств контроля.

Автономность ИИ-агентов и проблема идентичности

Появление автономных агентов, способных самостоятельно выбирать инструменты, изменять контекст и делегировать полномочия, значительно усложнило задачу контроля автоматизированных систем. Денис Корбаков, технический директор «Смарт-Софт», отмечает, что модель Zero Trust, хотя и охватывает не только людей, но и неперсонифицированные сущности (сервисы, приложения), сталкивается с новыми масштабами автономности и поведенческими моделями ИИ-агентов.

Существующие корпоративные реализации управления доступом и идентификацией (IAM) преимущественно ориентированы на интерактивные сессии человека или на стабильные сервисные аккаунты с предсказуемым поведением. ИИ-агенты занимают промежуточное положение: они не являются людьми, способными самостоятельно оценивать допустимые полномочия, и не представляют собой полностью статичные сервисы. Исследование Cloud Security Alliance, проведенное при поддержке Aembit, подтверждает, что текущие подходы к IAM испытывают нагрузку, на которую они изначально не были рассчитаны.

Ключевые аспекты безопасности ИИ-агентов:

  • Масштаб и автономность: Беспрецедентный уровень самостоятельности агентов требует переосмысления традиционных механизмов контроля.
  • Динамическое поведение: Изменение контекста и делегирование полномочий агентами делают их поведение менее предсказуемым.
  • Недостаточность отдельной идентичности: Простое присвоение агенту уникальной идентичности не решает всех проблем безопасности в условиях его динамичной работы.

Для обеспечения безопасности ИИ-агентов необходимо внедрять комплексные решения, которые учитывают их уникальные характеристики и динамическое поведение, выходя за рамки традиционных моделей IAM и Zero Trust, разработанных для статических систем или человеческих пользователей.