Что такое ИИ Безопасность для Агентов

Обзор

ИИ Безопасность для Агентов позволяет вам безопасно внедрять ИИ-агентов в вашу организацию, не теряя видимости или контроля над тем, как они получают доступ к данным, используют инструменты и совершают действия. Вы можете защитить рабочие процессы агентов от внедрения запросов, неавторизованного доступа к данным, раскрытия конфиденциальных данных и других злоупотреблений, которые могут привести к рискам безопасности или несоответствия.

Cato классифицирует ИИ-агентов по следующим категориям:

Локальные агенты обычно запускаются на конечной точке пользователя и в основном предоставляются сторонними организациями. Управляемые агенты обычно представляют собой агенты с низким или отсутствующим кодированием, предоставляемые облачными платформами и SaaS-провайдерами. Пользовательские агенты - это полностью закодированные агенты, которые вы создаете и запускаете на конечных точках или в облачных средах.

ИИ Безопасность для Агентов предоставляет вам единый способ мониторинга и управления этими типами агентов в управляемых вами средах. Это позволяет вам уверенно развертывать ИИ-агентов, поддерживая соблюдение политики, снижая операционный риск и поддерживая требования к соответствию.

Риски, представленные ИИ Агентами

ИИ агенты, которые работают автономно и взаимодействуют с инструментами, данными и внешними системами, представляют собой уникальные риски безопасности, соответствия и управления, выходящие за рамки традиционных угроз AI чатботов:

• Атаки, специфичные для ИИ — включая: внедрение запросов, попытки взлома и многоходовые атаки, разработанные для манипулирования поведением агента. В отличие от чатботов, агенты также могут быть атакованы через их отклики на инструменты (косвенное внедрение запросов), где вредоносная нагрузка в выходных данных инструмента может захватить действия агента.
• Эксфильтрация данных — агенты, имеющие доступ к репозиториям кода, внутренним API, CRM-системам или файловым системам. Эти агенты могут ненамеренно или злонамеренно раскрыть конфиденциальные данные, такие как исходный код, учетные данные, персональные идентификаторы или финансовые данные через вызовы инструментов или выходные данные моделей.
• Теневые агенты — могут быть несогласованные или неавторизованные ИИ агенты, установленные сотрудниками без одобрения IT, создавая слепые зоны в безопасности. Это включает в себя персональные инстансы помощников по кодированию, работающих без корпоративных лицензий или средств безопасности.
• Риски MCP серверов — вредоносные или неправильно сконфигурированные MCP серверы могут раскрывать конфиденциальные данные, выполнять неавторизованные команды или вносить уязвимости в рабочий процесс агента.
• Нарушения соответствия — несоблюдение регуляторных требований для ИИ систем, таких как закон ЕС об ИИ, или внутренних политик, регулирующих генерацию кода, обработку данных и автоматизированное принятие решений.
• Пробелы в управлении — отсутствие видимости того, какие агенты развернуты, к каким инструментам они подключаются и к каким данным они имеют доступ, что делает невозможным применение согласованных политик безопасности по всей организации.