Что такое Безопасность локальных AI-агентов

Обзор

Безопасность AI для локальных агентов позволяет обнаруживать и защищать AI-агентов, работающих на пользовательских устройствах, таких как агенты по кодированию. Вы получаете видимость установленных агентов, их конфигураций, типов лицензий, подключенных MCP-серверов и активностей во время выполнения. Это помогает контролировать теневых агентов и снижать риск утечки данных и косвенных атак на ввод.

Обнаружение и Защита Теневых Агентов по Кодированию

Инженерная организация позволяет определённым командам использовать управляемых помощников по кодированию, таких как Cursor и Claude Code, с корпоративной лицензией. Однако отдельные разработчики в компании установили дополнительные инструменты AI для кодирования без одобрения IT или корпоративного уровня защиты.

Безопасность AI для агентов использует Cato AI Scout для сканирования конечных точек по всей организации, определяя всех установленных AI-агентов, их конфигурации, типы лицензий и подключенные MCP-серверы. Команда безопасности получает полный инвентарь управляемых и неуправляемых агентов, что позволяет им поддерживать согласованную стратегию безопасности, гарантируя, что используют только одобренные и правильно настроенные агенты.

Предотвращение утечки данных через вызовы инструментов агентов

Команда разработчиков использует агенты AI, которые подключаются к внутренним и внешним системам через MCP-серверы и другие типы инструментов. Хотя эти интеграции повышают производительность, они также создают пути для передачи чувствительных данных через агента, которые могут оказаться раскрытыми.

Безопасность AI для агентов вводит в действие политики выполнения по всем четырём точкам инспекции: запросы пользователей, выходные данные моделей, вызовы инструментов и сообщения инструментов. Когда агент пытается отправить чувствительные данные, учетные данные или PII через вызов инструмента, или если в ответе инструмента содержится чувствительная информация, не предназначенная для передачи в модель, механизм политики обнаруживает и блокирует/редактирует действие в реальном времени. Это гарантирует, что рабочие процессы с поддержкой агентов остаются продуктивными, не создавая рисков утечки данных.

Защита местных AI-агентов от Косвенных Атак на Ввод

Локальные и агентов по кодированию подвергаются атакам на косвенный ввод, исходящим из инструментов. Например, "EchoLeak" и "CurXecute".

Безопасность AI для агентов обеспечивает защиту в реальном времени, проверяющую не только запросы и ответы, обмениваемые с LLM, но и содержание вызовов инструмента и сообщений инструмента. Когда в ответе инструмента содержится вредоносная нагрузка, такая как косвенная атака на ввод, пытающаяся захватить поведение агента, Cato AI Firewall обнаруживает и блокирует это до того, как содержимое достигнет агента. Это гарантирует, что внешние источники данных не могут быть использованы для манипуляции действиями агента.