에이전트에 대한 AI 보안이란 무엇입니까

개요

AI 에이전트에 대한 보안을 통해 조직에서 AI 에이전트를 안전하게 수용할 수 있으며 데이터 액세스, 도구 사용 및 작업 수행 방식을 제어하고 가시성을 잃지 않습니다. 프롬프트 주입, 승인되지 않은 데이터 접근, 민감한 데이터 노출 및 보안 또는 준수 위험으로 이어질 수 있는 기타 악용으로부터 에이전트 워크플로를 보호할 수 있습니다.

Cato는 AI 에이전트를 다음 범주로 분류합니다.

로컬 에이전트는 일반적으로 사용자 데이터 엔드포인트에 운영되며 대부분 타사에서 제공합니다. 관리되는 에이전트는 일반적으로 클라우드 플랫폼 및 SaaS 제공업체에서 제공하는 로우 코드 또는 노 코드 에이전트입니다. 맞춤형 에이전트는 엔드포인트 또는 클라우드 환경에서 구축 및 실행되는 완전한 코딩된 에이전트입니다.

에이전트 유형을 관리하는 환경 전반에 걸쳐 모니터링하고 관리할 수 있는 단일 방법을 제공합니다. 정책 집행을 유지하고 운영 위험을 줄이며 준수 요구 사항을 지원하는 동안 자신 있게 AI 에이전트를 배포할 수 있습니다.

AI 에이전트가 제기하는 위험

자율적으로 운영되고 도구, 데이터 및 외부 시스템과 상호 작용하는 AI 에이전트는 일반적인 AI 챗봇 위협을 넘어선 독특한 보안, 준수 및 거버넌스 위험을 초래합니다.

• AI 전용 공격 - 프롬프트 주입, 탈옥 시도 및 에이전트 행동을 조작하도록 설계된 다중 턴 공격을 포함합니다. 챗봇과 달리 에이전트는 도구 응답을 통한 간접 프롬프트 주입에서 공격받을 수 있으며, 도구 출력 내 악성 페이로드가 에이전트의 행동을 탈취할 수 있습니다.
• 데이터 유출 - 코드 저장소, 내부 API, CRM 시스템 또는 파일 시스템에 액세스할 수 있는 에이전트. 이러한 에이전트는 도구 호출이나 모델 출력을 통해 소스 코드, 인증 정보, 개인 식별자 또는 금융 데이터를 부주의하게 또는 악의적으로 유출할 수 있습니다.
• 섀도우 에이전트 - IT 승인을 받지 않고 직원이 설치한 관리되지 않고 승인되지 않은 AI 에이전트로 보안 상태에 맹점을 만들 수 있습니다. 기업 라이센스 또는 보안 컨트롤 없이 실행되는 개인적인 코딩 보조 도구 인스턴스를 포함합니다.
• MCP 서버 위험 - 악성 또는 잘못 구성된 MCP 서버는 민감한 데이터를 노출하고, 승인되지 않은 명령을 실행하거나 에이전트의 워크플로우에 취약점을 도입할 수 있습니다.
• 준수 위반 - EU AI 법 또는 코드 생성, 데이터 처리 및 자동화된 의사 결정에 관한 내부 정책과 같은 AI 시스템에 대한 규제 요구 사항을 충족하지 못한 경우 발생합니다.
• 거버넌스 격차 - 배포된 에이전트의 가시성 부족, 연결된 도구 및 액세스할 수 있는 데이터가 조직 전체의 일관된 보안 정책을 집행할 수 없게 만듭니다.