개요
사용자는 보안, 준수 또는 데이터 노출 위험을 완전히 고려하지 않고 일상적인 업무의 일환으로 AI 채팅 애플리케이션과 상호 작용하는 경우가 많습니다. 이러한 도구에 대한 액세스를 완전히 차단하면 위험을 줄일 수 있지만 AI 기반 워크플로우가 제공하는 생산성 혜택도 제거됩니다.
AI 상호 작용 정책을 통해 사용자가 실시간으로 프롬프트를 검사하고 위험한 콘텐츠가 감지될 때 대응함으로써 AI 채팅 애플리케이션과 상호 작용하는 방식을 제어할 수 있습니다. AI 채팅을 완전히 차단하는 대신 승인된 AI 사용을 허용하면서도 민감한 데이터 노출, 정책 위반 및 준수 위험을 방지하는 세밀한 보호를 적용할 수 있습니다.
AI 상호 작용 정책을 사용하면 조직의 보안 및 거버넌스 요구 사항에 따라 프롬프트 콘텐츠의 특정 유형을 차단, 익명화, 알림 또는 모니터할 수 있습니다. 이 접근 방식은 AI 도구의 적법하고 생산적인 사용을 방해하지 않고 민감한 정보를 보호하고 AI 사용 정책을 시행할 수 있게 해줍니다.
참고: AI Security API 통합 모듈을 사용할 때, AI Interaction Policies는 모니터링 작업만 지원합니다.
사전 요구 사항
AI Interaction Policies가 AI 트래픽을 검사할 수 있도록 TLS 검사가 계정 수준에서 활성화되어야 합니다. 계정에 TLS 검사가 비활성화된 경우 AI 상호 작용 정책은 AI 트래픽을 검사하지 않습니다.
AI 상호 작용 정책은 계정 수준의 TLS 검사 설정을 기반으로 일치하는 AI 트래픽을 검사하며 특정 TLS 검사 규칙이 필요하지 않습니다.
AI 상호 작용 정책 구성
규칙을 만들기 전에 Cato 관리 애플리케이션에서 최종 사용자에 대한 AI 상호 작용 정책을 활성화합니다.
최종 사용자를 위한 AI 상호 작용 정책을 활성화하려면:
- 네비게이션 메뉴에서 AI 보안을 선택합니다.
- 사용자 보호 아래에서 AI 상호 작용 정책을 선택합니다.
- 최종 사용자 프롬프트 규칙 토글을 활성화합니다.
AI 상호 작용 정책 규칙을 만들려면:
- AI 상호 작용 정책 페이지에서 새로운을 클릭합니다.
- 일반 섹션에서 이름 및 설명과 같은 필드를 구성합니다.
- 소스 섹션에서 규칙이 적용되는 사용자 또는 그룹을 선택하거나, 모든 소스에 규칙을 적용하려면 모든을 남겨둡니다.
- 애플리케이션 섹션에서 규칙이 적용되는 AI 애플리케이션을 선택하거나, 모든 지원 애플리케이션에 규칙을 적용하려면 모든을 남겨둡니다.
- 엔진 프로필 섹션에서 AI 프롬프트를 평가하는 데 사용되는 프로필을 선택합니다.
-
작업 섹션에서 작업을 선택하여 프롬프트가 콘텐츠 프로필과 일치할 때 적용됩니다, 예를 들어 차단.
API 규칙을 만드는 경우, 사용 가능한 유일한 작업은 모니터링입니다.
- (선택 사항) 사용자가 작업이 시행되었을 때 알림을 받도록 알림 템플릿을 선택합니다.
- 저장을 클릭합니다.
프롬프트가 구성된 기준과 일치할 때 선택한 작업이 시행됩니다.
AI 상호작용 정책은 각 규칙에 대해 다음 작업을 지원합니다:
- 차단 - 프롬프트가 차단되고 AI 벤더에게 정보가 전송되지 않습니다.
- 모니터링 - 프롬프트가 AI 벤더에게 보내지고 상호작용이 모니터링됩니다.
-
익명화 및 차단 - 선택한 엔진 프로필에 포함된 탐지기가 있다면:
- 익명화된 콘텐츠 지원, 콘텐츠는 익명화되고 전송됩니다.
- 익명화된 콘텐츠 지원 안 함; 프롬프트가 차단됩니다.
-
익명화 및 모니터링 - 선택한 엔진 프로필에 포함된 탐지기가 있다면:
- 익명화된 콘텐츠 지원, 콘텐츠는 익명화되고 전송됩니다.
- 콘텐츠 익명화를 지원하지 않습니다. 프롬프트는 AI 벤더에게 발송되며 상호 작용은 모니터링됩니다.
댓글 0개
댓글을 남기려면 로그인하세요.