AI 상호작용 페이지를 통해 AI 채팅 애플리케이션이 조직 내에서 어떻게 사용되는지 모니터링하고 사용자 프롬프트를 통한 데이터 노출 위험을 평가할 수 있습니다. AI 보안을 활성화한 후, 페이지는 지원되고 활성화된 AI 애플리케이션으로 전송된 프롬프트에 대한 가시성을 제공하여 사용 패턴을 이해하고 잠재적으로 위험한 상호작용을 조사할 수 있게 도와줍니다.
각 상호작용은 단일 프롬프트를 나타내며 프롬프트를 받은 AI 애플리케이션과 감지된 주제 및 의도를 포함한 컨텍스트 정보를 포함합니다.
모니터 작업이 포함된 AI 보안 규칙을 정의하면, 일치하는 프롬프트가 탐지 표시와 함께 AI 상호작용 페이지에 나타납니다. 이 상호작용에 대해:
-
탐지 열은 탐지를 유발한 모니터링 프로필을 보여줍니다.
-
어떤 모니터링 규칙이 프롬프트에 일치했는지 쉽게 식별할 수 있습니다.
이 정보는 규칙 적용 범위를 검증하고 정책을 조정하는 데 도움이 됩니다.
특정 상호작용을 세부적으로 분석하면, 제공되는 상세 수준은 할당된 권한에 따라 달라집니다. 필요한 권한이 있는 관리자는 실제 AI 애플리케이션으로 전송된 프롬프트를 보기를 요청할 수 있습니다. 프롬프트에 문제가 있는 내용이 포함된 경우, 해당 섹션은 플래그가 설정되거나 하이라이트 표시됩니다. 규칙 작업에 차단이 포함되어 있는 경우, 상호작용 세부 정보는 사용자에게 제공된 차단 페이지를 보여줍니다.
역할과 권한에 대한 정보는 RBAC를 사용하여 관리자 역할 관리를 참고하세요.
참고: 프롬프트 보기와 같은 작업은 감사 로그에 기록됩니다.
댓글 0개
댓글을 남기려면 로그인하세요.