Shadow AI 탐색을 통해 조직에서 공식적으로 승인되지 않았거나 관리되지 않는 생성 AI 및 AI 기반 서비스의 이용 현황을 확인할 수 있습니다. 이 도구는 사용자가 AI 도구와 상호작용하는 위치와 방법을 이해할 수 있도록 돕고, 시행 또는 거버넌스 정책을 정의하기 전에 잠재적 데이터 노출 및 위험을 평가할 수 있습니다.
Shadow AI 탐색은 인식 및 인사이트에 중점을 둡니다. 기본적으로 트래픽을 차단하지 않으며, AI 프롬프트 또는 응답의 내용을 검사하지 않습니다.
Shadow AI 탐색에서는 인터넷 트래픽을 통해 AI 서비스와의 상호작용을 식별합니다. 포함되는 항목:
- 공개 생성 AI 도구
- SaaS 애플리케이션 내에 임베디드된 AI 기반 기능
- 사이트 또는 원격 사용자에서 AI 서비스와의 직접적인 사용자 상호작용
이러한 상호작용은 명시적인 IT 승인 없이 승인된 기업 AI 플랫폼 밖에서 발생할 수 있습니다.
Shadow AI 탐색은 네트워크 수준의 파일 공개 범위와 트래픽 분석에 기반을 둡니다.
Cato는 애플리케이션 서명, 도메인 및 행동 패턴의 조합을 사용하여 AI 서비스를 식별합니다. 이에는 독립 실행형 AI 애플리케이션과 더 넓은 SaaS 플랫폼 내에 포함된 AI 기능이 모두 포함됩니다.
트래픽은 프로토콜, 목적지 및 사용량 기반 행동에 따라 AI 관련 활동을 감지하기 위해 지속적으로 분석되고 분류됩니다. 이 접근 방식은 AI 벤더와의 API 통합이나 엔드포인트에서의 에이전트 기반 검사에 의존하지 않습니다.
그런 다음 AI 사용량은 네트워크 컨텍스트와 상관 분석되어 AI 서비스를 사용하는 사용자, 위치 및 장치에 대한 가시성을 제공합니다. 사용자 상호작용 내용을 검사하지 않고.
추가적으로 Cato는 SaaS 애플리케이션(예: Microsoft 365 Copilot 또는 Google Workspace AI 기능)에 포함된 AI 모델에 대한 탐색, 구성 가시성 및 위험 평가를 제공합니다. 이 포함된 AI 기능은 동일한 분석 과정의 일부로 식별되어 무시되지 않도록 보장됩니다.
Cato AI 보안은 이러한 포함된 AI 기능의 위험 태세를 평가하고 사용 중인 특정 계획 또는 구성에 대해 정책을 시행하여 조직이 AI를 액세스하고 사용하는 방법을 규정할 수 있도록 합니다.
Shadow AI 탐색은 AI 사용과 관련된 메타데이터와 컨텍스트 정보를 수집합니다. 수집된 정보에는 다음이 포함됩니다:
- AI 애플리케이션 또는 서비스 신원
- 애플리케이션 범주 및 AI 분류
- 소스 컨텍스트, 예를 들어 사용자, 사이트 또는 IP 주소
- 목적지 AI 서비스
- AI 관련 활동의 빈도와 양
Shadow AI 탐색 인사이트는 Cato 관리 애플리케이션 내의 전용 Shadow AI 페이지에 표시됩니다. 이 페이지는 조직 전반의 AI 사용에 대한 집계된 위험 인식 뷰를 제공하도록 설계되었습니다.
Shadow AI 페이지는 다음과 같은 주요 질문에 답변하는 데 도움을 줍니다:
- 어떤 AI 애플리케이션이 환경에서 사용되고 있는지
- 사용자와 상호작용을 기반으로 각 AI 애플리케이션이 얼마나 널리 사용되는지
- 어떤 AI 애플리케이션이 더 높은 위험을 나타내고 더 면밀한 검토가 필요한지
이 인사이트를 활용하여 AI 채택 패턴을 이해하고, 승인되지 않았거나 고위험인 AI 서비스를 식별하며, 추가적인 거버넌스 또는 정책 통제가 필요한지 여부를 결정하십시오.
ABC 회사는 생산성과 협업을 지원하기 위해 직원들이 인터넷에 자유롭게 액세스할 수 있도록 합니다. 시간이 지남에 따라 사용자는 공개 생성 AI 도구와 AI 기반 기능을 채택하여 콘텐츠 생성, 연구, 코딩과 같은 작업을 돕게 됩니다. 이러한 서비스는 종종 공식 승인 없이 IT의 파일 공개 범위도 갖추지 않은 상태에서 사용됩니다.
IT 관리자라면 Cato Cloud를 통해 라우팅된 인터넷 트래픽을 분석하고 AI 서비스와의 상호작용을 식별하기 위해 Shadow AI 탐색을 사용합니다. Shadow AI 페이지는 사용 중인 AI 애플리케이션 목록을 작성하고, AI 애플리케이션이 얼마나 널리 채택되는지 보여주며, 더 높은 위험을 도입할 수 있는 애플리케이션을 강조합니다.
이 인사이트를 사용해 조직 전반에서 AI가 어떻게 사용되는지를 이해하고, 승인되지 않았거나 고위험인 AI 서비스를 식별하며, 잠재적 데이터 노출을 평가하고, AI 거버넌스 및 승인된 AI 플랫폼에 대한 정보에 입각한 결정을 내릴 수 있습니다.
댓글 0개
댓글을 남기려면 로그인하세요.