应用程序的人工智能安全可让您在保持对数据访问和使用控制的前提下安全部署由人工智能驱动的体验。 AI You Build帮助您保护和管理组织开发和运营的AI系统。 它保护自定义人工智能应用程序免受滥用，例如越狱和提示注入，防止未经授权的数据访问，并确保符合监管和组织要求。
这些系统通常公开给内部用户、外部用户或客户，例如：
-
员工用于内部知识库或公司资料的内部人工智能聊天机器人
-
面向客户的外部聊天机器人，例如客户支持机器人
-
集成到业务应用程序中的AI助手
-
连接到内部数据来源的自定义AI接口，例如CRM或ERP系统
AI You Build为自定义AI系统在整个操作过程中提供保护和可见性，包括：
-
运行时保护—您可以在运行时保护AI系统，以防止故意滥用。 这包括阻止恶意尝试操纵提示、提取敏感信息或绕过系统保护措施。
-
监控 - 您可以监控用户如何与人工智能工具互动，以检测不当或意外行为。 这有助于您识别可能不是恶意但仍可能违反内部政策或合规性要求的活动。
与用户和数据交互的AI系统引入了独特的安全性、合规性和治理风险，例如：
-
AI专属攻击，例如提示注入、越狱尝试和旨在绕过保护的多轮攻击
-
数据泄漏—来自已连接系统（例如CRM平台）的客户或商业数据的暴露，或对敏感信息的未经授权访问，例如个人标识符或财务数据
-
合规性违约—未能满足AI系统的监管要求，例如欧盟AI法案对生成性AI的要求
-
治理缺口—部门或角色之间缺乏分隔，用户获得查看未授权数据的权限
0 条评论
请登录写评论。