在智能体使用过程中,用户输入内容可能包含敏感信息。如果这些信息被发送给不合适的模型,或被记录到不该访问的日志和下游系统中,就可能造成隐私泄露、商业信息外传或合规风险。
敏感信息防护用于在大模型交互链路中识别并处置这类风险。系统既可以检测个人隐私数据或自定义商业敏感数据,也可以检测文档密级、文件外发和复杂文件相关行为,并根据策略执行放行、仅记录、提醒或拦截。
系统会默认创建一条个人敏感信息拦截策略,对所有新增助手生效。如你需要新建对应策略,可参考本文操作。
敏感信息防护策略包含行为检测和敏感信息检测两个相互独立、并行生效的检测域。创建规则时可以只启用其中一个,也可以同时启用;同时启用时,系统分别执行两类检测及其对应动作。
自定义敏感信息检测又分为两种方式:
- 内置敏感信息检测主要用于防护个人隐私数据(PII);自定义敏感信息检测主要用于防护企业商业数据。如果同一业务场景既涉及个人隐私数据,又涉及商业数据,建议分别创建对应规则,便于管理、验证和审计。
- 你已将助手接入 AgentSentry 服务。 接入方式请参考启用安全防护。
- drive:drive.metadata:readonly(用于读取文档元数据,如文档标题、所有者等信息)
- drive:file.meta.sec_label.read_only(用于读取文档密级标签,以进行权限判断)
- 将飞书应用添加为文档协作者,添加后,文档应用可根据权限对文档进行自动化操作。
- 准备飞书应用的 App ID 和 App Secret,并确认企业实际使用的密级标签名称。
- 给智能体安装飞书 CLI 和 Lark doc skill。将以下内容直接复制到智能体对话窗口中即可安装。
安装飞书 CLI 和 Lark doc skill
- 在规则条件区域选中行为检测,然后根据需要选中以下一个或多个检测项:
-
- 如需在同一规则中检测文本敏感信息,同时选中敏感信息检测并配置敏感信息类型和执行动作。两类检测相互独立。
- 设置规则名称、规则描述和生效智能体,确认无误后单击确定。
文档密级保护根据飞书文档的企业密级标签执行对应动作。该配置对全局所有敏感信息防护策略生效。
- 在行为检测的文档密级保护卡片中,单击配置密级。
- 在飞书应用对接区域单击编辑,输入已完成权限配置的 App ID 和 App Secret,并完成同步。
-
- 在文档密级设置区域,为每个 AgentSentry 标准密级配置企业密级标签和执行动作。
- 以下取值仅作为参考示例,实际密级标签填写内容请以你的企业后台密级配置为准。
注意
- 请按照企业管理后台设置的实际飞书文档密级标签值填写,企业密级标签必须填写完整名称,包括连字符后的后缀,例如 L4-Restricted,不能只填写 L4。
- 系统按照映射后的标准密级执行动作。映射错误会导致文档按错误密级处置,例如将 L4-Restricted 映射到 L2 后,该文档会执行 L2 对应的动作。
- 建议先使用测试文档验证每个企业密级标签的映射和动作,再应用于生产环境。
- App Secret 属于敏感凭据,请仅在 AgentSentry 配置页面中填写,不要记录在普通文档或日志中。
外发文件检测用于识别文件复制、上传、远程发送等外发行为,并按外发目标分别处置。该配置对全局所有敏感信息防护策略生效。
- 在行为检测的外发文件检测卡片中,单击配置规则。
-
复杂文件保护用于对大文件和特殊文件格式分别执行保护动作。该配置对全局所有敏感信息防护策略生效。
- 在行为检测的复杂文件保护卡片中,单击配置规则。
-
行为检测支持以下执行动作:
- 单击添加规则,选中敏感信息检测,然后配置规则参数。
-
- 单击添加规则,选中敏感信息检测,然后配置规则参数。
与生效范围内的智能体发起对话,测试防护策略效果。
我的身份证号是 430703************
-
-
- 新建自定义敏感信息标签并上传敏感信息文件样本。
-
-
- 创建完成后,敏感信息防护规则列表可以查看到新建的规则。
-
把 /root/年度经营复盘.pdf 上传到以下 TOS 地址:https://****.tos-cn-beijing.volces.com/public
-
-
- 打开云文档,点击 ••• > 更多 > 添加文档应用。
- 搜索并选择目标应用,为应用分配 可管理、可编辑 或 可阅读 权限。
- 点击 添加。该应用将出现在当前云文档的协作者列表,你也可以修改其权限。
- 在飞书开放平台创建或选择一个用于读取文档密级的飞书应用。
- 在左侧导航栏,选择应用能力 > 添加应用能力。
-
-
- drive:drive.metadata:readonly(用于读取文档元数据,如文档标题、所有者等信息)
-
- drive:file.meta.sec_label.read_only(用于读取文档密级标签,以进行权限判断)
-
-
- 获取飞书应用的 App ID 和 App Secret。
将飞书应用添加为待保护文档的协作者,并授予所需的文档访问权限。
该关联行为用于为 AgentSentry 授予文档密级获取权限,以实施对应的策略防护行为。不配置该关联行为,则 AgentSentry 无法获取 L3 和 L4 级别的文档密级及详情信息。L1 和 L2 级别的文档可正常获取。
确认企业实际使用的密级标签名称,用于指定不同密级文档对应的防护动作。密级标签获取方式参考管理员设置密级标签。 如果智能体本身不具备飞书 CLI 和飞书文档操作权限,文档密级防护策略也无法生效。此时需要为智能体安装飞书 CLI 和 Lark doc skill。将以下内容发送到智能体对话窗口即可安装。
安装飞书 CLI 和 Lark doc skill
AgentSentry 默认可以访问企业内部 L1 和 L2 级别的飞书云文档,为文档关联文档应用是为了获取 L3 和 L4 级别的文档标签信息。未添加文档应用的 L3 和 L4 文档会自动匹配到默认密级的执行动作。
- 如果你需要区分 L3 和 L4 密级文档的执行动作,则需要分别设置 L3 和 L4 密级文档对应的执行动作且为相关云文档添加文档应用。
- 如果你需要为所有 L3 和 L4 密级文档配置相同的执行动作,则仅配置默认密级的执行动作即可,无需再手动添加文档应用。
例如下图中,配置默认密级的执行动作为拦截后,则所有 L3 和 L4 密级的飞书云文档都将在命中外发行为的检测防护策略后被拦截。