You need to enable JavaScript to run this app.
文档中心
大模型应用防火墙

大模型应用防火墙

复制全文
下载 pdf
配置大模型防护策略
配置敏感数据防护策略
复制全文
下载 pdf
配置敏感数据防护策略
敏感数据防护策略可以实时识别模型输入和输出中的个人敏感数据或商业敏感数据,并根据预设策略执行观察、拦截、脱敏或安全代答。您还可以配置日志脱敏存储,降低敏感信息以明文形式写入日志的风险。​
注意​
日志脱敏存储仅适用于命中敏感数据防护策略且执行动作为脱敏的日志。执行动作为观察、拦截、安全代答等其他动作时,日志仍按原始内容存储。​
个人敏感数据和商业敏感数据的区别​
个人数据检测主要用于识别身份证号、手机号等标准化个人信息,商业数据检测主要用于识别企业内部的财务或人力资源敏感信息。​
​
​
数据类型​
主要识别对象​
个人数据​
身份证号、手机号、银行卡号、邮箱、人脸、车牌等​
商业数据​
企业财务敏感信息、人力资源敏感信息​
​
如果同一业务场景既需要检测个人数据,又需要检测商业数据,请分别创建两条敏感数据防护策略。​
此外,大模型应用防火墙还支持配置自定义商业数据检测规则,帮助您在业务场景中识别特定商业数据。详情请参见配置自定义商业数据。​
注意事项​
  • 大模型应用防火墙当前提供多模态敏感数据检测能力,各内容类型的大小和格式限制如下:​
  • ​
  • ​
    内容类型​
    大小​
    格式​
    文本​
    240 KB 以内​
    --​
    图片​
    10 MB 以内​
    JPG、JPEG、PNG、WEBP​
    文档​
    5 MB 以内​
    TXT、DOC、DOCX、XLSX、XLS、PDF、PPT、PPTX​
    ​
  • 不同方式接入的资产支持的检测方向和内容类型存在差异,详情如下:​
  • ​
  • ​
    资产接入类型​
    文本​
    图片​
    文档​
    SDK 接入​
    支持输入和输出​
    支持输入和输出​
    支持输入和输出​
    流量网关接入​
    支持输入和输出​
    仅支持输入​
    仅支持输入​
    模型服务接入​
    支持输入和输出​
    仅支持输入​
    仅支持输入​
    ​
前提条件​
您已将需要防护的资产接入大模型应用防火墙平台,详情请参见资产接入方式说明。​
新增敏感数据防护策略​
  1. 在顶栏选择实例所属地域。​
  1. 在左侧导航选择防护>大模型防护>敏感数据防护。​
  1. 启用策略。​
  • ​Image​​
  1. 单击添加规则,配置规则信息。​
  • ​
  • ​
    参数​
    说明​
    规则名称​
    输入规则的名称。​
    说明​
    • 以中文、字母、数字开头。​
    • 允许字母、数字、中文、点“.”、下划线“_”和中划线“-”。​
    • 长度为1-128个字符。​
    资产​
    选择需要匹配的资产或路径。勾选资产后,则该资产下配置的全部路径都会纳入匹配范围。​
    说明​
    SDK 方式接入的防护资产,暂不支持匹配到路径。​
    数据类型​
    • 个人数据:检测银行卡号、身份证号、电子邮箱、电话号码、真实人脸、车牌等信息。​
    • 商业数据:检测人力资源敏感信息或企业财务敏感信息。​
    内容类型​
    设置需要检测的内容类型:​
    • 所有类型:支持检测当前实例类型下支持的所有内容类型。​
    • 特定类型:按需选择文本、图片或文档类型。​
    生效方式​
    • 勾选:如需对大模型输入和输出执行相同类型的检测,则直接勾选同步生效输入与输出检测,然后配置统一的检测分类。​
    • 不勾选:如希望仅检测模型输入或模型输出,或者对输入或输出内容执行不同类型的检测,则取消勾选,然后分别配置检测分类。​
    检测分类​
    筛选需要检测的标签分类。​
    执行动作​
    检测到对应分类中的内容时,执行的处置动作。​
    • 观察:放行请求行为,记录日志。​
    • 拦截:拦截请求行为,如果该资产配置了自定义拦截响应策略,则会按照已配置内容响应用户。​
    • 脱敏:对应内容将以脱敏形式返回给用户(例如电话号码139****1111将显示为***********)。​
    • 安全代答:以经过训练的答案代替原大模型回应用户,确保回复内容合规合法。​
    说明​
    • 安全代答:仅对 SDK 方式接入的业务生效。​
    • 脱敏:仅对 SDK 方式接入的个人数据类型生效。​
    • 此处的脱敏用于控制返回给业务用户的内容。日志是否脱敏存储由敏感数据存储开关控制;仅当规则执行动作为脱敏且该开关已开启时,对应日志才会脱敏存储。具体操作请参见配置日志脱敏存储。​
    规则开关​
    开启或关闭当前规则。​
    ​
  1. 单击确定。​
修改默认敏感数据防护策略​
您将资产接入大模型应用防火墙时,已经设置了默认敏感数据防护策略。您可以修改该默认规则,例如修改规则名称、检测分类、执行动作等,但不支持修改生效资产范围。即该默认规则仅对接入时关联的资产生效。​
注意​
默认策略的生效资产范围不可修改,仅对首次配置时关联的资产生效。​
  1. 在顶栏选择实例所属地域。​
  1. 在左侧导航选择防护>大模型防护>敏感数据防护。​
  1. 单击默认规则对应的编辑。​
说明​
默认规则的名称格式为<资产名称>_默认防护规则,例如智能助手_默认防护规则。​
  1. 修改规则名称、内容类型、生效方式、检测分类、执行动作等参数。​
  • ​Image​​
  1. 单击确定。​
配置日志脱敏存储​
为降低银行卡号、电子邮箱、身份证号、电话号码等敏感信息以明文形式写入日志的风险,您可以开启敏感数据存储。该配置只影响开启后新产生且符合条件的日志。​
注意​
仅命中敏感数据防护策略且执行动作为脱敏的日志支持脱敏存储。执行动作为观察、拦截、安全代答等其他动作时,即使已开启敏感数据存储,日志仍按原始内容存储。​
  1. 在顶栏选择实例所属地域。​
  1. 在左侧导航选择日志详情。​
  1. 单击右上角日志配置。​
  • ​Image​​
  1. 开启敏感数据存储开关。​
  • ​Image​​
  • 开启后,新产生且执行动作为脱敏的敏感数据防护日志会先脱敏再存储,并在攻击日志和日志详情中以脱敏内容展示。其他执行动作对应的日志仍按原始内容存储和展示。​
  • ​Image​​
配置效果说明​
以下示例用于验证敏感数据防护策略的拦截效果。由于示例规则的执行动作为拦截,对应日志仍按原始内容存储,不会因开启敏感数据存储而脱敏。若要验证日志脱敏存储,请将执行动作配置为脱敏并开启敏感数据存储。​
规则配置​
假设您为资产配置了一条敏感数据防护规则,信息如下:​
​
​
参数​
值​
资产 ID​
app-d5d29git94j5fi7e****​
规则 ID​
rule-dafukg7s9hcborrne5f0​
内容类型​
所有类型​
检测分类​
所有个人数据​
执行动作​
拦截​
​
模拟请求​
请将以下命令中的 ****.com 和 ****.llm-shield.omni-shield.com 替换为您真实的资产域名和防护节点地址。​
​
curl -X POST \​
-H "Content-Type: application/json" \​
-H "Accept: */*" \​
-H "Host: ****.com" \​
--write-out "%{http_code}\n" \​
-d '{​
"messages": [ ​
{ ​
"role": "user", ​
"content": "我的电话号码是173********" ​
} ​
] ​
}' \​
http://****.llm-shield.omini-shield.com/v1/chat/completions​
​
响应结果​
​Image​​
攻击日志​
​Image​​
​
最近更新时间:2026.09.09 21:10:03
这个页面对您有帮助吗?
有用
有用
无用
无用