You need to enable JavaScript to run this app.
文档中心
大模型应用防火墙

大模型应用防火墙

复制全文
下载 pdf
配置自定义防护策略
配置自定义词库
复制全文
下载 pdf
配置自定义词库
大模型应用防火墙不仅内置了用于内容合规性检测的向量词库,还支持您创建自定义词库。自定义词库本身不具备拦截或放行属性,它通过检测分类将匹配内容与生效对象(资产)进行关联,并根据指定的动作决定检测内容的处理方式。通过这种基于资产维度的生效逻辑,自定义词库可以帮助您实现灵活、精细的内容管控。​
注意​
如果您当前使用的自定义词库为旧版本(控制台页面左上方会出现升级提示信息),建议您尽快升级至新版词库管理页面,以便在后续的版本迭代中获得更好的体验。​
流程说明​
您可以通过以下流程,让自定义词库在防护策略中生效:​
  1. 创建自定义检测分类:创建一个新的检测分类,例如“金融合规”。​
  1. 创建自定义词库:将具有相似属性的词库关联到同一个检测分类。​
  1. 创建自定义规则:​
  1. 在自定义检测规则页面,创建一条新规则,并在规则中选择目标资产和需要生效的检测分类。配置了相同检测分类的词库将被自动绑定到目标资产。​
  1. 在该规则中配置期望的执行动作,例如“放行”、“拦截”、“安全代答”或“观察”。​
  1. 规则生效:保存后,当用户输入或模型输出的内容命中该词库时,系统将根据对应的自定义规则执行您设定的动作(如拦截、放行等)。​
场景示例​
  • 白名单场景:例如确保特定的行业术语或品牌名称不被错误拦截,则您可以参考如下操作:​
  1. 将这些术语添加到同一个词库。​
  1. 将这些术语所在的词库关联到自定义检测分类,例如金融行业放行词库。​
  1. 为相关的资产配置自定义检测规则,分类选择词库对应的分类,执行动作为放行。​
  • 黑名单场景:例如拦截或监控已知的违规内容,则您可以参考如下操作:​
  1. 将这些术语添加到同一个词库。​
  1. 将这些术语所在的词库关联到自定义检测分类,例如金融行业拦截词库。​
  1. 为相关的资产配置自定义检测规则,分类选择词库对应的分类,执行动作为拦截、代答或观察。​
注意事项​
  • 如果您未配置任何自定义词库,系统将默认使用预置词库进行内容检测。​
  • 自定义词库数量限制:​
  • 最多支持 100 个自定义词库。​
  • 所有词库的词汇规则数量总和最多为 10,000 条。​
  • 正则匹配的词汇规则数量总和最多为 10 条。​
操作步骤​
  1. 在左侧导航栏中,选择防护 > 自定义防护 > 自定义词库。​
  1. 单击添加词库,在弹出的配置页面中填写词库信息。​
  • ​Image​​
  • ​
  • ​
    参数​
    说明​
    示例值​
    规则名称​
    为您的词库设定一个具有辨识度的名称。​
    说明​
    • 以中文、字母、数字开头。​
    • 允许字母、数字、中文、点“.”、下划线“_”和中划线“-”。​
    • 长度为1-128个字符。​
    金融行业负向词库​
    描述​
    对词库用途、场景等进行补充说明,便于后续管理和理解。​
    用于识别和拦截涉及高收益金融理财、非法集资相关的诱导性词汇。​
    检测分类​
    为词库指定一个检测分类,以便在自定义规则中进行关联。​
    您可以从下拉列表中选择一个已有分类。如果现有分类不适用,可点击 + 新建分类 按钮创建新的分类。​
    说明​
    新建分类后,需前往“自定义检测规则”页面创建规则并绑定该分类,才能使其生效。​
    金融合规​
    匹配方式​
    您可以在以下三种匹配方式中选择最适合您场景的一种:​
    • 完全匹配:待检测内容必须与您在此处填写的某一条词条完全一致时,才算命中。​
    • 适用场景:适用于需要精确控制的场景,如指令、专有名词等。​
    • 示例:若词库内容为“你好”,则只有内容为“你好”时才会命中。​
    • 关键词匹配:待检测内容中包含您所设定的关键词组合时,就算命中。​
    • 不保留顺序 (默认):只要文本中包含所有设定的关键词即可,不限出现顺序。示例:关键词为保本, 零风险。当内容为该理财产品保本且零风险或该理财产品零风险,能保本时,规则会被命中。​
    • 保留顺序:文本必须按照设定的顺序包含所有关键词。关键词为保本, 零风险。只有当内容为该理财产品保本且零风险时,规则会被命中;内容为该理财产品零风险,能保本时则不会命中。​
    • 正则匹配:允许您使用正则表达式定义复杂的匹配模式,适用于需要识别特定格式或结构的文本,如手机号、身份证号或特定句式。​
    说明​
    • 请输入符合通用规范的正则表达式。​
    • 为保证系统性能,请避免使用可能导致性能问题的复杂表达式,如包含过多回溯的写法。​
    • 示例 1:检测用户询问具体收益率预测。例如表达式写为收益率?\s*\d+[%]。​
    • 命中:收益率5%、收益10%、收益 20%、年化收益 8%。​
    • 不命中:收益率 5(没有百分号)、年化收益高(没有具体数值)。​
    • 示例 2:违规承诺收益。例如表达式写为(保证|承诺|确保|稳|包).{0,5}(赚|盈利|收益|利息|回本)。​
    • 命中:保证回本、包赚、确保您的收益为正。​
    • 不命中:为了保证账号安全,请勿泄露密码(未出现利益相关关键词)、我们承诺一年之内可以回本(两个关键词中间有 6 个字符)。​
    关键词匹配(不保留顺序)​
    提示词​
    • 在此处定义词库的具体匹配内容。您可以根据需要选择不同的匹配方式,并支持批量粘贴录入。​
    • 批量粘贴增强:​
    • 您可以将多条自定义内容填写在 Excel 表格的某一列,然后将该列内容直接复制粘贴到输入框,系统会自动将其拆分为多条独立的词条记录。​
    • 当匹配方式选择为关键词匹配时:​
    • 单条词条(AND 逻辑):如需配置“同时包含A和B才命中”,请在同一个输入框内输入A和B(以回车换行分隔)。​
    • 多条词条(OR 逻辑):如需配置“包含A即命中,或包含B即命中”,请点击添加按钮,在不同的输入框中分别输入A和B。​
    高收益 零风险​
    规则开关​
    根据需要设置是否启用该词库。​
    开启​
    ​
  1. 完成所有配置后,单击确定。​
后续操作​
自定义词库创建完成后,需要将词库关联至自定义检测规则才能生效,具体操作请参见配置自定义检测规则。​
效果演示​
为了让您更好地理解自定义词库的工作原理,以下通过金融合规场景展示不同匹配方式下的生效逻辑。​
配置示例​
​
​
配置​
说明​
生成 ID​
自定义词库​
  • 词库名称:金融行业负向词库​
  • 检测分类:金融合规​
  • 匹配条件 1:​
  • 匹配方式:完全匹配​
  • 匹配内容:查询信用卡账单​
  • 匹配条件 2:​
  • 匹配方式:关键词匹配 不保留顺序​
  • 匹配内容:高收益 零风险​
  • 匹配条件 3:​
  • 匹配方式:正则匹配​
  • 匹配内容:推荐一只收益率为(\d+(\.\d+)?%?)的股票​
thesaurus-d5noar1sqn9s7396****​
规则设置​
  • 规则名称:金融合规检测​
  • 防护资产:app-d5d29git94j5fi7e****​
  • 生效方式:同步生效输入与输出检测​
  • 检测分类:金融合规​
  • 执行动作:拦截​
rule-d5nop8hsqn9s7396****​
​
测试效果​
命中防护策略(拦截)​
说明​
如果资产关联了自定义响应拦截策略,当检测内容命中防护策略被拦截后,客户端会收到自定义响应策略配置的响应内容。​
​
完全匹配
关键词匹配
正则匹配
​
​
curl -X POST \​
-H "Content-Type: application/json" \​
-H "Accept: */*" \​
-H "Host: ****.com" \​
--write-out "%{http_code}\n" \​
-d '{​
"messages": [ ​
{ ​
"role": "user", ​
"content": "查询信用卡账单" ​
} ​
] ​
}' \​
http://****.llm-shield.omini-shield.com/v1/chat/completions​
​
​Image​​
​
未命中防护策略(放行)​
​
完全匹配
关键词匹配
正则匹配
​
​
curl -X POST \​
-H "Content-Type: application/json" \​
-H "Accept: */*" \​
-H "Host: ****.com" \​
--write-out "%{http_code}\n" \​
-d '{​
"messages": [ ​
{ ​
"role": "user", ​
"content": "查询我的信用卡账单" ​
} ​
] ​
}' \​
http://****.llm-shield.omini-shield.com/v1/chat/completions​
​
​Image​​
​
攻击日志​
在控制台资产管理页面,单击目标资产名称,选择攻击日志。​
然后在高级筛选框中输入规则 IDrule-d5nop8hsqn9s7396****,即可查找以上模拟请求的日志信息。​
​Image​​
常见问题​
如果您使用的自定义词库为旧版本(页面左上方会出现升级提示信息),可以参考以下内容了解升级相关问题。​
不升级会有什么影响吗?​
旧版词库已经不支持继续编辑,会影响对自定义词库的高效管控及使用体验。建议尽快升级至新版词库。​
新旧版本词库的差异是什么?​
旧版词库中,正向词库和负向词库全局生效;而新版词库具备更丰富的匹配方式(支持正则匹配)和更精细灵活的生效范围(支持按资产维度生效)。 以下是两者的主要区别:​
​
​
对比维度​
旧版词库(刚性管控)​
新版词库(灵活管控)​
管控逻辑与动作​
属性绑定动作:​
  • 正向词库:固定为放行。​
  • 负向词库:可选拦截、安全代答或观察。​
属性与动作解耦:​
  • 词库本身无正负属性,仅作为匹配条件。​
  • 具体动作由关联的自定义规则配置决定。​
生效范围与配置​
粗粒度生效:​
正负向词库对全局所有资产生效。​
精细化生效:​
  • 支持按资产维度配置。​
  • 需在自定义检测规则中选择目标资产和词库关联的检测分类,实现精准管控。​
匹配能力​
基础匹配:​
  • 完全匹配​
  • 关键词匹配​
增强匹配:​
  • 完全匹配​
  • 关键词匹配​
  • 正则匹配​
​
怎么升级?升级后旧词库怎么处理?​
升级的具体操作路径如下,我们会保障升级过程中的平滑迁移,确保您的自定义词库功能不受影响。升级完成后,您的旧版词库将被继续保留,但不支持编辑。​
  1. 在自定义词库页面左上角,单击升级词库。​
  • ​Image​​
  1. 将正负向词库分别映射到不同的自定义检测分类上。​
说明​
如无自定义检测分类,您可以单击新建分类直接创建。​
  • ​Image​​
  1. 确认后,单击升级词库。​
  • 旧版词库升级为新词库后,系统会自动创建自定义词库和自定义规则:​
  • 词库变化:按照原词库属性和开关状态生成新的自定义词库。例如原有 4 个正向词库 A、B、C、D,其中 A、B 为开启状态,C、D 为关闭状态,则词库 A 和 B 自动聚合为新词库 E,词库 C 和 D 自动聚合为新词库 F。负向词库同理。​
  • 规则变化:系统会根据旧词库映射的检测分类自动创建针对不同资产生效的自定义检测规则,并通过规则的执行动作来决定命中该词库的内容将被放行(旧版正向词库)还是拦截(旧版负向词库)。​
  • ​Image​​
  1. 确认自定义规则的启用状态。​
注意​
自定义检测规则的全局开关和对应的规则都为开启状态时,自定义规则才能生效。​
  • ​Image​​
新增资产如何使用自定义词库?​
当您完成词库切换后,其内容将不再针对全局资产生效。因此,如果您有新增资产需要匹配自定义词库内容,请为资产创建一条新的自定义检测规则并关联词库对应的自定义检测分类。​
为什么自定义词库升级之后新的规则没有生效?​
如果您原词库关联的自定义规则为关闭状态,升级之后,对应规则仍保持关闭。请检查升级后的自定义规则启用状态。​
注意​
自定义检测规则的全局开关和对应的规则都为开启状态时,自定义规则才能生效。​
​Image​​
​
最近更新时间:2026.09.09 21:10:03
这个页面对您有帮助吗?
有用
有用
无用
无用