大模型应用防火墙不仅内置了用于内容合规性检测的向量词库,还支持您创建自定义词库。自定义词库本身不具备拦截或放行属性,它通过检测分类将匹配内容与生效对象(资产)进行关联,并根据指定的动作决定检测内容的处理方式。通过这种基于资产维度的生效逻辑,自定义词库可以帮助您实现灵活、精细的内容管控。
注意
如果您当前使用的自定义词库为旧版本(控制台页面左上方会出现升级提示信息),建议您尽快升级至新版词库管理页面,以便在后续的版本迭代中获得更好的体验。
您可以通过以下流程,让自定义词库在防护策略中生效:
- 创建自定义检测分类:创建一个新的检测分类,例如“金融合规”。
- 创建自定义词库:将具有相似属性的词库关联到同一个检测分类。
- 在自定义检测规则页面,创建一条新规则,并在规则中选择目标资产和需要生效的检测分类。配置了相同检测分类的词库将被自动绑定到目标资产。
- 在该规则中配置期望的执行动作,例如“放行”、“拦截”、“安全代答”或“观察”。
- 规则生效:保存后,当用户输入或模型输出的内容命中该词库时,系统将根据对应的自定义规则执行您设定的动作(如拦截、放行等)。
- 白名单场景:例如确保特定的行业术语或品牌名称不被错误拦截,则您可以参考如下操作:
- 将这些术语所在的词库关联到自定义检测分类,例如金融行业放行词库。
- 为相关的资产配置自定义检测规则,分类选择词库对应的分类,执行动作为放行。
- 黑名单场景:例如拦截或监控已知的违规内容,则您可以参考如下操作:
- 将这些术语所在的词库关联到自定义检测分类,例如金融行业拦截词库。
- 为相关的资产配置自定义检测规则,分类选择词库对应的分类,执行动作为拦截、代答或观察。
- 如果您未配置任何自定义词库,系统将默认使用预置词库进行内容检测。
- 所有词库的词汇规则数量总和最多为 10,000 条。
- 在左侧导航栏中,选择防护 > 自定义防护 > 自定义词库。
-
自定义词库创建完成后,需要将词库关联至自定义检测规则才能生效,具体操作请参见配置自定义检测规则。 为了让您更好地理解自定义词库的工作原理,以下通过金融合规场景展示不同匹配方式下的生效逻辑。
说明
如果资产关联了自定义响应拦截策略,当检测内容命中防护策略被拦截后,客户端会收到自定义响应策略配置的响应内容。
在控制台资产管理页面,单击目标资产名称,选择攻击日志。
然后在高级筛选框中输入规则 IDrule-d5nop8hsqn9s7396****,即可查找以上模拟请求的日志信息。
如果您使用的自定义词库为旧版本(页面左上方会出现升级提示信息),可以参考以下内容了解升级相关问题。
旧版词库已经不支持继续编辑,会影响对自定义词库的高效管控及使用体验。建议尽快升级至新版词库。
旧版词库中,正向词库和负向词库全局生效;而新版词库具备更丰富的匹配方式(支持正则匹配)和更精细灵活的生效范围(支持按资产维度生效)。 以下是两者的主要区别:
升级的具体操作路径如下,我们会保障升级过程中的平滑迁移,确保您的自定义词库功能不受影响。升级完成后,您的旧版词库将被继续保留,但不支持编辑。
-
说明
如无自定义检测分类,您可以单击新建分类直接创建。
-
- 旧版词库升级为新词库后,系统会自动创建自定义词库和自定义规则:
- 词库变化:按照原词库属性和开关状态生成新的自定义词库。例如原有 4 个正向词库 A、B、C、D,其中 A、B 为开启状态,C、D 为关闭状态,则词库 A 和 B 自动聚合为新词库 E,词库 C 和 D 自动聚合为新词库 F。负向词库同理。
- 规则变化:系统会根据旧词库映射的检测分类自动创建针对不同资产生效的自定义检测规则,并通过规则的执行动作来决定命中该词库的内容将被放行(旧版正向词库)还是拦截(旧版负向词库)。
-
注意
自定义检测规则的全局开关和对应的规则都为开启状态时,自定义规则才能生效。
-
当您完成词库切换后,其内容将不再针对全局资产生效。因此,如果您有新增资产需要匹配自定义词库内容,请为资产创建一条新的自定义检测规则并关联词库对应的自定义检测分类。
如果您原词库关联的自定义规则为关闭状态,升级之后,对应规则仍保持关闭。请检查升级后的自定义规则启用状态。
注意
自定义检测规则的全局开关和对应的规则都为开启状态时,自定义规则才能生效。