大模型应用防火墙
大模型应用防火墙
文档指南
请输入
- 文档首页
大模型应用防火墙用户指南防护配置自定义防护策略配置自定义检测规则
复制全文
下载 pdf配置自定义检测规则
文档反馈
问问助手自定义检测规则用于将检测分类与资产、执行动作关联起来，定义自定义词库、自定义模型或自定义商业数据对哪些资产生效，以及内容命中后如何处理。只有为自定义能力关联检测分类并配置自定义检测规则后，相应能力才会对目标资产生效。
本文介绍如何创建、验证和管理自定义检测规则。
使用场景
您可以在以下场景中配置自定义检测规则：
- 将自定义词库应用到指定资产，放行白名单内容，或观察、拦截黑名单内容。
- 将已部署的自定义模型关联到测试资产，灰度验证模型检测效果。
- 将已发布的自定义模型应用到线上资产，识别特定业务场景中的风险内容。
- 将自定义商业数据应用到指定资产，识别合同、报价单、客户清单等企业敏感资料。
前提条件
- 已将需要防护的业务接入大模型应用防火墙。接入方式和不同资产支持的检测方向可能不同，详情请参见资产接入方式说明。
- 已创建检测分类，并将需要使用的自定义能力关联到该分类：
- 使用自定义模型时，灰度测试前应完成模型部署；正式上线前应完成模型发布。
- 使用自定义词库或自定义商业数据时，应完成相应配置并开启规则开关。
- 已明确需要检测的资产、内容类型、检测方向，以及命中内容后的执行动作。
配置说明
执行动作
执行动作 | 说明 |
放行 | 内容命中规则后继续流转。适用于明确允许通过的内容，例如自定义词库白名单。 |
拦截 | 内容命中规则后拦截请求。如果资产配置了自定义拦截响应策略，则按照已配置的内容响应用户。 |
安全代答 | 使用安全合规的内容代替原大模型回复。安全代答仅适用于通过 SDK 方式接入的资产。 |
观察 | 记录命中情况但不阻断请求。适用于规则灰度、效果评估和误报排查。 |
同一资产命中多条自定义检测规则时，系统按照放行 > 拦截 > 安全代答 > 观察的顺序执行。自定义放行规则优先级最高；未命中自定义放行规则但命中自定义拦截规则时，请求将被拦截。其他防护策略同时命中时的完整决策逻辑，请参见防护策略介绍。
注意
放行规则会覆盖其他防护策略的动作。配置放行前，请严格限定资产、内容类型和检测分类，并充分验证其影响范围。
规则生效条件
规则需要同时满足以下条件才会参与检测：
- 页面上方的自定义检测规则总开关已开启。
- 当前规则的规则开关已开启。
- 请求经过规则关联的资产。
- 请求内容类型属于规则配置的范围。
- 请求方向已配置对应的模型输入或模型输出检测分类。
- 检测分类关联的自定义能力处于可用状态。使用自定义模型时，测试分类对应的模型需已部署，正式分类对应的模型需已发布。
例如，一条规则仅绑定资产 A、内容类型选择文本、只配置模型输出分类，则该规则不会检测资产 B、文档内容或模型输入内容。
操作步骤
- 登录大模型应用防火墙控制台。
- 在顶栏选择实例所属地域。
- 在左侧导航栏选择防护 > 自定义防护 > 自定义检测规则。
- 开启页面上方的自定义检测规则开关。规则列表支持按规则名称或规则 ID 查询规则，并展示规则关联的资产、内容类型、检测分类、执行动作和启用状态。
- 单击添加规则。
- 配置规则的基本信息和生效条件。
-
-
-
说明
- 如果选择多个资产，请确认这些资产支持规则中设置的内容类型和检测方向。
- 同一资产可以关联多条规则。配置前建议检查已有规则，避免动作冲突。
- 确认配置无误后，单击确定。
验证规则效果
规则创建完成后，建议先进行小范围验证，再用于生产业务。
- 灰度测试自定义模型时，选择测试资产、测试分类和观察动作。
- 准备以下测试样本：
- 应命中分类的正向样本。
- 不应命中的正常样本。
- 通过 SDK、在线测试或实际业务链路向规则关联的资产送检。双向检测规则需要分别验证模型输入和模型输出。
- 在检测结果或防护日志中确认命中的分类、执行动作和业务表现是否符合预期。
- 根据误报和漏报情况调整自定义能力或规则。模型检测效果符合预期后，发布模型并新建或调整规则，选择正式分类和线上资产。
- 正式上线初期可继续使用观察动作；确认稳定后，再根据风险要求调整为拦截或安全代答。
管理规则
在自定义检测规则列表中，您可以执行以下操作：
- 查询：按规则名称、规则 ID 或高级筛选条件查找规则。
- 查看：展开规则行，查看规则详情。
- 编辑：修改规则的资产、内容类型、检测分类、执行动作或开关。
- 启用或停用：通过规则开关控制规则是否参与检测。停用规则不会删除其配置。
- 删除：删除不再使用的规则。删除后，规则不再对关联资产生效。
常见问题
规则创建后为什么没有生效？
请依次检查以下配置：
- 自定义检测规则总开关和当前规则开关是否均已开启。
- 请求是否经过规则关联的资产。
- 请求内容类型和检测方向是否在规则范围内。
- 模型输入或模型输出是否选择了正确的检测分类。
- 检测分类是否关联了已启用的自定义词库、自定义模型或自定义商业数据。
- 自定义模型是否处于正确阶段：灰度测试使用已部署模型的测试分类，线上防护使用已发布模型的正式分类。
- 同一资产是否命中了优先级更高的其他自定义规则。
可以只检测模型输入或模型输出吗？
可以。不勾选同步生效输入与输出检测，只为需要检测的方向选择分类即可。模型输入和模型输出至少需要配置一项。
为什么最终动作与当前规则配置不一致？
修改或停用规则后如何确认结果？
返回规则列表确认状态已经更新，再使用测试样本验证实际效果。生产规则发生较大调整时，建议先在测试资产或小流量范围内验证。
最近更新时间：2026.09.09 21:10:03
这个页面对您有帮助吗？
有用
有用
无用
无用