文档中心

大模型应用防火墙

配置大模型防护策略

配置幻觉内容防护策略

幻觉检测用于识别大模型回答中与事实、上下文或引用资料不一致的内容，帮助企业在知识问答、智能客服、业务助手等场景中及时发现错误回答，降低误导用户、输出虚假信息和业务决策偏差的风险。

当企业已经为大模型接入知识库、业务资料或标准答案时，仅依赖模型生成并不一定足够安全。通过在大模型应用防火墙中配置幻觉检测规则，您可以把高风险回答及时记录、审计，或在必要时直接拦截，从而让模型输出更可信、更可控。

场景说明

在 RAG（检索增强生成）场景中，幻觉检测的重点，是判断模型回答是否忠于参考资料，而不是只看回答本身是否流畅。

也就是说，系统会综合对比：

如果模型回答与提供的参考内容明显不一致，就可能被识别为一致性幻觉。

注意事项

当前仅 SDK 方式接入的资产支持一致性幻觉检测，相关 SDK 示例详见幻觉内容检测。

输入要求

使用本功能时，请重点关注以下限制：

操作步骤

参数	说明
规则名称	输入防护策略的名称。说明以中文、字母、数字开头。允许字母、数字、中文、点“.”、下划线“_”和中划线“-”。长度为1-128个字符。
资产	选择需要匹配的资产或路径。勾选资产后，则该资产下配置的全部路径都会纳入匹配范围。说明 SDK 方式接入的防护资产，暂不支持匹配到路径。
检测分类	当前支持检测一致性幻觉。
执行动作	检测到对应分类中的内容时，执行的处置动作。当前支持：观察，即命中策略后对应会话将被放行，事件会被记录于攻击日志中。
规则开关	开启或关闭当前规则。

最近更新时间：2026.09.09 21:10:03

这个页面对您有帮助吗？

有用

无用