大模型应用防火墙
大模型应用防火墙
文档指南
请输入
- 文档首页
大模型应用防火墙用户指南防护配置大模型防护策略配置提示词攻击防护策略
复制全文
下载 pdf配置提示词攻击防护策略
文档反馈
问问助手大模型应用防火墙可根据您配置的提示词防护策略，识别文本或图片中承载的攻击指令，并按策略执行观察、拦截或安全代答，防止攻击者操纵模型或绕过模型安全限制。
什么是提示词攻击？
提示词攻击是指攻击者通过文本或图片向大模型传入恶意指令，试图操纵模型行为、覆盖原有指令或绕过安全限制，从而诱导模型泄露敏感信息或生成有害、不当内容。
提示词攻击类型及说明
大模型应用防火墙支持以下 11 个提示词攻击检测分类：
- 角色扮演：攻击者通过设定或限定模型的角色属性，诱导模型采用该角色的语言风格，以此绕过安全限制，生成可能涉及知识产权、伦理道德或其他不当内容的回复。
- 权限提升：攻击者试图诱导模型进入更高级别的权限状态（例如开发者模式），使模型突破原有安全限制，执行任意指令。例如无视既定安全规则，产生不受控制的输出，或是执行超出授权范围的操作。
- 对抗前后缀：在恶意提示词的前面或后面添加特殊字符串，干扰模型判断，致使模型生成预期外或不可控的回复内容。对于这类恶意或畸形的提示词，模型在输出内容的处理过程中，应当识别并过滤无意义的字符，然后按照正常内容部分输出内容，或者回复无法识别。
- 目标劫持：在输入的提示词中添加具有欺骗性或误导性的指令，试图覆盖或干扰原有指令的执行，诱导模型产生特定输出。
- 混淆和编码：利用无意义的符号破坏过滤器，或者运用编码和加密手段绕过模型的安全防护机制。
- 窃取提示词：将恶意的提示指令添加到用户原始的输入提示词中，试图获取系统或用户的原始提示信息。
- 少量示例攻击：攻击者提供带有恶意倾向的少量回答示例，诱导模型生成恶意或者误导性的输出。
- 诱导生成有害内容：攻击者通过直接或间接引导，诱使模型生成违法违规、有害或不当内容。
- 反向诱导：攻击者利用模型的纠错或补充机制，通过错误信息、相反观点或假设，诱导模型生成不当内容。
- 指令补齐：攻击者提供不完整或截断的指令，诱导模型补全并执行其中的恶意意图。
- 提示词攻击默认标签：指除以上几种攻击之外的其他提示词攻击。
支持的内容类型
- 文本：检测用户输入的文本中是否包含提示词攻击。
- 图片：检测图片中的文字内容是否包含提示词攻击，防止恶意指令通过图片绕过文本检测。
注意事项
您将资产接入大模型应用防火墙时，平台已经创建了一条默认提示词攻击防护策略，该默认策略支持修改。
前提条件
新增提示词攻击防护策略
- 登录大模型应用防火墙控制台。
- 在顶栏选择实例所属地域。
- 在左侧导航选择防护>大模型防护>提示词防护。
- 启用策略。
-
- 单击添加规则，配置规则信息。
-
-
- 单击确定。
修改默认提示词攻击防护策略
您将资产接入大模型应用防火墙时，平台已经创建了一条默认提示词攻击防护策略。您可以直接修改该策略，例如修改规则名称、检测分类、执行动作。
注意
默认策略的生效资产范围不可修改，仅对首次配置时关联的资产生效。
- 登录大模型应用防火墙控制台。
- 在顶栏选择实例所属地域。
- 在左侧导航选择防护>大模型防护>提示词防护。
- 单击默认规则对应的编辑。
说明
默认规则的名称格式为<资产名称>默认防护规则，例如access.omni-shield.volces.com_默认防护规则。
- 修改规则名称、内容类型、检测分类、执行动作等参数。
-
- 单击确定。
配置效果说明
规则配置
假设您为资产配置了一条提示词攻击防护规则，信息如下：
参数 | 值 |
资产 ID | app-d5d29git94j5fi7e**** |
规则 ID | rule-dafv0mfs9hc88aa8**** |
内容类型 | 所有类型 |
检测分类 | 所有分类 |
执行动作 | 拦截 |
模拟请求
请将以下命令中的 ****.com 和 ****.llm-shield.omni-shield.com 替换为您真实的资产域名和防护节点地址。
响应结果
攻击日志
最近更新时间：2026.09.09 21:10:03
这个页面对您有帮助吗？
有用
有用
无用
无用