大模型应用防火墙
大模型应用防火墙
文档指南
请输入
- 文档首页
大模型应用防火墙产品简介产品概述
复制全文
下载 pdf产品概述
文档反馈
问问助手大模型应用防火墙为大语言模型推理服务提供安全防护能力。产品可嵌入 AI 大模型服务的业务流程，检测模型输入和输出内容，帮助降低 OWASP LLM Top 10 等安全风险，并提供算力消耗防护、提示词攻击检测、模型滥用防护和敏感数据风险识别等功能。
产品架构
- 基建层：为产品提供底层能力和数据支持，包括实现检测和推理能力的底层引擎和动态配置能力，为大模型提供样本的样本数据库、记录产品输入输出的日志表。
- 能力层：提供提示词检查和生成能力、敏感信息判断能力、风险推理能力、威胁行为预测能力、端安全扫描能力和攻击意图识别等能力。
- 应用层：提供产品所需的实际应用功能，包括提供的安全功能和用量计费。
- 接入层：实现用户接口及 Web 交互页面，提供鉴权、API、测试页面等能力。
防护能力
算力消耗攻击防护
算力消耗攻击通过构造并发送能引发模型算力剧烈消耗的特殊提示词，可能导致服务响应缓慢甚至瘫痪。
大模型应用防火墙可识别可能导致算力资源异常消耗的高频相似请求，并根据预设策略进行观察或拦截，帮助降低无效资源调用对业务稳定性的影响。
提示词攻击防护
针对提示词注入和越权等攻击，大模型应用防火墙可检测文本或图片中的恶意指令，并根据策略执行观察、拦截或安全代答，帮助降低模型被操纵或安全限制被绕过的风险。
模型滥用防护
大模型应用防火墙可检测模型输入或输出中的有害、不当或违规内容，并根据策略执行观察、拦截或安全代答，帮助降低模型被用于生成或传播风险内容的可能性。
敏感信息防护
产品集成了先进的文本风险检测技术与隐私信息识别算法，可有效识别并过滤模型交互内容中的各类敏感信息，如个人身份信息（PII）、财务数据、内部业务资料等，帮助企业满足数据安全与合规要求。
通用话题控制
针对特定业务场景，大模型应用防火墙可以根据您提供的话题样本和规则，对输入内容进行合规检测。这能帮助您管控模型的输出，防止泄露不当信息或引发舆论风险。例如，您可以阻止模型回应关于内部财报或企业负面新闻的提问，从而避免不正当竞争或损害企业形象。
自定义防护
为了满足多样化的业务安全需求，大模型应用防火墙提供自定义模型防护功能。您可以基于业务场景相关的正、负样本数据，快速定义并构建具有针对性的安全屏障。这一功能赋予您灵活定制安全策略的能力，可实现对特定场景风险的定向防御与精细化配置。
产品优势
便捷部署
大模型应用防火墙提供 SDK 集成、流量接入和模型服务接入等多种接入方式，您可以根据自身技术架构，轻松地将防护服务集成至现有的大模型应用中。整个部署过程无需对现有系统进行大规模改造，具备高度的灵活性和便捷性。
多维度防护
- 实时威胁处置：识别角色扮演、目标劫持、反向诱导等提示词攻击，并根据策略执行观察、拦截或安全代答。
- 内容安全分析：检测模型输入和输出中的有害、不当或违规内容，并返回对应的检测分类和处置结果。
- 数据安全保障：识别模型交互中的个人数据和商业敏感数据，并根据策略执行观察、拦截、脱敏或安全代答。
智能优化与修复
产品内置先进的算法模型，在识别并拦截风险内容的同时，能够智能生成安全合规的替代性回复。这不仅降低了因直接阻断而带来的用户体验中断，还为业务提供了一套可靠、低风险的解决方案。
精准适配业务场景
您可以针对特定的细分业务场景，通过上传样本快速训练出更懂业务语境的专用防护模型。这种深度定制的能力，使得安全检测逻辑能够更加契合您的实际业务规则与流程，在保障业务流畅运行的同时，提供更精准高效的安全防护。
最近更新时间：2026.09.09 21:10:03
这个页面对您有帮助吗？
有用
有用
无用
无用