文档中心

大模型应用防火墙

产品简介

功能特性

大模型应用防火墙主要提供访问管控、算力消耗防护、提示词攻击防护、模型滥用防护和敏感数据防护等功能。本文介绍各项功能的主要能力。

算力消耗防护

算力消耗是指服务器执行计算任务时使用的计算资源。攻击者可能通过重复发送高度相似的请求持续占用模型服务资源，导致响应变慢或服务可用性下降。大模型应用防火墙可识别此类请求，并根据策略配置执行处置动作，帮助降低其对业务稳定性的影响。

算力消耗量预测：大模型应用防火墙可预测指定路径下提示词输入的大模型算力消耗情况，支持以高、中、低三个档位配置对应防护策略。

记录或拦截请求：根据算力消耗量阈值设置处置动作，观察或拦截对应请求。可有效防止大模型遭受恶意算力消耗攻击。

输入检测

攻击者通过巧妙构造输入提示词，尝试突破大语言模型的安全防护机制，引导模型输出不符合预期甚至有害的内容。这种攻击利用了大语言模型对输入的敏感性和其在处理复杂提示词时可能出现的漏洞。大模型应用防火墙可以识别模型的输入和输出内容，根据安全需求设置不同的安全检测类型，对内容进行分类识别。并且可以提供安全判断、脆弱性类型标签，供调用方根据需要进行对应处置，有效防护提示词注入攻击和模型滥用。

安全性判断：基于分类模型、提示词攻击识别模型、敏感信息判断模型、敏感词表、评价控制策略能力，识别敏感内容、提示词攻击、恶意消耗资源的内容。

风险分类标签：在 API 响应中返回模型滥用、提示词攻击、敏感数据、算力消耗等一级分类及对应的二级检测分类标签，调用方可根据检测结果进行处置。

自定义规则：支持接入方自定义识别规则、配置关键词黑白名单，便于匹配符合需求的检测场景。

输出过滤

大模型在处理用户请求时可能会涉及个人身份信息、电话号码、地址等敏感数据，存在未经授权的数据访问、隐私泄露等安全风险。为此，大模型应用防火墙提供完善的数据安全保护机制：

敏感数据检测：系统内置丰富的敏感信息识别规则，可根据预设的敏感信息标签，实时检测输入输出内容中的隐私数据。通过灵活的策略配置，有效防范数据泄露和滥用风险。

策略处置：根据设置的处置动作，对命中敏感数据检测分类的内容执行观察、拦截、脱敏或安全代答，帮助降低个人数据和商业敏感数据泄露风险。

内容生成

大模型应用防火墙会将提示词识别模块判断为不安全的内容，转发到内容生成大模型，优化不合规的内容输入，再输出返回给用户。内容生成大模型具备严格的生成内容限制，生成的内容可替代原有大模型生成内容，在确保安全合规的前提下，保障用户的内容生成体验。

合规内容生成：根据输入内容生成回复，回复内容符合国家互联网信息办公室发布的《生成式人工智能服务暂行管理办法》中 5 大类 31 个小类规定。

流式返回：可选生成内容的流式返回，以 chunk 的方式分段返回答案，能够有效缩短首次返回的时间，提高体验感受。

Token 统计：支持在响应参数中返回当次请求的 token 数量，便于调用方统计用量情况。

鉴权与用量配置

提供 token 鉴权能力，支持配置请求 QPS 和 token 用量上限，可根据接入方实际需求配置。

Token 鉴权：提供可配置生效时间范围的 token，token 有效期内可调用服务。

用量配置：支持配置请求量、QPS 上限、token 用量的限额，防止服务被恶意使用而导致接入方损失。

最近更新时间：2026.09.09 21:10:03

这个页面对您有帮助吗？

有用

无用