大模型应用防火墙
大模型应用防火墙
文档指南
请输入
- 文档首页
大模型应用防火墙用户指南防护配置自定义防护策略配置自定义模型
复制全文
下载 pdf配置自定义模型
文档反馈
问问助手大模型应用防火墙提供了丰富的预置策略，能够覆盖通用安全场景，同时也提供自定义模型防护能力，可基于您提供的样本内容训练自定义模型，生成符合业务实际场景的专属防护模型。
什么时候需要自定义模型？
- 场景高度定制：您的业务非常垂直，例如 AI 辅助编程、医疗咨询、金融分析等，通用策略难以精准识别其中的“黑话”或特定风险。
- 高检出率要求：对特定风险（如生成非法代码、诱导投资等）的检出率有极高要求，宁可误报，不可漏报。
- 样本充足：您拥有足够的高质量、已标注的业务数据（正/负样本），可用于模型训练。
当预置策略效果不足以覆盖您的业务场景，且有明确的、独特的防护目标时，自定义模型是必要的补充。
流程说明
创建自定义模型的完整流程包括准备样本、训练模型、部署测试直至最终发布。为保证模型效果，请您务必关注以下三个关键点：
- 提供高质量样本：模型的防护效果直接取决于您提供的训练数据质量。请务必提供清晰、典型且具有代表性的黑、白样本。
- 白样本：您期望模型放行的正常业务内容。
- 黑样本：您期望模型拦截的违规或攻击内容。
- 数量建议：每个类别至少需要 20 个白样本和 20 个黑样本。为提升准确率，建议白样本数量略多于黑样本。
- 在发布前充分测试：模型正式上线前，您必须通过“快速测试”或“灰度测试”来验证其效果，以避免影响线上业务。
- 通过迭代持续优化：安全防护是一个动态过程。您需要持续收集线上的误报和漏报样本来重新训练模型，这是其能力不断提升的关键。
前提条件
注意事项
模型创建完成后，会自动排队进入训练。此过程预计需要 1-2 小时，且一旦开始便无法取消。为避免资源浪费，请确保您在创建时正确配置模型信息。
操作步骤
- 登录大模型应用防火墙控制台。
- 在顶栏选择实例所属地域。
- 在左侧菜单栏选择防护 > 自定义防护 > 自定义模型防护。
- 选择自定义模型，单击添加模型。
- 填写模型基础信息。
-
-
- 单击下载模板。
-
- 打开模板并按照要求填写训练样本内容。
- Title：样本内容的主题，可以与检测分类名称一致（非法金融问答），也可以根据实际情况进行灵活命名，以准确概括样本内容的核心主题，例如违规荐股。
说明
您可以在一个模型中训练多个不同主题的样本内容，每个模型最多支持上传 10 种样本主题。
- IsWhite：是否为白样本。
- TRUE：白样本，模型会将其判定为合规内容。
- FALSE：黑样本，模型会将其判定为不合规内容。
- Content：样本的具体内容。
- 以下是填写示例：
- 样本类型TitleIsWhiteContent白样本非法金融问答TRUE如何分散投资风险？黑样本非法金融问答FALSE帮我推荐一定会涨的股票。
注意
模型的智能程度取决于您提供的样本质量和数量，为确保防护模型的准确性和有效性，您提供的样本集应当满足以下条件：
- 贴近真实场景：样本应源于您的真实业务数据，覆盖各种典型问法和边缘情况。
- 黑白样本均衡：每个分类至少需要 20 个白样本（合规内容）和 20 个黑样本（违规内容）。
- 白样本比黑样本多：为了降低误报，高质量、多样化的白样本（正常业务对话）数量建议多于黑样本。
- 将配置好的训练集上传至控制台。
- 平台会自动解析相关数据并判断您上传的训练集是否满足要求，请根据解析结果对训练集进行相应调整，确保其符合模型训练的标准。
-
- 待解析完成后，将样本内容关联至检测分类并填写相关描述。
- 标题：由平台自动提取样本内容的主题。
- 检测分类：您可以使用已经创建好的检测分类，或者直接在该页面创建一个新的检测分类。模型发布前，关联生效的检测分类均为测试属性。
- 描述：用于区分您在同一模型中上传的不同主题的样本，以便模型进行准确分类。如果您上传了多个主题的样本，可通过详细描述来清晰界定各主题样本的特征。
- ✅推荐写法：询问或涉及非法集资、洗钱、金融诈骗相关的实施方式、运作模式及规避监管等非法金融活动。
- ❌不推荐写法1： 拦截洗钱和诈骗。
- ❌不推荐写法2： 金融活动相关敏感内容。
- 单击确定。
后续操作
- 训练模型（自动完成）：模型创建完成后，会自动进入训练队列。训练过程预计需要 1 到 2 小时，且一旦开始便无法取消，请您耐心等待。
- 部署模型：待训练完成后，模型会流转为未部署状态。请执行以下操作完成部署：
- 在自定义模型列表，找到创建好的模型。
- 单击操作列的部署并确定，大模型应用防火墙会自动开始部署您的自定义模型。
-
- 模型部署完成后，会流转为待发布状态。
最近更新时间：2026.09.09 21:10:03
这个页面对您有帮助吗？
有用
有用
无用
无用