文档中心

大模型应用防火墙

检测

在线测试防护效果

在线测试用于在控制台内直接提交测试样本，快速验证不同能力的防护效果。您可以基于已有资产或模型发起测试任务，查看任务执行状态和检测结果，并通过历史记录复用已有配置，降低验证成本、缩短调试周期。

测试类型

当前支持以下测试类型：

测试类型	说明	适用对象
大模型应用防护测试	基于已配置的资产安全策略，提交测试样本，验证大模型应用防护效果。	仅支持 SDK 方式接入，且防护场景为“大模型应用防护”的资产。
伪造内容检测	上传图片或视频样本，验证伪造内容检测效果。	仅支持选择 SDK 方式接入，且防护场景为“伪造内容检测”的资产。
自定义模型测试	针对已训练完成的自定义模型提交文本样本，验证模型识别效果并评估发布结果。	仅支持状态为“待发布”或“已发布”的自定义模型。

前提条件

在开始操作前，建议先确认以下条件：

已完成对应场景的资产接入，或已完成自定义模型训练。

已明确本次测试目标，例如验证防护策略、检测伪造内容，或验证自定义模型识别效果。

如需测试图片、视频、文件等多模态样本，请确认资产已开启对应内容类型的防护策略。

场景一：大模型应用防护测试

大模型应用防护测试用于验证已绑定安全策略的资产在面对输入样本或模型响应样本时的防护效果，适合用于策略校验、上线前验证和规则调优。

注意事项

资产类型：仅支持选择 SDK 方式接入，且防护场景为“大模型应用防护”的资产。

数量限制：一个测试任务可包含多个子任务，每个子任务对应一组测试样本；每个任务下最多支持添加 100 个子任务；每个子任务最多支持 9 个图片或文件。

多模态检测：

一个子任务中同时包含图片、视频和文件等多模态内容，系统会按照所属实例规格、资产和对应的策略配置进行检测，并产生相应费用（按量付费实例场景下）。

如果单个任务中上传过量视频和文件，可能因限速而导致检测失败，建议拆分任务后执行检测。具体限制可参考使用限制。

如果单个子任务中包含多模态内容，只要任一内容命中策略，该子任务即被判定为命中。

测试场景：算力消耗攻击防护、幻觉检测、多轮对话等依赖 history 的能力暂不适用于在线测试场景。

操作步骤

登录大模型应用防火墙控制台。

在左侧导航中，选择防护 > 自定义防护 > 在线测试。

在列表页右上角单击新建测试，选择大模型应用防护测试并确定。

填写测试任务参数。

参数	说明
任务名称	用于标识本次测试任务。以中文、字母或数字开头。允许中文、字母、数字、点（.）、下划线（_）和短横线（-）。长度为 1～128 个字符。
关联资产	指定本次测试对应的资产对象。说明仅支持选择防护场景为大模型应用防护的 SDK 接入资产。
测试样本	输入待验证的文本，或上传图片、视频、文件等样本。可同时传入多种不同类型的测试样本。每个子任务最多支持 9 个图片或文件。说明上传多模态内容时，请确保待测试资产已经开启对应内容类型的防护策略。
送检类型	用于区分样本的送检来源，支持提示词送检或模型响应送检。
新建子任务	用于在同一资产下追加多组测试内容。最多支持添加 100 个子任务。

确认完成后，单击开始测试。

查看测试结果

系统按子任务展示测试结果。如下图所示，该任务包含两个子任务，其中第一个子任务命中防护策略，第二个子任务未命中任何防护策略。

场景二：伪造内容检测

伪造内容检测用于提交图片或视频样本，验证产品对伪造内容的识别效果，适合用于多媒体内容核验、样本抽检和检测效果验证。

注意事项

资产类型：仅支持选择 SDK 方式接入，且防护场景为“伪造内容检测”的资产。

文件格式、大小和数量限制：

图片支持 jpg、jpeg、webp、png 格式，单张图片大小不超过 10 MB。

视频支持 mp4、avi 格式，单个视频大小不超过 50 MB。

图片和视频合计最多上传 50 条。

单个图片或视频的测试结果会单独展示。

如需对同类素材进行连续验证，可复制历史任务并调整样本后重新测试。

操作步骤

登录大模型应用防火墙控制台。

在左侧导航中，选择防护 > 自定义防护 > 在线测试。

在列表页右上角单击新建测试，选择伪造内容检测。

填写测试任务参数。

参数	说明
任务名称	用于标识本次测试任务。以中文、字母或数字开头。允许中文、字母、数字、点（.）、下划线（_）和短横线（-）。长度为 1～128 个字符。
关联资产	指定本次测试对应的资产对象。说明仅支持选择防护场景为伪造内容检测的 SDK 接入资产。
测试样本	输入待验证的图片或视频，每个图片和视频会单独输出检测结果。上传要求：图片：支持 jpg、jpeg、webp、png，单张图片大小不超过 10 MB。视频：支持 mp4、avi，单条视频大小不超过 50 MB。数量限制：图片和视频合计最多上传 50 条。

确认完成后，单击开始测试。

查看测试结果

系统按单个图片或视频展示检测结果。结果中包含以下信息：

检测结论：展示样本是否被判定为伪造内容。

伪造标签及置信度：展示样本命中的伪造类型及对应置信分。同一样本可能命中多个伪造标签。

可疑区域：在图片中框选疑似伪造的目标区域，帮助您快速定位需要重点复核的位置。未识别到明确目标区域时，图片中可能不展示区域框。

判定说明：结合样本内容说明判定结论及主要依据，帮助您理解样本被判定为违规的原因。

注意

伪造文本和伪造人脸暂无判定说明。

查看单个样本的结果详情时，可以进一步查看检测分类、置信度和判定说明。

说明

可疑区域和判定说明由模型生成，仅用于辅助定位和理解检测结果。建议结合置信度、原始图片或视频内容进行人工复核。

标签名称	接口返回标签	说明
默认伪造	10900000	仅伪造内容检测资产适用。用于标识系统整体判断为伪造的样本。
PS 伪造	10901000	仅伪造内容检测资产适用。用于标识疑似经过图片编辑、修图或局部篡改的样本。
伪造实体	10902000	仅伪造内容检测资产适用。用于标识疑似存在实体生成、实体替换或实体篡改的样本。
伪造文本	10903000	仅伪造内容检测资产适用。用于标识疑似存在文本生成、文本替换或文本篡改的样本。
伪造人脸	10904000	仅伪造内容检测资产适用。用于标识疑似存在人脸生成、换脸或人脸篡改的样本。

场景三：自定义模型测试

自定义模型测试用于验证自定义模型对文本样本的识别效果，适合在模型发布前进行样本校验、效果比对和结果预评估。

注意事项

模型状态：仅支持选择状态为“待发布”或“已发布”的自定义模型。

内容类型：测试样本仅支持文本内容。

批量测试：

每行内容为一组完整样本，便于后续结果比对。

按 Shift+Enter 键可实现单组样本内部换行。

按 Enter 键可增加一组新样本。

每个自定义模型测试任务最多支持上传 100 条样本。

操作步骤

登录大模型应用防火墙控制台。

在左侧导航中，选择防护 > 自定义防护 > 在线测试。

在列表页右上角单击新建测试，选择自定义模型测试。

填写测试任务参数。

参数	说明
任务名称	用于标识本次测试任务。以中文、字母或数字开头。允许中文、字母、数字、点（.）、下划线（_）和短横线（-）。长度为 1～128 个字符。
关联模型	指定本次测试对应的模型对象。说明仅支持选择状态为待发布或已发布的模型。
测试样本	输入待验证的文本内容。按 Shift+Enter 键可实现单组样本内部换行。按 Enter 键可增加一组新样本。

确认完成后，单击开始测试。

测试结果示例

系统按单段测试内容展示测试结果。

在线测试列表

在线测试列表用于查看测试任务状态、任务类型、关联对象和操作入口。

配置	说明
任务名称/ID	展示测试任务名称和任务 ID。任务执行完成或执行失败后，可单击任务名称进入详情页。
测试状态	展示任务当前状态，包括待测试：任务已创建，等待开始执行。测试中：任务正在执行。测试失败：任务下的子任务均执行失败，或任务整体执行失败。测试部分失败：任务下存在部分子任务执行失败，其他子任务执行成功。说明部分测试失败时，您可以对失败的子任务执行重新检测。如果反复重试失败，请联系技术支持处理。已完成：任务已执行完成。
测试类型	展示任务所属测试类型，包括大模型应用防护测试、伪造内容检测、自定义模型测试。
关联资产/模型	展示本次测试绑定的资产或自定义的模型。
开始时间 / 结束时间	展示任务执行时间。
操作	支持复制、重试、删除。复制任务：适合在原配置基础上微调样本后重新测试。系统会进入新建测试页面，并自动带入原任务中的任务类型、关联资产或模型、测试样本等配置。重试任务：适合测试执行异常或需要再次验证时使用。重试会重新执行该任务下的所有子任务。删除任务：用于清理不再需要的历史记录。删除后，该任务及其子任务记录将从列表中移除。

最近更新时间：2026.09.09 21:10:03

这个页面对您有帮助吗？

有用

无用