Deepfake 伪造内容检测是大模型应用防火墙提供的一项内容安全检测能力，用于识别图像与视频中是否存在 AI 生成、深度伪造、拼接篡改等异常痕迹。该能力通过对图片和视频特征进行综合分析，输出样本的伪造嫌疑判断，帮助企业在审核、理赔、风控、内容治理等关键业务流程中实现高风险素材的前置拦截，有效缓解人工复核压力并降低潜在业务损失。 ## 适用场景 * **物流理赔**：对用户提交的破损物品图片、签收视频或凭证材料进行伪造特征排查，精准识别 AI 修复、局部篡改或拼接痕迹，帮助物流企业有效拦截虚假理赔诉求，控制直接经济损失。 * **保险理赔**：在车险、健康险等理赔环节，针对现场事故照片、医疗单据或责任认定材料进行深度伪造识别，防范通过修图软件篡改或 AI 生成的虚假材料，协助保险机构降低骗保欺诈风险。 ## 检测方式 |检测方式 |说明 |适用场景 | |---|---|---| |控制台在线测试 |在控制台手动创建测试任务，上传图片或视频样本，直接查看检测结果。 |演示试用、日常抽检、小批量复核、问题排查。 | |SDK 自动化检测 |在业务系统中通过 SDK 自动提交样本并获取检测结果。 |上传审核、理赔风控、内容治理等稳定在线业务流程。 | SDK 接入方式参见[通过 SDK 接入并识别深度伪造内容](https://docs.volcengine.com/docs/84990/2484289)。 ## 前提条件在开始使用前，请确保已购买本产品实例并开通**伪造内容检测**功能。完成开通后，控制台中才会显示相关配置入口和检测页面。 ## 注意事项 * 优先上传原始素材，避免多次压缩、截图转存或二次编辑，以保障最佳的检测效果。 * 图片支持 `jpg`、`jpeg`、`webp`、`png` 格式，单张图片不超过 10 MB。 * 视频支持 `mp4`、`avi` 格式，单个视频不超过 50 MB。 * 单次任务最多上传 50 个样本，图片和视频合并计算。 ## 操作流程 ### 步骤一资产接入首次使用伪造检测功能时，需先完成资产接入配置。建立明确的业务归属关系，便于后续在控制台中集中管理应用、查看日志并进行结果追溯。建议按实际业务线、应用场景或团队维度进行划分，以提升运维与复核效率。 1. 登录[大模型应用防火墙控制台](https://console.volcengine.com/omni-shield/llm-shield/)。 2. 在顶栏选择实例所属地域。 3. 在左侧导航选择**资产管理**，然后单击**添加资产**。 4. 选择接入方式为 **SDK 接入**（该选项为当前统一的资产创建方式，同样适用于控制台手动检测场景），并配置接入参数。 |配置 |说明 | |---|---| |应用名称 |用于标识当前接入的业务应用，便于后续在资产列表、检测记录和日志中快速定位对应业务。

> **注意**

* > 以中文、字母或数字开头。

* > 允许使用中文、字母、数字、点（.）、下划线（_）和中划线（\-）。

* > 长度为 1\-100 个字符。
| |描述 |填写该应用的业务用途、接入团队或使用场景等补充信息，便于后续运维、审计和多人协作时快速理解接入背景。 | |防护场景 |选择**伪造内容检测**。该配置用于为当前资产开启对应检测能力，确保后续上传的图片或视频样本能够进入正确的检测流程。

> **注意**

> 如页面未显示相关配置选项，请先确认已购买伪造检测对应计费项。**只有在完成购买或开通后，控制台才会展示伪造检测防护的配置入口**。
| ![图片](https://p9-arcosite.byteimg.com/obj/tos-cn-i-goo7wpa0wc/ea7117658f6c4183b3ccb8055d09b104) 5. 单击**提交**，系统将保存当前资产配置。完成提交后，您即可在后续检测流程中选择该资产并关联具体检测任务。 ### 步骤二发起检测完成资产接入配置后，您即可开始使用伪造检测功能。发起检测的过程是将待核验的图片或视频样本提交至检测引擎进行分析，并返回相应的判定结果。该步骤适用于日常审核、专项排查和风险复核等场景，能够帮助团队更快完成样本筛查与风险识别。 1. 在左侧导航选择**检测 \> 在线测试**。 2. 单击**新建测试**。 3. 在测试类型对话框中，选择**伪造内容检测**。 ![图片](https://p9-arcosite.byteimg.com/obj/tos-cn-i-goo7wpa0wc/15337d448426498183fdb5e6d4e94cbc) 4. 填写任务信息并上传样本。 |配置项 |说明 | |---|---| |任务名称 |用于标识本次测试任务。建议填写能体现业务场景或样本来源的名称，例如 `理赔图片伪造检测`。

名称需满足以下要求：

* 以中文、字母或数字开头。

* 支持中文、字母、数字、点号（.）、下划线（_）和中划线（\-）。

* 长度为 1～128 个字符。 | |关联资产 |选择本次测试关联的资产。检测结果和日志会与该资产关联，便于后续查询和追溯。 | |测试样本 |上传需要检测的图片或视频。支持点击上传或拖拽上传。

> **注意**

> 以下是上传文件要求：

> **图片：** 支持 `jpg`、`jpeg`、`webp`、`png`，单张大小不超过 10 MB。

> **视频：** 支持 `mp4`、`avi`，单条视频大小不超过 50 MB。

> **数量限制：** 图片和视频合计最多上传 50 条。
| 5. 上传样本后，单击**开始测试**。提交成功后，页面会返回在线测试列表，并显示该任务的测试状态。 ### 步骤三确认检测结果检测完成后，您可以单击任务名称进入结果页查看检测统计和样本明细。 ![图片](https://p9-arcosite.byteimg.com/obj/tos-cn-i-goo7wpa0wc/13c6b606aca24a1db4d180bcc38621a5) 结果页会展示以下核心信息： |区域 |说明 | |---|---| |伪造 |判定为伪造的样本数量。 | |真实 |判定为真实的样本数量。 | |检测进度 |当前任务检测完成比例，并展示成功和失败数量。 | |结果页签 |支持按**伪造**、**真实**、**检测失败**分类查看样本。 | |样本卡片 |展示样本类型、缩略图、文件名、判定结果、命中标签和对应分数。 | 样本卡片中的检测结果通常包含： |信息 |说明 | |---|---| |样本类型 |例如图片或视频。 | |判定标签 |展示为**伪造**或**真实**。 | |文件名 |上传样本的文件名称，便于和本地文件对应。 | |命中标签 |展示样本命中的伪造类型，例如默认伪造、PS 伪造、伪造实体、伪造文本或伪造人脸。 | |分数 |表示样本命中对应标签的置信分。分数越高，说明系统认为该样本属于该标签的可能性越高。 | |AIGC 来源 |如果素材中包含可解析的内容凭证或生成来源信息，结果页会展示识别到的来源，例如生成产品或服务名称。 | |元数据 |展示从素材中解析出的来源元数据。不同素材和生成工具写入的字段可能不同；未携带、已被移除或无法验证时，可能不展示该信息。 | 例如，某图片样本被标记为**伪造**，命中标签为**默认伪造**，分数为 `1.00`，表示系统认为该样本属于默认伪造类型的概率较高。伪造内容检测资产支持以下检测标签： |标签名称 |接口返回标签 |说明 | |---|---|---| |默认伪造 |`10900000` |仅伪造内容检测资产适用。用于标识系统整体判断为伪造的样本。 | |PS 伪造 |`10901000` |仅伪造内容检测资产适用。用于标识疑似经过图片编辑、修图或局部篡改的样本。 | |伪造实体 |`10902000` |仅伪造内容检测资产适用。用于标识疑似存在实体生成、实体替换或实体篡改的样本。 | |伪造文本 |`10903000` |仅伪造内容检测资产适用。用于标识疑似存在文本生成、文本替换或文本篡改的样本。 | |伪造人脸 |`10904000` |仅伪造内容检测资产适用。用于标识疑似存在人脸生成、换脸或人脸篡改的样本。 | > **说明** > 同一样本可能会命中多个伪造标签，建议结合原始图片或视频内容进行复核。 > 内容凭证和来源元数据用于说明素材的声明来源，不应单独作为素材真实或伪造的最终结论。无可解析元数据不等同于伪造；存在来源声明也不表示素材内容必然真实。请结合模型检测分数、风险位置、解释信息和业务证据进行人工复核。 ### 步骤四查看深度伪造日志 1. 在左侧导航选择**攻击日志**，进入安全事件记录页面。 2. 在**深度伪造日志**页签下，您可以使用页面上方的筛选控件，通过设置时间范围、输入资产名称或选择检测分类来筛选和查看日志。 ![图片](https://p9-arcosite.byteimg.com/obj/tos-cn-i-goo7wpa0wc/f8df2f49a55849798c5baebfc78d5484) |字段 |说明 | |---|---| |AppID |触发检测的资产 ID。 | |请求内容 |本次检测的内容类型和内容摘要，例如图片。 | |判别结果 |系统对样本的判定结果，存在风险即`伪造`。 | |检测分类 |命中的伪造检测标签，例如默认伪造、PS 伪造、伪造实体、伪造文本或伪造人脸。

支持展示样本命中对应检测分类的置信分。

如果同时存在命中多个检测分类，则分别展示分类和置信分。 | |时间 |日志产生时间。 | ## 常见问题 ### **为什么上传后没有检测结果？** 请确认任务是否仍处于**待测试**状态。如果长时间未完成，建议刷新页面或重新发起测试。 ### **为什么深度伪造日志中没有对应记录？** 请确认查询时间范围是否覆盖测试时间，并检查筛选条件是否过窄。还需要确认本次任务已关联正确资产。 ### 如何查看深度伪造检测的原始日志？您可以在日志详情页面，通过资产 ID 和命中的策略 ID 检索命中深度伪造防护策略的日志信息。 ![图片](https://p9-arcosite.byteimg.com/obj/tos-cn-i-goo7wpa0wc/98e702a06bd44025ac7ffb3473ddb11d)