大模型应用防火墙
大模型应用防火墙
实践教程
请输入
- 文档首页
大模型应用防火墙实践教程检测深度伪造图片并获取风险位置和原因
复制全文
下载 pdf检测深度伪造图片并获取风险位置和原因
文档反馈
问问助手本文面向需要在深度伪造场景中定位风险具体位置并解释检测原因的开发人员与安全运营人员。大模型应用防火墙 SDK 在返回检测结果的同时，可通过 Position 标记疑似伪造区域，并通过 SourceInfos.SourceDetail.interpretation 提供检测原因，帮助审核人员快速定位可疑内容并完成人工核查。本文以图片检测为主，说明 SDK 接入、调用、结果解析与日志核对方法。
适用范围
本教程重点说明深度伪造检测结果的定位和原因解释能力。SDK 返回风险分类与处置决策时，还可以返回疑似风险区域的位置坐标和自然语言检测依据，供审核工作台标记可疑画面并展示复核线索。该信息用于辅助人工判断，不应单独作为素材真实性的最终结论。
适合 | 典型用途 |
人工核查辅助 | 在审核界面标记疑似伪造区域，并展示检测原因 |
风险前置拦截 | 在理赔、风控、内容治理等环节识别高风险素材 |
复核系统集成 | 把标签、概率、解释和位置回传给审核工作台 |
接入前准备
账号、实例与 SDK
- 已购买大模型应用防火墙实例，并开通伪造内容检测能力。
- 已按官方SDK 安装和初始化完成对应语言的依赖安装。
- 已准备火山引擎账号的 Access Key ID（AK）和 Secret Access Key（SK）。不要把真实密钥提交到代码仓库或输出到日志。
- 已确认实例地域。myUrl、region 与资产所属地域必须一致。
- 应用运行环境能够访问实例对应的 SDK 服务地址。
说明
示例中的 AK、SK、AppID 和本地文件路径均为占位值。生产环境应从密钥管理系统或受控环境变量读取凭据，并限制最小可用权限。
支持的检测素材
调用 SDK 前，请先确认图片素材格式和大小满足要求。
- 格式：支持 jpg、jpeg、png、webp。
- 大小：单张不超过 10 MB。
- Base64 前缀：图片通常可直接传 Base64 字符串，无需额外添加 MIME 前缀；如果您的业务侧统一使用 Data URI，也可分别使用以下前缀：
- jpg、jpeg：data:image/jpeg;base64,
- png：data:image/png;base64,
- webp：data:image/webp;base64,
说明
优先使用原始素材。多次压缩、截图转存或二次编辑可能损失检测所需的细节。
步骤一 创建检测资产
- 登录大模型应用防火墙控制台。
- 在左侧导航栏，选择资产管理，然后单击添加资产。
- 配置以下参数并单击提交。
- 接入方式：SDK 接入。
- 应用名称：以 deepfake_demo 为例。
- 防护场景：伪造内容检测。
说明
若页面中没有“伪造内容检测”选项，先确认实例是否已购买或开通对应能力。SDK 调用只应使用通过 SDK 方式接入的资产 AppID；其他接入方式的资产可能不生效。
- 返回控制台，获取资产 AppID，作为 scene 参数值。
步骤二 准备配置参数
参数 | 示例 | 说明 |
myUrl | https://cn-beijing.sdk.access.llm-shield.omini-shield.com | 大模型应用防火墙对外提供的服务地址，形如https://{region}.sdk.access.llm-shield.omini-shield.com，其中 region 为您购买的实例所属地域。
|
ak / sk | AK******** / SK******** | |
appid | app-******** | 资产的唯一标识，完成控制台接入配置后，系统将自动生成 AppID。对应检测输入或输出内容是否合规中的scene。可前往大模型应用防火墙控制台资产管理模块，查看已通过 SDK 方式接入的资产 AppID。 |
region | cn-beijing | 资产所属地域，与 myUrl 中的 region 保持一致。
|
image_file | /Users/DeepFakeTest/image_001.png | 待检测对象的本地路径。 |
message.role | user | 内容来源。可选值包括 user、assistant。对于用户上传的图片或视频，建议传入 user。 |
message.contenttype | IMAGE | 内容类型。在 SDK 中通常对应枚举值 ContentTypeV2.IMAGE 和 ContentTypeV2.VIDEO。 |
步骤三 调用 SDK
步骤四 分析响应结果
原始响应
关键字段说明
参数 | 示例值 | 说明 |
RiskInfo.Risks.Category | 109 | 风险一级分类，109 表示命中了深度伪造风险。 |
RiskInfo.Risks.Label | 10900000 | 命中的二级检测分类标签信息：
|
RiskInfo.Risks.Prob | 1.0 | 风险概率，表示检测内容属于该风险的可能性，取值范围为 0 到 1 之间。 |
RiskInfo.Risks.SourceInfos.Source | module_aigc_ps | 返回检测来源标识。该值由实际参与检测或元数据解析的模块决定，不应在业务代码中假定为固定值。 |
RiskInfo.Risks.SourceInfos.Source.SourceDetail.interpretation | 结论：这张图像是AIGC生成的伪造图像。 \n1. 电脑机箱的玻璃侧板存在明显的不自然裂纹，裂纹从中心向外呈放射状扩展，但裂纹的走向和密度在不板和线缆在玻璃面板的反射中呈现异常的、不连续的光晕和高亮，且反射的细节与周围环境的光照不匹配，出现局部的“漂白”和“过曝”伪影，这在真实拍摄中难以出现。 | 自然语言解释，提供判断结论和详细的风险命中原因和说明。 |
RiskInfo.Risks.Matches.Position.ImagePosition | "xStart" : "127", "yStart" : "406", "xEnd" : "367", "yEnd" : "626" | 返回图片中命中风险的四个像素点位置：
|
Decision.DecisionType | 2 | 命中的策略动作，表示对该命中内容的处理动作：
|
Decision.HitStrategyIDs | rule-d87gnhdtmscn1mp2**** | 命中策略 ID 列表，表示内容命中的所有策略。深度伪造检测场景内置检测策略（为固定 ID），其他自定义策略不会生效。 |
ContentInfo | png | 风险内容的格式。
|
SourceDetail 还可能承载素材中解析出的来源或内容凭证元数据。该对象中的键由素材和生成工具决定，接入方应按 JSON 对象兼容读取未知字段，不要依赖固定键集合。内容凭证用于辅助判断素材来源：无凭证不等同于伪造，存在来源声明也不表示素材内容必然真实。
步骤五 查看日志
检测完成后，您还可以在控制台查看对应的深度伪造日志，便于后续审计和排查。
- 登录大模型应用防火墙控制台。
- 在左侧菜单栏选择攻击日志。
- 在深度伪造日志页签下，查看判别结果为伪造的日志。
常见问题
鉴权失败或请求无法到达服务
- 确认 AK/SK 已正确注入，且没有多余空格、换行或过期值。
- 确认 myUrl 中的地域、region 和资产所属地域一致。
- 确认网络出口、代理和 DNS 可以访问对应服务地址。
返回通过，但预期应命中风险
- 确认 scene 是“SDK 接入”且防护场景为“伪造内容检测”的资产 AppID。
- 确认素材格式受支持，传入的 ContentType 与实际内容一致。
- 优先用原始素材复测，避免压缩或转码导致细节丢失。
日志中找不到调用记录
确认调用使用了正确的 AppID，并检查“攻击日志”中的“深度伪造日志”页签。该页签用于查看判别结果为“伪造”的记录；若响应为通过，应结合调用侧日志核对。需要进一步定位时，可使用脱敏后的 RequestId、MsgID、资产 ID 和命中策略 ID 关联排查。
最近更新时间：2026.10.22 21:32:36
这个页面对您有帮助吗？
有用
有用
无用
无用