部分大模型支持音频理解能力,可通过本地文件和音频 URL 方式传入音频,可对音频内容进行语义理解与解析,适用于语音内容转写、对话语义提取、音频内容审核、会议纪要生成、视频伴音分析等场景。
说明
方舟平台的新用户?获取 API Key 及 开通模型等准备工作,请参见 快速入门。 支持的音频文件传入方式如下:
- Base64编码传入:适用于文件体积较小的场景,音频文件大小不能超过 25 MB,音频时长不超过 120 分钟。
- 音频URL传入:适用于文件已存在公网可访问 URL 的场景,音频文件大小不能超过 25 MB,音频时长不超过 120 分钟。
建议优先使用 Files API 上传本地文件,不仅可以支持最大 512MB 文件的处理,还可以避免请求时重新上传内容,减少预处理导致的时延,同时可在多次请求中重复使用,节省公网下载时延。上传成功并待文件状态变为 active 后,Responses API 和 Chat API 均支持通过 file_id 方式传入音频。
- 该方式上传的文件默认存储 7 天,存储有效期取值范围为1-30天。
- 如果需要实时获取分析内容,或者要规避复杂任务引发的客户端超时失败问题,可采用流式输出的方式,具体示例见流式输出。
Curl
Python
Go
Java
OpenAI SDK
- 在Responses API中引用File ID
- 按需替换 Model ID,查询 Model ID 参见 模型列表。
- 按需替换 Model ID,查询 Model ID 参见 模型列表。
将本地文件转换为 Base64 编码字符串,然后提交给大模型。该方式适用于音频文件体积较小的情况,音频文件大小不能超过 25 MB,音频时长不超过 120 分钟。(Responses API 和 Chat API 都支持该方式。)
注意
使用 Base64 编码传入音频时,需根据不同的 API 类型对数据格式进行处理:
- Responses API:遵循data:{mime_type};base64,{base64_data}格式拼接,通过audio_url字段传入模型。{mime_type}:文件的媒体类型,需要与文件格式mime_type对应。支持的音频格式详细见音频格式说明。{base64_data}:文件经过Base64编码后的字符串。
- Chat API:直接将 Base64 编码后的音频数据{base64_data}填入 input_audio.data,音频格式(如 mp3/wav)通过 input_audio.format 字段单独指定。
- 使用 Responses API 的示例代码如下:
Curl
Python
Go
Java
OpenAI SDK
- 将 /Users/doc/demo.mp3 替换为你自己的音频路径。
- 按需替换 Model ID,查询 Model ID 参见 模型列表。
- 将 /Users/doc/demo.mp3 替换为你自己的音频路径。
- 按需替换 Model ID,查询 Model ID 参见 模型列表。
如果音频文件已存在公网可访问URL,可以在请求中直接填入音频文件的公网URL,音频文件大小不能超过 25 MB,音频时长不超过 120 分钟。(Responses API 和 Chat API 都支持该方式。)
- 使用 Responses API 的示例代码如下:
Curl
Python
Go
Java
OpenAI SDK
- 按需替换 Model ID,查询 Model ID 参见 模型列表。
- 按需替换 Model ID,查询 Model ID 参见 模型列表。
支持对视频中内嵌的音频轨道进行解析与语义理解。无需单独提取音频,可直接将完整视频作为输入,模型会自动抽取音轨并完成语音识别、内容理解、情感与语气分析等相关任务。具体使用格式与入参规范可参考视频理解。 通过 Files API 上传包含音频轨道的视频时,需要在上传请求的 preprocess_configs.video.model 中传入支持音频理解的模型 ID。该字段用于指定视频预处理策略;后续调用 Responses API 或 Chat API 时,仍需在请求的 model 中传入实际用于推理的模型或接入点。两个 model 字段相互独立,可按上传预处理和推理两个阶段分别配置。
以下示例使用 Files API 上传视频,再通过 Responses API 引用 File ID。
Curl
Python
Go
Java
OpenAI SDK
- 在 Responses API 中引用 File ID。
注意
按需替换 Model ID 。如需处理视频中内嵌的音频信息,请使用支持音频理解的模型,具体可参考 模型列表。 围绕音频内容开展开放式语义理解与智能问答,模型可完整解析音频信息,结合用户文本问题,输出结构化、可分析的专业回答。根据交互形式,分为两大子场景:单轮对话和多轮对话。
采用一问一答的轻量化交互模式,适配音频类型判别、环境场景识别、内容细节查询、基础信息解读等轻量化诉求。
下面是简单示例代码
按需替换 Model ID,查询 Model ID 参见 模型列表。 回复预览
适用于客服复盘、语言陪练、听力答疑等需连续交互的场景。在该场景下,用户可在每一轮交互中追加新的音频输入,模型将结合"历史全部音频 + 历史全部文本回复 + 本轮新问题"综合推理并输出全新的文本答复,确保对话上下文的连贯性与答复的准确性。
说明
Responses API 提供原生的多轮串联能力,客户端无需手动拼接历史。只需在请求里传入 previous_response_id = <上一次响应的 id>,服务端会自动把前序所有 input 和 assistant 输出作为上下文继续推理。
下面是简单示例代码
按需替换 Model ID,查询 Model ID 参见 模型列表。 第一轮响应:
记录响应体的 id(此处为 resp_0217772771288531389853d7d0951ef6849890aa76b17cc5b65ac),它将作为下一轮的 previous_response_id。
- 第二轮请求:追加第二段录音,询问情绪变化(使用 previous_response_id 串接上轮内容)
第二轮响应:
依托大模型能力对音频进行全方位结构化描述与解析,覆盖音频基础属性、核心内容、说话人信息、环境声音事件、背景音乐等多维度内容。广泛应用于媒资智能编目、内容合规审核前置打标等业务场景。
下面是简单示例代码
按需替换 Model ID,查询 Model ID 参见 模型列表。 回复预览
可对输入音频进行结构化描述性解析,实时转写为纯文本,或附带时间戳的结构化文本,是各类语音理解任务的基础核心能力。结合业务输出需求,能力可覆盖通用文本转写、时间戳标记、多人区分转写、说话人分离日志等细分应用场景。
说明
- 共支持 19 种语种识别:zh(中文)、en(英语)、yue(粤语)、ar(阿拉伯语)、nl(荷兰语)、vi(越南语)、fr(法语)、de(德语)、id(印尼语)、it(意大利语)、ja(日语)、ko(韩语)、ms(马来语)、pt(葡萄牙语)、ru(俄语)、es(西班牙语)、th(泰语)、tr(土耳其语)、fil(菲律宾语)。
- 中文方言适配:支持江淮官话、冀鲁官话、兰银官话、中原官话、四川话、粤语、闽南语、上海话、客家话、晋语方言识别。
仅输出原始纯转写文本,不含额外格式与冗余信息,结果简洁干净。适用于会议纪要、语音笔记等对文本纯净度要求较高的业务场景。
下面是简单示例代码:
按需替换 Model ID,查询 Model ID 参见 模型列表。 回复预览
在音频转写的基础上,为每个字(或每句)附带时间戳信息。根据业务使用场景,可进一步分为两种模式:由模型自主完成音频转写并同步打上时间戳,或基于已有的转写文本,完成时间戳精准对齐。
模型输出转写文本的同时,为每个字符同步返回精细化起止时间信息,以秒为单位计量。可满足音频检索、视频字幕打轴、音频片段精准定位等业务需求,高效提升内容检索与编辑处理效率。
下面是简单示例代码
按需替换 Model ID,查询 Model ID 参见 模型列表。 回复预览
适用于已具备完整音频文本的场景,如人工校对完成的字幕内容。仅由模型完成文本与音频的时间轴对齐,严格保留原文内容、不做文本修改。适合字幕制作、卡拉 OK 打轴等。
下面是简单示例代码
按需替换 Model ID,查询 Model ID 参见 模型列表。 回复预览
多说话人语音识别(Multispeaker ASR)
支持多人对话音频转写,区分不同发言主体,并为每段内容标注独立说话人编号(spk0、spk1 等)。适用于访谈交流、日常对话、客服录音等场景,便于内容整理与分类归纳。
下面是简单示例代码
按需替换 Model ID,查询 Model ID 参见 模型列表。 回复预览
说话人日志(Speaker Diarization and ASR)
在多人语音识别能力基础上,进一步为每段发言匹配精准起止时间。统一输出「说话人编号 + 时间范围 + 转录文本」的结构化格式:[spkN][开始-结束] 说话内容。
下面是简单示例代码
按需替换 Model ID,查询 Model ID 参见 模型列表。 回复预览
对音频口语内容进行跨语言翻译,输出目标语种文本。支持多语种双向互译,可满足国际会议实时同传、多语言视频字幕本地化、出海音频内容审核校对等业务需求。
说明
- 语种与互译规则:AST 共覆盖 15 个语种,包含:zh(中文)、en(英语)、yue(粤语)、ar(阿拉伯语)、vi(越南语)、fr(法语)、de(德语)、id(印尼语)、it(意大利语)、ja(日语)、ko(韩语)、pt(葡萄牙语)、ru(俄语)、es(西班牙语)、th(泰语)。仅支持中文、英语与其余 14 个语种双向互译,暂不支持其它语种之间两两互译。
- 关联能力联动:结合语音转写(ASR)能力,可提供 19 个语种高精度音频转写服务,覆盖语种:zh(中文)、en(英语)、yue(粤语)、ar(阿拉伯语)、nl(荷兰语)、vi(越南语)、fr(法语)、de(德语)、id(印尼语)、it(意大利语)、ja(日语)、ko(韩语)、ms(马来语)、pt(葡萄牙语)、ru(俄语)、es(西班牙语)、th(泰语)、tr(土耳其语)、fil(菲律宾语)。若业务所需翻译语向超出 AST 支持范围,且源语种或目标语种在 ASR 语种列表内,可采用 ASR 语音转写 + 文本翻译 组合方案:
- 语音转写:上传原始音频,调用 ASR 能力,将源语言音频精准转写为原文文本。
- 文本翻译:以 ASR 输出的文本作为输入,调用文本翻译能力,生成目标语种译文。
下面是简单示例代码
按需替换 Model ID,查询 Model ID 参见 模型列表。 回复预览
流式输出支持内容动态实时呈现,既能够缓解用户等待焦虑,又可以规避复杂任务因长时间推理引发的客户端超时失败问题,保障请求流程顺畅。
示例代码如下:
Curl
Python
Go
Java
OpenAI SDK
按需替换 Model ID,查询 Model ID 参见 模型列表。 支持的音频格式 MIME 类型如下:
纯音频格式
视频内嵌音频格式
每秒音频约 6.25 token,实际 token 用量以接口返回的audio_tokens为准。
不同音频输入方式对应的文件大小及时长限制如下:
- Files API 上传(推荐):单文件大小不超过 512 MB。
- Base64 编码传入:单文件大小不超过 25 MB,音频时长不超过 120 分钟。
- 公网 URL 传入:单文件大小不超过 25 MB,音频时长不超过 120 分钟。