You need to enable JavaScript to run this app.
文档中心
火山方舟

火山方舟

请输入
  • 文档首页
    • 火山方舟调用文本生成
复制全文
下载 pdf
我的收藏
调用
文本生成
复制全文
下载 pdf
我的收藏
文本生成
根据输入的提示词生成连贯清晰的文本内容。​
说明​
方舟平台的新用户？获取 API Key 及 开通模型等准备工作，请参见 快速入门。​
快速开始​
​
输入​
输出预览​
​
请将下面内容进行结构化处理：火山方舟是火山引擎推出的大模型服务平台，提供模型训练、推理、评测、精调等全方位功能与服务，并重点支撑大模型生态。 火山方舟通过稳定可靠的安全互信方案，保障模型提供方的模型安全与模型使用者的信息安全，加速大模型能力渗透到千行百业，助力模型提供方和使用者实现商业新增长。​
​
​
# 火山方舟大模型服务平台结构化信息​
​
## 一、基本属性​
1. **推出主体**：火山引擎​
2. **平台定位**：大模型服务平台​
​
## 二、核心功能与服务​
提供模型训练、推理、评测、精调等全方位大模型相关功能与服务，核心定位包括：​
1. 支撑大模型生态建设​
2. 推动大模型能力向千行百业渗透​
​
## 三、安全保障方案​
通过稳定可靠的安全互信方案，双向保障信息安全：​
1. 模型提供方：保障其模型安全​
2. 模型使用者：保障其信息安全​
​
## 四、价值目标​
助力模型提供方和使用者实现商业新增长，构建大模型生态下的商业共赢模式。​
​
​
​
Curl
Python
Go
Java
​
​
curl https://ark.cn-beijing.volces.com/api/v3/chat/completions \​
-H "Content-Type: application/json" \​
-H "Authorization: Bearer $ARK_API_KEY" \​
-d '{​
"model": "doubao-seed-2-1-pro-260915",​
"messages": [​
{"role": "user", "content": "请将下面内容进行结构化处理：火山方舟是火山引擎推出的大模型服务平台，提供模型训练、推理、评测、精调等全方位功能与服务，并重点支撑大模型生态。 火山方舟通过稳定可靠的安全互信方案，保障模型提供方的模型安全与模型使用者的信息安全，加速大模型能力渗透到千行百业，助力模型提供方和使用者实现商业新增长。"}​
],​
"thinking":{​
"type":"disabled"​
}​
}'​
​
  • 按需替换 Model ID，查询 Model ID 请参见 模型列表。​
​
说明​
使用 Responses API 实现单轮对话的示例，请参见快速开始。​
模型与API​
支持的模型：文本生成能力​
支持的API ：​
  • Responses API：新推出的 API，简洁上下文管理，增强工具调用能力，缓存能力降低成本，新业务及用户推荐。​
  • Chat API：使用广泛的 API，存量业务迁移成本低。​
使用示例​
多轮对话​
实现多轮对话，需将包含系统消息、模型消息和用户消息的对话历史组合成一个列表，以便模型理解上下文，并延续之前的话题进行问答。​
​
传入方式​
手动管理上下文​
通过ID管理上下文​
使用示例​
​
...​
"model": "doubao-seed-2-1-pro-260915",​
"messages":[​
{"role": "user", "content": "Hi, tell a joke."},​
{"role": "assistant", "content": "Why did the math book look sad? Because it had too many problems! 😄"},​
{"role": "user", "content": "What's the punchline of this joke?"}​
]​
...​
​
​
...​
"model": "doubao-seed-2-1-pro-260915",​
"previous_response_id":"<id>",​
"input": "What is the punchline of this joke?"​
...​
​
API​
Chat API​
Responses API​
​
更多说明及完整示例请参见 上下文管理。​
流式输出​
​
预览​
优势​
​
 Replay
Play
 00:00 / 00:00 Live
00:00
Fullscreen
Cssfullscreen
1x
  • 2x
  • 1.5x
  • 1x
  • 0.75x
  • 0.5x
Click and hold to drag
​​
  • 改善等待体验：无需等待完整内容生成完毕，可立即处理过程内容。​
  • 实时过程反馈：多轮交互场景，实时了解任务当前的处理阶段。​
  • 更高的容错性：中途出错，也能获取到已生成内容，避免非流式输出失败无返回的情况。​
  • 简化超时管理：保持客户端与服务端的连接状态，避免复杂任务耗时过长而连接超时。​
​
通过配置 stream 为 true，来启用流式输出。​
​
...​
"model": "doubao-seed-2-1-pro-260915",​
"messages": [​
{"role": "user", "content": "深度思考模型与非深度思考模型区别"}​
],​
"stream": true​
...​
​
完整示例及更多说明请参见 流式输出。​
设置最大回答​
当控制成本或者回答问题时间，可通过限制模型回答长度实现。当回答篇幅较长，如翻译长文本，避免中途截断，可通过设置max_tokens更大值实现。​
注意​
DeepSeek-V4.1-flash 模型max_tokens：控制模型回答和模型思维链内容长度，超出长度后不报错，默认值 128k。​
​
...​
"model": "doubao-seed-2-1-pro-260915",​
"messages": [​
{"role": "user","content": "What are some common cruciferous plants?"}​
],​
"max_tokens": 300​
...​
​
完整示例代码，请参见 控制回答长度。​
异步输出​
当任务较为复杂或者多个任务并发等场景下，可使用 Asyncio 接口实现并发调用，提高程序的效率，优化体验。​
  • Chat API 代码示例：​
​
Python
​
​
import asyncio​
import os​
# Install SDK: python -m pip install --upgrade arkruntime​
from arkruntime import AsyncArk​
​
# 初始化Ark客户端​
client = AsyncArk(​
# The base URL for model invocation​
base_url="https://ark.cn-beijing.volces.com/api/v3",​
# Get API Key:https://ark.volcengine.com/region:cn-beijing/apikey​
api_key=os.getenv('ARK_API_KEY'),​
)​
​
async def main() -> None:​
stream = await client.chat.completions.create(​
# Replace with Model ID​
model = "doubao-seed-2-1-pro-260915",​
messages=[​
{"role": "system", "content": "你是 AI 人工智能助手"},​
{"role": "user", "content": "常见的十字花科植物有哪些？"},​
],​
stream=True​
)​
async for completion in stream:​
print(completion.choices[0].delta.content, end="")​
print()​
​
if __name__ == "__main__":​
asyncio.run(main())​
​
​
  • Responses API 代码示例：​
​
Python
​
​
import asyncio​
import os​
from arkruntime import AsyncArk​
from arkruntime.types.responses.response_completed_event import ResponseCompletedEvent​
from arkruntime.types.responses.response_reasoning_summary_text_delta_event import ResponseReasoningSummaryTextDeltaEvent​
from arkruntime.types.responses.response_output_item_added_event import ResponseOutputItemAddedEvent​
from arkruntime.types.responses.response_text_delta_event import ResponseTextDeltaEvent​
from arkruntime.types.responses.response_text_done_event import ResponseTextDoneEvent​
​
​
client = AsyncArk(​
base_url='https://ark.cn-beijing.volces.com/api/v3',​
api_key=os.getenv('ARK_API_KEY')​
)​
​
async def main():​
stream = await client.responses.create(​
model="doubao-seed-2-1-pro-260915",​
input=[​
{"role": "system", "content": "你是 AI 人工智能助手"},​
{"role": "user", "content": "常见的十字花科植物有哪些？"},​
],​
stream=True​
)​
async for event in stream:​
if isinstance(event, ResponseReasoningSummaryTextDeltaEvent):​
print(event.delta, end="")​
if isinstance(event, ResponseOutputItemAddedEvent):​
print("\noutPutItem " + event.type + " start:")​
if isinstance(event, ResponseTextDeltaEvent):​
print(event.delta,end="")​
if isinstance(event, ResponseTextDoneEvent):​
print("\noutPutTextDone.")​
if isinstance(event, ResponseCompletedEvent):​
print("Response Completed. Usage = " + event.response.usage.model_dump_json())​
​
​
if __name__ == "__main__":​
asyncio.run(main())​
​
​
更多使用​
深度思考​
模型在输出回答前，先对输入问题进行系统性分析与逻辑拆解，再基于拆解结果生成回答。​
可以显著提升回复质量，但会增加 token 消耗，详细信息请参见深度思考。​
提示词工程​
正确设计和编写提示词，如提供说明、示例、好的规范等方法可提高模型输出的质量和准确性。进行提示词优化的工作也被称为提示词工程（Prompt Engineering）。详细信息请参见提示词工程。​
工具调用​
通过集成内置工具或连接远程 MCP 服务器，您可以扩展模型的功能，以便更好回答问题或执行任务。当前支持：​
  • 内置工具：搜索网络、检索数据、图片处理等。​
  • 调用自定义函数。​
  • 访问三方MCP服务。​
详细信息请参见工具概述。​
续写模式​
通过预填（Prefill）部分 assistant 角色的内容，引导和控制模型从已有的文本片段继续输出，以及控制模型在角色扮演场景中保持一致性。​
结构化输出（beta）​
控制模型输出程序可处理的标准格式（主要是 JSON）而非自然语言，方便标准化处理或展示。​
批量推理​
方舟为您提供批量推理的能力，当您有大批量数据处理任务，可使用批量推理能力，以获得更大吞吐量和更低的成本。详细介绍和使用，请参见 批量推理。​
异常处理​
增加异常处理，帮助定位问题。​
​
Python
Go
Java
​
​
import os​
# Install SDK: python -m pip install --upgrade arkruntime​
from arkruntime import Ark​
from arkruntime._exceptions import ArkAPIError​
​
# 初始化Ark客户端​
client = Ark(​
# The base URL for model invocation​
base_url="https://ark.cn-beijing.volces.com/api/v3",​
api_key=os.getenv('ARK_API_KEY'),​
)​
​
# Streaming​
try:​
stream = client.chat.completions.create(​
# Replace with Model ID​
model = "doubao-seed-2-1-pro-260915",​
messages=[​
{"role": "system", "content": "你是 AI 人工智能助手"},​
{"role": "user", "content": "常见的十字花科植物有哪些？"},​
],​
stream=True​
)​
for chunk in stream:​
if not chunk.choices:​
continue​
​
print(chunk.choices[0].delta.content, end="")​
print()​
except ArkAPIError as e:​
print(e)​
​
​
对话加密​
除了默认的网络层加密，火山方舟还提供免费的应用层加密功能，为您的推理会话数据提供更强的安全保护。您只需增加一行代码即可启用。完整示例代码请参见 加密数据；更多原理信息，请参见推理会话数据应用层加密方案。​
使用说明​
  • 模型关键限制：​
  • 最大上下文长度（Context Window）：即单次请求模型能处理的内容长度，包括用户输入和模型输出，单位 token 。超出最大上下文长度的内容时，会截断并停止输出。如碰到上下文限制导致的内容截断，可选择支持更大上下文长度规格的模型。​
  • 最大输出长度（Max Tokens）：即单次模型输出的内容的最大长度。如碰到这种情况，可参考续写模式，通过多次续写回复，拼接出完整内容。​
  • 每分钟处理内容量（TPM）：即账号下同模型（不区分版本）每分钟能处理的内容量限制，单位 token。如默认 TPM 限制无法满足您的业务，可通过 工单 联系售后提升配额。举例：某模型的 TPM 为 500w，一个主账号下创建的该模型的所有版本接入点共享此配额。​
  • 每分钟处理请求数（RPM）：即账号下同模型（不区分版本）每分钟能处理的请求数上限，与上面 TPM 类似。如默认 RPM 限制无法满足您的业务，可通过 工单 联系售后提升配额。​
  • 各模型详细的规格信息，请参见 模型列表。​
  • 用量查询：​
  • 对于某次请求 token 用量：可在返回的 usage 结构体中查看。​
  • 账号/项目/接入点维度 token 用量：可在 用量统计 页面查看。​
常见问题​
常见问题-在线推理：在线推理的常见问题，如遇到错误，可尝试在这里找解决方案。​
​
最近更新时间：2026.10.09 14:36:33
这个页面对您有帮助吗？
有用
有用
无用
无用