You need to enable JavaScript to run this app.
文档中心
AgentKit

AgentKit

复制全文
下载 pdf
模型接入
创建模型服务
复制全文
下载 pdf
创建模型服务
模型服务用于统一管理模型供应商、供应商 API Key、模型 ID、Proxy API Key、模型访问范围、失败重试和备用模型等配置。当您需要统一管理多个模型供应商、隔离业务调用凭证,或为不同业务分配不同模型访问范围时,您可创建模型服务,使业务应用通过统一访问地址和 Proxy API Key 调用已授权模型,避免在业务侧直接维护多个供应商的真实凭证。本文介绍如何创建并管理模型服务,包括创建模型服务、添加供应商与模型、配置 Proxy API Key、设置模型访问范围和限流等操作。​
操作说明​
在多模型、多供应商的使用场景中,业务应用通常需要分别维护不同供应商的访问地址、模型 ID 和 API Key。随着接入模型数量增加,凭证管理、访问控制、限流配置和调用日志排查都会变得复杂。​
模型服务提供统一的模型调用入口,您可以在控制台接入模型供应商、托管供应商 API Key、创建 Proxy API Key,并为不同业务或场景配置模型访问范围和限流策略。模型服务会使用供应商 API Key 调用上游模型服务,业务应用调用模型服务时,仅需使用模型服务提供的访问地址和 Proxy API Key,不需要直接保存供应商 API Key。​
前提条件​
管理模型服务前,请先完成账号、网关、供应商和模型信息准备。缺少以下任一条件时,可能无法完成创建。​
  • 已创建网关实例。创建模型服务时需要指定网关实例,作为模型请求的流量入口。模型服务自身不收取费用,但模型服务关联的网关实例会收取相应费用,详见计费说明。​
  • (可选)已确认 Proxy API Key 授权策略。为不同业务或场景创建不同的 Proxy API Key,控制不同调用方可访问的模型范围,实现访问隔离。​
  • (可选)已提前获取模型相关信息。如果接入非火山方舟的模型服务(如 OpenAI、Anthropic 或自建模型)需准备如下信息。​
  • 供应商信息:包括供应商名称、供应商 Base URL、协议类型和供应商 API Key。​
  • 模型 ID:供应商提供的标准模型 ID。模型服务会根据该 ID 将请求路由到上游模型,填写非标准 ID,可能导致模型调用失败。​
创建模型服务​
  1. 登录AgentKit控制台。​
  1. 在左侧导航树中选择“网关 > 模型接入”,单击“创建模型服务”按钮。​
  • ​​​
  1. 在创建模型服务页面,完成网关配置、模型配置和 Proxy API Key 配置。​
说明​
添加模型时,支持选择以下供应商类型:火山方舟-模型广场、火山方舟-Agent Plan、火山方舟-Coding Plan 或自定义。其中,自定义类型需手动填写供应商名称、Base URL、协议及 API Key,配置项与其他三种类型有所不同,请参考下方对应表格进行配置。​
  • 模型供应商为:火山方舟-模型广场、火山方舟-Agent Plan、火山方舟-Coding Plan​
  • ​
    参数​
    说明​
    网关配置​
    ​
    网关实例​
    选择模型服务使用的网关实例。​
    模型配置​
    ​
    供应商​
    选择模型供应商。供应商为火山方舟-模型广场、火山方舟-Agent Plan 或火山方舟-Coding Plan。​
    • 类型说明​
    • 火山方舟-模型广场:使用火山方舟模型广场中的公开模型。选择后可直接从模型列表中勾选所需模型。​
    • 火山方舟-Agent Plan:使用火山方舟 Agent Plan 下的模型资源,适用于智能体场景。选择后可直接从对应模型列表中勾选所需模型。​
    • 火山方舟-Coding Plan:使用火山方舟 Coding Plan 下的模型资源,适用于代码生成、代码理解等编程场景。选择后从对应模型列表中勾选所需模型。​
    • 如何选择:​
    • 如需接入豆包、DeepSeek 等火山方舟已集成的模型,优先选择火山方舟-模型广场。​
    • 如已购买 AgentPlan / Coding Plan 资源包,可选择火山方舟-Agent Plan/火山方舟-Coding Plan。​
    具体模型配置​
    选择需要接入模型服务的具体模型,默认勾选全部模型。如需修改模型每分钟 Token 上限,请在模型服务创建成功后操作,详见管理模型网关用量。​
    供应商 Base URL​
    配置供应商模型服务的基础访问地址,地址需与所选协议和供应商要求一致。​
    • 此地址是模型服务的 API 访问地址前缀,系统将通过该地址向供应商发起模型调用请求。​
    • 配置说明​
    • 选择火山方舟内置供应商(火山方舟-模型广场、火山方舟-Agent Plan、火山方舟-Coding Plan)时,系统会自动带入对应的默认地址,通常无需修改。以下情况需要手动调整:​
    • 您的账号已接入私有化部署或专属集群的火山方舟服务,访问地址与公有云不同。​
    • 您希望将请求路由到特定的地域节点或自定义代理。​
    API Key​
    配置访问供应商模型服务所需的真实 API Key,用于向模型供应商发起调用请求时进行身份认证的密钥。支持以下两种方式:​
    • 选择已有:从当前账号下已托管的 API Key 列表中选择,推荐使用此方式,便于统一管理和轮换密钥。​
    • 自定义输入:手动填写名称和 API Key 值,适用于首次录入或临时使用的密钥。​
    备用模型​
    配置当前模型不可用时的备用模型,当前模型访问异常/额度用尽时,将自动切换至备用模型。备用模型此时无需关注,请在模型服务创建成功后配置。​
    Proxy API Key 配置​
    ​
    名称​
    输入 Proxy API Key 的标识名称,用于在「Proxy API Key 管理」页中区分和管理不同的 Key。​
    • Proxy API Key 是模型服务对外暴露的统一访问凭证。调用方(如 Agent 或第三方应用)使用该 Key 向模型服务发起请求,由模型服务代理转发至实际的供应商模型,调用方无需直接持有供应商的原始 API Key,实现密钥隔离与统一管控。​
    • 输入名称后,系统将自动生成对应的 Key 值,模型服务创建成功后可在“Proxy API Key 管理”页签中查看并管理。​
    可用模型​
    设置 Proxy API Key 允许调用的模型范围。默认为全部模型,即该模型服务下所有已配置的模型均可调用。如需修改 Proxy API Key 用量,请在模型服务创建成功后操作,详见管理模型网关用量。​
    其他​
    ​
    失败重试次数​
    配置模型调用失败后的重试次数。模型调用失败后,模型服务将按照该次数自动重试。​
    ​
  • 模型供应商为:自定义​
  • ​
    参数​
    说明​
    网关配置​
    ​
    网关实例​
    选择模型服务使用的网关实例。​
    模型配置​
    ​
    供应商​
    选择模型供应商。供应商为自定义。​
    • 手动填写供应商名称、Base URL、协议和 API Key,用于接入第三方模型服务或私有化部署的模型服务。​
    • 自定义供应商适用于接入非火山方舟的模型服务(如 OpenAI、Anthropic 或自建模型)。​
    名称​
    输入自定义供应商的配置名称。​
    • 仅用于在模型服务控制台中标识该供应商,不影响实际接入或调用。​
    • 建议填写能反映供应商来源或用途的名称,如openai-gpt4o、my-private-llm。​
    具体模型配置​
    配置当前供应商下可调用的模型。在输入框中输入当前该供应商对外提供的标准模型 ID (即调用 API 时传入的model参数值),例如deepseek-flash,然后单击“添加”按钮。​
    • 系统不会自动拉取模型列表,如需添加多个模型,请重复操作。​
    ​​​
    供应商 Base URL​
    输入供应商模型服务的基础访问地址,地址需与所选协议和供应商要求一致。​
    • 此地址是模型服务的 API 访问地址前缀,系统将通过该地址向供应商发起模型调用请求。​
    • 填写第三方模型服务或私有化模型的完整 API Base URL,如https://api.openai.com/v1。​
    协议​
    选择供应商接口协议,支持兼容 OpenAI 和兼容 Anthropic。​
    • 兼容 OpenAI:适用于兼容 OpenAI 接口协议的模型服务,要求模型访问地址为 OpenAI 兼容协议的 Base URL,如 https://<your-provider-domain>/v1。​
    • 兼容 Anthropic:适用于兼容 Anthropic 接口协议的模型服务,要求模型访问地址为 Anthropic 协议的 Base URL,如 https://<your-provider-domain>。​
    API Key​
    配置访问供应商模型服务所需的真实 API Key,用于向模型供应商发起调用请求时进行身份认证的密钥。​
    备用模型​
    配置当前模型不可用时的备用模型,当前模型访问异常/额度用尽时,将自动切换至备用模型。备用模型此时无需关注,请在模型服务创建成功后配置,详见管理模型网关用量。​
    Proxy API Key 配置​
    ​
    名称​
    输入 Proxy API Key 的标识名称,用于在「Proxy API Key 管理」页中区分和管理不同的 Key。​
    • Proxy API Key 是模型服务对外暴露的统一访问凭证。调用方(如 Agent 或第三方应用)使用该 Key 向模型服务发起请求,由模型服务代理转发至实际的供应商模型,调用方无需直接持有供应商的原始 API Key,实现密钥隔离与统一管控。​
    • 输入名称后,系统将自动生成对应的 Key 值,模型服务创建成功后可在“Proxy API Key 管理”页签中查看并管理。​
    可用模型​
    设置 Proxy API Key 允许调用的模型范围。默认为全部模型,即该模型服务下所有已配置的模型均可调用。如需修改 Proxy API Key 用量,请在模型服务创建成功后操作,详见管理模型网关用量。​
    其他​
    ​
    失败重试次数​
    配置模型调用失败后的重试次数。模型调用失败后,模型服务将按照该次数自动重试。​
    ​
  1. 配置完成后,单击“确定”按钮,完成操作。​
说明​
创建成功后如果模型无法使用,请优先检查网关实例、供应商 API Key、供应商模型 ID 是否填写正确,如有问题可在“供应商与模型管理”页签单击目标模型供应商卡片右上角“… > 编辑”,修改配置模型信息。​
​​​
​
最近更新时间:2026.09.20 19:18:57
这个页面对您有帮助吗?
有用
有用
无用
无用