You need to enable JavaScript to run this app.
文档中心
文档控制台
注册
全站加速

全站加速

复制全文
下载 pdf
控制台操作指南
通过 AI 加速网关调用大模型
复制全文
下载 pdf
通过 AI 加速网关调用大模型

创建 AI 加速网关实例后,您可以获取实例的网关访问密钥,并使用该密钥发起模型调用,从而通过网关加速访问已接入的大模型。本文介绍网关访问密钥的概念,以及如何获取密钥并调用大模型。

背景信息

在 AI 加速网关中,存在两类容易混淆的密钥,二者用途不同:

  • 网关访问密钥(网关 API Key):AI 加速网关为每个实例生成的调用凭证。使用 OpenAI 兼容协议 调用时,客户端使用网关访问密钥进行认证。
  • 模型自身 API Key:您在模型服务商平台(如火山方舟)获取、并在创建网关实例时配置的密钥。使用 协议透传 调用时,客户端直接使用模型自身的 API Key 进行认证。

AI 加速网关支持两种调用方式,认证方式与支持的网关能力不同:

  • OpenAI 兼容协议:使用网关访问密钥,所有请求和响应统一采用 OpenAI 协议格式。支持请求加速、模型路由、语义缓存、限流等网关能力。
  • 协议透传:使用模型厂商自身的 API Key,请求和响应保持与厂商接口一致,网关不做协议转换。仅支持请求加速能力。

两种调用方式的详细对比和完整代码示例,请参见模型调用示例代码

前提条件

  • 已创建 AI 加速网关实例。详情请参见创建 AI 加速网关实例
  • 使用 OpenAI 兼容协议调用时,创建网关实例时已为对应模型传入模型 API Key。若未传入,该模型仅支持通过协议透传方式调用。

步骤一:获取网关访问密钥

  1. 登录 全站加速控制台
  2. 在左侧导航栏,选择 AI 加速网关 > 实例管理
  3. 在实例列表中,单击目标实例名称,进入 实例详情 页面。
  4. 基础信息 页签的 请求方式 区域,选择 调用方式 并获取对应的调用凭证:
    • OpenAI 兼容协议:获取 BaseUrl 和网关 API Key(网关访问密钥)。单击 查看,可查看并复制完整的网关访问密钥。
      alt
    • 协议透传:选择目标 供应商 后,获取该供应商对应的 BaseUrl;调用时使用 模型厂商自身的 API Key 进行认证。
      alt

步骤二:调用大模型

获取 BaseUrlAPI Key 后,您可以使用任意 API 测试工具,或直接在终端使用 Curl 命令发起调用。以下以 OpenAI 兼容协议下的文本生成为例:

curl $BASE_URL/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $AI_GATEWAY_API_KEY" \
  -d '{
     "model": "$MODEL_NAME",
     "messages": [{"role": "user", "content": "Say this is a test!"}],
     "temperature": 0.7
   }'

将示例中的变量替换为您的实际值:

  • $BASE_URL:网关实例的 BaseUrl,可在 实例详情 > 基础信息 页直接复制。
  • $AI_GATEWAY_API_KEY:网关 API Key。
  • $MODEL_NAME:您在网关中配置的模型名称。

说明

若接入的是火山方舟 Agent Plan,调用路径因调用方式而异:

  • OpenAI 兼容协议:与普通模型一致,请求路径为 $BASE_URL/chat/completions,通过 model 字段指定具体模型(语言模型为 ark-code-latest,向量化模型为 doubao-embedding-vision,视觉模型为 doubao-seedream-5.0-lite)。
  • 协议透传:需在 BaseUrl 后拼接 Agent Plan 专用路径 /api/plan/v3,即 $BASE_URL/api/plan/v3/chat/completions

各调用类型的完整示例请参见模型调用示例代码

调用成功后,您将收到一个 HTTP 200 OK 响应,响应体中包含来自大模型的回复内容。

图像生成、语音合成、语音识别、向量模型等更多调用类型的完整示例,以及协议透传方式下各模型服务商的调用路径,请参见模型调用示例代码

验证调用结果

调用成功后,您可以等待几分钟,然后在 AI 加速网关 > 数据监控 页面查看监控数据。当 请求数Tokens 数 图表出现对应的数据点时,说明您的请求已成功通过 AI 加速网关。查看监控数据的详细说明,请参见查询 AI 加速网关监控数据

最近更新时间:2026.07.20 10:57:25
这个页面对您有帮助吗?
有用
有用
无用
无用