You need to enable JavaScript to run this app.
文档中心
文档控制台
注册
全站加速

全站加速

复制全文
下载 pdf
产品简介
调用方式说明
复制全文
下载 pdf
调用方式说明

接入 AI 加速网关的模型支持 OpenAI 兼容协议协议透传 两种调用方式。两种方式在协议转换、支持的网关能力和调用代码上存在差异,直接影响您能使用哪些网关功能。建议在创建网关实例前阅读本文,根据业务需要选择合适的调用方式。

两种调用方式

OpenAI 兼容协议

使用网关生成的 API Key,以统一的 OpenAI 协议格式发送请求和接收响应。

  • 网关将各厂商的请求和响应统一转换为 OpenAI 格式。您只需按照 OpenAI 标准格式发送请求,无需关心后端模型的实际协议。
  • 适用于希望统一管理多厂商调用协议、并使用网关完整能力的场景。

协议透传

使用模型厂商自身的 API Key 和原生协议,网关原样转发请求和响应,不做协议转换。

  • 您只需将厂商域名(BaseUrl)替换为网关实例的 BaseUrl(含加速域名),即可获得请求加速能力。
  • 适用于需要保留厂商原生接口行为、仅借助网关做请求加速的场景。

能力对照与选型建议

除请求加速外,模型路由、语义缓存、限速、预算管理、工具精选等能力均依赖网关的协议转换,仅在 OpenAI 兼容协议下可用。两种调用方式支持的网关能力对照如下。

| | | | \

网关能力 OpenAI 兼容协议 协议透传
请求加速 ✅ 支持 ✅ 支持
模型路由(负载均衡 / 主备容灾) ✅ 支持 ❌ 不支持
语义缓存 ✅ 支持 ❌ 不支持
限速 ✅ 支持 ❌ 不支持
预算管理 ✅ 支持 ❌ 不支持
工具精选 ✅ 支持 ❌ 不支持

因此,若只需借助边缘网络为现有调用链路做请求加速、并保留厂商原生接口,可选择协议透传;若希望使用路由、缓存、限流、预算、工具精选等网关能力,请选择 OpenAI 兼容协议

:::tip
不同调用方式的差异从创建实例、添加模型时就已体现:添加模型时是否填写模型 API Key,决定了该模型支持的调用方式(不填写则仅支持协议透传)。详情请参见创建 AI 加速网关实例。此外,两种调用方式下的调用代码也有差异,详情请参见模型调用示例代码
:::

最近更新时间:2026.07.09 16:50:42
这个页面对您有帮助吗?
有用
有用
无用
无用