功能 | 说明 |
HTTPS 协议 | 支持 HTTPS 通信协议,支持上传单/多/泛域名证书,使用 HTTPS 证书保证数据传输安全。 |
IP 黑白名单 | 提供基于 IP 的黑名单和白名单,可以通过配置黑、白名单来拒绝或允许特定 IP 的访问请求。API 网关支持在实例级别、服务级别和路由级别配置 IP 黑名单和白名单,满足精细化的访问控制诉求。 |
JWT 认证 | 提供 JSON Web Token(JWT)轻量级的认证规范,允许使用 JWT 在用户和服务器之间传递安全可靠的信息。服务开启 JWT 认证后,在访问服务对应域名下的所有请求中,只有携带 JWT Token 的请求才能访问成功。 |
HMAC 认证 | 基于 HmacSHA256 算法为 HTTP 请求生成不可伪造的 AK/SK 签名,开启后需要携带相关请求头和签名等信息访问后段资源。 |
API Key 认证 | Key Auth 是一种简单且被广泛使用的用户认证机制。客户端在请求头或者请求参数中添加唯一的 API key。服务端或者代理获取 API key 之后查询是否存在对应的 Consumer/Client 身份,即可完成对应认证。 |
功能 | 说明 |
AI 多模型代理 | 支持作为 AI 网关,为常见大语言模型提供托管的云原生网关功能,实现统一的多模型访问代理功能。并允许自定义接入点和语义,提升 AI 大模型使用时的用户体验。 |
AI 智能路由 | 根据后端 GPU 负载情况,如排队请求数等,将请求调度到负载最低的实例,保证后端推理实例尽可能均匀处理请求。 |
Token 监控 | 监控不同部门&团队的 Token 使用,帮助用户有效跟踪模型使用情况,例如了解哪些项目或者消耗的 Token 最多。 |
Token 用量控制 | 基于对大模型使用 Token 数量的监控,对模型整体调用 Token 或不同部门 Token 的用量进行配额,有效管理模型资源使用。 |
功能 | 说明 |
路由管理 | 支持根据 Method/Path/Query String 路由流量,并按流量权重分发至多个目标 Upstream,满足应用的多版本管理等场景。 |
超时策略 | 支持响应超时策略,允许按需配置等待请求响应结果的最大时间。如果在指定时间内,API 网关未收到后端服务的响应结果,网关会向客户端返回一个 HTTP 状态码为504的响应结果。 |
跨域策略 | 支持跨域资源共享 CORS(Cross-Origin Resource Sharing)策略,允许进行跨域访问,从而实现跨域数据安全传输。 |
重写策略 | 支持 URL 重写策略,允许改写服务访问的 URL,使其能够访问不同路径的后端服务。 |
重试策略 | 支持重试策略,您可以指定重试条件,对出错的请求进行自动重试。例如:与后端服务连接失败、或使用指定的 HTTP 状态码进行请求重试。 |
功能 | 说明 |
容器服务类型 Upstream | 支持对接火山引擎容器服务 VKE,将 VKE 集群下的 Kubernetes Service 抽象为一个 Upstream,作为网关的路由后端。适用于业务采用 VKE 部署,希望通过网关发布业务的场景。 |
注册中心类型 Upstream | 支持对接火山引擎微服务引擎 MSE,将 MES Nacos 中注册的服务抽象为一个 Upstream,作为网关的路由后端。适用于业务采用 MSE Nacos 进行治理,希望通过网关发布业务的场景。 |
函数服务类型 Upstream | 支持对接火山引擎函数服务 veFaaS,将一个已发布的函数抽象为一个 Upstream,作为网关的路由后端。适用于业务采用 veFaaS 部署,希望通过网关发布的场景。 |
云服务器类型 Upstream | 支持对接火山引擎云服务器 ECS,将多个云服务器抽象为一个 Upstream,作为网关的路由后端。适用于业务在 ECS 部署,希望通过网关发布业务的场景。 |
固定域名类型 Upstream | 支持对接固定域名,允许将与网关网络互通的固定域名封装为一个 Upstream,作为网关的路由后端。 |
固定 IP 类型 Upstream | 支持对接固定 IP 地址,允许将与网关网络互通的固定 IP 地址封装为一个 Upstream,作为网关的路由后端。 |
功能 | 说明 |
HMAC 插件 | 基于 HmacSHA256 算法为 HTTP 请求生成不可伪造的 AK/SK 签名,用于开启或关闭 HMAC 认证功能。开启后需要携带相关请求头和签名等信息访问当前资源。 |
限流插件 | 支持控制网关实例级别、路由级别的访问请求阈值,保障后端服务的稳定性。 |
IP 黑白名单插件 | 支持在实例级别、服务级别和路由级别配置 IP 黑名单和白名单,满足精细化的访问控制诉求。 |
Key Auth 插件 | 基于 Key Auth 用户认证机制,用于生成认证鉴权使用的 API Key。客户端在请求头或者请求参数中添加 API key,API 网关实例获取 API key 之后查询是否存在对应的 Consumer/Client 身份,即可完成对应认证。 |