文档中心

容器服务

Helm 模板 AI 应用

Helm 模板部署概述

Helm 模板部署概述

本文主要描述 AI 云原生推理套件中通过应用中心 > 应用模板部署的推理模型最佳实践相关地域信息、模型信息以及文档列表。

支持的地域

AI 云原生推理套件支持的地域（Region）如下所示：

华北 2（北京）：cn-beijing

华东 2（上海）：cn-shanghai

亚太东南（柔佛）：ap-southeast-1

Deepseek 推理服务实践

推理服务模版（Chart 名称）	模型名称	推理引擎	并行策略	量化技术	支持能力	帮助文档
deepseek-r1-sglang	DeepSeek-R1-671B	SGLang	非 PD 分离	-	GDKV EIC APMPlus VMP APIG	快速部署基于 SGLang 的 DeepSeek-R1 满血版
deepseek-r1-sglang-pd	DeepSeek-R1-671B	SGLang	PD 分离 DP+TP+EP	-	APMPlus VMP APIG	快速部署基于 SGLang 的 DeepSeek-R1 满血版（PD 分离）
deepseek-v3-xllm-pd	DeepSeek-V3-671B	xLLM	PD 分离 DP+TP+EP	-	VMP APIG	快速部署基于 xLLM 的 DeepSeek-V3/R1 满血版（PD 分离）
deepseek-r1-xllm-pd	DeepSeek-R1-671B	xLLM	PD 分离 DP+TP+EP	-	VMP APIG	快速部署基于 xLLM 的 DeepSeek-V3/R1 满血版（PD 分离）
deepseek-r1-w4afp8-tensorrt-llm	DeepSeek-R1-W4AFP8	TensorRT-LLM	TP+EP	W4A8	APIG	快速部署基于 TensorRT-LLM 的 DeepSeek-R1 满血版
deepseek-r1-0528-sglang	DeepSeek-R1-0528	SGLang	非 PD 分离	-	GDKV EIC APMPlus VMP APIG	快速部署基于 SGLang 的 DeepSeek-R1-0528 满血版
deepseek-r1-0528-sglang-pd	DeepSeek-R1-0528-671B	SGLang	PD 分离 DP+TP+EP	-	APMPlus VMP APIG	快速部署基于 SGLang 的 DeepSeek-R1-0528/V3-0424 满血版（PD 分离）
deepseek-v3-0324-sglang-pd	DeepSeek-V3-0324	SGLang	PD 分离 DP+TP+EP	-	APMPlus VMP APIG	快速部署基于 SGLang 的 DeepSeek-R1-0528/V3-0424 满血版（PD 分离）
deepseek-r1-w4afp8-sglang	DeepSeek-R1-W4AFP8	SGLang	TP+EP	-	APMPlus VMP APIG	快速部署基于SGLang 的 DeepSeek-R1 量化版
deepseek-v3.1-sglang	DeepSeek-V3.1	SGLang	非 PD 分离	-	VMP APIG	快速部署基于 SGLang 的 DeepSeek-V3.1

Qwen 推理服务实践

推理服务模版（Chart 名称）	模型名称	推理引擎	并行策略	量化技术	支持能力	帮助文档
qwen3-dynamo-vllm-pd	Qwen3-235B-A22B	Dynamo vLLM	PD 分离	-	GDKV EIC APMPlus VMP APIG	快速部署基于 Dynamo 和 vLLM 的 Qwen3-235B （PD 分离）
qwen3-32b-fp8-sglang	Qwen3-32B-FP8	SGLang	TP	-	APMPlus VMP APIG	快速部署基于 SGlang 的 Qwen3-32B-FP8
qwen3-235b-a22b-fp8-sglang	Qwen3-235B-A22B-FP8	SGLang	TP	-	EIC APMPlus VMP APIG	快速部署基于 SGLang 的 Qwen3-235B-A22B-FP8
qwen3-30b-a3b-fp8-sglang	Qwen3-30B-A3B-FP8	SGLang	TP	-	APMPlus VMP APIG	快速部署基于 SGlang 的 Qwen3-30B-A3B-FP8

Kimi 推理服务实践

推理服务模版（Chart 名称）	模型名称	推理引擎	并行策略	量化技术	支持能力	帮助文档
kimi-k2-instruct-sglang	Kimi-K2-Instruct	SGLang	TP	-	VMP APIG	快速部署基于 SGLang 的 Kimi-K2-Instruct

GPT 推理服务实践

推理服务模版（Chart 名称）	模型名称	推理引擎	并行策略	量化技术	支持能力	帮助文档
gpt-oss-120b-vllm	gpt-oss-120b	vLLM（开源）	TP	-	VMP APIG	快速部署基于 vLLM 的 gpt-oss-120b 推理服务

Seed 推理服务实践

推理服务模版（Chart 名称）	模型名称	推理引擎	并行策略	量化技术	支持能力	帮助文档
seed-oss-36b-instruct-vllm	Seed-OSS-36B-Instruct	vLLM（开源）	TP	-	VMP APIG	快速部署基于 vLLM 的 Seed-OSS-36B-Instruct

最近更新时间：2025.10.27 10:36:44

这个页面对您有帮助吗？

有用

有用

无用

无用