容器服务
容器服务
文档指南
请输入
- 文档首页
容器服务AI 云原生推理套件ComfyUI 应用部署 ComfyUI 应用
复制全文
下载 pdf部署 ComfyUI 应用
文档反馈
问问助手本文主要介绍通过 AI 云原生推理套件（ServingKit）的 AI 应用模板部署 ComfyUI 应用。
使用说明
- 部署视觉模型涉及较多组件，相互间有依赖，配置复杂，为了获得符合预期的结果，请务必根据本文指引操作。
- 为了获得符合预期的结果，同时符合容器服务的 使用限制，请按照本文方案（或在本文推荐的资源上）操作。如需替换方案，您可以联系对应的火山引擎客户经理咨询。
- 请勿使用 mGPU 对 GPU 进行切分。
- 完整的部署流程，可能依赖如下火山引擎邀测能力，请结合实际业务需求和 ServingKit AI 应用模板提供的能力，联系火山引擎客户经理申请试用邀测能力：
- 邀测功能/资源涉及产品说明高性能计算 GPU 型规格GPU 云服务器实例规格，为 AI 推理应用提供计算能力。目前在 GPU 云服务器侧，部分高性能计算 GPU 型规格和 GPU 计算型规格处于邀测阶段。例如在 ComfyUI 场景中推荐使用的如下规格，需要您提交规格邀测申请：
- 生图：ecs.gni3cl.5xlarge * 1台（性价比优）；
- 生视频：ecs.pni3l.22xlarge * 1台（性价比优）、ecs.hpcpni3ln.45xlarge * 1台（性能优）
GPU 计算型规格节点挂载本地盘能力容器服务允许在 VKE 集群中配置本地盘挂载。
前提条件
- 您可以提前创建容器服务（VKE）异构计算托管集群，也可以在部署模型时同步创建集群。详细操作，请参见 创建异构计算托管集群。
- （可选）若需要通过 API 网关对外暴露服务，需要准备 API 网关实例。您可以提前创建，也可以在部署模型时同步创建 API 网关实例。详细操作，请参见 创建实例。
操作步骤
- 登录 容器服务控制台。
- 在左侧导航栏，选择 推理套件 > AI 应用模板。
- 在 ServingKit AI 应用模板 页面选择 ComfyUI，单击 部署。
- 在 部署 页面，自定义配置参数。
- 以 预置模板部署 方式部署 ComfyUI 应用时，按如下参数说明配置。参数说明选择框架及编排已选模板显示您已选的模板名称，以及模型对应的模型引擎和并行策略。您可以按需切换模板、模型引擎。部署方式本模块以选择 预置模板部署 为例。预置模板是 ServingKit 提供的基于不同模型或不同框架的最佳实践，帮助您快速启动一套性价比高，效果好的推理服务。镜像ServingKit 提供 ComfyUI 和 Openvefuser（加速引擎）的镜像，无需您配置。模型ServingKit 预置的 ComfyUI 模型，按需勾选所需的模型：
- 图/文生视频模型：包含 bf16，fp16，fp8 等多种精度的模型。
- Wan_2.2
- Wan2.1
- Wan2.2-animate
- 图片编辑模型：包含 Qwen-Image-Edit 模型的基础版和迭代版。
- Qwen-Image-Edit
- Qwen-Image-Edit2509
- 图片生成模型：flux1-schnell
- 数字人对口型播客模型 ：InfiniteTalk
说明- 预置模型默认下载至节点hostpath内，请在部署前确认节点的本地盘/数据盘可用容量不低于 200 GiB。
- 预置模型的容器挂载路径为/data/models。
应用配置应用名称根据界面提示的命名要求，设置您的 ComfyUI 应用名称。您也可以直接使用系统自动生成的应用名称。ComfyUI 配置- 插件配置：鼠标悬浮到插件数量上，可查看具体的 ComfyUI 配置插件名称。
- 保存位置：ComfyUI 配置插件的保存位置。支持如下两种保存位置：
- 本地保存：使用本地保存时，输入/输出/节点等内容均临时保存在容器环境内，请将所需的内容自行下载保存到本地电脑或永久存储内。避免服务重启后丢失。
- 永久存储：可以通过 VKE 节点数据盘、TOS 存储桶、NAS 缓存型文件系统、EFS 文件系统实现持久化存储。
- 存储类型：保存位置 选择 永久存储 后，需要配置用于存储 ComfyUI 模型配置数据的服务。支持的存储类型如下：
- 数据盘：（默认）使用 VKE 节点数据盘存储模型数据。若节点有本地盘，则优先使用本地盘，否则将模型数据下载至数据云盘。
- TOS：使用 TOS 存储模型数据。您还需要配置具体的存储桶，详细操作，请参见 创建存储桶。
- NAS 缓存型：【邀测】使用文件存储（NAS）缓存型存储模型数据。您还需要配置具体的文件系统和接入点，详细操作，请参见 缓存型。
- 说明
- NAS 缓存型规格和 EFS 产品目前均处于邀测阶段，如需使用，请联系您的火山引擎客户经理申请邀测权限。
- 存储 ComfyUI 的models数据时，建议选择 EFS。
- 挂载路径：配置 永久存储 后，需要填写 ComfyUI 应用文件存储位置的根目录文件夹。系统将自动在根目录文件下创建常用的 ComfyUI 目录如下：
- 常用的 ComfyUI 目录：
- custom_nodes：自定义插件节点。
- output：输出。
- models：模型、可新建loras、clip、controlnet等子目录，存放不同类型的模型。
- user：存放 workflow 等用户内容。
- AK & SK：使用 TOS 存储数据时需要配置。输入火山引擎访问密钥，用于 VKE 访问您的 TOS 服务资源。建议使用最小化授权的 IAM 用户的访问密钥，要求已授权对应文件的访问权限。AK & SK 获取方式，请参见 访问密钥使用指南。
实例配置实例规格实例指的是启动当前推理模型的载体。您可以按需修改启动 ComfyUI 应用的最优 实例数、GPU 卡数，也可以自定义配置 CPU 和 内存 规格。RDMA 配置支持开启 RDMA 网络，实现实例间通过 RDMA 高速网络互联，提高通信效率。开启 RDMA 网络后您可以单击
图标，自行填写 RDMA 卡数，也可以不填写，系统会根据您的 资源配置，自动配置 RDMA 卡数。建议保持系统自动计算。资源配置选择部署模型应用的 VKE 异构计算托管集群资源，请根据实际需求准备部署资源：- 选择已有：选择已创建的 VKE 异构计算托管集群，并根据系统提示选择集群下的命名空间、节点池等资源。
- 自动创建：部署模型的同时，同步自定义创建 VKE 异构计算托管集群。详细的参数配置说明，请参见 创建异构计算托管集群。
注意- 若勾选了 开启 RDMA 网络，此处必须选择 高性能计算 GPU 型 规格的节点池。仅该规格的节点，支持通过 RDMA 高速网络互联。
- 使用已有异构计算托管集群时，若当前模型应用使用 TOS 作为存储，则集群必须安装 csi-fsx 和 fsx-service 组件。目前 TOS 存储仅支持通过 FSX 方式挂载到容器。您可以根据界面提示，跳转到对应集群的 组件管理 页面安装组件。详细操作和参数配置说明，请参见 csi-fsx、fsx-service。
启动命令预置模板中已预置了启动脚本和端口，仅供查看，不支持自定义。更多配置- 健康检查：按需配置 AI 应用的健康检查。支持配置 存活检查、就绪检查 和 启动检查。允许基于 HTTP 协议、TCP 协议、gRPC 框架或执行具体命令的方式，探测容器中的负载是否正常。
- 环境变量：自定义设置环境变量。环境变量信息在部署 AI 应用时注入到容器中。
- 特权级容器：开启后，支持部署在 Linux 系统上的特权级容器控制网络堆栈或访问宿主机上的设备。
服务配置API 网关如需通过 API 网关配置路由，处理模型的外部访问流量，则 开启 API 网关，并选择目标 API 网关实例。- 自动创建：部署 AI 应用的同时，自动新建一个由 ServingKit 固定了实例规格以及配置的 API 网关实例。新建 API 网关实例会产生计费，详情请参见 API 网关产品计费。
说明选择已有 API 网关暴露集群中的模型服务时，请关注如下参数或功能配置：- 地域：必须与 AI 应用所属地域一致。
- 熔断：当某些 GPU 实例出现异常时，一般会希望尽快将故障实例下线，避免故障持续。同时希望能够保留故障现场为后续进一步排查提供依据。 此时可以通过配置 API 网关的熔断规则，将出现故障的实例进行隔离。详情请参见 服务熔断策略。
智能路由网络加速若您希望在 ComfyUI 页面通过 comfyui-manager 直接安装插件节点，请联系客户经理开通火山引擎网际快车服务。说明- 火山引擎网际快车产品目前处于邀测阶段，请联系客户经理获取产品邀测权限。
- 因 ComfyUI 存在插件下载，依赖安装需要跨境访问，因此中国大陆 Region 建议开通网际快车服务，实现网络加速能力。其他 Region 不需要开通网际快车。
更多配置更新策略ComfyUI 默认开启更新策略，遵循 InPlaceUpdate 策略，即原地更新。通过 InPlaceUpdate 策略可直接更新现有的 RoleSet，且在此过程中不消耗额外的 GPU 资源。模型下载以 自定义部署 方式部署 ComfyUI 应用时，按如下参数说明配置。参数说明选择框架及编排已选模板显示您已选的模板名称，以及模型对应的模型引擎和并行策略。您可以按需切换模板、模型引擎。部署方式本模块以选择 自定义部署 为例。ServingKit 支持通过自定义镜像、自定义模型配置等部署 ComfyUI 应用。镜像选择 ComfyUI 应用的镜像。支持选择 ServingKit 预置 的镜像，也可以 自定义 填写第三方镜像地址或镜像仓库（CR）镜像地址。模型配置设置 ComfyUI 的模型配置：- 存储类型：选择用于存储 ComfyUI 模型配置数据的服务。支持的存储类型如下：
- TOS：使用对象存储（TOS）存储模型数据。您还需要配置具体的存储桶，详细操作，请参见 创建存储桶。
- 数据盘：使用 VKE 节点数据盘存储模型数据。若节点有本地盘，则优先使用本地盘，否则将模型数据下载至数据云盘。
- NAS 缓存型：【邀测】使用文件存储（NAS）缓存型存储模型数据。您还需要配置具体的文件系统和接入点，详细操作，请参见 缓存型。
说明- NAS 缓存型规格和 EFS 产品目前均处于邀测阶段，如需使用，请联系您的火山引擎客户经理申请邀测权限。
- 存储 ComfyUI 的models数据时，建议选择 EFS。
- 模型选择：根据实际需求，配置 预置模型 或 自定义模型 的 存储路径，相关模型的 容器挂载路径 下的数据，将存放在该存储路径下。
- AK & SK：使用 TOS 存储数据时需要配置。输入火山引擎访问密钥，用于 VKE 访问您的 TOS 服务资源。建议使用最小化授权的 IAM 用户的访问密钥，要求已授权对应文件的访问权限。AK & SK 获取方式，请参见 访问密钥使用指南。
应用配置应用名称根据界面提示的命名要求，设置您的 ComfyUI 应用名称。您也可以直接使用系统自动生成的应用名称。挂载ComfyUI 应用的挂载配置：- 存储类型：存储 ComfyUI 应用配置的存储类型。
- TOS：使用对象存储（TOS）存储 ComfyUI 应用配置，您还需要配置具体的存储桶，详细操作，请参见 创建存储桶。
- 数据盘：使用 VKE 节点数据盘存储 ComfyUI 应用配置。若节点有本地盘，则优先使用本地盘，否则将应用配置信息下载至数据云盘。
- NAS 缓存型：【邀测】使用文件存储（NAS）缓存型存储 ComfyUI 应用配置，您还需要配置具体的文件系统和接入点，详细操作，请参见 缓存型。
说明- NAS 缓存型规格和 EFS 产品目前均处于邀测阶段，如需使用，请联系您的火山引擎客户经理申请邀测权限。
- 不同的应用配置，可使用不同的存储类型进行存储：
- 存储 ComfyUI 的custom_nodes数据时，建议选择 EFS。
- 存储 ComfyUI 的output数据时，建议选择 TOS。
- 挂载路径：存储 ComfyUI 应用配置的路径，相关模型的 容器挂载路径 下的数据，将存放在该存储路径下。
- AK & SK：使用 TOS 存储应用配置时需要输入火山引擎访问密钥，用于 VKE 访问您的 TOS 服务资源。建议使用最小化授权的 IAM 用户的访问密钥，要求已授权对应存储桶的挂载权限。AK & SK 获取方式，请参见 访问密钥使用指南。
实例配置实例规格实例指的是启动当前推理模型的载体。设置启动 ComfyUI 应用的最优 实例数、GPU 卡数，按需配置 CPU 和 内存 规格。RDMA 配置支持 开启 RDMA 网络，实现实例间通过 RDMA 高速网络互联，提高通信效率。开启 RDMA 网络后您可以单击图标，自行填写 RDMA 卡数，也可以不填写，系统会根据您的 资源配置，自动配置 RDMA 卡数。建议保持系统自动计算。资源配置选择部署模型应用的 VKE 异构计算托管集群资源，请根据控制台界面显示的 部署清单 内容，准备部署资源：- 选择已有：选择已创建的 VKE 异构计算托管集群，并根据系统提示选择集群下的命名空间、节点池等资源。
- 自动创建：部署模型的同时，同步自定义创建 VKE 异构计算托管集群。详细的参数配置说明，请参见 创建异构计算托管集群。
注意- 若勾选了 开启 RDMA 网络，此处必须选择 高性能计算 GPU 型 规格的节点池。仅该规格的节点，支持通过 RDMA 高速网络互联。
- 使用已有异构计算托管集群时，若当前模型应用使用 TOS 作为存储，则集群必须安装 csi-fsx 和 fsx-service 组件。目前 TOS 存储仅支持通过 FSX 方式挂载到容器。您可以根据界面提示，跳转到对应集群的 组件管理 页面安装组件。详细操作和参数配置说明，请参见 csi-fsx、fsx-service。
启动命令设置 ComfyUI 应用的启动脚本和端口。默认无需修改，若您有特殊端口需求或启动时安装额外的节点配置等，可根据实际情况修改。更多配置- 健康检查：按需配置 ComfyUI 应用的健康检查。支持配置 存活检查、就绪检查 和 启动检查。允许基于 HTTP 协议、TCP 协议、gRPC 框架或执行具体命令的方式，探测容器中的负载是否正常。
- 环境变量：自定义设置环境变量。环境变量信息在部署 ComfyUI 应用时注入到容器中。
- 特权级容器：开启后，支持部署在 Linux 系统上的特权级容器控制网络堆栈或访问宿主机上的设备。
资源选择部署模型应用的 VKE 异构计算托管集群资源，请根据控制台界面显示的 部署清单 内容，准备部署资源：- 选择已有：选择已创建的 VKE 异构计算托管集群，并根据系统提示选择集群下的命名空间、节点池等资源。
- 自动创建：部署模型的同时，同步自定义创建 VKE 异构计算托管集群。详细的参数配置说明，请参见 创建异构计算托管集群。
服务配置API 网关如需通过 API 网关配置路由，处理模型的外部访问流量，则 开启 API 网关，并选择目标 API 网关实例。- 自动创建：部署 AI 应用的同时，自动新建一个由 ServingKit 固定了实例规格以及配置的 API 网关实例。新建 API 网关实例会产生计费，详情请参见 API 网关产品计费。
说明选择已有 API 网关暴露集群中的模型服务时，请关注如下参数或功能配置：- 地域：必须与 AI 应用所属地域一致。
- 熔断：当某些 GPU 实例出现异常时，一般会希望尽快将故障实例下线，避免故障持续。同时希望能够保留故障现场为后续进一步排查提供依据。 此时可以通过配置 API 网关的熔断规则，将出现故障的实例进行隔离。详情请参见 服务熔断策略。
智能路由网络加速若您希望在 ComfyUI 页面通过 comfyui-manager 直接安装插件节点，请联系客户经理开通火山引擎网际快车服务。说明- 火山引擎网际快车产品目前处于邀测阶段，请联系客户经理获取产品邀测权限。
- 因 ComfyUI 存在插件下载，依赖安装需要跨境访问，因此中国大陆 Region 建议开通网际快车服务，实现网络加速能力。其他 Region 不需要开通网际快车。
更多配置更新策略ComfyUI 默认开启更新策略，遵循 InPlaceUpdate 策略，即原地更新。通过 InPlaceUpdate 策略可直接更新现有的 RoleSet，且在此过程中不消耗额外的 GPU 资源。三方依赖若您custom_node插件依赖 Python 环境，可通过 三方依赖 进行配置，指定您所需要的三方库列表，支持多个 PIP 包配置。模型下载
- 单击 确认，完成部署配置。
- 应用创建预计需要 15~20 分钟，请您耐心等待，您也可以单击 返回 AI 应用列表 查看应用状态，或者单击 去 AI 应用模板 查看 AI 应用模板详情、创建新的 AI 应用。
后续操作
成功部署 ComfyUI 应用后，在 推理套件 > AI 应用列表 页面查看和管理 ComfyUI 应用。详细操作，请参见：
最近更新时间：2026.10.14 19:17:57
这个页面对您有帮助吗？
有用
有用
无用
无用