文档中心

容器服务

请输入

ComfyUI 应用

使用 ComfyUI 应用实现万物迁移

ComfyUI 提供基于 Stable Diffusion 的节点式操作界面，可方便快速地构建复杂的 AIGC 流程，完成短视频内容生成、广告营销商品设计、游戏场景设计、动画制作等任务。本文介绍基于 Qwen-Image 在 ServingKit 中部署和使用 ComfyUI 实现“万物迁移”的基本能力。

方案介绍

本实践提供一个 ComfyUI Workflow，该 Workflow 引入了 ServingKit 中的加速节点，模型使用 FP8 精度，通过加速节点实现 2 卡并行 + 4 步 LoRA，实现 720*1280 规格单图执行时间为 17 秒，生成时间缩短 77%（使用非加速 Workflow，同等配置下单图执行时间需要 75 秒）。若实现更大分辨率的图片，则图片生成耗时会增加。

Workflow 中的各节点参数说明如下：

Resource Pool

参数	说明
works_per_node	works_per_node为资源池一个节点的 Worker 数量，nnodes为集群节点总数。取值需满足works_per_node × nnodes = gpu_num。如果不使用 Mergepool（资源池合并方案），则works_per_node = gpu_num，nnodes = 1；如果使用 Mergepool，则works_per_node = 1，nnodes = gpu_num。
nnodes
use_gpu	是否使用 GPU 资源： true：是 false：否
max_colocate_count	最大支持的 Worker 数量。如果模型需要DiT、CLIP、VAE三个 Loader，则max_colocate_count取值为 3。
pool_num	资源池名称。

OpenVefuser DiT Loader

参数	说明
dit name	DiT（Diffusion Transformer）模型名称/路径。
weight type	DiT 模型量化精度。
ulysess_degree	Ulysses 并行数。取值需要被模型head_num整除，例如 Wan2.1-14B 模型的head_num是 40，则ulysess_degree可以设置为 40、80 等。
ring_degree	Ring Attention 并行数。
cfg_degree	CFG（Classifier-Free Guidance）并行数，最高为 2，支持 Wan 模型与 HiDream 模型。取值需满足ulysess_degree x ring_degree x cfg_degree = gpu_num。
sage_type	模型运行时的计算精度与硬件适配逻辑： none：不启用特殊精度优化，使用模型默认精度。 auto：自动适配硬件与模型，选择最优精度策略。 fp8：采用 FP8 低精度运算，大幅减少显存占用、提升速度（需 GPU 支持 FP8 计算）。 fp8_sm90：针对 NVIDIA SM9.0 架构显卡（如 H100、H20）优化的 FP8 精度。 fp16：采用 FP16 半精度运算，是 AI 模型常用的平衡精度（兼顾质量与效率）。 fp16_triton：基于 Triton 框架优化的 FP16 精度，进一步提升运算速度。
offload_policy	是否开启 Offload 策略，取值： all：开启 off：（默认）关闭
offload_step	资源卸载的执行步长，每 1 步运行过程中执行一次卸载操作。
offload_batch	资源卸载的批次大小，影响卸载操作的效率与显存波动幅度。
bf16_to_fp8	BF16 转 FP8 激活值量化的开关： all：开启。 off：（默认）关闭。注意该功能只在 ecs.hpcpni3ln 规格族和 ecs.pni3l 规格族 GPU 资源上适用。

OpenVefuser LoraLoader ModelOnly

参数	说明
mode name	LoRA 模型名称/路径。
strength	应用 LoRA 模型的强度，数值越大，风格越明显。

OpenVefuser KSampler

参数	说明
seed	种子值，去噪过程中生成的随机数。seed值和其它参数配置一致时，生成的图像可复现，不同的seed值则生成不同的随机效果。
生成后控制	产生seed之后，控制seed的后续行为，取值： fixed：固定种子。 increment：每次增加 1。 decrement：每次减少 1。 randomize：种子随机选择，避免重复结果。
steps	采样步数，即去噪的迭代次数。步数越多生成质量通常越高，但速度会越慢。
cfg	提示词引导强度，数值越高，提示词对生成结果的影响越强，但过高可能导致画面失真。
sampler_name	采样算法，本文 Workflow 中选中的是uni_pc，一种速度较快的采样器。不同算法（如euler、ddim）会影响生成效果 / 速度。
scheduler	噪声调度策略，控制采样过程中噪声的变化节奏。该参数影响生成质量与效率。
denoise	去噪强度，取值范围为 0~1.0 ，1.0 表示完全去噪，基于初始潜变量生成全新内容，小于 1 则表示是在原有内容上修改。值越大对图片产生的影响和变化越大，高清修图一般使用较低的值。

使用说明

下文主要介绍容器服务测试并验证通过的实践内容，为了获得符合预期的结果，同时符合容器服务的使用限制，请按照本文方案（或在本文推荐的资源上）操作。如需替换方案，您可以联系对应的火山引擎客户经理咨询。

准备工作

使用 ComfyUI 应用前，您需要准备 ComfyUI 依赖的各云产品资源、环境等。

云产品	是否必备	准备工作	相关链接
GPU 云服务器	是	提供 GPU 计算资源。本文中的图片生成场景，推荐使用 ecs.gni3cl.11xlarge 规格。说明【邀测】上述 GPU 云服务器实例规格目前处于邀测阶段，请联系您的火山引擎客户经理，获取规格邀测权限。	GPU 云服务器实例规格
VKE	是	提供部署 ComfyUI 应用的异构计算托管集群资源。	VKE 异构计算托管集群
TOS	推荐	实现 ComfyUI 应用持久化存储。说明 TOS 存储目前仅支持通过 FSX 方式挂载到容器，若使用存量 VKE 异构计算托管集群，请确保集群中已安装 csi-fsx、fsx-service 组件。新建的异构计算托管集群自动安装该组件。	TOS 存储类型
IAM	使用 TOS 时必备	获取 IAM 的 API 访问秘钥（AK&SK），实现通过 VKE 访问 TOS。	API 访问秘钥
APIG	可选	通过 APIG 实例实现七层路由。会话保持场景必备资源。注意建议使用标准网关 v4.0.0 及以上版本的 API 网关实例。可在 API 网关控制台目标实例的实例概览页面查看。若 API 网关实例的版本不满足要求，请联系您的火山引擎客户经理，获取技术支持，升级实例版本。	APIG 实例
网际快车	推荐	插件安装需要拉取 Github，HuggingFace 等内容，依赖网际快车服务。注意网际快车需要关联部署 ComfyUI 应用的集群所属私有网络。【邀测】网际快车产品目前处于邀测阶段，请联系您的火山引擎客户经理，获取产品邀测权限。	无

步骤一：部署 ComfyUI 应用

通过 ServingKit 提供的 ComfyUI 应用模板，部署您的 ComfyUI 应用。下表展示本示例中的部分特定配置说明，其余参数配置和详细操作，请参见部署 ComfyUI 应用。

参数	说明
选择框架及编排
部署方式	选择预置模板部署。
模型	选择 Qwen-Image-Edit 和 Qwen-Image-Edit2509。
应用配置
ComfyUI 配置	保存位置建议选择永久存储，其余参数自定义配置。 ServingKit 会在对应路径下创建 ComfyUI 常用的目录，包括custom_nodes、input、output、models、user目录。
实例配置
实例规格	GPU 卡数设置为 2，其余参数自定义配置。
更多配置	环境变量：因安装插件节点涉及拉取 GitHub相关内容，建议通过环境变量，配置网际快车，实现网络提速，避免安装失败。代理模式网际快车，配置如下环境变量：环境变量1 Key：http_proxy、Value：http://{加速IP}:3128 环境变量2 Key：https_proxy、Value：http://{加速IP}:3128 环境变量3 Key：no_proxy、Value：mirrors.ivolces.com 注意请确保网际快车已关联部署 ComfyUI 应用的集群所属私有网络。网际快车分为代理模式和路由模式，若您开启的是路由模式网际快车，则无需配置环境变量。其余参数保持默认值。
服务配置
API 网关	开启 API 网关配置，并关联已提前准备的 API 网关实例。注意请确保所选的 API 网关实例与部署应用的集群同属一个私有网络。