VisionPlaid 发布说明

1. ComfyUI 序列并行加速（SP）

• 不止于显存节省：相较仅通过分布式 Offload 节省显存的方案（如 comfyui-multigpu），VisionPlaid 实现序列并行（Sequence Parallelism, SP），在多卡协同下既能跑起大模型，也能明显缩短单图/单视频的生成时间。

• 端到端速度：在并行模式下可同时开启 Async Offload，并与 4-bit 量化结合，单张大图或长视频的端到端（E2E）生成速度可接近硬件上限。

2. 原生 ComfyUI 兼容

• 直接使用社区权重：无需通过独立后端服务接管，即可复用现有 ComfyUI 生态与权重。

• 组件兼容：作为 ComfyUI 内嵌方案，可继续使用各类自定义节点与插件，与 xDiT 等独立框架的迁移成本不同。

3. 智能内存与异步 Offload

• 在 ComfyUI 既有内存管理之上，提供**异步加载/卸载（Async Load/Unload）**能力。推理进行的同时在后台准备下一阶段权重，从而支持在显存容量有限的情况下运行更大规模模型。

4. 架构易用性

• 节点级接入：在工作流中启用并行时，仅需替换 KSampler 节点即可接入加速。

• Worker 管理：切换 GPU 数量时，由系统自动销毁并重建 Worker，无需重启 ComfyUI 即可生效。

并行与通信

• SP 计算与通信重叠：通过序列并行隐藏通信延迟，实现计算与通信的并发。

• 量化通信：采用低位宽通信，减轻多卡/多节点带宽压力。

精度与量化

• Int4 / NVFP4：原生支持低精度量化，在压缩显存占用的同时兼顾生成质量。

• 4-Step 蒸馏：适配少步数蒸馏模型，支持秒级图像/视频生成。

架构与算子

• ComfyUI 原生集成：在工作流中支持节点级并行推理。

• 多 Attention 后端：支持 SageAttention、FlashAttention 与 SDPA，可在不重启的情况下切换。

• 异步 Offload：按需加载/卸载权重，用计算流水掩盖 IO，支持超出单机显存的大模型推理。

• 算子与编译优化：结合 torch.compile 与自定义融合算子，提升硬件利用率。

视频生成

测试环境：Wan 2.1 T2V 14B，4090，20 steps，81 frames，480P（480×848），SageAttention，BF16。
说明：xDiT 未接入 SageAttention，故未列出 Speedup；2 卡时 xDiT 因 CPU offload 与 parallel 冲突出现 OOM。

图片生成（BF16/FP8）

测试环境：Qwen-Image-2512，4090，20 steps 或 4 steps，1024×1024，SageAttention。
说明：4-step 使用 CFG=1.0；xDiT、SGL Diffusion 未支持 FP8。

图片生成（Int4 / 4steps+Int4）

测试环境：Qwen-Image-Edit-2509，4090，20 steps 或 4 steps，1440×1920，ComfyUI 默认启动参数。
说明：4-step 使用 CFG=1.0；Speedup 以 Nunchaku 的 int4 与 4steps+int4 分别为基准；VisionPlaid 支持无重启切换 SageAttention，适合 GPU 数量或 workload 不固定的长时间运行场景（如阿里云 FC）。