SGLang-Diffusion发布两月，不仅实现了整体1.5倍的推理速度提升，更在特定场景下达到竞品5倍速。这份更新深度剖析了其背后的技术优化、模型生态构建与硬件适配，为关注AI图像生成效率的开发者提供了极具价值的参考。
智能速览
整体推理速度再提升1.5倍，部分场景可达竞品5倍速。
第一时间支持Flux.2、Qwen-Image等主流新模型。
通过Layerwise Offload等技术，有效解决显存瓶颈问题。
Cache-DiT技术通过复用中间特征，最高实现169%的加速。
提供完整LoRA HTTP API与ComfyUI节点，无缝融入现有工作流。
已针对NVIDIA、AMD及MUSA等多种硬件进行专项优化。
精华内容
在短短两个月内，SGLang-Diffusion通过一系列核心优化，不仅刷新了性能记录，也展示了其强大的生态整合能力，这背后究竟是怎样的技术布局？
性能核心突破
过去两个月，SGLang-Diffusion的推理速度实现了整体1.5倍的提升，在部分场景下甚至达到了同类方案的5倍。这一飞跃得益于三大核心技术：Layerwise Offload通过按层动态卸载，有效降低了显存占用，同时确保了吞吐和延迟不受显著影响；Kernel优化则通过融合与原地操作，减少了kernel启动次数和显存访问；而Cache-DiT技术通过复用中间特征、减少重复计算，带来了最高169%的惊人加速。
前沿模型支持
在模型生态建设上，项目保持了极高的响应速度，第一时间为多个主流新生成模型提供了支持。这包括近期备受关注的Flux.2系列、Qwen-Image系列、Z-Image-Turbo以及GLM-Image等。这种快速适配能力，确保了开发者能第一时间体验到新模型在SGLang-Diffusion框架下的性能优势。
生态与功能集成
为了方便用户使用，SGLang-Diffusion在功能侧也做了大量工作，使其能直接接入现有工作体系。它提供了完整的LoRA HTTP API，方便开发者进行模型微调与调用。同时，还推出了ComfyUI自定义节点支持，让用户可以在流行的图形化界面中流畅使用，极大地降低了使用门槛。
广泛硬件适配
为了让技术惠及更广泛的用户群体，SGLang-Diffusion已针对多种硬件平台进行了专项优化。除了主流的NVIDIA显卡（如4090/5090），还覆盖了AMD以及MUSA等硬件架构。这种广泛的硬件适配性，意味着更多开发者可以基于自己的设备，低成本地享受到高效的图像生成推理服务。
SGLang-Diffusion在两个月内交出的答卷，不仅体现了其对性能的极致追求，也展现了其在开源生态中的务实与活力。对于AI从业者而言，这无疑是一个值得关注的高效工具。未来的它又将带来怎样的惊喜？
