Stable Diffusion 推理在业务高峰期往往面临延迟与成本双重压力。通过合理的批处理、模型编译与缓存策略，我们曾在生产环境将单张出图 P99 延迟降低约 40%。
批处理方面，在请求量允许时合并同分辨率、同 scheduler 的请求，可提升 GPU 利用率；需注意最大 batch 与显存上限的平衡，并设置队列超时避免长尾等待。
模型侧可采用 TensorRT、ONNX Runtime 或 torch.compile 进行图优化；VAE 与 UNet 可分离部署，对读多写少的场景将 VAE 固定在 CPU 或独立小卡上有时更经济。
Prompt 与 LoRA 结果缓存适合活动页、模板化生成等重复度高的场景。算力云享支持自定义镜像与启动脚本，便于您将上述优化固化到实例模板中一键复用。