AIGC 应用开发 AIGC
本地部署文生图模型 · Z-Image-Turbo
在消费级 8GB 显存 GPU 上本地部署 Z-Image-Turbo 文生图模型:通过 sequential CPU offload 与 VAE slicing 显存优化,将峰值显存压到约 2.4GB,9 步即可出图。
- PyTorch
- Diffusers
- 文生图
- 显存优化
项目目标
在本地消费级显卡(8GB 显存)上完整跑通「文生图」链路:模型离线加载 → 显存优化 → 中文提示词生成图像,不依赖云端 API,数据全程不出本机。
技术方案
- 模型:Z-Image-Turbo(本地完整权重,约 11.7GB transformer),通过
diffusers的ZImagePipeline加载 - 离线加载:
HF_HUB_OFFLINE+TRANSFORMERS_OFFLINE强制离线,配合 hf-mirror 镜像完成权重准备,运行阶段零外网依赖 - 显存优化(核心):
enable_sequential_cpu_offload():按子模块逐个搬运,替代enable_model_cpu_offload()的一次性上卡(后者直接 OOM),实测峰值显存仅 约 2.4GBvae.enable_slicing():VAE 解码分块,防住解码阶段的显存尖峰
- 生成参数:Turbo 模型
guidance_scale=0、9 步推理即可出图,800×800 分辨率,固定随机种子保证可复现
成果
一套可直接复用的文生图脚本:加载、优化、生成、保存全流程参数化,附显存峰值打印,可在 8GB 显存设备上稳定运行;中文提示词(场景 + 主体 + 光影 + 风格)测试出图效果稳定。