返回简历

AIGC 应用开发 AIGC

本地部署文生图模型 · Z-Image-Turbo

在消费级 8GB 显存 GPU 上本地部署 Z-Image-Turbo 文生图模型:通过 sequential CPU offload 与 VAE slicing 显存优化,将峰值显存压到约 2.4GB,9 步即可出图。

项目目标

在本地消费级显卡(8GB 显存)上完整跑通「文生图」链路:模型离线加载 → 显存优化 → 中文提示词生成图像,不依赖云端 API,数据全程不出本机。

技术方案

  • 模型:Z-Image-Turbo(本地完整权重,约 11.7GB transformer),通过 diffusers 的 ZImagePipeline 加载
  • 离线加载:HF_HUB_OFFLINE + TRANSFORMERS_OFFLINE 强制离线,配合 hf-mirror 镜像完成权重准备,运行阶段零外网依赖
  • 显存优化(核心):
    • enable_sequential_cpu_offload():按子模块逐个搬运,替代 enable_model_cpu_offload() 的一次性上卡(后者直接 OOM),实测峰值显存仅 约 2.4GB
    • vae.enable_slicing():VAE 解码分块,防住解码阶段的显存尖峰
  • 生成参数:Turbo 模型 guidance_scale=0、9 步推理即可出图,800×800 分辨率,固定随机种子保证可复现

成果

一套可直接复用的文生图脚本:加载、优化、生成、保存全流程参数化,附显存峰值打印,可在 8GB 显存设备上稳定运行;中文提示词(场景 + 主体 + 光影 + 风格)测试出图效果稳定。