又一个王炸, Flux.1 Lite 的 alpha 版本是一个从 FLUX.1-dev 模型提炼而来的 8B 参数 transformer 模型。此版本使用的 RAM 减少了 7 GB,运行速度提高了 23%,同时保持了与原始模型相同的精度 (bfloat16)。
官方还提供了工作流,看起来和普通 FLUX 工作流没什么区别
https://huggingface.co/Freepik/flux.1-lite-8B-alpha/tree/main
这里需要提醒一下该模型降低的是内存而不是显存,主要作用是提速
Euler+Simple+24 步,剪枝类型 default
Dev 显存占用 21G 左右,耗时均在 38 秒左右
Lite 显存占用 20G 作用,耗时均在 17 秒左右
如果你剪枝类型开到 fp8 e4mefn,平均耗时在 12s 左右,显存占用 12G 左右
如果再极端一点,加个 8 步出图的 Turbo Lora,一张图只需 4s 左右
这个模型还是不错的,质量和Dev没太大区别,可能比FP8好一点,速度比 FP8 快一点,并且可以使用 Lora,所以用来替代 fp8 是个不错的选择
1
© CopyRight 2002-2024 ,CHINAZ.COM , Inc.All Rights Reserved.