出图再快23%!内存降低7G!F.1-Lite轻量级开源模型发布!

10/25/2024, 10:42:33 AM | 热度:83 | 阅读本文需 1 分钟

点赞

 又一个王炸, Flux.1 Lite 的 alpha 版本是一个从 FLUX.1-dev 模型提炼而来的 8B 参数 transformer 模型。此版本使用的 RAM 减少了 7 GB,运行速度提高了 23%,同时保持了与原始模型相同的精度 (bfloat16)。

image.png

官方还提供了工作流,看起来和普通 FLUX 工作流没什么区别

image.png

工作流和模型下载

https://huggingface.co/Freepik/flux.1-lite-8B-alpha/tree/main

模型性能测评

这里需要提醒一下该模型降低的是内存而不是显存,主要作用是提速

Euler+Simple+24 步,剪枝类型 default

Dev 显存占用 21G 左右,耗时均在 38 秒左右

Lite 显存占用 20G 作用,耗时均在 17 秒左右

如果你剪枝类型开到 fp8 e4mefn,平均耗时在 12s 左右,显存占用 12G 左右

如果再极端一点,加个 8 步出图的 Turbo Lora,一张图只需 4s 左右

image.png

image.png

image.png

image.png

总结

这个模型还是不错的,质量和Dev没太大区别,可能比FP8好一点,速度比 FP8 快一点,并且可以使用 Lora,所以用来替代 fp8 是个不错的选择

1

继续阅读本文相关话题

本文收录于专题

ComfyUI教程

共收录篇

查看本专题

文章目录

工作流和模型下载

模型性能测评

总结

AI教程交流群

扫描二维码加入群聊

与同行学习交流&资源共通