Flux最新开源ControlNet线稿模型!

8/31/2024, 11:40:26 AM | 热度:190 | 阅读本文需 4 分钟

点赞

MistoLine这个模型对于经常使用SDXL的小伙伴肯定不陌生,配合AnyLine有非常好的效果

项目主页:https://github.com/TheMistoAI/MistoControlNet-Flux-dev/blob/main/README_CN.md

by TheMisto.ai @Shenzhen, China

这是一个适用于任意线稿、轮廓用于Flux1.dev的ControlNet网络,本ControlNet参数约为1.4B。

本模型不兼容XLabs的加载和采样器,请使用TheMisto.ai Flux ControlNet ComfyUI套件。

这是一个Flow matching结构的Flux-dev模型,使用了可scale的Transformer 模块来作为本ControlNet的骨干网 这次我们使用了双流型Transformer结构,在不增加推理时间的情况下对不同类型的线稿和轮廓条件有更好的表现力和对齐效果,同时对T5 和clip-l两个TextEncoder的文字对齐也得到了对应的训练,不会出现只对conditioning image有响应而对prompt对齐能力下降的问题,尝试做到条件图像和文本对齐都有较好的表现。Flux.dev模型结构等请浏览:https://huggingface.co/black-forest-labs/FLUX.1-dev

本ControlNet适用于Flux1.dev的fp16/fp8 以及其他使用Flux1.dev量化的模型, 字节跳动8/ 16 步蒸馏的没有测试过。

示例Workflow使用的是flux1-dev-Q4_K_S.gguf量化的模型。

生成质量:Flux1.dev(fp16)>>Flux1.dev(fp8)>>其他量化模型

生成速度:Flux1.dev(fp16)<<< Flux1.dev(fp8) <<< 其他量化模型

image.png

不同类型的Lineart or scribble preprocessor

测试参数:

  • Prompt: "Hyper-realistic 3D render of a classic Formula 1 race car, bright red with Marlboro and Agip logos, number 1, large black tires, dramatic studio lighting, dark moody background, reflective floor, cinematic atmosphere, Octane render style, high detail"

  • controlnet_strength: 0.65-0.8 (推荐:Anyline with 0.6-0.7)

  • step: 30

  • guidance: 4.0

  • 生成效果跟prompt质量成正相关关系,不同类型的线稿、轮廓使用的controlnet_strength也可能不同,多试一下! 

image.png

推荐参数

  • 图像分辨率:720px 以上 短边

  • controlnet strength:0.6~0.85 (视情况调整)

  • guidance:3.0~5.0 (视情况调整)

  • step:30 以上

Huggingface(抱抱脸):

下载地址:https://huggingface.co/TheMistoAI/MistoLine_Flux.dev

用法

  • 从MistoLine_Flux.dev_v1 下载模型

  • 将模型放入到 ComfyUI\models\TheMisto_model\ 目录下

  • 第一次运行ComfyUI的TheMisto.ai Flux ControlNet ComfyUI套件会自动创建该目录

  • 使用ComfyUI运行,文件夹workflow下有example的workflow

  • 注意:条件图的长和宽必须能被 16 整除,否则会报错

ComfyUI

image.png

0

继续阅读本文相关话题

本文收录于专题

ComfyUI教程

共收录篇

查看本专题

文章目录

不同类型的Lineart or scribble preprocessor

推荐参数

Huggingface(抱抱脸):

用法

ComfyUI

AI教程交流群

扫描二维码加入群聊

与同行学习交流&资源共通