MistoLine这个模型对于经常使用SDXL的小伙伴肯定不陌生,配合AnyLine有非常好的效果
项目主页:https://github.com/TheMistoAI/MistoControlNet-Flux-dev/blob/main/README_CN.md
by TheMisto.ai @Shenzhen, China
这是一个适用于任意线稿、轮廓用于Flux1.dev的ControlNet网络,本ControlNet参数约为1.4B。
本模型不兼容XLabs的加载和采样器,请使用TheMisto.ai Flux ControlNet ComfyUI套件。
这是一个Flow matching结构的Flux-dev模型,使用了可scale的Transformer 模块来作为本ControlNet的骨干网 这次我们使用了双流型Transformer结构,在不增加推理时间的情况下对不同类型的线稿和轮廓条件有更好的表现力和对齐效果,同时对T5 和clip-l两个TextEncoder的文字对齐也得到了对应的训练,不会出现只对conditioning image有响应而对prompt对齐能力下降的问题,尝试做到条件图像和文本对齐都有较好的表现。Flux.dev模型结构等请浏览:https://huggingface.co/black-forest-labs/FLUX.1-dev
本ControlNet适用于Flux1.dev的fp16/fp8 以及其他使用Flux1.dev量化的模型, 字节跳动8/ 16 步蒸馏的没有测试过。
示例Workflow使用的是flux1-dev-Q4_K_S.gguf量化的模型。
生成质量:Flux1.dev(fp16)>>Flux1.dev(fp8)>>其他量化模型
生成速度:Flux1.dev(fp16)<<< Flux1.dev(fp8) <<< 其他量化模型
测试参数:
Prompt: "Hyper-realistic 3D render of a classic Formula 1 race car, bright red with Marlboro and Agip logos, number 1, large black tires, dramatic studio lighting, dark moody background, reflective floor, cinematic atmosphere, Octane render style, high detail"
controlnet_strength: 0.65-0.8 (推荐:Anyline with 0.6-0.7)
step: 30
guidance: 4.0
生成效果跟prompt质量成正相关关系,不同类型的线稿、轮廓使用的controlnet_strength也可能不同,多试一下!
图像分辨率:720px 以上 短边
controlnet strength:0.6~0.85 (视情况调整)
guidance:3.0~5.0 (视情况调整)
step:30 以上
下载地址:https://huggingface.co/TheMistoAI/MistoLine_Flux.dev
从MistoLine_Flux.dev_v1 下载模型
将模型放入到 ComfyUI\models\TheMisto_model\ 目录下
第一次运行ComfyUI的TheMisto.ai Flux ControlNet ComfyUI套件会自动创建该目录
使用ComfyUI运行,文件夹workflow下有example的workflow
注意:条件图的长和宽必须能被 16 整除,否则会报错
0
文章目录
不同类型的Lineart or scribble preprocessor
推荐参数
Huggingface(抱抱脸):
用法
ComfyUI
AI教程交流群
扫描二维码加入群聊
与同行学习交流&资源共通
© CopyRight 2002-2024 ,CHINAZ.COM , Inc.All Rights Reserved.