当前位置:AIGC资讯 > AIGC > 正文

【AI绘画】ComfyUI Flux:你必须要掌握的Flux Controlnet,商业闭环就靠它了

大家好,我是爱绘画的彤姐。

目前Flux开始支持Controlent了,这个一定要掌握,今天就来带大家学习Flux中Controlnet的使用。

一、介绍

今天继续来分享Flux生态里面一个很重要插件,就是Controlnet,我们都知道Controlnet对SD有多重要,有了它,才能让商业化更加落地,目前Flux生态已经开始支持Controlnet了,主要是两家机构支持,分别是Xlabs和InstantX,今天一起来介绍介绍。

二、安装相关

我们这里分别介绍两种 Controlent 模型的安装,分别是 XLabs-AI 和InstantX。

2.1 xlabs Controlnet

插件安装:

https://github.com/XLabs-AI/x-flux-comfyui

模型安装:

https://huggingface.co/XLabs-AI

目前Xlabs家的Controlent已经到V3版本了,我们要安装的也是下面这3个。

目前v3版本是在1024x1024分辨率上进行训练的,效果更好。

下载的模型放到下面路径下即可

ComfyUI/models/xlabs/controlnets

2.2 Shakker-Labs Controlent

本来是想介绍InstantX的 FLUX.1-dev-Controlnet-Union的,但是昨天出了新东西。是Union的升级版,看了下,是InstantX联合Shakker_labs联合发布的,那我们直接测试新的即可。

模型地址:

https://huggingface.co/Shakker-Labs/FLUX.1-dev-ControlNet-Union-Pro/tree/main

模型很大,还是6.6G,该模型支持7种控制模式,包括canny(0)、tile(1)、深度(2)、模糊(3)、姿势(4)、灰色(5)、低质量(6)。

模型存放路径: \models\controlnet

要使用InstantX家的Controlnet,需要安装如下插件。

https://github.com/EeroHeikkinen/ComfyUI-eesahesNodes

三、使用流程

3.1 xlabs Controlnet

安装好了 x-flux-comfyui 插件后,使用路径如下

完整的Controlnet工作流如下

核心是使用下面这个,预处理我用的以前通用的Aux,这样换其他Controlnet就不需要换节点。

这里我们对比两组,分别是不同反推提示词看效果.

原图如下

第一个用常用的WD1.4来反推提示词,测试canny、depth、head三种效果

下面用我之前推荐的BizyAir插件里面的反推节点 Joy Caption

可以看到效果还是不错的。

3.2 ControlNet-Union-Pro

完整工作流如下,因为这个Union Controlent太大了,我4090用顶配Flux dev跑直接爆显存,所以现在改成用GGUF来测试。这里用Q4版本来测试效果。

核心在于下面这个加载模型的,预处理我还是使用Aux这个通用的

InstantX Flux Union Controlnet Loader节点就是上面我们安装的 ComfyUI-eesahesNodes 插件里面带的。

type入参里面带有7个可选项,我们预处理选择一个模型后,这里type也要对应的选择一下即可。

下面是我出图的一些效果

感觉嘛,不是很好呢,你们也自己测试看看。

四、总结

目前测下来,感觉还是有待提高,对显存占用太大了, 出图也慢,我已经用了GGUF了,出图还是要30多秒,这对我4090配置的电脑来说绝对受不了哈。

如果你实在想用,我个人还是推荐先用Xlabs的V3版本吧,分开用,这样占用显存比较低一些。

期待后续的优化,Flux生态会越来越好。

创作不易,喜欢的点个赞关注走一波~

本篇中的改版工作流全部都打包好了,想要的去后台获取吧。

工作流获取:扫描下方二维码获取,无偿分享。

感兴趣的小伙伴,赠送全套AIGC学习资料,包含AI绘画、AI人工智能等前沿科技教程和软件工具,具体看这里。

AIGC技术的未来发展前景广阔,随着人工智能技术的不断发展,AIGC技术也将不断提高。未来,AIGC技术将在游戏和计算领域得到更广泛的应用,使游戏和计算系统具有更高效、更智能、更灵活的特性。同时,AIGC技术也将与人工智能技术紧密结合,在更多的领域得到广泛应用,对程序员来说影响至关重要。未来,AIGC技术将继续得到提高,同时也将与人工智能技术紧密结合,在更多的领域得到广泛应用。

一、AIGC所有方向的学习路线

AIGC所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。

二、AIGC必备工具

工具都帮大家整理好了,安装就可直接上手!

三、最新AIGC学习笔记

当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。

四、AIGC视频教程合集

观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

五、实战案例

纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

若有侵权,请联系删除

总结

### 文章总结:Flux中Controlnet的学习与应用
**作者介绍**:
- 爱绘画的彤姐分享Flux生态中重要的插件Controlnet。
**Controlnet的重要性**:
- Controlnet对于SD(Stable Diffusion)的商业化应用至关重要。
- 已获XLabs和InstantX两家机构支持,Flux生态开始支持Controlnet。
**安装相关**:
1. **XLabs Controlnet**:
- 插件安装:[GitHub链接](https://github.com/XLabs-AI/x-flux-comfyui)
- 模型下载:[Hugging Face链接](https://huggingface.co/XLabs-AI)(推荐V3版本,支持1024x1024分辨率)
- 存放路径:`ComfyUI/models/xlabs/controlnets`

2. **InstantX/Shaker-Labs ControlNet-Union-Pro**:
- 模型下载:[Hugging Face链接](https://huggingface.co/Shakker-Labs/FLUX.1-dev-ControlNet-Union-Pro/tree/main)(6.6G大小,支持7种控制模式)
- 存放路径:`\models\controlnet`
- 插件安装:[GitHub链接](https://github.com/EeroHeikkinen/ComfyUI-eesahesNodes)(针对InstantX)
**使用流程**:
- **XLabs Controlnet**:
- 使用x-flux-comfyui插件进行预处理,并利用不同反推提示词测试效果(如canny、depth、head等)。

- **ControlNet-Union-Pro**:
- 由于模型庞大,使用GGUF测试以减少显存占用,加载对应模型并预处理(type入参选择对应模型)。
- 测试结果显示出图速度较慢,显存占用高。
**总结**:
- 当前Controlnet虽强大但显存占用高,出图速度慢,推荐初次尝试者使用XLabs V3版本。
- 期待后续优化提升Flux生态整体性能。
**额外赠送**:
- 改版工作流打包分享,扫描二维码无偿获取。
- 提供AIGC全面学习资料,包括学习路线、必备工具、学习笔记、视频教程合集及实战案例。
**未来展望**:
- AIGC技术发展广阔,未来将在游戏、计算等领域广泛应用,与人工智能技术紧密结合,对程序员影响重大。

更新时间 2024-09-14