当前位置:AIGC资讯 > AIGC > 正文

AI绘画:从零开始教你玩转ComfyUI-保姆级部署教程-手把手带你ComfyUI工作流搭建!

前言

第一节:认识ComfyUI并安装

本教程专为初学者设计,详细介绍了 2024 年最新版的SD ComfyUI的使用方法。通过逐步指导,让你无需任何基础,快速学会并使用这一强大的AI绘图工具。

1、什么是comfyui

ComfyUI就像拥有一支神奇魔杖,可以轻松创造出令人惊叹的AI生成艺术。从本质上讲,ComfyUI是构建在Stable Diffusion之上的基于节点的图形用户界面(GUI),而Stable Diffusion是一种最先进的深度学习模型,可以根据文本描述生成图像。 但ComfyUI真正特别之处在于,它如何让像你这样的艺术家释放创造力,将你最疯狂的想法变为现实。

想象一下有一块数字画布,你可以通过连接不同的节点来构建自己独特的图像生成工作流,每个节点代表一个特定的功能或操作。 就像为你的AI生成杰作构建一个视觉食谱!

###2、ComfyUI VS. WebUI

WebUI是Stable Diffusion的默认GUI。让我们对比一下ComfyUI的优缺点:

✅ 使用ComfyUI的好处:

轻量级: 运行速度快,效率高。 灵活性: 高度可配置以满足你的需求。 透明度: 数据流可见,易于理解。 易于分享: 每个文件代表一个可重现的工作流。 适合原型开发: 使用图形界面而不是编码来创建原型。

❌ 使用ComfyUI的缺点:

界面不一致: 每个工作流可能有不同的节点布局。 操作门槛较高:由于ComfyUI采用节点式的工作流,对于初学者来说可能需要一段时间来熟悉和掌握。 生态相对较小:尽管ComfyUI的基本功能齐全,但在插件和扩展工具方面,其生态可能不如webui丰富。不够现在很多插件也都是先支持ComfyUI了。这个后续的生态会不断完善,不是什么大问题

3、ComfyUI 的硬件配置要求

组件 要求 GPU 显存至少4GB以上,推荐使用 NVIDIA 显卡,建议使用 RTX3060 以上显卡 显存小于3GB的GPU可通过–lowvram选项运行,但性能可能下降。 CPU 支持在CPU上运行,但速度较慢,使用–cpu选项。 内存 建议系统内存至少8GB。 存储空间 非常建议使用固态硬盘来加快模型文件的加载运行速度,建议至少40GB以上的硬盘空间。

4、ComfyUI 的安装方法

这边推荐和WebUI一样使用秋叶大佬的一键整合包安装ComfyUI非常简单

所有的AI设计工具,模型和插件,都已经整理好了,?获取~

如果不想使用网盘也可以扫码进群获取完整的安装包

下载压缩包
解压整合包文件

解压到你想要安装 ComfyUI 的本地目录。

启动 A绘图启动器

这一步主要查看 A绘图启动器 是否能正常运行,解压后的文件夹中找到 A绘图启动器.exe文件,双击即可启动秋叶的ComfyUI整合包,启动后应该会自动根据你的系统语言进行显示。

打开后是这样的

在设置中可以修改我们的语言

下载了模型的小伙伴记得把模型放在这个文件夹内

我们点击启动,能看到这个页面就是安装成功啦

ComfyUI各类模型安装路径,如何与WebUI共享模型

进入到 ComfyUI 根目录,找到这个「Models」文件夹,双击进去。

进来之后你就会看到以模型名称命名的文件夹,如 Checkpoints(大模型)、Loras、controlnet 、vae等,我们只需要进入对应的文件夹,把正确的模型安装进去即可。

如果你有使用过WebUI并且有下载过模型,我们就可以把WebUI下载过的模型共享给ComfyUI

节省我们的空间,

第一步

同样,我们还是打开 ComfyUI 根目录,找到这个「extra_model_paths.yaml.example」文件:

第二步

打开刚刚修改后缀的文件,修改路径,把base_path改成你sdwebui的安装路径

第三步

再次启动 comfyUI 就可以看到已经可以使用 WebUI 中的模型

初次运行ComfyUI,一启动便会看到一个预设的工作流程,这通常是一个入门级的文本到图像的工作流。让我们借此机会对构成这个工作流的基础节点进行一番简要说明。

在ComfyUI中,节点和节点之间的链接以相同颜色链接即可,熟悉常用工作流之后,大概就能明白节点的链接逻辑了

1、K采样器

K采样器可以类比为一个“厨师”,是SD出图流程中的核心节点,所有节点载入,数据输入,参数配置,最后都会汇总到K采样器,它会结合载入的模型,提示词的输入以及Latent输入,进行采样计算,输出得到最终图像

input model:从模型加载节点接收的Unet模型。 positive:由CLIP模型编码的正向提示词。 negative:由CLIP模型编码的负向提示词。 latent_image:潜在空间中的图像,可以是一个预先存在的潜在图像节点,也可以是空的。

Latent,即潜空间,可以理解为SD内部流程中的图像格式,如果我们将图像作为输入,则需要通过VAE编码将其转换为Latent数据,在最后输出时,我们也需要通过VAE解码将其转换为像素空间,也就是我们最终图像

2、Checkpoint加载器

可以类比为菜系,选择写实的大模型,厨师就会做写实风格的“菜”

checkpoint 也就是大模型,这个节点是起始点,需要选择相应的大模型,以及vae输入给采样器,clip则连接正反向提示词 其中VAE可以直接使用大模型的vae去链接,也可以单独使用vae解码节点,来选择自定义的vae

3、CLIP文本编码器

简单比喻就是“菜谱”,把你最想吃的都写在这里“厨师”就会按照这个菜谱做菜

CLIP节点则需要输入提示词,其中CLIP节点需要两个,一个作为正向提示词链接K采样器,一个作为负向提示词链接采样器

4、空白潜空间图像

可以理解为菜的分量

使用空latent建立潜空间图像,这里主要用于控制图像尺寸和批次数量的

5、VAE解码

input samples:已经通过采样器去噪的潜在空间图像。 vae:可以是大模型自带的VAE,也可以是独立的VAE模型。 output IMAGE:输出的图像可以连接到保存节点或预览节点,以便用户查看或保存生成的图像。

前面已经提到对于Latent潜空间图像和输出的像素图像之间,需要进行一次转换,VAE解码节点则是对这个过程转换的节点

6、保存图像

顾名思义,即保存当前生成的图像,保存的图像除了在当前页面能看到以外,也可以在本地文件夹目录(x:\xxx\ComfyUI根目录\output)下看到所有生成的图片

默认流程整体就这么简单,输入提示词,点击添加提示词队列,即可生成你的第一张ComfyUI图片了

第三节:使用ComfyUI搭建图生图

一、创建流程
同样,我们先打开文生图基础流程,我们这个基础上把图生图流程加进去; 我们“右键——新建节点——图像——加载图像”,然后把图片传上去; 我们在加载图像上鼠标点击住“图像”往外拉,松开然后选择“VAE 解码”; 我们再把“VAE 解码的 Latent”和“采样器的 Latent”链接,“VAE”连接到“VAE 加载器”;

5.如果我们还需要调整图片的尺寸和大小,这时候我们右键画布

把潜空间图形放大添加到画布中,如何左边在连上我们的vae编码,右边连上采样器的潜空间图像

如果你不需要调整原图尺寸就可以不用添加这一步,comfyui会默认原图尺寸

有些内置的模型没有vae或者我们想自己添加vae我们可以添加:加载vae节点

这个节点vae分别连接到vae编码和vae解码

最后我们完整的图生图工作流就搭建好啦

最后不要忘了把重绘幅度调整一下

我这边选择大模型:flat2DAnimerge大模型试试效果,由于我没有修改原图尺寸所以我没有用到潜空间图像放大这个节点。可以看到效果非常的准确。

第四节:ComfyUI安装插件教程

安装插件的方法有两种,一种是使用 Terminal 安装,另一种是手动导入安装。如果你对命令行工具比较熟悉,我会推荐你使用第一种方法。如果你不想使用命令行,可以考虑手动的方式。

我以安装ComfyUI-Manager这个插件为例向大家展示如何安装插件

ComfyUI-Manager 是 ComfyUI 的一个基础管理插件,通过它我们可以很方便的管理其它插件、模型、依赖的程序包,以及了解 ComfyUI 社区的最新消息,是新手小白必备的插件。

插件的官方地址:GitHub - ltdrdata/ComfyUI-Manager

我们现演示第一种方法,这个方法的前提是你已经安装了git

我们进入comfyui/custom_nodes这个文件夹,如何输入cmd就可以进入该文件夹路径的终端。

在终端里复制这一段git clone https://github.com/ltdrdata/ComfyUI-Manager.git

后回车即可安装。

由于我这边已经安装过了,所以显示是这个

正常安装是这种效果

方法二:我们在github上直接下载该插件的文件,如何放在刚刚安装插件的路径即可

安装完成后我们重新启动comfyui

启动后我们点击这个manager按钮就是我们安装的插件

有了这个插件后我们安装其他插件就很方便了

我们点击中间最顶上的Custom Nodes Manager

这上面就可以搜索和更新我们的插件

安装完记得重启我们的comfyui

最后一种方法就是使用秋叶整合包安装插件,非常的一目了然,也非常的方便

最后在推荐几款新手必装的一些插件,大家赶紧去试试吧

ComfyUI Workspace Manager - Comfyspace comfyui工作空间管理器 AIGODLIKE-COMFYUI-TRANSLATION comfyui汉化插件 ComfyUI-Crystools 资源监控 ComfyUI-WD14-Tagger 提示词反推

Refiner模型细化图像

首先我们来到基础的文生图页面

复制一个加载模型,一个选base一个选refiner

这个时候我们发现一个问题,就是两个模型怎么共用一套提示词呢

我们可以按一以下步骤设置

1.我们右键把全部clip文本编码节点,把他转换为文本输入

改完以后就是这样

2.我们在空白画布上添加两个基元也叫“primitive元节点” ,右键——添加节点——工具——基元

一个坐正向提示词一个做负面提示词。我们可以在基元中添加提示词并且链接到对应的文本编码,正面提示词连正面文本编码,负面提示词链接负面文本编码

如何我们在复制一对clip文本编码器链接refiner模型

这样就实现了两个模型控制使用同一个提示词

由于refiner模型需要在base之后使用,所以我们需要在base的采样器后面在添加一个refiner模型的采样器,把base采样器的latent输出作为refiner采样器的输入

最后我们再把refiner采样器的latent输出链接到vae解码节点

所以完整的工作流就是这样,想要完整工作流的小伙伴也可以扫码右边二维码加群获取哦

我们可以对比使用refiner细化后和仅使用base的效果

下图是通过refiner细化后的图片

下图是未使用refiner的图片,可以看到图片细节差了非常大,所以使用refiner模型细化还是非常有效果的

局部重绘与AI扩图

我们加载上次图生图的工作流

当时我们加载图像的遮罩输出是空的,这次我们把它利用起来

我们可以点住它往外面拉,然后选择VAE内部编码器

这个和普通的vae编码相比就多了个遮罩,这个遮罩延展的意思和ps的羽化蒙版差不多。大一点融合效果比较好,小一点比较融合效果比较生硬。

有了这个VAE我们就可以把原来的VAE编码的线都改到新的vae编码(重绘)上

然后我们右键点击图像选择在遮罩编辑器中打开

比如我在人物眼睛上涂了一下,然后提示词修改一下,改成闭眼

点击加入队列生成,我们就可以把人物的眼睛重绘啦。

AI扩图流程

我们如果想对图像四周进行重绘进行扩图,这时候我们就用到一个“外补画板”节点,“右键——新建节点——图像——外补画板”

上下左右是设置向外扩散尺寸的,羽化和 VAE 内补编码的遮罩延展一个意思。

这个节点是连接在“加载图像”和“VAE 内补编码器”节点之间,如下图所示:

提示词我写上画框,加入队列生成后的图像确实加上了画框,使用起来还是非常简单的

controlNet工作流程全解析

我们在WebUI中使用controlnet都是通过插件,而插件中包含了预处理器和模型。而在comfyui中我们是预处理和模型分开搭建的,接下来就让我们看看如何搭建吧

首先我们先加载我们的默认工作流

###1.预处理器

我们可以在空白区域按照以下方法添加我们的预处理器

还有一种方法就是安装预处理器插件来添加我们的预处理器节点

Controlnet 预处理器插件:

插件地址: https://github.com/Fannovel16/comfyui_controlnet_aux.git 如果安装后,运行 ComfyUI 显示无法导入插件 请运行“ComfyUI\custom_nodes\comfyui_controlnet_aux”目录下的“install.bat”文件

有了这个插件后可以更方便的管理和添加我们的预处理器

有了预处理器节点后,我们从节点的左边拖出加载图像

右边再拉出预览图像,这样我们预处理这一块就搭建好啦,运行后的效果正好对应了我们webui中的?按钮

2.controlnet模型

然后我们梳理逻辑,这经过canny预处理器处理过后的图像我们应该需要发给controlnet对应的canny模型。所以我们按下图加载ControlNet模型,模型记得选择canny对应的。

我们看到加载controlnet模型右边有个节点,我们拖出来选择controlnet应用。看到这个是不是很熟悉,很想Webui中的controlnet控制强度。右边的图像节点接受的是前面经过canny预处理后的节点

我们在看右边的条件,ControlNet 应用会对条件进行加工处理,在其中加入当前 ControlNet 提取到的控制信息。所以需要把它们连接到“CLIP 文本编码器”节点的输出条件,

而左边的输出条件链接的就是K采样器的正面条件(正面提示词)

以上这些连完就完成了最基本的Contnet工作流,以下就是完整的工作流。

多controlnet链接

我们在“Controlnet 应用”后面再串联个“Controlnet 应用”就可以了,其余的该连 Controlnet 模型的连模型,该连 Controlnet 预处理器的连预处理器。

补充:comfyui自带的controlnet应用是比较简单的。如果想要使用高级的Controlnet

我们可以在管理器中安装这个扩展

安装完重启刷新后我们就可以使用功能更丰富的controlnet应用了,这样看是不是和WebUI更相似了呢

强度:就是我们用来控制权重的, 开始时间:我们在绘图时,Controlnet 什么时候进行控制; 结束时间:我们在绘图时,Controlnet 什么时候结束控制;

Lora工作流搭建

Lora模型安装路径

模型存放位置在“ComfyUI_windows_portable\ComfyUI\models\loras”目录下,如果你是和 Web UI 共用的模型,那就放在“sd-webui\models\Lora”目录下。

如果不知道怎么与WebUI共享模型的小伙伴可以看我们的第二节有详细介绍。

使用Lora模型

在使用上比较简单,我们在默认的文生图工作流空白处“右键-新建节点-加载器-LoRA 加载器”;

连接也非常简单,我们左侧模型和clip链接大模型加载器的模型和clip,右侧的模型链接k采样器,clip链接文本编码器,虽然有两个CLIP 文本编码器,但是经过测试只练正向关键词的CLIP 文本编码器就可以了

我们选择像素风模型试一下效果,可以看到成功使用Lora模型改变了画风。

调整Lora模型权重

我们还可以像在WebUI上调整Lora模型的权重:

回到“LoRA 加载器”节点上。除了选择模型外还有两个可以设置参数的地方,模型强度、CLIP 强度。至于我们设置哪个参数能达到控制权重的效果,完全取决于模型的训练方式。所以我们在不知道受哪个参数影响的情况下,我们可以对两个参数都进行调节,而 Web UI 上是把两个参数整合在一起了。

使用多个Lora

使用多个Lora非常简单,只需要把多个Lora加载器串联起来

###效率节点

虽然使用多个Lora串联非常简单,但是我们使用多个 Lora 模型 的时候就会让流程图更复杂、更乱,调节权重也比较麻烦,我们可以使用一个插件帮我们解决。

⑩efficiency-nodes-comfyui(效率节点): https://github.com/jags111/efficiency-nodes-comfyui.git

我们直接在管理器中安装完成后重启就可以使用。

我们直接把三个比较重要的高效节点加载出来

“LoRA 堆”节点

【输入模式】和控制权重有关,在这个节点我们可以通过调节一个参数就能控制权重了,如果我们把输入模式改为高级,Lora 权重就会分成模型强度、CLIP 强度;

【Lora 数量】用来调节我们使用几个 Lora 模型的,当前数值是 3,我们就有三个 Lora 可选;

剩下的权重和选择Lora模型就不用过多介绍了,大家肯定都知道。

效率加载器

我们需要操作的地方有:大模型选择、VAE 模型选择、Lora 模型(不使用选无,如果只使用一个就可以在这个节点选择,多个情况下就使用我们上面说的 Lora 堆节点)、正反提示词、宽高、批次;

K 采样器

基本上一样,没什么大的区别。

很明显的看出减少了很多的连接,非常的高效而且使用体验上更接近WebUI

这个插件可不止用来帮我们解决 Lora 模型的连接的问题,他能帮我们简化很多节点的连接,包括我们之前讲的多个 ControlNet 使用,也能减少连接步骤。

ComfyUI平台上安装并配置Insightface

Insightface是comfyui非常重要的插件,没有insightface我们的IP-adapter或者InstantID都用不了,所以大家一定要安装上。

手动安装方法

第一步:下载InsightFace文件

首先,访问以下GitHub仓库:

https://github.com/Gourieff/Assets/tree/main/Insightface

在这个仓库中,你可以看到多个版本的InsightFace文件。根据你的Python版本选择相应的文件下载。例如,如果你的Python版本是3.10,则下载对应的文件。

第二步:检查Python版本

要查看你的Python版本,可以进入ComfyUI的虚拟Python环境。双击虚拟环境图标,打开终端窗口。在终端中,你可以看到Python版本号。

第三步:下载并安装
选择下载路径:将下载的文件保存到刚刚打开python.exe同级目录中,确保路径中不包含中文字符,以避免潜在的错误。 进入ComfyUI根目录:打开终端,输入命令行进入ComfyUI的根目录。

我们输入以下命令

python.exe -m pip install insightface

如之前安装失败请先卸载:

python.exe -m pip uninstall insightface

然后更新pip:

python.exe -m pip install -U pip

通过whl文件重新安装InsightFace:

python.exe -m pip install insightface-0.7.3-cp311-cp311-win_amd64.whl

安装成功后我们的python_embeded文件夹内就会有insightface文件

秋叶启动器安装方法

使用秋叶启动器安装就比较简单了,直接按下图步骤操作即可。如果秋叶启动器安装失败也是可以用上面的手动方法安装的


为了帮助大家更好地掌握 ComfyUI,我在去年花了几个月的时间,撰写并录制了一套ComfyUI的基础教程,共六篇。这套教程详细介绍了选择ComfyUI的理由、其优缺点、下载安装方法、模型与插件的安装、工作流节点和底层逻辑详解、遮罩修改重绘/Inpenting模块以及SDXL工作流手把手搭建。

由于篇幅原因,本文精选几个章节,详细版点击下方卡片免费领取

一、ComfyUI配置指南

报错指南 环境配置 脚本更新 后记 …

二、ComfyUI基础入门

软件安装篇 插件安装篇 …

三、 ComfyUI工作流节点/底层逻辑详解

ComfyUI 基础概念理解 Stable diffusion 工作原理 工作流底层逻辑 必备插件补全 …

四、ComfyUI节点技巧进阶/多模型串联

节点进阶详解 提词技巧精通 多模型节点串联 …

五、ComfyUI遮罩修改重绘/Inpenting模块详解

图像分辨率 姿势 …

六、ComfyUI超实用SDXL工作流手把手搭建

Refined模型 SDXL风格化提示词 SDXL工作流搭建 …

由于篇幅原因,本文精选几个章节,详细版点击下方卡片免费领取

总结

更新时间 2024-09-05