先来几张图
现在来教教大家怎样做出这样的图片
在学习WebUI的那些基础知识点的时候,有一个东西是每一个初学者都绕不开的大山-附加网络。
这个东西对于每一个接触Stable Diffusion的小伙伴来说就像是小学门口小卖部卖的辣条、初中课本上的涂鸦、高中数学卷解不开的最后一道大题。
学习过WebUI里Stable Diffusion的小伙伴应该对附加网络很熟悉了,这类附加网络可以提高AI生图质量、创作独特风格以及精准控制画面元素。
而这最常用的三类附加网络分别是Embeddings(词嵌入)、LoRA(低秩适应模型)、ControlNet(控制网),今天的内容就是来学习如何在ComfyUI中使用这类附加网络。
**附加网络-Embeddings
**
在ComfyUI中Embeddings的使用是最简单的,在ComfyUI中的提示词框里面输入Embeddings+模型名即可:
**embeddings:BadDream,
**
这段提示词无论是输入在正面提示词框或者负面提示词框都可以,不影响调用。
如果去Manager里面选择Install ,然后搜索Custom-Scripts下载:
下载完这个扩展之后重启ComfyUI,之后再输入提示词就有这样的自动补全功能啦:
**附加网络:LoRA
**
在之前的WebUI中输入LoRA的方式就是在提示词里面加入设定好的LoRA关键词,而在ComfyUI里没办法这么做。
之所以Embedding可以这么做是因为Embedding本质上是一系列提示词向量的“合集”,而LoRA则是一组经过了再训练且从大模型上“提炼”出来的“附加权重”。
当然这里不太了解没关系,感兴趣的话可以看我之前有关LoRA炼制的文章:
免于被催婚的巧妙方法(Stable Diffusion进阶篇:Lora模型训练1)
在ComfyUI中自带了一个Load LoRA的节点用于加载LoRA:
将这个节点放在大模型也就是Load Checkpoint节点后面,然后将这个节点与其他节点连接即可,连接的顺序参考下图:
Load Checkpoint的Model和Load LoRA的model连接
Load Checkpoint的CLIP和Load LoRA的clip连接
Load LoRA的CLIP和CLIP Text Encode(Prompt)的clip连接(两个Encode都要链接) Load LoRA的MODEL和KSample的model进行连接这样一来一个可以使用LoRA的工作流就完成了,如果是要同时使用多个LoRA的话就将上述的步骤多做几次即可,有点麻烦就是了。
这个一个个节点连接的过程就相当于将这个LoRA附加到了整个大模型上,而连接好的LoRA和Checkpoint节点则是可以视为一个新的模型。
而LoRA则是可以通过这两个选项来调节权重:
这个和WebUI里的一样,范围从0-1,数值越大LoRA作用越明显。
一个LoRA在训练的时候是同时在底膜的文本编码器(CLIP Text Encoder)和噪声预测器上训练的,这两部分都会形成对应的积累也就是学习率。
而这两个参数附加到主模型上的大小就分别对应了两个权重数值,文本编码器学习率对应CLIP强度、Unet学习率对应了Model强度。
简单来说:Model强度直接影响了LoRA的风格是否能被植入到主模型里,相当于你这黑丝LoRA能不能让图片里的人完整穿上黑丝;
而Clip强度影响了模型对一些提示词的响应结果,在一些具有大量触发词的LoRA里面作用会很明显,例如一个LoRA模型里面含有:黑丝、破洞黑丝、吊带袜黑丝这样比较多提示词的LoRA就可以提高Clip强度。
强度拉满
对于新手来说,要么干脆保持默认数值,要么两个数值当做WebUI的一个权重一样,两个数值更改的时候保持一致就行。
不过在ComfyUI中这样一个个加载LoRA其实蛮麻烦的,有着Stack功能的节点应运而生。不过这些需要额外下载节点包,下载地址看文末即可,或者感兴趣的小伙伴可以看文末教程视频里的22:33分开始。
今天的内容就到这里啦!
简单了解了下在ComfyUI中的Embeddings和LoRA怎么使用,虽然感觉WebUI更方便一些,但是ComfyUI能够进行更多的细节调整,毕竟是拆成了一个个节点。
那么大伙下篇笔记见吧,我要去好好“学习”了,拜了个拜!
1girl, beautiful girl, smile, living room, sofa, large window, couch, carpet, bright natural lighting, (full body:1.2), (absurdres, highres, ultra detailed, masterpiece, best quality:1.4), realistic, photorealistic, masterpiece, best quality, wallpaper, ((baisijdly, white legwear):1.2), lora:baisijdly:0.8, short pleated skirt, white collared shirt, lora:add\_detail:1
Negative prompt: paintings, sketches, (worst quality:2), (low quality:2), (normal quality:2), lowres, normal quality, ((monochrome)), ((grayscale)), missing limb, bad anatomy, extra limbs, ((hands)), ng_deepnegative_v1_75t, badhandv4, blurry, low quality
Steps: 30
Sampler: DPM++ SDE Karras
CFG scale: 7
Seed: 1424902421
Size: 512x512
Model hash: 7c819b6d13
Model: majicmixRealistic_v7
Denoising strength: 0.7
Clip skip: 2
Hires upscale: 2
Hires upscaler: R-ESRGAN 4x+
Lora hashes: “baisijdly: 34aefd002512”
Version: v1.8.0
部分文章及参考素材来源:
原视频教程:
https://www.bilibili.com/video/BV1Ni421k7ta/?spm_id_from=333.999.0.0&vd_source=18237a12f0fc840b36e1c379529393b5
开发者工作流:
https://comfyanonymous.github.io/ComfyUI_examples/inpaint/
GitHub:Custom-Scripts
https://github.com/pythongosssss/ComfyUI-Custom-Scripts
如果链接打不开,可以扫描下方二维码免费领取资源
👇👇👇👇👇👇
AIGC资源(SD、MJ、Chatgpt)扫码可免费领取哦~
感兴趣的小伙伴,赠送全套AIGC学习资料,包含AI绘画、AI人工智能等前沿科技教程和软件工具,具体看这里。
一、AIGC所有方向的学习路线
AIGC所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。
二、AIGC必备工具
工具都帮大家整理好了,安装就可直接上手!
三、最新AIGC学习笔记
当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。
四、AIGC视频教程合集
观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
五、实战案例
纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
若有侵权,请联系删除