1、Stable Diffusion模型简介
上一文中《Stable Diffusion绘图神器,2分钟极速安装教程!(提供安装包)-CSDN博客》,给大家介绍了Stable Diffusion的安装方法和简单的使用方式,有粉丝私信问我文中的写实风格的图片是怎么生成的。
Stable Diffusion的绘图风格主要由模型来控制,基础模型主要由二次元图片训练获得,所以在不安装其他模型的情况下,只能生成二次元风格的图像。
首先我们需要对Stable Diffusion中各种模型有个初步认识,以便后续在使用时能知道我们需要下载什么样的模型,在Stable Diffusion中有4种模型,分别是:
2、SD模型分类和作用
2.1、Checkpoint模型
Checkpoint模型是Stable Diffusion的核心。它包含了神经网络的所有权重和参数,是生成图像的基础。这些模型通常体积较大,因为它们包含了大量的参数,这些参数是在大量图像数据上训练得到的。通过微调这些参数,可以对模型进行改进,以生成具有特定风格的图像。微调Checkpoint模型的方法有多种,包括附加训练、Dreambooth和文本反转等。
这种模型通常很大,在2-7GB之间,也是比较常用的一种模型。
附加训练:附加训练是一种微调技术,它通过在已有的Checkpoint模型基础上,使用新的数据集进行训练。这种方法可以帮助模型更好地适应特定的图像风格或内容,从而生成更符合用户需求的图像。
Dreambooth:Dreambooth是另一种微调Checkpoint模型的方法。它允许用户将自定义的主题或对象注入到模型中,从而生成与该主题或对象相关的图像。这种方法特别适用于那些想要生成具有特定主题或对象的用户,而且它只需要少量的自定义图像就可以实现。
文本反转(embedding):文本反转是一种通过修改模型的嵌入空间(embedding space)来实现微调的方法。嵌入空间是模型用来表示文本和图像特征的空间。通过修改这个空间中的特定部分,可以影响模型生成图像的方式,使其更符合用户的期望。这种方法同样只需要少量的示例就可以实现。
2.2、LoRA模型
LoRA模型是一种轻量级的微调方法。与直接修改Checkpoint模型的参数不同,LoRA模型通过添加一些小的补丁文件来修改模型的输出。这些补丁文件通常体积较小,可以与Checkpoint模型一起使用,而不需要对整个模型进行大量的修改。
2.3、Hypernetworks
Hypernetworks是一种特殊的网络结构,它可以被添加到Checkpoint模型中。Hypernetworks不是直接生成图像,而是生成其他网络的权重。通过这种方式,它们可以为Checkpoint模型提供额外的灵活性,使其能够根据不同的输入生成不同的图像。
2.4、VAE
VAE是一种将特定风格或属性集成到Checkpoint模型中的方法。它可以被看作是一种特殊的微调技术,用于向模型注入某种风格或属性。一旦AVE被集成到checkpoint中,它就可以像滤镜一样作用于生成的图像,使其呈现出特定的风格或特征。
这些模型和微调技术为Stable Diffusion用户提供了广泛的灵活性,使用户可以根据自己的需求定制和改进模型,生成更符合期望的图像。
在实际使用过程中我们主要使用到模型类型有:Checkpoint模型、LORA、VAE等类型。
3、SD模型下载
对模型有了初步认识后,我们急需知道在哪里可以下载模型,以下是三个是我下载Stable Diffusion模型的常用网站,前两个是国内的,已经够用,最后一个是国外的,需要梯子,上面的模型和生成的图片都非常丰富,生成的图片内容没有限制:
哩布哩布AI: 在LiblibAI上,你可以找到由社区成员上传和分享的多种Stable Diffusion模型。这些模型可能涵盖了不同的风格、主题和用途,以满足用户多样化的需求。你可以根据自己的创作目的和风格偏好,在平台上搜索和筛选适合的模型。liblib.ai
吐司:这是一个大型的国内模型资源库,网站收录模型数以万计,几乎涵盖所有流行模型及小众模型。大部分模型来源于其他分享网站,如Civitai,因此用户可以在这里找到丰富的Stable Diffusion模型资源。tusiart.com
Civitai:这是一个大型的SD模型分享社区,提供了大量高质量的模型文件。用户可以在这里找到各种精选的模型,这些模型由全球众多热爱艺术的创作者上传并分享。这是一个国外网站,需要梯子,有梯子的可以试试,上面的模型非常多,福利图片也很多。4、SD模型安装
模型的安装非常简单,我们下载模型后,根据模型的类型放到对应的目录,重启程序或者刷新软件界面上的对应按钮就可以了,下面这个截图是几个常用模型安装的目录:
SD模型安装目录
模型安装后对应到界面上的位置如下:
基础大模型和VAE模型
LORA模型
至此,Stable Diffusion模型的下载和安装已经完成,有什么疑问可以私信或者留言!