打造AI虚拟数字人，Stable Diffusion+Sadtalker教程

站长笔记

2 个月前 1 1k

如何使用Stable Diffusion整合Sadtalker

Stable Diffusion是一个能够根据文本描述生成高质量图片的深度学习模型，它使用了一种叫做潜在扩散模型的生成网络架构，可以在普通的GPU上运行。Sadtalker是一个能够根据图片和音频生成视频的开源项目，它使用了一种叫做SadNet的神经网络，可以实现风格化的单图说话人脸动画。本教程将介绍如何使用Stable Diffusion和Sadtalker结合起来，实现从文本到视频的生成。

准备工作

要完成本教程，你需要准备以下内容：

一台安装了Windows系统的电脑，最好有一块至少8GB显存的NVIDIA或AMD显卡 Stable Diffusion的代码和模型文件，可以从这里下载：GitHub - Stability-AI/stablediffusion: High-Resolution Image Synthesis with Latent Diffusion Models Sadtalker的代码和模型文件，可以从这里下载：GitHub - OpenTalker/SadTalker: [CVPR 2023] SadTalker：Learning Realistic 3D Motion Coefficients for Stylized Audio-Driven Single Image Talking Face Animation 一个文本编辑器，例如Notepad++或Visual Studio Code 一个音频编辑器，例如Audacity或Adobe Audition 一个视频播放器，例如VLC或Windows Media Player

步骤一：生成图片

首先，我们需要使用Stable Diffusion根据我们想要的文本描述生成一张图片。我们可以使用Stable Diffusion Online网站来快速实现这个功能，也可以在本地运行Stable Diffusion的代码。

使用Stable Diffusion Online网站

打开浏览器，访问https://stablediffusionweb.com/ 在输入框中输入你想要生成图片的文本描述，例如“一个穿着红色连衣裙的女孩在草地上跳舞” 点击Generate按钮，等待几秒钟，就可以看到生成的图片点击Download按钮，将图片保存到你的电脑上

在本地运行Stable Diffusion的代码

打开命令行窗口，进入Stable Diffusion的代码目录输入以下命令，安装所需的依赖包：

pip install -r requirements.txt

输入以下命令，下载预训练的模型文件：

python download_model.py

输入以下命令，根据你想要生成图片的文本描述生成一张图片，并保存到output文件夹中：

python generate.py --prompt "一个穿着红色连衣裙的女孩在草地上跳舞" --output output/girl.jpg

步骤二：录制音频（续）

使用Adobe Audition录制音频（续）

点击菜单栏中的文件-新建-音频文件在弹出的对话框中输入文件名，例如girl，选择采样率为44100 Hz，通道为单声道，格式为MP3 点击确定按钮，创建一个新的音频文件点击红色的录音按钮，开始录制你想要说的话，例如“你好，我是一个爱跳舞的女孩” 点击空格键，结束录制点击菜单栏中的文件-保存在弹出的对话框中选择保存位置，例如output文件夹

步骤三：生成视频

最后，我们需要使用Sadtalker将我们生成的图片和音频合成为一个视频。我们可以在本地运行Sadtalker的代码来实现这个功能。

在本地运行Sadtalker的代码

打开命令行窗口，进入Sadtalker的代码目录输入以下命令，安装所需的依赖包：

pip install -r requirements.txt