当前位置:AIGC资讯 > AIGC > 正文

【亚马逊云新春特辑③】构生成式 AI 文生图工具之借助ControlNet进行AI绘画创作【使用OpenPose优化人物二维码】

文章目录

2.1 使用OpenPose优化人物二维码 1)数据及环境准备 2)导入骨架数据并启用OpenPose控制单元 3)导入二维码并生成美化后的二维码图片

2.1 使用OpenPose优化人物二维码

在上一节体验到了使用ControlNet并结合QR Code生成二维码,在本节中将会了解到如何通过ControlNet的OpenPose模型与二维码结合,使用 OpenPose 相关模型来生成人体姿势并将其用作 QR 码的输入。

OpenPose 姿态检测可生成图像中角色动作姿态的骨架图,这个骨架图可用于控制生成角色的姿态动作。

例如,您可以看到以下图像是使用 QR Code 和 OpenPose 作为输入生成的。 通过一些构图技巧,可以将观看者的焦点转移到图像的其他部分,并使二维码不那么明显。

1)数据及环境准备

本次动手训练营为您准备了样例OpenPose骨架数据以及二维码,您可以参考以下教程或者设计您的OpenPose骨架数据与二维码开始体验。请点击以下链接下载样例数据。

【OpenPose样例数据】

https://static.us-east-1.prod.workshops.aws/public/73d53c8f-3878-4a26-b8fd-992124ba53c1/static/example/pose.json

【样例二维码】
https://static.us-east-1.prod.workshops.aws/public/73d53c8f-3878-4a26-b8fd-992124ba53c1/static/example/example-qr-code.png

为了叠加QR Code与OpenPose效果,需要开启多个ControlNet Unit以叠加使用模型。要激活多个ControlNet Unit,请进入设置标签页。

在左侧选择ControlNet。拖动拉杆,设置需要使用的ControlNet Unit数量,不小于2。

随后在页面顶部,点击“保存设置”,并点击“重载前端”。

重载界面后,请在“文生图”标签页中,展开ControlNet菜单,检查是否展示为多个ControlNet单元。

2)导入骨架数据并启用OpenPose控制单元

本次动手训练营为您准备了经过设计后的OpenPose骨架数据。请跟随以下步骤导入骨架数据。

点击OpenPose编辑器 点击加载JSON,选中您下载的pose.json文件,并点击确定 随后您应当能看到右侧出现的骨架图,如图所示。确认骨架图无误后,请点击下方的 “发送到文生图“按钮

随后页面会自动跳转到"文生图"标签页中,若没有自动跳转,请选择在“文生图”标签页中,展开ControlNet菜单。并注意以下几个选项的配置:

勾选 “启用” 按钮 :以确保 ControlNet 在图片生成过程中生效; 模型选框:请选择 “control_v11p_sd15_openpose” 来使用ContolNet Openpose进行姿态控制;

可以观察到,骨架在图片的左侧,为一个蜷缩的状态,随后您将使用提示词来生成为一个正在睡觉的女孩。

3)导入二维码并生成美化后的二维码图片

随后点击 “ControlNet Unit 1",进入第二个ControlNet单元,以叠加使用二维码控制模型。请点击上传,选择您下载的样例二维码文件example-qr-code.png,并跟随以下几个选项配置ControlNet单元:

勾选 “启用” 按钮 :以确保 ControlNet 在图片生成过程中生效; 模型选框:请选择 “control_v1p_sd15_qrcode_monster” 来使用ControlNet二维码控制模型; 控制权重:对于叠加OpenPose使用,建议设置为1.7;

可以看到,二维码的整体在图片右侧,作为一种构图技巧其目是为与骨架躯体相呼应,使得人物生成更加的自然。

在文生图配置中调整两组数值:

迭代步数:建议在 30-50 之间,默认值 20 不足以引导生成一个高质量的二维码图片 宽度/高度:直接从 ControlNet 发送二维码原图的宽高比至上方

我们希望骨架可以生成为一个正在睡觉且躺在木地板上的的女孩,同时以向日葵作为二维码的定位点。随后请参照以下提示词例子输入,并点击生成:

正向提示词:

(1girl:1.6, side lying sleep, on the garden, sunflowers), wooden floor

反向提示词:

extra hands, extra fingers, extra legs, fewer fingers, (low quality, worst quality:1.4), (bad anatomy), (inaccurate limb:1.2),bad composition, inaccurate eyes, extra digit,fewer digits,(extra arms:1.2), signature, easynegative

最终生成的结果如图所示:

在本例子的设计中,我们通过与OpenPose叠加,偏移二维码等设计和构图技巧,将观看者的焦点转移到图像的其他部分,同时避开了二维码的核心区域,使得人像更加自然。

如果生成的二维码不能够达到期望,可以选择微调以下几个参数,并增加生成的总批次数,不断尝试抽卡以逼近最终期望的效果:

提示词 采样方法 OpenPose骨架的结构与位置 ControlNet 控制权重 ControlNet 引导介入/终止时机

更新时间 2024-06-17