当前位置:AIGC资讯 > AIGC > 正文

HandRefiner:解决AI生图手部畸形难题

HandRefiner是一种可以修正形状不正常的手部图像的方法。在生成图像方面,目前的图像生成模型已经非常出色,但是在生成人类手部的图像时常常会出现问题,例如手指数量不对或者手形怪异。

为了解决这个问题,HandRefiner提出了一种条件修补方法,可以在不改变图片其他部分的情况下,修正那些形状不正常的手部图像。

模型下载地址:https://huggingface.co/hr16/ControlNet-HandRefiner-pruned

HandRefiner具有以下几个主要特点。首先是精确性,它能够精确地识别和修正生成图像中的畸形手部,提供了一种有效的后处理解决方案。

其次是保持一致性,修正手部的同时不会影响图像的整体质量,保持了图像其他部分的一致性。另外,HandRefiner利用合成数据进行训练,这使得它能够有效地处理真实手和合成手之间的域差异,学习不同手的样子,并找到合适的方式来修正手部。

尽管HandRefiner主要针对手部图像,但其基本原理和技术也可以适用于其他需要精细修正的图像生成任务,比如修正脚或耳朵等部分。

HandRefiner的工作原理包括手部识别与重建以及条件修补两个过程。首先,它识别出生成图像中形状不正常的手部,并使用手部网格重建模型重建出一个正确的手部形状和手势。即使在畸形的手部图像中,HandRefiner也能够生成合理的重建结果,这得益于模型基于正常手部的训练数据。

然后,HandRefiner采用条件修补方法来处理识别出的问题手部。它生成一个深度图,其中包含了关于手部形状和位置的重要信息。这个深度图被用作指导,通过ControlNet集成到扩散模型中。最后,HandRefiner将重新画好的手部放回原来的画作中,替换掉原本画错的手,而其他部分保持不动,保持了原画的风格和内容。

更新时间 2024-01-04