? ? ?随着科技的快速发展,AIGC已经成为引领未来的重要力量。其中,AIGC在虚拟数字人领域的应用更是引起了广泛关注。虚拟数字人作为一种先进的数字化表达形式,结合了3D建模、动画技术、人工智能等多种先进技术,能够呈现出高度逼真的虚拟人物,实现与用户的实时互动。AIGC技术为虚拟数字人注入了智能的灵魂,使其具备了自主学习、自我优化、智能表达等能力,为虚拟数字人的应用拓展了新的领域。
文章目录
?AIGC技术赋能虚拟数字人 ?AIGC型虚拟人制作流程 ?AIGC在虚拟数字人应用中的案例 ?AIGC在虚拟数字人领域面临的挑战与未来趋势虚拟数字人指存在于非物理世界(如图片、视频、直播、一体服务机、VR)中,并具有多重人类特征的综合产物。目前“深度合成+计算驱动”型的虚拟人,综合运用文本、图像、音频等生成技术,打造综合外观、面部表情、发声习惯等产出全面拟人化的数字内容,属于AIGC领域。
此种多模态生成技术的聚合应用在虚拟偶像、虚拟主播等领域已有广泛应用。在《量子位虚拟数字人深度产业报告》中,我们将虚拟人按照产业应用划分为两种,即服务型虚拟人和身份型虚拟人。
?AIGC技术赋能虚拟数字人
1. 实时交互体验
AIGC技术让虚拟数字人具备了实时交互的能力,可以根据用户的输入和反馈做出相应的回应,从而为用户带来更加真实的互动体验。
2. 情感识别与表达
借助AIGC技术,虚拟数字人可以识别用户的情感变化,并通过表情、动作等方式进行表达,进一步增强了用户与虚拟数字人之间的情感联系。
3. 个性化定制
AIGC技术使得虚拟数字人的个性化定制成为可能。通过深度学习等技术手段,虚拟数字人可以模仿用户的声音、外貌、行为等特征,为用户打造独特的虚拟形象。
?AIGC型虚拟人制作流程
?1. 设计形象
扫描真人形态及表演、采集驱动数据,利用多方位摄像头,对通用/特定模特进行打点扫描,采集其说话时的唇动、表情、面部肌肉变化细节、姿态等数据。
?2. 形象建模,进行绑定
设计所需的模型,或基于特定真人进行高还原度建模,进行关键点绑定。关键点绑定的数量及位置影响最终效果。
?3. 训练各类驱动模型
决定最终效果的核心步骤 利用深度学习,学习模特语音,唇形,表情参数间的潜在映射关系,形成各自的驱动模型与驱动方式。
充足的吸动关键占配合以精度较高的驱动模型,能够高还原度的复原人脸骨骼和肌肉的细微变化,得到逼真的表情驱动模型。
?4.内容制作
基于输入的语音(或由输入文本转化的语音),预测唇动、表情等参数 核心的技术流程是基于输入的语音,或首先基于TTS技术(Text-to-speech,语音合成技术)。将输入的本文转化为语音。
基于语音,结合第3步得到的驱动模型,并利用生成对抗模型GAN选出最符合现实的图片,推理得到每帧数字人的图片。通过时间戳,将语音和每帧的数字人图片进行结合。
?5. 进行渲染,生成最终内容
直播时进行实时渲染。为保证在特定场景下能够实现实时低延迟渲染,计算框架的大小、算力供给等技术问题同样会影响到虚拟数字人的最终生成效果
?AIGC在虚拟数字人应用中的案例
?1. 虚拟客服:在客户服务领域,AIGC赋能的虚拟数字人可以作为智能客服,为用户提供24小时不间断的服务。通过自然语言处理等技术,虚拟数字人可以准确理解用户需求,并给出满意的答复。
?2. 虚拟偶像:在娱乐产业,AIGC技术使得虚拟偶像的创作变得更加简单。虚拟数字人可以通过学习大量数据来模拟偶像的言行举止,甚至可以根据用户需求进行个性化表演,为用户带来全新的视听体验。
?3. 虚拟导游:在旅游业,AIGC驱动的虚拟数字人可以担任虚拟导游的角色。他们可以根据用户的兴趣和需求,为用户提供个性化的旅游建议、景点介绍等,帮助用户更好地规划旅程。
在AIGC领域,我们将虚拟人生成分为虚拟人视频生成和虚拟人实时互动。
虚拟人视频生成是目前计算驱动型虚拟人应用最为广泛的领域之一,不同产品间主要的区分因素包括:唇形及动作驱动的自然程度、语音播报自然程度、模型呈现效果(2D/3D、卡通/高保真等)、视频渲染速度等。
我们经常听到的小冰公司与每日财经新闻合作的虚拟人实时直播,除虚拟人的自动生成外,还包括了摘要、图示、表格等的自动生成,在虚拟人的基础上,交付了更为完整的AIGC内容播报产品。此外,倒映有声的TTSA除虚拟人外,还包括整个画面中的素材呈现,相较于市面上嘴形、面部和身体律动的有限覆盖,虚拟人播报的整体效果也有所提升。
?1. 代表公司:倒映有声
一家以技术为核心的创新型公司和无人驱动数字分身技术解决方案供应商。通过自研神经渲染引整和TTSA技术,实现基于文本实时生成高质量语音(音频)和动画(视频)。
倒映有声的虚拟人自然度高于市面产品,倒映有声将其归结于神经渲染(NeuralRendering)、TTSA(基于文本和语音合成实时生成音频和视频)、ETTS(富情感语音合成)、DiqitalTwin(数字孪生)。通过神经渲染技术快速构建AI数字分身,通过语音+图像生成技术,生成和驱动教字分身的唇形、表情、动作、肢体姿态,创造表情自然,动作流畅,语音充满情感的高拟真度数字分身IP。
而虚拟人的实时互动则广泛应用于可视化的智能客服,多见于APP、银行大堂等。在AIGC的虚拟人领域,由于更能够体现AI在个性化、高并发性等方面的优势,我们更强调虚拟人的实时交互功能。我们可以将这一功能理解为以人为单位的数字变生,其中会进一步涉及思维及策略相关的生成。但由于文本生成的局限性,该场景目前只能适用于特定行业。
该领域的代表公司包括:HourOne.ai、Synthesia、Rephrase.ai、小冰公司、倒映有声、数字王国、影谱科技、科大讯飞、相芯科技、追一科技、网易伏羲、火山引擎、百度、搜狗等。
除了基干NLP进行问答外,以小冰公司和腾讯Alab(A虚拟人艾灵)为代表,部分公司也在尝试将不同的生成能力融合在虚拟人下,使虚拟人能够更好的融入现实世界。
以小冰公司的小冰框架为例,虚拟人不仅在人格化形式上涉及了虚拟面容生成,虚拟语音定制、交互等,并进一步被赋予了写诗、绘画、演唱、音乐创作等AI内容创作能力,以虚拟人为接口,对外提供全栈式的AIGC能力。
?2. 虚拟人及综合性AIGC代表公司:小冰公司
小冰是全球领先的人工智能科技公司,旗下小冰框架是全球承载交互量最大的完备人工智能框架之一,在开放域对话、多模态交互、超级自然语音、神经网络渲染及内容生成领域居于全球领先。
作为“Albeing”派虚拟人。小冰的产品始终是人+交互+内容。具体包括虚拟人(夏语冰等somebodyinstance、虚拟男友等nobodyinstance和国家队人工智能助判与教练系统观君等在乖直场景中工作的虚拟人类),音精生成(主攻超级语言及歌声,在线歌曲生成平台与歌手歌声合成软件Xstudio)、视觉创造(毕业作品集《或然世界》、为国家纺织品开发中心、万事利等数百家机构提供了图案和纹样设计)、文本创造(2017年即推出小冰诗集)、虚拟社交、Game Al(Xiaoice Game Studio)等。
商业客户已覆盖金融、智能车机、零售、体育、纺织、地产、文旅等十多个垂直领域,并提出了以“人力”的逻辑去进行商业报价的虚拟人商业模式。
综合来看,我们认为虚拟人生成代表着从文本/音频等低密度模态向图像/视频/实时交互等信息密度更高的模态的转化。其中,视频是短期的发展重点,而长期来看,乃至在元宇宙阶段,通过实时交互成为社交节点,都将是虚拟人重要的应用场景。
?AIGC在虚拟数字人领域面临的挑战与未来趋势
尽管AIGC在虚拟数字人领域的应用已经取得了显著的成果,但仍面临一些挑战。例如,如何进一步提高虚拟数字人的智能化水平、如何确保虚拟数字人与用户的互动更加自然流畅、如何保护用户隐私等。
未来,随着技术的不断进步和应用场景的不断拓展,AIGC在虚拟数字人领域的应用将更加广泛。我们可以期待更加智能、更加个性化的虚拟数字人出现在我们的生活中,为我们带来更加丰富的互动体验。同时,随着虚拟现实、增强现实等技术的融合发展,虚拟数字人将成为连接现实世界与数字世界的重要桥梁,推动人类社会向更高层次的智能化迈进???。