计世网

NVIDIA对话式AI研究最新成果:可进行情感语音合成
作者:王莉娟 | 来源:计算机世界
2021-09-01
AI的声音将更具表现力。

 

数字时代,AI日益渗透人们的生活,语音服务也成为了智慧生活中不可缺少的重要元素。8月31日,在INTERSPEECH 2021大会上,NVIDIA展示了语音技术方面的突破性进展,其中包括对话式AI最新研究成果——开发者和创作者可使用最先进的对话式AI模型进行情感语音合成,为角色、虚拟助手和个性化形象生成声音。

 

AI赋能合成语音

近些年来,随着智能语音交互需求的增加,语音识别、互动技术也逐渐走向成熟。过去,合成语音多数为单调的机器人呼叫和传统GPS导航系统,如今在AI技术的赋能下,已转变成智能手机和智能音箱中能够对话的虚拟助手。

AI的赋能是语音合成技术的一次飞跃式进步,不过因为人在说话时会有复杂的节奏、音调和音色,而AI很难在这些方面进行模仿,所以AI合成语音与我们在日常对话和媒体中听到的人类语音之间仍有差距。在最近召开的INTERSPEECH 2021大会上,NVIDIA表示这一差距正在迅速缩小。

NVIDIA指出,研究人员正在创建高质量、可控制的语音合成模型和工具,这些模型和工具能够捕捉人类语音的丰富性,并且不会出现音频杂音,有助于为银行和零售商的自动客户服务热线配音、使视频游戏和书籍中的人物变得栩栩如生,并为数字化身提供实时语音合成。

据介绍,情感语音合成只是NVIDIA 研究院在对话式 AI领域的重点工作之一。该领域还包括自然语言处理、自动语音识别、关键词检测、音频增强等。这些前沿工作经过优化后可以在NVIDIA GPU上高效运行,其中的一些工作已经通过NVIDIA NeMo工具包开放源代码,可在NVIDIA NGC 容器和其他软件中心获得。

出色的情感表达

据NVIDIA应用深度学习研究部副总裁Bryan Catanzaro介绍,NVIDIA目前已经将突破性的语音合成模型应用于“I AM AI”系列视频。据悉,该系列视频介绍了重塑各个行业的全球AI创新者。不久之前,这些视频还都是由人类进行配音。

以前的语音合成模型对合成声音节奏和音调的控制十分有限,因此AI配音无法唤起观众的情感反应,只有富有感情的人类声音才能做到这一点。在过去的一年中,NVIDIA文本-语音研究团队开发出了更强大、更可控的语音合成模型(如RAD-TTS),使得上述问题得到了解决。

据悉,NVIDIA在SIGGRAPH Real-Time Live比赛中的获奖演示就采用了该模型。通过使用人类语音音频来训练文本-语音模型,RAD-TTS可以将任何文本转换成说话人的声音。

该模型的另一项功能是语音转换,即使用一名说话人的声音讲述另一名说话人的话语,甚至歌唱。RAD-TTS界面的灵感来自于将人的声音作为一种乐器这一创意。用户可以使用它对合成声音的音调、持续时间和强度进行精细的帧级控制。

通过这个接口,视频制作者可以在录制中自行阅读视频文本,然后使用AI模型将他作为男叙述者的语音转换成女叙述者的声音。制作者可以使用这个基准叙述,像指导配音演员一样指示AI,比如通过调整合成语音来强调特定的词语、修改叙述节奏以更好地表达视频中的语气 等。

该AI模型的能力已超出了配音工作的范围:文本-语音转换可以用于游戏、为有声音障碍的人提供帮助、或帮助用户用自己的声音进行不同语言的叙述。它甚至可以重现标志性歌手的表演,不仅能够匹配歌曲的旋律,还能匹配人声背后的情感表达。

强大的语音功能

会上,NVIDIA介绍了用于GPU加速对话式AI的开源Python工具包——NeMo。研究者、开发者和创作者通过使用该工具包,能够在自己的应用实验和和微调语音模型方面取得先机。

据悉,NeMo中易于使用的API和预训练模型能够帮助研究人员开发和自定义用于文本和语音的转换、自然语言处理和实时自动语音识别的模型。其中几个模型是在NVIDIA DGX 系统上使用数万小时的音频数据训练而成。开发者可以根据自己的使用情况对任何模型进行微调,运用NVIDIA Tensor Core GPU上的混合精度计算加快训练速度。

此外,NVIDIA NeMo还通过NGC提供在Mozilla Common Voice上训练的模型,该数据集拥有76种语言、近14000小时的众包语音数据。该项目的目标是在NVIDIA的支持下,通过全球最大的开源数据语音数据集实现语音技术的普及化。

据悉,INTERSPEECH汇聚了1000多名研究人员,他们将展示AI语音技术方面的突破性进展。在本周的会议上,NVIDIA研究院将展示对话式AI模型架构以及供开发者使用的完全格式化语音数据集。

文中所提I AM AI系列视频链接:https://www.youtube.com/playlist?list=PLZHnYvH1qtObE_PjzaAFqS_CpmumGx5cW

责任编辑:王莉娟