站长之家6月7日 消息:腾讯公司开源了一款创新的模型V-Express,它能够使用人像照片生成视频。这一技术通过一系列逐步丢弃的操作来平衡不同控制信号,使得音频等较弱的信号得以有效利用,实现对姿态、输入图像和音频的综合控制。
作者团队表示,在会说话的人脸生成任务中,当目标视频与参考角色不是同一个人时,选择与参考人脸姿势更相似的目标视频将能获得更好的效果。目前,该模型在英语上的表现较为出色,但对其他语言的适应性和表现尚未经过详细测试。
![image.png](https://x0.ifengimg.com/res/2024/C9824BF3F0943717722B998461E09F49334ED2B8_size152_w777_h608.png)
V-Express模型的开源,为肖像视频生成领域带来了新的发展机遇。在这一领域,使用单个图像生成视频的方法正变得日益流行。这通常涉及到使用生成模型增强适配器来实现受控生成,其中控制信号可能包括文本、音频、图像参考、姿势、深度图等。V-Express通过渐进式的丢弃操作,解决了弱信号在强信号干扰下难以发挥作用的问题,尤其是在音频信号常常被姿势和原始图像等强信号掩盖的情况下。
实验结果显示,V-Express能够有效生成受音频控制的肖像视频,这在以往的研究中是一个难以实现的突破。V-Express方法的逐步丢弃操作,不仅有效实现了对弱条件的控制,而且为多条件生成提供了新的可能性和思路。
V-Express模型为肖像视频生成领域带来了创新的思路和方法,通过平衡不同强度的控制信号,成功实现了受音频控制的视频生成。这一成果不仅具有重要的理论和实践意义,而且为未来的多条件生成提供了新的路径。腾讯表示,将继续深入研究V-Express方法,并探索其在更广泛领域的应用,以促进肖像视频生成领域的进一步发展。