November 14, 2018

虚拟制作:Digital Domain漫谈数字人类

作者 Brian Phol

试着想象这样一种拍摄场景,一名真人演员正在表演,而在一旁的虚拟场景中,一位数字人类化身正在以90帧每秒的速度,同步将真人演员的表情和动作一五一十的还原出来。对于导演、制片人和演员来说,这项技术将会彻底改写行业格局,而其原型产品如今已经问世。

数字人类只是虚拟制作诸多诱人前景中的一个侧面。在 《视觉颠覆者:探索虚拟制作的未来》 播客系列的最新一集中,我们将跟随Digital Domain的核心人员,听他们讲述游戏引擎和实时渲染技术将如何为电影制作的世界打开一扇通往高效和创新的神奇之门。

作为该系列的开篇之作,第一集介绍了虚拟制作的基本概念,它对电影制作产生的影响,以及新兴技术的未来。

第二集 《数字人类:演员和化身》中,来自FX Guide新闻网的Mike Seymour(曾以研究名义对自己进行了数字克隆)分别采访了Digital Domain的可视化主管Scott Meadows和软件研发高级总监Doug Roble,听他们讲述了工作室在虚拟制作和数字人类领域开展的开创性工作。
blog_body1.jpg
Meadows在节目中一上来谈到了他最初为 《Tron》 所准备的视觉预览工具集。由于图形硬件和实时引擎技术已经发展到了往日难以想象的高度,他的必须不断更新他的工具集。在经历了 《美女与野兽》《黑豹》《头号玩家》等诸多影片的历练后,Meadows已经可以熟练使用软件将资源直接用于工作流程中的视觉预览阶段、后期预览阶段和完整VFX后期制作阶段,而不必额外为视觉预览阶段制作临时3D模型。

深入研究数字人类


导演如果在现场拍摄时就能直接预览CG内容,就能从根本上打破原有的桎梏。但是如果他们能够在演员表演的同时,还能看到CG角色以最佳画面质量表演出一模一样的动作 ,据此直接根据CG角色而非真人演员来评判拍摄效果的好坏,这又会怎样呢?或者说导演甚至可以亲自表演来提供指导呢?

这就是Roble创立“Digital Doug”项目的初衷所在。他希望制作一套实时高分辨率面部动画系统,这套系统无需标记,只需要最低程度的骨骼绑定,并且只需一台摄像机(难度真是不小!),而且他决定自己先作为小白鼠进行测试。为了实现这个目标,他决定在若干种现有技术的基础上再加入一些特殊的专利秘方,然后用机器学习填补上最后一块空缺。

Roble做的第一件事就是拜访南加州大学创意技术学院的灯光舞台。他用超高分辨率扫描设备拍摄了若干张姿势各异的图像。这些扫描图像虽然拥有惊人的真实度,但是还无法体现时序连贯性——由于缺乏纹理游动,一个动作无法过渡到另一个动作。

然后,Roble找到了Dimensional Imaging(DI4D)公司,让他的扫描数据具备了时序连贯性,但这么做的副作用是会降低图像的分辨率。

在第三步中,Roble回归了Digital Domain的传统动作捕捉方法。为了能够捕捉各种表情和面部动作的全动态动画,他在脸上贴满了160个标记。但是仅靠这160个顶点还无法让制作出的模型拥有照片级真实度的分辨率。

Roble并没有气馁,他随后将机器学习与Digital Domain的Masquerade软件相结合(这款软件首次使用是用于制作 《复仇者联盟:无限 战争》),并据此从光照舞台和DI4D扫描数据中提取出信息,然后将运动捕捉数据的分辨率提升到了80000个顶点。这些高分辨率模型随后再被用于创建融合变形骨骼动画,进而允许动画师使用传统方式工作。
fb_image-(5).jpg
但这个系统能做的还不止这些。Roble能用它创建20000组拥有超高分辨率的图像和模型,涵盖了大量形态各异的姿势。最后一步就是将这些数据输入机器学习的算法之中,然后用它来训练系统。训练阶段结束后,该系统就能以高达90帧每秒的速度为高分辨率纹理和模型计算出的正确的组合方式。因此,无论Doug做出什么动作,数字Doug(基于Doug 的另一个CG角色)就能实时做出相应的动作。而虚幻引擎也不甘示弱,完美地将表演呈现在眼前。

如果你想完整了解这项突破性技术的完整细节,请点击此处收听播客。

加入对话


您是否也是一名视觉行业的颠覆者?您是否希望深入研究虚拟制作?现在就加入对话吧。请点击此处订阅节目,我们会在第一时间将精彩内容推送给您。

另外,记得访问我们的全新虚拟制作专题,了解更多真知灼见、绝佳视频和其它精彩内容。