桃厂变形记 | 对话算法工程师: 为了更懂影视艺术的“画面美学”,他们使出了当年学高数的劲头

来源:广东网 发表时间:2021-12-1 9:47:33

“电影、电视剧本质上都是声画艺术,影视艺术的特性决定了,主创要努力通过声画手段将观众带入故事的规定性情境中,进而让观众沉浸其中、走入人物内心,产生共鸣共情。”爱奇艺自制剧《理想之城》导演刘进9月在接受《光明日报》采访时,谈到了作为创作者,如何理解声音与画面在创作中的重要性。

如果在几个月前读到这句话,小林觉得自己可能会有种“知其然,但不知其所以然”的感觉。但在经历了一段时间“集训”后,作为理科生的他觉得自己对美的认知开始“开窍了”。

作为爱奇艺的一名算法工程师,小林所在的算组团队从去年起开始支持帧绮映画——融合4K+HDR+高帧率+全景声的影院级音画标准。适配帧绮映画标准的内容率先在TV端上线,直到2021年暑假,手机端也已经全面覆盖。

谁曾想,随着适配的内容越来越多,小林的烦恼也来了。

“帧绮映画上线以来用户端的好评率一直稳定在95%左右。但同时也有一些不同的看法反馈回来。例如有创作者就曾提出帧绮映画的效果并没有为某些情节的表现加分。”小林回忆道。

“是不是生产帧绮映画的算法出了问题?”他的第一反应是先从自身找问题。

“为了看懂艺术表现,工程师们准备了一个错题本”

事实上,从去年七月帧绮映画上线TV端到今年完善在移动端的部署,小林所在的团队就迅速与其他团队协同,搭建起了一套工作流程:制片管理中心从制片方收取原始片源,这些片子可以理解为“生产资料”;通过综合生产评估后,小林所在的算组团队则安排算法支持,随后效果质检后在平台各端上线。后续还会通过舆情收集,定期与算法和内容团队讨论优化方向。

那些不同的看法正是制片管理中心从片方获得的。原来,某国产现代剧的片方提出帧绮映画版本整体色调感觉被改变了,“总之和我们在监视器里看到的效果不一样。”

这条“总结式”反馈让算法团队忙惨了。算法是决定帧绮映画模式效果呈现的关键环节之一,因此质检同学迅速反应,把算法来回检查好几遍。但的确没发现有什么大问题。

小林在困惑的同时,也在思考片方反馈中反复提到问题——“色调“。而接下来的一件事则更勾起了小林对“画面色调“的关注。

作为一部反映建筑工程行业的职场剧,爱奇艺自制剧《理想之城》上线后受到了不少争议。剧中主角是长期公司工地两头跑、熬夜做数据的造价师。在展现主角实现理想的前期,导演摒弃了流行的滤镜、刻意调亮光源来还原现实中的人物 “疲惫、无奈、痛苦”等氛围感,但却被用户吐槽”造型太土”“打光太暗”。

这是小林第一次直接感受到画面色调对影视表达的重要性。其实在影视制作中,这一步是由专业的调色师来完成的,毕竟他们在数万部作品中积累了对“个性化艺术表现“的丰富经验。“可面对艺术表达的多元性,算法的经验值则更聚焦增加对比度、去除噪点等图像处理方面问题。如果让习惯了标准化的算法去理解像《理想之城》所运用的特殊色调表现,也许可能会自动识别为‘此处需调亮’。“但这就会破坏导演希望通过艺术手法传递情绪的意图。

那么导演在监视器看到的画面色调到底是怎样的?现有算法对色调理解的调优方向如何?对此,算法团队和制片管理中心、内容生产运营团队坐在一起探讨解决方案。

“讨论如何解决问题的过程中,矛盾、冲突肯定是有。”小林回忆说,最终,大家还是聊出了一个共识:无论如何,要最大程度还原片方监视器中呈现的效果。毕竟影视作品的第一创作责任人是导演,他追求的效果就应该原滋原味呈现给观众。

在一次讨论中,内容生产的同学颜颜的一番话让他印象很深。“大家在描述美是什么的时候,每个人都会根据主观意识来定义。但是如果说让他们描述缺陷或者很明显哪块是不对的,各个调色老师可能是有一部分的共同认知的。”

于是长期浸泡在代码世界的小林以及所在的算组团队和颜颜很快开启了“恶补模式”。像学生时期一样,他们准备了一个“错题本”,不仅持续更新学习到的影视制作专用词,更与其他几位算法部的同学还拜入“三里屯调色派”(爱奇艺制片管理中心的办公地)门下。

调色师从典型场景开始,手把手开始跟算法的同学讲解为什么要这样调。“一开始根本听不懂后期调色经常使用的术语。”小林说。但是眼前的效果他服了。相比算法更关注画面细节,调色更重要的价值是释放画面的整体表现力。“有一次去看调色老师调图的时候,他把调色的过程分成很多步。”小林说,“从画面的呈现来看,在倒数第二步的时候,我感觉画面颜色、细节的表现都已经很好了,但老师‘还没收手’,他又把一些背景区域的光线调得更暗了一些,结果画面的主体感一下就变得更明显了。”那一刻, 小林第一次有种“艺术细胞”被激活的感觉。

《世界微尘里》蓝光1080P模式

《世界微尘里》帧绮映画模式

算组的小伙伴们拿出学高数的劲头投入调色学习中。除了“拜师学艺”外,小林也打心里感谢制片管理中心和内容生产的同学。“他们还会定期尝试与创作者、调色师做‘艺术交流’,将问题汇总并贴上标签反馈给我们,以帮助我们更有针对性地优化算法。”他说。

功夫不负有心人。 几个月后,小林和其他算组同学就已经可以跟调色师无障碍沟通了,一些问题就在微信上交流下,便能理解“师傅”的修改建议。

“算法迭代的同时,也少不了提升片源质量”

“他们还在样片库中找到很多运用了特别调色方式的内容,以便更好地理解像《理想之城》这类作品特别调色的创作意图,不断帮我们输出‘知识点’,丰富我们的‘错题本’。“小林想起这件事,仍然心存感激。

也正是经过一段时间的学习,小林所在的团队对算法能力进行了一定的优化,在一些创作者的“好评”中再次获得了成就感。同时,他们也不得不面对一个问题——在对特别艺术表达的“理解”上,算法更多还是助攻,更有效的解法还要从根源处突破。

就拿色调来说。在影视内容后期制作中,经常被用来把握色调准确性的内容输出格式便是SDR、HDR。相对于4K在画面清晰维度的贡献,HDR的能力则更多元。相比传统SDR的表现力,HDR在画面丰富色彩的准确呈现、画面细节的增强、光影层次感的表现等方面的优势则更突出。

图片来源于网络

但实际操作中,以SDR格式交付的内容仍占主流。

制片管理中心的东风表示:“国内整体影视工业在交付的流程和标准化比较落后,HDR版本内容的制作流程仍然较为复杂,拍摄处理、后期剪辑的工作量非常大。”

同时剧组前期拍摄与最后的调色之间由于存在可能的时空断层。调色师更多情况需要凭借经验完成任务,难免会在艺术表现的理解上存在偏差。再加上赶审片和播出排期,的确是时间紧,任务重。“因此片方往往只能退而求其次先递交SDR版本片源,可SDR片源无论对于算法调优还是内容生产都会造成一定阻碍。”

更糟糕的是,影像的动态范围是呈漏斗状逐渐降低的。虽然摄像机能拍摄到拥有非常宽广动态范围的影像,但通过后期制作、母版制作、压缩等环节,影像传输到电视机、手机中时,动态范围已经减小很多了。可想而知,SDR版本的内容真正呈现在用户面前,又会丢失多少艺术创作的心意。

图片来源于网络

“其实对几条片方反馈问题的排查后,我们发现,最核心的问题还是片源。”这是几轮内部沟通会后大家达成的一致想法。如果作为生产资料的片源所承载的表现力只有60分,那么算法也只能把分数提到70-80,落地到播出终端后,“依然没办法为用户呈现监视器前看到的效果”,小林解释道。

片源质量提升是需要长期解决的问题。对此,制片中心已明确提出逐步向片方升级收片标准,包括涉及到更多视听技术细节的规范。但这不止是爱奇艺需要面对的问题,也是影视工业生态均需要解决的问题,需要流媒体平台、制片方、剧组等整个影视生态通过工业化提升片源质量。如今,爱奇艺也正在通过包括《4K制作白皮书》、IMF格式封装、系列优化算法、帧绮映画认证标准、“飞跃计划”在内的“5个1工程”,打通从摄制端到播出端技术链条,建立统一的供应链管理,为超高清画质建立基础。

目前,帧绮映画已摸索出一套切实可靠的生产流程,即及时对各端反馈进行收集,定期分析整理给予技术算法团队优化方向。当遇到报障时则是另外一套流程,从片源、算法到播放设备进行逐一排查,定位核心问题后再探讨解决方案,并做最后的上线评估。

“我们无论是去做帧绮映画还是推动影视工业化,都源自我们的使命感,更是源自我们对艺术家的尊重。我们希望通过技术创新以及联动行业的共同努力,为艺术家更丰富的灵感汲取、更高效的创作提供充分服务尊重。”来自制片管理中心的一番话,一直让小林觉得很有力量。

正如巴别塔不好建,这座连接用户和内容创作者的桥也并不好搭。虽然经过反复沟通、学习、摸索下来片源之问题仍然存在,但帧绮映画团队仍乐此不疲的奔走在“帮助技术更好地理解艺术表达”需这条路上。面对爱奇艺海量的节目数量,算法稳定性所受考验可想而知,但每一个整改建议都有可能是更帮助算法更进一步的台阶。目前,小林和他所在的算组团队依旧会对收集到的用户或创作者反馈做及时总结,为“如何让算法更懂色调“加速探索着更优的迭代方向。“遇到一个问题就解决好一个问题,追求极致的过程虽然很难,但我们没想过放弃。”小林这样说。

(小林、东风、颜颜均为化名)


免责声明:
本网站部分内容来源于合作媒体、企业机构、网友提供和互联网的公开资料等,仅供参考。本网站对站内所有资讯的内容、观点保持中立,不对内容的准确性、可靠性或完整性提供任何明示或暗示的保证。如果有侵权等问题,请及时联系我们,我们将在收到通知后第一时间妥善处理该部分内容。