“身临其境”畅游万米海底

日前,2020年中国十大科技进展新闻揭晓,我国无人潜水器和载人潜水器取得新突破顺利入选。鲜为人知的是,为记录“奋斗者”号万米载人深潜,搭载了中国科学技术大学视频压缩核心技术的芯片,跟随“奋斗者”号的御用摄影师“沧海”号一起潜入万米海底。后期,“沧海”号拍摄的超高清视频资料,经过中国科大教授熊志伟团队“全海深3D重建与超高清视频处理”,“奋斗者”号深潜过程以及神秘的海底世界将以裸眼3D的形式呈现给观众,让你“身临其境”畅游万米海底。

2020年11月10日,万米级全海深载人潜水器 “奋斗者”号在马里亚纳海沟成功坐底,深度10909米,创造了中国载人深潜新纪录,标志着我国在大深度载人深潜领域达到世界领先水平。

为真实记录“奋斗者”号万米载人深潜,“全海深视频采集、传输、处理技术研发及系统集成和示范应用”项目被列入2018年国家重点研发计划。其中,“全海深3D重建与超高清视频处理技术研究”是该项目的重要内容,这一课题由熊志伟团队承担。

熊志伟介绍,中国科大拥有世界领先的视频压缩技术,他们承担的课题主要负责全海深超高清3D视频重建算法及演示系统研制,主要研究内容包括深度估计、视角合成两个方面。其中,面向深海场景,研究结构指导的3D视频重建技术;面向实际应用,研究高效高质量的3D视频重建算法加速,搭建一套适用于深海场景的3D视频演示系统。此前,中国科大教授吴枫主持的中科院先导专项“深海超高清三维/全景视频实时低损压缩存储系统”,为此次任务的圆满完成奠定了坚实基础。

“在深海场景视频拍摄过程中,有单目相机和双目相机,双目相机的基线固定,要想获得任意视角下的立体显示,需要对拍摄内容的深度进行估计,从而换转视角重新渲染。这个过程需要很多关键技术的支撑。”团队成员、副教授陈雪锦透露,团队研究了多尺度残差结构预测的深度神经网络来提高3D视频重建精度,他们在缺乏万米海深的训练视频数据情况下,通过采用少量浅水数据以及图形合成技术来模拟深海复杂场景,努力提高场景细节结构的保真度。

陈雪锦介绍,深海场景拍摄的双目视频往往是固定视角,在后期制作时,近景时双目相机基线较小就可以获得较好的3D效果,但远景时双目相机基线必须够大才能感受到3D效果,因此需要根据不同的视角合成新的3D视频。基于对深海场景的深度估计,团队根据新视角合成可见部分内容,重点在于保持背景和前景的结构细节。对于不可见部分,则根据在深度估计网络中提取到的语义和几何结构信息,指导缺失区域的内容填补,获得保持场景内容的无缝区域填补。

全海深超高清3D视频重建算法及演示系统研制的突破,将极大推动极端环境下视频处理理论方法与关键技术的发展,提升我国在深海、深空等相关领域的整体研究水平,满足视频处理在极端环境中不断拓展的迫切需求。“同时,这一课题对于科普教育而言意义非凡。”团队成员、教授刘东坦言,立体逼真地展示神秘海底世界,将能激发更多孩子的好奇心,吸引他们将来更加积极主动探索未知。

来源:中国科学报