让“无声世界”感受赛场魅力!带你看看冬奥手语数字人有哪些奥秘******
2022年2月4日,第24届冬季奥林匹克运动会在北京举行,让世界目光再次聚焦中国。本届北京冬奥会秉持绿色、共享、开放、廉洁的办赛理念,凝聚中国科技力量,面向世界、面向未来,向全球奉献了一场精彩、非凡、卓越的奥运盛会。
本届冬奥会运用最新科技手段,为全世界观众提供了惊艳的现场转播和全方位覆盖报道,北京冬奥会也成一场上科技含量高的奥运会。赛事活动期间,为了让各类人群都能平等地享受本届冬奥盛会,北京电视台上线了智能手语播报数字人,在《北京新闻》和《北京您早》等节目中进行冬奥专题手语播报,为听障人士带来精彩赛事报道。
最新数据显示,我国听障人群超过2700万,这部分人群与健听人一样,他们对教育、社交、娱乐等信息获取都有巨大的需求。但长期以来,传统人工手语翻译工作量大,且主持人和手语主持人配合难度极高。手语动作表情复杂,语序与正常语序差异大,正常情况下想要熟练掌握手语大约需要2年左右的时间,还要结合语境进行猜测。
受北京市科委科技冬奥专班委托,北京电视台联合凌云光、智谱AI等业内科技公司,在北京市残疾人联合会和市残联聋人协会等支持下,用3个多月时间,让手语播报数字人完成了近10万条手语语料学习,且翻译准确率高达90%。
在如此短的时间内实现这项高难度动作,智能手语数字人是如何做到,在这背后又有哪些技术创新难点?
在多位业内人士看来,近年来人工智能体系建设重点布局在算法层和应用层,数据层建设远远不足,并且针对数字人相关产业,底层数据库的数量、质量和开源程度还明显不足。尤其是国内现有的手语语料数据库数量少,且多以图像、视频等二维平面为主,无法满足AI(人工智能)训练的需求。
同时,因手语语序与中文语序差异大,方言分化更加复杂,且需要通过表情、口型、动作等方式来传达信息。除了传统的二维平面图像、视频采集,三维肢体运动、表情信息数据采集及结构化参数表达外,手语语料数据库建设对三维运动信息捕捉也十分重要。
凌云光手语数字人产品相关负责人介绍,在建设高质量手语语料库的同时,他们充分调研了2022北京冬奥专用手语术语,并联合北京市残联、聋人协会等相关组织机构,进行数据标注,建设手语语义映射关系,不仅完善了国内手语数据库的建设,也为手语推广和AI研究留下了宝贵的数据资产。
该负责人举例说,基于“悟道2.0”超大规模人工智能模型的技术支撑,手语数字脑用计算机模仿听障人士的大脑,将看到的中文文本信息转换成手语词汇序列,包括中文语义蒸馏模型和AI手语分词快编算法的研究。中文语义蒸馏模型用于从输入的文稿或文本中提取出关键的语义信息,将中文文本语义提炼和精简,形成精准匹配适合手语表达的文本;AI手语分词快编算法则用于将蒸馏得到的中文文本,根据冬奥手语语料库划分成相应的手语词汇序列,供数字人做表达输入。
该负责人还提到,数字人是冬奥手语播报的载体和展现形式,通过高精度写实数字人全流程制作方案,可实现一键数字建模,高度还原真人发肤,重新毛孔等细节,更加真实亲切。同时,通过跨模态拟人生成算法,还可以将手语词汇序列,生成相应的动作信息,驱动数字人模型做出相应的动作、手势和表情。(姚坤森)
《三体》上线,科幻迷进入狂欢模式******
《三体》电视剧在1月15日晚开播,这个中国科幻的最大IP千呼万唤始出来。在网上,有细节控整理出了“汪淼的幽灵倒计时”“叶文洁的红岸基地”“三体游戏”“古筝行动”等名场面出现的集数;而观众纷纷表示,“今年过年就给《三体》了”“让我脱水,快到开播”“自然选择!前进四!”……不负众望,电视剧一开播就跃升至微博热搜第一、豆瓣实时热门电视榜第一。
《三体》原著作者刘慈欣说过,想象力是人类所拥有的一种似乎只应属于神的能力,它存在的意义也远超出我们的想象。有历史学家说过,人类之所以能够超越地球上的其他物种建立文明,主要是因为我们能够在自己的大脑中创造出现实中不存在的东西。
从小说连载到电视剧开播,过去了17年,现在,我们已经处于《三体》所描述的未来时的起始时间段。文字让读者能够以100种1000种方式想象人物的一颦一笑、想象宇宙的瑰丽宏阔,而影视让大脑中的想象在眼前有了对应的所见。观众已经准备好了挑剔而渴望的目光,《三体》准备好了吗?
越真实、越接近真正的科学,就会越像《三体》
读过《三体》原著的大部分读者非常相信,小说本身已经提供了完整的结构和内容,改编再去做更多修饰是多余的。于是,主创团队请来刘慈欣参与其中,编剧田良良来来回回做了十几版剧本。在创作过程中,考虑的第一要素就是要尽可能贴近原著。
从导演杨磊到视觉导演陆贝珂,再到摄影指导,团队中很多人都是《三体》铁粉。他们认为,创作《三体》有一定挑战,因为这跟以前拍的科幻题材都不一样,所谓科幻元素或者外星人元素,并没有直接出现在画面里,只是给人一个理念,而理念,是最不好表达的。
《三体》是一部天马行空的科幻小说,但主创团队希望用极其真实的方式去展现电视剧。就像杨磊说的,“让所有东西越真实、越接近真正的科学,它就会越像《三体》”。
为了能让科幻“落地”,主创团队找了很多方法拉近观众和作品之间的距离,把深奥的科幻概念用比较容易被理解的语言来转述。比如,“宇宙闪烁”是原著中一个著名概念,剧中就用一个灯泡和一个物体之间的关系来做解释。
杨磊介绍,剧中涉及约200个场景,从上世纪六七十年代的“红岸”到2007年的北京,时间跨度非常大。电视剧基本还原了小说中的所有场景,最初希望全部在真实的地方拍摄,但很难实现,还是有置景。
《三体》总制片人李尔云说:“普通场景是可以搭建的,但是剧中一些重要的科学场景,很难通过搭建的方式去还原,美术组认为是一个不可能的任务。那放在我们面前的路就只有一条,那就是‘死磕’,用我们的专业精神和真诚,去打动科研机构。”最终,剧组等来了好消息。相关科研单位提供很大支持,在多个科学场景实现了实景拍摄,比如对撞中心、国家纳米科学中心等,这也是这些地方第一次迎来电视剧剧组。
“我们也能用特效的方法来解决,但我觉得它不真实,拍出来我不相信,所以力求所有的地方都用真的。场景的真实程度,能让演员、制作者,有一种沉浸感,可信度也会加强。”杨磊说。
“古筝行动”怎么拍?
几乎每一部科幻影视作品的特效都会尤其受到关注,做得好是赋予作品超越文字的魅力,反之亦然。《三体》的特效有两部分,一是真正拍摄中的特效,比如用纳米丝切割轮船的名场面“古筝行动”,二是《三体》游戏的部分。
杨磊说,“古筝行动”最大的麻烦是,切割之后,船要撞成什么样,没有任何一部影片或者已有资料可作参考,“船体被切割后的每一个变形都是不一样的,每一片都要单独设计,没有办法用传统电影美术的方式来完成。它不是纯粹的刚体,还会扭曲变形,这在特效行业里叫‘刚体的动力学模型’”。于是,主创团队只能用真的钢,压成片、窝成船型,然后用挤压机一片片地挤,挤完之后,再推上去焊接成一条船。
如果说“古筝行动”等段落的难点,在于需要让画面尽可能真实;而《三体》游戏本就属于虚拟场景,则需要更多想象力。
《三体》总制片人白一骢介绍,在充分评估了技术细节、时间成本和成品效果后,摄制团队一致决定用CG的(Computer Graphics的英文缩写,通过计算机软件所绘制的一切图形的总称——记者注)方式来制作。而这对演员来说,也是一次新鲜的体验和挑战。“以前对演员的要求是真听真看真感觉,但在动捕服和绿幕的包围之下,更考验演员的想象力和信念感。”
他同时透露,《三体》游戏的CG动画部分,邀请了一些同行朋友来提供面部,以作为游戏人物的面部,如郭靖宇、梁振华、马东、高亚麟、江南、唐家三少、侯鸿亮、费振翔……有兴趣的观众可以在剧中寻找这些人的面孔。
演员们也为讲好这个中国科幻故事付出努力。饰演常伟思的林永健说,这是他从艺以来遇到在台词方面最有挑战的一部剧,“这里面有很多逻辑性的东西,因为他们都是物理学家,讲话都很缜密”。饰演老年叶文洁的陈瑾说:“台词很多,也很难背,尽管我已经理解了它的意思,但如果用我自己的语言来说,还是会不太对。”
张鲁一在剧中饰演物理学家汪淼,在开拍之前,他就开始搜寻各种相关知识,尤其是物理方面的,“剧中有太多日常生活中涉及不到的专业词汇和专业用语,球状闪电、宏原子、数量级……了解很多知识的同时,也是在不断突破自己,让我对于科幻作品的认知打开了一扇门”。
科幻不能只靠刘慈欣,更不能只靠《三体》
2019年春节,同样改编自刘慈欣小说的电影《流浪地球》上映,引发观影热潮,迄今位列中国影视票房榜第五位。2023年春节,《流浪地球2》将要上映,预售票房稳居前三。观众对于科幻题材作品的热爱与科幻题材作品的质量与产量满足不了观众需求的矛盾,可能是现阶段最大的矛盾之一。
科幻不能只靠刘慈欣,更不能只靠《三体》,而科幻影视化的“落地”就更为不易。从某种程度上,中国科幻的长路依然漫漫,《三体》只是一个略显孤独的先行者。甚至有时候觉得,如果它没有得到如此大的关注,那就是中国科幻到了更好的时候。
从2006年《三体》小说第一次连载,到2016年首次公布影视化消息,相隔10年,到2023年真正开播,又过去了7年。在这7年里,我们经历过挫折与悲伤,但又同心协力向前走了很远。
“同舟共济版”预告片中讲到,“我们不知道敌人是谁、敌人什么样、敌人是怎么存在的。但是有一点,面对来自地球以外的敌人,我们所有的人,都是第一次。人类同舟共济的时刻到了”。“把我们人类看成是虫子的三体人忘了一个事实,那就是,虫子从来就没有被战胜过。”这些小说中的名句在剧中得到还原,而此时此刻再看,又多了一些感同身受。
刘慈欣一直描写宇宙的宏大神奇,描写星际探险,描写遥远世界中的生活和文明。他相信,无垠的太空仍然是人类想象力最好的取向和归宿。17年过去了,《三体》中的未来时间,已经变成了现实的时光。
“人类探索的步伐不会停止,在过去、现在、未来的每一个17年里,都将持续不断地向未知、向不确定性发起挑战。人类或许是渺小的,但坚韧和勇气,让我们在这个广阔的宇宙中成为了那个特殊的偶然。”刘慈欣说。
宇宙那么大,我们都想去看看。
中青报·中青网记者 蒋肖斌 来源:中国青年报
(文图:赵筱尘 巫邓炎)