热门文章
- NEOM旗下数字科技公司推出XVRS – 一...
- OpenXR一统江湖,终结VR/AR标准之争,...
- 深入浅出,解读元宇宙应用与实践
- 元宇宙只是社会的衍生而不是全部
- 老牌黑客:在元宇宙实现人生巅峰的关...
- 英伟达发布“元宇宙”创作工...
- Epic发布虚幻引擎5,或打开游戏的元宇...
- 《解构未来:元宇宙技术实践与应用2023...
- 元宇宙的终极形式,竟然是脑机接口?
- 元宇宙的建设需要哪些硬件?
- 红杉资本:生成式人工智能,一个充满创...
- 解密通往元宇宙的三大入口,VR先...
- 通往工业元宇宙的数字孪生,为何离不...
- 香港大学建立全球首个元宇宙双子校园
- 元宇宙将带来新一轮信息技术革命浪潮
- 立体逼真的城市细节,室外甚至室内的3...
- 2024年面世!谷歌将发布首款AR头显,携...
- 高通骁龙XR2平台,360度全景的视野,让...
- 全球首款AR隐形眼镜问世:是元宇宙窗...
- 元宇宙、Web3.0入侵生活 科技人才投身...
助推元宇宙图像渲染,上科大提出ICARUS芯片定制架构
在尼尔·斯蒂芬森于1992年出版的科幻小说《雪崩》中,存在一个可以让人们的虚拟化身生活的数字世界,这或许是近年来大火的“元宇宙”概念的起源。而2018年上映的电影《头号玩家》,把对未来元宇宙更为具体的想象带给了全世界。随着近年来VR、AR、AI、5G等元宇宙关键技术的快速发展,过去只存在于想象中的元宇宙正向人们的生活靠近。
其中,作为元宇宙与人们交互的窗口,渲染成为众多元宇宙关键技术中的重中之重,被喻为元宇宙技术栈上的皇冠。如何快速、高效地在便携终端上渲染出逼真的图像,成为元宇宙落地亟待解决的难题。
ICARUS是一款基于NeRF渲染算法的定制化芯片。在向芯片加载经过训练的NeRF网络参数后,只要输入观察位置与视角,ICARUS即可快速渲染出该视角与位置下的图像。
针对真实图像渲染的难题,上海科技大学芯片设计团队提出了最新的ICARUS芯片定制架构。ICARUS是一种基于NeRF(Neural Radiance Fields,神经辐射场)算法技术的定制化硬件加速芯片,它使得在手机、VR眼镜等终端实时渲染出极为精致的逼真图像成为可能。
“使用传统的渲染技术在终端设备上进行实时的逼真图像渲染几乎无法实现,但是ICARUS基于最新图像学渲染技术,加之对其定制化的硬件优化,使得过去不可能的任务变得现实。”上海科技大学信息学院助理教授、研究员娄鑫表示。目前ICARUS有关论文已被计算机图形学顶级会议ACM SIGGRAPH ASIA 2022接收。
ICARUS上集成了位置编码模块(Positional Encoding)、多层感知机模块(MLP Engine)和体渲染模块(Volume Rendering Unit),可支持多种NeRF、SLF类似网络。芯片内部使用可配置的定点数运算,并且在MLP模块中使用了乘法近似算法。在保证足够的计算精度的情况下,ICARUS可适用于不同场景的渲染,并且大大降低了芯片的面积与功耗。
NeRF技术:简化传统渲染技术流程
在过去,超逼真的渲染技术大多用于顶级科幻电影的制作,以及一些大型3A游戏中,其大多使用光线追踪的传统渲染技术。光线追踪算法通常需要建立大量的虚拟模型,并且对其进行关于材质、纹理等有关光学参数的调试与标定。在高精度模型建立好的基础上,依照物理规律对其进行迭代仿真,最终可以得到以假乱真的图像,让观众察觉不到虚拟物体与现实物体之间的差别。
但仅仅使用传统的光线追踪渲染技术并不能让我们拥抱元宇宙。上海科技大学信息学院博士生、论文第一作者饶朝林表示,除去传统渲染技术中无法避免的复杂渲染流程,巨量的算力和功耗限制了传统图像渲染技术的应用场景,令其无法广泛地运用于真正可接入元宇宙的终端设备。“目前高质量的图像只能通过最先进的显卡渲染得到,这意味着庞大的设备体积与极高的计算功耗,使得手机、VR眼镜等便携设备无缘这些逼真图像。并且基于传统的图像渲染技术,根据模型精细程度的不同,渲染一张图像通常需要消耗数秒至数小时不等,实时渲染的目标仍然遥不可及。”
神经辐射场(NeRF)是近年来新出现的图像渲染技术,其本质是将整个物体空间利用神经网络进行隐式编码并得到特定的模型,即可利用模型重建出三维场景并渲染出各种新视角下的图像。
NeRF技术可以对现实场景、物件扫描后进行建模,达成快速映射、快速渲染的目的,对比传统渲染技术中需要手动建模等流程大大简化。NeRF的提出与发展将三维场景的隐形表示方法推向了新的高度,能够生成无界场景的逼真渲染,实现了360°照片般逼真的新型视图重建合成效果,已然成为了元宇宙发展新方向,并可能成为下一代图像渲染的核心技术。
ICARUS可以使用极低的功耗进行高保真的图像渲染,图为ICARUS渲染结果与原图像和GPU渲染图像结果的对比。可以发现在多数场景下ICARUS拥有与GPU渲染相近的PSNR(用于衡量图片相似度的系数),并且在视觉感官上取得了可与之媲美的渲染效果。
ICARUS:为NeRF算法定制的硬件加速芯片
仅仅只有NeRF在算法层面的进步,在元宇宙对图像渲染的高要求面前远远不够。在NeRF算法中存在大量的全连接层计算,对硬件计算能力要求极高,并且过去的图像渲染硬件并不能直接适配类似NeRF的新算法。“通观计算机发展历史,软件与硬件的进步总是相辅相成的,如今新一代的图像渲染技术已经出现,那必然需要新一代的硬件设备与之适配。而ICARUS也正是在这样的时间节点上提出的。”娄鑫说。
在ICARUS芯片中,集成了位置编码模块(Positional Encoding Unit)、多层感知机模块(MLP Engine)和体渲染单元(Volume Rendering Unit),在片上实现了NeRF渲染的全流程。为了在较小的芯片面积内取得较高的能效比,在芯片设计过程中运用了很多提高能效比的技术。
上海科技大学信息学院研究生、论文共同作者万浩川介绍,在ICARUS中使用了经过量化的定点数模型,并且在多层感知机模块中使用了移位累加等近似算法的硬件设计。这些针对NeRF的硬件优化设计可以在几乎不改变最终渲染图像质量的情况下,大大减少芯片面积与计算能耗,未来可适用于人们日常生活中的各种轻量终端中。在使用同一种NeRF网络进行一张分辨率为800x800的渲染图片时,运行在1.245GHz的英伟达V100显卡需要27.74秒,并且其芯片约为815mm^2,功耗约为300W。而根据理论计算,运行在400MHz的ICARUS需要45.75s,但其芯片面积仅为16.5mm^2,功耗仅为282.8mW。
上海科技大学信息学院研究生、论文共同作者郑越洋介绍,下一步,ICARUS将跟随NeRF类算法的飞速发展,未来会把更多的编码、网络结构集成进ICARUS芯片,以支持更多种类的应用场景。ICARUS将在明年进行流片(试生产)并点亮,届时将成为第一款为NeRF算法定制的硬件加速芯片。
元宇宙神评
相关主题
-
元宇宙价值链上IC“起舞”,政策热情传至“区县”一级
-
手机芯片、智能驾驶、元宇宙……高通骁龙之夜干货来了!
-
元宇宙步步紧逼 留给芯片巨头们的时间不多了
内容概要:或许是2077,或许是更早,总有一天会有一款芯片将成为那款决定性的的产品——决定着“元宇宙”的未来走向,也决定着谁能够吃下这块万亿市场。
-
“华米OV”与造芯巨头争夺元宇宙?
-
元宇宙时代 缺这样一颗“专用”芯片
内容概要:AR 行业是否到了需要一颗专用芯片的拐点?近期,Rokid 与安谋科技联合造芯的消息,把这一话题抛到了行业聚光灯下。
-
元宇宙现状:三大难点待解
内容概要:总结而言,罗马不是一天建成的,元宇宙要想最终实现极致的沉浸体验、超时空的社交体系,及虚实交互的经济系统,以我们现在的技术来看还为时尚早。
-
元宇宙深度报告——元宇宙:引领未来20年科技发展浪潮
-
元宇宙落地,为什么脱虚向实才是王道?看完不走弯路
-
元宇宙背后的芯片机会
内容概要:中国的半导体制造还需要进一步追赶才能从 AR/VR 芯片的发展中获得收益,其中不仅仅包括半导体芯片制造工艺,还包括高级封装这类能从另一个维度提高整体系统能效比的核心技术。
-
元宇宙的建设需要哪些硬件?
-
苹果加入元宇宙“硬件大年”
-
Meta 产品负责人:元宇宙正在追赶智能手机
-
微软元宇宙大撤退!
内容概要:2023年开年第一波大裁员,微软重创手下VR/AR团队。有了「新宠」ChatGPT,手中的「元宇宙」真不香了。
-
《2022中国空间智能行业前瞻报告-甲子光年》(附PDF下载)
内容概要:甲子光年智库联合宸境科技,立足于产业角度,共同探讨空间智能技术推动虚拟现实产业落地实践的价值,并特此推出《2022空间智能行业前瞻报告》
-
2023,元宇宙「脱虚向实」
-
AR/VR再现井喷之势,联想元宇宙双线引领深“入”进击
-
芥子纳须弥!元宇宙新物种有多神奇?
内容概要:传说中的那只AR苹果没有从树上掉下来,但是,这股从元宇宙吹来的风暴,已经裹挟着激战正酣的AR战场上的硝烟,即将在中国消费市场上掀起新的巨浪。
-
厦门元宇宙AR夜景秀震撼上演!
-
深入浅出,解读元宇宙应用与实践
-
VR课代表|如何区分“R家族”
内容概要:为了避免概念混淆,XR其实是一个总称,包括了AR,VR,MR。XR分为多个层次,从通过有限传感器输入的虚拟世界到完全沉浸式的虚拟世界。
上一篇
华硕正式进军元宇宙
上一篇:华硕正式进军元宇宙