通常,我们在显示屏中看到的图像是RGB三色图像,红绿蓝三种颜色叠加形成像素颜色。如果把三色图像拓展,变成十色、百色、千色,那么我们对图像色彩的控制与渲染将无比精细。拥有这么多波段的图像便是光谱图像。光谱图像可以像 RGB 图像那样得到成像目标的空间特征,同时反映目标的内部物理结构和化学成份。因此,光谱成像技术被广泛应用于遥感、医学检测、食品检验等领域。


传统的光谱成像技术通过扫描获取图像,采集时间长、系统体积大。随着计算光学技术的发展,研究人员在光谱图像采集过程中往往会进行一些编码,并采用迭代优化算法进行光谱重建。然而,这种方法会造成计算上的负担,一次光谱重建通常需要耗费几分钟甚至几个小时的时间。而近年来,深度学习在科技应用方面显示出了巨大的潜力,光谱成像也不例外。将深度学习应用于光谱成像,可以在几秒钟内完成图像重建,同时兼具较高的分辨率和简洁的系统


传统光谱成像方法通过扫描获取图像,速度较慢(从左到右依次为点扫描、线扫描、波段扫描) | 参考文献[1]

应用深度学习后的光谱图像重建方法 | 参考文献[1]


近日,浙江大学光电学院郝翔研究员团队以"Spectral Imaging with Deep Learning"为题在Light: Science & Applications发表综述论文,回顾了光谱成像技术应用深度学习的最新进展,对基于深度学习的光谱成像技术进行了梳理,对其各种技术路线进行了原理阐述、研究总结,并整理了当前的光谱成像数据集、概述可能的未来趋势与挑战


网站截图


在综述文章中,有效的分类是必不可少的。作者认为,对于以深度学习为基础的光谱成像,他们已经找到了理想的分类方法。“根据光的基本特性,我们团队将各种已知的光谱成像方法分为振幅编码、相位编码和波长编码三大类。”


振幅编码光谱成像


编码孔径系统中的光谱编码过程 | 参考文献[1],作者汉化


振幅编码光谱成像是通过编码孔径系统(CASSI)进行的,利用编码孔径(振幅掩模)和光栅元件对物体进行编码,进而通过压缩感知恢复算法进行光谱重建。基于深度学习的振幅编码光谱成像将压缩感知恢复的迭代算法替换为深度神经网络,通过编解码协同优化、迭代展开神经网络、非训练网络等方法进行高效光谱重建。


相位编码光谱成像


一种相位编码光谱成像系统 | 参考文献[1],作者汉化


相位编码光谱成像通过衍射光学元件(Diffraction Optical Element, DOE)进行,通过设计DOE的二维高度轮廓实现对不同位置的特定相位延迟,从而实现相位编码。相位编码经过菲涅尔衍射影响到不同光谱成分,然后通过对衍射过程进行建模,即可通过算法对原光谱图像进行重建。由于相位编码后衍射计算的复杂性,传统的迭代算法难以对光谱图像实现有效恢复,这一问题在深度学习出现后得到了一定的解决,目前相位编码的光谱恢复主要通过深度神经网络进行。相比振幅编码,相位编码光谱成像拥有光能损失小、系统紧凑等优点。


波长编码光谱成像


波长编码光谱成像则是直接在光谱维度对图像进行编码,可以通过光学滤光片进行。RGB图像就可以看成一种光谱编码。目前主流的波长编码方式有利用现有的RGB或设计光学滤光片,而编码后的光谱重建则多借助深度学习技术。


基于RGB图像的直接光谱重建是非常火热的方向。随着NTIRE 2018和NTIRE 2020光谱重建比赛的召开,许多深度学习技术团队参与进来,大大拓展了现有的深度学习光谱恢复技术。研究人员对深度学习参与的RGB光谱重建和滤光片设计光谱重建进行了分析,将重建方式分为点重建和块重建,以此对每种重建方式进行了介绍。


本课题组提出的编解码协同设计光谱成像技术 | 参考文献[1]


基于自定义光学滤光片的波长编码是近年来新兴的光谱成像技术。通过设计宽谱滤光片,可以获得比RGB滤光片更大的编码自由度。再结合有效的深度学习技术,可以实现紧凑、快速、准确的光谱恢复。


致谢

感谢论文通讯作者郝翔对本文的审阅与建议。


参考文献



研究团队


通讯作者 郝翔:浙江大学博士生导师,浙江大学嘉兴研究院院长助理。2014年获浙江大学工学博士学位,后曾于耶鲁大学医学院细胞生物系担任副研究员,主要研究方向为光学显微成像/超分辨显微成像、高光谱技术与计算光学。




如果想了解更多产业界和科技创投资讯,

欢迎关注果壳硬科技





发布     👍 0 举报 写留言 🖊   
✋热门推荐
  •              舞阳县九街镇天明寺     2021年08月21日星期六           农历辛丑年七月十四 南屏晚钟..好像唐寅(伯虎)和阳明先
  • 直播结束后,徐同玲还为在青岛海昌极地海洋公园开展志愿服务活动的30名中学生,讲解在景区游玩时的注意事项,并特别强调保护生态海洋及海洋动物的重要性。以行业专家的视
  • 一眼就不会忘的动漫情头#头像# #情感语录# #情侣头像[超话]# #情感[超话]#看完了哥哥的一公舞台,比较下来我还是喜欢姐姐1的公演,每一场每个组都有记
  • 因为有个人关于我洗头发时间的话我得将运动时间随之调整所以等有个人和哥哥回来,等哥哥给有个人冲好蜂蜜水,我邀哥哥一起去跑步跳绳(早上再做操、瑜伽‍♀️)哥哥:你今
  • 不清楚都可以问或评论查询#广州全切双眼皮# 谁说女孩子出门慢?口碑技术好不好?
  • 性格比较极端,个性不稳定反复无常,特备是耳朵过于的突出也是属于挥霍浪费的女人,在金钱上很不注重,既固执又异想天开,既有开拓思想又不循礼法,既有奉献情怀又具反叛性
  • 小时候太爱吃甜的了,蜜三刀什么的,看见就馋的那种,越长大反而越不喜欢吃甜的了,比我能接受的程度稍微甜一点就不喜欢。谁知道过几年我的口味还会发生什么变化,wsdw
  • [可爱]当纳兰容若遇上仓央嘉措,有人说不读纳兰容若和仓央嘉措不是真正的读诗人也有人说男不读纳兰容若,女不读仓央嘉措但是,总有那么许多人爱慕纳兰容若真心仓央嘉措深
  • [委屈]而如今的王宝强和她也形成了鲜明的对比,不仅事业有成,而且和现任女友冯清的感情也特别的甜蜜恩爱,两人相处就如同老夫老妻一样,让人十分的羡慕。[委屈]而马蓉
  • 活着,真实的才是最性感的样子 对于生活,我已掌握了基本要领冰淇淋再好吃也要少吃,体寒绝对不只是手脚冰凉这么简单。做自己感到快乐的事情,人这辈子只能为自己的快乐买
  • !如果你也有想改变的想法、找副业、创业…欢迎你的加入,成为其中的一员,做起来才是第一步!
  • 三年了,对手换了一个又一个,我一直都在LPL的牌桌上。三年了,对手换了一个又一个,我一直都在LPL的牌桌上。
  • 这是年稚的我,很难理解的部分。Ps.用心理学与个人的生活阅历、情感角度来解析文学作品,也是在解读自己。
  • 经过一年多的矫正,李李的牙齿排齐了,咬合问题也得到了改善。13岁的李李就是在这时发现自己的牙齿不整齐,觉得不够美观好看,露出来会让同学们笑话她。
  • 几个小时后,戴九江决定把它上传至自己的视频号,“我们船员都在海上,看到了也帮不了。”三天前,站在“弘进”轮的船舱内,王巍峨曾手持身份证、操着福建口音录制了一段呼
  • #军事新闻#【#沈阳二手房陷入困局# 15万套库存高居不下 位置不好的挂一年卖不了】沈阳二手房库存人均占比远超天津和重庆,链家统计的在售二手房数量排名上,沈阳每
  • !!
  • 健康的女性应当超过12秒,男性超过13秒。健康的女性应当超过12秒,男性超过13秒。
  • 但是面对自己深爱的人和学生知己,还是会觉得难过窘迫,而他们出现发生的事情摧毁了他最后的信念。整部电影都充斥着一种理想主义,现实中的我们大多是折中的人,像十三郎这
  • 暴风雨来临的时候,又可以给我们一天的休假,因为那时候必须用钟声来驱除雷电和冰雹,我们的责无旁贷地去敲爱情失恋分手复合桃花运年运事业运年运桃花姻缘事业财运学业