查看原文
其他

浙江大学郝翔等 | 紧凑型计算光谱信息采集系统综述(全文翻译)

宋洪亚,郝翔等 信息与电子工程前沿FITEE 2022-10-01

本文译自 Song HY, Zhang WY, Li HF, et al., 2020. Review of compact computational spectral information acquisition systems. Front Inform Technol Electron Eng, 21(8):1119-1133. 

http://doi.org/10.1631/FITEE.1900266



紧凑型计算光谱信息采集系统综述

 

宋洪亚1,张文屹1,李海峰1,刘旭1,2,3,郝翔1

1. 浙江大学光电科学与工程学院现代光学仪器国家重点实验室,中国杭州市,310027

2. 浙江大学宁波研究院,中国宁波市,315100

 3. 山西大学极端光学合作创新中心,中国太原市,030006


摘要:随着计算机科学的发展,越来越多硬件功能可通过软件编程实现,使得光学仪器更加紧凑、廉价,光学设计和加工也更加方便、快速。近年来,软件算法被引入光谱探测,发展出一些计算型的光谱仪、光谱成像设备等光谱信息采集系统。通过与传统非计算方法比较,本文突出了计算光谱采集的优势。重点关注紧凑性特征,回顾最具代表性的计算光谱信息采集系统,并作讨论和展望。


关键词:光谱成像;计算成像;光谱仪



1  引言


光谱的探测有着悠久的历史。人类第一次光谱探测是由Isaac Newton在1665年进行的(Newton, 1979),他使用三棱镜将阳光分成彩虹图案。然而,直到1859年Kirchhoff and Bunsen (1861)开发出第一台实用的光谱仪,定量的光谱测量才得以实现。20世纪60年代,随着半导体和光电器件的发展,直读型光谱仪诞生,使光谱数据的存储和处理更加方便。自20世纪80年代以来,随着二维CCD阵列的出现,更好的光学设计、改进的电子设备和先进的制造技术都有助于将测量性能提高一个数量级,从而将光谱采集仪器带入蓬勃发展的时代。从那时起,光谱成像技术得到广泛应用(Hagen and Kudenov, 2013)。然而,传统的光谱仪和光谱成像装置也存在许多缺点,例如成本高、体积大、重量大等。

近年来,随着计算机科学的发展,越来越多的硬件功能可通过软件编程实现,这使得光学仪器更加紧凑、廉价,光学设计和加工也更加方便、快速。随着更多的软件算法(Bangalore et al., 1996; Vigneau et al., 1997; Kurokawa et al., 2011; Rajwade et al., 2013)被引入光谱探测中,特别是压缩感知(Candès et al., 2006; Donoho, 2006; Baraniuk, 2007; Candès and Wakin, 2008)和计算重建算法,传统光谱仪原有的缺点将有望得到改善。此外,随着廉价、轻便、小型的光谱采集系统被广泛应用,光谱探测对消费者的门槛也随之降低。已有报道表明,便携式光谱采集系统甚至可以在智能手机平台上实现(Das et al., 2016)。
在尝试对比相关的计算光谱探测方法之前,有必要在本综述中对“计算”光谱信息采集系统做出明确的界定。一般来说,可以根据一些粗略的原则来区分出计算型光谱探测系统。首先,计算光谱探测系统通常包括光谱调制或欠采样部分,以获得变换过后的光谱数据。其次,计算光谱探测系统往往采用了复杂的软件算法从原始数据中提取光谱信息。然而随着光谱探测技术的发展,大多数的光谱采集系统或多或少也都采用了一定的软件算法,例如去噪算法、超分辨率方法以及数据映射等。限于篇幅,本综述只关注那些原始数据只有经过某种计算变换才能被人直观理解的方法,即系统硬件获取的原始数据与软件转换后的输出数据看起来完全不同。这使得计算成为系统的核心,从而将计算型与传统光谱信息采集系统区分开来。两者对比如图1所示。在符合要求的实现中,我们更加关注那些有潜力实现小型化、轻量化和泛在化光谱探测的方法。


计算与非计算型光谱探测方法对比示意图

 

本综述回顾多种计算光谱仪和计算光谱成像系统。因为背后的物理原理不同,传统的光谱仪和光谱成像系统很少并列分析;但在计算型系统中,它们的原理很相似,甚至某些计算型光谱仪稍加改进即可成为光谱成像系统。因此,本综述将两种系统都视为计算光谱信息采集系统。



2  计算光谱仪


光谱仪是检测光谱的最典型仪器。它获取一维(1D)光谱信息。根据光谱仪的工作原理,传统的光谱仪可以分为基于滤光片的和基于光栅的(Wolffenbuttel, 2004; Chaganti et al.,2006)。

2.1  基于光栅的编码孔径光谱仪

如图2所示,基于光栅的光谱仪一般由5个部分组成:狭缝入口、准直光学元件、色散元件(通常是光栅)、聚焦光学元件和探测器阵列(Wolffen-buttel, 2004)。基于光栅元件的色散特性,硬件系统对测试光源的狭缝部分进行采样,并在探测器阵列平面上形成光谱分布,由此通过测量色散后的强度分布来获得光谱形状。然而,基于狭缝的色散光谱仪设计存在一个主要的问题:光谱分辨率与光通量的权衡。若在保持光谱分辨率的同时增加狭缝光谱仪中的光通量,则必须使用更长的狭缝和探测器,这无疑会增加系统的尺寸和成本(Cull et al., 2007)。在不牺牲光谱分辨率的情况下使光谱仪通量最大化的设计被认为具有Jacquinot优势(Jacquinot, 1960),如基于编码孔径和软件算法的光谱仪。


图 2  传统光栅光谱仪示意图


事实上,编码孔径光谱仪系统已经提出很长时间。在20世纪50年代早期,Golay (1949, 1951)发明了第一个编码孔径光谱仪。在接下来的几十年中,编码孔径光谱仪也有许多改进(Girard, 1963)。随着数学方法的发展,哈达玛变换(Hadamard-transform,HT)光谱仪成为编码孔径光谱仪的主流(Decker, 1971; Hansen and Strong, 1972;Phillips and Briotta, 1974; Swift et al., 1976)。然而,这些哈达玛变换光谱仪仅具有单通道探测器或有限的离散探测器阵列和活动的掩模部件,这使得它们结构复杂并且难以小型化。

Gehm et al. (2006)提出一种二维(2D)编码孔径方法,该方法针对漫射光源的光谱表征进行优化,被称为静态多模复用光谱仪(static multimodal and multiplex spectrometer, static MMS)。Gehm et al. (2006)通过数学上的证明,表明其2D编码必须满足正交性约束。通过将输入孔径图案基于任意正交函数族进行设计,即可满足正交性约束要求。由于在使用连续掩码(Fourier基和Legendre基)时Parseval关系不成立,这本身会增加噪声水平,因此首选离散码。通过使用基于行加倍Hadamard矩阵的正交列编码来替换狭缝,该系统可以在增加光通量和信噪比(SNR)的同时不牺牲光谱分辨率。与狭缝光谱仪相比,静态MMS的通量输出增加约10倍,SNR增加约3.4倍。图3为通过编码孔径系统获得的畸变校正后的强度图像。


静态 MMS获取的强度图像(畸变校正后)

Reprinted from Gehm et al. (2006), Copyright 2006, with permission from OSA


Gehm et al. (2007)通过将色散元件替换为全息光栅,改进了静态多模复用光谱仪,并将探测器阵列从黑白CCD改为彩色CCD(Cull et al., 2007)。全息光栅中设计了3个不同的光谱通带,中心波长对应于蓝色、绿色和红色光。与其他的复用光谱仪设计不同,光栅周期将每个通带范围内的光谱分布在整个探测面上,而不是沿着非色散轴分离光谱带。因此,该系统被称为色散多路复用光谱仪(DMS)。这导致3个光谱带的光会入射到相同的探测器像素上,造成光谱混叠。(Cull et al. 2007)选择彩色CCD来检测光谱,通过分别重建来自RGB三个颜色通道的数据,可以解算出混叠的光谱。全息光栅和CCD拜耳滤光片之间光谱响应差异引起的数据偏移则通过使用非负最小二乘算法进行校准。最终将检测到的光谱与Ocean Optics USB 2000光谱仪的测量结果比较,其结果如图4所示,从中可以清楚地分辨光谱峰值的位置。在提出DMS之后,Feller et al. (2007)(与Gehm来自同一团队)尝试将编码孔径改变为37阶有序修正均匀冗余阵列(MORA),并将其系统命名为多阶有序编码孔径系统(MOCA)。图5为该系统对霓虹笔灯的光谱探测结果与Ocean Op-tics USB 2000光谱仪测量结果的比较。

4  DMS与商用光谱仪的测量结果比较

Reprinted from Cull et al.(2007), Copyright 2007, with permission from OSA


MOCA与商用光谱仪的测量结果比较

Reprinted from Feller et al. (2007), Copyright 2007, with permission from OSA


通过应用多路复用和计算重建方法,编码孔径光谱仪可以使用更小探测器测量更宽的总光谱范围,使得光谱仪更易小型化。实际上,DMS系统大小在厘米级(如图6所示),与钥匙长度相当。


 6  DMS内部结构(a)DMS尺寸对比图(b)

Reprinted from Cull et al. (2007), Copyright 2007, with permission from OSA


2.2  基于滤光片的计算光谱仪

基于滤光片的光谱仪基本结构大同小异,其硬件主要由三部分组成:光束收集部分、滤光片和探测器(阵列)。光束收集部分收集来自试样的光线,使入射光的光学参数(例如入射角、光通量、杂散光水平等)更适合于滤光和检测。当光透射穿过滤光片时,不同的波长分量被顺序地分开,或者同时照射到滤光片阵列上。最后,通过探测器或探测器阵列测量每个光谱分量,从而获取被测样品的光谱信息。

计算光谱仪和传统光谱仪之间最显著的区别在于滤光片的不同。在传统上,用于进行波长选择的是带通滤光片。光谱分辨率越高,就必须使用通带越窄和越多的滤光片。这增加了整个系统的体积和复杂度。同时,当光谱响应曲线变窄时,光通量下降,导致信噪比降低。而对于计算光谱仪,每个滤光片均采用宽谱滤光片,这使得光谱仪系统探测到的数据看起来与原始光谱完全不同。然而,通过应用计算重建算法,原始光谱可以通过计算恢复。由于宽带滤光片比窄带滤光片有更多的光通过,计算光谱仪可以从较暗的场景中检测光谱。此外,根据压缩感知理论,可以适当地设计滤光片的光谱曲线来高概率恢复稀疏光谱,且滤光片的数量远小于期望的光谱通道数(从较低维向量恢复较高维向量),这无疑是非常有利于小型化的。另一方面,通过使用更多数量的滤光片,可以使用正则化算法(由更高维向量获得降噪后的较低维向量)来降低噪声,这增加了信噪比并使整个系统有更高的鲁棒性。

2.2.1  低成本薄膜光谱仪

Chang and Lee (2008)展示了利用低性能、低成本的滤光片阵列实现片上精细光谱仪的可能。图7为静态滤光片阵列光谱仪的基本系统模型。滤光片阵列直接放置在诸如CCD传感器的光电传感器阵列的顶部。单个滤光片可以对应于单个CCD像素或一组CCD像素。然后将CCD传感器的输出输入到数字信号处理器中。其硬件系统结构类似于传统的基于滤光片的光谱仪,唯一的区别在于滤光片阵列的光谱分布曲线。如图8所示,所有滤光片都是宽带和所谓的低成本滤光片。在其原型系统中,滤光片的数量为40,并且通过非负约束最小二乘(NNLS)算法重建光谱数据。由于作者仅展示了窄带高斯形光谱的重建结果,因此只能确定该系统可以对高斯形光谱的中心波长进行较好的定位,误差水平在2 nm左右。进一步的定量评估仍需更多测量数据支持。

基于滤光片阵列的光谱仪示意图

Reprinted from Chang and Lee (2008), Copyright 2008, with permission from OSA


低成本滤光片的响应曲线40个滤光片中的5个)

Reprinted from Chang and Lee (2008), Copyright 2008, with permission from OSA


2011年,Chang et al. (2011b)改进了他们的软件实现,并对重建精度进行更为复杂的分析。他们采用高斯核模板进行降噪重建,并将算法改进为l1范数最小化方法。在仿真和实际测量中,将NNLS、TNNLS(Tikhonov正则化非负最小二乘)和l1范数算法进行比较,也将宽带样品(通过有色塑料滤光的卤钨灯)添加到测量中。同年,Chang et al. (2011a)将滤光片数量增加到119个,并将其应用于LED光谱的精确测量,实现了平均绝对误差小于1 nm(以半高全宽计)(FWHM)、中心波长的平均绝对误差小于0.5 nm 的测量精度。该系统标志着使用低成本传感系统达到实验室水平的光学光谱仪性能成为可能。然而值得注意的是,测量精度水平不能代表光谱分辨率,因为该系统只能对同一类型的单个LED进行分辨,测量结果高度依赖于早期训练和高斯基数目的选择,这限制了其应用前景。

Oliver et al. (2012)(与Chang来自同一团队)利用光谱信号的稀疏性质,表明可分辨光谱通道数量可以超过所使用滤光片的数量。基于压缩感知(CS)方面已有成果 (Candès et al., 2006; Donoho, 2006; Baraniuk, 2007; Candès and Wakin, 2008)和随机矩阵在信号采集和恢复方面的应用,Oliver et al. (2013)将滤光片重新设计成一组具有随机透射率的滤光片。在使用40个滤光片的情况下,当光谱通道数N达到405时,重建均方误差(MSE)可控制在5 dB以下。此外,在重新设计滤光片后,分辨率可以从6.5 nm提高到0.99 nm。

值得注意的是,该分辨率数值是由MSE推导而来,而非传统定义下的分辨率。它实际上表征的是稀疏信号重建的g.MSE(genie-aided MSE)水平(Oliver et al., 2013)。换句话说,该分辨率结果仅适用于特定光谱测量而非任意光谱。然而,与低成本滤光片相比,经设计过的随机透射滤光片显示出7倍的分辨率提高,这有利于光谱仪小型化。

2014年,NanoLambda公司采用低成本滤光片光谱仪结构和纳米压印光刻技术,推出一种用于肤色测量的小型光谱仪产品(Chang et al., 2014)。其主体部分尺寸仅为7.5 mm×6.5 mm×5.7 mm。如图9所示,该光谱仪非常小,可以放在手指上。尽管其光谱重建精度并不完美,但当应用于肤色测量时,xyz三刺激值校准后的颜色误差Δxy小于平均值0.0037,这对于消费者使用来说是很不错的。


9  NanoLambda 公司提供的小型光谱仪产品

Reprinted from NanoLambda Inc. (https://nanolambda.myshopify.com), Copyright 2019, with permission from NanoLambdaInc.


2.2.2  基于标准具的光谱仪

从广义上讲,标准具也具有光谱滤波特性。鉴于此,本综述将基于法布里-珀罗标准具的光谱仪也作为一种基于滤光片的光谱仪。由于标准具有多个波长的波长选择性,因此可将其归类为广义宽带滤光片。利用标准具宽带特性的光谱仪也是计算光谱仪。传统上,基于标准具的光谱仪总是包含扫描机械部件,这阻碍了其小型化(Yetzbacher et al., 2014)。Huang et al. (2017)通过在CCD前面集成不同厚度的标准具,提出一种标准具阵列重建光谱(EARS)的小型化方法,实现了紧凑的硬件尺寸。其系统结构如图10所示。


10  EARS系统示意图:(a) 标准具由两个半反射表面组成,其反射率R由折射率为n和厚度为d的光学透明介质决定。在两个表面之间反射的光与自身干涉,产生如图(b)所示的光谱透过率曲线;(b)两个不同厚度(d1d2)的标准具具有固定编码形状的光谱透过率曲线;(c)置于特定厚度的标准具阵列下方的CCD探测器将记录透过标准具后的编码光,测量的数据将用于重建入射光的光谱

Reprinted from Huang et al. (2017), Copyright 2017, with permission from Springer Nature, licensed under CC BY 4.0

 

详细地说,标准具半反射表面是30 nm的银膜(反射率约为0.7),光学间隔层为700 nm厚的SiO2层,其上有厚度为0.8–2.8微米的10×10 PMMA阶梯结构,总腔厚度变化为1.5–3.5微米,共分为100个阶梯(Huanget al., 2017)。腔阵列放置在CCD传感器上方。可达到的分辨率由标准具的厚度范围和精细度决定。EARS系统达到4 nm的采样周期,并且在奈奎斯特采样原理下等效提供8 nm的光谱分辨率。然而,如果已知信号在特定基础上是稀疏的,则通过采用压缩感知的性质,分辨率可能超过分辨率极限。例如,如果已知信号是激光源,则波长中心位置精度可高达0.12 nm。腔体阵列的结构使EARS系统进一步满足小型化的需求。如图11所示,腔阵列尺寸为5 mm×5 mm,比一枚十美分硬币还要小。然而,Huang etal. (2017)的实验装置整体尺寸仍然比较大,以获得更好的光控制和更高的测量性能。采用CMOS兼容的法布里-珀罗制造工艺,有望实现单片式光谱仪(Correiaet al., 2000)。


11  EARS中的腔阵列:(a)10×10标准具阵列尺寸对比图,左边是一枚硬币;(b)荧光灯照明的标准具阵列的彩色照片,显示了不同标准具的透射光颜色

Reprinted from Huang et al. (2017), Copyright 2017, with permission from Springer Nature, licensed under CC BY 4.0

 

2.2.3  新型材料滤光片光谱仪

材料科学和纳米制造技术的发展为物理量的操纵带来更多自由度,也为光谱的调制带来了许多新方法。基于新型材料的光谱调制方法克服了传统制造带来的一些限制,拓宽了光谱探测的范围。在这里,本综述简要介绍几种具有代表性的新材料滤光片光谱仪的实现。

1. 量子点光谱仪

Bao and Bawendi (2015)提出一种基于宽带量子点滤光片的光谱仪。通过用由195个胶体量子点(CQD)组成的2D吸收滤光片阵列代替干涉光学器件,该微型光谱仪可以达到1 nm的光谱分辨率,测量范围为300 nm。量子点光谱仪与宽带滤光片光谱仪具有相似结构,因此也有与宽带滤光片光谱仪相同的优点。通过增加滤光片阵列中使用的不同CQD的数量,可同时增加光谱通道数和光谱范围而不牺牲总光子效率。此外,由于量子点材料的光谱各向同性特性,量子点光谱仪可以在保持光谱分辨率的同时分析来自宽发散角度光源的光。而由于光学滤光片具有高的角度敏感度,传统的基于滤光片的光谱仪很难做到这一点。

量子点光谱仪的光谱重建结果如图12所示。可以看出它再现了光谱的主要特征。量子点光谱仪基于光的吸收特性工作,这是CQD最可靠的特性。这不仅使其更加环保,而且还提高了稳定性,对于商用光谱仪来说非常关键。



12  量子点光谱仪的测量结果:(a–d)十字对应量子点光谱仪测量的宽带光谱,实线对应参考光谱(使用商用光谱仪测得);(e)紫外激发下五种CQD样品的荧光发射;(f)十字对应(e)中所示的五个CQD样品的发射光谱(使用量子点光谱仪测得),实线对应参考光谱(使用荧光分光光度计测量);(g–h)单色光谱的测量

(g)中6个单色光的峰值位置为400 nm、450 nm、500 nm、550 nm、600 nm和650 nm,(h)中6个单色光的峰值位置是500 nm、501 nm、502 nm、503 nm、504 nm和505 nm;(h)中的插图比较了500 nm单色光的测量光谱(十字)和参考光谱(实线)。Reprinted from Bao and Bawendi (2015), Copyright 2015, with permission from Springer Nature


CQD滤光片阵列是通过用自动移液器将小滴CQD/PVB溶液紧密印刷在玻璃盖玻片上而制成的。图13展示了CQD滤光片阵列。每个点是由嵌入聚乙烯醇缩丁醛薄膜中的一种CQD材料制成的CQD滤光片,每个滤光片的尺寸约为0.5毫米。如图14所示,带有电子器件和电路的数码相机形式的量子点微型光谱仪的尺寸与硬币相当。


13  195CQD材料滤光片

每个点都是一个在聚乙烯醇缩丁醛薄膜中嵌入一种CQD材料制成的CQD滤光片。Reprinted from Bao and Bawendi (2015), Copyright 2015, with permission from Springer Nature


14  量子点微型光谱仪,采用数码相机的形式,包含了电子器件和电路

Reprinted from Bao and Bawendi (2015), Copyright 2015, with permission from Springer Nature

 

2. 等离子体超表面光谱仪

超表面最近成为热点研究课题,基于超表面的光谱仪也被开发出来。大多数研究使用超表面作为色散元件来分散不同波长的成分(Li et al., 2015; Shaltout et al., 2015; Faraji-Dana et al., 2018)。Craig et al. (2018)开发了基于等离子体超表面的光谱仪。这是通过使用等离子体超表面阵列(图15)来完成的,该阵列充当用于光谱调制的宽带滤光片。测试样品发出的光透过滤光片阵列,每个滤光片背后的光强由探测器测得。之后使用递归最小二乘(RLS)算法(Hayes, 1996),最终计算得出测试样本的光谱。


15  等离子体超表面光谱仪中的滤光片阵列示意图

Reprinted from Craig et al. (2018), Copyright 2018, with permission from OSA

 

每个超表面滤光片由双面抛光的未掺杂Si衬底上的正方形金块阵列组成。考虑将金块作为共振天线(Crozier et al., 2003; Adato et al., 2009; Kats et al., 2013),可以预见在某一波长下透过率会出现下降,而共振波长则成比例于天线长度。通过改变每个滤光片单元中的天线周期,可以制造具有不同光谱透射率的超表面滤光片阵列。图16显示了所有116个滤光片的透射光谱。可以看出这些滤光片都是宽带滤光片。


16  等离子体超表面光谱仪中116个滤光片的透射光谱

Reprinted from Craig et al. (2018), Copyright 2018, with permission from OSA


重建结果如图17所示。等离子体超表面光谱仪提供了从短波至长波红外(1.5–19 μm)的宽光谱探测范围,远远超过以前的微型光谱仪。然而令人遗憾的是,由于难以制造小型化的宽带红外探测器阵列,因此该系统是使用傅里叶变换红外(FTIR)光谱仪来探测光强,这使得等离子体超表面光谱仪仅仅成为概念验证系统。如果未来能够更加方便地实现这种滤光片阵列与探测器阵列的集成,那么这种方法将实现轻型、便携和廉价的红外光谱仪(Craig et al., 2018)。


17  由碳化硅热棒发出的红外光通过(a)双面抛光未掺杂硅(Si)、(b)单面抛光掺杂硅、(c)玻璃和(d)聚乙烯材料产生的等离子体超表面光谱仪的重建结果

Reprinted from Craig et al. (2018), Copyright 2018, with permission from OSA

 

3. 光子晶体平板光谱仪

光子晶体(PC)材料也是研究领域的热点。在过去几十年中,PC已被应用于光谱探测(Wolffenbuttel, 2004; Momeni et al., 2009; Pervez et al., 2010; Redding et al., 2013; Kita et al., 2018)。然而,这些光谱仪系统中的大多数是波导耦合的,存在严格的角度耦合限制,这大大降低了检测的灵活性。Wang Z et al. (2019)提出一种基于光子晶体平板的自由空间耦合片上光谱仪,并且完全兼容CMOS工艺,可以实现低成本大规模生产。

简而言之,光子晶体板光谱仪的工作原理是,光子晶体平板起到调制光谱的光学谐振器的作用,CMOS探测器用于测量强度。通过在CMOS成像传感器的顶部制造具有不同周期、晶格常数和孔尺寸的PC板阵列,就可以制造出光子晶体平板光谱仪。然而,与光学微腔不同,由于多重共振效应,PC板产生具有丰富光谱特征的透射光谱。检测到的光谱必须通过计算算法重建。Wang Z et al. (2019)采用正则化线性回归算法重建光谱,系统结构如图18所示,重建结果如图19所示。


18  基于光子晶体板的微型光谱仪:(a)光谱仪示意图,由一系列具有不同参数的光子晶体板组成;(b)制造出的6×6光子晶体结构的实物图像;(c) (b)中三种结构的透射光谱T(λ)

Reprinted from Wang Z et al. (2019), Copyright 2019, with permission from Springer Nature, licensed under CC BY 4.0

 

19  光子晶体光谱仪对宽带光谱的还原结果:(a)两个LED(绿色和红色)混色后的发射光谱测量;(b)多模LED(橙色/红色)的发射光谱的测量;(c)穿过两个滤光片的一束白光束光谱测量;(d)通过单个带通滤光片的白光束的光谱测量

(d)中的单色光的外观颜色与(c)中的复合光的外观颜色相同,但是光子晶体光谱仪可以测量出其光谱的区别。对于以上四种测量,使用光子晶体光谱仪(虚线)的测量结果都与通过商用单色仪(红色实线)获得的参考光谱非常匹配。C:准直器;M:反射镜;F:滤光片;BS:分束器。Reprinted from Wang Z et al. (2019), Copyright 2019, with permission from Springer Nature, licensed under CCBY 4.0


从图18可以看出光子晶体平板光谱仪尺寸非常小。每个光谱仪边长约为200 μm。同时,Wang Z et al. (2019)通过在蓝宝石–硅衬底上制造10×10个相同的光谱仪,证明了PC平板光谱仪用于单次高光谱成像的潜力。

PC板可以通过单次曝光光刻制造,并且仅需要标准CMOS材料。由于光谱响应函数完全由外部结构参数控制而不是由材料的特性实现,所以利用该原理还可以缩放PC的尺寸使其应用于任何波长范围,从而为实现光谱仪小型化提供了新思路。

 

 

3  计算光谱成像


与光谱仪相比,光谱成像能够获得涉及空间(x, y)和光谱(λ)信息的三维(3D)数据立方体,空间分辨能力也使光谱数据更加直观。因此,研究人员可以使用光谱成像系统方便地获取光谱信息的空间分布情况。在某些应用中,空间分布信息可能比高光谱分辨率更重要,例如地质调查、作物病害评估等。然而,获取3个维度的信息是一项复杂的任务,因为空间和光谱数据通常通过不同的方法获得,并且对空间和光谱数据的同时采集会增加系统的复杂性。传统的光谱成像方法一般采用空间分割或时间分割来复用时空和光谱维度,从而需要在光谱和空间分辨率(或帧速率)之间进行折衷。

计算成像方法可以解决上述问题。随着压缩感知理论的发展,所获取的数据可以被高度压缩。本综述中将计算光谱成像方法分为两部分:光谱(λ)维度的计算(或者说压缩)和空间(xy)维度的计算。在本节中,我们仍然关注那些采用计算方法实现小型化和泛在化的光谱成像系统实现方式。


3.1  光谱(λ)维度的计算

将单点光谱测量转换为光谱成像装置的最直接方法是直接使用光谱仪获取每个像素的光谱,然后将数据组合成光谱图像。通过应用处理算法,可以压缩用于光谱探测的空间或时间占用,并且能够显著提高空间分辨率或帧速率。事实上,任何使用第2节中计算型光谱仪的扫描或集成成像方法都可以视为光谱维度的计算光谱成像。然而,由于计算型光谱仪出现较晚,还存在着硬件实现的难度,一般很少有用它们进行光谱成像的尝试。第2节中提到的一个例外是PC板光谱仪,实现了10×10像素的空间分辨率,这显然不能与传统成像光谱仪的空间分辨率相比拟。此外,空间扫描成像系统通常包含像振镜这样脆弱的运动部件,使得整个系统更加难以用于日常应用。

在没有移动部件的实现方式中,快照式傅里叶变换成像(SHIFT)光谱仪(Kudenov and Dereniak, 2012)可被看作一种计算型光谱成像系统。然而由于重建过程是通过傅里叶变换进行的,获取的光谱信息并未被压缩。

1. 计算机断层扫描成像光谱(CTIS)系统

计算机断层扫描成像光谱(CTIS)系统是一种典型的计算光谱成像系统。这个概念由Okamoto and Yamaguchi (1991)和Bulygin and Vishnyakov (1992)分别独立提出。经过多年的发展,第一个高分辨率CTIS由Ford et al. (2001)推出。通过使用分辨率为2048×2048的CCD相机,CTIS的空间分辨率达到203×203像素,光谱通道数为55。如图20所示,在CTIS系统中,通过采用2D色散元件,空间和光谱数据在探测器的不同位置上发生混叠。这使得光谱和空间数据压缩成单张快照,并且可以通过断层摄影算法重建光谱图像,从而将系统布局变得更紧凑。


20  计算机断层扫描成像光谱仪(CTIS)的系统示意图

Reprinted from Hagen and Kudenov (2013), Copyright 2013, with permission from SPIE, licensed under CC BY 3.0


然而,非编码混叠、校准困难和测量伪像导致其相对低的光谱分辨性能,并且制造基诺型色散元件(kinoform disperser)较为困难,阻碍了CTIS系统的广泛使用(Hagen and Kudenov, 2013)。

2. HyperCam

Goel et al. (2015)设计了一种名为HyperCam的产品用于泛在光谱成像。它具有简单的系统结构:17个LED光源、驱动板和CMOS相机(该系统的照片见Goel et al. (2015))。每个部分都是低成本的,专为消费者使用而设计。帧速率可从9到150 fps变化,具体取决于使用时的通道数,空间分辨率为1280×1024。

这些窄带LED是根据经验选择的,以覆盖相机的灵敏度范围。LED的光谱功率分布曲线见Goel et al. (2015)。从传统光谱探测的角度来看,这样的光谱分布曲线是性能较差的,因此光谱分辨率预计不会很高。Goel et al. (2015)没有追求光谱重建精度,而是以面向应用的方式优化系统。Goel et al. (2015)针对多用户交互系统中获取用户特定特征和食品监控这两种不同的应用场景进行了大量软件上的优化工作。

对于多用户交互系统中获取用户特定特征这一应用,首先获取多通道图像,然后计算形成强调手部特征的融合式图像。通过评估结果,可以看到这种方法能够一次性区分五个用户,这对于多用户交互系统来说足以实现分辨在任一时间点的多个用户。与第一个应用相比,食品监控应用更为研究者所熟悉,HyperCam系统正确地预测了水果的相对成熟度,准确度为94%;而使用RGB图像的精度仅为62% (Goel et al., 2015)。

HyperCam的设计显示了泛在光谱成像的可能性。虽然这些设备的光谱性能还不尽如人意,但相信随着硬件设计和机器学习算法的发展,低成本光谱成像设备将会广泛用于特定的场景识别应用中。


3.2  空间(x, y)维度的计算

由于压缩感知的提出(Candès et al., 2006; Donoho, 2006;Baraniuk, 2007; Candès and Wakin, 2008),单像素成像的概念也随之出现(Takhar et al., 2006; Duarte et al., 2008),成为一种利用压缩采样获取图像的新的成像方案。单像素成像使用空间光调制器(SLM)生成可变的空间编码,可以通过采用l1范数最小化算法从单个像素探测器获取的数据中重建图像。此外,如果场景在某种变换域是“稀疏”的,则可以极大地压缩所获取的数据量,这对于光谱成像来说是非常有利的。通过使用光谱仪作为单像素探测器,利用单像素成像的系统架构,就可以获取光谱图像。这一方法在过去十年中已经有过尝试(Sun and Kelly, 2009; Soldevila et al.,2013; Kuiteing et al., 2014).。

最早和最具代表性的实现是编码孔径快照光谱成像仪(CASSI)系统。与一般的单像素成像系统不同,CASSI系统开发了不同的结构,并且能更好地利用压缩感知进行光谱成像。CASSI的概念源自编码孔径光谱仪(Gehm et al., 2007; Willett et al., 2007;Wagadarikar et al., 2008)。如2.1节所述,静态多模多路光谱仪(静态MMS)允许在重建处理期间进行解复用,而且通过将列正交矩阵作为编码掩模,不会牺牲光谱分辨率。采用压缩感知理论,编码掩模变为随机二进制矩阵,重构算法则变得更加复杂。如图21所示,CASSI系统的主要组件与静态MMS类似。编码孔径掩模将数据立方体调制为空间维度中的随机中空形状,并且色散元件将数据立方在波长维度上进行移动。2D探测器阵列测量通过沿波长维度投射移位的数据立方体而形成的强度图像。如果该编码方式满足压缩感知的要求,那么就需要使用压缩感知重建算法来估计对象数据立方体(Gehm et al., 2007)。通过适当的硬件设计,整个系统可以非常紧凑,并且由于压缩感知方法,所获取的数据量被高度压缩。此外,该快照成像系统可凭借与探测器相同的分辨率实现视频帧速率的捕获能力。Wagadarikar et al. (2009)展示了CASSI可以30 fps的速率捕获248×248×33的数据立方。


21  CASSI系统示意图

上图:编码孔径快照光谱成像仪(CASSI)的系统布局。下图:对于仅发射三个波长(此处示例图像中使用的波长是系统能检测到的最短,中间和最长波长)的物体,其光线通过编码孔径掩模经散射元件后成像到探测器阵列上的图案。Reprinted from Hagen and Kudenov (2013), Copyright 2013, with permission from CC BY 3.0


在原型CASSI系统之后出现许多改进系统,例如用于提高分辨率和缓解重建复杂性的双摄像头设计(Wang LZ et al., 2015, 2017),用于改善光谱压缩效率的彩色编码孔径设计(Arguello and Arce, 2014; Rueda et al., 2015; Hinojosa et al., 2016;Diaz et al., 2018),用于提高空间分辨率和重建速度的代码孔径模式优化(Arguello and Arce, 2011),特定场景应用的重建算法改进(Arguello et al., 2013; Rajwade et al.,2013; Galvis et al., 2017),以及多维成像的硬件扩展(Gao and Wang, 2016; Ren et al., 2018)。CASSI和基础数学方法在过去十年中已经发展很多,有理由期望这种方法将会在光谱成像中得到广泛应用。

 

 

3  结论

 

在过去几十年中,光谱信息采集技术得到迅速发展。由于新材料和计算算法的应用,出现许多新的实现方式,充分展示了光谱仪和光谱成像的新可能性。与传统方法相比,尽管大多数方法仍具有较低的测量精度,但是从诸如基于智能手机的检测或基于光谱的识别等大众化应用场景来看,这种缺陷并非不可接受。相反,这些方法具有低成本、轻巧和紧凑的优势,这些优势在面向普通消费者的应用中往往比完美测量精度更具吸引力。随着新方法的引入,近年来也出现许多面向消费者应用的小型化光谱探测设备。可以认为,硬件和计算算法的协同设计将实现光谱信息的广泛应用,随着物联网和人工智能的发展,泛在的光谱仪和光谱成像将为人类带来益处。


参考文献(从略)

点击下方“阅读全文”,下载原文PDF


 

主要作者简介

宋洪亚,博士研究生。2016年于武汉大学电子信息学院获得学士学位,目前就读于浙江大学光电科学与工程学院,主要从事计算成像、光谱成像、颜色科学方面的研究。


郝翔,博士,研究员,博士生导师。2014年于浙江大学获得光学工程博士学位,长期致力于超分辨率光学显微镜、光谱学、光刻技术的发展以及这些技术在解决生物学问题方面的应用。2019年起担任FITEE通讯专家。








关于本刊

Frontiers of Information Technology & Electronic Engineering(简称FITEE,中文名《信息与电子工程前沿(英文)》,ISSN 2095-9184,CN 33-1389/TP)是信息电子类综合性英文学术月刊,SCI-E、EI收录,最新影响因子1.604,进入JCR Q2分区。前身为2010年创办的《浙江大学学报英文版C辑:计算机与电子》,2015年更为现名,现为中国工程院信息与电子工程学部唯一院刊。覆盖计算机、信息与通信、控制、电子、光学等领域。文章类型包括研究论文、综述、个人视点、评述等。现任主编为中国工程院院士潘云鹤、卢锡城。实行国际同行评审制,初次转达意见一般在2~3个月内。文章一经录用将快速在线。

2019年,荣获中国科协等七部委推出的中国科技期刊卓越行动计划项目资助(梯队期刊)。


官网http://www.jzus.zju.edu.cn

期刊Springer主页

http://www.springer.com/computer/journal/11714

在线投稿

http://www.editorialmanager.com/zusc


更多信息,请见:FITEE影响因子提升55%,首次跨入Q2区


微信加群


为方便广大科研人员交流讨论,本平台建有以下学科微信群。有需要加群的用户,请加小编个人微信号fitee_xb,并留言想要加入的群,小编会拉您进群。营销广告人员请勿扰。

计算机科学与技术学术群

光学工程与技术学术群

控制科学与技术学术群

信息与通信学术群

电力电子学术群

人工智能学术


加关注  ID: fitee_cae

本公众号为中国工程院院刊《信息与电子工程前沿(英文)》(SCI-E、EI检索期刊)官方微信,功能包括:传播期刊的学术文章;为刊物关联学人(读者、作者、评审人、编委,等)提供便捷服务;发布学术写作、评审、编辑、出版等相关资讯;介绍信息与电子工程领域学术人物、学术思想、学术成果,展示该领域科学研究前沿进展;为该领域海内外学者提供友好互动平台。

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存