首页  技术文章  2018 Nature Photonics:单像素成像的原理和前景

2018 Nature Photonics:单像素成像的原理和前景

发布时间:2022-04-23 12:55:40 浏览量:5320 作者:LY.Young 光学前沿

摘要

像素数对于成像用的相机是很重要的。你的相机有多少像素?真正应该问的问题是你的相机需要多少像素?用于数字图像采集的硅基电荷耦合器件 (CCD) 和互补金属氧化物半导体 (CMOS) 像素化传感器的发展是一个快速变化的领域。从手机到专业数码单反相机,构成传感器芯片的像素数量既是性能指标,也是营销必不可少的话题。

正文


2018 Nature Photonics:单像素成像的原理和前


技术背景:

(1)像素数对于成像用的相机是很重要的。你的相机有多少像素?真正应该问的问题是你的相机需要多少像素?用于数字图像采集的硅基电荷耦合器件 (ccd) 和互补金属氧化物半导体 (cmos) 像素化传感器的发展是一个快速变化的领域。从手机到专业数码单反相机,构成传感器芯片的像素数量既是性能指标,也是营销必不可少的话题。

(2)在不适合硅基阵列图像传感器应用的场景,使用单像素探测器二维光栅扫描(raster-scanned)的成像效率与图像像素数成反比。现代扫描技术通常采用一对振镜,用于将光引导到单像素探测器上。光栅扫描系统通常用于需要在不适合硅基传感器技术使用的波段进行传感的应用,在这些应用中,硅基像素化传感器变得昂贵或不切实际,例如红外线或深紫外线。然而,当扫描来自自然场景的光时,任何单点扫描机制的效率都与图像中的像素数成反比。

(3)使用基于计算的方式的单像素相机不需要二维光栅扫描。单像素相机已经应用于可见光成像、光谱成像、高光谱成像、红外成像、太赫兹成像、气体成像、实时视频、后处理视频、显微镜、三维成像、偏振测量(polarimetry)、多模成像、经散射介质成像、X射线衍射层析、光声成像、全息、相位成像、核磁共振成像、眼科成像、血细胞计数、超快成像、长距成像等。

英国格拉斯哥大学的Matthew P. Edgar, Graham M. Gibson & Miles J. Padgett等人撰写综述文章,介绍了单像素成像的原理和应用前景。


单像素相机是如何工作的

(1)相机架构

单像素相机有两个主要部件:空间光调制(spatial light modulator, SLM)和单像素探测器。SLM有两种,一种是DMD,另一种是LCD。虽然LCD具有可调制相位和振幅的能力,但是因为DMD具有出众的调制速率(超过20kHz),因此,在计算成像系统中最常用的是DMD。文章所讨论的LCD均指DMD。

本质上,DMD是一个可编程的二进制传输掩码(transmission mask)。如图1所示为计算成像的两种结构。图1(a)为物体经成像透镜成像在DMD上,DMD编程显示一系列的二进制图案,将物体的像调制后投射到单像素探测器上。图1(b)为DMD投射一系列的二进制图案到物体上,调制物波前,最终被单像素探测记录下一系列的光强信号。DMD的调制速率是单像素相机采集时间的瓶颈,因此,压缩感知的方法被用于避开这个限制。



(2)理解压缩感知

对于压缩感知在单像素成像中的应用,即使我们知道图像可以用稀疏基描述,但是自适应感知策略并不一定起作用。2006 年,Candes和Tao证明了当压缩测量策略是伪随机的,并且与稀疏基完全无关时,使用适当的计算策略可以从压缩测量中以非常高的概率恢复正确的解。例如,图像在小波基上可能是稀疏的,因此在通过应用亚奈奎斯特数量的伪随机模式获得强度测量值后,一种方法是采用所谓的“匹配追踪(matching pursuit)”算法来找到与这些伪随机测量非常相关的小波。该小波特征从数据中移除,并且重复该过程直到解被小波基的子集完全表示。或者,可以采用所谓的“基追踪(basis pursuit)”算法来找到满足伪随机测量的最稀疏小波组合。重要的是,这种类型的问题(ℓ1 最小化)可以通过凸优化方法计算,这比传统的最小二乘法更有效。尽管如此,计算量仍然不可忽视,因此需要其它的最小化策略以加快重建时间。 


(3)采集和图像重建策略

单像素成像的概念最先由斯坦福大学的Sen等人于2005年证实,结合压缩感知的方法,使得在测量数低于图像的总像素数时,可以将图像恢复。使用什么策略来精确的压缩感知图像的特征(即如何采集),以及用什么算法来重建图像,是单像素成像的研究重点之一。

a、使用与图像的空间特性不相干(incoherent)的基(例如随机模式)采样,每次测量提供有关每个像素的少量信息,然后使用大计算量的优化算法推测图像。优化算法可以基于最小化图像强度模量的 ℓ1-范数、离散余弦变换、空间梯度(total variation, TV)或图像曲率 。然而,在已经利用了压缩感知的前提下,重建时间仍大大超过采集时间的情况并不少见。因此,在要求实时性的单像素相机应用中不采用这种策略。尽管如此,对于不需要实时处理的应用,这种策略通常会从显著压缩的数据中产生最高的图像质量和最高的帧速率视频。

b、使用不一定与图像的空间特性不相干的基进行采样,图像重建使用计算速度快的算法。基可选的有Hadamard、傅里叶、小波等。例如,这可以是简单地将采样模式求和,根据它们测量的强度进行加权(即,与物相似的模式比相似性较低的模式的权重更大),或者通过快速算法实现重建 。通常,压缩感知采样的基最适合需要低到中等图像分辨率以及更快甚至实时图像重建的应用。如果模式彼此正交,则对未知图像强度进行完全采样所需的模式数量等于所需图像中的像素总数 N。然而,在任何一个基中,挑战在于选择恰当的基的子集来采样。

c、使用优化的方法可以改善重建图像质量。当测量数等于像素数时,优化展现的是降噪的效果,当测量数小于像素数时,优化仍然有效。如图2,展示了在不同测量数下,优化与不优化的重建效果。



d、在使用二进制采样基时可以采取一定的方式消除或减少测量中的噪声源。如使用Hadamard基时,它是一组取值为 1 (微镜反射的光状态为1,on state)的正交二元函数,这通常需要准确测量平均信号 S 或使用第二个像素来测量 –1 (微镜反射的光状态为0,off state)。或者,只使用一个像素,这可以通过先在某一图案时记录下强度信号,然后显示图案的负片再记录下强度的信号来实现,其中该图案的加权信号是两次测量强度之间的差,即外差检测的一种形式。e、单像素相机系统要求光源强度稳定,探测器增益稳定,方可获得高质量的重建图像。因为在单像素系统中,虽然整体光照水平较高,但图像信息对应于信号中关于平均值的细微变化。

f、单像素探测器需要响应速度快,面积足够大,足够稳定和灵敏。如果要保证系统的光学效率,由 DMD 的孔径和成像的数值孔径的乘积给出的成像系统的基础扩展量(underpinning étendue)必须与单像素探测器的扩展量匹配,这意味着探测器孔径为几毫米。像素检测器必须足够快以测量图案掩模变化时的信号,足够大以收集透射光,并且足够稳定和灵敏以测量透射强度的细微变化。


单像素成像的应用和未来潜能

(1)单像素相机适用于没有可用的二维阵列探测器,或者二维阵列探测器极其昂贵的场景。如,对甲烷气体的探测。甲烷气体的吸收峰在1.65um,此波段的相机价位不菲。图4为可见光相机和单像素甲烷实时成像双模态融合图像,用于测量甲烷泄露情况。


原则上,DMD可以从紫外到大部分的红外线施加掩模(mask)。即单像素相机可以在此范围使用。但是通过使用半导体和其它光调制技术,单像素相机已经可以在太赫兹频率使用。事实上,任何能够提供时空辐射分布(spatiotemporal radiation distributions)的器件(如专门设计的THz-SLM81、基于超材料的调制器等)都可以使用计算成像策略。


(2)单像素相机适用于需要高时间分辨率的应用。单像素相机可轻松实现接近皮秒的时间分辨率。这种时间分辨率适用于直接飞行时间测距(direct time-of-flight ranging),即LiDAR(激光雷达)。使用单像素相机时,如果照明是短脉冲,则检测到的信号取决于测量模式与成像场景的重叠以及每个场景元素的距离。因此,返回光的时间形式是一个复杂的脉冲结构,可用于导出场景中的整个三维信息。
将返回信号时间合并(binning)到定义的间隔中允许根据每个到达时间重建多个二维图像,即获得深度。当时间合并分辨率足够短时,例如 1 ps,这相当于以每秒万亿帧的速度捕获光的传播,这似乎将光的运动减慢到蜗牛的速度。图 5 显示了通过采用皮秒脉冲源的结构化照明和光子计数光电倍增管的单像素相机获得的实验结果。



参考文献:Edgar, M.P., Gibson, G.M. & Padgett, M.J. Principles and prospects for single-pixel imaging. Nature Photon 13, 13–20 (2019). https://doi.org/10.1038/s41566-018-0300-7


关于昊量光电:

上海昊量光电设备有限公司是国内知名光电产品专业代理商,代理品牌均处于相关领域的发展前沿;产品包括各类激光器、光电调制器、光学测量设备、精密光学元件等,涉及应用领域涵盖了材料加工、光通讯、生物医疗、科学研究、国防及更细分的前沿市场如量子光学、生物显微、物联传感、精密加工、先进激光制造等;可为客户提供完整的设备安装,培训,硬件开发,软件开发,系统集成等优质服务。

 

您可以通过昊量光电的官方网站www.auniontech.com了解更多的产品信息,或直接来电咨询4006-888-532。

 

本文章经光学前沿授权转载,商业转载请联系获得授权。