首页  技术文章  2018年综述:计算成像(上)

2018年综述:计算成像(上)

发布时间:2022-04-25 20:49:00 浏览量:2773 作者:LY.Young 光学前沿

摘要

在过去的几十年,成像技术得到了巨大的发展。从50多年前Zapruder使用笨重的贝尔豪威尔家用摄影机拍摄肯尼迪刺杀事件到如今使用小巧而功能强大的多摄像头智能手机随时可拍摄爆炸性的新闻事件。成像技术的发展得益于物理学与科技之间以一种以前不可能拥有的联系紧密耦合在一起。

正文


2018年综述:计算成像(上)


2018年美国陆军研究实验室的Joseph N. Mait等人在Advances in Optics and Photonics上发表综述文章Computational Imaging。其内容如下:


目录

1、引言(Introduction)

2、感知、成像和摄影(Sensing, Imaging and photography)

3、成像简史(Short History of Imaging)

3.1、古代(Antiquity)

3.2、辅助人类成像:成像科学的开端(AidedHuman Imaging: the Beginning of Image Science)

3.3、记录成像:成像科学成熟和成像应用大幅增加(Recorded Imaging: Image Science Matures and Imaging Applications Multiply)

3.4、电子成像(ElectronisImaging)

4、计算成像(ComputationalImaging)

4.1、定义(Definition)

4.2、物理和数学基础(Physicaland Mathematical Essentials)

4.3、光学设计(Optical Design)

4.3a、解耦(DecoupLED)

4.3b、协同(Collaborative)

4.3c、集成(Integrated)

4.4、信息基础(InformationEssentials)

4.5、动机(Motivations)

5、动机1:传统成像力有不逮(Motivation 1: Conventional Imaging Is Impossible)

5.1、相位成像(PhaseImaging)

5.1a、相衬显微镜(Phase Contrastmicroscope)

5.1b、干涉测量和全息(Inteferometryand Holography)

5.1c、从强度复原相位(PhaseRetrieval from Magnitude)

5.2、量子成像(QuantumImaging)

5.3、体积成像(VolumetricImaging)

5.3a、计算层析(ComputedTomography)

5.3b、核磁共振成像(MagneticResonance Imaging)

6、动机2:维度不匹配(Motivation 2: Dimensionality Mismatch)

6.1、空间-光谱成像(Spatial-Spectral Imaging)

6.2、三维成像(Three-DimensionalImaging)

6.2a、深度不变成像(Depth-InvariantImaging)

6.2b、深度测量(DepthMeasurement)

6.3、偏振成像(PolarizationImaging)

7、动机3:降低测量的边际成本(Motivation 3: Reducing Measurement Marginal Costs)

7.1、可能的但是不实际的(possiblebut impractical)

7.1a、合成孔径雷达(Syntheticaperture Radar)

7.1b、孔径编码成像(Coded-ApertureImaging)

7.2、可能的但是不是最优的(Possiblebut Not Optimal)

7.2a、超分辨(Superresolution)

7.2b、提高时间分辨率(IncreasedTemporal Resolution)

7.2c、形状因素约束(FormFactor Constraints)

7.2d、具体特征和压缩感知成像(Feature-Specificand Compressive Imaging)

7.3、自适应系统(AdaptiveSystems)

7.3a、自适应光学(AdaptiveOptics)

7.3b、基于自适应的信息(Adaptation-Basedon Information)

7.3c、自适应激光雷达(AdaptiveLidar)

8、计算成像的未来(Future ofComputational Imaging)

8.1、优势(Strengths)

8.2、缺点(Weaknesses)

8.3、机会(Opportunities)

8.4、威胁(Threats)

9、总结和评论(Conclusionand Summary Remarks)


1、引言

在过去的几十年,成像技术得到了巨大的发展。从50多年前Zapruder使用笨重的贝尔豪威尔家用摄影机拍摄肯尼迪刺杀事件到如今使用小巧而功能强大的多摄像头智能手机随时可拍摄爆炸性的新闻事件。成像技术的发展得益于物理学与科技之间以一种以前不可能拥有的联系紧密耦合在一起。

在90年代中期,这种融合向光学和图像处理界研究人员展示一种新的成像方式:图像信息不再仅仅由光学物理来承载。这种新的成像方式核心特点在如今被称作计算成像,它联结着前端光学系统和后端探测信号处理。在其某些成像形态中,由光学系统所得的测量图像甚至不是所拍摄物的像。使用计算成像的原则,我们可以设计出远超光学系统物理限制能力的仪器设备来采集图像或者其它场的信息。在同等成像能力下,基于计算成像的仪器设备相比传统成像方式,其尺寸、重量、功率和成本都能够按需降低。


本综述回顾了正在扩大的计算成像领域,具体章节安排如下:

章节2:给出感知和成像的基本信息。从与计算成像密切相关的一些学科中中获得计算成像定义的描述,这些学科包括:遥感、摄影、图像增强和复原。

章节3:成像的简单历史。

章节4:计算成像的基础,从图像形成的物理机制开始,考虑了检测,后处理,以成像的信息理论观点结束。

章节5-7:重点环节,基于为什么要采用计算成像的三个动机介绍了计算成像的种类。

章节8:介绍了计算成像当前的优势、不足、未来的机会和威胁。

章节9:总结和评论。


2、感知、成像和摄影

感知是对环境的某些物理属性进行测量和估计。举个例子,放在室外的温度计测量(感知)空气中单个点的温度。对于普通人来讲,单个点的温度已经足够,而对于气象学家来说,这是不够的。因为他们知道空气中两点之间的温度差会产生气流,当这个温度差足够大的时候,气流将对人们的生命和财产构成威胁。因此,气象学家想要知道一整块区域的温度空间分布。我们称这种温度的空间分布图为热图像。


根据上述描述,我们把不需要空间分布信息的测量称为感知,把需要在多个位置对环境的属性进行测量和估计的操作称为成像。成像的理由来源于两个理由中的任意一个:一是为了估计物理属性的空间分布,二是为了将环境中的元素分类(类似于对家庭成员分类等)。


对于第二个理由,我们注意到,有时候分类是为了唤起某种回忆或感情。我们将这种应用称作摄影或者电影摄影,以此将它和许多其它的客观应用区分开来。这样做也是为了将计算成像和计算摄影给区分开来。成像和电影摄影的区别,由好莱坞电影摄影师John Schwartzman在2107年的OSA成像会议上作了清晰的阐述。


摄影需要光学系统将物方空间每一个点的亮度或色度一对一映射到像方空间,即物方空间的一个点对应着像方空间的一个点。但是对于其它的成像应用,光学系统不一定需要进行一对一的映射。


这些定义描述和收缩了属于计算成像的应用领域。在下一章节,将简要描述成像和成像科学的历史,焦点在于欧洲的成像史。


3、成像简史

成像科学的基础是1621年Snell提出的折射定律、1647年Cavalieri提出的透镜制造者方程和1670年Newton提出的成像方程。第一项是科学定律,后两项是工程定律。


我们故意将折射定律而不是反射定律作为成像唯一的科学基础。尽管罗马人已经知道怎么制造反射镜,也知道入射角等于反射角,但是这些理解并不能够带领我们实现多镜片成像系统的广泛应用。理解光是如何在玻璃中折射的,将让我们理解透镜以及它在成像中的决定性价值(基于反射的成像系统也是有的,Newton认为基于折射无法消除色差,制造出了基于反射的成像系统,后续也有其他人基于反射原理设计成像系统)。


从这些开始,成像依托于四项基础技术的进步得到了发展,这四项技术是:光学材料(如玻璃和聚合物)、换能器(包括胶片和电子探测器,人眼除外)、光源(从蜡烛、弧光灯、白炽灯到LED和激光器)和处理技术(通过生物、电子或其它的处理技术)。今天所有的成像器材都是基于这四项技术制造而成的。


在这一章节,我们根据当时对技术的理解以及技术水平划分了5个成像周期。在这一章节讨论了4个周期,最后一个周期是计算成像,后续章节描述。每个周期的年代划分是粗略划分的,并不意味着固定不变。


第一个周期是古代,在此时,尽管已经有了玻璃,但是工匠们缺少理解和使用它们的知识。玻璃仅仅被用作装饰、窗户、或像碟子和杯子这样的东西。


下一个周期从1600到1840年,是光学科学和工程的开端。多镜片的显微镜和望远镜将人类视觉扩展到微观和宏观宇宙的领域,这是辅助人类成像的周期。


从1840-1970年,是基于光化学的记录成像。从1970-1990年是数字电子记录成像。我们将前者称为记录成像周期,后者称为电子成像周期。在记录成像的周期,光的自然属性才开始展现出来,图像形成的物理限制开始被人们所理解。其中最根本的是分辨率限制,在这一个周期,许多成像上的进展都是基于想达到或者超过这个分辨率限制的目的所驱动的。


1990年以后是计算成像周期,从此设计光学系统时,将计算作为一般的事物考虑进去。在协助光学系统和后端检测信号处理设计的过程中,分辨率被重新理解为测量波前通过有限孔径时传输的信息。因而产生了光学编码和后处理这样的新技术。


3.1古代

反射、折射、合适形状的晶体具有放大物体的像的能力,这些在古代已经被人们所发现。欧几里得的反射光学(Euclid’s Catoptrics)写于公元前300年,准确的描述了反射角等于入射角。折射虽然已经被观察到了,但是并不理解它的机理。


眼镜是最先出现的实用光学仪器,于1279年出现在意大利的佛罗伦萨。然而,眼镜的意义更多的是在于仪器封装的进展,而不是光学上的大进展。培根记载到,欧洲已经意识到透镜具有放大像的能力。眼镜只是一个金属框架支撑着两个透镜,并置于人类的眼睛之前而已。


1270年出现了Alhazen的Opticae Thesaurus拉丁文译本,对成像现像做出了评论,但是清楚的表明当时欧洲人对于折射的理解还不清楚。比如,Vitello,一个在意大利做研究的波兰数学家,于1270年出版了测量折射角的纲要,但是他的工作充满了错误。


鉴于眼镜和早期的放映机在文艺复兴的初期已经出现,才令人很迷惑为什么直到16世纪才出现了多镜片的光学仪器。


3.2 辅助人类成像:成像科学的开端

1590年,父子团队Hans和Zacharias Janssen发明了复合显微镜——一个双镜片光学系统。在显微镜发明的20年内,Lippershey和Galileo发明了两种不同的望远镜,Lippershey还研发出了双筒望远镜


Kepler的《屈光学》(Dioptrice)于1611年初版,Antonio Neri的《玻璃艺术》(L’arte vetraria)于1612年出版。这两本书的出现为广泛的光学设计提供了手段和动力。Kepler提出了一阶光学的基础知识。,Neri揭示了制造高质量玻璃所需的钠、石灰和硅酸盐的适当比例。Kepler的书虽然最先分析了多镜片系统,但是它依然显示出缺乏对折射的基本理解。因为不理解折射,Kepler的分析只局限于小角度系统。


Snell的折射定律于1621年出版,是打开光学设计大门的关键。借助于折射定律,Descartes(笛卡尔)推导出可以校正球差的透镜面型。1647年,Cavalieri将透镜焦距、透镜的面曲率半径和折射率联系起来,推导出我们现在的透镜制造者方程。最终,约1670年,Newton推导出了成像方程,这是光学设计的里程碑,它将透镜焦距、物距和像距给联系了起来。


1662年Neri的书的英译版影响了英国的玻璃工人GeorgeRavenscroft,他决定将铅加入玻璃的化学成分中,这对光学玻璃产生了重大的影响。1674年,Ravenscroft申请了制造火石玻璃的专利。1733年,天文爱好者Hall使用色散特性不同的火石玻璃和冕牌玻璃来校正色差。


有些年头以后,1809年,Fraunhofer在一个巴伐利亚的玻璃熔炼车间做玻璃材料成分的实验。他不仅生产出了高质量的消色差透镜,还使用他的新兴光谱技术描述了不同玻璃的色散特性。


1800年,Herschel通过用温度计测量经过棱镜后的不同颜色的光的温度,发现了红光谱以外的热辐射,即预示着胶片的发明。1801年,Ritter将氯化银暴露在不同颜色光被分开的太阳光下,检测到了蓝色以外的射线。因此,Herschel和Ritter的发现,确立了有超出人眼可见光范围之外的辐射的存在。


3.3记录成像:成像科学成熟和成像应用大幅增加

1837年Daguerre发明的记录成像对成像应用产生了重大影响。美国内战后的照片记录,戏剧性的展示了摄影的力量,它不仅是叙事的,还能够触动人们的情感。胶片不仅促进了摄影的发展,还促进了电影摄影的发展。


从我们的观点来看,胶片的发明使得图像的获得不再需要一个人类观察者。以第一次遥感成像为证,1887年英国气象学家Douglas Archibald和1888年法国人Arthur Batut拍拍摄了风筝航拍照片,照片的获得就没有人类观察者。


胶片的发明还允许记录对于人类感知来说太快和太慢的事件。1872年,Eadweard Muybridge解决了Leland Stanford提出的关于马的运动的问题。他使用12台相机,发现在一次小跑过程中,一匹马的四只脚同时离地。1910年,F. Percy Smith率先展示了时延摄影,他记录了花朵盛开的过程。


在这个周期,物理学家确定了光的属性。这个问题已经困扰了哲学家上千年,在近两个半世纪内也是一个有争议的议题。在17世纪,Newton认为光是粒子,这个观点影响了学术界许多年。然而,Huygens认为光是波。Grimaldi的衍射实验于1665年出版,Young在1801年证明了光的干涉,这些都支撑着光的波动属性。数学模型也验证了衍射和偏振,波动理论在1865年Maxwell方程组的出现达到了高潮。光的波动性占据统治地位,直到物理学家揭示了物质的量子属性,并推翻了波与粒子的争论。这最终产生了量子力学的根本哈根解释。


在这个周期,光学科学发展成了光学工程。凭借对光学物理学的深入理解,光学界在1870年代获得了成像方面的重大进展。这些进步是通过理论、应用和材料的专业知识的协同实现的。具体实现人是Abbe、Zeiss和Schott。1873年,Abbe对图像形成的波动光学解释确定了成像性能的极限,并允许一种不基于材料的光学成像性能提升。


在同一时期,Abbe和Schott研究了材料间的关系,他们的比例以及他们对光学性能的影响。因此,1886年第一个Schott目录中描述的44种玻璃有19种是新的。两年后,他们的第一个目录补充包括了24种新的玻璃类型。物理理解和材料的融合将光学带入了工程领域,并使Zeiss成为了光学仪器领域的国际领导者。


3.4 电子成像

20世纪最大的进展可能是物理学家的基本粒子(电子和光子)与香农的信息元素粒子(the bit)的结合。香农的信息理论出现在1940年代后期,对人们认识图像,成像过程和一般的光学系统产生了重大的影响。与此同时,Duffieux将傅里叶分析引入光学系统。光学和信息理论的融合在Goodman的经典书籍傅里叶光学得到了明显的体现(1968年)。


在1960年代早期,当电子处理是模拟、一维、主要使用分立元件实现的时候,光学在吞吐量和并行处理方面展现出了巨大的优势。激光与离轴全息的结合预示着光学在成像和图像处理上相比电子学更有优势。


这种优势是短暂的。1969年ccd的发明促使了从光学处理到电子学处理的转变。电子转换允许光学图像被实时转换成电子格式,可以对其进行模拟和数字电子处理,电子格式也有利于图像的传输和存储。


几乎同时期出现的Cooley和Tukey的快速傅里变换算法、CCD、和英特尔4004微处理器可以与Kepler的《屈光学》和Neri的《玻璃艺术》相比。这三者一起,提供了实现图像数字电子处理的动力、手段和方法。第一次形成了可以严格由计算机使用而不会被人类查看的图像。


数字成像进一步发展的 潜力通常参考摩尔定律——集成电路中每面积上的晶体管数量每18个月翻一番。然而,经常重复摩尔定律的热情可能导致对成像和成像系统未来的偏见。光学器件提供什么?它们有必要吗?自然地,我们觉得光学是必要的,并且在本文的其余部分,我们将讨论如何将光学和电子学结合使用来创建比单独使用更强大的仪器。

 


DOI:https://doi.org/10.1364/AOP.10.000409


关于昊量光电:

上海昊量光电设备有限公司是国内知名光电产品专业代理商,代理品牌均处于相关领域的发展前沿;产品包括各类激光器、光电调制器、光学测量设备、精密光学元件等,涉及应用领域涵盖了材料加工、光通讯、生物医疗、科学研究、国防及更细分的前沿市场如量子光学、生物显微、物联传感、精密加工、先进激光制造等;可为客户提供完整的设备安装,培训,硬件开发,软件开发,系统集成等优质服务。

 

您可以通过昊量光电的官方网站www.auniontech.com了解更多的产品信息,或直接来电咨询4006-888-532。

 

本文章经光学前沿授权转载,商业转载请联系获得授权。