光场成像原理

光场成像理论目录1. 光场概念 (1)1.1 七维全光函数 (1)1.2 全光函数的降维 (1)2. 光场采集设备的发展与典型结构 (2)2.1 多相机光场采集 (3)2.2 单相机光场采集 (6)3. 微透镜阵列的光场采集 (11)3.1 基于针孔阵列的光场采集 (11)3.2 基于微透镜阵列的光场采集 (13)1. 光场概念1.1 七维全光函数光场(Light field)的概念最早于1936年由A.Gershun 提出，用以描述光在三维空间中的辐射传输特性。

1991年，E.adelson 和J.Bergen 根据人眼对外部光线的视觉感知，提出全光函数(Plenoptic function)，利用七维函数表征场景中物体表面发出(或反射)的光线。

在全光函数可以表示为：7(,,,,,,)P P x y z t θϕλ=其中，,,x y z —表征光纤中任意一点的三维坐标；,θϕ—表征光纤传输方向λ—表征光线波长t —表示时间此时，全光函数7(,,,,,,)P P x y z t θϕλ=表示了波长为λ的光线t 时刻经过三维空间中坐标为(,,)x y z 的点，且传播方向为(,)θϕ的一条光线。

与只包含位置信息的光场不同，全光函数的七维表示增加了光线的色彩信息及动态变化。

1.2 全光函数的降维根据全光函数7(,,,,,,)P P x y z t θϕλ=的意义，当光线在自由空间中传播时，其频率(即波长λ)不发生变化，对于静态场，此时全光函数可由七维降至五维，即5(,,,,)P P x y z θϕ=由于观察者往往受限于目标的成像范围，此时五维光场出现一位冗余，当给定光线在自由空间的辐射不发生变化，因此在限光器的空间范围内，五维光场可以表示为四维光场。

四维光场的参数化表征可有一下三种方式：1) 方向-点参数化表政法。

利用光线与平面的交点(,)x y 和光线方向(,)θϕ作为四维参数来描述光场中的光线。

2) 球面光场参数表征法。

利用紧紧包围三维物体的球面上两点，可以表征球面封闭范围内任意一条光线的传播。

尽管该参数表征方式采样均匀，但无法表征与球面相切的光线。

3) 双平面参数化表征法。

双平面参数化表征法是采用光线与两个平行平面的焦点坐标来对光场中光线进行参数化表征。

其表达形式为(,,,)L s t u v ，其中(,)s t 和(,)u v 分表是光纤盒两平面的坐标交点。

由于实际中大部分成像系统都可以简化成两个相互平行的平面，如传统光学系统中的光瞳面和探测器像面，因此双平面参数化表征法具有较高的合理性和实用性。

图1.1 三种光场参数化模型2. 光场采集设备的发展与典型结构区别于传统成像方式，光场成像是一种计算成像技术，对捕获光场信息进行相应的数字处理才能得到相应的图像信息。

从目前光场相机的结构组成上区分，可分为多相机阵列和单相机改造两种方式。

多相机阵列采集光场信息是通过相机阵列对同一目标进行成像，因为每一个相机分别处于不同视角，因此对应光场的一个方向采样。

单相机改造结构是利用在单个相机中引入光学调制元件，改变成像结构进行如何光场的重新采集，实现将入射的四维光场重新分布在二维探测器平面。

2.1 多相机光场采集在多相机阵列出现之前，一般通机械移动装置实现相机多目标多视角图像采集。

其中典型结构包括M.Levoy所设计的移动机械臂和A.Isaksen等人设计的二维移动平台。

自1996年，美国斯坦福大学的Marc Levoy等人将相机固定到一个广场采集支架，如图2.1所示。

利用支架的二维平移和二维转动实现四个自由度的调整，仅为完成目标广场的完成采集。

在2000年，根据斯坦福实验室所设计的移动机械臂原理，A.Isaksen等人设计了类似的二维移动平台驱动相机进行光场采样，如图2.2所示，利用光场参数的变化实现不同的成像应用，包括改变景深及调节焦点。

当相机在平台上能够移动较大范围距离时，合成光场能够穿透遮挡物对其后目标进行图像的重构。

图2.1 斯坦福采集光场平台图2.2 二维移动平台和相机在2002年，J.C.Yang利用结构排列紧密的微透镜阵列代替摄像头阵列设计了一种结构紧促、成本低廉的光场采集设备，如图2.3所示。

设备通过8×11 个微透镜阵列对物体进行多角度成像实现光场采集，再利用一个平板扫描仪对透镜像平面完成一次扫描，即可将所有微透镜所成的像记录到计算机中。

图2.3 采集微透镜阵列和平板扫描仪的光场采集装置早期的多相机阵列还包括J.C.Yang等人设的8×11个摄像机阵列(如图 2.4)，以及C.Zhang和T.Chen设计可独立调节姿态的多相机阵列(如图2.5)。

在后者的设中，每个相机都固定到一个移动机构单元中，可以各自在水平方向和两维转动方向进行调节。

图2.4 J.C.Yang等人设计的实时相机阵列图2.5 可独立调节姿态的相机阵列论是采用外部机械或是扫描仪，要完成光场的采集都需要一定的扫描周期，因此只能局限于对静态物体的拍摄，而采用多相机阵列可以弥补这一缺陷。

斯坦福大学的学者利用大型的相机阵列对光场进行捕捉与处理，对此进行全面的分析和研究。

围绕成像应用领域的不同，在2003 年B.Wilburn等人设计了几种不同的摄像机阵列，如图2.6.所示。

通过严格控制每个相机单元的时间同步以及位置的精度，从而能精确地对光场数据进行捕捉处理，获得高分辨率光场图像。

图2.6 斯坦福相机阵列2.2 单相机光场采集多相机阵列的规模和尺寸限制其使用场合，而实现单相机内的广场获取则更具实际意义。

1992年，E.Adelson和J.Wang设计了一种全光相机(Plenoptic camera)，其结构原理如图2.7.a所示，系统由主镜头、微透镜阵列、成像探测器组成。

探测器与主镜头的光瞳关于微透镜共轭，主镜头出射的光线经过每个微透镜后投影到其对对应的若干像元上，这些像元共同组成一个“宏像素”(Macropixel)。

此时每个宏像素的坐标对应目标像点的几何位置，二宏像素中所覆盖的每个探测器像元则代表目标的不同视角信息。

在该系统的设计中，包含了一个光学扩散片和一个场景。

前者的作用类似于摄影相机中的额低通滤镜，相处高于透镜阵列采样频率的高频成分；而场景的引入可以将宏像素对齐到微透镜所在位置。

在如图2.7.b所示系统中，利用中继镜头将微透镜阵列焦面上的像转接到探测器，可以解决犹豫微透镜焦距非常小导致的探测器和微透镜阵列难以直接耦合的困难。

由于二次成像具有较严重的渐晕效应，因此在微透镜焦平面处加入一片毛玻璃进行匀光补偿。

图2.7 (a)全光相机设计结构；(b)采用终极镜头的全光相机2005年，R. Ng等人简化了全光相机的设计，在常规摄影相机的基础上制成手持式全光相机(光场相机)，如图2.8所示。

等通探测器芯片立接安装在微透镜阵列的焦面上，减少了中继镜头所带来的额外尺寸以及渐晕效应。

由于宏像素的排列次序与相应微透镜单元的排列保持一致，两者并不需要严格的对齐，因此也可以去除场镜。

图2.9中，顶部两幅图片为手持式光场相机所拍摄的光场图像，宏观上来看与常规图像没有太大区别，但从放大后的图中可以明显看出，每个微透镜所对应的宏像素均覆盖了若干个探测器像元。

对二维光场图像中的像素进行重新排列，得到四维光场矩阵，将四维光场重新投影到新的像平而进行积分叠加，就可以获得不同像平而上的对焦图像。

这一对焦过程完全依靠数字计算来完成，而非传统的机械对焦方式，因此称之为“数字对焦”(Digital refocusing)。

图2.9底部三幅图片给出光场相机依次对焦到前、中、后三个、同深度位置的重构图像。

图2.9 上图为光场相机结构原理图；下图为光场相机外观图2.8光场图像与数字对焦T.Georgiev等人基于光场维度冗余性，减少光场方向维度的采样，即用较低的分辨率换取相对较高的空间分辨率。

在光场相机中，减少方向采样的直接方法就是减小微透镜单元的孔径和焦距，使单个宏像素所覆盖的像元数减少。

减小微透镜单元孔径和焦距的方法分别会引入制造和处理的两大问题。

为此，T.Georgiev等人对此展开相关研究，其中A.Lumsdaine和T.Georgiev提出的光场相机2.0，又称”聚焦光场相机”，其结构如图2.9所示。

探测器位于微透镜阵列之前某个有限距离处的虚拟无平面上。

若该虚拟物平面和探测器分别距离微透镜a和b，那么光场相机对光场的方向分辨率为/a b，空问分辨率为探测器分辨率的/b a倍。

通过调整参数a和b可以对光场方向采样和空问采样进行折衷调节。

图2.9 光场相机2.0结构针对处理的问题，T.Georgiev等设计了一种外置与常规相机镜头前端的微透镜阵列(或透镜-棱镜阵列)，如图2.10所示。

每个子图像为光场的一个方向维度采样，而子图像内的像元表示光场的空间采样。

由于光场的方向采样数一般都远小于其空间采样数，因此采用这种排列方式能够减少子图像边缘像素的比例，因而提高了探测器像元的有效利用率。

图2.10 采用外置透镜-棱镜阵列的光场相机与此结构类似，由P.Green等人设计的多孔径相机，如图2.11所示。

多孔径相机将主镜头的孔径分割为四个同心环，目标经过每个环形子孔径所成的像，经过不同的反射光路重新分布到探测器像面。

与上述光场相机在光场方向维度的二维形采样方式不同，多孔径相机只对光场的方向维度沿径向进行一维采样，将其获得的多孔径图像直接相加即可合成为常规扣机在不同光圈下的图像。

环形孔径分割方式难以直接在折射型透镜上实现，因此需采用额外的反射和中继光路，增加了整个系统的尺寸重量和工程复杂度。

图2.11 基于环形分割的多孔径相机C.K.Liang 等人设计的一种可编程孔径相机(Programmable aperture camera)，可通过多次曝光对主镜的子孔径进行采样，每次曝光只允许特定子孔径位置的光线成像到探测器。

可编程孔径相机所采集到的光场具有与探测器桕当的空问分辨率，但这同时是以牺牲噪光时间或图像信噪比为代价的，多次曙光成像所形成的庞大数据量也成为额外的负担。

A.Veeraraghavan等人还提出了另一种采用编码调制的方式获取光场的方法，即外差式光场相机(Heterodyne light field camera)，如图2.12所示。

与空域对光场进行调制的光场相机不同，外差式光场相机实现的是四维光场在傅里叶频域中的调制。

在傅里叶域来看，某个深度位置所成的像就是四维光场沿相应角度θ的二维切片。

如果在这个深度平面放置一片具有特定透过率函数的编码掩膜，则光线经过掩膜滤光的过程在傅里叶域表现为光场频谱与透过率函数傅里叶变换的卷积。

将掩膜透过率函数设计为余弦函数，其傅里叶变换为脉冲函数，就可以实现光场频谱沿θ角度的复制和搬移。