第12章核主成分分析

本文提出了一种新的用于物体识别算法—两个方向两维核主成分分析方法（K2D PC A plus 2D PC A），这种方法主要是两维主成分变换空间上对物体进行分析。其基本思想是：首先，利用标准的K2DPCA方法在图像的行方向去相关性，然后，在K2DPCA空间下在图像的列方向利用2DFLD方法对图像进一步去相关性。为了克服2DPCA和2D-FPCA方法需要大量存储空间的缺点，本文提出的K2D P C A plus 2D P C A方法需要较小的存储空间以及具有高的识别率，且计算效率高于KPCA /K2DPCA/2

(2D)FPCA算法。最后，在手指静脉数据库中对该方法进行了验证。

主成分分析(PCA)[3-5]是一种经典的线性特征提取和数据表示方法，它们已广泛的应用于模式识别和机器视觉领域。在一般情况下使用这种方法处理二维图像时，图像矩阵必须首先转化一维的行向量或者列向量。然而，在转换为一维的向量后，通常会导致向量空间的维数非常高。由于维数非常高，且训练的样本数相对较少，所以那很难精确的估计协方差矩阵，而且计算高维的协方差矩阵的特征向量是相当费时。

为解决这些问题，近年来，两维特征提取方法，如两维PCA(2DPCA)已经引起广泛的关注。Yang [6]最先提出了2DPCA方法，Yang的主要工作是直接用原始二维图像构造图像的协方差矩阵。然而，我们可以看出，无论是在图像的行方向进行的2DPCA [9]方法还是在列方向进行的2DPCA [10]方法，与标准的PCA方法相比他们在对图像信息的表达上需要更多的系数来表达图

像信息。为了见一步克服这个问题，文献[10]提出了2

(2D)PC A的思想应用于人脸的识别。但遗憾的是，2DPCA and 2

(2D)PC A都是线性投影方法，他们只考虑到图像数据中的二阶统计信息，未能利用数据中的高阶统计信息，忽略了多个像素间的非线性相关性。然而，现实中的许多问题是非线性可分的，例如由于图像的光照、姿态等不同引起的差异是非线性和复杂的，故利用

2DPCA 和2

(2D)PC A来分类时不能得到令人满意的结果。

为了避免这些缺陷，通过对PCA的改进提出了一种新处理非线性的方法。文献[14]提出了一种新的非线性提取方法-核主成分分析方法(KPCA)。各个领域的应用中，KPCA都优于PCA方法([11]; [12];[13];[14])。近年来，一些研究者提出了二维核主成分分析方法(K2DPCA) [1]。该方法在用于人脸识别时，在处理图像的非线性相关性特征方面都优于KPCA 2DPCA and

B2DPCA方法[1]。但是，和2DPCA遇到的一个相同的问题是，仅仅在图像的行方向或者列方向使用K2DPCA方法时，与标准的KPCA方法相比他们在对图像信息的表达上需要更多的系数来表达图像信息。为了提高识别精度和降低计算复杂度与减少存储空间，本文提出了一种新的用于物体识别算法—两个方向两维核主成分分析方法（K2D PC A plus 2D PC A）其基本思想是：

首先，利用标准的K2DPCA 方法在图像的行方向去相关性，然后，在K2DPCA 空间下在图像的列方向利用2DFLD 方法对图像进一步去相关性。在手指静脉数据库对该方法进行了验证。实验结果表明：与K2DPCA 方法相比，它可以在实现高识别率，同时需要的存储空间更少且计算效率较高。 2.2DPCA 方法

假设有c 个模式类，M 是总的训练样本的个数，i M 是i 类训练样本的数目，m n ?的矩阵()

i j A 是第i 类第j 个训练样本。()

i A 是第i 类训练样本的

均值，A 为总体训练样本的均值。

首先假设A 是m n ?的随机图像矩阵，n d Y R

?∈是一个列向量标准正交的矩阵，n r ≥，把A 投影到V 产生一个m d ?矩阵Y AV =。在子空间2DPCA ，投影样本的总体散度矩阵可以通过投影矩阵V 得到。它满足：

(){[()()]}

{[(())(())]}{[()()]}

T

T

T

T

J V trace E Y EY Y EY trace E Y E AV Y E AV trace V E A EA A EA V =--=--=-- (1)

其中对任意的两个矩阵[1]，等式满足trace(AB)= trace(BA)。图像的协方差矩阵定义为n n ?非负定矩阵[()()]T t S E A E A A E A =--，假设m n ?的矩阵

(1,2,,)k A k M = 为M

个训练图像， t S 可以通过下式计算：

1

1()()M

T

t k

k k S A

A A A M

==

--∑ (2)

那么t S 前d 个最大的特征值所对应的正交特征向量1,,d x x 组成了投影矩阵的最佳投影opt X 。例如：1[,,]r V v v = ，

Y AV

= （3）

其中，1[,,]r V v v =

图像A 就可以用矩阵Y 来描述并可以利用它来对图像进行分类。 3.两维核主成分分析

3.1 2DPCA

让(1)(2)()[()()()]T T m T T k k k k A A A A = ，(1)(2)()

[()()()]

m T T T T

k k k

A A A A =

其中()

i k A 和 ()

i k A 分别表示k A 和A ,第i 行向量。那么等式（2）就可以写成如下表达式：

()

()

()

()

11

1()()M

m

i i i T i k

k

k i G A A

A A

M

===

--∑∑

(4)

从等式(4)可以看出，协方差矩阵G 可以表示为图像的行向量的内积。如果训练图像的均值为0，如(0)m n A ?=，那么， G 可以用归一化后的训练样本行向量估计得到。因此，2DPCA 算法的实质是在图像的每一行上进行PCA 分析。 3.2K2DPCA

与线性的PCA,相比，KPCA[2][14]是一种非线性特征提取方法，思想是通过一个非线性影射:N R F Φ→,把原始输入空间的数据映射到一个高维或者甚至无穷维的特征空间F ，然后在特征空间F 中执行PCA 算法。KPCA 已广泛的应用于人脸识别中，与PCA 相比有更好的识别结果。与此同时，K2DPCA 在提取数据的非线性特征方面有更大的优势。与KPCA 相似，不需要直接知道这个非线性映射函数而完成非线性映射。与KPCA 不同的是把图像矩阵的每一列映射到特征空间F ，例如非线性影射为:N R F Φ→。然后在这个特征空间中再进行PCA 分析。因为F 空间的维数很高，进行通常的运算不可能，所以为了能够在F 空间中实现PCA ，可以利用内积核函数来隐含的计算。通过核函数K 计算输入数据i A 和j A 被映射到空间F 中的内积。其表达式如下：

(,)()()i j i j K A A A A =ΦΦ (5) 其中， 表示在空间F 的内积。

假设所有数据都被文献[14]方法中心化（可能不恰当），()i A ∧

Φ表示映射空间中第

i 幅映射图像，()j

i A ∧

Φ表示第i 幅映射图像的第j 列中心化向量。那么可得到空间

F

中的协方差矩阵C Φ：

1

1()

()M

T

i

i i C

A A M

∧

∧

Φ

==

ΦΦ∑

(6)

其中

1

2

()[(),(),,()]n

i i i i A A A A ∧

∧

∧

∧

Φ=ΦΦΦ

m 表示列数。直接计算该矩阵的特征值i λ是相当困难的，而且其特征向量i v 必须满足i i i v C v λΦ= (7) 然而，通过以下定理我们能利用KPCA 来实现K2DPCA 算法，从而避免直接计算的困难。

定理1，假设每个列向量作为一个计算实体，K2DPCA 算法是通过对训练图像矩阵的每一列执行KPCA 算法来实现的。

其证明过程类似于参考文献[1]中的定理1的证明。

为了提取每个类向量的主成分，我们需要把每个()j i A ∧

Φ头型到空间 F 的特征向量k x 上..，投影表达式如下：

11

(())(()())M

n

j

p q q

j T

k i l

p i p q x A A A α

∧

∧

∧

?==Φ=

ΦΦ∑∑ (1,

,)l M n d M n =?-+? (8)

由（8）式，得第i 幅映射图像()i A ∧

Φ的投影i Y 为

(())()()

T T

i k i i Y x A A α∧

∧

Φ=Φ=ψΦ

(9) 其中

12(,,,)M n d M n d M n αααα?-+?-+?=

1

2

1

2

1

11[[(),(),,()],,[(),(),,()]]n

n

M M M A A A A A A ∧

∧

∧

∧

∧

∧

Φ

ψ

=ΦΦΦΦΦΦ

通过把所有训练图像和测试图像的列向量投影到特征空间的前d 个特征向量上，从而得到每个图像的投影矩阵，其大小为d n ?。 4. K 2D PC A plus 2D PC A 4.1. K 2D PC A plus 2D PC A 思想

K2DPCA可以有效的克服2DPCA算法在提取图像非线性特征的不足。而且其效果优于2DPCA 和KPCA算法[1]。然而，需要更多的系数对图像进行表示。这就导致降低识别速度，而且需要大量的存储空间。

该段将给出一种新的方法来克服K2DPCA存在的弱点。其大体思想是：首先在行方向进行K2DPCA变换，然后再K2DPCA子空间进的列方向进行2DPCA变换。对给定特定的图像矩阵A，在经过K2DPCA变换时，我们可以得到它的特征矩阵Y。然后进行转置得到T Y，并把转置矩阵进行2DPCA 变换，确定变换矩阵V。最后，把T Y投影V，从而得到T T

C Y V

=，特征矩阵即为T

C V Y

=。整个变换过程如图1所示：

K2D P C A p l u s2D

图 1.K2D PC A plus 2D PC A变换过程

在整个变换过程中，首先通过执行K2DPCA变换()()

T T

Y A

α

∧

Φ

=ψΦ在垂直方向上对二维图像进行压缩，从而使得区分信息被压缩在少数行上。然后，再通过2DPCA变换C YV

=把二位数据在水平方向进行压缩，从而去掉图像Y各行之间的相关性且使区分信息进一步被压缩到少数列上。最后，整个图像的分类信息被压缩到图像的左上角。

整个过程表示如下：

K2D PC A plus 2D PC A?

2

1

2

1

1:;

2:;

K D P C A

m n d n

D P C A

d n d r

phase R F

phase F F

??

??

????→

???→

4.2.变换

下面进一步详述K2D PC A plus 2D PC A的执行过程。首先经过K2DPCA在垂直方向上变换后，我们通过式（9）得到样本A的特征矩阵Y。然后重建图像的协方差矩阵并得到该协方差矩阵的前r个最大特征值所对应的特征向量

1,,r

v v ，让12(,,,)r V v v v = ，那么，通过式（10）得到Y 经过2DPCA 变换后的

特征矩阵

()()T

T

C YV A V

α∧

Φ

==ψΦ. (10)

特征矩阵C 的大小为d r ?，由于d 和r 的值总是远小于m 和n ，C 远小于K 2DPCA 的特征矩阵Y 和原始图像矩阵A 。 5.实验结果

把本文方法用于手指静脉识别进行测试，我们的手指静脉数据库由20位不同人的手指静脉样本构成，每种样本是由不同时间采集的10张图像组成，这些图像之间存在光照的变化。所有的图像的背景色为黑色且是竖直的（其中能容许一定的位置偏移）。这些图像都是具有256的灰度像素图像且被归一化为

3237?。然后利用这些图像对该算法进行测试。在本实验中，由于考虑到计算复

杂性，我选用的核函数是阶数为d 多项式核函数。其表达式如下：

(,)()d

i j i j K x x x x =

为了测试不同训练数量的手指静脉的识别效果，在每个人的10幅样本图像中随机选(15)k k ≤≤幅作为训练图像，余下的(10)k -幅图像用于测试。下面给出了本实验中的一部分样本图像，如图2所示。

图2手指静脉数据库中的一部分样本图像

图3给出了在小样本情况下（2和3幅训练图像）K 2D PC A plus 2D PC A 与其它几种算法的识别效果，可以看出，K 2D PC A plus 2D PC A 算法的识别效果优于其它几种算法。

为了进一步揭示识别精度与特征向量维数之间的关系，我们对

K 2D PC A plus 2D PC A 和K2DPCA 算法在一系列不同的维数特征相量下进行

了实验，其实验结果如图4所示。当都取同样的维数（2和3）时，

K 2D P C A p l u s 2D P C 识别精度高于K2DPCA 算法。当维数大于3时，它们有

相同的识别率。表1给对两种方法的识别精度和维数作了比较。可以看出当他们

具有相近的识别精度时，2D K PC A plus 2D PC A 在对图像识别信息的提取更有效。

实验的最后对两种算法的压缩比进行了分析。设有M 幅m n ?训练图像，K2DPCA 和 K 2D PC A plus 2D PC A 投影维数为d 和 r 。那么K2DPCA 和

K 2D PC A plus 2D PC A 的压缩比分别为/()M m n M nr m r + 和

/()M m n M dr nd m r ++，因此他们有较好的压缩比。

维数 (37?)

K2DPCA plus 2DPCA 和 K2DPCA 算法的比较

Recognition rate (%)

每人用于训练的图像个数

图.3. 识别效果比较

识别精度（%）

算法识别精度(%) 维数

K2DPCA 97.5 337

?

?

K2D PC A plus 2D PC A97.5 310

表1 两种算法的比较

6. 结论

本文给出了一个有效的特征提取和识别算法—K2D PC A plus 2D PC A方法。该算法与K2DPCA算法的区别在于后者仅在垂直方向上进行分析，而本文算法同时在水平和垂直方向上进行投影分析，所以该算法的主要优势在于仅需少量的系数就可以对物体（静脉图像）进行描述，且识别率很高。实验结果表明，与K2DPCA算法相比，该算法具有较快的识别速度和很高的识别率，实验结果也验证该算法的有效性。

References

[1]Hui Kong, Lei Wang, Eam Khwang Teoh, Xuchun Li,Jian-Gang Wang, Ronda Venkateswarlu Generalized 2D principal component analysis for face image representation and recognition Neural Networks 18 (2005) 585–594

[2]Kim, K. I., Franz, M. O., & Scholkopf, B. (2005). Iterative kernel principal component analysis for imagemodeling. IEEE Transactions on Pattern Analysis and Machine Intelligence, 27, 1352–1366.

[3] M. Turk, A. Pentland, Eigenfaces for recognition, J. Cognitive Neurosci. 3 (1) (1991) 71–86.

[4] W. Zhao, R. Chellappa, A. Rosenfeld, P.J. Phillips, Face recognition: a literature survey, 2000, ohttps://www.360docs.net/doc/7c3896251.html,/374297.html4

[5] L. Zhao, Y. Yang, Theoretical analysis of illumination in PCA-based vision systems, Pattern Recognition 32 (4) (1999) 547–564.

[6] J. Yang, D. Zhang, A. F. Frangi, J. Y. Yang, "Two dimensional PCA: A new approach to appearance-based face representation and recognition." IEEE Trans. Pattern Anal. Machine Intell. V ol. 26, no. 1,pp. 131-137, 2004.

[7] Ming Li and Baozong Yuan, "2D-LDA: A statistical linear discriminant analysis for image matrix," Pattern Recognition Letters, V ol. 26, no. 5, pp. 527-532, 2005. [8] H. Xiong, M.N.S. Swamy, M.O. Ahmad, "Two-dimensional FLD for face recognition," Pattern Recognition, V olume 38, Issue 7, pp. 1121-1124, July 2005. [9] J. Yang, D. Zhang, A.F. Frangi, J. Yang, Two-dimensional PCA: a new approach to appearance based face representation and recognition, IEEE Trans. Pattern Anal. Machine Intell 26 (1) (2004) 131–137.

[10] D. Zhang, Z.-H. Zhou, (2D)2PCA: 2-directional 2-dimensional PCA for efficient face representation and recognition, Journal of Neurocomputing, in press.

[11]Mika, S., Scho¨lkopf, B., Smola, A. J., MJuller, K.-R., Scholz, M., & RJatsch, G.. KPCA and de-noising in feature spaces. Advances

in Neural Information Processing Systems, 11, (1999) 536–542.

[12]Romdhani, S., Gong, S., & Psarrou, A.. A multi-view nonlinear

active shape model using KPCA. In Proceedings of BMVC (1999) (pp. 483-492)

[13]Scho¨lkopf, B., Mika, S., Burges, C. J. C., Knirsch, P., MJuller, K.-R., RJatsch,

G., et al.. Input space versus feature space in kernelbased methods. IEEE Transactions on Neural Networks, 10(5), (1999) 1000–1016.

[14]Scho¨lkopf, B., Smola, A. J., & MJuller, K.. Nonlinear component

analysis as a kernel eigenvalue problem. Neural Computation, 10(5), (1998) 1299–1399.