基于支持向量机的人脸分类
万方数据
能力，即由有限的训练集样本得到的小误差仍能够保证对独立的测试集小的误差。另外，由于支持向量机算法是一个凸优化问题，因此局部最优解一定是全局最优解，可防止过学习。这些特点是其它学习算法，如神经网络学习算法所不及的。对于分类问题，支持向量机算法可简述为将输入空间中的样本通过某种非线性函数关系映射到一个特征空间中（维数可能较高），使两类样本（可推广到多类样本）在此特征空间中线性可分，并寻找样本在此特征空间中的最优线性分类超平面。其判别函数为
，＾、
几）＝ｓ酬∑ａ，，，ｔ（¨，）＋６（４）
＼ｆ＝Ｉ，
２协，，ｘ，Ｊ称为核函数，核函数的选取应使其为特征空间的一个点积，即存在函数中，使中【，，）?中ｈＪ２女ｋ，ｘ，Ｊ。已证明，核函数＾恤，?ｘ，Ｊ只要满足ＭｅｒｃｅｒＩ”条件即可满足上述要求。
对于具体的分类问题，关键是求出ｌａｇｒａｎｇｅ乘数口，，这实际上为如下的二次规划问题：
∥（∞＝∑嘶一去∑口，口，，，ｙ，ｋ（ｘ∥，）（５）ｐＩ‘ｆｐＩ
“酗铲ｏ（６）０ＳｄｓＣ
常用的核函数有：
多项式核函数（ｐｏｌｙｎｏｍｉａｌｆｏｎｃｔｉｏｎ）
ｋ（ｘｉ，Ｘ／）＝Ｇ，?ｘ，＋ｌｙ（７）
径向基核函数（ＲＢＦ，ｍｄｉａｌｂａｓｉｓｆｉｍｃｔｉｏｎ）
女Ｇ一）：ｅｘｏ（－舭ＩＩ＿１１２Ｊ（８）Ｓｉｇｍｏｉｄ核函数（Ｓｉｇｍｏｉｄｆｕｎｃｔｉｏｎ）
ｔｂ．，ｘ，Ｊ＝ｔａｎｈｂｂ．?ｘ，）＋ｃｌ（９）
二次规划问题的经典解法有积极集方法、对偶方法、内点算法等，但当训练样本增多时，这种算法就面临着维数灾难，或者由于内存的限制使训练无法进行，这样就无法应用ＳＶＭ进行模式分类的设计和应用，所以如何训练大样本集的ＳＶＭ就成为ＳＶＭ实际应用中的一大难题，研究人员提出了许多针对大规模训练集的ＳＶＭＪＪＩＩ练算洌”。ＥＯｓｕｎａ等提出了一种ＳＶＭＮ练算｛虫｜４…Ｊ，即首先建立一个工作集（ＷｏｒｋｉｎｇＳｅｔ），保持其大小不变，在解决每个ＱＰ问题时，先从工作集中移走一个样本，并加入一个不满足Ｋ—Ｔ条件的样本，再进行优化。Ｊｏａｃｈｉｍｓ提出了一种解决大型ＳＶＭ学习的算法，即ＳＶＭ“曲…Ｉｏ该算法实际上是Ｏｓｕｎａ方浏”１的推广，其基本思想是，如果存在不满足Ｋ－Ｔ条件的样本，则以某种方式选择样本作为工作集，其它样本不变，在这一工作集上解决ＱＰ问题。Ｊ．Ｐｌａｔｔ提出了ＳＭＯ（ＳｅｑｕｅｎｔｉａｌＭｉｎｉｍａｌＯｐｔｉｍｉｚａｔｉｏｎ，序贯最小优化）算｛虫１”。该算法将一个大型的ＱＰＮ题分解为一系列最小规模的ＱＰ子问题，即仅具有两个ｌａｇｒａｎｇｅ乘数的ＱＰ问题。从而使得原问题可以通过分析的方法加以解决，
避免了在内循环中使用数值算法进行ＱＰ最优化。ＳＳ．Ｋｅｅｒｔｈｉｌ６１等提出了修改了的最近点算法，其基本思想是将ＳＶＭ的约束优化问题转化为两个凸多边形的最近点等几种算法。本文用Ｊｏａｃｈｉｍｄ…编写的ＳＶＭｌｉ２ｈｌ程序，该程序是由Ｃ
语言编写的，对于学术用途者可免费从ｈｔｔｐ：／／ａｉｓｇｍｄｄｅ／－ｔｈｏｒｓｔｅｎ／ｓｖｍ＿ｌｉｇｈｔ／网－址上下载。
３分类实验
３．１人粕●羹麟
本文使用Ｅｓｓｅｘ人脸图像数据库，它是由英国的ＥｓｓｅｘＵｎｉｖｅｒｓｉｔｙ收集的。数据库中参加测试的人员共有ｌ７２人，每个人有２０张图片，因此共有３４４０幅人脸图像。图像格式为ｊｐｅｇ。图像分辨率为１８０×２００×２４。参加测试者中既有男性也有女性，部分测试者的人脸图像戴眼镜，部分测试者的人脸图像有胡须。摄取的人脸图像中头部无缩放变化，但头部有较小的转动、俯仰和倾斜，人脸在图像中的位置有微小的变化，照明条件没有变化，表情变化较大。
本文选用该图像库中的全部１９位女性图像和Ｉ１３位男性图像共１３２人进行性ｇⅡ分类实验，每人２０幅图像，共２６４０幅图像。图１所示为部分人脸图像和某一人的全部图像。
ｆａ）部分＾脸图像ＩｂＪ一个＾的全部图像
啊１Ｅｓｓｅｘ人脸啊●
３．２分类实验
本文提出的性别分类方法见图２，先对训练图像进行离散余弦变换，每幅图像提１１１４９个ＤＣＴ系数作为特征，训练支持向量机。进行测试时，对每幅测试图像同样进行离散余弦变换，将提取的ＤＣＴ系数输入ＳＶＭ分类器进行分类，从而得到分类结果。
啊２基于ｓＶＭ曲性捌分羹薯囊框圈
对分类结果的评价有两种检验方法：一种是Ｊａｃｋｋｎｉｆｅ检验方法；另一种为ｋ—ｆｏｌｄｃｒｏｓｓ－ｖａｌｉｄａｔｉｏｎ检验。这两种检验都是较为客观和严格的方法。Ｊａｃｋｋｎｉｆｅ检验方法就是通常所说的“留一法”，每一个样本依次从数据库中取出作为测试样本，而剩余的样本作为训练集。在ｋ－ｆｏｌｄｃｒｏｓｓ－ｖａｌｉｄａｔｉｏｎ检验方法中。随机将数据库分为ｋ个子集合，依次取出一个子集作为测试样本集，而其余的ｋ—１个子集合作为训练集，此过程循环ｋ次。在训练时，选全部１９位女性和任意１９位男性每人各两幅图像共７６幅图像进行训练，用“留一法”对训练的支持向量机进行评价，对３种核函数都进行了实验，发现训练出来的支持向量机的预测精度均为１００％，而且对核函数的参数变化不敏感。最后选用径向基核函数，其参数为：ｇ＝００５，ｃ＝１０００，用７６幅图像训练ＳＶＭ分类器。用ｉ／ｉｌ练好的ＳＶＭ分类器对库中１９位女性和任意１９位男性每人剩
下的１８，Ｉ图像共６８４幅图像进行分类测试，测试精度为
万方数据
万方数据
基于支持向量机的人脸分类
作者：张敏贵， 潘泉， 张洪才， 姜睿
作者单位：西北工业大学自动控制系,西安,710072
刊名：
计算机工程
英文刊名：COMPUTER ENGINEERING
年，卷(期)：2004,30(11)
被引用次数：18次
参考文献(12条)
1.Osuna E;Freund R;Girosi F Training Support Vector Machines:An Application to Face Detection[外文会议] 1997
2.Lee T S Image Representation Using 2D Gabor Wavelets[外文期刊] 1996(10)
3.Vapnik V N The Nature of Statistical Learning Theory 1995
4.Lyons M J Automatic Classification of Single Facial Images[外文期刊] 1999(12)
5.Platt J Sequential Minimal Optimization: A Fastalgorithm for Training Support Vector Machines 1999
6.Keerthi S S;Shevade S K;Bhattacharyya C A Fast Iterative Nearest Point Algorithm for Support Vector Machine Classifier Design 1999
7.崔伟东;周志华;李星支持向量机研究[期刊论文]-计算机工程与应用 2001(01)
8.Vapnik V N Statistical Learning Theory 1998
9.Courant R;Hilbert D Methods of Mathematical Physics 1953
10.Osuna E;Freund R;Girosi F An Improved Training Algorithm for Support Vector Machines.
In:Proceedings of the 1997 IEEE Workshop on Neural Networks for Signal Processing 1997
11.Joachims T Making Large-scale SVM Learning Practiceal 1998
12.刘江华;陈佳品;程君实基于Gabor小波特征提取和支持向量机的人脸识别[期刊论文]-计算机工程与应用
2003(08)
本文读者也读过(10条)
1.顾成扬.吴小俊.GU Cheng-yang.WU Xiao-jun基于改进EST的人脸性别分类方法[期刊论文]-计算机工程
2010,36(18)
2.ZHEN-HUA WANG.ZHI-CHUN MU GENDER CLASSIFICATION USING SELECTED INDEPENDENT-FEATURES BASED ON GENETIC ALGORITHM[会议论文]-2009
3.罗瑜.李涛.何大可.徐图.LUO Yu.LI Tao.HE Dake.XU Tu基于部件和支持向量机的人脸分类[期刊论文]-计算机工程2008,34(4)
4.刘爽.谢金融.吕宝粮.LIU Shuang.XIE Jin-rong.LU Bao-liang基于头发信息的性别分类[期刊论文]-计算机仿真2009,26(2)
5.Xiaoxi Chen.Lin Gao.Hugo de GARIS CuParcone - a high-performance evolvable neural network model [会议论文]-2010
6.张同珍.杨公亮.ZHANG Tong-zhen.YANG Gong-liang基于改进BP网络的人脸信息获取算法[期刊论文]-计算机仿真2006,23(6)
7.PAN Wei.HUANG Chang-qin.LIN Shu Gender Recognition with Face Images Based on Partially Connected Neural Evolutionary[期刊论文]-东华大学学报（英文版）2010,27(2)
8.武勃.艾海舟.肖习攀.徐光.徐光祐人脸的性别分类[期刊论文]-计算机研究与发展2003,40(11)
9.何国辉.甘俊英核函数FISHER鉴别在性别鉴别中的应用[期刊论文]-计算机工程与应用2004,40(15)
10.孙鹤基于人脸面部特征的性别分类研究[学位论文]2008
引证文献(18条)
1.晁学民.周继萍基于组合核函数支持向量机的人脸识别[期刊论文]-重庆理工大学学报（自然科学版） 2013(6)
2.主成分分析及支持向量机在人脸识别中的应用[期刊论文]-计算机技术与发展 2006(8)
3.李昆仑.廖频基于级联支持向量机的人脸图像性别识别[期刊论文]-计算机工程 2012(12)
4.于真基于支持向量机的人脸识别技术研究[期刊论文]-计算机仿真 2011(12)
5.张建明.杨忠.李巍改进KNN-SVM的性别识别[期刊论文]-计算机工程与应用 2009(4)
6.罗瑜.李涛.何大可.徐图基于部件和支持向量机的人脸分类[期刊论文]-计算机工程 2008(4)
7.徐勇.张海.周森鑫.王辉基于统计学习理论的人脸识别方法研究[期刊论文]-计算机技术与发展 2007(11)
8.邵平机器学习与人脸识别方法概述[期刊论文]-玉林师范学院学报 2006(3)
9.董李燕.刘艺蕾.王晓峰基于人脸局部特征和SVM的表情识别[期刊论文]-合肥学院学报（自然科学版） 2009(1)
10.董李艳.胡海平.赵丛基于人脸重要特征和SVM的人脸识别方法[期刊论文]-应用数学与计算数学学报 2008(1)
11.钟珊.夏开建.常晋义AAM和PCA-SVM在人脸表情识别中的应用[期刊论文]-常熟理工学院学报 2011(2)
12.刘莉.陈秀宏.梁久祯基于条件正定核的SVM人脸识别[期刊论文]-计算机工程与应用 2010(33)
13.李昆仑.张炘人脸性别识别综述[期刊论文]-电脑知识与技术 2011(10)
14.毕明霞.黄汉明.边银菊.李锐.陈银燕.赵静天然地震与人工爆破波形信号HHT特征提取和SVM识别研究[期刊论文]-地球物理学进展 2011(4)
15.王辉基于核主成分分析特征提取及支持向量机的人脸识别应用研究[学位论文]硕士 2006
16.易小志地铁馈电线路行波保护方式研究[学位论文]硕士 2006
17.李鹏独立分量分析与支持向量机在人脸识别技术中的应用研究[学位论文]硕士 2005
18.张国云支持向量机算法及其应用研究[学位论文]博士 2006
引用本文格式：张敏贵.潘泉.张洪才.姜睿基于支持向量机的人脸分类[期刊论文]-计算机工程 2004(11)