SVM分类方法在人脸图像分类中的应用

合集下载

支持向量机在图像识别中的应用案例解析

支持向量机在图像识别中的应用案例解析

支持向量机在图像识别中的应用案例解析支持向量机(Support Vector Machine,简称SVM)是一种常用的机器学习算法,它在图像识别中有着广泛的应用。

本文将通过几个实际案例,解析支持向量机在图像识别中的应用。

案例一:人脸识别人脸识别是一项重要的生物特征识别技术,支持向量机在其中发挥了重要作用。

在训练阶段,我们可以使用SVM算法对许多人脸图像进行标记,将其转化为特征向量。

然后,通过SVM的分类器来学习和识别这些特征向量,从而实现对新的人脸图像的识别。

SVM算法通过构建一个最优的超平面来实现分类,使得不同人脸图像在特征空间中的距离最大化,从而提高了识别的准确性。

案例二:手写数字识别手写数字识别是机器学习中一个经典的问题。

支持向量机在手写数字识别中的应用也取得了显著的成果。

训练阶段,我们可以将大量的手写数字图像转化为特征向量,并使用SVM算法进行分类器的训练。

在测试阶段,通过将新的手写数字图像转化为特征向量,并使用训练好的SVM分类器进行识别,从而实现对手写数字的准确识别。

SVM算法通过寻找最优的超平面来实现分类,使得不同数字在特征空间中的距离最大化,从而提高了识别的准确性。

案例三:物体识别物体识别是计算机视觉中一个重要的研究领域,而支持向量机也在其中发挥了重要作用。

在物体识别中,我们可以将物体的图像转化为特征向量,并使用SVM算法进行分类器的训练。

通过训练好的SVM分类器,我们可以对新的物体图像进行识别,从而实现对不同物体的准确识别。

SVM算法通过构建一个最优的超平面来实现分类,使得不同物体在特征空间中的距离最大化,从而提高了识别的准确性。

总结:支持向量机在图像识别中的应用案例解析中,我们可以看到它的优势。

SVM算法通过构建最优的超平面来实现分类,使得不同图像在特征空间中的距离最大化,从而提高了识别的准确性。

无论是人脸识别、手写数字识别还是物体识别,SVM都能够发挥重要作用。

通过大量的训练数据和合适的特征向量,我们可以训练出准确率较高的SVM分类器,实现对图像的准确识别。

使用机器学习算法进行图像分类

使用机器学习算法进行图像分类

使用机器学习算法进行图像分类随着计算机视觉和机器学习的快速发展,图像分类已经成为其中一个重要的应用领域。

图像分类任务旨在将输入的图像归类到预定义的类别中。

这种技术对于自动驾驶、人脸识别、医学影像分析等领域有着广泛的应用。

在本文中,我将介绍一些常用的机器学习算法以及它们在图像分类中的应用。

1.支持向量机(Support Vector Machines,SVM):SVM是一种二分类模型,但可以通过多个SVM模型来实现多类别的图像分类。

SVM的基本思想是找到一个最优的超平面,使得图像样本点在特征空间中能够被最大程度地分离出来。

SVM在图像分类中具有良好的泛化能力和鲁棒性,尤其适用于特征空间高维、样本量小的情况。

2.卷积神经网络(Convolutional Neural Networks,CNN):CNN 是一种深度学习模型,在图像分类中具有很高的准确性和效率。

CNN的关键是通过多层卷积、池化和全连接层来提取图像的局部特征和全局特征,并将其映射到最终的分类结果上。

CNN模型通常具有很好的参数共享性和抽象表示能力,可以处理大规模的图像数据集。

3.决策树(Decision Tree):决策树是一种基于树状结构的分类模型。

它通过一系列的决策规则来将图像分到不同的类别中。

决策树具有易于理解、可解释性强的特点,对于小规模的图像分类任务效果较好。

然而,当决策树的深度过大或者数据集过大时,容易出现过拟合的问题。

4.随机森林(Random Forest):随机森林是一种集成学习的算法,它由多个决策树构成。

随机森林通过对每个决策树的预测结果进行投票,来确定最终的分类结果。

随机森林具有较好的鲁棒性和泛化能力,对于大规模的图像分类任务效果较好。

除了上述几种常用的机器学习算法,还有一些其他的算法也可以用于图像分类任务,包括朴素贝叶斯分类器、k近邻算法等。

这些算法的选择取决于数据集的特点、算法的性能要求和应用场景的实际需求。

在实际应用中,进行图像分类通常需要以下几个步骤:1.数据准备:首先需要收集和准备用于训练和测试的图像数据集。

基于SVM的人脸识别算法中核函数的特性分析

基于SVM的人脸识别算法中核函数的特性分析
的 内积 。
Y + , 1, ∈{ 1 一 }满足: Y 7 ・ ) b 一 0 ( 12 …,) ( ) ( + ] 1 , , 0 > I ,, / 1 / , 则( b 定义了一个超平面 , 埘,) 此时分类间隔等于
2 核 函数
采用不同的内积 函数将导致不同的支持向量机

) sn ∑) (,) 6 = i[ , x +。 g K ]
() 6
在 线性 不可 分情 况 下 , 得广 义 最 优分 类 面 的 所
对偶问题与线性可分情况下的几乎相同, 详见参考
文献[ ] 1。 对 于非 线性 问题 , 以通 过非 线 性 变换 转 化 为 可
某个高维空间中的线性问题 , 在变换空间中求最优 分类面 , 支持向量机对于此类的非线性变换 , 采用核 函数的思想来实现高维空间的点积。根据泛函的有 关理论 , 只要一种核 函数 K( , ) 满足 M r r e e 条 c 件 , 就对应某 一 变换空 间 中的 内积 。 它
选 分类器 。
S M技术最关键的是 核函数 的选取 , V 不同的核 函数对分类结果有很大的影响。核函数主要影响样 本数据在高维特征空间中分布的复杂程度。而核函 数参数的选取也同样十分重要 , 改变核函数参数就 是 隐含地 改变 映射 函数 从而改 变样本 在特征 空 间分 布 的复杂度 ( 维数 ) 。如 果 特征 空 间维 数较 高 , 得 则 到的最优分类面就有可能 比较复杂 , 分类面具有较 小的经验风险但推广能力较差 。这时就会产生严重 的“ 过学习” 现象。反之则产生“ 欠学 习” 现象 。这 两种分类器都不会得到好 的分类效果。 人脸是 非 刚体 , 变大 , 且光 照 、 龄 、 形 而 年 毛发 等 因素使得人脸模式具有很强 的高维非线性特性 , 在 实际条件下通常不能采集 到大量的图像样本 , 这决 定 了人 脸识 别是小样 本 、 线性 、 非 高维 问题 。所 以基 于 S M的人脸识别算法具有很好 的特性 。本文讨 V 论 了支 持 向量机 的 四种 常用核 函数 的适 用范 围和核 函数参数的选择 , 对四种核函数在人脸识别中的分

支持向量机在人脸识别中的应用案例解析

支持向量机在人脸识别中的应用案例解析

支持向量机在人脸识别中的应用案例解析支持向量机(Support Vector Machine,SVM)是一种常用的机器学习算法,它在人脸识别领域有着广泛的应用。

本文将通过解析几个实际案例,来说明支持向量机在人脸识别中的应用。

首先,我们先来了解一下支持向量机的基本原理。

支持向量机是一种监督学习算法,它通过构建一个超平面来将不同类别的样本分隔开。

在人脸识别中,我们可以将每个人的脸作为一个样本,将不同人的脸分为不同的类别。

支持向量机通过学习样本的特征,建立一个分类模型,然后根据这个模型对新的脸进行分类。

接下来,我们来看一个实际的案例。

假设我们有一个人脸识别系统,需要识别不同人的脸并进行分类。

我们先收集一些样本数据,包括不同人的脸部图像和对应的标签(即人的身份)。

然后,我们使用支持向量机算法对这些样本进行训练,建立一个分类模型。

在训练过程中,支持向量机会根据样本的特征,确定一个超平面来将不同类别的样本分隔开。

这个超平面的选择是通过最大化间隔来实现的,即使得离超平面最近的样本点到超平面的距离最大化。

这样,支持向量机可以找到一个最优的分类模型,能够很好地将不同人的脸进行分类。

训练完成后,我们就可以使用这个分类模型来进行人脸识别了。

当系统接收到一个新的脸部图像时,它会提取图像的特征,并利用支持向量机模型进行分类。

根据分类结果,系统可以判断出这个脸属于哪个人,从而实现人脸识别的功能。

除了上述的基本应用,支持向量机还可以在人脸识别中发挥更多的作用。

例如,可以通过支持向量机来实现人脸检测的功能,即在一幅图像中找到人脸的位置。

这可以通过将人脸检测问题转化为一个二分类问题来实现,其中正类样本表示人脸,负类样本表示非人脸。

另外,支持向量机还可以用于人脸识别中的人脸表情分析。

通过训练一个支持向量机模型,可以将不同的表情分为不同的类别,从而实现对人脸表情的分析和识别。

总之,支持向量机在人脸识别中有着广泛的应用。

通过构建一个分类模型,支持向量机可以实现人脸的分类、检测和表情分析等功能。

支持向量机在图像识别中的应用案例分享

支持向量机在图像识别中的应用案例分享

支持向量机在图像识别中的应用案例分享支持向量机(Support Vector Machine,简称SVM)是一种常用的机器学习算法,在图像识别领域有着广泛的应用。

本文将分享几个SVM在图像识别中的应用案例,展示其在不同领域的成功应用。

第一个应用案例是人脸识别。

人脸识别是计算机视觉领域的一个重要研究方向,具有广泛的应用前景。

在人脸识别中,SVM可以通过训练样本集来学习人脸的特征,然后根据这些特征对新的人脸图像进行分类。

通过对大量的人脸图像进行训练,SVM可以准确地识别人脸,具有较高的准确率和鲁棒性。

第二个应用案例是车牌识别。

车牌识别是交通管理和安全监控领域的重要任务。

传统的车牌识别方法需要依赖于复杂的图像处理算法和特征提取技术,但这些方法往往存在一定的局限性。

而使用SVM进行车牌识别可以有效地解决这些问题。

SVM可以通过训练样本集学习车牌的特征,然后根据这些特征对新的车牌图像进行分类。

实验证明,SVM在车牌识别中具有较高的准确率和鲁棒性。

第三个应用案例是病理图像分析。

病理图像分析是医学领域的一个重要研究方向,可以帮助医生进行疾病的诊断和治疗。

传统的病理图像分析方法需要依赖于专业的医学知识和经验,但这些方法往往存在主观性和误判的问题。

而使用SVM进行病理图像分析可以有效地解决这些问题。

SVM可以通过训练样本集学习病理图像的特征,然后根据这些特征对新的病理图像进行分类。

实验证明,SVM在病理图像分析中具有较高的准确率和鲁棒性。

第四个应用案例是文本分类。

文本分类是自然语言处理领域的一个重要任务,可以帮助人们对大量的文本数据进行自动分类和管理。

传统的文本分类方法需要依赖于复杂的特征工程和模型训练过程,但这些方法往往存在一定的局限性。

而使用SVM进行文本分类可以有效地解决这些问题。

SVM可以通过训练样本集学习文本的特征,然后根据这些特征对新的文本进行分类。

实验证明,SVM在文本分类中具有较高的准确率和鲁棒性。

基于SVM的人脸检测研究

基于SVM的人脸检测研究

( ew r etr ul iesyo lc o i adT cn lg ,G ag i ul 4 0 4 N t okC ne,G inUn r t f et n n eh oo y u n x G in5 10 ) i v i E r c i Abtat Sp ot et cie(V i anw m c iel rigagrh si te edo a scl erigter. c src : u pr V c r o Mahn S M)s e ahn ann lo tm l f ttt a la n oy A — e i n h f s ii n i h
黼淼
电脑编 程技巧与维护
1 . 置环 境 . 2配 2
3 程序 设计
31 软 件 流 程 . ‘
增 加 Q D R 路 径 为 46 tl目录 , 把 46 t TI .一p .一p下 bn和 l i i h 目录 加 入 到 P T 中 。 AH
人脸 检测 程序分为 分类器 训练 、样本检 测两个 部分 ,整
— — _
o e c _ i e 2 0 .b、 o e c m1 2 d 1 p n v v d o 2 d1 i pn v 2 0 . b、 o e e lga y2 0d. i pnv e c 2
ig rc2 d1 m po2 0 .b等所需类库。 i
2 分 类 器 一 支 持 向量 机
c r i g t t g o d n i i g a d g n r l ain a i t , o i lme ta ma e fc e o n t n meh d b s d o u p r o d n o i o d i e t yn n e e a i t b l y t mp e n n i g a e r c g i o t o a e n S p o t s f z o i i Ve tr Ma h n 。 f s t xr c o lv l fa u e f s mpe i g Op n v h n tan S co c i e i t o e t tl w— e e e t r s o a l s Usn e c ,t e r i VM l s i e i F k r e. r a ca s r w t RB e 1 i f h n

遗传算法在人脸识别中的应用案例

遗传算法在人脸识别中的应用案例

遗传算法在人脸识别中的应用案例人脸识别技术是近年来快速发展的一项前沿技术,它在安全领域、智能手机解锁、人脸支付等方面都有广泛的应用。

而遗传算法作为一种优化算法,也被广泛应用于人脸识别中,以提高识别准确率和效率。

本文将介绍一些遗传算法在人脸识别中的应用案例,并探讨其优势和局限性。

一、遗传算法在特征提取中的应用在人脸识别中,特征提取是非常重要的一步。

传统的特征提取方法如主成分分析(PCA)、线性判别分析(LDA)等,都存在一定的局限性。

而遗传算法可以通过优化特征选择的过程,自动地找到最佳的特征子集,从而提高识别准确率。

以基于遗传算法的特征选择方法为例,首先将人脸图像转化为数字矩阵,然后通过遗传算法来选择最佳的特征子集。

遗传算法通过模拟进化过程中的选择、交叉和变异等操作,不断优化特征子集的性能。

通过这种方法,可以减少特征维度,去除冗余信息,提高分类器的性能。

二、遗传算法在分类器设计中的应用分类器是人脸识别中的核心组件,它的设计直接影响到识别准确率。

遗传算法可以应用于分类器的参数优化,以提高分类器的性能。

以基于遗传算法的支持向量机(SVM)参数优化为例,首先通过遗传算法来搜索最佳的SVM参数组合,如核函数类型、惩罚因子等。

然后使用优化后的参数训练SVM分类器,从而提高分类准确率。

三、遗传算法在人脸图像增强中的应用人脸图像质量对于识别准确率有着重要影响。

而遗传算法可以应用于人脸图像增强,以提高图像质量,从而提高识别准确率。

以基于遗传算法的图像增强为例,首先通过遗传算法来寻找最佳的图像增强参数,如对比度、亮度等。

然后使用优化后的参数对人脸图像进行增强处理,从而提高图像质量,增强人脸特征的可辨识度。

遗传算法在人脸识别中的应用具有一定的优势,但也存在一些局限性。

首先,遗传算法的计算复杂度较高,需要大量的计算资源和时间。

其次,遗传算法的结果具有一定的随机性,可能无法保证每次都能找到全局最优解。

此外,遗传算法的参数设置也对结果产生一定的影响,需要经验和调优。

计算机视觉中的人脸识别与行为分析算法

计算机视觉中的人脸识别与行为分析算法

计算机视觉中的人脸识别与行为分析算法近年来,随着计算机技术的快速发展,人脸识别与行为分析算法在计算机视觉领域取得了重大突破。

本文将探讨人脸识别与行为分析算法的原理、应用以及未来发展趋势。

一、人脸识别算法人脸识别算法是一种通过计算机技术识别和验证人脸的方法。

常见的人脸识别算法包括基于特征的方法、基于模型的方法和基于深度学习的方法。

1. 基于特征的方法基于特征的人脸识别方法主要通过提取人脸图像的特征点或特征描述子进行识别。

其中最常用的方法是主动形状模型(Active Shape Models, ASM)和主动外观模型(Active Appearance Models, AAM)。

ASM基于形状模型,在人脸特征点的位置上建立了一个线性模型,通过最小化模型与实际观测到的特征点之间的距离来实现人脸的对齐和识别。

AAM则结合了形状模型和纹理模型,在对齐人脸形状的同时,还考虑了人脸表面的纹理信息。

2. 基于模型的方法基于模型的人脸识别方法采用数学模型描述人脸的形态或纹理特征,并通过模型与输入图像的匹配来实现识别。

常用的基于模型的方法包括统计形状模型(Statistical Shape Model, SSM)和局部二值模式(Local Binary Patterns, LBP)。

SSM通过统计大量人脸数据集的形态变化,构建了一个形状模型,利用该模型可以对输入图像进行人脸对齐和识别。

LBP则通过对图片中像素点局部领域的灰度值进行比较和量化,得到每个像素点的二值编码,进而构造人脸的纹理特征。

3. 基于深度学习的方法近年来,基于深度学习的人脸识别方法在准确性和鲁棒性方面取得了巨大的进步。

常用的基于深度学习的方法包括卷积神经网络(Convolutional Neural Network, CNN)和支持向量机(Support Vector Machine, SVM)。

CNN通过多层卷积和池化操作,将人脸图像转化为高维特征向量,并通过训练分类器来实现人脸的识别。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

SVM分类方法在人脸图像分类中的应用摘要:本文首先简要综述了人脸识别技术中不同的特征提取方法和分类方法;然后介绍了支持向量机(SVM)的原理、核函数类型选择以及核参数选择原则以及其在人脸分类识别中了应用,最后通过在构建的人脸库上的仿真实验观测观测不同的特征提取方法对人脸识别率的影响、不同的学习样本数对人脸识别率的影响、支持向量机选用不同的核函数后对人脸识别率的影响、支持向量机选用不同的核参数后对人脸识别率的影响。

一、人脸识别简介人脸识别也就是利用计算机分析人脸图象,进而从中提取出有效的识别信息,用来“辨认”身份的一门技术。

人脸识别技术应用背景广泛,可用于公安系统的罪犯身份识别、驾驶执照及护照等与实际持证人的核对、银行及海关的监控系统及自动门卫系统等。

常见的人脸识别方法包括基于KL变换的特征脸识别、基于形状和灰度分离的可变形模型识别、基于小波特征的弹性匹配、基于传统的部件建模识别、基于神经网络的识别、基于支持向量机的识别等。

其中特征脸方法、神经网络方法、基于支持向量机的方法等是基于整体人脸的识别,而基于提取眼睛等部件特征而形成特征向量的方法就是基于人脸特征的识别。

虽然人类的人脸识别能力很强,能够记住并辨别上千个不同人脸,可是计算机则困难多了。

其表现在:人脸表情丰富;人脸随年龄增长而变化;人脸所成图象受光照、成象角度及成象距离等影响;而且从二维图象重建三维人脸是病态过程,目前尚没有很好的描述人脸的三维模型。

另外,人脸识别还涉及到图象处理、计算机视觉、模式识别以及神经网络等学科,也和人脑的认识程度紧密相关。

这诸多因素使得人脸识别成为一项极富挑战性的课题。

通常人类进行人脸识别依靠的感觉器官包括视觉、听觉、嗅觉与触觉等。

一般人脸的识别可以用单个感官完成,也可以是多感官相配合来存储和检索人脸。

而计算机的人脸识别所利用的则主要是视觉数据。

另外计算机人脸识别的进展还受限于对人类本身识别系统的认识程度。

研究表明,人类视觉数据的处理是一个分等级的过程,其中最底层的视觉过程(视网膜功能)起信息转储的作用,即将人眼接收的大量图象数据变换为一个比较规则的紧凑表达形式。

生理学的研究表明,人眼视网膜上存在着低层次和高层次的细胞。

其中,低层次的细胞对空间的响应和小波变换的结果相似;而高层次的细胞则依据一群低层次细胞的响应,而作出具体的线、面乃至物体模式的响应。

以此为依据,在计算机人脸识别中,可以将那些通过大量图象数据简单处理后获得的特征定义为低层次特征,而将线、面、模式等描述特征定义为高层次特征。

由此图象变换后的系数特征、小波变换特征及一些统计特征均属低层次特征的范畴,而人脸部件形状分析的结果则为高层次特征。

由于视觉数据经传输后的重建,需依赖于人脑中早期形成的先验知识,因此在人的识别系统中,人脸的检测是一个整体识别和特征识别共同作用的结果。

具体说来,远处辨认人,主要是整体识别,而在近距离的人脸识别中,特征部件的识别则更重要。

另外,人脸的各部件对识别的贡献也不相同,如眼睛和嘴巴的重要程度大于人的鼻子,人脸上半部分重要性大于人脸下半部分,其中特别的人脸更容易被识别记住,比如说歪嘴,或是独眼龙等人脸就更容易为人记起,没有个性的人脸相对就需要更长的时间来辨认。

根据对人脑的研究表明,人脸的表情识别和人脸识别虽然存在联系,但总体说是分开的、并行的处理过程。

这些结论对于设计有效的识别方法起到了一定启发作用。

人脸识别是一个跨学科富挑战性的前沿课题,但目前人脸识别还只是研究课题,尚不是实用化领域的活跃课题。

人脸识别难度较大,主要难在人脸都是有各种变化的相似刚体,由于人脸部件不仅存在各种变形,而且和皮肤之间是平缓过渡,因此人脸是不能用经典的几何模型来进行识别分类的典型例子。

如今人脸识别研究人员已经慢慢地将研究重点从传统的点和曲线的分析方法,过渡到用新的人脸模型来表达和识别人脸,其中弹性图匹配就是较成功的尝试。

二、支持向量机SVM近年来成为模式识别领域发展最快的研究方向之一,并且在各个领域得到了广泛应用。

SVM通过一个非线性映射将输入空间中的学习样本映射到高维特征空间F中,然后利用结构风险最小化原则在F中求取线性分类超平面,巧妙地引入核函数实现特征空间中的内积运算。

SVM的基本原理可用图1-1来说明。

如图1-1(a )所示,如果N 个独立样本()11,t x ,()22,t x ,…,(),N N t x R T ∈⨯不是线性可分的,这时可以通过一个未知的映射函数:R F ϕ→将样本映射到某特征空间F中,得到()()11,t ϕx ,()()22,t ϕx ,…,()(),N N t ϕx F T ∈⨯,然后在F 中构造线性最优分类面(图(b )),从输入空间R 的角度看,所得最优分类面是非线性的(图(c ))。

可记12,,N x x x 的集合为χ,()()()12,,N ϕϕϕx x x 的集合为()ϕχ。

()a ()b ()c图1-1 SVM 基本原理示意图 (a )输入空间R 中的N 个待分类样本 (b )样本被映射到特征空间F 中,并构建最优分类面 (c )从输入空间R 的角度看,分类面是非线性的在F 中构造线性最优分类面的方式与上节在输入空间R 中构造最优分类面的方式是一样的。

设与2H 对应的线性判别函数表达式为()()b f +⋅=x w x ϕ(1.1)上式中求取w 与b 可归结为求解下面的约束优化问题min 2212w(1.2)..t s ()[]1≥+⋅b t i i x w ϕN i 2,1=上式的解由下面的拉格朗日函数的鞍点给出()()()[]{}∑=-+⋅-=Ni i i b t b G 12121,,x w w αw ϕα(1.3)上式中0≥i α,N i ,2,1=为拉格朗日乘子。

为得到鞍点令0=∂∂w G⇒()∑==Ni i i i t 1x w ϕα (1.4)0=∂∂b G⇒∑==N i i i t 10α (1.5)将(1.4)和(1.5)一起代入到(1.3)中可得(1.2)的对偶规划m ax ()()()11112NN Ni i j i j i j i i j G t t αααϕϕ===-=-⋅∑∑∑αx x(1.6)..t s ∑==Ni i i t 10α0≥i α上式含有映射函数ϕ。

若在F 中定义内积()()(),i j i j K ϕϕ=⋅x x x x (1.7)将之代入到(1.6)后有m ax ()()1111,2NN Ni i j i j i j i i j G t t K ααα===-=-∑∑∑αx x (1.8)..t s ∑==Ni i i t 10α0≥i α又设()T N i αααα,,,,,21 =α,()T 1,,1,1 =d ,()T N N t t t ,,,21 =t ,矩阵Q 的第i 行第j 列为()j i j i ij t t Q x x ,=,则(1.8)可写成矩阵形式。

解(3.8)可得i α的最优值,并将(1.4)代入到(3.1)中可得F 中的线性判别函数表达式()()b K t f Ni i i i +=∑=1,x x x α(1.9)式(1.7)中的()j i K x x ,被称为核函数,它欲成为F 中的内积必须满足Mercer 条件:使得积分算子()()()(),k i i j j j T f K f d =⎰x x x x x 为正。

如果F 的维数很高,(1.7)等号右边的计算量会很大,甚至会陷入“维数灾难”而使得计算不可行;但通过上述代换,F 中的内积可基于R 中的变量通过给定的核函数直接计算得到,即使F 的维数非常高,SVM 本身也并没有增加多少计算复杂度。

特别是对某些映射函数而言,F 的维数是无限的,此时内积必须用积分来计算,这种代换的作用就更为明显。

另外从以上推导过程可看出,在特征空间中构造最优分类面,并不需要以显式形式来考虑特征空间,也没有必要知道映射函数的形式,只需通过(1.7)计算内积即可。

值得指出的是,以上推导的假设前提是N 个样本被映射到F 中以后能够线性可分,如果该前提不满足,则必须在F 中构造广义最优分类面。

相应地(1.2)要改成min ∑=+Ni iC 1221ξw(1.10)..t s ()[]i i i b t ξϕ-≥+⋅1x w在(1.9)中,假设输入空间R 内的向量为()()()()T d x x x ,,21=x ,另有s 个向量1x ,2x ,…s x 对应的i α不为零,它们被称为支持向量,则SVC 的拓扑结构如图1-2所示,从图中看出SVM 的计算复杂度取决于支持向量的数目。

()1x (2x(d x图1-2 SVC 拓扑结构图三、实验步骤1.将CBCL 人脸样本库放在硬盘上的指定位置;构建非人脸学习样本库并将之放在硬盘上的指定位置;2.观测不同的特征提取方法对人脸识别率的影响。

在MATLAB 命令行状态下,首先键入faceclassify1(1)并按回车键,记录不采用任何特征提取时,程序的执行结果;Execution time of optimization: 42.8 seconds The number of support vectors : 56 (14.0%) Lagrange coefficient ALF: Detection rate:95.500000然后键入faceclassify1(2) 并按回车键,记录采用主成分方法进行特征提取时程序的执行结果;Execution time of optimization: 35.9 seconds The number of support vectors : 58 (14.5%) Lagrange coefficient ALF: Detection rate:94.500000最后键入faceclassify1(3) 并按回车键,记录采用核主成分方法进行特征提取时程序的执行结果;Execution time of optimization: 41.6 seconds The number of support vectors : 53 (13.3%)Lagrange coefficient ALF:Detection rate:94.5000003.观测不同的学习样本数对人脸识别率的影响。

将源代码中的一个语句“face_lean=20”Execution time of optimization: 46.6 secondsThe number of support vectors : 54 (13.5%)Lagrange coefficient ALF:Detection rate:95.500000“face_lean=50”Execution time of optimization: 56.2 secondsThe number of support vectors : 54 (13.5%)Lagrange coefficient ALF:Detection rate:95.500000“face_lean=100”Execution time of optimization: 52.2 secondsThe number of support vectors : 54 (13.5%)Lagrange coefficient ALF:Detection rate:95.500000“face_lean=300”Execution time of optimization: 40.3 secondsThe number of support vectors : 54 (13.5%)Lagrange coefficient ALF:Detection rate:95.5000004.观测支持向量机选用不同的核函数(线性核或径向基核)后对人脸识别率的影响。

相关文档
最新文档