基于支持向量机的图像分类研究

目录
摘要 (2)
Abstract (3)
1 引言 (3)
1.1 概述 (4)
1.2 统计学习理论 (4)
1.3 支持向量机及其发展简史 (5)
1.4 研究内容及其现实意义 (6)
2 持向量机模型的建立 (7)
2.1 SVM核函数 (7)
2.2 核函数的选择 (8)
2.3 SVM算法简介 (8)
2.4 SVM学习算法的步骤 (9)
3 图像内容的描述及特征提取 (10)
3.1 图像内容的描述模型 (10)
3.2 颜色特征的描述 (10)
3.2.1 颜色的表示和颜色模型 (10)
3.2.2 颜色直方图 (11)
3.2.3 累积颜色直方图 (12)
3.2.4 主色 (12)
3.3 纹理特征的描述 (12)
4 基于SVM的图像分类方法研究 (13)
4.1 分类系统的结构 (13)
4.1.1 特征提取模块 (13)
4.1.2 SVM分类模块 (13)
4.2 特征提取策略 (14)
4.3 实验 (14)
4.3.1 三种核函数的选择比较实验 (14)
4.3.2 基于颜色特征的图像分类 (17)
4.3.3 基于纹理特征的图像分类 (17)
4.3.4 基于综合特征的图像分类 (17)
5 结论 (18)
参考文献 (19)
摘要
支持向量机(SVM)方法是建立在统计学习理论基础之上的，克服了神经网络分类和传统统计分类方法的许多缺点，具有较高的泛化性能。

但是，由于支持向量机尚处在发展阶段，很多方面尚不完善，现有成果多局限于理论分析，而应用显得较薄弱，因此研究和完善利用支持向量机进行图像分类对进一步推进支持向量机在图像分析领域的应用具有积极的推动作用。

本文研究了图像的颜色、纹理等特征对利用支持向量机进行图像分类的影响。

对支持向量机在图像分类中的应用作了较全面的研究。

对三种核函数进行了对比实验，实验表明二项式核函数较高斯核函数和sigmoid核函数具有更强的泛化能力；同时，通过实验分析了特征选取对向量机性能的影响，发现综合特征有利于分类效果的提高。

在以上研究的基础上，我们建立了一个基于svM的图像分类实验平台，讨论了系统的组成模块和功能，给出了一些图像分类实例，并验证了前述理论研究的结果。

关键词：统计学习理论支持向量机图像分类特征提取
Abstract
The support vector machine (SVM) method is based on statistical learning theory foundation, overcome the neural network classification and traditional statistical classification method of faults, and has high generalization performance. But, because the support vector machine (SVM) is still in the development stage, many still not perfect, the existing results more limited to the theoretical analysis, and the use of appear more weak and therefore study and improve the use of support vector machines to image classification support vector machine to further advance in the application of image analysis play a positive role in promoting. This paper studies the image color, texture features on the use of support vector machine was the influence of image classification . To support vector machine (SVM) image classification in the application of a comprehensive. Three kinds of kernel function to the contrast experiment and the simulation results show that the binomial kernel function is gaussian kernel function and sigmoid kernel function is of stronger generalization ability; At the same time, through the experimental analysis the feature selection of vector machine performance, the effects of the comprehensive features found to the improvement of the classification results. In the above the basis of the study, we set up a svM based on the image classification experimental platform, discuss the system composition modules and functions, and gives some image classification examples, and verified the theory research results.
Keywords: statistical learning theory support vector machine image classification feature extraction
1 引言
1.1 概述
随着信息社会的到来，人们越来越多的接触到大量的图像信息。

每天都有大量的图像信息在不断的产生(如卫星、地质、医疗、安全等领域)，这些图像信息的有效组织和快速准确的分类便成了人们亟待解决的课题。

图像分类就是利用计算机对图像进行定量分析，把图像中的每个像元或区域划归为若干类别中的一种，以代替人的视觉判读。

图像分类的过程就是模式识别过程，是目视判读的延续和发展。

本文提出了一种利用支持向量机(SupportVector Machine，简称SVM)的图像分类方法。

支持向量机是在统计学习理论基础上发展起来的一种机器学习方法。

基于数据的机器学习是现代智能技术中的一个熏要方面，研究的实质是根据给定的训练样本求对某系统输入输出之间依赖关系的估计，使它能对未知输入作出尽可能准确的预测和估计。

现有的机器学习方法的重要理论基础之一是统计学。

传统统计学研究的是样本数目趋于无穷大时的渐进理论，现有学习方法也多是基于此假设。

但在许多实际问题中，样本数往往是有限的，并且有时候还不知道数据之问内在相关性，因此常常使得一些理论上很优秀的学习方法在实际中表现却差强人意。

随着统计学习理论(Statistical Learning Theory，简称SLT)的提出，以及在其基础上发展起来的支持向量机的出现，越来越受到广泛的关注和重视，这使得传统的统计学受到了前所未有的挑战口。

1.2 统计学习理论
与传统统计学相比，统计学习理论是一种专门研究小样本情况下学习规律的理论。

V.Vapnik和chervonenkis等人从六、七十年代开始致力于此方面的研究，他们做了大量开创性、奠基性的工作，这些工作主要是纯理论性的，故当时未引起人们的重视。

在此后的二十多年里，涉足这一领域的人不多。

直到九十年代，它一直是作为一种针对有限样本的函数预测问题的纯理论分析工具。

虽然早期的统计学习理论提出了VC维理论，为衡量预测模型的复杂度提出了有效的理论框架。

但它仍然是建立在经验风险最小化原则基础上的，即：以训练的平均误差为最小的模型作为期望的最终模型。

直到九十年代中期，Vapnik和他的At&T Bell 实验室小组提出了基于该理论设计的SVM，在解决一系列实际问题中获得成功，表现出了优良的学习能力，尤其是泛化能力，SVM的提出进一步丰富和发展了统计学习理论，使它不仅是一种理论分析工具，还是一种能构造具有多维预测功能。