基于支持向量机的回归研究
基于支持向量机回归
基于支持向量机回归
支持向量机回归（Support Vector Machine Regression, SVMR）是一种强大的机器学习算法，它在回归问题中表现出色。
本文将介
绍支持向量机回归的原理、应用和优势。
支持向量机回归是一种监督学习算法，它通过寻找一个最佳的
超平面来进行回归预测。
与传统的回归方法不同，支持向量机回归
不仅能够处理线性回归问题，还能够处理非线性回归问题。
它通过
使用核函数将输入空间映射到高维特征空间，从而使得数据在高维
空间中线性可分，进而找到最佳的超平面进行回归预测。
支持向量机回归的优势之一是其对于异常值的鲁棒性。
由于支
持向量机回归是基于支持向量来进行回归预测的，因此对于异常值
的影响较小，能够更好地适应数据的特点。
此外，支持向量机回归
还具有较强的泛化能力，能够在面对新数据时保持较好的预测性能。
在实际应用中，支持向量机回归被广泛应用于金融、医疗、生
物科学等领域。
例如，在金融领域，可以利用支持向量机回归来预
测股票价格的走势；在医疗领域，可以利用支持向量机回归来预测
疾病的发展趋势。
支持向量机回归在这些领域展现出了良好的预测
性能和稳定性。
总之，支持向量机回归作为一种强大的机器学习算法，在回归问题中具有很高的应用价值。
它的优势在于对异常值的鲁棒性、较强的泛化能力以及对非线性回归问题的处理能力。
随着机器学习技术的不断发展，支持向量机回归必将在更多的领域得到广泛应用。
基于支持向量机回归的农产品物流需求预测
基于支持向量机回归的农产品物流需求预测摘要:农产品物流虽然具有普通物流的共同特点,但因其具有独特性和复杂性,这导致利用一般方法进行农产品物流需求预测不仅难度大,而且精度差。
为了提高农产品物流需求预测的能力,应用基于结构风险最小化准则的标准支持向量机回归方法来研究农产品物流需求预测问题。
在选择适当的参数和核函数的基础上, 通过对实例研究,对时间序列数据进行预测,发现该方法能获得最小的训练相对误差和测试相对误差。
结果表明,支持向量机回归是研究农产品物流需求预测的有效方法。
关键词:支持向量机回归农产品物流需求预测模型1 引言农产品物流对于国民经济的发展及公民生活水平的提高至关重要,准确把握、预测农产品物流需求有助于制定合理的农产品物流规划、促进国民经济可持续发展、提高公民生活水平。
近年来,国内外很多学者在物流需求预测上,提出了很多有创新性和实践意义的方法。
如,基于线性回归模型的物流需求预测[1]、基于时间序列模型在物流需求预测中的应用[2]、基于灰色-马尔科夫链的区域物流需求预测[3]、基于经验风险最小化原则人工神经网络[4]方法。
支持向量机是近几年来应用于建模的一种新的学习方法。
支持向量机算法最终将转化为一个二次型寻优问题,从理论上讲得到的将是全局最优点,支持向量机的拓扑结构由支持向量决定,避免了传统神经网络拓扑结构需要经验试凑方法确定,而且SVM的最优求解基于结构风险最小化思想,因此具有比其他非线性函数逼近方法具有更强的泛化能力。
本文就是根据支持向量机模型对样本限制少,能进行小样本、多因素的非线性分类的特点,采用支持向量机模型(选用v-SVR和RBF 核函数)对农产品物流需求进行预测。
最后通过测试,验证了利用支持向量机模型建立的需求预测模型能较好地实现农产品物流需求的预测,并取得了较好的效果。
2 支持向量机解决回归问题的基本原理支持向量机最初是由Vapnik提出的一种基于统计学习理论的机器学习算法,相对于神经网络的启发式学习方式和实现中带有的很大的经验成份相比,SVM具有更严格的理论和数学基础,支持向量机其基本思想就是把训练数据集从输入空间非线性地映射到一个高维特征空间(Hilbert空间),然后在此空间中求解凸优化问题(典型二次规划问题),可以得到全局最优解,支持向量机在最小化经验风险的同时最小化置信风险,有效地保证了较强的推广特性且推广能力可以得到方便的控制。
基于支持向量机对种群特征回归分析的自适应遗传算法
由于 代 间的差 异大小对 收敛状况 存在 直接 的影
响， 而种群 的代 问统 计 量 的变 化情 况 能 较好 的反 映 遗 传 算 法 优 化 过 程 的 动 态 运 行 情 况 ， 此 提 出 因
Ｉ Ｈ 的概 念对 上一 代 与下 一 代 之 间 的差异 进 行 定 Ｇ Ｄ
摘
要： 在分析标准遗传算法易发生早熟收敛的基础上 ， 提出了遗传算法种群特征代 间海 明距离 的概 念 ， 间海明 代
距离可以较好 的反 映算 法运行 的总体 与动态性 能。应用 支持 向量 机对 遗传 算法 的代 间海 明距 离进行 了回归分析 ， 遗传 算法依据 回归 分析 结果 调整其整 体优 化策略 ， 同时依 据算法 当前运行 情况 自适 应调 整种群 的多样性 ， 有效地 避免了遗传算 法的早熟 收敛 。数值实验结果表 明 ， 该改进算法搜索整体性较强 ， 搜索效率优 于标准遗传算 法 ， 高 提
搜 索能力不 足 ， 使得 它 在 处理 一 些 问题 时 达 到 全局 最优 解还会 花 费较 长 的时 间 。因 此 ， 文在 研 究 标 本 准 Ｇ Ｓ Ａ）的 基 础 上 ， 用 支 持 向 量 回 归 机 Ａ（ Ｇ 应 （Ｖ 对 遗 传算 法 的 种群 统 计 特 征 进 行 了 回 归 分 Ｓ Ｒ） 析 ， 用 回归分 析结 果 对 遗 传 算 法 的优 化 策 略 进 并使 行 了 自适 应 改进 。改 进 算 法 的搜 索 的整 体 性 较 强 ，
Ａｕ ２ ０７ ｇ． ０
文 章 编 号 ：０６— ４ ４ ２０ ） ４— ３ １ ０ １０ ０６ （０ ７ ０ ０ ９ — ５
基 于支 持 向量 机对 种 群 特 征 回归 分 析 的 自适应 遗 传 算 法
支持向量机在回归问题中的应用
支持向量机在回归问题中的应用支持向量机（Support Vector Machine，简称SVM）是一种常用的机器学习算法，广泛应用于分类问题中。
然而，SVM同样适用于回归问题，其在回归任务中的应用也是非常有价值的。
一、回归问题简介回归问题是机器学习中的一类重要问题，其目标是预测连续型变量的值。
与分类问题不同，回归问题的输出是一个实数而非离散的类别。
例如，根据房屋的面积、地理位置等特征，预测房价就是一个典型的回归问题。
二、支持向量机回归原理SVM回归的基本思想是通过构建一个最优的超平面来拟合数据点。
与分类问题中的超平面不同，回归问题中的超平面是一个曲线或者曲面，其目标是使数据点尽可能地靠近该曲线或曲面。
在SVM回归中，我们需要定义一个损失函数，用于衡量预测值与真实值之间的误差。
常用的损失函数包括ε-insensitive损失函数和平方损失函数。
ε-insensitive损失函数允许一定程度的误差，而平方损失函数则更加严格。
为了得到最优的超平面，SVM回归引入了一个惩罚项，用于平衡模型的复杂度和拟合误差。
这个惩罚项可以通过调节超参数C来控制，C越大，模型越复杂，容易过拟合；C越小，模型越简单，容易欠拟合。
三、支持向量机回归的优点1. 鲁棒性强：SVM回归通过选择支持向量来进行拟合，对于异常值的影响较小。
这使得SVM回归在处理包含噪声的数据时表现出色。
2. 非线性拟合能力强：通过引入核函数，SVM回归可以处理非线性回归问题。
核函数将数据从原始空间映射到高维空间，使得数据在高维空间中线性可分。
3. 泛化能力强：SVM回归采用结构风险最小化原则进行模型选择，能够在训练集上获得较好的拟合效果的同时，保持对未知数据的良好泛化能力。
四、支持向量机回归的应用场景1. 房价预测：通过收集房屋的各种特征，如面积、地理位置、房龄等，可以利用SVM回归模型来预测房价。
2. 股票价格预测：通过收集股票的历史交易数据和相关指标，如成交量、市盈率等，可以利用SVM回归模型来预测股票价格的走势。
使用支持向量机进行回归分析的方法与技巧
使用支持向量机进行回归分析的方法与技巧支持向量机（Support Vector Machine，SVM）是一种常用的机器学习算法，广泛应用于分类和回归问题。
在回归分析中，SVM可以通过寻找最优超平面来建立输入变量和输出变量之间的非线性关系。
本文将介绍使用支持向量机进行回归分析的方法与技巧。
一、数据预处理在进行回归分析之前，首先需要对数据进行预处理。
这包括数据清洗、特征选择和数据标准化等步骤。
数据清洗可以去除异常值和缺失值，确保数据的质量。
特征选择可以通过相关性分析和特征重要性评估等方法来选择最相关的特征变量。
数据标准化可以将不同尺度的特征变量转化为相同的尺度，避免不同变量之间的差异对回归结果的影响。
二、选择合适的核函数在支持向量机中，核函数的选择对回归结果有很大的影响。
常用的核函数包括线性核函数、多项式核函数和径向基核函数等。
线性核函数适用于线性可分的回归问题，多项式核函数可以处理非线性关系，而径向基核函数则可以处理更加复杂的非线性关系。
根据具体的问题和数据特点，选择合适的核函数可以提高回归分析的准确性。
三、调整模型参数在支持向量机回归中，有两个重要的参数需要调整，分别是惩罚参数C和核函数的参数。
惩罚参数C控制了模型的复杂度，较小的C值会产生较简单的模型，较大的C值则会产生较复杂的模型。
核函数的参数可以控制模型的灵活性，不同的参数值会导致不同的模型拟合效果。
通过交叉验证等方法，可以选择最优的参数组合，提高回归模型的性能。
四、模型评估与优化在建立支持向量机回归模型后，需要对模型进行评估和优化。
常用的评估指标包括均方误差（Mean Squared Error，MSE）和决定系数（Coefficient of Determination，R-squared）等。
均方误差衡量了模型的预测误差大小，值越小表示模型的拟合效果越好。
决定系数则衡量了模型对观测值的解释能力，值越接近1表示模型的解释能力越强。
根据评估结果，可以对模型进行优化，如增加样本量、调整模型参数等。
svr预测原理
svr预测原理
SVR（Support Vector Regression）预测原理基于支持向量机（SVM）的回归分支。
SVR通过在线性函数两侧制造一个“间隔带”，该间距被称为容忍偏差（ϵ），对所有落入到间隔带内的样本不计算损失。
只有支持向量会
对函数模型产生影响，最后通过最小化总损失和最大化间隔来得出优化后的模型。
在现实任务中，很难直接确定合适的ϵ，确保大部分数据都能在间隔带内。
因此，SVR引入了松弛变量ξ，使函数的间隔要求变得放松，允许一些样本可以不在间隔带内。
引入松弛变量后，所有的样本数据都满足条件，这就是软间隔SVR。
此外，SVR预测还涉及到核函数的选择和应用。
核函数用于将输入空间映射到高维特征空间，以便解决非线性回归问题。
常见的核函数包括线性核函数、多项式核函数和RBF核函数等。
对于特定的预测问题，如焦炉集气管压力
预测，选择合适的核函数可以提高预测精度。
如需更多SVR预测原理的相关信息，建议咨询统计学专业人士或查阅统计
学相关书籍。
建立基于支持向量机的信号回归模型-来回归某一信号
《数值分析》与《数学实验》专业实训报告书一、问题描述建立基于支持向量机的信号回归模型，来回归某一信号。
二、基本要求1.了解什么是支持向量机，2.学习支持向量回归算法，3.建立基于支持向量机的信号回归模型，来回归某一信号，4.谈谈实验体会与收获。
三、数据结构1 支持向量机回归模型支持向量回归的基本思想是通过一个非线性映射将数据映射到高维特征空间,并在这个空间进行线性回归。
此模型是在分类模型的基础上引进一个修正距离的损失函数,常用的损失函数有二次函数、Huber 函数、Laplace 函数和ε损失函数,其中ε损失函数可以确保对偶变量的稀疏性,同时确保全局最小解的存在和可靠泛化界的优化。
因为这些较好的性质而得到广泛的应用.2 支持向量机回归模型的参数选取应该遵循以下原则:(1) 为了避免l P h 过小,多项式核函数的多项式次数过高将使模型变得复杂,虽然对已有数据能很好拟合,但是不具有推广能力,显然模型无效,通常确定其取值范围为1～2。
(2) 损失函数的参数ε通过控制回归逼近误差管道的大小,从而达到控制支持向量的个数和泛化.能力的目的,其值越大,精度越低,则支持向量越少。
为了在拟合精度和泛化能力之间平衡,ε的取值范围一般为(0. 000 1～0. 01) 。
(3) 惩罚因子C 用于控制模型复杂度和逼近误差的折中, C 越大,模型越复杂,则对数据的拟合程度越高。
因此,为了控制模型复杂程度,通常C 应取值偏小,但是为了使模型的经验误差不要过大, C的取值又不能太小,通常确定其范围为(1～1 000) 。
四、源程序利用核函数将输入数据映射到高维特征空间F( 通常是无限维)，在特征空间实现线性回归，估计函数具有如下形式：()()f x x b ωϕ=+这里:d R F ϕ→，映射到特征空间， 表示特征空间中的内积，F ω∈且b R∈为从训练数据集D 估计函数f ，典型的支持向量回归最小化正则化风险泛函：[][]22regem p R fR f λω=+=()()211,2Ni i i c f x y Nλω=+∑这里正则化参数λ为正数，损失函数c 选择为ε-不敏感损失函数，形式如下：()0,,for u c u u elseεεε⎧<⎪=⎨-⎪⎩可以通过解二次规划的优化问题来最小化正则化风险泛函。
基于改进的(加权)支持向量机回归算法在水处理中的应用研究
理 论 研 究 苑
２幸 期 科１ ８ ０年 技第 １ 裴霸
基 于改进 的 （ 加权 ）支持 向量机 回归算法在 水处理 中的应
用研 究
王启超 ，梁礼 明
（ 西 理 Ｔ 大 学 机 电工 程 学 院控 制 理 论 与 控 制 工 程 专 业 ，江 西 赣 州 ３ １０ 江 ４ ０ ０）
关键 词 计学习理论 ；支持 向量回归 ；加权 系数 ；加权 支持 向量 回归 中图 分类 号 Ｔ Ｐ 文献 标识 码 Ａ 文章 编号 １７—６ １（ １） ２ ０ １— ２ ６３ ９７一２ ０ —２ ２０ ０１４
支持 向量机 （ ｕ ｐ￣Ｖ ｃ ｒ ａｈ ｅ Ｓ Ｍ） Ｏ Ｓｐｏ ｅｔ ｃｉ ， Ｖ 是２ 世纪９ 年代 中期由 ｏＭ ｎ ｏ Ａ ＆ 贝尔实验室的Ｖ ｐｉ ＴＴ ａｎ 等人提 ｍ的一种新的机器学 习算法 ， ｋ 它是以统 计学习理论 （ ｔｉｉａ Ｌａｎｎ ｈ ｏｙ Ｉ Ｓａｓｃｌ ｅｒｉｇ ｅｒ，Ｓ， ｔｔ Ｔ Ｔ）为基础 的，因此 支持向量 机具有很强 的理论 基础和泛化能力。 统计学 习理论是建立在结构风险最小化原则基础上的，该理论为机 器学 习问题建立 了一个 良好的理论框架 ，较好地解决了小样本 、非线性 和局部极小点等实 际问题。支持 向量机就是专 门针对小样本情况下的机 器学 习问题而建立 的一 套理 论体系 。它 的核心思想是对于一个 给定 的 具有有限数量训练样本的学习任务 ，如何对其准确性和机器容量进行折
衷 ，以得 到最 佳 的推 广 性 能 。
要是对 （ ２）中提 ｍ的方法进行调整研究和实践 ，采用线性 规划下的一 类分类方法 ，根据每个样本偏离数据域程度 的不 同赋予不同的权值 ，从 而使噪声点的权值接近于一个很小的实数 ，以减小对回归 函数 的影响。 １２ 加权支持向量回归算法 ＿ 、 设 给 定 的 训 练 集 ｛ ，Ｙ） … ，（ｆ ｔ ∈ ×ｙ ， Ｘ ，Ｙ） ｝ ） ∈ｘ Ｒ ｓ ，即对不同样本 的误差惩罚和精度的 要求是平等的。但在实际应用中，有些数据 比较重要 ，要求的训练误差 较小 ；相反有些数据则容许有一定大小 的误差。因此 当样本中存在噪声 或野点时 ，导致Ｓ Ｍ在这些点较为敏感 ，由此产生过拟合现象。 Ｖ ２）ｓ— Ｖ 算法在求解大规模 问题 时存在学习速度过慢 的问题。因 ＳＲ 此 ，如何减少计算 时间 、存储空间及避免过学习问题成为回估计 的学习 算法 的研究点。针对这种情况 ，本 文在此引入权值 ，根据每个样本偏离 数据域程度的不同赋予不 同的权值 系数 ，使噪声点的权值接近于一个很 小的实数 ，以减小对回归 函数的影响。在确定权值系数 的训练中，拟采 用线性规划下的一类分类方法。 １ 改进 的回 归型 支持 向量机 算法 １１ ．支持 向量 回归机的改进算法简介 针对 回归问题 时样本 中出现噪声或野点的情况 ，提 出的加权支持 向 量 回 归算 法 ，主要 有 ： １）模糊 支持 向量机 ，２ ０ 年ＬｎＣＦ ０ ２ ｉ．．等将模糊 隶属度 的概念引人 到ｓ ｖＭ分类 中 ，将输 入样本集模糊化 ，提 出了模糊支 持向量机 （ｕ ｚ ｆｚｙ ｓｐ ０ｔ ｅｔｒ ｃ ｉｅ ｓ ｕ ｐｒ ｖｃ ｈｎ—Ｆ ｖＭ）的概念。该方法提高了Ｓ ０ ｍａ ＶＭ抗噪声的能 力 ，尤其适合于未能完全揭示输入样本特性的情况。 ２）基于数 据域描述 的模糊支持 向量回归 ，其基本 思想是 ：首先得 到数据域描述模型 ，然后根据每个样本偏离数据域的程度的不 同赋予不 同的隶属度 。 ３ ）加 权稳 健 支 撑 向量 回归 方法 （ — Ｖ ＷＲ Ｓ Ｒ）。 其基 本 思 想是 ：首 先 由Ｓ Ｒ Ｖ 方法得到一近似支撑 向量 函数 ，基于这一近似模 型给 出给定数据 的损失估计。软剔除即以加权 的方式剔除奇异值 ：数据偏离模型愈远 ， 损失函数 的权重愈小 ，其对模型参数估计的影响亦愈小 。 目前对权值系数的确定还没有一个统一 的方法 ，本文所做 的工作主
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
用 数组 记 录方 程 中 的点 ：： ａ ｋＹ￣ ａｓ ２ ０１） ａ ｍ ｃ ｅ ｌ （ ０ ，７ ； ｓ１ ａ １０ 个点 的数 组 是 ２０
应用 一 支持 向量 机进 行 回归研 究 ．以ａ 对支 持 向量 依 据结 构 风险最 小化 准则 ． 数学 语 言表 达 ． 持 向量 用 支 机进 行训 练 ． 练 中 ． 训 以交 叉 验证 的方 法 确定最 优 的参 回归机 要求 解 的问题是 ： 数值 ， 并做 预测 。 图２ 预测 结果 ： 是
合适 的参 数 ． 能够使 支 持 向量机 既 有好 的学 习能 力 ， 又 有好 的泛 化 能力
交 叉 验证 是 度量 Ｓ Ｍ回归 结 果 的首 选 方法 ．并且 Ｖ 它具 有指 导参 数选 择 的能力 其 原 理是 将 训 练样 本 分 成 数 据量 相 同的ｋ 子集 ． 个 记性 训 练算 法ｋ 。 于每个 次 对 子 集 ｉ在第 ｉ 训 练 时 ． 用 除 去第 ｉ 子 集后 的ｋ １ ． 次 要 个 一 个
ｔｒｃｉｎ ２ ０ ．３４ ： １ —３ ２ ｅａｔ ， ０ ３１ （）３ ７ ． ｏ １
【】 ａｌｎ ， ｒ ｒ Ｕ．ｌｏ ｉ ， ． ｇｅｉ ．Ｐｅｒｃｓｎ ２ Ｂ ｇｏ ｉ ｉ Ｍ．Ｆ ｒ ａ ，￣ ｍｅ Ａ．Ｒｕ ｉ ， ｒｐｏｅ ｉ ｅ ａ ｇ ｒＳ ｓｇ
ａｄ ｎ Ｍｉ ｉ ｇ Ｗ ｅ Ｌ ｇ Ｄａ ｏ ｂ ｅ ｓ ｎ ｌ ａｉ ｎ ｎ ｎｎ ｂ ｏ ｔ ｆ ｒ ｗｅ Ｐ ｒ ａｉ ｔ ．Ｉ ：ＡＩ Ｉ ａ ｏ ｚ ｏ ＊—
ｍ ｉ ｎ
ｃ ∑三（ （） ｆｘ） ，
ｓ． Ｊ一＿（， ） ． 厂 ｏ ｓ￡ ｔ ）
其 中， 常数 Ｃ Ｃ ０ 用来 调 整训 练模 型 ， 于 平衡 结 （＞ ） 用 构 风险 和置信 风 险 。
２ 交 叉 验 证 原 理 、
参 数 的 取值 对支 持 向量 机 有 很重 要 的 影 响 ．选 择
３ 实 例 研 究 、 ３ 结 论 ．
根据预测结果可见 ， 训练样本 （ 对 下转 第 １２页 ） ０
１２ ０
福 建 电
脑
２１ ０ ０年第 １ ２期
出 ， 着 用户 数 的增 多 ， 法 耗 费 的 Ｃ Ｕ时 间上 升 比 的可信 度和准 确性 。 随 算 Ｐ
较缓慢 。
图２预 测结 果
均方误 差 Ｍ Ｅ＝００ １ Ｓ ． ５相 关 系数 Ｒ＝０ ９ １ ７ ．８。 ４
为 了取得 更 好 的效 果 ． 练 中对数 组ａ 行 归 一化 训 进 子 集 作 为训 练集 训练 模 型 ． 用第 ｉ 子 集作 为测 试 计算 个 预 预测 结果 如 图３ 所示 ： 模 型 预测 的误 差 。 最后 将ｋ 次预测 模 型 的平均 误差 值作 处 理 ， 测后再 进 行反 归一 化 ， 均方误 差 ＭＳ Ｅ＝０１２ ．０ ４相 关 系数 Ｒ ＝０８ ２ 。 ． ７ ６ 为 模 型 的近似误 差值
Ａ２０ ３，２ ０ ０ ０ ３，２ ７－２４ ３ ９
统计 学 习理 论 和支 持 向量 机 建立 了一 套 较好 的有 究 。麦克一 拉斯 混沌 微分 方 程 ： 格
和 局部 极小 点等 实际 问题 ．因此成 为 目前 国际 上机 器 示 ：
支 持 向量机 是 从统 计 学 习理 论发 展 而 来 的 ．设 给
定 训 练 样 本集 ： （， ｉ 其 中ｘ∈Ｒ ， 示 第 ｉ ｄ ｆ ｉＹ ｘ ） “表 个 维
本 文 以 麦 克一 拉 斯 混 沌 微 分 方 程 为对 象 进行 研 格 ｄ ｄ＝ （ 丁， ＋ （ 下 ￣］ｂ ｘ ） ￣ ｔａ ｘｔ ） １ ｘ — ） ０－ （ 一 ［ ｔ ｔ 计 算时 ，＝ ７ ＝ ． ｂ ０１ ｒ １ ； ０２ ＝ ．，取 １ ０ 个 点 ，如 图１ ａ ； ２０ 所
参考 文献 ：
【】 ｉ ｒｋｓＤ， ｎ ａｏ ｒ ． ｅ ｓ ｅｍｎｎ ｓａｔｏ ｆｒ １ Ｐｅ ａｏ ａｄＰｌ ｕａ ＧＷ ｂ ｕａ ｉｉｇａ １ ｒ ｉ ｓ ｇ ｏ ｏ ｐｒ ｎｌａｏ ： ｒｅ 【１Ｕｓ ｄｌ ｇａｄＵｓ ￣ｐ － ｅ ｏ ａｚｔ ｎ Ａ ｓ ｖｙＣ ． ｅ Ｍｏ ｅｎ ｎ ｅ Ａ ｍｄＩ ｓ ｉ ｉ ｕ ｒ ｉ ｒ ｎ
究， 通过 交叉验证 确定 最优 的 系数 ， 为研 究 者提供 参 考 。
【 关键 词 】 非 线性 回归 ；８ ｓｒ ； ： 一 ｖｎ 交叉验 证
１ 支持 向量机 回归原理 、 限样本 下 机器学 习的理 论 框架 和通 用 方 法 ．既 有严 格 的理论 基 础 。 能较 好 地解 决 小 样本 、 线 性 、 维 数 又 非 高 学 习领 域新 的研究 热点 。
向量 ， 称为输 入 特 征 向量 。Ｙ ∈Ｒ， ； 表示 输 出 ， ｌ ，…， ｉ ，３ ＝ ２ ｎ 。通过 训练 学 习寻求Ｒ 上的 函数 ）使 得训 练样 本 集 “ ｘ， 要 满 足 对 任意ｘ， 在ｙ 。 对 于ｘ＋Ｘ …的数 据 ， 存 ｉ ｘ， ＝ ） ｎ￣ ｌ 也 同样 存在 这样 的“ １ ｘ。 回归 问题 ．是 输 入变 量 和输 出变 量通 过 函数关 系 表 示 ， 以此 函数 为规 则 ． 过 输 入新 的变 量 ． 到新 并 通 得 的输 出作 为预 测值 。
２１ ０ ０年第 １ ２期
福 建 电
脑
１７ ０
基 于支 持 向量 机 的 回归 研 究
刘 磊
（天津 大唐 国际盘 山发 电有 限责 任公 司 天 津 蓟县 ３ １ ０ ０ ９ ０）
【 摘
要 】 支持 向量 机在 非 线性 回 归 中 ， 着成功 的应 用。本 文 通过 一支持 向量机 进行 回归 的 实例 研 ： 有