基于核稀疏表示的特征选择算法

合集下载

2014_基于多重核的稀疏表示分类_陈思宝

第9 期 2014 年 9 月
电子学报 ACTA ELECTＲONICA SINICA
Vol． 42 No． 9 Sep． 2014
基于多重核的稀疏表示分类
1， 2 1， 2 陈思宝，许立仙，罗
斌
1， 2
（ 1．安徽大学计算机科学与技术学院，安徽合肥 230601 ； 2．安徽省工业图像处理与分析重点实验室，安徽合肥 230039 ）
1
引言
在分类问题中，最近邻分类器（ Nearest Neighbor， NN）和最近子空间分类器（ Nearest Subspace， NS ）是一种简单的分类器，它们适用于各种问题．支持向量机（ Support Vector Machine， SVM ）也是一种分类器，但它们． NN NS 都有一些缺点和对数据的局部结构非常地敏感，很容易受到噪声的干扰． SVM 通常不像其他的分类 Wright 等人将稀疏器如神经网络那样紧凑．幸运的是，表示引入人脸识别领域，其假定，当测试样本所在类的训练样本足够多时，测试样本可由这些训练样本线性表出，而其它类的训练样本对重构该测试样本的贡献为 0，于是通过估计每类的最小误差而对测试样本分类，从［1 ］而提出了一种基于稀疏表示的人脸识别分类（ Sparse
0811 ；修回日期： 20131016 ；责任编辑：覃怀银收稿日期： 2013No． 61073116 ）；高等学校博士科学点专项科研基金联合资助课题（ No． 20103401120005 ）；安徽基金项目：国家自然科学基金项目（ No． 61202228 ，省高校自然科学研究重点项目（ No． KJ2012A004 ）

基于核空间类间平均距的径向基函数—支持向量机特征选择算法

基于核空间类间平均距的径向基函数—支持向量机特征选择算法黄应清;赵锴;蒋晓瑜【期刊名称】《计算机应用研究》【年(卷),期】2012(29)12【摘要】SVM-RFE特征选择算法的算法复杂度高,特征选择消耗时间过长,为了缩短特征选择的时间,针对径向基函数—支持向量机分类器提出了依据核空间类间平均距进行特征选择的算法.首先分析了径向基函数核参数与数据集核空间类间平均距之间的关系,然后提出了依据单个特征对数据集的核空间类间平均距的贡献大小进行特征重要性排序的算法,最后用该算法和SVM-RFE算法分别对8个UCI数据集进行了特征选择实验.实验结果证明了该算法的正确性、有效性,而且特征选择的时间与SVM-RFE算法相比大大减小.%The feature selection arithmetic of SVM-RFE is complex,and it always costs much time to select feature. This paper put forward an arithmetic based on RBF-SVM which select feature through kernel space mean inter-class distance to save feature selecting time. Firstly .this paper analysed the relation between the kernel parameter and kernel space mean inter-class distance. Then, it put forward the arithmetic which order the features through every feature' s contribution to the kernel space mean inter-class distance. Finally, it made feaure selection experiments with eight subsets of UCI. The results of experiments indicates that the arithmetic of this paper is right and usefull, and it costs less time than SVM-RFE.【总页数】4页(P4556-4559)【作者】黄应清;赵锴;蒋晓瑜【作者单位】装甲兵工程学院控制工程系,北京100072;装甲兵工程学院控制工程系,北京100072;装甲兵工程学院控制工程系,北京100072【正文语种】中文【中图分类】TP391【相关文献】1.基于类间距的径向基函数-支持向量机核参数评价方法分析 [J], 宋小杉;蒋晓瑜;罗建华;姚军2.基于扩展的径向基函数核支持向量机的产品销售预测模型 [J], 涂歆;严洪森3.基于径向基函数神经网络预抽取的支持向量机 [J], 管立新;彭中正4.基于径向基函数神经网络预抽取的支持向量机 [J], 管立新;彭中正;5.基于径向基函数神经网络预抽取的支持向量机 [J], 管立新;彭中正因版权原因，仅展示原文概要，查看原文内容请购买。

迁移学习中的特征选择和特征融合方法研究

迁移学习中的特征选择和特征融合方法研究引言随着深度学习的发展，迁移学习在各个领域取得了巨大的成功。

然而，由于不同领域之间的数据分布和特征表示不同，迁移学习中的特征选择和特征融合方法成为了研究的重要方向。

本文将对迁移学习中的特征选择和特征融合方法进行系统的研究和探讨。

一、迁移学习概述迁移学习是指通过将从一个领域学到的知识应用于另一个领域中的问题。

其主要目的是通过利用源领域的知识来改善目标领域的学习性能。

迁移学习可以分为两种类型，即基于实例的迁移学习和基于特征的迁移学习。

二、特征选择方法特征选择是指从原始特征集合中选择出最具有代表性和重要性的特征子集。

在迁移学习中，由于源领域和目标领域的数据分布不同，选择出适用于目标领域的特征子集对于提高学习性能至关重要。

常见的特征选择方法包括相关性分析、信息增益和基于稀疏表示的方法等。

1. 相关性分析相关性分析是评估特征与目标变量之间关系的一种方法。

在迁移学习中，可以通过计算源领域和目标领域数据的相关性来选择出适用于目标领域的特征子集。

一种常用的方法是皮尔逊相关系数，它可以衡量特征与目标变量之间的线性关系。

2. 信息增益信息增益是评价特征对于分类任务的重要性的一种方法。

在迁移学习中，可以利用信息增益来选择出对于目标领域有用的特征子集。

常见的信息增益算法包括ID3和C4.5算法。

这些算法可以通过计算特征的信息增益来选择出最具有区分能力的特征。

3. 基于稀疏表示的方法基于稀疏表示的方法通过学习一个稀疏矩阵来选择出适用于目标领域的特征子集。

这种方法的核心思想是，目标领域的数据可以用源领域的数据来进行编码。

通过学习得到的稀疏矩阵，可以选择出与目标领域相关的特征子集。

三、特征融合方法特征融合是指将多个特征源进行整合，生成更有代表性的特征表示。

在迁移学习中，特征融合可以帮助解决源领域和目标领域数据分布不同的问题，从而提高学习性能。

常见的特征融合方法包括直接特征融合、逐层特征融合和基于图的特征融合等。

基于相关性和稀疏表示的运动想象脑电通道选择方法

基于相关性和稀疏表示的运动想象脑电通道选择方法
孟明;董芝超;高云园;孔万增
【期刊名称】《电子与信息学报》
【年(卷),期】2022(44)2
【摘要】在基于运动想象(MI)的脑机接口(BCI)中,通常采用较多通道的脑电信号(EEG)来提高分类精度,但其中会有包含与MI任务无关或冗余信息的通道,从而影响BCI的性能提升。

该文针对运动想象脑电分类中的通道选择问题,提出一种采用相关性和稀疏表示对通道进行选择的方法(CSR-CS)。

首先计算训练样本每个通道的皮尔逊相关系数来选择显著通道,然后提取显著通道所在区域的滤波器组共空间模式特征拼接成字典,利用由字典所得到的非零稀疏系数的个数表征每个区域的分类能力,选出显著区域所包含的显著通道作为最优通道,最后采用共空间模式和支持向量机分别进行特征提取与分类。

在对BCI第3次竞赛数据集Ⅳa和BCI第4次竞赛数据集Ⅰ两个二分类MI任务的分类实验中,平均分类精度达到了88.61%和83.9%,表明所提通道选择方法的有效性和鲁棒性。

【总页数】9页(P477-485)
【作者】孟明;董芝超;高云园;孔万增
【作者单位】杭州电子科技大学自动化学院;浙江省脑机协同智能重点实验室【正文语种】中文
【中图分类】TN911.7;TP391
【相关文献】
1.基于CSP的多类运动想象脑电特征自动选择算法
2.基于脑电和眼电的运动想象多尺度识别方法研究
3.观察运动与想象运动范式的脑电活动相关性研究
4.基于时间段和频带联合选择的多类运动想象脑电数据分类
5.基于小波包分解和共空间模式方法的脑电运动想象分类方法
因版权原因，仅展示原文概要，查看原文内容请购买。

基于依赖最大化和稀疏回归的多标签特征选择

基于依赖最大化和稀疏回归的多标签特征选择
吴喆君;黄睿
【期刊名称】《计算机工程与设计》
【年(卷),期】2022(43)7
【摘要】针对基于稀疏回归的多标签特征选择方法中数据的特征和标签之间线性关系假设不成立的问题,提出一种基于依赖最大化和稀疏回归的多标签特征选择方法(multi-label feature selection with dependence maximization and sparse regression,DMSR)。

构建数据的低维子空间,最大化低维空间与数据的标签空间之间的依赖性,使用希尔伯特-施密特独立性准则作为依赖性的计算依据,将数据从特征空间映射到该低维空间,设计一种交替优化的算法对稀疏回归模型进行求解,得到用于特征选择的投影矩阵。

在多个不同类型的多标签数据集上的实验结果表明,所提算法的性能优于其它对比算法。

【总页数】7页(P1898-1904)
【作者】吴喆君;黄睿
【作者单位】上海大学通信与信息工程学院
【正文语种】中文
【中图分类】TP181
【相关文献】
1.非负稀疏表示的多标签特征选择
2.基于稀疏回归和谱分析的无监督特征选择算法
3.基于深度堆叠式稀疏回归的癫痫患者脑电信号特征选择
4.基于子空间学习和伪标签回归的无监督特征选择
5.联合依赖最大化与稀疏表示的无监督特征选择方法
因版权原因，仅展示原文概要，查看原文内容请购买。

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

ｕａｉｃｉｎｔｅｐｗｅｆｓａｓｅｒｓｎａｉｎ．“ ｏｄ’ｆａｕｅｗｉｈｐｅｅｖｄｔｅｏｇｎｌｓｃｒｏｌｅｓｌｃｅＯｒｌｄｓｒｍｉａｉｏｒｏｐｒｅｒｐｅｅｔｔｖｏｇｏ ’ ｅｔｒｈｃｒｓｒｅｒｉａｔｔｅｗｕｄｂｅｅｔｄＳｈｉｕｒｕｔａｅｔｒｅｅｔｎｃｕｄｒｄｃｏｕａｉｎｌｃｍｐｅｉｎｍｐｏｅｐｅｉｉｎＴｅｒｓｌｆｅｐｒｍｅｔｎｓａｄｒＣＩｈｔａｕｅｓｌｃｉｏｌｅｕｅｃｍｐｔｔａｏｌｘｔａｄｉｒｖｒｃｓ．ｈｅｕｔｏｘｅｉｎｔｎａｄＵｆｏｏｙｏｓｉｄｔｅｓｓｏｈｔｔｅｐｒｒｎｅｃｍｐｒｔｉｌｒａｇｒｈｍｐｏｅｂｕｅａｅａｅｏ％．ａａｓｔｈｗｔａｈｅｏｍａｃｏａｅｗｉｓｍｉｌｏｔｍｓｉｒｖｓａｏｔｔｖｒｇｆ５ｆｈａｉｈＫｅｒｓｆａｕｅｓｌｃｉｎｓａｓｅｒｓｎａｉｎ；ｋｒｅｉｋｙｗｏｄ：ｅｔｒｅｅｔ：ｐｒｅｒｐｅｅｔｔｏｏｅｎｌｔｃｒ
ｅｐｅｓｏｆｏｉｉａｔｅｅｐｃ．ｈｎｉｄｓｇｅｖｌａｅｍｅｈｎｓｔｅｅｔｘｅｅｔｅｔｒｕｓｔ．ｈａ— ｘｒｓｉｎｏｒｇｎｌａｉｋｒｌｓａｅＴｅｔｅｉｎｄｅａｕｔｃａｉｄａｎｎｍ．ｓｌｃｃＵｎａｕｅｓｂｅｓＡｓｔｅｎｔｏｅｆ
邓战涛，胡谷雨，志松，张艳艳潘
（解放军理工大学指挥自动化学院，南京２００）１０７摘要：为了解决高维数据在分类时导致的维数灾难，降维是数据预处理阶段的主要步骤。基于稀疏学习进行
特征选择是目前的研究热点。针对现实中大量非线性可分问题助核技巧，非线性可分的数据样本映射到借将
核空间，以解决特征的非线性相似问题。进一步对核空间的数据样本进行稀疏重构，到原数据在核空间的一得
种简洁的稀疏表达方式，然后构建相应的评分机制选择最优子集。受益于稀疏学习的自然判别能力，该算法能够选择出保持原始数据结构特性的“ 特征，好” 从而降低学习模型的计算复杂度并提升分类精度。在标准ｕｐ数据集上的实验结果表明，其性能上与同类算法相比平均可提高约５％。
第２９卷第４期２１０２年４月
计算机应用研究
ＡｐｌａｉｎＲｅｅｒｈｏｏｕｅｓｐｉｔｏｓａｃｆＣｍｐｔｒｃ

Ｖ０．９Ｎｏ４１２．Ａｐ．２１ｒ０２
基于核稀疏表的选择算法示特征
ｃｎｌ．ｎｔｅｆｃｆｔｅｎｎｉｅｒｐｏｌｍ，ｉａｅｔａｅｙｋｒｅｒｋ，ｏｌｅｒｄｔａｐｅｎｏｋｒｅｐｃｅｔＩａｅｏｏｌａｒｂｅｔｓｐｐｒｍｏｉｔｄｂｅｎｌｉｙｈｈｎｈｖｔｃｎｎｉａａａｗｓｍａｐｄｉｔｅｌａｅｎｎｓ
（ｎｔｕｅｆＣｍａｄＡｔｍｔｎ尸４ＵｉｒｔｏＳｉｃＩｓｉｔｏｏｍｎｕｏａｉ，Ｌｎｖｓｙｆｃｎｅ＆ＴｃｎｌｙＮａｊｇ２００ｔｏｅｉｅｅｈｏｏ，ｎｉ１０７，Ｃｉａｇａｈｎ）Ａｂｔａｔｎｏｄｒｔｏｖｈｒｂｅｏｉｎｉｎｉｎｓｎｃａｓｃｔｎｏｉｈｄｍｅｓｏａａａｉｎｉｎｌｙｒｄｃｓｒｃ：Ｉｒｅｓｌｅｔｅｐｏｌｍｆｄｍｅｓｏｌｅｓｉｌｓｉａｉｆｈｓ－ｉｎｉｎｄｔ，ｄｍｅｓｏａｉｅｕ．ｏｌｉｆｏｌｔ
ｔｎｉａｋｙａｐｏｃｎｐｅｒａｍｅｔｅｔｒｅｅｔｎｂｓｄｏｐｒｅｒｐｅｅｔｔｎｉｎｆｈｏｔｓｒｓａｃｐｃｅｉＳｅｐｒａｈｉｒｔｔｎ．ＦａｕｅｓｌｃｉａｅｎｓａｓｅｒｓｎａｉＳｏｅｏｅｈｔｔｅｅｒｈｔｉｓｒ — ｏｅｏｏｔｅｏ
关键词：特征选择；稀疏表示；核技巧
中图分类号：Ｔ３１Ｐ９
文献标志码：Ａ
文章编号：１０ —６５２１）４１８・３０１３９（０２０ —２２０
ｄｉ１．９９ｊｉｎ１０－６５２１．．２ｏ：０３６／．ｓ．０１３９．０２００２ｓ４
ｉｉｈｔｅｎｎｉｅｒｓｍｉｒｙｏｅｆａｕｅｏｌｅｃｒｕｅｎｅｏｓｕｔｄｂｐｒｅｒｐｅｅｔｔｎｔｅｏｃｓｎｎｗｈｃｈｏｌａｉｌｉｆｔｅｔｒｓｃｕｄｂａ）ｒｄａｄｒｃｎｔｃｅｙｓａｓｅｒｓｎａｉｏｇｔｃｎｉｉｎａｔｈｔｒｏｏ
Ｆａｕｅｓｌｃｉｎｂｓｄｏｅｎｌｓａｓｅｒｓｎａｉｎｅｔｒｅｅｔｏａｅｎｋｒｅｐｒｅｒｐｅｅｔｔｏ
ＤＥＮＧｈｎｔｐＨＵＧｕｙＺａａ， — ｕ，Ｐｈ ‘ｏｇ，ＺＡＮＺｉｓｎＨＡＮＧＹａ ’ ａｈｙｈ