局部子空间自适应核函数网络
特征有效提取的自适应核特征子空间方法
特征有效提取的自适应核特征子空间方法
张朝阳;田铮
【期刊名称】《模式识别与人工智能》
【年(卷),期】2013(26)4
【摘要】基于核的主成分分析(KPCA)方法能提取数据的非线性特征,但特征提取的效率却与训练样本集合的容量成反比.文中提出一种特征提取的自适应核特征子空间方法来快速有效地提取特征.该方法和KPCA方法在理论分析框架上是一致的,但通过自适应的选取核子空间的张成向量,能在提高特征提取效率的同时不影响特征提取的精度.针对模拟数据和MNIST数据的实验结果表明文中方法优于经典KPCA 方法和参考方法.
【总页数】10页(P392-401)
【作者】张朝阳;田铮
【作者单位】西北工业大学理学院西安710129;西北工业大学理学院西安710129
【正文语种】中文
【中图分类】TP391.4
【相关文献】
1.基于局部特征自适应加权2DPCA提取表情特征 [J], 莫莉敏
2.核典型关联性分析相关特征提取与核逻辑斯蒂回归域自适应学习 [J], 刘建伟;孙正康;刘泽宇;罗雄麟
3.自适应主元提取算法及其在人脸图像特征提取中的应用 [J], 甘俊英;张有为;毛士艺
4.基于一种自适应核学习的KECA子空间故障特征提取 [J], 张伟;许爱强;平殿发
5.基于自适应分块金字塔匹配核的特征提取算法 [J], 李艳荻;徐熙平;王佳琪
因版权原因，仅展示原文概要，查看原文内容请购买。
核函数带宽自适应的MeanShift跟踪算法
万方数据第６期陈昌涛等：核函数带宽自适应的Ｍｅａｎ—Ｓｈｉｆｔ跟踪算法１６８ｌ１Ｍｅａｎ．Ｓｈｉｆｔ跟踪算法１．１Ｂｈａｔｔａｃｈａｒｙｙａ系数通过，，ｌ级核加权直方图来表示模板的颜色分布ｑ。
如式（１）：吼＝ｃ∑“ｏ（石一％）／圳２］６（６（悲）一“）（１）其中：瓤（ｆ＝１，…，ｎ）表示像素在目标模板中的位置，其中心位置设为算。
同时令ｂ（氟）表示位置石。
处的像素颜色（对于灰度图像ｂ（ｘｉ）为灰度等级），后为核函数框架，ｃ为吼的归一化常数，ｈ为带宽，跚，＝置菇（２）同样令Ｙ；（ｉ＝１，…，，１）表示像素在候选目标中的位置，其中心位置设为Ｙ。
那么与计算模板颜色概率密度分布函数类似，得到候选目标的颜色分布Ｐ。
用Ｂｈａｔｔａｃｈａｒｙｙａ系数Ｐ表示候选目标与模板目标之间的匹配程度Ｂｊ，如式（３）所示。
ｐ（ｐ（ｙ），ｇ）＝∑、佤丽＝－（３）得到的Ｐ越大，表示候选目标与模板目标越匹配，那么对应的中心，，越有可能是目标在当前帧中的位置。
１．２Ｍｅａｎ—Ｓｈｉｆｔ目标跟踪用式（４）进行Ｍｅａｎ－Ｓｈｉｆｔ迭代＂１：姜ｙ叫０罕ＩＩ２】…蚤ｗｉｇ【ＩＩ导≯ＩＩ２】其中：儿（ｉ＝１，…，ｎ）表示像素在候选目标中的位置，其初始中心位置设为％，毗＝∑￣／再７ｉ丐习祆面ｉ了＝可，在使用式（４）进行迭代前，，，初始化为Ｙｏ，每次迭代完成，用得到的新的Ｙ替换，直至Ｙ收敛到一个不变的值，从而找到最佳模式匹配位置，实现目标跟踪。
２基于Ｂｈａｔｔａｃｈａｒｙｙａ系数的核带宽更新在Ｍｅａｎ．Ｓｈｉｆｔ跟踪算法中，式（１）中使用的核函数为凸函数，如：后ｃ”石ＩＩ，＝｛：，一“茗“２’：：：｜ｌ季：ｃ５，起到中心加权的作用，对目标边缘背景的影响有较好的抑制作用，保证了目标跟踪的稳定性和准确性。
由此，笔者受到启示，如果核函数为凹函数，如：……１）－∞“２’㈥季：（６）即对目标边缘起到增强作用，那么由此直方图与模板中心加权直方图计算Ｂｈａｔｔａｃｈａｒｙｙａ系数与核带宽的更新有着一定的关系，下面将予以详细介绍。
基于子空间学习的快速自适应局部比值和判别分析
算法复杂度分析与时间复杂度评估
算法复杂度分析
对基于子空间学习的快速自适应局部比值和判别分析算法的复杂度进行分析，包 括时间复杂度和空间复杂度。
时间复杂度评估
通过实验评估算法的实际运行时间，与经典算法进行比较，验证算法的效率优势 。
06
实验验证与分析
数据集准备与预处理
数据集选择
选择具有代表性的数据集，如手写数字数据集MNIST和手写 汉字数据集HCLUTD。
子空间学习算法通常用于特征提取 ，从原始数据中提取出有意义的特 征，以便后续的分类、聚类等任务 。
子空间学习的常用方法
线性判别分析（LDA）
01
通过找到一个线性变换，使得投影后的数据在不同类别之间有
最大可分性。
主成分分析（PCA）
02
通过找到一个线性变换，使得投影后的数据方差最大，同时保
持数据结构。
基于子空间学习的判别分析算法改进设计
01
子空间判别分析
将判别分析与子空间学习相结合 ，通过子空间映射降低数据维度 ，提高计算效率。
02
03
特征提取与选择
分类器设计
利用子空间判别分析进行特征提 取和选择，保留与分类最相关的 特征，减少噪声和冗余信息。
基于提取的特征设计分类器，如 支持向量机、决策树等，实现高 效分类。
化。
快速自适应局部比值算法的性能评估
实验验证
通过实验验证算法的有效性 和性能。
评估指标
采用准确率、召回率、F1分 数等评估指标对算法性能进 行评估。
比较分析
将快速自适应局部比值算法 与其他算法进行比较，分析 其优缺点。
4
判别分析算法研究
判别分析的基本原理
分类原理
局部约束相关自适应子空间分割
局部约束相关自适应子空间分割
汪静;魏莱
【期刊名称】《现代计算机（专业版）》
【年(卷),期】2017(000)021
【摘要】如何利用数据本身相关性以及数据的内部结构来对数据集进行有效的分割是子空间分割的一个重要问题.根据数据集本身的内部结构以及数据之间相关性,提出一种新的基于局部约束的相关性自适应子空间分割方法(LCASS).为实现良好的子空间分割效果,在基于迹Lasso方法的相关自适应子空间分割方法(CASS)基础上,通过增加局部约束来计算重构系数,并由此构建数据集邻接矩阵.在人脸聚类的实验证明中,此方法构造的邻接矩阵能够更好地表征数据集的内在结构,因此能够得到更好的聚类效果.
【总页数】5页(P31-35)
【作者】汪静;魏莱
【作者单位】上海海事大学信息工程学院,上海 201306;上海海事大学信息工程学院,上海 201306
【正文语种】中文
【相关文献】
1.基于局部强化最小二乘回归子空间分割的基因表达数据聚类 [J], 简彩仁;翁谦
2.基于核方法的相关自适应子空间分割 [J], 洪岚;魏莱
3.投影相关自适应子空间分割 [J], 陈慧娟;陈晓云
4.权自适应最小二乘回归子空间分割法 [J], 简彩仁;吕书龙
5.基于自适应局部邻域加权约束的非负矩阵分解方法及其在高光谱解混中的应用[J], 陈善学;吕俊杰
因版权原因，仅展示原文概要，查看原文内容请购买。
人脸识别背景及其方法
人脸识别背景及其方法浅谈人脸识别技术的现状与发展宋磊卞迪白杰文范益彪李主南摘要人脸识别技术以其独特性、直接性、方便性等特点，在涉及身份特征识别的领域里被广为应用。
本文主要介绍人脸识别技术（FRT）的研究内容、研究背景价值及研究现状。
通过分析当前人脸识别技术的现状，总结了人脸识别的应用前景，提出了人脸识别技术的未来发展要求。
关键词：人脸识别，研究现状，发展趋势AbstractFace Recognition Technology, characterized by its uniqueness,direct and convenience's widely used in the identification of Identlty.This paper mainly introduces the research content^study background value.and research status of the Face Recognition Technology.Through the analysis of the present situation of Face Recognition Technology,the application prospect of Face Recognition is suininarized and the future development of Face Recognition Technology is proposed.Key words: Face Recognition, Research statusDeveloping trend引言随着现代信息技术的快速发展，进行身份认证的技术转到了生物特征层面。
现代生物识别技术主要是通过计算机与高科技手段密切结合，利用人体固有的生理特性和行为特征来进行个人身份的鉴定。
其中人脸识别是指人的面部五官以及轮廓的分布，这些分布特征因人而异，与生俱来。
流形学习算法及其应用研究共3篇
流形学习算法及其应用研究共3篇流形学习算法及其应用研究1流形学习算法是一种机器学习算法，其目的是从高维数据中抽取出低维度的特征表示，以便进行分类、聚类等任务。
流形学习算法的基本思想是通过将高维数据变换为低维流形空间，从而保留数据的本质结构和信息。
近年来，流形学习算法得到了越来越多的关注和应用。
以下我们将介绍一些常用的流形学习算法及其应用。
一、常用的流形学习算法（一）局部线性嵌入（Locally Linear Embedding，简称LLE）LLE算法是一种无监督的流形学习算法，它把高维数据集映射到低维空间，保留了数据间的局部线性关系，即原始数据点集中的线性组合权重。
LLE算法的核心思想是假设所有数据样本都是从某个流形空间中采样得到的，并通过寻找最小化误差的方式来还原流形结构。
LLE算法有着较好的可解释性和良好的鲁棒性，同时可以有效地应用于图像处理、模式识别等领域。
（二）等距映射（Isomap）Isomap算法是一种经典的流形学习算法，它可以从高维数据中提取出低维流形空间，并且保留了数据间的地位关系。
它的基本思想是将高维数据转化为流形空间，从而保留了数据的全局性质。
等距映射算法可以应用于数据降维、探索数据关系等领域，并已经在生物学、计算机视觉等领域得到广泛应用。
（三）核主成分分析（Kernel Principal Component Analysis，简称KPCA）KPCA算法是一种非线性的流形学习算法，可以有效地处理非线性问题。
KPCA通过使用核函数来将数据映射到高维空间，然后应用PCA算法进行降维。
KPCA算法在图像识别、人脸识别、语音识别等领域应用广泛。
（四）流形正则化（Manifold Regularization）流形正则化算法是一种半监督学习算法，它可以有效地利用已经标记的数据和未标记的数据来进行分类或回归。
其基本思想是通过在标记数据和未标记数据之间构建连接关系，利用非线性流形学习算法对数据进行处理。
【国家自然科学基金】_高光谱数据分类_基金支持热词逐年推荐_【万方软件创新助手】_20140802
多类支持向量机 图像融合 图像处理 图laplacian 反向反馈(bp)人工神经网络 半监督特征加权 半监督 分类精度 分离性测度 再生核hilbert空间 光谱 偏最小二乘判别分析 互信息 主成分分析 主成分 不透水层 svm opd bp神经网络
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1
53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71
2011年 科研热词 支持向量机 分类 高光谱遥感 波段选择 高光谱数据 高光谱 降维 虚拟维数 核函数 最小二乘 数学形态学 支持向量机(svm) 高光谱降维 高光谱线性模型 高光谱特征提取 高光谱数据分类 高光谱散射图像技术 高光谱散射图像 高光谱影像 高光谱图像分类 高光谱图像 高光谱分类 非线性降维 遥感分类 谱域-空域 脊波 聚类 经验模态分解 组合特征 组合核函数 线性光谱混合模型 红边特征 粒子群优化 粒子群(pso) 粉质化 窄波段光谱 神经网络 相似性测度 独立分量分析 独立主成分 混合像元分解 混合像元 模糊隶属度 核光谱角余弦 条件随机场 有监督等距映射 最大噪声分量 最优超平面 无信息变量消除法 数据降维 局部线性嵌入法 小波支持向量机 推荐指数 4 4 3 3 2 2 2 2 2 2 2 2 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1
科研热词 推荐指数 高光谱 4 降维 4 高光谱遥感 3 高光谱影像 3 高光谱图像 3 特征提取 3 地物分类 3 高光谱图像分类 2 相关向量机 2 流形学习 2 最近邻 2 支持向量机 2 图嵌入框架 2 图像分类 2 分类 2 高光谱遥感影像 1 高光谱数据分类 1 高光谱数据 1 非负稀疏表示 1 非参数加权特征提取 1 邻域相关性 1 遥感 1 遗传算法 1 近邻保留 1 自适应波段选择 1 自回归模型 1 聚类分析 1 经验模态分解 1 粒子群优化 1 空间一致性 1 稀疏表示 1 盐生植物 1 盐漠带 1 渭干河-库车河三角洲绿洲 1 流行学习 1 波段选择 1 正切空间排列 1 模糊核c-均值聚类 1 植被覆盖区 1 核熵成分分析 1 核函数主成分分析 1 样本空间分布 1 样本依赖排斥图 1 树种 1 本质维数 1 最小重构误差 1 推扫式高光谱成像仪 1 拉普拉斯特征映射 1 投影非负矩阵分解 1 序贯搜索 1 岩性分类 1 局部最优化 1
基于局部自适应核回归的仪表定位方法
基于局部自适应核回归的仪表定位方法杜烨宇;陶大鹏;梁虹;林旭【摘要】计算机视觉技术不断发展,利用巡检机器人对钻井平台、水电工程等复杂工业环境下的各种仪表设备进行定期检查成为可能,然而这些功能的实现依赖仪表的精准定位.本文提出一种基于局部自适应核回归(Locally adaptive regression kernels,LARK)的方法进行仪表的快速定位.LARK算法无需训练,可以快速搜索感兴趣的视觉对象,并且不需要进行过多的预处理,提高了定位的效率.通过提取查询图像的显著特征,在目标图像中寻找所有可能相似的对象,然后用非极大值抑制法保留最强相似点,实现目标对象的定位.实验选用从不同角度拍摄的具有不同放缩比例的仪表图像作为实验所需数据.实验结果表明,该算法定位准确度高,可以很好地满足工业环境下仪表的定位要求.【期刊名称】《数据采集与处理》【年(卷),期】2016(031)003【总页数】12页(P490-501)【关键词】检测仪表;目标探测;模式识别;巡检机器人【作者】杜烨宇;陶大鹏;梁虹;林旭【作者单位】云南大学信息学院,昆明,650091;云南大学信息学院,昆明,650091;三峡大学水电工程智能视觉监测湖北省重点实验室,宜昌,443002;云南大学信息学院,昆明,650091;中国科学院深圳先进技术研究院,深圳,518055【正文语种】中文【中图分类】TP181引言近年来，对图像中目标的定位技术已经广泛应用于军事、智能交通及工业监控等领域[1-5]。
在军事领域，通过对图像进行目标定位与分析，可以有效地提高中远程武器的打击精确度。
在智能交通领域，通过对各种电子监控设备采集到的车辆图像信息中的车牌进行定位监控违章车辆，这一举措大大提高了执法效率。
在工业监控领域，随着工业化进程的不断发展，越来越多的仪器仪表需要定期检查与维修。
利用图像检测技术对仪表进行自动定位，可以大大节省人工搜寻仪表的时间，并且为机器人及视觉采集设备在一些人工无法到达的环境下对仪表的巡检及维修提供可能[6-8]。
基于快速近似幂迭代子空间跟踪算法的自适应分集接收技术
第41卷第1期 2017年2月南京理工大学学报Journal of Nanjing University of Science and TechnologyVol.41 No.1Feb.2017基于快速近似幂迭代子空间跟踪算法的自适应分集接收技术齐凯，韩玉兵，盛卫星(南京理工大学电子工程与光电技术学院，江苏南京210094)摘要：为了获得性能高复杂度低的抗多L衰落接收机，该文将快速近似幂迭代（Fast approximated power iteration，FAPI)子空间跟踪算法应用到Rake接收机中，实现一种新型的自适应Rake接收机。
采用Rake接收机来消除码分多址通信系统中多L衰落，利用FAPI算法实现对信道参数的精准估计，从而进一步改善了Rake接收机的误码率性能。
同时，由于F A P算法的低复杂度，该文所提出的新型Rake接收机也具有复杂度低的特点。
实验仿真结果表明：FAPIRake接收机是一种高性能低复杂度的抗多L接收机。
关键词：多L衰落;Rake接收机;码分多址；快速近似幂迭代子空间跟踪；信道估计中图分类号：TN973.3 文章编号：1005-9830 (2017)01 -0090-05D O I:10.14177/ki.32-1397n.2017.41.01.012Adaptive diversity receptiontechnique basedonfast approximatedpower iteration subspace trackingQi Kai，Han Yubing，Sheng Weixing(School of Electronic and Optoelectronic Technology，Nanjing University of Scienceand Technology，Nanjing210094，China)A b s tra c t:;get an a nti-multipath receiver with better performance and lower complexity，a newRake receiver is p ut forward in this paper which uses fast approximated power iteration(FAPI) subspace tracking algorithm.Rake receiver is used to eliminate multipath fadin multiple access，and FAPI is used to estimate channel parameters accurately.Because FAPI has low complexity，the new Rake receiver has low complexity too.The simulation results show that tlie FAPIRake receiver is an anti-multipath receiver with better performance and lower complexity.K ey w o rd s:multipath fading;rake receiver;code division multiple access;fast approximated power iteration；channel estim ation收稿日期:2016-02-23 修回日期:2016-06-30作者简介:齐凯（1991-)，男，硕士生，主要研究方向：数字通信，E-mail:qkmoon@foxmaiLcom;通讯作者：韩玉兵 (1971-)，男，副教授，博士生导师，主要研究方向:通信信号处理、雷达信号处理、数字视频/图像处理，E-mail:hanyb@。
一种压缩采样中的稀疏度自适应子空间追踪算法
一种压缩采样中的稀疏度自适应子空间追踪算法杨成;冯巍;冯辉;杨涛;胡波【摘要】针对压缩采样中未知稀疏度的信号,本文提出一种自适应子空间追踪算法.首先,采用了一种基于匹配测试的估计方法获取稀疏度的估计值,再通过子空间追踪重构信号.若子空间追踪不能成功重构,则通过渐近增加信号稀疏度的方法实施估计,而上述过程可描述为在弱匹配原则下新原子的选取过程.仿真结果表明,本文的算法可以准确有效重构信号,同时运算量也较低.【期刊名称】《电子学报》【年(卷),期】2010(038)008【总页数】4页(P1914-1917)【关键词】压缩采样;子空间追踪;稀疏分解【作者】杨成;冯巍;冯辉;杨涛;胡波【作者单位】复旦大学电子工程系,上海,200433;复旦大学电子工程系,上海,200433;复旦大学电子工程系,上海,200433;复旦大学电子工程系,上海,200433;复旦大学电子工程系,上海,200433【正文语种】中文【中图分类】TP391.411 引言压缩采样(Compressive Sampling,CS)针对具有稀疏性或在特定域上可转化为稀疏性的信号,通过实施远低于奈奎斯特采样率的的随机采样,可准确完成原始信号的重构[1～4].由于CS有效降低了信号获取、存储及传输的代价,该理论一经出现即得到广大研究人员的密切关注.设x是一个长度为N的实向量,即x∈RN.x中只有不超过K个非零元素,x被称作K-稀疏.研究表明:对x进行随机线性投影,即y=Φ x,其中y是M维观测向量(M≪N),Φ是M×N的测量矩阵,则基于y可有效完成信号x 的重构.如何在已知y和Φ的条件下快速、有效的重建x是CS研究的一个重要方面[5].目前已有的方法可包括组合优化,非凸优化,凸优化,贪婪算法等几类.凸优化方法通过求解一个最小化凸问题逼近信号,如基追踪(Basis Pursuit)[6]等.这些算法中,贪婪算法由于算法结构简单,运算量小等特点受到重视.传统贪婪算法匹配追踪(MP)[7]、正交匹配追踪(OMP)[8,9]已在压缩采样中得到了应用.改进的算法包括分段正交匹配追踪(Stagewise OMP,StOMP)[10]、正则化正交匹配追踪(RegularizedOMP,ROMP)[11].这几种算法只有在信号具有较低的稀疏度时才能较好地重建信号.子空间追踪(Subspace Pursuit,SP)[12]和压缩采样匹配追踪(Compressive Sampling Matching Pursuit,CoSaMP)[13]是两种比较相似的算法,具有较好的性能.但是SP和CoSaMP要求信号稀疏度已知,这在很多应用中难以满足.如果对稀疏度的估计不准确,很多信号不能得到精确重建.文献[14]中提出的稀疏度自适应匹配追踪(Signal Adaptive Matching Pursuit,SAMP)算法在每次迭代中采用增加固定数目原子的方法估计信号稀疏度.当K较大时,SAMP算法由于迭代次数多而导致运算量特别大.2 自适应子空间追踪算法在给出自适应子空间追踪算法构造之前,首先分析约束等距性质(Restricted Isometry Property,RIP),它是重建x的重要基础.文献[4]提出了RIP性质用于描述从y重建x的条件.指定表示l0范数,表示l2范数.如果对所有满足的x,矩阵Φ都满足式(1):那么称Φ是以参数(K,)满足RIP性质的线性算子.目前研究发现当测量次数M足够大时,高斯随机矩阵,伯努利随机矩阵等以极大的概率满足RIP性质[1].CS的信号重建可以看成信号稀疏分解问题.如果把Φ的列向量v i(1≤i≤N)看作原子并归一化,它们的集合构成超完备字典D.由于x中有K个非零元素,观测值y可以看作由D中K个原子线性组合表示的信号.设这K个原子的索引组成集合Γ,y可以表示成y=ΦΓxΓ.其中ΦΓ表示由Φ索引在Γ中的列向量所组成的子矩阵.xΓ表示x中索引在Γ中的元素组成的向量.y在字典D上具有稀疏的表示,即可寻找最少的一组原子{vi|i∈¯Γ},使残差信号r=y-Φ¯Γx¯Γ能量最小.本文提出的SASP算法的目标是在K未知条件下找到这样一组原子{vi|i∈¯Γ}.其基本思想如下(见图1):首先,SASP使用一种稀疏度估计方法得到集合Γ0,Γ0中元素数小于K.SASP通过后续迭代改善估计并重建x.设在第n次迭代中通过子空间追踪选取出原子{vi|i∈Γn}.如Γn中原子能很好地表示y说明对K的估计是准确的.否则选取新的原子将其索引加入Γn,并重复上述过程.下面分别从稀疏度估计,新原子选取,子空间追踪三部分描述SASP算法.2.1 稀疏度估计以下给出一种稀疏度估计方法,其思路是通过匹配测试得到一个原子集合,使其势K0略小于K.令g=Φ*y,Φ*表示Φ的转置矩阵.设信号y的真实支撑集为Γ,用|◦|表示集合的势,则=K.设g中第i个元素为gi,取前K0(1≤K0≤N)个最大值的索引得到的集合为Γ0,|=K0.命题设Φ以参数(K,δK)满足RIP性质.如果证明取|gi|(1≤i≤N)中前K个最大的元素的索引得到集合~Γ,K0≥K时有~Γ⊆Γ0,显然≥根据RIP的定义,ΦΓ的奇异值在和之间.如果用λ(ΦΓ)表示矩阵的特征值,则有1-δK≤λ(ΦΓ)≤1+δK,所以可以得到再由RIP性质的定义可知综合不等式(2)、(3)可以得到得证.根据以上结论的逆否命题,当时,K0＜K.从这个命题可以得到对K初始估计方法:K0取初始值1,如果则依次增加K0直到不等式不成立,同时得到的是对Γ的初始估计Γ0.2.2 新原子选取当子空间追踪无法通过迭代使残差能量满足给定阈值时,可选取更多的原子表示y.SASP算法采用弱匹配策略选取与残差信号比较接近的原子,并将其索引加入集合Γn.令g=Φ*r,则g中第i个元素gi是原子向量vi与残差信号r的内积,即＜vi,r＞.引入实数α为弱匹配参数,α∈(0,1].SASP选取所有满足|gi|≥α|的原子,则Γn的更新可表示为弱匹配可以看作选取残差的投影大于一定阈值的原子,该阈值与|有关.α=1时,与OMP类似每次迭代只选取与残差最匹配的单个原子,Γn中每次增加一个元素.当α比较小时,每次迭代可能选取多个原子.所以通过弱匹配可以根据信号调整增加的原子数.已有实验表明,参数α取值0.7～0.9之间可以兼顾算法性能和运算速度. 2.3 子空间追踪子空间追踪部分也通过迭代改进估计结果,每次迭代中采用了一种后退策略[12].算法的结构如图2所示.设经过n次迭代后得到原子的索引集合为Γn,残差信号为rn.在第n次迭代中,将rn-1分别投影到字典D的各个原子向量上,并选出投影最大的|Γn-1|个原子.把它们的索引与Γn-1合并得到集合^Γ,^Γ中有2|Γn-1|个元素.再把y投影到原子向量{vi|i∈^Γ}张成的空间,从^Γ中去除系数最小的|Γn-1|个原子的索引得到~Γ,|~Γ|=|Γn-1|.再次把y投影到原子{vi|i∈~Γ}张成的空间,如果得到的残差能量小于rn-1的能量则更新Γn并重复上述过程.文献[12]证明如果Φ以参数(K,δ3K)满足RIP性质且δ3K＜0.165,则有＜,子空间追踪可以从y准确重建x.2.4 算法步骤第(1)～(4)步为稀疏度估计部分,得到初始估计集合Γ0和残差r0.第(5)步初始化迭代次数.第(6)～(12)步为SASP算法迭代主体.第(6)～(11)步通过子空间追踪改进估计结果.第(12)步判断终止条件是否满足,如果满足整个算法退出.否则通过弱匹配在Γn中加入新选取的原子的索引.因为rn-1与vi(i∈Γn-1)正交,Γn-1中元素不会被重复选出.算法的终止条件可设为:(1)当残差能量小于一定值时终止;(2)当原子与残差的相关小于某个阈值时终止.2.5 算法分析由可知rn能量单调递减,算法至少收敛到一个局部最小点.稀疏度估计部分主要运算在于求M次投影,计算量相对较小.SASP算法的计算复杂度与外层迭代的次数密切相关,其上限为O(K2MN).整个算法的计算量中对最小二乘问题求解占很大一部分.在外层迭代中每次重复需要求解一次最小二乘问题,即算法步骤(8).子空间追踪部分第(10)、(12)步分别需要求解一次最小二乘问题.算法外层迭代次数与每次选取的原子数和信号的稀疏度相关.3 实验结果3.1 稀疏度估计为了验证SASP算法中稀疏度估计的结果,本节通过实验测试稀疏度估计部分.实验中,M=256,N=512,Φ为M×N高斯随机矩阵,每项元素是独立分布零均值单位方差的高斯随机变量.从x0中随机取K个元素,每一项值为独立分布零均值单位方差高斯随机变量,x0中其它元素值为零.通过y=Φ x0得到观测向量y,图中横坐标表示实验次数,纵坐标表示K的估计值.图3中比较了K=51条件下δK取不同估计值时得到的K估计值.3.2 信号重建实验这一部分比较OMP、StOMP、ROMP、SP、SAMP、SASP算法性能和运算时间.实验测试K取不同值的结果,其它设置与上一节相同.信号准确重建的条件设为x和x0中非零元素位置一样,且误差的能量小于10-15.StOMP中阈值ts取3,SAMP中步长s=1,SASP中α=0.7,δK取估计值0.3.算法中最小二乘问题都采用QR分解法求得,终止条件都设为残差能量小于ε=10-5.算法在Intel Core2 Duo E8400机器上运行,软件版本为Matlab R2008a.实验中OMP和StOMP算法的实现采用的是SparseLab(/)工具箱.SAMP和ROMP的实现采用作者提供的代码.对于不同的K值,所有算法都运行500次来计算重建成功率和平均运行时间.图4中表示不同稀疏度下信号准确重建率.从图4中可以看出本文提出的算法性能超过OMP、StOMP、ROMP和SP算法,与SAMP相比性能相当.当K/N大于0.25时SASP和SAMP才会有较多信号不能成功重建.图5表示了各个算法运行平均时间.相比SP算法,SASP因为迭代次数增加而导致运算时间超过SP.而与SAMP 算法相比,SASP的运算时间远小于SAMP.3.3 图像实验实验中使用的图像是256×256像素的Lena图像,采样矩阵采用结构化随机采样矩阵[15].实验比较了各个算法重建图像的PSNR和运算时间,所有算法选取出约3000个原子后终止.为了加快SAMP运算时间,实验比较了步长分别取s=50和s=100的结果.所有算法中对于大规模最小二乘问题的求解都采用LSQR算法.表1比较了不同算法重建图像的PSNR和运算时间.从表中可以看出SASP重建图像PSNR最高,运算时间也较短.SAMP需要取合适的步长s才能在运算时间和重建效果间取得一个较好的平衡.表1 不同算法重建时间与性能比较算法Lena(M=0.3*N)Lena(M=0.4*N)Lena(M=0.5*N)PSNR(dB)运行时间(s)PSNR(dB)运行时间(s)PSNR(dB)运行时间(s)OMP27.24336.3128.81338.2629.36339.30 StOMP21.620.8123.970.8526.450.91 ROMP23.041.7426.132.5927.022.41 SP27.1719.5727.6710.4729.496.40SAMP(s=50)27.27217.3129.12217.3429.62206.25SAMP(s=100)27.25118.4829.06122.6529.56109.26SASP27.5019.2529.2919.0329.8019.204 结论本文提出了一种自适应子空间追踪算法SASP,该算法可以在未知信号稀疏度的情况下准确重建信号.算法使用一种新的稀疏度估计方法得到稀疏度的初始估计值,然后通过迭代进行估计的更新.在每次迭代中采用弱匹配原则选取新原子,再通过子空间追踪改善结果并重建信号.实验表明,SASP算法可以有效地重建稀疏信号,同时具有较低的运算量.参考文献:【相关文献】[1]D L pressed sensing[J].IEEE Trans Info Theory,2006,52(4):1289-1306.[2]E J Candès,J Romberg,T Tao.Robust uncertainty principles:Exact signal reconstruction from highly incomplete frequency information[J].IEEE Trans Info Theory,2006,52(2):489-509.[3]E J Candès,T Tao.Near-optimal signal recovery from random projections:Universal encoding strategies[J].IEEE Trans Info Theory,2006,52(12):5406-5425.[4]E J Candès,T Tao.Decoding by linear programming[J].IEEE Trans InfoTheory,2005,51(12):4203-4215.[5]石光明,刘丹华,高大化,等.压缩感知理论及其研究进展[J].电子学报,2009,37(5):1070-1081.Shi Guang-min,Liu Dan-hua,Gao Dahua,etc.Advance s in theory and application of compressed sensing[J].Acta Sinica Electronica,2009,37(5):1070-1081.(in Chinese)[6]S S Chen,D LDonoho,M A.Saunders.Atomic decomposition by basis pursuit[J].SIAM Rev,2001,43(1):129-159.[7]S Mallat,Z Zhang.Matching pursuits with time-frequency dictionaries[J].IEEE Trans Signal Process,1993,41(12):3397-3415.[8]J A Tropp.Greed is good:Algorithmic results for sparse approximation[J].IEEE Trans Info Theory,2004,50(10):2231-2242.[9]J A Tropp,AC Gilbert.Signal recovery from random measurements via orthogonal matching pursuit[J].IEEE Trans Info Theory,2007,53(12):4655-4666.[10]D L Donoho,Y Tsaig,I Drori,etc.Sparse solution of underdetermined linear equations by stagewise Orthogonal Matching Pursuit[OL].2007,/～donoho/Reports/2006/StOMP-20060403.pdf.[11]D Needell,R Vershynin.Uniform uncertainty principle and signal recovery via regularized orthogonal matching pursuit[OL]./abs/0707.4203,2007-7-28/2008-3-15.[12]W Dai,enkovic.Subspace pursuit for compressive sensing signal reconstruction[OL]./abs/0803.0811,2008-3-6/2009-1-8.[13]D Needell,JA Tropp.CoSaMP:Iterative signal recovery from incomplete and inaccurate samples[J].Applied and Computational Harmonic Analysis,2009,26:301-321.[14]Thong T Do,Lu Gan,Nam Nguyen etc.Sparsity adaptive matching pursuit algorithm for practical compressed sensing[A].Proc Asilomar Conference on Signals,Systems,and Computers[C].Pacific Grove,CA,United States:IEEE Signal Processing Society.2008.10:581-587.[15]T Do,T Tran,L Gan,Fast compressive sampling with structurally random matrices[A].Proc ICASSP[C].Piscataway:Institute of Electrical and Electronics Engineers Inc.2008.5:3369-3372.。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
出局部子空间 自适应核 函数 网络解决思路 。首先将 原始 空间的高维特 征分成一 系列 低维 子空间 ；然后 针对不 同子 空间构造
不同的核函数和核参数局部 网络 ；最后综合所 有子空 间形成综 合核函数 网络 。同时利用支 持向量分 布几何 意义 ，选择 边界
向量代 替原始训练样本 ，大大减少 网络 的复杂度 。由于不 同输入子空间构造 的核 函数 以及 网络 规模相对 于样本分 布具 有一
第２ ３卷
第 ３期
信 号 处 理
ＳＧ Ｉ ＮＡＬ Ｐ ＯＣ Ｓ Ｉ Ｒ Ｅ Ｓ ＮＧ
Ｖ １２ Ｎ ． ｏ ． ３． ｏ３
２０ ０ ７年 ６月
Ｊｎ ２０ ｕ ．０７
பைடு நூலகம்
局 部 子 空 间 自适 应 核 函数 网络
胡 正 平
（ 山大学 通信 电子工程 系，秦 皇 岛 Ｏ６ ０ ） 燕 ６０ ４ 摘 要 ：针对 目前单一整体核 函数 网络相对 于原始空间特征局部分 布缺乏 自适 应性 以及 网络 规模 巨大 的不 足 ，本文提
为减少网络规模的复杂度提出利用支持向量分布几何意义选择边界向量代替原始训练样本通过删除无效样本的预处理步骤减少网络规收稿日期年月日修回日期年月日国家自然科学基金资助项目河北省科学技术研究与发展项目万方数据第期局部子空间自适应核函数网络模进而大大降低了训练难度
维普资讯
Ａ ｓｒｃ ： Ｉ ｒｅ ｖｒ ｍ ｅｄｆ ｉ ｃ ｉ ｒ ｋｒｅ ｔ ｏａ ｆａ ｒｓ ｎ ｒｅｓａ ｒｃ ｒ ｉ ｅｅａ ｋｒｅ ｆｎ— ｂ ｔ ｔ ｎｏｄｒｏｏｅ ｏ ｅｔ ｅ ｃ ｎｙｏ ｕ ｔ ｙ ｅ ｌｏ￣ ｂ ｔ ｅ ｄｌ ｇ— ｌ ｓ ｕｔ ｅ ｎｇｎ ｒ ｅ ｌｕ ｃ ａ ｔ ｃ ｈ ｉ ｅ ｆ ｎａ ｎ ｌ ｅｕ ａ ａ ｃｅｔ ｕ ｌ ｎ
ｍ ｇ ｅｔｒｓｓｌ ｔ ａｅ ｎａｄｅ ｖｓｇｔ ｎｉｔ ｔ ｅｍ ｔ ｒ ｃ ｌ ｏ ｐ ｒ ｖｃ ｒ ａｄｉ ｉｒ ｕ ｏ． ｏ ｐ ｅ ｘ ｒ ｎ ａｉ ｖｃ ｅ ｃｅ ｂｓｄｏ ｅｐｉ ｅｔ ａ ｏ ｏ ｈ ｇｏ ｅ ｙ ｉ ｉ ｅｆ ｓ ｐ ｔ ｅｔｓ ｎ ｓ ｓ ｂ ｔｎ Ｃ ｍ ａ ｄｅ— ｏｉ ｅｄ ｎ ｉ ｉ ｎ ｅ ｒ ｐ ｎ ｐ ｕｏ ｏ ｔｄ ｔ ｉ ｉ ｒ
定 的 自 应性 ，所以该方法相对于经典全局核 函数 网络可 以得 到更好 的综合 性能。对 比实验结果 表明本 文提 出的方法能 够 适
改进 高维模 式识 别的性能 ，是一种值得实际应用推广 的方法 。 关键词 ：支持 向量机 ；核 函数 网络 ；神经网络
Ｌ ｃ ｌ ｂ ｐ ｃ ａ ｔ ｅ Ｋ ｒ ｅ ｕ ｃ ｉ ｎ Ｎｅ ｗｏ ｋ ｏ ａ Ｓｕ ｓ ａ ｅ Ａｄ ｐ ｉ ｅ ｎ ｌ ｎ ｔ ｔ ｒ ｖ Ｆ ｏ
经验风险之 间进行折衷 ， 以获得最 好 的推广能 力… 。通 过引 入核 函数使得 它具 有非 线性 处理 能力 。主要 表现 在两个 方 面 ：１ 分类 器的泛化能力与输入特 征 向量 的维 数无关 ， （） 克服
Ｈｕ Ｚｈ ｎ ｐ ｎ ｅ ｇ ｉｇ
（ ｅ ａ ｍ ｎ ｆ ｏ ｍｕｉａｏ ｎ ｌ ｔ ｎｃＥ ｇ ｅｒ ｇ Ｙ ｎｈｎＵ ｉ ｒｔ ｉｈａ ｇａ ，６Ｏ ４ Ｄ ｐｒ ｅｔ ｍ ｎｃｔ ｎａｄＥｅ ｒ ｉ ｎ ｉ ｅ ｎ ， ａ ｓａ ｎｖ ｓ ｙＱｎ ｕｎｄ ｏＯ６ Ｏ ） ｔ ｏＣ ｉ ｃｏ ｎ ｉ ｅｉ
ｔ ｎ ｎ ｔ ｒ ａ ｎ ｖ ｌ ｄ ｐ ｉ ｅ ｌｃ ｕ ｓ ａ ｅ ｋ ｒ ｅ ｕ ｃｉｎ ｎ ｔ ｒ ｓｐ ｐ ｓ ｄ ｉ ｉ ｐ ｐ ｒ Ｆ ｒｔ ｈ ｐ ｔｓ ａ ｅ ｉ ｄ ｖｄ ｄ ｉｔ ｉ ｅｗｏ ｋ， ｏ ｅ ａ ｔ ｏ ａ ｓ ｂ ｐ ｃ ｅｎ ｌ ｎ ｔ ｅｗｏ ｋ ｉ ｒ ｏ ｅ ｎ ｔ ｓ ａ ｅ ． ｉ ｌ ｔ ｅ ｉ ｕ ｐ ｃ ｓ ｉｉ ｅ ｎ ｏ ａ ｏ ａ ｖ ｌ ｆ ｏ ｏ ｈ ｓ ｙ ｎ ｓ ｒ ｓ ｏ ｉｎｆｃ ｎ ｏ ｉ ｎ ｉｎ ｕ ｓ ａ ｅ ａ ｄ ｔ ｅ ｅ ｌ ｃ ｄ ｐ ｉ ｅ ｅ ｕ ｃｉｎ ａ ｄ ｐ ａ ｔｒ ｒ ｏ ｓｒ ｃｅ ｎ ｅ ｃ ｕ — ｅ ｅ ｓｇ ｉ ａ ｔ ｗ ｄ ｍｅ ｓｏ ａ ｓ ｂ ｐ ｃ ． ｎ ｎ ｔ ｏ ａ ａ ａ ｔ ｅ ｋ ｒ ｌｆｎ ｔ ｎ ａ ｍｅ ｅ ａ ｅ ｃ ｎ ｔ ｔｄ ｉ ａ ｈ ｓ ｂ ｉ ｆ ｉ ｌ ｌ ｈ ｈ ｌ ｖ ｎ ｏ ｒ ｓ ｕ ｓ ａ ｅ Ｆ ｎ ｌ ｅ ｉｔ ｇ ａｅ ｅ ｅ ｕ ｃｉｎ ｎ ｔ ｏ ｋ ｉ ｓ ｔｐ ｂ ｓ ｇａｌ ｈ ｎｏ ｍａ ｉｎ ｏ ａ ｈ ｋ ｒ ｅ ｕ ｓ ａ ｅ Ａｔｔｅ ｓ ｍｅ ｔ ｈ ｐ ｃ ． ｉ ａ ｙ ｔ ｎ ｅ ｒｔ ｋ ｒ ｌ ｎ ｔ ｅ ｗ ｒ ｓ ｅｕ ｙ ｕ ｉ ｌ ｔ ｅ ｉ ｆｒ ｔ ｅ ｃ ｅ ｌ ｂ ｐ ｃ ． ａ ｉ ｔ ｌ ｈ ｄ ｎ ｆ ｏ ｎ ｏ ｆ ｎ ｓ ｈ ｍｅ ｅ
Ｋ ｙ ｗｏ ｄ Ｓ ｐ ｏ ｅ ｔ ｒｍａ ｈ ｎ ；Ｋ ｍｅ ｕ ｃ ｉｎ ｎ ｔ ｏ ；Ｎ ｕ ａ ｅ ｏｋ ｅ ｒ ｓ： ｕ ｐ ｒ ｖ ｃｏ ｃ ｉ ｅ ｔ ｅ ｌｆ ｎ ｔ ｅ ￣ ｏ ｗ ｅ ｒｌｎ ｔ ｒ ｗ
１ 引言
支持 向量机建立 在统计学 习理论的 Ｖ Ｃ维概念 以及结构 风 险最小原理 的基础 上 ， 根据有 限样本 信息在 模型复 杂度与