基于独立分量分析的自适应在线算法
贪心算法解决最优装载问题
算法设计与分析实验报告 //author : Kevin Black //这个是我刚刚做好的作业，我觉得应该上传一些文档到豆丁 //老师···假如你看到我的作业跟网上的这个文章一样···你别以为我是抄的啊··· //记得看看作者的名字啊！！ 贪心算法之最优装载问题 一. 实验目的 掌握贪心算法的基本思想（具体阐述） 掌握贪心算法的基本要素：贪心选择性质和最优子结构性质 二. 实验内容 贪心算法基本思想： 整体划分成部分，分而治之。每个部分中寻找最优解，然后综合所有部分最优解。这是，可能得到整体的最优解，但往往得到的是近似的最优解。 贪心算法基本要素： 1. 贪心选择性质 所谓贪心选择性质是指所求问题的整体最优解可以通过一系列局部最优的选择，即贪心选择来达到。这是贪心算法可行的第一个基本要素，也是贪心算法与动态规划算法的主要区别。 2. 最优子结构性质 当一个问题的最优解包含其子问题的最优解时，称此问题具有最优子结构性质。 最优装载问题 1. 问题描述： 有一批集装箱要装上一艘载重量为c的轮船。其中集装箱i的重量为Wi。最优装载问题要求确定在装载体积不受限制的情况下，将尽可能多的集装箱装上轮船。 2. 数学描述：
三. 实验程序及运行结果 #include (本科毕业设计论文) 毕业设计（论文）外文资料翻译 作者： 学科专业： 学号： 班级： 指导老师： 2014年6月 变分贝叶斯独立分量分析 摘要 信号的盲分离通过info-max 算法在潜变量模型中被视为最大似然学习潜变量模型。在本文我们提出一个变换方法最大似然学习这些模型,即贝叶斯推理。它已经被证明可以应用贝叶斯推理来确定在主成分分析模型潜在的维度。在本文我们为去除在独立分量分析模型中不必要的来源维度获得类似的方法。我们给一个玩具数据集和一些人为的混合图像提出结果。 1.引言 独立分量分析的目的是为一个基于概率性的独立原件找到一个表示法。实现这样的表示方法是给潜变量是独立约束的潜变量模型拟合一个数据。我们假设一个,有潜在的尺寸W ,观察到的尺寸P 和我们的数据集包含样本n 的模型M 。在ICA 方法中通常把潜在的维度称为“来源”。因此我们为独立生成潜在变量X 寻找模型表示，我们将任何给定的数据点n 带入 ∏== I i in n x p x p 1 )()( 假设高斯噪声,观察到的变量的每个实例化的概率,带入 )2 exp(2),,,(2μβ πβμβ--= n x n n n W t W x t p 其中W 是PXI 矩阵的参数,B 代表了一种逆噪声方差和u 是一个向量的方法。 1.1源分布 众所周知在独立分量分析,潜在分布的选择是很重要的。特别说明它必须是非高斯。非高斯源分布可以分成两类,那些积极的峰度或“沉重的尾巴”和那些消极的峰度或“光明的尾巴”。前者被称为超高斯分布，后者是亚高斯。如果我 们真正的源分布属于这两个中的任何一个类我们可以尝试分开。对于我们的ICA 模型,我们遵循?(1998)选择超高斯或者是亚高斯灵活的源分布。的运算结果的模型应用于两个可能发生的事。阿蒂亚斯选择了每个因素的混合物M 高斯模型 () ∏∑==?? ????=I i m m ni M m m n m x x N p 121 ,)(σπ }{m π是混合系数和每个组件是由一个意思毫米和方差q2m 。 阿蒂亚斯提到作为独立的因子分析模型。我们可能现在写下一个可能性,是一个函数的参数W,β,μ ()()()?∏==x x x t n n n n N n d p W p W p μβμβ,,,,,t 1 这个功能现在可以最大化的参数来确定独立的组件。传统的优化执行限制作为B 倾向于零。这种方法由贝尔和介绍了盲源分离作为信息最大化算法。与最大的关系可能是由不同的作者包括卡多佐指出(1997)和麦(1996)。 2.ICA 的贝叶斯形式主义 在本文中我们提出，按照推断模型的参数化的贝叶斯方法，而不是通过最大似然学习的参数。这要求我们把先验对模型参数。我们的目标是如何通过一个特定的选择我们的先验分布的显示P(W)我们可能自动判断哪些已经产生了数据源的数量。我们是主教的贝叶斯PCA （1999年），它的目的是确定在启发我们的方法主要子空间的自动维数。我们选择将噪音精密β，与以前的马, ()() b ββαββ，gam p = 这里我们定义伽玛分布 ()() ()τττ b a b a a a b -Γ= -exp ,gam 1 对于混合矩阵W ,我们认为高斯之前。特别是每一个的相关性输入可通过使用自动相关性确定（ARD ）来确定前（尼尔，1996；麦凯，1995年） ()() ∏∏==-=I i P p i ip N W p 11 1 ,0αωα 振 动 与 冲 击 第28卷第8期 JOURNAL OF V I B RATI O N AND SHOCK Vol .28No .82009 基于独立分量分析的多源冲击定位方法 基金项目:国家高技术研究发展计划(863计划)(2007AA03Z117);国家 自然科学基金项目(60772072) 收稿日期:2008-07-28 修改稿收到日期:2008-08-06第一作者苏永振男,博士生,1980年生通讯作者袁慎芳女,博士,博士,1968年生 苏永振,袁慎芳 (南京航空航天大学智能材料与结构航空科技重点实验室,南京 210016) 摘 要:结构健康监测中常用声发射信号进行声发射源的定位及特征描述。多个冲击事件发生时,声发射信号是 多个信号的混叠,而且混合方式未知,这使利用声发射信号对冲击源进行定位变得非常困难。而近年来兴起的基于独立 分量分析的盲源分离技术为解决这一难题提供了可能。采用基于信息极大化原理的反馈网络结构对同时作用在铝梁上的两个冲击事件产生的声发射混合信号进行分离,估计出各个源信号到达传感器的时延后,运用两点直线定位公式对两个冲击源进行定位。混合仿真实验验证了基于信息极大化原理的独立分量分析方法估计时延的有效性,铝梁上的两源冲击实验,进一步表明运用独立分量分析方法能较好的解决多冲击源定位问题。 关键词:盲源分离;独立分量分析;时延;冲击定位中图分类号:T B52;TG115.28 文献标识码:A 航空材料结构在服役过程中不可避免的要承受具 有不同能量的各种物体的冲击,由冲击所诱导的损伤,使结构承载能力大大降低、结构强度及稳定性严重退化[1]。因此,很有必要利用结构健康监测技术[2] 对冲击事件进行实时监测。目前对冲击定位的研究多是以单个冲击源为研究对象,常通过求解由冲击产生的声发射信号到达不同传感器的时延进行定位。在对多个 冲击源进行定位时,一些常规的求解时延方法[3] 如互相关函数法,能量法、阈值法等不再有效。因为在多个冲击源的情况下,声发射信号是多个源信号的混叠,上述方法只能求解出一个时延,因此无法实现多个冲击源的定位。近年来兴起的基于独立分量分析(I CA )的盲源分离(BSS )技术为这一问题的解决提供了有效途径。盲源信号分离是指在不知道源信号和混合参数的情况下,仅根据源信号的一些统计特性和有限的观测数据恢复出源信号。盲源信号分离技术在通信、生物医学信号处理、语音信号处理、阵列信号处理等获得了广泛的应用。 BSS 根据混合方式可分为瞬时混合和卷积混合,瞬时混合模型常假定信号源是同时混合的,不能容忍时延,而实际上混合源中有到达时间的区别。传感器测得的由冲击产生的声发射信号是结构的脉冲响应函数与源信号的卷积,而且由于传播介质的影响(时延和反射等),信号是多路径到达的,因此本文采用卷积混合模型模拟两个冲击源信号的混合过程。BSS 的卷积混合模型为:x =A 3s,其中“3”代表卷积,x 为t 时刻 M 维的观测信号向量,s 为t 时刻的N 维源信号向量,A 为M ×N 维的F I R 混合滤波器矩阵。解混目标是寻找 一逆F I R 滤波器矩阵W 使得解卷积后的输出y =W 3s 是源信号s 的估计。 本文以同时作用在铝梁上的两个冲击源的定位问题为例,研究基于BSS 技术的多源冲击定位问题。根据BSS 的卷积混合模型,采用基于信息最大化原理的反馈分离网络结构,对两个冲击源的混叠信号进行分离,求出各个冲击源到达传感器的时延,再根据波速,利用两点直线法实现两个冲击源的定位。 1 I nfomax 方法 1988年L inskers [‘4] 提出了可用非线性单元来处理任意分布的输入信号的信息最大化(I nfomax )原理,它可描述为:网络的输入端和输出端的互信息达到最大时,等价于输出端各分量间的相关性最小。1995年, A.J.Bell 和T .J.Sejnowski [5] 提出了基于信息最大化(I nf omax )原理的盲源分离算法。I nfomax 算法的独立性判据为信息极大传输准则,即通过对分离矩阵的调整,使非线性输出y 和网络输入x 之间的互信息I (y,x )极大。由信息论可知: I (y,x )=H (y )-H (y |x ) (1)由于H (y |x )不依赖于分离矩阵W ,可以看出,通过最大化输出信号的联合熵,就可实现输入输出之间的互信息最大。输出信号的联合熵为: H (y )=-E [log (f y (y ))] (2)f y (y )为非线性输出y 的概率密度函数,设输入经过非线性函数g (x )得到y,当g (x )为单调上升或下降时,输出输入概率密度函数之间的关系则可以写为: f y (y )=f x (x )/det (J ) (3)det (J )为网络的雅克比行列式,f x (x )为输入信号的概 《算法分析与设计》期末复习题 一、选择题 1.算法必须具备输入、输出和（ D ）等4个特性。 A．可行性和安全性B．确定性和易读性 C．有穷性和安全性D．有穷性和确定性 2.算法分析中，记号O表示（ B ），记号Ω表示（ A ） A.渐进下界 B.渐进上界 C.非紧上界 D.紧渐进界 3.假设某算法在输入规模为n时的计算时间为T(n)=3*2^n。在某台计算机上实现并完 成概算法的时间为t秒。现有另一台计算机，其运行速度为第一台的64倍，那么在这台新机器上用同一算法在t秒内能解输入规模为多大的问题（ B ）解题方法：3*2^n*64=3*2^x A．n+8 B．n+6 C．n+7 D．n+5 4.设问题规模为N时，某递归算法的时间复杂度记为T(N)，已知T(1)=1， T(N)=2T(N/2)+N/2，用O表示的时间复杂度为（ C ）。 A．O(logN) B．O(N) C．O(NlogN) D．O(N2logN) 5.直接或间接调用自身的算法称为（ B ）。 A．贪心算法B．递归算法 C．迭代算法D．回溯法 6.Fibonacci数列中，第4个和第11个数分别是（ D ）。 A．5，89 B．3，89 C．5，144 D．3，144 7.在有8个顶点的凸多边形的三角剖分中，恰有（ B ）。 A．6条弦和7个三角形B．5条弦和6个三角形 C．6条弦和6个三角形D．5条弦和5个三角形 8.一个问题可用动态规划算法或贪心算法求解的关键特征是问题的（ B ）。 A．重叠子问题B．最优子结构性质 C．贪心选择性质D．定义最优解 9.下列哪个问题不用贪心法求解（ C ）。 A．哈夫曼编码问题B．单源最短路径问题 C．最大团问题D．最小生成树问题 10.下列算法中通常以自底向上的方式求解最优解的是（ B ）。 A．备忘录法B．动态规划法 C．贪心法D．回溯法 11.下列算法中不能解决0/1背包问题的是（ A ）。 A．贪心法B．动态规划 C．回溯法D．分支限界法 12.下列哪个问题可以用贪心算法求解（ D ）。 ICA (Independent Components Analysis)，即独立分量分析。它是传统的盲源分离方法，旨在恢复独立成分观测的混合物。FastICA是一个典型的独立分量分析(ICA)方法。 它是信号盲处理的基础，对信号独立分量分析的检测是信号盲处理的起点。现有的信号盲处理的算法，大都是基于独立分量分析的，通过对独立分量分析的研究就可以把这些算法统一起来。 一、信号分类： 1.无噪声时： 假设混叠系统由m个传感器和n个源信号组成，并且源信号与观测信号遵从如下所示的混叠模型： x(t)=As(t)，其中，x(t)=[x1(t),x2(t),...,x m(t)]T表示m维观测信号矢量； A为m*n维混叠权系数为未知的混叠矩阵； n个源信号的组合为：s(t)=[s 1(t),s 2 (t),...,s n (t)]T 2.有噪声时： 若考虑噪声的影响，则有： x(t)=As(t)+n(t)， 其中，从m个传感器采集来的噪声集合为：n(t)=[n1(t),n2(t),...,n m(t)]T 针对式子：x(t)=As(t)+n(t) 独立分量分析(ICA)就是要求解分离矩阵W，使得通过它可以从观测信号x(t)中恢复出未知的源信号s(t)，分离系统输出可通过下式表示：y(t)=Wx(t)其中，y(t)=[y1(t),y2(t),…,y n(t)]T为源信号的估计矢量，即：y(t)=S(t) 二、用ICA方法的信号分析——基于小波变换和ICA的分离方案（分离步骤） 首先介绍下语音分离的大体思路。先采用小波变换对各个带噪混叠语音进行预消噪处理，然后进行预处理，最后用ICA的方法对消噪后的混叠语音进行分离；最后根据分离信号的特点进一步提出对其进行矢量归一和再消噪处理，最终得到各个语音源信号的估计。 1.预消噪处理——小波变换 这里采用的是小波阈值法去噪，它类似于图像的阈值分割。（阈值就是临界值或叫判断设定的最小值） 设带噪语音信号为: f(t)=As(t)+n(t)，式中: s(t)是纯语音信号, n(t)为噪声。 对式子作离散小波变换。首先对被噪声污染的语音信号进行离散序列小波变换, 得到带有噪声的小波系数；然后用设定的阈值作为门限对小波系数进行处理,对低于阈值的小波系数作为由噪声引起的,仅让超过阈值的那些显著的小波系数用来重构语音信号。 2.约束条件 第3章 基于信息论的独立分量分析算法 3.1 引言 由于没有任何参照目标，学习只能是自组织的。学习过程的第一步：建立一个以W 为变元的目 标函数()W L ,如果某个W ?能使()W L 达到极大（小）值，该W ?即为所需的解。第二步：用一种有效的算法求W ?。按照()W L 定义的不同和求W ?的方法不同可以构成各种ICA 算法。ICA 方法可归结为如下式子：ICA 方法＝目标函数＋优化算法。由ICA 的性质可知ICA 以统计独立为基本原则，统计独立的衡量为ICA 算法的关键。因此需选择一个恰当的目标函数。目标函数给定后，可以采用经典的优化算法最优化目标函数，如梯度法、拟牛顿法等。ICA 方法的特性取决于目标函数和优化算法两项。ICA 方法的统计特性（如一致性、鲁棒性）取决于目标函数的选取；算法特性（收敛速度、内存要求）取决于优化算法的选择。对于同一个目标函数可以有不同的优化算法，同一个优化算法可应用于不同的目标函数。衡量一个优化算法的主要性能指标有收敛速度，占用内存情况，稳定性等。算法的研究可分为基于信息论准则的迭代估计方法和基于统计学的代数方法两大类，从原理上来说，它们都是利用了源信号的独立性和非高斯性。基于信息论的方法研究中，各国学者从最大熵、最小互信息、最大似然和负熵最大化等角度提出了一系列估计算法。如FastICA 算法, Infomax 算法，最大似然估计算法等。基于统计学的方法主要有二阶累积量、四阶累积量等高阶累积量方法。在此我们主要讨论基于信息论的几种独立分量分析算法。 3.2 数据的预处理 一般情况下，所获得的数据都具有相关性，所以通常都要求对数据进行初步的白化或球化处理，因为白化处理可去除各观测信号之间的相关性，从而简化了后续独立分量的提取过程，而且，通常情况下，数据进行白化处理与不对数据进行白化处理相比，算法的收敛性较好。 若一零均值的随机向量()T M Z Z Z ,,1 =满足{}I ZZ E T =，其中：I 为单位矩阵，我们称这个向量为白化向量。白化的本质在于去相关，这同主分量分析的目标是一样的。在ICA 中，对于为零均值的独立源信号()()()[]T N t S t S t S ,...,1=，有：{}{}{} j i S E S E S S E j i j i ≠==当,0，且协方差矩阵是单位阵()I S =cov ，因此，源信号()t S 是白色的。对观测信号()t X ，我们应该寻找一个线性变换，使()t X 投影到新的子空间后变成白化向量，即： ()()t X W t Z 0= （3.1） 其中，0W 为白化矩阵，Z 为白化向量。 算法分析与设计实验报告第八次附加实验 for(int i=1;i 完整代码（分支限界法） //分支限界法求最优装载 #include 算法分析与设计实验报告第二次附加实验 ）用可行性约束函数可剪去不满足约束条件 附录： 完整代码（贪心法） //回溯法递归求最优装载问题#include int n, //集装箱数 *x, //当前解 *bestx; //当前最优解 Type *w, //集装箱重量数组 c, //第一艘轮船的载重量 cw, //当前载重量 bestw, //当前最优载重量 r; //剩余集装箱重量 }; template文献翻译-变分贝叶斯独立分量分析
基于独立分量分析的多源冲击定位方法
算法分析与设计》期末考试复习题纲(完整版)
独立分量分析(ICA)简单认识
第3章基于信息论的独立分量分析算法
分支限界法实验(最优装载问题)
回溯法实验(最优装载)