广义特征值问题中的预处理方法
基于投影正交化LANCZOS算法的广义特征值求解方法
基于投影正交化LANCZOS算法的广义特征值求解方法作者：莫晓聪来源：《软件导刊》2016年第04期摘要：正交化Lanczos算法是求解复杂结构振动、振频、振型的有效方法，它将高阶振动问题转化为低阶振动问题来求解，且不会损失特征值和特征根。
针对半正定矩阵的广义特征值及重特征值求解问题，利用正交化Lanczos算法给出了一个简单而又方便的求解方法。
关键词关键词：特征值；特征向量；Lanczos算法中图分类号：TP312文献标识码：A文章编号文章编号：1672-7800（2016）004-0025-030引言在结构动力分析中，求解特征值与特征根问题的方法可分为变换方法和向量迭代法。
变换方法直接对原始矩阵进行一系列变换，将它变成便于求解特征值与特征根的形式，如Jacobi方法。
但在计算机求解时，变换方法要存储整个矩阵，只适合求解低阶矩阵；向量迭代法通过一系列的矩阵向量迭代乘积而逼近求得特征值与特征根，正交化Lanczos算法是这类解法的典型[1]。
1基本原理振动方程为：KX=ω2Mx（1）4结语本文所采用的方法作为同步迭代的迭代初始向量求特征值与特征向量非常有用。
由于用同步迭代法迭代一次的时间相当于用一次Lanczos正交截尾的计算时间，因而这两种方法替代使用对于节省时间弥补同步迭代的不足，效果十分明显。
参考文献参考文献：[1]王坤，周岩.线性代数[M].北京：机械工业出版社，2016.[2]王欣欣.求解对称矩阵特征值问题的Lanczos算法的改进及分析[D].哈尔滨：哈尔滨工业大学，2008.[3]法捷耶夫，法捷耶娃.线性代数计算法[M].上海：上海科学技术出版社，1995.[4]KONSTANTINOSEPARSOPOULOS，MICHAELNVRAHATIS.Particleswarmoptimizationmethodinmultiobjectiveproblems[C].Madrid：InProceedingsofthe2002ACMSymposiumonAppliedComputing（SAC’2002），2002：603-607.[5]REYES-SIERRAM，COELLOCAC.Fitnessinheritanceinmulti-objectiveparticleswarmoptimization[C].SwarmIntelligenceSymposium（SIS2005），2005：116-123.[6]SSUN，CLTSENG，YHCHENSC.Cluster-basedsupportvectormachinesintext-independentspeakeridentifi cation[C].Proc.oftheInt’lJointConf.onNeuralNetwork，2004.[7]WYSHI，YFGUO，XYXUE.Matrix-basedkernelprincipalcomponentanalysisforlarge-scaledataset[C].InternationalJointConferenceonNeuralNetworks，2009.责任编辑（责任编辑：孙娟）。
第8章 特征值和特征向量
第8章特征值和特征向量M A T L A B中的命令计算特征值和特征向量很方便，可以得到不同的子结果和分解，这在线性代数教学时很有用。
注意，本章中的命令只能对二维矩阵操作。
8.1 特征值和特征向量的计算假设A是一个m×n的矩阵，A的特征值问题就是找到方程组的解：其中λ是一个标量，x是一个长度为n的列向量。
标量λ是A的特征值，x是相对应的特征向量。
对于实数矩阵A来说，特征值和特征向量可能是复数。
一个n×n的矩阵有n个特征值，表，λ2，. ..，λn。
示为λ1M A T L A B中用命令e i g来确定矩阵A的特征值和特征向量。
特征向量的规格化，就是每个特征向量的欧几里得范数为1；参见7 .6节。
命令e i g自动完成对矩阵A的平衡化。
这就要求M A T L A B找出一个相似变换矩阵Q，满足条件。
求的特征值比求A的特征值条件更好些。
万一A有一个和机器错误大小一样的元素，平衡化对于计算过程是没有好处的。
带有参数n o b a l a n c e的命令e i g可用来计算没有这个变换矩阵的特征值和特征向量。
命令集7 9特征值和特征向量e i g(A)求包含矩阵A的特征值的向量。
[ X,D]=e i g(A)产生一个矩阵A的特征值在对角线上的对角矩阵D和矩阵X，它们的列是相应的特征向量，满足A X=X D。
为了得到有更好条件特征值的矩阵要进行相似变换。
[ X,D]=不经过平衡处理求得矩阵A的特征值和特征向量，也就是e i g(A,’n o b a l a n c e’)不进行平衡相似变换。
b a l a nc e(A)求平衡矩阵。
[ T,B]=b a l a n c e(A)找到一个相似变换矩阵T和矩阵B，使得它们满足B=T－1AT。
B是用命令b a l a n c e求得的平衡矩阵。
e i g s(A)返回一个由矩阵A的部分特征值组成的向量，和命令e i g一样，但是不返回全部的特征值。
《矩阵分析》ppt课件
包括结合律、分配律、 数乘的结合律和分配律 等。
特殊矩阵类型介绍
对角矩阵
除主对角线外的元素全为零的 方阵称为对角矩阵。
对称矩阵
若一个方阵满足$A^T = A$， 则称该方阵为对称矩阵。
零矩阵
所有元素都是零的矩阵称为零 矩阵。
单位矩阵
主对角线上的元素全为1，其 余元素全为零的方阵称为单位 矩阵。
反对称矩阵
牛顿法
利用矩阵微积分计算目标函数的二阶导数（海森矩阵），通过迭代 更新参数实现更快速地最小化目标函数。
最小二乘法
利用矩阵微积分求解线性方程组的解，实现数据拟合和回归分析等 任务。
矩阵级数展开式
矩阵幂级数展开
01
将矩阵函数表示为幂级数的形式，便于进行矩阵运算和求解矩
阵方程。
矩阵指数函数展开
02
将矩阵指数函数表示为级数形式，便于计算矩阵指数函数的值
03
CATALOGUE
特征值与特征向量问题
特征值和特征向量定义及性质
特征值和特征向量的 定义：对于n阶方阵A ，如果存在数λ和非零 n维列向量x，使得 Ax=λx，则称λ是A的 一个特征值，x是A的 对应于特征值λ的一个 特征向量。
特征值和特征向量的 性质
不同特征值对应的特 征向量线性无关。
特征值的和等于方阵 主对角线上元素的和 ，即迹。
解的唯一性条件
当系数矩阵A满秩（即r(A) = n）时，线性方程组有唯一解。
高斯消元法求解线性方程组原理步骤
高斯消元法步骤
从最后一个方程开始，逐个回代求解未知数列向量x 。
高斯消元法原理：通过初等行变换将系数矩阵 A化为上三角矩阵，然后回代求解未知数列向 量x。
对系数矩阵A和常数列向量b组成的增广矩阵 [A|b]进行初等行变换，将其化为上三角矩阵。
高等数学线性代数教材目录
高等数学线性代数教材目录第一章行列式1.1 行列式的引入1.2 二阶和三阶行列式的计算1.3 行列式的性质和性质的应用1.4 行列式的性质证明第二章矩阵和向量2.1 矩阵的概念和基本运算2.2 矩阵的转置和逆2.3 向量的线性相关性和线性无关性2.4 向量组的秩和极大线性无关组第三章矩阵的运算3.1 矩阵的加法和减法3.2 矩阵的数乘3.3 矩阵的乘法3.4 矩阵的特殊类型第四章线性方程组4.1 线性方程组的概念和解的分类4.2 齐次线性方程组和非齐次线性方程组的解 4.3 线性方程组的向量表示第五章向量空间5.1 向量空间的定义和例子5.2 向量子空间和子空间的概念5.3 向量空间的线性组合和生成子空间5.4 基和维数第六章矩阵的特征值和特征向量6.1 特征值和对角化6.2 特征多项式和特征方程6.3 相似矩阵和相似对角矩阵6.4 实对称矩阵的对角化第七章线性变换7.1 线性变换的概念和性质7.2 线性变换的矩阵表示7.3 线性变换的特征值和特征向量7.4 线性变换的相似、迹和行列式第八章内积空间8.1 内积的定义和性质8.2 欧几里得空间和具有内积的实向量空间8.3 向量的正交性和正交子空间8.4 施密特正交化方法第九章广义特征值问题9.1 广义特征值问题的引入9.2 广义特征值的计算9.3 广义特征值与相似变换9.4 对称矩阵的广义特征值问题与对角化第十章特殊矩阵的标准形式10.1 对称矩阵的对角化10.2 正定矩阵和正定二次型10.3 实对称矩阵的正交对角化10.4 复数矩阵的标准型这是《高等数学线性代数》教材的目录, 包含了十个章节，每个章节中有相应的小节来详细介绍相关内容。
这本教材综合了高等数学和线性代数的知识，旨在帮助读者掌握线性代数的基本概念、理论和方法，以及应用于实际问题的能力。
希望读者通过学习这本教材，能够系统地理解和应用线性代数的知识，为今后的学习和研究打下坚实的基础。
广义奇异值分解
广义奇异值分解广义奇异值分解（Generalized Singular Value Decomposition，GSVD）是一种常用的矩阵分解方法，被广泛应用于信号处理、数据挖掘、图像处理等领域。
它是奇异值分解（Singular Value Decomposition，SVD）的推广，可以处理非方阵和复数矩阵，具有更广泛的适用性。
在介绍广义奇异值分解之前，我们先了解一下奇异值分解。
奇异值分解是一种将矩阵分解为三个矩阵乘积的方法，可以将矩阵的信息分解为多个特征值和特征向量。
对于一个m×n的矩阵A，奇异值分解可以表示为A=UΣV^H，其中U和V是正交矩阵，Σ是对角矩阵，其对角线上的元素称为奇异值。
广义奇异值分解是在奇异值分解的基础上进行推广，可以处理非方阵和复数矩阵。
对于两个矩阵A和B，广义奇异值分解可以表示为A=UΣV^H，B=UΓW^H，其中U和V是正交矩阵，Σ和Γ是对角矩阵，W是一般矩阵。
广义奇异值分解的特点是，U和V是共同的，而Σ和Γ分别对应于矩阵A和B的奇异值。
广义奇异值分解的应用非常广泛。
在信号处理领域，可以用于滤波、降噪和压缩等操作。
在数据挖掘领域，可以用于特征提取和降维。
在图像处理领域，可以用于图像压缩和去噪。
此外，广义奇异值分解还被应用于网络分析、系统辨识、机器学习等领域。
广义奇异值分解的计算方法与奇异值分解类似，可以使用迭代法或直接法。
迭代法通常是通过迭代计算来逼近矩阵的奇异值和奇异向量，而直接法则是直接计算矩阵的特征值和特征向量。
在实际应用中，根据问题的需求和矩阵的规模选择适合的计算方法。
需要注意的是，广义奇异值分解存在一些限制。
首先，矩阵的广义奇异值分解可能不唯一，存在多种分解方式。
其次，计算广义奇异值分解的复杂度较高，对于大规模矩阵需要耗费较多的计算资源。
此外，广义奇异值分解的应用也需要针对具体问题进行适当的调整和优化。
广义奇异值分解是一种常用的矩阵分解方法，具有广泛的应用领域和适用性。
六、-动力学问题的有限元法
2) 结构动力学问题
❖ 该领域研究下列问题：弹性结构（系统）的自由振动 特性（频率和振型）分析；瞬态响应分析；频率响应 分析；响应谱分析等。
力学问题。对等效系统应用虚功原理：
V T dV V uT ( f u u)dV S uT T dS
• 将前面位移空间离散表达式和单元的几何方程、物理方 程代入上式虚功方程，并考虑到变分的任意性，得到离 散系统控制方程——结构有限元动力学方程：
M a(t) C a(t) K a(t) Q(t)
❖ 就结构的瞬态响应分析而言，典型的有结构在冲击载 荷下的响应问题。结构动力学中这类问题的特点是， 载荷作用前沿时间与构件的自振基频周期相近，远大 于应力波在构件中的传播时间。或者构件上长时间作 用随时间剧烈变化的载荷。
❖ 结构动力学问题在工程中具有普遍性。
3) 弹塑性动力学问题
❖ 这是连续介质变形体动力学问题的另一个重要领域。 涉及许多科学和工程领域，如高速碰撞，爆炸冲击， 人工地震勘探，无损探伤等。
❖ 大多数显式方法是条件稳定的：当时间步长大于结构 最小周期的一定比例时，计算得到的位移和速度将发 散或得到不正确的结果；
❖ 隐式方法往往是无条件稳定的，步长取决于精度，而 不是稳定性方面的考虑。
❖ 典型的显式方法是所谓的“中心差分法”，其基本思 想如下。
• 中心差分法 ❖ 将某时刻的加速度和速度用中心差分表示：
• 对于3节点三角形单元，按上述公式计算得到的一致质量 矩阵为：
• 该单元的集中质量矩阵为：
• 实际应用中，两种质量矩阵都有应用，得到的计算结果 相差不多。采用集中质量矩阵可以使计算得到简化，提 高计算效率，由此得到的自振频率常低于精确解。
线性判别分析LDA与主成分分析PCA
基本思想
线性判别分析的基本思想是将高维的模式样本投 影到最佳鉴别矢量空间，以达到抽取分类信息和 压缩特征空间维数的效果。投影后保证模式样本 在新的子空间有最大的类间距离和最小的类内距 离，即模式在该空间中有最佳的可分离性。因此， 它是一种有效的特征抽取方法。使用这种方法能 够使投影后模式样本的类间散布矩阵最大，并且 同时类内散布矩阵最小。
基本思想
主成分分析所要做的就是设法将原来众多具 有一定相关性的变量，重新组合为一组新的 相互无关的综合变量来代替原来变量。通常， 数学上的处理方法就是将原来的变量做线性 组合，作为新的综合变量，但是这种组合如 果不加以限制，则可以有很多，应该如何选 择呢？
基本思想
如果将选取的第一个线性组合即第一个综合变量记为F1 ，自然希望它尽可能多地反 映原来变量的信息，这里“信息”用方差来测量，即希望Var(F1)越大，表示F1包 含的信息越多。因此在所有的线性组合中所选取的F1应该是方差最大的，故称F1为 第一主成分。如果第一主成分不足以代表原来p 个变量的信息，再考虑选取F2即第 二个线性组合，为了有效地反映原来信息,F1已有的信息就不需要再出现在F2中， 用数学语言表达就是要求Cov(F1 ,F2)=0，称F2为第二主成分，依此类推可以构造 出第三、四…第p 个主成分。
例子
举一个例子，假设我们对一张100*100像素的 图片做人脸识别，每个像素是一个特征，那 么会有10000个特征，而对应的类别标签y仅 仅是0，1值，1代表是人脸。这么多特征不仅 训练复杂，而且不必要特征对结果会带来不 可预知的影响，但我们想得到降维后的一些 最佳特征（与y关系最密切的），怎么办呢？
下面给出一个例子，说明LDA的目标：
可以看到两个类别，一个绿色类别，一个红色类 别。左图是两个类别的原始数据，现在要求将数 据从二维降维到一维。直接投影到x1轴或者x2轴， 不同类别之间 会有重复，导致分类效果下降。右 图映射到的直线就是用LDA方法计算得到的，可以 看到，红色类别和绿色类别在映射之后之间的距 离是最大的，而且每个类别内 部点的离散程度是 最小的（或者说聚集程度是最大的）。
特征值法
特征值法对元素为实数或复数的n×n矩阵A，求数λ和n维非零向量x使A x=λx，这样的问题称为代数特征值问题，也称矩阵特征值问题，λ和x分别称为矩阵A的特征值和特征向量。
代数特征值问题的数值解法是计算数学的主要研究课题之一，它常出现于动力系统和结构系统的振动问题中。
在常微分方程和偏微分方程的数值分析中确定连续问题的近似特征系，若用有限元方法或有限差分方法求解，最终也化成代数特征值问题。
此外，其他数值方法的理论分析，例如确定某些迭代法的收敛性条件和初值问题差分法的稳定性条件，以及讨论计算过程对舍入误差的稳定性问题等都与特征值问题有密切联系。
求解矩阵特征值问题已有不少有效而可靠的方法。
矩阵A的特征值是它的特征多项式P n(λ)det(λI-A)的根，其中I为单位矩阵。
但阶数超过4的多项式一般不能用有限次运算求出根，因而特征值问题的计算方法本质上是迭代性质的，基本上可分为向量迭代法和变换方法两类。
向量迭代法是不破坏原矩阵A，而利用A对某些向量作运算产生迭代向量的求解方法，多用来求矩阵的部分极端特征值和相应的特征向量，特别适用于高阶稀疏矩阵。
乘幂法、反幂法都属此类，隆措什方法也常作为迭代法使用。
变换方法是利用一系列特殊的变换矩阵(初等下三角阵、豪斯霍尔德矩阵、平面旋转矩阵等)，从矩阵A出发逐次进行相似变换，使变换后的矩阵序列趋于容易求得特征值的特殊形式的矩阵(对角阵、三角阵、拟三角阵等)；多用于求解全部特征值问题，其优点是收敛速度快，计算结果可靠，但由于原矩阵A被破坏，当A是稀疏矩阵时，在计算过程中很难保持它的稀疏性，因而大多数变换方法只适于求解中小规模稠密矩阵的全部特征值问题。
雅可比方法、吉文斯－豪斯霍尔德方法以及LR方法、QR方法等都属此类。
乘幂法计算矩阵的按模最大的特征值及对应特征向量的一种向量迭代法。
设A为具有线性初等因子的矩阵，它的n个线性无关的特征向量是u i(i=1，2，…，n)，特征值排列次序满足是一个n维非零向量，于是若λ1>λ2，则当α1≠0，且k足够大时，A k z0除相差一个纯量因子外趋于λ1所对应的特征向量，这就是乘幂法的基本思想。