On Variational Inequality and Fixed Point Problems
一个求解权互补问题的光滑型算法
一个求解权互补问题的光滑型算法高建;江小勤【摘要】最近,一类由互补问题延伸而来的权互补问题被引入和研究,它是标准互补问题的推广.本文延伸一个求解单调互补问题的光滑型算法来解决单调权互补问题,并且在弱条件的假设下证明算法的全局收敛性.最后给出的初步的数值结果也证明了延伸的算法对于解决单调权互补问题是有效的.%Recently,a class of extended complementarity problems,called the weighted complementarity problem,was introduced and investigated,which is a generalization of the standard complementarity problem.In this paper,we extend a smoothing-type algorithm for the complementarity problem to solve the monotone weighted complementarity problem;and show that the extended algorithm is globally convergent under the assumption that the concerned problem has a solution,a weak condition.The preliminary numerical results are reported,which demonstrate that the extended algorithm is effective for solving the monotone weighted complementarity problem.【期刊名称】《天津理工大学学报》【年(卷),期】2017(033)004【总页数】5页(P11-15)【关键词】权互补问题;互补问题;光滑型算法;全局收敛性【作者】高建;江小勤【作者单位】天津大学数学学院,天津300350;武汉工商学院基础部,武汉430065【正文语种】中文【中图分类】O183.2最近，Potra[1]引入了一类由标准互补问题延伸而来的权互补问题，许多经济学上的均衡问题能够由其表示，比如费舍尔的竞价均衡模型等.另外，最近Anstreicher[2]提出来的线性规划和加权中心问题也能够由权互补模型来表示.在文献[1]中，作者也提出了一个宽领域路径跟踪算法和预测-校正内点法来求解一类单调权互补问题.所谓权互补问题，就是寻找一个向量（x，s）∈R2n使得其中，f：Rn→Rn是连续可微函数，xos=（x1s1，L，xnsn）T∈Rn是向量，并且w≥0是给定的加权向量.显然，当w=0时，权互补问题（1）退化为标准的互补问题：找到一个向量（x，s）∈R2n使得如果f是一个线性函数，例如f（x）=Mx+q，其中M∈Rn×n且q∈Rn，那么相应的权互补问题可被称为权线性互补问题；否则，称为权非线性互补问题.另外，如果f是一个单调函数（也就是（u-v）T[f（u）-f（v）]≥0对于所有u，v∈Rn 成立），那么相应的权互补问题称为单调权互补问题.众所周知，互补问题（2）能够被重构成参数化的光滑方程组，进而可用牛顿型方法迭代地求解参数化的光滑方程组，且随着光滑参数逐渐退化到0，迭代地找到方程组的解，这就是所谓的光滑型算法.这种算法在求解很多不同类型的优化及相关问题方面已经得到了广泛的应用[3-21].众所周知，大多数已知的光滑型算法能够在相关问题解集非空有界或者某些更强条件的假设下拥有全局收敛性.在文献[10]中，作者提出了求解单调互补问题的光滑型算法，并且证明了所提出的算法在互补问题（2）解集非空的假设下具有全局收敛性.文章中的假设比其他光滑型算法全局收敛性的假设条件要弱[22].本文，延伸文献[10]中讨论的求解单调互补问题的光滑型算法来解单调权互补问题（1），并且在没有任何附加假设条件下，证明所延伸算法具有全局收敛性，即在f单调连续可微且权互补问题（1）的解集非空的假设条件下，证明所延伸算法具有全局收敛性.当权互补问题（1）退化到互补问题时，本文给出的主要结论的证明比在文献[10]中相应的证明更为简单.本文的其他章节构成如下：在第2部分，介绍权互补问题（1）和相应的光滑型算法.第3部分证明算法的全局收敛性.初步的数值结果在第4部分给出，且结论在最后一部分给出.在文章中，上标T代表转置，Rn代表n维实列向量空间（或者）代表 Rn中非负（或者正）象限，其中 I={1，2，L，n}和 J={0，1，2，L，}.对于任意向量u，用ui表示u的第i个元素，或者将u写成vec{ui∶i∈I}.对于任意向量 u，v∈Rn，可以将（uT，vT）T简写成（u，v）.对于任意（μ，x，s），（μk，xk，sk）∈R+× R2n，总可以使用如下记号：z=（μ，x，s）和 zk=（μk，xk，sk）.给定一个权向量w≥0，定义一个函数 Hw：R1+2n→R1+2n显然，所以，很容易看出Hw（z）=0⇔（x，s）是权互补问题（1）的解.不难看出对于任意z∈R++×Rn×Rn，函数 Hw是连续可微的.因此，可以应用某些牛顿型算法在每次迭代过程中介光滑等式系统Hw（z）=0，并且使得Hw（z）→0的解能被找到.具体算法2.1（光滑型算法）如下.Step 0 选择δ，σ∈（0，1）令μ0＞ 0 和（x0，s0）∈R2n是任意向量.设 z0= （μ0，x0，s0）.选择β＞ 1 使得‖Hw（z0）‖≤βμ0.设e0=（1，0，…，0}∈R1+2n和k=0.Step 1如果‖Hw（zk）‖=0，停止.Step 2通过e0计算△zk＝（△μk，xk，sk）∈R × Rn× Rn，其中代表函数H的雅克比矩阵.Step 3 令λk为 1，δ，δ2，…中的最大值使得当w=0时，以上算法退化为文献[10]中的算法，它仅需要解一个线性方程组并且在每个迭代过程执行一个线搜索.首先给出用于主要结果分析的两个引理：引理3.1假设f是一个单调的连续可微函数.令序列 zk=（μk，xk，sk）由算法2.1 生成，那么，1）算法2.1是适定的；2）序列{‖Hw（zk）‖}是非负的并且单调递减；3）令 N（β）={z∈R++× Rn× Rn∶H（zk）≤βμ}是算法2.1中给定的常数，其中β＞1，并且对于所有k∈J有zk∈N（β）；4）序列{μk}是非负的且单调递减；5）和证明：1）和 5）的证明类似于[10]中备注 2.1（iii）（iv）和引理3.2和3.3.在这里简要证明2）-4）.根据算法2.1中step3公式看出，该公式即是单调递减的形式，所以很容易得出{‖Hw（zk）‖}为单调递减的.已知 zk：=（μk，xk，sk）那么再利用 2）可得到βμk+1≥‖H（zk+1）‖.结合（1- λk）μk+ λkμk= μk即可得.引理 3.2 对于任意（μ，a，b，c，d）∈R++× R × R ×R+× R，有证明：首先假设 a＞0，b＞ 0，ab= μ.那么可得为了证明相反的结果，假设φμ（a，b）=0，也就是由此即可得证.接下来给出本文的主要内容：定理3.1假设f是一个单调的连续可微函数并且权互补问题（1）的解集非空.令序列{zk=（μk，xk，sk）}由算法 2.1 产生.那么1）序列{zk}是有界的；2）{（xk，sk）}的每个聚点都是权互补问题（1）的解. 证明：一方面，由引理 3.1 的 4）可知，序列{μk}是有界的.另一方面，如果序列{xk}是有界的，那么根据函数f的连续性可知{f（xk）}是有界的，由此也可以很容易得出序列{sk}是有界的.因此为了得到序列{zk}是有界的，只需证明序列{xk}是有界的.接下来证明序列{xk}是有界的.假设序列{xk}是无界的，会得出一个矛盾.由组成一个序列 {uk，vk}.因为根据引理3.1的3）中对于所有k∈J 可得‖Hw （zk）‖≤βμk，并且 max可以得到{uk}和{vk}是一致有界的.现在，通过组成另外一个序列那么用引理3.2和在公式（3）中vk的定义，有因此，通过公式（5）中的等式，有另外，由于权互补问题（1）的解集非空，存在一个向量（x*，s*）⊆Rn× Rn使得因此，用公式（6）和公式（5）和公式（7）中的不等式，进一步得到另外，用公式（3）和公式（4），可以从公式（8）中得到对于任意k∈J，因为f是单调函数，有因此，能从公式（9）中得到，对于任意k∈J，因为序列{xk}是无界的，很容易得到公式（10）等式右面随着k趋近于+∞也接近+∞；然而公式（10）等式左面为一个常数.矛盾.因此序列{xk}是有界的，也进一步得出序列是有界的.所以定理中结果1）是满足的.2）此结果能用引理3.1的5）和定理中1）很容易证明出来.定理3.1中的主要证明思想来自文献[10]中引理3.4和定理3.1，但是本证明相比较来说更加简单明了.因此当w=0，定理3.1的证明给出了比文献[10]中引理3.4和定理3.1中更简单的思路.在这个部分，使用Matlab来实现算法2.1.解权线性互补问题：其中，数据按以下方式随机生成：给定正整数m和n，采取 A=rand（m，n）定义 M=ATA，q=（n，1）和x*=5 × rand（n，1），设 s*=Mx*=q 和 w=x*os*和.那么很明显问题（11）是单调权互补问题问题并且可解.在本实验中，算法2.1的参数选择如下：δ：=0.5，σ：=10-4，μ0：=0.01.设 m 和 n 是根据表 1 而被选择的.采取初始点为 x0=-rand（n，1），设 s0：=M × x0+q 和z0：=（μ0，x0，s0）.取β：=‖Hw（z0）‖/μ0.用‖Hw（zk）‖≤10-6作为终止条件.对于m和n选择的各种情况，都进行5次测试，并且将数值结果列在了表1中.其中NI表示迭代的平均次数，VAL表示当算法2.1终止时‖Hw（zk）‖的均值，NF 表示函数H（zk）评估的平均次数，CPU表示平均CPU时间.从表1可知，算法2.1在某种程度上对于解决权线性互补问题是有效的，每个问题都能用很小的迭代次数和用更短的计算时间成功解决.也测试了其他的一些问题，计算效果是相似.本研究延伸了求解单调互补问题的光滑型算法来解决单调权互补问题（1），并且证明了算法在一个弱的假设条件下是全局收敛的.初始的数值结果证明了所讨论的解决单调权互补问题是有效的.相信许多其他光滑型算法也能被扩展来解决权互补问题.作为未来研究的问题，权互补的理论性质和解决大规模的权互补问题的算法是值得研究的.【相关文献】［1］ Potra F.Weighted complementarity problems-a new paradigm for computing equilibria［J］.SIAM Journal on Optimization，2012，22（4）： 1634-1654.［2］ Anstreicher K.Interior-point algorithms for a generalization of linear programming and weighted centering［J］.Optimization Methods and Software，2012，27（4/5）：605-612.［3］ Burke J，Xu S.The global linear convergence of a noninterior path-following algorithm for linear complementarity problems［J］.Mathematics of Operations Research，1998，23：719-734.［4］ Burke J，Xu S.A non-interior predictor-corrector path following algorithm for the monotone linear complementarity problem［J］.Mathematics Program，2000，87： 113-130.［5］ Chen B，Xiu N.A global linear and local quadratic noninterior continuation method for nonlinear complementarity problems based on Chen-Mangasarian smoothing function［J］.SIAM Journal on Optimization，1999（9）： 605-623.［6］ Chen C，Mangasarian O L.Smoothing method for convex inequalities and linear complementarity problem［J］.Mathematics Program，1995，71： 51-69.［7］ Chen X，Ye Y.On smoothing methods for the P0 matrix linear complementarity problem［J］.SIAM Journal on Optimization，2000（11）： 341-363.［8］ Chen X，Tseng P.Non-interior continuation methods for solving semi-definite complementarity problems［J］.Mathematics Program，2003，95： 431-474.［9］ Engelke S，Kanzow C.Improved non-interior continuation methods for the solution of linear programming［J］.Numerische Mathematik，2002，90： 487-507.［10］ Huang Z H.Locating a maximally complementary solutionof the monotone NCP by using non-interior-point smoothing algorithms［J］.Mathematical Methods Operational Research，2005，61： 41-55.［11］ Huang Z H，Han J.Non-interior continuation method for solving the monotone semi-definite complementarity problem［J］.Applied Mathematics and Optimization，2003，47：195-211.［12］ Huang Z H，Han J，Chen Z.A predictor-corrector smoothing Newton method，based on a new smoothing function，for solving the NCP with a P0 function［J］.Journal of Optimization Theory and Applications，2003，117（1）： 39-68.［13］ Huang Z H，Ni T.Smoothing algorithms for complementarity problems over symmetric cones［J］.Computational Optimization and Applications，2010，45（3）：557-579.［14］ Huang Z H，Qi L，Sun D.Sub-quadratic convergence of a smoothing Newton algorithm for the P0-and monotone LCP［J］.Mathematics Program，2004，99： 423-441.［15］ Huang Z H，Zhang Y，Wu W.A smoothing-type algorithm for solving system of inequalities［J］.Journal of Computational and Applied Mathematics，2008，220 （1/2）：355-363.［16］ Kanzow C.Some non-interior continuation methods for linear complementarity problems［J］.SIAM Journal on Matrix Analysis and Applications，1996，17： 851-868. ［17］ Kong L，Sun J，Xiu N.A regularized smoothing Newton method for symmetric cone complementarity problems［J］.SIAM Journal on Optimization，2008，19： 1028-1047.［18］ Lu N，Huang Z H.A smoothing Newton algorithm for a class of non-monotonic symmetric cone linear complementarity problems［J］.Journal of Optimization Theory and Applications，2014，61（2）： 446-464.［19］ Qi H D.A regularized smoothing Newton method for box constrained variational inequality problems with P0-functions［J］.SIAM Journal on Optimization，2010，10：315-330.［20］ Qi L，Sun D，Zhou G.A new look at smoothing Newton methods for nonlinear complementarity problems and box constrained variational inequality problems ［J］.Mathematics Program，2000，87： 1-35.［21］ Zhao Y B，Li D.A globally and locally superlinearly convergent non-interior point algorithm for P0 LCPs［J］.SIAM Journal on Optimization，2003，13： 1196-1221. ［22］ Huang Z H.Sufficient conditions on nonemptiness and boundedness of the solution set of the P0 function nonlinear complementarity problem［J］.Operations Research Letters，2002，30： 202-210.。
对称矩阵特征值反问题的最佳逼近解的一种数值解法
对称矩阵特征值反问题的最佳逼近解的一种数值解法何欢;孙合明;左环【摘要】利用复合最速下降法,给出了对称矩阵特征值反问题AX=XΛ有解和无解两种情况下最佳逼近解的通用数值算法,对任意给定的初始矩阵A0,经过有限步迭代可以得到对称矩阵特征值反问题的最佳逼近解,并分别给出有解和无解两种情况下的数值实例,证明了此算法的可行性.另外,结合投影算法,可以用此算法来求解其它凸约束下矩阵特征值反问题的最佳逼近解,从而扩大了此算法的求解范围.%By applying the hybrid steepest descent method, this paper gives a general numerical algorithm to find the optimal approximation solution to inverse eigenvalue problem, AX = X(A), for symmetric matrices. For any given initial matrix, the optimal approximation can be derived by finite iteration steps. Some numerical examples are provided to illustrate the feasibility of the algorithm. Moreover, combined with projection algorithm, the numerical algorithm can also be used to calculate the optimal approximation solution to other convex constrained inverse eigenvalue problem, thus extending the applicable scope of this algorithm.【期刊名称】《四川师范大学学报（自然科学版）》【年(卷),期】2012(035)004【总页数】5页(P473-477)【关键词】复合最速下降法;特征值反问题;最佳逼近【作者】何欢;孙合明;左环【作者单位】河海大学理学院,江苏南京211100;河海大学理学院,江苏南京211100;河海大学理学院,江苏南京211100【正文语种】中文【中图分类】O24特征值反问题及其最佳逼近已被广泛地研究与应用.L.Zhang［1］首次提出特征值反问题的对称解及其最佳逼近问题;Z.Y.Peng［2］用谱分解的方法解决了厄尔米特反自反矩阵的特征值反问题及其最佳逼近;郭丽杰等［3］和梁俊平等［4］利用矩阵的奇异值分解解决了二次特征值反问题对称解及其最佳逼近;Y.B.Deng等［5］讨论了对称矩阵的特征值反问题有解的条件，并在有解的情况给出了通解形式及其最佳逼近;F.Z.Zhou等［6］研究了正交对称矩阵的特征值反问题有解的条件及其最佳逼近;于蕾等［7］利用正交对称矩阵的特殊性质，给出了一类对称正交反对称矩阵特征值反问题的最佳逼近解的数值算法;Z.Y.Liu等［8］解决了中心厄尔米特矩阵特征值反问题及其最佳逼近;S.F.Yuan等［9］研究了在谱约束下三对角化对称和三对角化双对称矩阵的特征值反问题及其最佳逼近;郭丽杰［10］和陈亚波［11］利用奇异值分解分别得出子矩阵约束下矩阵特征值反问题的对称、反对称解及其最佳逼近.本文拟给出凸约束下的矩阵特征值反问题最佳逼近解的通用数值解法.记Rn×m表示全体实n×m矩阵的集合，Rn×n代表全体实对称n×n矩阵的集合，AT是A的转置矩阵，‖·‖F表示矩阵的Frobenius范数，H代表一实希尔伯特空间.下面给出特征值反问题及其最佳逼近问题.问题1(a) 给定矩阵X∈Rn×m，Λ=diag(λ1，…，λm)∈Rm×m，求A∈Rn×n使得由于实际情况下X和Λ来自实验数据，所以问题1(a)通常无解.问题1(b) 给定矩阵X∈Rn×m，Λ=diag(λ1，…，λm)∈Rm×m，求A∈Rn×n使得问题2 假设SE是问题1解的集合，对给定的∈Rn×n，求A*∈SE使得复合最速下降法［12-14］作为一个三步优化算法，首次提出是为了最小化实希尔伯特空间里非扩展映射不动点集合上的一些凸函数.目前复合最速下降法已经被成功地用来计算对于给定的对称矩阵的最佳逼近解［15］，以及被成功应用到图像记忆［16］.本文拟利用复合最速下降法，求问题1有解和无解两种情况下问题2的最佳逼近解A*.1 用复合最速下降法求解问题2定义1.1 设U为H的一个开子集，映射Φ：H→R∪{∞}，如果对于所有的u∈U，存在a(u)∈H使得则称映射Φ：H→R∪{∞}是Gateaux可微，称Φ'：U→H：u|→a(u)为Φ在U上的Gateaux导数.定义1.2 映射T：H→H，若则映射T：H→H为非扩展映射.特别地，若存在非空集合S⊂H，κ＞0，使得对于所有的x，y∈S，恒有则T：H→H在S⊂H上κ-Lipschitzian.定义1.3 非空集合S⊂H，映射Φ：H→H在S⊂H上是单调的，如果存在η＞0，使得对于所有的u，v∈S，恒有则称Φ：H→H在S⊂H上η-强单调.设则Ψ(A)=min，Θ(A)=min，分别与问题1和问题2等价.易知其中，B=XΛ.要求解问题2，首先，证明下面的引理.引理1.4 Ψ(A)是凸函数.证明∀A1，A2∈SRn×n，α∈［0，1］，则有所以引理1.4得证.引理1.5 Θ(A)是凸函数.证明∀A1，A2∈Rn×n，α∈［0，1］，则有所以引理1.5得证.引理1.6 Ψ'(A)满足κ-Lipschitzian.证明Ψ'(A)=AXXT-BXT，其中，B=XΛ，则有其中，κ=‖X‖2，所以引理1.6得证.引理1.7 Θ'(A)满足γ-Lipschitzian且η-强单调.证明那么存在γ≥1，0＜η≤1满足引理1.7得证.定理 1.8(复合最速下降法［12-13］) 设 T：H→H是一非扩展映射，且Fix(T)≠Ø.假设Θ：H→R∪{∞}是一凸函数，Θ'：H→H在T(H)上满足γ-Lipschitzian和η-强单调.如果非负实数序列(λn)n＞1⊂［0，∞)满足：或者(λn)n＞1⊂［0，∞)满足：那么对任意的u0∈H，强收敛到唯一解u*∈Fix(T)，且定理1.9［14］设K⊂H是一闭凸子集.假设(I)Ψ：H→R∪{∞}是Gateaux可微凸函数，其G-导数Ψ'：H→H满足κ-Lipschitzian;(II)Θ：H→R∪{∞}是Gateaux可微凸函数，其G-导数Θ'：H→H在T(H)上γ-Lipschitzian和η-强单调，则T：=PK(I-vΨ')是非扩展映射，其中，v∈(0，2/κ］. 另外如果则对任意的u0∈H，应用复合最速下降法迭代公式un+1：=T(un)-λn+1Θ'(T(un))得到的序列(un)n＞1强收敛到点.当问题1的解集SE非空时，很容易得到SE是一个闭凸集［17］.定理1.10 令那么KΨ是一个闭凸集;Ψ(A)为凸函数且其G-导数Ψ'(A)满足κ-Lipschitzian;Θ(A)为凸函数且其G-导数Θ'(A)满足γ-Lipschitzian;并且η-强单调.对任意的v∈(0，2/κ］，T：=PK(I-vΨ')是非扩展映射应用复合最速下降法得到的序列(An)n＞1强收敛到点即问题2的解，其中T(An)=PK(An-v(AnXXT-BXT))，PK是到凸集K的投影，λn+1满足定理1.8的条件.证明该定理的条件已证明，仅需证明迭代公式如下：其中定理1.10得证.2 算法和数值例子根据定理1.10，得到下面的数值算法，可以求问题2的解A*.算法2.11)输入2)随机选择初始矩阵A0;3)计算B=XΛ;4)计算κ=‖X‖2，v=1/κ，n=0;5)λn+1=1/(n+1)，根据计算An+1，其中6)若‖An+1-An‖≤10-10，A*=An+1，停止迭代;否则，令n=n+1，转5).现在将给出一些数值例子来说明结果，所有的实验数据都由Matlab 7.0计算得到. 例2.2取得到问题2的解A*，并且得到‖A*X-XΛ‖=说明：例2.2中的X和Λ通过某一已知矩阵的特征值分解所得，结果表明在问题1有解的情况下此算法是可行的.例2.3 取X、Λ和并求得A*的值并有8.861 1.说明：例2.3表明通过取部分特征值和特征向量(问题1无解的情况)此算法是可行的.通过上面的例子表明提出的数值算法用来求解问题2是可行的.进而，可以用此算法去求解其它凸约束下的矩阵特征值反问题最佳逼近解.参考文献［1］Zhang L.A class of inverse eigenvalue problems of symmetric matrices［J］.Num Math J Chin Univ，1990，12(1)：65-71.［2］Peng Z Y.The inverse eigenvalue problem for Hermitian anti-reflexive matrices and its approximation［J］.Appl Math Comput，2005，162：1377-1389.［3］郭丽杰，周硕.二次特征值反问题的对称次反对称解及其最佳逼近［J］.吉林大学学报：理学版，2009，47(6)：1185-1190.［4］梁俊平，卢琳璋.二次特征值反问题的中心斜对称解及其最佳逼近［J］.福建师范大学学报：自然科学版，2006，22(3)：10-14.［5］Deng Y B，Hu X Y，Zhang L.The solvability conditions for the inverse eigenvalue problem of the symmetrizable matrices［J］.J Comput ApplMath，2004，163：101-106.［6］Zhou F Z，Hu X Y，Zhang L.The solvability conditions for the inverse problems of symmetric ortho-symmetric matrices［J］.Appl Math Comput，2004，154：153-166.［7］于蕾，张凯院，周丙常.一类对称正交反对称矩阵反问题的最佳逼近［J］.数学的实践与认识，2008，38(8)：158-163.［8］Liu Z Y，Tan Y X，Tian Z L.Generalized inverse eigenvalue problemfor centrohermitian matrices［J］.J Shanghai Univ：Eng Ed，2004，8(4)：448-453.［9］Yuan S F，Liao A P，Lei Y.Inverse eigenvalue problems of tridiagonal symmetric matrices and tridiagonal bisymmetric matrices［J］.Comput Math Appl，2008，55：2521-2532.［10］郭丽杰.子矩阵约束下矩阵反问题的对称解及其最佳逼近［J］.东北电力大学学报，2006，26(4)：74-78.［11］陈亚波.子阵约束下矩阵方程反问题的实反对称解及其最佳逼近［J］.湖南农业大学学报：自然科学版，2002，28(5)：444-446.［12］Yamada I，Ogura N，Yamashita Y，et al.Quadratic optimization of fixed points of nonexpansive mappings in Hilbert space［J］.Num Funct Anal Optim，1998，19：165-190.［13］Yamada I.The hybrid steepest descent method for the variational inequality problem over the intersection of fixed point sets of nonexpansive mappings［C］//Butnariu D，Censor Y，Reich S.Inherently Parallel Algorithm for Feasibility and Optimization and Their Applications.New York：Elsevier，2001：473-504.［14］Yamada I，Ogura N，Shirakawa N.A numerically robust hybrid steepest descent method for the convexly constrained generalized inverse problems［C］//Nashed Z，Scherzer O.Inverse Problems，Image Analysis，and Medical Imaging.Contemporary Mathematics，2002，313：269-305. ［15］Slavakis K，Yamada I，Sakaniwa putation of symmetric positive definite Toeplitz matrices by the hybrid steepest descent method ［J］.Signal Processing，2003，83：1135-1140.［16］Sun H M，Hasegawa H，Yamada I.Multidimensional associative memory neural network to recall nearest pattern from input［C］//Nonlinear Signal and Image Processing.Sapporo：IEEE-Eurasip，2005：39.［17］Paulo J，Ferreira S G.The existence and uniqueness of the minimum norm solution to certain linear and nonlinear problems［J］.Signal Processing，1996，55：137-139.。
英汉对照计量经济学术语
英汉对照计量经济学术语第一篇：英汉对照计量经济学术语计量经济学术语A 校正R2（Adjusted R-Squared）：多元回归分析中拟合优度的量度，在估计误差的方差时对添加的解释变量用一个自由度来调整。
对立假设（Alternative Hypothesis）：检验虚拟假设时的相对假设。
AR（1）序列相关（AR(1)Serial Correlation）：时间序列回归模型中的误差遵循AR（1）模型。
渐近置信区间（Asymptotic Confidence Interval）：大样本容量下近似成立的置信区间。
渐近正态性（Asymptotic Normality）：适当正态化后样本分布收敛到标准正态分布的估计量。
渐近性质（Asymptotic Properties）：当样本容量无限增长时适用的估计量和检验统计量性质。
渐近标准误（Asymptotic Standard Error）：大样本下生效的标准误。
渐近t 统计量（Asymptotic t Statistic）：大样本下近似服从标准正态分布的t 统计量。
渐近方差（Asymptotic Variance）：为了获得渐近标准正态分布，我们必须用以除估计量的平方值。
渐近有效（Asymptotically Efficient）：对于服从渐近正态分布的一致性估计量，有最小渐近方差的估计量。
渐近不相关（Asymptotically Uncorrelated）：时间序列过程中，随着两个时点上的随机变量的时间间隔增加，它们之间的相关趋于零。
衰减偏误（Attenuation Bias）：总是朝向零的估计量偏误，因而有衰减偏误的估计量的期望值小于参数的绝对值。
自回归条件异方差性（Autoregressive Conditional Heteroskedasticity, ARCH）：动态异方差性模型，即给定过去信息，误差项的方差线性依赖于过去的误差的平方。
一阶自回归过程[AR（1）]（Autoregressive Process of Order One [AR(1)]）：一个时间序列模型，其当前值线性依赖于最近的值加上一个无法预测的扰动。
面板数据的因子分析
第26卷第6期贵州大学学报(自然科学版)Vol.26No.6 2009年 12月Journal of Guizhou University(Natural Sciences)Dec.2009文章编号 1000-5269(2009)06-0010-04面板数据的因子分析王 培3,王焱鑫,崔 巍(贵州大学理学院,贵州贵阳550025)摘 要:主要应用多元数理统计中的因子分析方法,对多指标面板数据进行了分析,并应用综合评分法对各地区的工业企业生产效率进行了分类。
结果表明,应用因子分析的结果与现实基本相符。
关键词:面板数据;因子分析中图分类号:O212 文献标识码:A 因子分析是主成分分析的推广和发展,也是多元统计分析中降维的一种方法。
因子分析是研究相关阵或协方差阵的内部依赖关系,它将多个变量综合为少数几个因子,以再现原始变量与因子之间的相关关系[1]。
面板数据是同一截面单元数据集上对不同时间段上的重复观测值,是时间序列和截面数据的混合数据。
面板数据的独特优点,使之在理论及应用领域都得到了长足的发展。
然而,很少有学者考虑面板数据在多元统计中的分析。
从Bonze D.C和Her2 mosilla A.Y开创性的将多元统计的方法引入到面板数据的分析中来,并用概率连接函数和遗传算法改进了聚类分析的算法,此后,国外对相关问题的研究一直停滞不前;国内学者朱建平、郑兵云分别对单指标面板数据及多指标面板数据的聚类分析进行了一定的研究,并做了实证分析[2,3]。
本文将因子分析与面板数据结合,利用实例解释面板数据的因子分析的结果。
1 因子分析的基本原理1.1 正交因子模型设X=(X1,…,X p)′是观测的随机向量, E(X)=μ,D(X)=∑,且设F=(F1,…,F m)′, (m<p)是不可观测的随机向量,E(F)=0, D(F)=I m.又设ε=(ε1,…,εp)′与F互不相关,且E(ε)=0,D(ε)=d iag(σ21,…,σ2p)≡D假定随机向量X满足以下模型:X1-μ=a11F1+a12F2+…+a1m F m+ε1X2-μ=a21F1+a22F2+…+a2m F m+ε2… … … … … … …X p-μ=a p1F1+a p2F2+…+a p m F m+εp(1)以上模型(1)称为正交因子模型,用矩阵表示如下 X=μ+A F+ε(2)其中F1,…,F m称为X的公共因子;ε1,…,εp 称为X的特殊因子。
变分不等式及其应用
变分不等式及其应用摘要变分不等式是一类重要的非线性问题，它在工程、经济、控制理论等领域广泛应用。
变分不等式问题的数学理论最开始应用于解决均衡问题，在此模型中，函数来自对应势能的一阶变分，因此而得名．作为经典变分问题的推广和发展，变分不等式的形式也更多样化。
本文主要研究变分不等式的由来，变分不等式的导出以及一些变分不等式的应用．第一章为预备知识，主要介绍了凸泛函、上下半连续泛函、次连续、Ferchet微分和单调映像等的一些定义，为下文更好的引出变分不等式的概念、导出和应用提供了理论依据。
第二章具体的提出变分不等式的概念并给出一些变分不等式的常见例子。
第三章主要通过可微函数的极值问题、不可微函数的极值问题、Hilbert 空间的投影问题、分布参数系统控制问题等一些问题的探讨说明导出变分不等式一些方法。
第四章研究一类非线性拟变分不等式并应用于二阶半线性椭圆型边值问题。
关键词：变分不等式，极值问题，椭圆方程，边值问题VARIATIONAL INEQUALITYAND ITS APPLICATIONABSTRACTVariational inequalities are important nonlinear problems, it has been widely applied in the fields of engineering, economics, control theory. The mathematical theory of variational inequality problem is originally applied to solve equilibrium problem. In this model, the function comes from the first-order variation of the corresponding potential energy, so it is called variational inequality problem. As the generalization and development of classical variational problems, the form of variational inequalities should be diversification. In this paper, i study the origin, derivation, and applications of variational inequalities.The first chapter is is Preliminaries. In this chaper, i list the definitions of convex functional, upper and lower semi-continuous functional, consecutive, Ferchet differential, montonous map, and so on. They are used forunderstanding the concept, derivation, and applications of variational inequality.In the second chapter, i introduce the concept of variational inequalities and give some common examples of variational inequalities.In the third chapter, by consdering differentiable functions’ extremum problems, non-differentiable functions’ extremum problems, the projection in Hilbert space, control systems of distributed parameter and some other issues, i study the methods of variational inequalities’ derivation.In the fourth chapter, a class of nonlinear quasi-variational inequalitie is introduce, and it is applied to solve second order semi-linear elliptic boundary value problems.Key words:Variational inequalities, extremum problem, elliptic equation，boundary value problem前言 (1)第一章预备知识 (2)第二章变分不等式的概念和例子 (4)§2.1 变分不等式的概念 (4)§2.2变分不等式的例子 (5)第三章变分不等式的导出 (8)§3.1 可微函数的极值问题 (8)§3.2 不可微函数的极值问题 (10)§3.3 Hilbert空间上的投影问题 (11)§3.4 不动点问题 (12)§3.5 分布参数系统控制问题 (14)第四章变分不等式的应用 (17)结论 (19)参考文献............................... 错误!未定义书签。
一类非光滑优化问题的邻近交替方向法
一类非光滑优化问题的邻近交替方向法钱伟懿;杨岩【摘要】非光滑优化问题在现实生活中有着广泛应用.针对一类带有结构特征为两个连续凸函数与具有Lipschitz梯度的二次可微函数的和的无约束非光滑非凸优化问题,给出了一种邻近交替方向法,称之为二次上界逼近算法.该算法结合交替方向法与邻近点算法的思想,将上述优化问题转化为平行的子问题.在求解子问题的过程中,对目标函数中的光滑部分线性化,此时子问题被转化为凸优化问题.然后分别对两个凸优化子问题交替利用邻近点算法求解.基于以上思想,首先我们给出算法的伪代码,然后建立了算法收敛性的充分条件,最后证明在该条件下,算法产生迭代序列的每个极限点是原问题的临界点.【期刊名称】《渤海大学学报（自然科学版）》【年(卷),期】2018(039)002【总页数】5页(P134-138)【关键词】非光滑优化;交替方向法;邻近点算法;收敛性分析;临界点【作者】钱伟懿;杨岩【作者单位】渤海大学数理学院, 辽宁锦州121013;渤海大学数理学院, 辽宁锦州121013【正文语种】中文【中图分类】O2210 引言考虑下列非凸非光滑的极小化问题(P) min{φ(x,y):=f(x)+g(y)+h(x,y)|x∈Rn,y∈Rm}其中函数φ有下界→(-∞,+∞)，g: Rm→(-∞,+∞)都是正常的连续凸函数，h:Rn×Rm→R是具有Lipschitz梯度的二次可微函数，即存在常数L∈(0,∞)，使得‖▽h(x,y)-▽h(x′,y′)‖≤L‖(x,y)-(x′,y′)‖Attouch等人〔1〕最先对问题(P)进行研究，将常规的Gauss-Seidel迭代引入算法中，给定初始点(x0,y0)，由下列公式产生迭代序列{(xk,yk)}k∈N该方法被称为交替极小化方法. Gauss-Seidel方法的收敛性分析在很多文献中可见〔2-4〕，证明其收敛性的必要假设条件之一是每步迭代得到唯一最小解〔5〕，否则算法可能无限循环没有收敛性〔6〕 . 当一个变量固定，假设连续可微函数φ关于另一个变量是严格凸的，按照以上的方法迭代产生的迭代序列{(xk,yk)}k∈N 的极限点极小化目标函数φ〔3〕. 对凸光滑约束最小化问题，Beck和Tetruashvili〔7〕提出了块坐标梯度投影算法，并讨论了其全局收敛速率.去掉严格凸的假设，考虑邻近正则化Gauss-Seidel迭代其中αk，βk是正实数.该方法最先是Auslender〔8〕提出的，并进一步研究了含有非二次邻近项的线性约束凸问题〔9〕. 以上结果只是得到子序列的收敛性.当φ非凸非光滑情况下，收敛性分析是一个值得研究的课题.当φ是非凸非光滑的条件下，Attouch等人〔1,10〕证明了由邻近Gauss-Seidel 迭代〔10〕产生的序列是收敛的. 在文献〔10〕中，Attouch用熟知的proximal-forward-backward (PFB)算法求解非凸非光滑最小化问题，也得到了相似的结论. Bolte〔11〕和Daniilidis〔12〕等人在假设目标函数φ满足Kurdyka-Lojasiewicz(KL)性质的条件下，研究了一类非光滑最优化问题.交替方向法(Alternating direction method,简称ADM)最初是由Gabay和Mercier〔13〕提出. 该方法与Douglas-Rachford算子分裂算法紧密相关〔14-16〕. Eckstein〔17〕将邻近点算法(Proximal point algorithm,简称PPA)与ADM方法相结合得到了邻近交替方向法(PADM). 基于ADM方法，Beck〔18〕对凸最小化问题提出了次线性收敛速度的迭代再加权最小二乘法. Bolte和Sabach 等人〔19〕在强Kurdyka-ojasiewicz性质下对非光滑非凸优化问题提出了邻近交替线性化算法，该方法是对优化问题中光滑部分向前一个梯度步，非光滑部分向后一个邻近步，非精确求解每个线性化的子问题，迭代产生序列收敛到一个临界点. Fazel等人〔20〕提出了带半正定邻近项的交替方法，是在一定的条件下将邻近项中的正定算子扩展到半正定算子.1 预备知识本节，我们陈述一些基本概念和性质〔21〕，方便之后的证明.定义1.1 设S⊂Rn，如果对∀x1，x2∈S，0≤λ≤1,有λx1+(1-λ)x2∈S，则称S为凸集.定义1.2 设S为Rn上的凸集，如果对任意x，y ∈S，0≤λ≤1,有f(λx+(1-λ)y)≤λf(x)+(1-λ)f(y),∀x,y∈S,λ∈[0,1]则称f(x)为S上的凸函数.定理1.1 对于定义在一个开凸集O⊂Rn上的可微函数f，下面条件等价：(a)f在O上是凸函数；(b)<x1-x0,▽f(x1)-▽f(x0)>≥0对于任意的x0和x1在O上成立；(c)f(y)≥f(x)+<▽f(x),y-x>对于任意的x和y在O上成立；(d)▽2f(x)是半正定对任意的x在O上.定义1.3 函数f的次微分∂f:Rn→Rn，定义为∂f(x)={w∈Rn:f(x)-f(v)≤<w,x-v>,∀v∈Rn}若那么点称为函数f:Rn→R的临界点.定义1.4 设S⊆Rn为非空闭凸集，若f:S→R可微，其满足对任意的x,y∈S，μ>0总有f(y)≥f(x)+<▽则称f在非空闭凸集C上是μ强凸的.2 算法及收敛性分析设(1)(2)其中s∈Rn,x∈Rn，y∈Rm,t∈Rm,x∈Rn,y∈Rm. 式子(1)和(2)是将问题(P)用交替方向法产生的逼近子问题，因而称为二次上界逼近算法(Quadratic Upper-bound Approximation algorithm，简称QUA算法.QUA算法的伪代码:1. 给定初始点x0∈Rn,y0∈Rm,正实数选择正实数αk↘↘令k=0，2. k=k+13. xk+1∈arg min{ux(x,xk,yk,αk):x∈Rn}(3)4. yk+1∈arg min{uy(y,xk+1,yk,βk):y∈Rm}(4)回到第二步，直到满足某一终止条件.引理2.1 设(xk,yk)是由QUA算法迭代产生的序列，那么(5)且无穷级数和是可和的，从而有‖xk+1-xk‖→0和‖yk+1-yk‖→0.证明由二阶梯度的定义得‖▽2h(x,y)‖≤L, ∀x,y∈Rn函数h分别对x和y泰勒展开，可得下列不等式(6)(7)由αK>L ，βk>L 得f(xk+1)+g(yk)+h(xk+1,yk)≤ux(xk+1,xk,yk,αk)(8)f(xk+1)+g(yk+1)+h(xk+1,yk+1)≤uy(yk+1,xk+1,yk,βk)(9)因为在xk+1和yk+1取得极小，所以有ux(xk+1,xk,yk,αk)≤ux(xk,xk,yk,αk)=f(xk)+g(yk)+h(xk,yk)(10)uy(yk+1,xk+1,yk,βk)≤uy(yk,xk+1,yk,βk)=f(xk+1)+g(yk)+h(xk+1,yk) (11)▽xh(xk,yk)>-f(xk+1)▽yh(xk+1,yk)>-g(yk+1)应用不等式(6)和(7)得(12)(13)将不等式(12)和(13)相加得不等式(5).进一步，由不等式(5)得因此，无穷级数是可和的. 证毕.定理2.1 QUA算法迭代序列(xk,yk)的每个极限点(x*,y*)是问题(P)的临界点. 证明对迭代序列(xk,yk)的每个极限点(x*,y*)总是存在一个子序列，使得(xkj,ykj)→(x*,y*). 因为xkj+1∈arg min{ux(x,xkj,ykj,αkj):x∈Rn}(14)ykj+1∈arg min{uy(y,xkj+1,ykj,βkj):y∈Rm}(15)可得ux(xkj+1,xkj,ykj,αkj)≤ux(x,xkj,ykj,αkj), ∀x∈Rn(16)uy(ykj+1,xkj+1,ykj,βkj)≤uy(y,xkj+1,ykj,βkj), ∀y∈Rm(17)由引理2.1知‖xkj+1-xkj‖→0，‖ykj+1-ykj‖→0，从而(xkj+1,ykj+1)→(x*,y*).令j→∞得∀x∈Rn(18)∀y∈Rm(19)由最优性条件得-▽xh(x*,y*)∈∂f(x*)-▽yh(x*,y*)∈∂g(y*)极限点(x*,y*)是问题(P)的临界点.证毕.参考文献:【相关文献】〔1〕ATTOUCH H, BOLTE J, REDONT P, et al. Proximal alternating minimization and projection methods for nonconvex problems: an approach based on the Kurdyka-ojasiewicz inequality〔J〕. Mathematics of Operations Research, 2010, 35(2): 438-457. 〔2〕AUSLENDER A. Méthodes numériques pour la décomposition et la minimisation de functions non différentiables〔J〕. Numerische Mathematik, 1971, 18: 213-223.〔3〕BERTSEKAS D P, TSITSIKLIS J N. Parallel and distributed computation: numerical methods, prentice-hall〔M〕. New Jersey, 1989.〔4〕TSENG P. Convergence of block coordinate descent method for nondifferentiable minimization〔J〕. Journal of Optimization Theory and Applications, 2001, 109(3): 475-494.〔5〕ZANGWILL W L. Nonlinear programming: a unified approach〔M〕. Prentice Hall, 1971.〔6〕POWELL M. On search directions for minimization algorithms〔J〕. Mathematical Programming, 1973, 4: 193-201.〔7〕BECK A, TETRUASHVILI L. On the convergence of block coordinate descent type methods〔M〕. Preprint, 2011.〔8〕AUSLENDER A. Asymptotic properties of the fenchel dual functional and applications to decomposition problems〔J〕. Journal of Optimization Theory & Applications, 1992,73(3): 427-449.〔9〕AUSLENDER A, TEBOULLE M, BEN-TIBA S. Coupling the logarithmic-quadratic proximal method and the block nonlinear Gauss-Seidel algorithm for linearly constrained convex minimization〔J〕. 1999, 477: 35-47.〔10〕ATTOUCH H, BOLTE J, SVAITER B F. Convergence of descent methods for semi-algebraic and tame problems: proximal algorithms, forward-backward splitting, and regularized Gauss-Seidel methods〔J〕. Mathematical Programming, 2013, 137(1-2): 91-129.〔11〕BOLTE J, DANIILIDIS A, LEWIS A A. The ojasiewicz inequality for nonsmooth subanalytic functions with applications to subgradient dynamical systems〔J〕. Siam Journal on Optimization, 2007, 17(4): 1205-1223.〔12〕DANIILIDIS A, LEWIS A A, SHIOTAH M. Clarke subgradients of stratifiable functions 〔J〕. Siam Journal on Optimization, 2007, 18(2): 556-572.〔13〕GABAY D, B MERCIER. A dual algorithm for the solution of nonlinear variational problems via finite element approximations〔J〕. Computers & Mathematics with Applications, 1976, 2(1): 17-40.〔14〕DOUGLAS J, RACHFORD H. On the numerical solution of heat conduction problems in two and three space variables〔M〕. Transactions of the American Mathematical Society, 1956, 82(2): 421-439.〔15〕SVAITER B. On weak convergence of the Douglas-Rachford method〔M〕. Society for Industrial and Applied Mathematics, 2011.〔16〕BOT R, HENDRICH C. A Douglas-Rachford type primal-dual method for solving inclusions with mixtures of composite and parallel-sum type monotone operators〔J〕. Siam Journal on Optimization, 2012, 23(4): 2541-2565.〔17〕ECKSTEIN J. Some saddle-function splitting methods for convex programming〔J〕. Optimization Methods & Software, 1994, 4(1): 75-83.〔18〕BECK A. On the convergence of alternating minimization for convex programming with applications to Iteratively reweighted least squares and decomposition schemes〔J〕. Siam Journal on Optimization, 2013, 25(1): 185-209.〔19〕BOLTE J, SABACH S, TEBOULLE M. Proximal alternating linearized minimization for nonconvex and nonsmooth problems〔J〕. Mathematical Programming, 2014, 146(1-2): 459-494.〔20〕FAZEL M, PONG T K, SUN D, et al. Hankel matrix rank minimization with applications to system identification and realization〔J〕. Siam Journal on Matrix Analysis & Applications, 2012, 34(3): 946-977.〔21〕ROCKAFELLAR R T. Convex analysis〔M〕. Princeton University Press, 1970.。
固定收益证券Chapter06-3-习题
8. Bellow is a list of prices for zero-coupon bonds of various maturities:：
Maturity (years)
1 2 3
price of $1000 par bond (zero-coupon) 943.40 873.52 816.37
expected price of the bond at the end of the first year? d) Under the liquidity preference theory with 1%
liquidity premium, what is the expected price of the bond at the end of the first year?
a. Upward sloping
b. Downward sloping
c. Flat 答案：a
4. Assuming the liquidity preference theory is correct, what shape should the term structure
、curve have in a period under the following four
6. The term structure for zero-coupon bonds is
currently：
Maturity
YTM
(years)
（％）
1
4
2
5
3
6
a) Calculate the forward 1-year rate of interest for year 1 and year 2.
VARIATIONAL INEQUALITIES
decomposition method for variational inequalities 4, 12]. The motivation for studying overlapping domain decomposition methods in the numerical solution of unilateral variational inequalities is twofold: First, it can be expected that their convergence rates are independent of the mesh re nement 12]. Another reason, probably even more important, is the fact that the obstacle problem is a problem to nd the \natural" decomposition of the computational domain into active (solution equals to a given obstacle) and inactive subdomains, which are separated by the free boundary. In the papers 4, 12], necessary and su cient conditions for the convergence of the Schwarz method in case of variational inequalities are studied, but there is no consideration about taking advantage of the domain decomposition property of the obstacle problem in order to construct reasonable domain partitions for iterative solution algorithms. However, if one could approximate the location of the free boundary, then the computational domain could be divided into subdomains with obstacle and linear subproblems and, thus, fast linear system solvers could also be applied to the genuinely nonlinear obstacle problem. The goal of the paper is to derive a new domain decomposition algorithm with a strategy to divide the original problem into subproblems in an \e cient" way. The rest of the paper is organized as follows: In Section 2, we formulate the model problem and discuss its characteristic properties which are useful for the design of the numerical solution algorithms. We also give the nite element and algebraic counterparts of the model problem; the methods considered in this paper will be described on the nite-dimensional level. Section 3 is devoted to the description of an overlapping domain decomposition method, which is an extension of the one originally proposed in 12]. We give su cient conditions for the convergence, and in particular, discuss its properties, which can be used to nd useful domain partitionings. This leads to a new solution algorithm for the discrete obstacle problem, to be called the two-level Schwarz method and to be illustrated by numerical experiments in Section 4. 2. Di erential, nite element and algebraic model problems. We consider here the variational inequalities arising from obstacle problems of the following form: Given a closed subspace V of the Sobolev space H 1( ), with being a bounded polygonal domain in the euclidean space R2. For the sake of simplicity, we restrict our attention to the case V = H01( ). Introduce a continuous, V -elliptic bilinear form a : V V ! R, and a continuous linear form ` : V ! R given by Z ` (v) = fv d ; v 2 V; f 2 L2( ): (2.1) The subset of constraints corresponding to a one-sided obstacle problem is a closed convex subset K V de ned by (2.2)