重庆大学矩阵理论及其应用论文

“矩阵理论及其应用”课程研究报告

科目：矩阵理论及其应用教师：蒋卫生

姓名：学号:

专业：机械电子工程类别：学术

上课时间：2013 年10 月至2013 年12 月

考生成绩：

阅卷评语：

阅卷教师(签名)

最小二乘法问题

摘要：无论在哪个专业领域，都不可避免的要面对测量所得到的一批数据。这些数据看似杂乱无章，但对于特定的时间却是符合特定的规律。而要发现这些规律必须借助一定的手段。矩阵理论作为一门具有强大功能的学科再此发挥了它重要的作用。用矩阵论的理论来处理现代工程技术中的各种问题已经越来越普遍了。在工程技术中引进矩阵理论不仅使理论的表达极为简捷，而且对理论的实质刻画也更为深刻，这一点是不容质疑的，更由于计算机和计算方法的普及发展，不仅为矩阵理论的应用开辟了崭新的研究途径。矩阵理论与方法已成为研究现代工程技术的数学基础。因此，对于数据的处理采用最小二乘法是最恰当不过的了。

关键词：数据处理，矩阵理论，最小二乘法

正文

一、引言

最小二乘法已有近200年的发展历史，它首先由Gauss K F提出并被应用于天文计算中，现已被广泛地用来解决各种技术问题。在过去的30多年里，它已被成功地应用到过程控制系统的参数估计领域，数字计算机技术又使最小二乘原理更有实践价值。参数估计现在模型结构已知时，用实验法所取得的数据来确定表征系统动力学模型中的参数。最小二乘法原理提供了一个数学程序，通过它可以获得一个在最小方差意义下与实践数据拟合最好的模型，它在稳态系统数学模型的回归分析方面应用已很成熟，在动态系统的参数辨识方面也取得了许多重要成果，其参数估计的收敛性质也得到了深入的研究，可以说在参数估计领域中最小二乘方法已达到了完善的程度。

本文讨论的问题如下：

一颗导弹从敌国发射，通过雷达我们观测到了它的飞行轨迹，具体有如下数据：

i

0 1 2 3 4

我国军情处分析得出该导弹沿抛物线轨道飞行。 问题：预测该导弹在什么水平距离着地。

二、预备知识

基本术语解释

从整体上考虑近似函数

()p x 同所给数据点(),0,1,()i i i m x y = 误差

()()0,1,i i i r p x y i m =-= 的大小，常用的方法有以下三种： ∞—范数：绝对值的最大值0max||i i m r ≤≤

1—范数：误差绝对值的和m

||i i r =∑

2—范数(欧式范数)：误差平方和m

20

i i r =∑的算术平方根。

前两种方法简单、自然，但不便于微分运算 ，后一种方法相当于考虑 2—范数的平方，因此在曲线拟合中常采用误差平方和m

20i i r =∑来 度量误差

()0,1,i i m r = 的整体大小。

最小二乘法：对给定数据(),i i x y ，()0,1,i =…,m ，在取定的函数类Φ中,求

()p x ∈φ,使误差()i i r p x y =-，()0,1,i =…,m 的平方和最小，即

[]2

20

()min m m

i i i i i I r p x y ====-=∑∑

从几何意义上讲，就是寻求与给定点(),i i x y ，()0,1,i =…,m 的距离平方和为最小的曲线()y p x =。函数()p x 称为拟合函数或最小二乘解，求拟合函数()p x 的方法称为曲线拟合的最小二乘法。

基本原理阐释：

假设给定数据点(),i i x y ，()0,1,i =…,m ，φ为所有次数不超过()n n m ≤的多项式构成的函数类，现求一()0n

k n k i p x a x φ==∈∑,使得

[]2

20

()min m m

i i i i i I r p x y ====-=∑∑

显然上式为01,,n a a a …的多元函数，因此上述问题即为求()01,,n I I a a a =…的

极值问题。由多元函数求极值的必要条件，得

00

2()0m n

j k i i i k i k j I

a x y x a ==∂=-=∂∑∑ 0,1,j n =

即

0()n m

m

j k

j i

i i k i i k a y x x +====∑∑∑ 0,1,j n =

上式为关于01,,n a a a …的线性方程组，用矩阵表示为

⎥⎥⎥⎥

⎥⎥

⎥⎥⎦⎤

⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡⎥⎥⎥⎥⎥⎥⎥⎥⎦

⎤⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡

+∑∑∑∑∑∑∑∑∑∑∑=====+==+====m i i n i m i i i m i i n m

i n i

m

i n i

m

i n i m

i n i m

i i

m i i

m

i n

i

m

i i

y x y x y a a a x x

x x x

x

x x m 00010020

10

102000

1

以上两式称为正规方程组或法方程组。

可以证明，上述方程组的系数矩阵是一个对称正定矩阵，故存在唯一解。从线性方程组解出()0,1,,k a k n = ，从而可得多项式

∑==n

k k

k n x a x p 0)(

可以证明，式中的()n P x 即为所求的拟合多项式。我们把()20

[]m

n i i i P x y =-∑称为最

小二乘拟合多项式()n P x 的平方误差，记作

200

220

()||||n m

k

i

i i k i i m

i a x y r y ===-=

∑∑∑

可得

2

220

()||||n m

k i

i

i k i i m

i a x y r y ===-=

∑∑∑

三、求解过程

由题目内容可知，该导弹沿抛物线飞行。我们从导弹的观测到的发射点为O 点，以导弹前进方向的水平面的x 轴，以O 点的垂直高度为y 轴，建立直角坐