数值分析简明教程

n
xi(k+1)
=
1 aii
�bi
−
�
j=1
aijxj(k+1)
−
�
j=i+1
aijxj(k)
�
BJGS = −(L + D)−1U
(i = 1,2,∙∙∙, n)
对任意初始向量 x(0) 都收敛的充要条件：ρ(BJGS) < 1
关于任意初始向量 x(0) 都收敛的充分条件：
① �BJGS� < 1
⎢⋱
c2 ⋱⋱
⎤
⎥ ⎥
=
⎢⎡ℓ12 ⎢
1 ⋱
⋱
⎤ ⎡u1
⎥ ⎥
∙
⎢ ⎢
c1 u2
c2 ⋱⋱
⎤ ⎥ ⎥
⎢
an−1 bn−1 cn−1⎥ ⎢
ℓn−1 1
⎥⎢
un−1 cn−1⎥
⎣
an bn ⎦ ⎣
ℓn 1 ⎦ ⎣
un ⎦
u1 = b1
ℓi
=
ai ui−1
(i = 2,3,∙∙∙, n)
ui = bi − ℓici−1
ξ = ξ(x) ∈ (a, b) , ωn+1(x) = (x − x0)(x − x1) ∙∙∙ (x − xn) △证明：
由于 ϕ(x) 与 f(x) 在插值节点上函数值相同， 故 Rn(xi) = f(xi) − ϕ(xi) = 0 (i = 0,1,2,∙∙∙, n) ，由此可设 Rn(x) = k(x)ωn+1(x) 当 x 取 [a, b] 上异于 {xi}in=1 的任一固定点时，令
⎡0
BJ
=
−D−Leabharlann Baidu(L
+
U)
=
⎢ ⎢− ⎢
a21 a22
⎢⋮
⎣⎢−
an1 ann
其中，
−
a12 a11
0
⋮
−
an2 ann
… …
− −
a1n aa21n1 ⎥⎥⎤ a22⎥
…
⋮ 0
⎥ ⎥
⎦
⎡ b1 ⎤ ⎢a11 ⎥
⎢ b2 ⎥
gJ
=
D−1b
=
⎢⎢⎢⎢ab2⋮n2
⎥ ⎥ ⎥ ⎥
⎣ann⎦
0
a11
L = �a2⋮1
收敛阶定理（应用）
Steffensen 迭代格式：（推导：利用微分中值定理）
xk+1
=
xk
−
[φ(xk) − xk]2 φ[φ(xk)] − 2φ(xk)
+
xk
Newton 迭代法 �φ(x) = x − ff′((xx))� ：
充分条件一： 设 x∗ 是方程 (2.1) 在 [a, b] 上的根且 f ′′(x) 在 [a, b] 上连续 若 ① 对于 ∀ x ∈ [a, b] ，有 f ′(x) ≠ 0 , f ′′(x) ≠ 0；
x∗|
≤
Lk 1−L
|
x1 − x0
|；
(4)
lim
k→+∞
xk+1 − x xk − x∗
∗
=
φ′(x∗)
局部收敛定理：
存在方程 x = φ(x) 根 x∗ 的闭邻域 U(x∗, δ) (δ > 0) 以及 0 < ������ < 1 使 φ′(x) 连续且 |φ′(x)| ≤ L < 1 ，则对任意 x0 ∈ U(x∗, δ) ，迭代 xk+1 = φ(xk)收敛。
ℓi1
=
ai1 u11
(i = 2,3,∙∙∙, n)
ukj = akj − ∑km−=11 ℓkmumj
ℓik
=
1 ukk
�aik
−
∑km−=11
ℓimumk�
(j = k, k + 1,∙∙∙, n) (i = k + 1, k + 2,∙∙∙, n)
平方根法（Cholesky 分解法）（系数矩阵对．称．正．定．）：
i−1
n
xi(k+1) = � bijxj(k+1) + � bijxj(k) + gi
j=1
j=i
(i = 1,2,∙∙∙, n)
对任意初始向量 x(0) 都收敛的充分条件： ‖B‖∞ < 1 或 ‖B‖1 < 1
JGS 迭代法（基于 Jacobi 迭代的 Gauss-Seidel 迭代）：
i−1
充分条件：
① �BJ� < 1
② 系数矩阵 A = (aij)n×n 严格对角占优（按行或按列均可） 误差控制： max1≤i≤n �xi(k+1) − xi(k)� < ℰ 即 �x(k+1) − x(k)�∞ < ℰ
Gauss-Seidel 迭代法 �x(k+1) = B1x(k+1) + B2x(k) + g (k = 0,1,∙∙∙)� ：
周斌
数值分析简明教程
Chapter 1 误差分析的基础知识
相对误差： 绝对误差：
er(x∗)
=
x∗−x x∗
e(x∗) = x∗ − x
相对误差限： |er(x∗)| ≤ ℰr(x∗) 绝对误差限： | e(x∗) | ≤ ℰ(x∗)
er(x∗)
=
e(x∗) x∗
ℰr(x∗)
=
ℰ(x∗) |x∗|
有效数字：
1 A = �ℓ2⋮1
ℓn1
A = LLT （L 的对角元素全为正）
1 ⋮⋱
⎡u11 �⎢
⎢
u22
⋱
⎡1 ⎤⎢
u12 u11
⎥⎢ ⎥⎢
1
ℓn2 ⋯ 1 ⎣
unn⎦ ⎢
⎣
⋯ ⋯
u1n
uu21n1 ⎥⎥⎤ u22 ⎥
=
⋯
⋱ ⋮⎥
1⎦
(k = 1)
ℓ11 = √a11
ℓi1
=
ai1 ℓ11
(i = 2,3,∙∙∙, n)
(k = 2,3,∙∙∙, n)
ℓkk = �akk − ∑km−=11 ℓk2m
ℓik
=
1 ℓkk
�aik
−
∑km−=11
ℓimℓkm�
(i = k + 1, k + 2,∙∙∙, n)
解三对角方程组的追赶法（系数矩阵按行严格对．角．占．优．）：
第 3 页 共 13 页
周斌
⎢⎡ba21
c1 b2
② 系数矩阵 A = (aij)n×n 严格对角占优 ③ 系数矩阵 A 对称正定
SOR 迭代法 �x(k+1) = (1 − ω)x(k) + ωD−1(b − Lx(k+1) − Ux(k))� ： ⇓
x(k+1) = Bωx(k) + ω(D + ωL)−1b Bω = (D + ωL)−1[(1 − ω)D − ωU]
简单迭代法 �x = Bx + g , xk+1 = Bx(k) + g (k = 0,1,∙∙∙)� ：
对任意初始向量 x(0) 都收敛到唯一解 x∗ 的充要条件：
① limk→+∞ BK = 0 ② ρ(B) < 1 充分条件： ‖B‖ < 1 收敛速度： η = −In ρ(B)
Jacobi 迭代法 �x(k+1) = BJx(k) + gJ (k = 0,1,∙∙∙)� ：
xk
=
ak+bk 2
,
|xk
−
x∗|
≤
1 2
(bk
−
ak)
=
1 2k
(b
−
a)
(k = 1,2,∙∙∙)
ln(b − a) − ln ℰ
k≥
ln 2
简单迭代法 [x = φ(x)] ： 全局收敛定理（证明过程）：
若 ① 对任意x ∈ [a, b] , φ(x) ∈ [a, b] ； ② 存在 0 < ������ < 1 ，使对任意 x ∈ [a, b] , |φ′(x)| ≤ L 成立；
① 线性插值多项式
L1(x)
=
y
=
x−x1 x0−x1
y0
+
x−x0 x1−x0
y1
② 二次插值多项式
L2(x)
=
(x−x1)(x−x2) (x0−x1)(x0−x2)
y0
+
(x−x0)(x−x2) (x1−x0)(x1−x2)
y1
+
(x−x0)(x−x1) (x2−x0)(x2−x1)
x∗ = ±10m × 0. a1a2 ∙∙∙ an ∙∙∙ ap ,
其中 ai (i = 1,2,∙∙∙, n,∙∙∙, p) ∈ {0,1,2,∙∙∙ ,9} 且 a1 ≠ 0 ，则称 m 为 x∗ 之量级；若
使不等式
|x∗
−
x|
≤
1 2
×
10m−n
成立之最大整数为
n
，则称
x
∗
具有
n
位有效
数字。
周斌
Gauss 列主元消去法： 每步按列选主元→作相应行变换 条件：系数矩阵 A 非奇异
Gauss 全主元消去法： 第 k 步在 n − k + 1 阶矩阵中选主元，行变换+列变换，特别注意最后求得的 解 x1, x2,∙∙∙, xn 的次序可能发生了变化。
矩阵三角分解法： LU 分解条件：n 阶矩阵 A 的前 n-1 阶顺序主子式不为 0，则 A 有唯一 Doolittle 分解和唯一 Crout 分解。 Doolittle 分解：
误差的传播：
其中
fi
=
∂f 。
∂xi
n
e(y∗) = � fi(x1∗, x2∗,∙∙∙, xn∗ )e(xi∗) ,
i=1
Chapter 2 非线性方程求根
二分法： 误差估计：
[a, b] = [a1, b1] ⊃ [a2, b2] ⊃∙∙∙⊃ [ak, bk] ⊃∙∙∙ 1
bk − ak = 2k−1 (b − a)
0 ⋮
⋱
� ,D = �
a22
an1 an2 … 0
0 a12 … a1n
⋱
� ,U = �
0
… ⋱
a⋮2n�
ann
0
第 4 页 共 13 页
周斌
n
xi(1)
=
1 aii
⎛ ⎜bi
−
�
j=1
aijxj(0)⎟⎞
⎝
j≠i
⎠
(i = 1,2,∙∙∙, n)
对任意初始向量 x(0) 都收敛的充要条件：ρ(BJ) < 1
第 5 页 共 13 页
周斌
i−1
n
xi(k+1)
=
xi(k)
+
ω aii
�bi
−
� aijxj(k+1)
j=1
−
� aijxj(k)
j=i
�
(i = 1,2,∙∙∙, n ; k = 0,1,∙∙∙)
收敛性
充要条件：ρ(Bω) < 1 充分条件：① ‖Bω‖ < 1
② A 对称正定且 0 < ������ < 2
则 (1) x = φ(x) 在 [a, b] 上有唯一实根 x∗；
第 1 页 共 13 页
周斌
(2) 对任意 x0 ∈ [a, b] , 迭代公式收敛，且
lim
k→+∞
������������
=
������∗
(3) 后验误差估计：
|xk
−
x∗|
≤
L 1−L
|xk
−
xk−1|
先验误差估计：
|xk
−
谱半径：
n 阶 矩 阵 B 在 复 数 范 围 内 的 各 特 征 值 为 λi (i = 1,2,∙∙∙, n) ， 则 称 ρ(B) = max1≤i≤n|λi| 为 B 之谱半径。
ρ(B) ≤ ‖B‖ （注： ‖∙‖ 是 Rn×n 上任一矩阵范数）
矩阵条件数： n 阶非奇异矩阵 A 的条件数：Cond(A) = ‖A−1‖‖A‖
③ A 严格对角占优且 0 < ������ ≤ 1
Chapter 4 函数插值
插值余项： ϕ(x) 是 f(x) 关于节点 {xi}in=0 的 n 次插值多项式， f (n)(x) 在 [a, b] 上连续 f (n+1)(x) 在 (a, b) 内存在，则对 ∀ x ∈ [a, b]
f (n+1)(ξ) Rn(x) = f(x) − ϕ(x) = (n + 1)! ωn+1(x)
求重根的修正 Newton 迭代法：至少二阶收敛
Chapter 3 线性代数方程组求解
Gauss 顺序消去法： 求解过程中方程次序不变（无换行操作）的 Gauss 消去法，将原方程转化为 上三角形方程组，再用回代算法求解。
充要条件：a(kkk) ≠ 0 (k = 1,2,∙∙∙, n)
第 2 页 共 13 页
② 取 x0 ∈ [a, b] ，使 f(x0)f ′′(x0) > 0； 则 Newton 法产生的迭代序列二阶收敛于 x∗ 。
充分条件二： 设 x∗ 是方程 (2.1) 在 [a, b] 上的根且 f ′′(x) 在 [a, b] 上连续 若 ① f(a)f(b) < 0
② 对于 ∀ x ∈ [a, b] ，有 f ′(x) ≠ 0 , f ′′(x) ≠ 0； ③ �ff′((aa))� ≤ b − a , �ff′((bb))� ≤ b − a； 则对任何初值x0 ∈ [a, b]，Newton 法产生的迭代序列二阶收敛于 x∗ 。
g(t) = f(t) − ϕ(t) − k(x)ωn+1(t) 容易验证 x0, x1,∙∙∙, xn 和 x 为 g(t) 在区间 [a, b] 上的 n + 2 个互异零点。 由罗尔(Rolle)中值定理知，函数 g′(t) 在 (a, b) 内至少有 n + 1 个互异零点， 它们形成 n 个子区间，在这些子区间内对 g′(t) 分别用 Rolle 定理，知 g′′(t) 在
a11 a12
�a2⋮ 1
a22 ⋮
an1 an2
⋯ ⋯
…
a1n
a2n ⋮
�
ann
=
1 ⎢⎢⎡ℓℓ2311 ⎢⋮ ⎣ℓn1
1
ℓ32 ⋮
ℓn2
1 ⋮ ℓn3
⋱ ⋯
⎤ u11 u12
⎥ ⎥
∙
�
u22
⎥
1⎦
⋯ u1n
⋯ ⋱
u2n ⋮
�
unn
(k = 1) (k = 2,3,∙∙∙, n)
u1j = a1j (j = 1,2,∙∙∙, n)
(a, b) 内至少有 n 个互异零点，依此类推， g(n+1)(t) 在 (a, b) 内至少有 1 个
零点，即存在 ξ(x) ，使 g(n+1)(ξ) = f (n+1)(ξ) − (n + 1)! k(x) = 0 ，从而得
得证。
f (n+1)(ξ) k(x) = (n + 1)! ,
Lagrange 插值：