Lecture 2016-6(Chap 4)

System Identification
Lecture 6 - Chapter 4
Li Hongguang Automation Department Beijing University of Chemical Technology

4 4 Adaptive LS 4.4
? “数据饱和”现象
随时间推移，采集到的数据越来越多，新数据 所提供的信息被淹没在老数据中。
2 ε J= ∑ (i ) i =1 m
1

若辨识算法对新老数据给予相同的信度（普通 RLS），那么随着从新数据中获得的信息量相 对下降 算法会慢慢失去修正能力 对下降，算法会慢慢失去修正能力。
对慢时变过程，“数据饱和”现象导致参数估 计值不能跟踪时变参数的变化。
2

表现在RLS中：
θ? (k+1)=θ? (k)+γ(k+1)P(k)x(k+1)[y(k+1)x T(k+1)θ? (k)]
P(k+1) P(k) γ(k+1)P(k)x(k+1)x P(k+1)=P(k)(k+1)P(k) (k+1) T(k+1)P(k) γ(k+1)=1/[1+ xT(k+1)P(k)x (k+1)]
1 ，则 误差协方差 Ψ=σ2（xTx)-1 则P(m)= Ψ(m)/ σ2, 说明P(m)是m时刻误差协方差的直接量度，因 此，Ｐ(ｍ)反映了该时刻的估计值误差情况， 当ｍ→∞时, Ｐ(ｍ)→0。
3

当k→∞时，P(k)→0，修正项→0，能力变差． 且 当P(k)→0，容易受计算机误差影响，使估 且，当 容易受计算机误差影响 使估 计值偏差增大。
克服“数据饱和”现象方法： (1) 信息加权－－遗忘因子法 信息加权 遗忘因子法 (2) ( ) 限制数据长度 限制数据长度－－限定记忆法 限定记忆法
4

? 遗忘因子法 (RFF) 模型 A(q-1)y(k)=B(q-1)u(k)+v(k) Jk = ∑ λ m ? i ε 2 ( i )
i =1 m
误差准则
推导，得 推导 得 (k) )＝ θ? (ｋ-1)+ ) γ( (k)P(k-1)x(k) ) ( ) ( ) θ?( [ y(k)-xT(k)θ? (k-1)] P(k)=(1/λ)[P(k-1)-γ(k)P(k-1)x(k)xT(k) P (k-1)] (k 1)] γ(k)=1/[λ+ xT(k) P (k-1)x(k)] —遗忘因子法递推算法(RFF) 5

讨论： RFF算法的结构及计算流程和RLS算法基本是 一致的,初始状态θ? (0)和P(0)选取同RLS。 遗忘因子必须选择接近于1的正数,通常不小于 0.9, 若系统是线性的, 选取0.95≤λ≤1, λ=1时, RFF=RLS
6

? 限定记忆法
原理：在递推过程中，每增加一个新数据，就 去掉 个老数据，使数据长度始终保持不变。 去掉一个老数据，使数据长度始终保持不变。 特点：离现时刻Ｌ以前的老数据所含的信息从 算法中彻底被刨除，影响参数估计值的数据始 终是最新的Ｌ个数据，不像最小二乘法或遗忘 因子法 不管多老的数据都在起作用 因子法，不管多老的数据都在起作用。
7

Algorithm A
(k+1 k+m)= θ? (k,k+m)(k k+m)-γ(k+1,k+m)P(k,k+m) (k+1 k+m)P(k k+m) θ?(k+1,k+m) x(k+1)[y(k)( )[y( ) x T( (k) )θ? ( (k,k+m)] , )] γ(k+1, k+m)=1/[1- x T (k)P(k, k+m )x (k)] P(k+1, k+m)=P(k, k+m)-γ(k+1, k+m) P(k, k+m)x(k)P(k, k+m)
8

Algorithm B
(k k+m)= θ?(k,k+m-1)+ (k k+m-1)+γ(k,k+m)P(k,k+m-1) (k k+m)P(k k+m-1) θ? (k,k+m) x(k+m)[y(k+m)( )[y( ) x T( (k+m) ) θ? (k,k+m)-1] ( , ) ] γ(k, k+m)=1/[1+ x T (k+m)P(k, k+m-1)x (k+m)] P(k, k+m)=P(k, k+m-1)-γ(k, k+m) P(k, k+m-1)x(k+m)P(k, k+m-1)
9

讨论： (1) θ? (k,k+m-1), (k k 1) P(k P(k, k+m-1) k 1)包含k至(k+m-1) (k 1)时刻 共m个数据所提供的信息。 y(k+m), x(k+m)在此基础上又增加一组数据。
θ? (k,k+m),P(k,k+m),γ(k,k+m) 包含k至(k+m)时
刻共m+1 +1个数据所提供的信息。 个数据所提供的信息 (2) ( ) 给定初始条件
2I ? (0,0)= ε ， P(0,0)= α θ
10

(3)利用最小二乘递推算法，获得初步的参数估 计值和Ｐ阵 作为RMF算法的初始状态θ? (0, 计值和Ｐ阵，作为 (0 ｍ-1) 1) 和P(0, ( ｍ-1) )。 (4)每获得一组新的数据y(k+m)，x(k+m)，就利 用Algorithm B计算θ? (k,k+ (k k+ｍ)和P(k,k+ P(k k+ｍ), ) 再利用 Algorithm A计算θ? (k+1,k+ｍ) 和P(k+1,k+ｍ), 如 此不断迭代，便可获得最终辨识结果。
11

(5) Algorithm B 用 来 增 加 新 数 据 的 信 息 ， Algorithm A则用来去掉老数据的信息。这样始 终保持着固定不变的数据长度 以防止老数据 终保持着固定不变的数据长度，以防止老数据 的信息淹没了新数据。
12

y (k ) + a1 y (k ? 1) + a2 y (k ? 2) = b1u ( k ? 1) + b2u (k ? 2)
4 5 Statistical 4.5 St ti ti l Properties P ti of f LS Algorithms Al ith
前提：{v(k)}为白噪声序列 即 E{v(k)}=0，E{v(k)v(k+τ)}= 0， τ≠0 σ2 ，τ=0 ? 无偏性Unbiased：E{θ? }=θ ? 有效性Efficient：ψ=E[( θ?-θ)( -θ? θ)T]→min ? 一致性Consistent：
m→∞
lim θ? = θ
13

y (k ) + a1 y (k ? 1) + a2 y (k ? 2) = b1u ( k ? 1) + b2u (k ? 2)
Seminar 6.1
1 对比最小二乘的遗忘因子法和限定记忆法,分析各 自算法的优缺点。 自算法的优缺点 2 对于一个实际的动态系统, 其模型阶次的物理意义 是什么？
S6.1

4.6 System Order Determination
y(k)+a (k) 1y(k-1)+ (k 1) a2y(k-2)+……+ (k 2) any(k-n) (k ) = b1u(k u(k-1)+ 1) b2u(k u(k-2)+……+ 2) …… bnu(k u(k-n)+e(k) n) e(k) 在应用LS之前，必须首先确定模型的阶次。 为什么？
14

? 参数辨识方法的前提：假定模型结构已知。 ? 线性模型结构辨识：模型阶的辨识。 线性模 结构辨识 模 阶的辨识 ? 阶的辨识无通用的方法，需根据实际的情 况合理选择。 况合理选择
15

两类基本方法： 两类基本方法 1. 与参数辨识无关的方法： Hankel矩阵判秩法 行列式比法 2. 与参数辨识同时进行（利用残差方差）的方 2 法： Ｆ检验方法（Astr?m） AIC（Akaike Information Criterion ）定阶法
16

ａ．Ｆ检验方法（ Ｆ检验方法（Astr?m At? ） 引入统计量 引 统计量: V(ni)是对应残差
?i ) = V (n 1 ? ) T (Y ? X θ? ) (Y ? X n θ ?i ?i ?i ?i n n n L
?1 ) ? V1 ( n ?2 ) ?2 V1 ( n L ? 2n t= ? ?2 ) ?2 ? n ?1 ) V1 ( n 2(n
对于SISO过程， 过程 ni是逐 是逐一增加的 增加的。
? ) ? V1 (n ? + 1) L ? 2n ??2 V1 (n ?, n ? + 1) = t (n ? ? + 1) V1 (n 2
17

可以证明，ｔ服从Ｆ分布。
给定风险水平α， 查Ｆ分布ｔa＝Ｆa（2，L-2n-2） 若有 ｔ(n, n+1) > ｔa ｔ(n+1, n＋2) <= ｔa → n0=n+1
17