第06讲 SA法

φ(k −1)[y(k )-φτ (k −1)θ] = 0 ∑
L
(6)
则有
k =1
ˆ θ = ∑φ(k −1)φτ (k −1) k =1
L
−1 L
∑φ(k −1) y(k)
k =1
(7)
显然,这种近似使得该问题退化成 问题 显然 这种近似使得该问题退化成LS问题 式也就是前 这种近似使得该问题退化成 问题,(7)式也就是前 面讨论的LS解 面讨论的 解.
2 SA参数估计法(1/5)2 随Fra bibliotek逼近参数估计法
考虑模型(2)的参数估计问题 考虑模型 的参数估计问题. 的参数估计问题 设准则函数为 J(θ)=E{h(θ,Dk)} θ 其中h(•)为某正性标量函数 为某正性标量函数; 其中 为某正性标量函数 Dk表示k时刻以前的输入输出数据集合 时刻以前的输入输出数据集合. 表示 时刻以前的输入输出数据集合 显然,准则函数的一阶负梯度为 显然 准则函数的一阶负梯度为 (13)
1 SA原理--Robbins-Monro算法 算法(2/3) 算法
可以证明,若收敛因子ρ 满足下列条件 可以证明 若收敛因子ρ(k)满足下列条件 若收敛因子
ρ (k ) > 0 ∀ k Lim ρ( k ) = 0 k→∞ ∞ ∑ ρ(k ) = ∞ k =1 ∞ ∑ ρ 2 (k ) < ∞ k =1
1 SA原理(1/5)
1 随机逼近原理
考虑如下回归模型的辨识问题 y(k)=φτ(k-1)θ+w(k), φ θ 式中y(k)为过程输出 为过程输出; 式中 为过程输出 为观测数据向量; φ(k-1)为观测数据向量 为观测数据向量 θ为回归参数向量; 为回归参数向量 w(k)为均值为零的噪声 为均值为零的噪声. 为均值为零的噪声 (2)
第六讲 SA法(1/3)
第六讲 随机逼近法
（Stochastic
Approximation, SA）
前面讨论的辨识算法均属于LS类的估计算法 前面讨论的辨识算法均属于 类的估计算法, 类的估计算法 其优点是 收敛速度快, 收敛速度快 精度高等, 精度高等 但其计算量大且占用计算机系统的内存较多等严重影响 了其在实时辨识和在自适应系统中的运用. 了其在实时辨识和在自适应系统中的运用 上述的这些方法的递推算法具有如下共同的结构 新的参数估计值=老的参数估计值 增益矩阵 新的参数估计值 老的参数估计值+增益矩阵×新息 (1) 老的参数估计值 增益矩阵×
E( y / x) = ∫ ydp( y / x)
定义 h(x)=E{y/x} 它是x的函数 称作回归函数. 的函数,称作回归函数 它是 的函数 称作回归函数
(8)
1 SA原理(5/5)
SA原理所讨论的是 原理所讨论的是: 原理所讨论的是 对于给定的α,若对未知的 对于给定的 若对未知的h(x)函数和条件概率密度函数 若对未知的 函数和条件概率密度函数 p(y/x),方程 方程 h(x)=E{y/x}=α α 具有唯一解. 具有唯一解 那 么 , 在 已 知 变 量 x1,x2,... 及 其 相 对 应 的 随 机 变 量 y(x1), y(x2),...,则可 通过递推计算 逐步逼近 并求得 方程 的 数 则可通过递推计算 逐步逼近并求得 方程(9)的 则可 通过递推计算,逐步逼近 并求得方程 值解. 下面,将讨论方程 的求解方法 下面 将讨论方程(9)的求解方法 将讨论方程 的求解方法— Robbins-Monro算法及其在随机函数优化应用— 算法及其在随机函数优化应用 算法及其在随机函数优化应用 Kiefer-Wolfowitz算法 算法. 算法 (9)
另外： 另外：当满足以下条件时
∞ [ y − h(x)]2 dp( y x) <∞ ∫−∞ h(x) ≤ c + d x , −∞< x <∞ h(x) < α , (x < x0 ); h(x) > α , (x > x0 ) inf h(x) −α > 0 ∀δ1,δ2 , 0 < δ1 < δ2 <∞, δ1 ≤ x−x0 ≤δ2
则上述算法是均方收敛的,即 的收敛值将使h(x(k))达 则上述算法是均方收敛的 即x(k)的收敛值将使 的收敛值将使 达 到极值. 到极值
1 SA原理--Kiefer-Wolfowitz算法 算法(3/3) 算法
若收敛因子ρ(k)满足条件,则x(k)以概率1一致收敛
∞ [ y − h(x)]2 dp( y x) <∞ ∫−∞ h(x) ≤ c + d x , −∞< x <∞ h(x) < α , (x < x0 ); h(x) > α , (x > x0 ) inf h(x) −α > 0 ∀δ1,δ2 , 0 < δ1 < δ2 <∞ δ1≤ x−x0 ≤δ2
第六讲 SA法(3/3)
SA法的基本思想是沿着准则函数的负梯度方向 用最优化方 法的基本思想是沿着准则函数的负梯度方向,用最优化方 法的基本思想是沿着准则函数的负梯度方向 法逐步修正模型参数估计值而得到模型参数的递推估计值. 法逐步修正模型参数估计值而得到模型参数的递推估计值 其算法思想类似于数值优化方法中的最速下降法,其收敛 其算法思想类似于数值优化方法中的最速下降法 其收敛 速度亦类似于最速下降法,属 阶收敛 线性收敛). 阶收敛(线性收敛 速度亦类似于最速下降法 属1阶收敛 线性收敛 而前面介绍的递推LS法其算法思想和收敛速度则类 而前面介绍的递推 法其算法思想和收敛速度则类 似于数值优化中的牛顿法,收敛速度属 阶收敛(平方 收敛速度属2阶收敛 似于数值优化中的牛顿法,收敛速度属2阶收敛(平方 收敛). 收敛 本讲讲授内容为: 本讲讲授内容为 随机逼近原理 SA参数估计法 SA参数估计法 SA算法仿真程序与算例 SA算法仿真程序与算例
该准则函数的一阶梯度为 该准则函数的一阶梯度为 一阶 ∂θ=-E{φ(k-1)[y(k)-φτ(k-1)θ]} ∂J/∂θ ∂θ φ φ θ
(4)
根据最优化原理,欲求准则函数 的极小值 根据最优化原理 欲求准则函数(3)的极小值 则令其梯度 欲求准则函数 的极小值,则令其梯度 为零,即 为零 即 E{φ(k-1)[y(k)-φτ(k-1)θ]}=0 (5) φ φ θ
在均方意义下收敛于方程(9)的解 则x(k)在均方意义下收敛于方程 的解 在均方意义下收敛于方程 的解. 满足上述条件的最简单的有 ρ(k)=1/k 和 ρ(k)=b/(k+a), 其中a,b均大于 其中 均大于0. 均大于
1 SA原理 原理--Robbins-Monro算法 算法(3/3) 原理 算法
1 SA原理(4/5)
下面,讨论式 的另一种解 下面 讨论式(5)的另一种解 即SA解. 讨论式 的另一种解,即 解 在介绍SA解之前 下面先介绍随机方程求解的 原理. 在介绍 解之前,下面先介绍随机方程求解的 原理 解之前 下面先介绍随机方程求解的SA原理 是自变量标量, 设x是自变量标量 是自变量标量 y是随机因变量 是随机因变量, 是随机因变量 p(y/x)是在 条件下的 的概率密度函数 是在x条件下的 的概率密度函数, 是在 条件下的y的概率密度函数 则随机变量y关于 关于x的条件数学期望为 则随机变量 关于 的条件数学期望为
∂J ∂ ∆ − = E h(θ D k ) = E{q (θ D k )} , , ∂θ ∂θ
(14)
2 SA参数估计法(2/5)
h(x)=E{y/x}=α α x(k+1)=x(k)+ρ(k)[α-y(x(k))] ρ α 因此,模型 的参数估计问题可归结成如下方程的解 因此 模型(2)的参数估计问题可归结成如下方程的解 模型 E{q(θ,Dk)}=0 θ (15) 利用SA原理和 算法,有如下递推 故,利用 原理和 利用 原理和Kiefer-Wolfowitz算法 有如下递推 参 算法 有如下递推SA参 数估计算法 θ^(k)=θ^(k-1)+ρ(k)q(θ^(k-1),Dk) θ ρ θ 其中ρ 为收敛因子 必须满足收敛条件(11). 为收敛因子,必须满足收敛条件 其中ρ(k)为收敛因子 必须满足收敛条件 (16)
1 SA原理--Robbins-Monro算法 算法(1/3) 算法
h(x)=E{y/x}=α
一、Robbins-Monro算法 算法 求解上述随机方程的常用的SA法有 求解上述随机方程的常用的 法有Robbins-Monro 法有 算法,其基本递推算法结构为 算法 其基本递推算法结构为 x(k+1)=x(k)+ρ(k)[α-y(x(k))] (10) ρ α 其中y(x(k))为对应于 为对应于x(k)的y值; 其中 为对应于 的 值 称为收敛因子. ρ(k)称为收敛因子 称为收敛因子
1 SA原理(3/5)
原则上说,由 式可以求得使 式可以求得使J(θ)极小的参数估计值 极小的参数估计值θ. 原则上说 由(5)式可以求得使 极小的参数估计值 但是,因为大部分实际系统 的统计性质不能预先知道, 但是 因为大部分实际系统w(k)的统计性质不能预先知道 因为大部分实际系统 的统计性质不能预先知道 因此方程(5)实际上是无法求解的 因此方程 实际上是无法求解的. 实际上是无法求解的 解决该问题的方法则之一,是用式 左边的的数学期望 解决该问题的方法则之一 是用式(5)左边的的数学期望 是用式 用平均值来近似,即将 即将(5)式近似写成 用平均值来近似 即将 式近似写成
1 SA原理(2/5)
显然,这种模型的参数估计问题可以通过极小化扰动 显然 这种模型的参数估计问题可以通过极小化扰动w(k)的方 这种模型的参数估计问题可以通过极小化扰动 的方 差来实现,即求参数 即求参数θ的估计值使下列准则函数达到极小值 差来实现 即求参数 的估计值使下列准则函数达到极小值