SP(Lecture2)

目录2-1随机过程:随机游动与鞅1

Lecture2

日期:2011-03-23作者:杨广宇

摘要

目录

1随机游动、例子2-2 2输光问题2-3 3首达时2-5 4反射原理、反正弦律及对偶2-9 5Wald等式2-15

6附注2-18

6.1鞅停止定理......................................2-18

6.2稳定律的一个例子..................................2-19

1随机游动、例子2-2

1随机游动、例子

随机游动是最简单的随机过程，它同Brown运动、马氏过程、鞅以及L′e vy过程都有紧密的联系，并且在金融、物理、化学和生物信息学中都有广泛和深入的应用。我们这里仅介绍随机游动的一些基本性质。

定义1设{ξn,n≥1}是独立同分布的随机变量序列，其分布函数为F。x∈Z，令

S0=x,S n=x+

n

∑

i=1

ξi,n≥1.(1)

称随机过程{S n,n≥0}为从x出发，具有步长分布F的随机游动。无说明情况下，总取x=0。

习题2随机游动{S n,n≥0}也可以表示为S0=0，S n=S n?1+ξn,n≥1。也即可将S n解释为粒子在时刻n的位置，每个时刻粒子以同样的分布随机的选择一个步长，并跳转到位置S n?1+ξn。试证明S2n?S n与S n相互独立并具有相同的分布。

例3(简单随机游动)若步长随机变量ξ1和?ξ1的分布相同，则说随机游动{S n}是对称随机游动。特别的，若P(ξ1=1)=P(ξ=?1)=1/2，称{S n}为Z上简单(对称)随机游动。若P(ξ1=1)=1?P(ξ=?1)=p=1/2，称{S n}为有偏紧邻随机游动。自然可以考虑Z d上的简单随机游动和有偏紧邻随机游动。

例4(Gauss随机游动)若步长随机变量ξ1取值空间为R，并且ξ1服从标准正态分布N(0,1)，则说随机游动{S n}为Gauss随机游动。易知S n服从均值为0，方差为n的正态分布。

习题5由正态分布的可加性知：S n～N(0,n)。试证明n?1S n a.s.??→0。

例6(重尾随机游动)若步长随机变量ξ1是具有重尾分布1的随机变量，则说随机游动{S n}为重尾随机游动。譬如，令ξ1为具有密度函数

f(x)={

α

2

·1|x|α+1,若|x|≥1;

0,其它.

1重尾随机变量：设X为非负随机变量，若任意的λ>0，EeλX=∞，则称X是重尾的，否则，若存在λ

0使得对任意的0<λ<λ0，EeλX<∞，称随机变量X是轻尾的。用分布来说，若任意的s≥0，lim t→∞[1?F(t+ s)]/[1?F(t)]=1，则说F为重尾分布。关于“重尾”有多种不同形式的定义，直观上，若密度函数依幂指衰减到0，则该分布为重尾分布；若密度函数依指数衰减0，则该分布为轻尾分布。常说的重尾分布一般为幂律分布。

2输光问题2-3的连续型随机变量，其中参数α∈(0,2)。则{S n}为重尾随机游动。重尾随机游动和Gauss 随机游动的轨道有显著的差别，特别的重尾随机游动没有中心极限定理。

简单随机游动 重尾随机游动

注记7(速度的切线解释)设步长随机变量ξ1满足E|ξ1|=μ<∞，则由上一讲中的强大数定??→μ，步长随机变量ξ1的期望恰好是随机游动的粒子的渐近速度。特别的，律知道：n?1S n a.s.

若μ>0，粒子以线性速度趋于+∞；若μ<0，粒子以线性速度趋于?∞；若μ=0，粒子的速度为0。所以，对任意的x∈Z，速度非零的随机游动至多达到该点有限多次。进一步的，若步长随机变量ξ1又满足E|ξ1|2=σ2<∞，则n?1/2(S n?nμ)以分布收敛于均值为零，方差为σ2的正态随机变量。若μ=0,σ2=1，则S n的分布渐近于Gauss随机游动的分布。

切线解释

习题8若步长随机变量ξ1服从Cauchy分布，即其概率密度函数为f(x)=[π(1+x2)]?1，则随机游动{S n}为重尾随机游动。试证明n?1S n也服从Cauchy分布，并且强大数定律不成立。

2输光问题

问题：设一赌徒初始资本为x元，每次押注一元，输赢的几率各半，问赌徒在破产前（即赌徒赌资为零，若出现赌徒赌资为零则该游戏结束）其资本增长到A的概率有多大？

这个问题可以用简单随机游动模型来精确描述。令{ξn,n≥1}为独立同分布随机变量，P(ξ1=1)=P(ξ1=?1)=1/2。取S0=x，对n≥1，记S n=x+∑n i=1ξi，S n表示了n时

2输光问题2-4刻赌徒的赌资。定义随机变量T =T [0,A ]:=min {n :S n =0或A }，则上述问题转化为事件{S T =A }的概率：P (S T =A )=？

(a).T 几乎处处有限

直观上来看，持续抛掷一个均匀的硬币，事件“正面比反面多出现A 次”是一个必然的事件（Why?），所以随机变量T 几乎处处是有限的。

(b).差分方程

对任意的初始值x ，定义u (x )=P x (S T =A )。显然u (A )=1,u (0)=0。若0

P x (S T =A )=P x (S T =A ,ξ1=?1)+P x (S T =A ,ξ1=1)=12u (x ?1)+12

u (x +1),也即u (x )满足差分方程

u (x )=12u (x ?1)+12u (x +1),1≤x ≤A ?1.(2)

边值条件为u (A )=1,u (0)=0。差分方程(2)易化为u (x +1)?u (x )=u (x )?u (x ?1)，解该带有边值条件的线性差分方程，可得u (x )=P x (S T =A )=x /A ，也即我们给出了赌博停止时的随机变量S T 的分布。从这个概率分布可以看出，如果赌博是公平的话，参与者的本金越大，则他达到目标的可能性越大。

习题9试解上述线性差分方程(2)。

习题10Fibonacci 数列{F n }定义为：F 1=1,F 2=1,F n =F n ?1+F n ?2,n >2，试通过解差分方程给出该数列的表达式。

注记11马氏链和马氏过程的首达时问题总是和某类差分或微分算子的边值问题相联系的，这也是通常所说的概率位势理论。在实际问题中，这也是很有用的，我们可以通过计算机模拟（通过随机游动或马氏链，马氏链蒙特卡洛方法）给出边值问题的解。

(c).赌博的持续时间

令v (x )=E x T ，有v (0)=v (A )=0。同(b)中推到类似可得

v (x )=1+12v (x ?1)+12

v (x +1),1≤x ≤A ?1.令d (x )=v (x )?v (x ?1)，有d (x +1)=d (x )?2，即

[d (x +1)?2]=[1101][d (x )?2

]

3首达时

2-5递归可得

[d (x )

?2]=[11

01]x ?1[d (1)?2].(3)

习题12试验证[11

01]x =[1x

01].

由习题(12)可知d (x )=d (1)?2(x ?1)。由d (x )的定义以及边值条件v (0)=0，可得d (1)=v (1)，

v (x )=

x

∑k =1d (k )=xv (1)?x (x ?1),因为v (A )=0，所以v (1)=A ?1，故可得v (x )=E x T =x (A ?x )。

习题13（1）试利用Cramer 法则解上述的线性方程组。

（2）试考虑非公平赌博的输光问题，也即用有偏紧邻随机游动模型，通过解线性差分方程给出该问题的解。

注记14关于输光问题的详细讨论可参见Feller 的经典著作《概率论及其应用(I)》第14章。

3首达时

定义15(停时)设(?,F ,P )是完备概率空间，{F n ,n ≥1}是其上单增的σ-代数流，称随机变量τ:?→{0,1,2,...,∞}为关于σ-代数流{F n }的马尔科夫时，如果对任意的n ，{τ=n }∈F n 。进一步的，若P (τ<∞)=1，称τ为停时。

例16设X ={X n ,F n }是随机过程，B ∈B R ，定义τB =min {n ≥0:X n ∈B }，称τB 为集合B 的首中时，则τB 是马尔科夫时。这是因为：对任意n ≥0，

{τB =n }={X 0ˉ∈

B ,X 1ˉ∈B ,...,X n ?1ˉ∈B ,X n ∈B }∈F n .给定随机过程X ={X n ,F n }以及马尔科夫时τ，可以定义停止过程X τ={X n ∧τ,F n }，

其中X n ∧τ=∑n ?1k =0X k 1{τ=k }+X n 1{τ≥n }。特别的，若随机过程X 是鞅，则对应的停止过程

3首达时2-6

Xτ也是鞅。这是因为：由X n∧τ之定义知X n∧τ关于F n可测，并且是可积的；另一方面X(n+1)∧τ?X n∧τ=1{τ>n}(X n+1?X n)，所以

E(X(n+1)∧τ?X n∧τ|F n)=1{τ>n}E(X n+1?X n|F n)=0.(4)设{S n}是Z上的简单随机游动，也即其步长随机变量ξ1的分布为P(ξ1=1)=P(ξ=?1)=1/2。取S0=0，定义随机变量

τ:=τ(1)=min{n≥0:S n=1};τ(m)=min{n≥0:S n=m},m≥2.

则τ是马尔科夫时，称其为随机游动的“首达时”。我们主要探讨首达时τ的概率分布。(a).τ几乎处处有限

由第一讲中习题知道：随机游动{S n}是鞅，并且过程{M n:=eσS n(2

eσ+e?σ

)n,n≥0}也是鞅。因为M0=1并且停止鞅仍然是鞅，我们有

1=EM n∧τ=E[eσS n∧τ(

2

eσ+e?σ

)n∧τ](5)

固定σ>0，知2

eσ+e?σ

<1，令n→∞有，

(

2

eσ+e?σ

)n∧τ→

{

(2

eσ+e?σ

)τ,若τ<∞;

0,若τ=∞.

又因为S n∧τ≤1，所以0

eσ+e?σ

)n∧τ

lim n→∞eσS n∧τ(

2

eσ+e?σ

)n∧τ=

{

eσ(2

eσ+e?σ

)τ,若τ<∞;

0,若τ=∞.

由有界收敛定理及式子(5)，可得

E[eσ(

2

eσ+e?σ

)τ1{τ<∞}]=1,(6)

对任意的σ∈(0,1]，注意到0

eσ+e?σ

)τ1{τ<∞}≤e，在式子(6)中令σ↓0，由有界收敛定理知E1{τ<∞}=1，即P(τ<∞)=1。因此可以将式子(6)改写为

E[eσ(

2

eσ+e?σ

)τ]=1.(7)

(b).τ的概率生成函数

3首达时

2-7给定z ∈(0,1)，令z =2e σ+e ?σ，化简得：z (e ?σ)2?2e ?σ+z =0。该方程的解为e ?σ=1±√1?z 2z

。欲使得σ>0，须有e ?σ<1。由于z ∈(0,1)，所以0<(1?z )2<(1?z )<1?z 2,1?z <√1?z 2,1?√1?z 2z

<1.所以取e ?σ=1?√1?z 2z ，结合式子(7)可得

G (z )=Ez τ=1?√1?z 2z

,0

有了τ的概率生成函数，我们可以计算τ的期望。

dG (z )dz =E (τz τ?1)=1?√1?z 2z 2√2.上式在z =1处不成立，也即概率生成函数G (z )在z =1处不可导，即级数∑n nP (τ=n )是发散的，所以E τ=∞（也可应用单调收敛定理，令z ↑1）。首达时τ给出了一个几乎处处有限，但期望为无穷的例子。

例17(相遇问题)设ξ1,η1,ξ2,η2,...,是独立同分布随机变量序列，P (ξ1=1)=P (ξ1=?1)=

1/2。令X n =2+∑n k =1ξk ,Y n =∑n k =1ηk 。称τX ,Y =min {n :X n =Y n }为随机游动{X n }和{Y n }

的相遇时。若取ζk =(ξk ?ηk )/2，则

P (ζ1=1)=P (ζ1=?1)=1/4,P (ζ1=0)=1/2.

记Z n =(X n ?Y n )/2=1+∑n k =1ζk ，相遇时τX ,Y 就是随机游动{Z n }关于0点的首达时。随机游动{Z n }类似于简单随机游动，只是以1/2的概率停在原来的位置，称其为时滞简单随机游动（也可以用抛两枚硬币的游戏来解释：第一枚硬币决定粒子移动与否，第二枚硬币选择方向）。由前面的讨论（a ）和（c ）可知，两个随机游动肯定相遇，但相遇时的期望为无穷大。

这个例子的另一种形象解释是：警察抓小偷问题。假设一个小偷按{X n }做随机游动，警察按{Y n }做随机游动，则警察一定能够逮到小偷，但逮到小偷所用的平均时间为无穷大。如果初始时有N 个警察，并且他们相互独立的按{Y (k )

n }做简单随机游动，1≤k ≤N ，定义τN =min {n :X n =max 1≤k ≤N Y (k )n }。显然警察越多越快抓住小偷，即τN +1≤τN 。这里关心的问题是找到最小的N 使得E τN <∞？这同马氏链蒙特卡洛方法以及有限状态马氏链的现代理论密切相关。

3首达时

2-8

(d).一般首达时τ(m )命题18(强马氏性)设{S n ,n ≥0}是随机游动，τ关于随机游动的自然σ-代数流是停时，则过程{S τ+n ,n ≥0}也是随机游动，其初始状态为S τ，步长分布和随机游动{S n ,n ≥0}的步长分布相一致。进一步的，{S n ,n ≤τ}和{S τ+n ,n ≥0}相互独立。

习题19试证明该命题。

对m ≥1，由τ(m )之定义，粒子从状态0出发要达到水平m ，必须首先达到1，故τ(m )≥τ并且在首次达到1这个时刻τ之后，由命题18可知：粒子重新开始做随机游动，只不过其初始状态变为1。因此，首达水平m 的剩余时间和τ(m ?1)是同分布的，并且同τ是相互独立的，故τ(m )=τ(m )?τ(m ?1)+...+τ(2)?τ+τ，其中{τ(k )?τ(k ?1),1≤k ≤m }是独立同分布随机变量族，其公共分布为τ的分布，而τ的概率生成函数为F (z )，所以τ(m )的概率生成函数为

G m (z )=[G (z )]m =(1?√1?z 2z )m ,0

习题20试用归纳法以及命题18给出τ(m )的概率生成函数。事实上

E (z τ(2)|

F τ)=E (z τz τ(2)?τ|F τ)=z τEz τ(2)?τ=z τ

G (z ),

两边同时取期望，可得G 2(z )=E (z τ(2))=[G (z )]2，递归即可。

习题21（a ）应用Newton 二项式公式：√2=∑∞n =0C n 1/2(?z 2)n ，验证

P (τ=2n ?1)=(?1)n ?1(1/2n )=2?2n +1(2n ?1)?1(2n ?1n

),所以P (τ=2n ?1)=(2n ?1)?1P (S 2n ?1=1)。（b ）试应用Stirling 公式(n !～√2πn n +1/2e ?n )验证τ遵循指数为3/2的幂律分布，即P (τ=2n ?1)～Cn ?3/2，并且给出C 。

习题22（a ）试证明：当z ↑1，τ的概率生成函数G (z )满足关系式1?G (z )～

√2√1?z ；（b ）试应用（a ）证明：对每个λ>0，有

lim m →∞E exp {?λτ(m )/m 2}=e ?√.

4反射原理、反正弦律及对偶

2-9函数ψ(λ)=e ?√2λ是指数为1/2的单边stable(稳定)律的Laplace 变换，该习题说明随机变量τ(m )/m 2以分布收敛到指数为1/2的单边stable(稳定)律2。

4反射原理、反正弦律及对偶

设{S n ,n ≥0}是如上讨论的简单随机游动，其初始状态为0。给定非负整数m ≥1，

τ(m )如上所定义为水平m 的首达时(初过时)。如下定义随机过程{S ?n

,n ≥0}：S ?n =S n ,

若n ≤τ(m ),S ?n =2m ?S n ,若n ≥τ(m ).(10)

命题23(反射原理)随机过程{S ?n

,n ≥0}是从0点出发的简单随机游动。习题24试证明命题23。事实上，可以用依据抛掷硬币进行公平赌博的想法来进行说明，当资本达到m 时，资本的增加和原来的规则相反：硬币出现反面赢得一元钱，硬币出现正面输掉一元钱。

反射原理

下面给出反射原理的两个应用。

例25(首达时分布)考虑事件{τ(m )≤n }。若该事件发生，则此时S n ,S ?n

处于水平线y =m 的两侧且相互对应，除非它们恰好都达到m ，并且这两个过程都是简单随机游动（反射原2稳定分布(Stable)：设X 为一随机变量，分布函数和特征函数分别为F (x )和φ(t )，称X 服从稳定分布律(stable)，若对每个n ≥1，存在常数a n >0，b n 以及相互独立同分布的随机变量ξ1,ξ2,...,ξn 使得a n X +b n =d ξ1+...+ξn ，其中ξ1和X 同分布，或则等价的有：[φ(t )]n =φ(a n t )e itb n 。Levy-Khinchin 表示：随机变量X 服从stable 律当且仅当其特征函数有形式：φ(t )=e ψ(t )，ψ(t )=it β?d |t |α(1+i θt |t |

G (t ,a ))，其中0<α<2,d ≥0,β∈R ,|θ|≤1，若t =0,取t /|t |=0，若α=1，取G (t ,α)=tan πα2，若α=1，取G (t ,α)=(2/π)log |t |。

4反射原理、反正弦律及对偶2-10理）。所以

P(τ(m)≤n)=P(τ(m)≤n,S n=m)+P(τ(m)≤n,S n=m)

=P(τ(m)≤n,S n=m)+P(τ(m)≤n,S n>m)+P(τ(m)≤n,S n

=P(S n=m)+P(S n>m)+P(τ(m)≤n,S?n>m)

=P(S n=m)+P(S n>m)+P(τ(m)≤n,S n>m)=P(S n=m)+2P(S n>m).(11)习题26试用上等式重新推导首达时τ(1)的分布列，并类比给出τ(m)的分布列。

例27(反正弦律)设{S n,n≥0}是如上讨论的简单随机游动，其初始状态为0。令

u n=P(S2n=0)=(

2n

n

)

(1

2

)2n

,

并且注意到u n=2n?1

2n

u n?1。随机游动在时刻2n首次达到状态0的概率表示式为：

f2n=P(S1=0,S2=0,...,S2n?1=0,S2n=0),(12)由对称性知

f2n=2P(S1>0,S2>0,...,S2n?1>0,S2n=0).

若记满足性质A的长为k的轨道的个数为L k(A)，则

f2n=2L2n(S1>0,S2>0,...,S2n?1>0,S2n=0)·2?2n.(13)想要给出概率f2n，就需要数一数随机游动满足性质S1>0,S2>0,...,S2n?1>0,S2n=0的长度为2n的轨道的个数，这需要下面一个结果。

引理28(选票问题)设a,b为非负整数，a?b>0,k=a+b，则

L k(S1>0,S2>0,...,S k?1>0,S k=a?b)=a?b

k

(

k

a

)

(14)

证明:事实上

L k(S1>0,S2>0,...,S k?1>0,S k=a?b)

=L k(S1=1,S2>0,...,S k?1>0,S k=a?b)

=L k(S1=1,S k=a?b)?L k(S1=1,S k=a?b;

存在2≤i≤k?1,使得S i≤0)

4反射原理、反正弦律及对偶2-11即正轨道的个数等于从起点到终点的所有轨道数减去连接起点和终点并且同x 轴有交点的轨道数。由反射原理知：

L k (S 1=1,S k =a ?b ;存在2≤i ≤k ?1,使得S i ≤0)

=L k (S 1=?1,S k =a ?b ).

因此

L k (S 1>0,S 2>0,...,S k ?1>0,S k =a ?b )

=L k (S 1=1,S k =a ?b )?L k (S 1=?1,S k =a ?b )=(k ?1a ?1)?(k ?1a

)=a ?b k (k a ).2

在上述引理28中取a ?b =1，由式子(13)可知

f 2n =2L 2n (S 1>0,S 2>0,...,S 2n ?1>0,S 2n =0)·2?2n

=2L 2n ?1(S 1>0,S 2>0,...,S 2n ?1=1)·2?2n

=2·2?2n ·12n ?1(2n ?1n )=u n 2n ?1=u n ?12n .(15)

也即我们给出了“简单随机游动在时刻2n 首次到达0的概率表达式”。为说明“反正弦律”，我们还需要下述引理。

引理29简单随机游动在时刻2n 之前（包括时刻2n ）尚未返回初始状态0的概率等于在时刻2n 返回初始状态0的概率，即

P (S 1=0,S 2=0,...,S 2n =0)=P (S 2n =0)=u n .

证明:由式子(15)知

P (S 1=0,...,S 2n ?1=0,S 2n =0)=1?n

∑k =1u k 2k ?1.下面，我们用数学归纳法来完成u n =1?∑n k =1u k 2k ?1的证明。当n =1时显然成立。假设

n ?1时成立。则

1?n

∑k =1u k 2k ?1=1?n ?1∑k =1u k 2k ?1

?u n 2n ?1=u n ?1?u n 2n ?1=u n .证毕。2

4反射原理、反正弦律及对偶2-12命题30(最后访问的反正弦律)任意的k =0,1,...,n ，时刻2n 之前，在时刻2k 最后一次到达0的概率为

P (S 2k =0,S 2k +1=0,...,S 2n =0)=u k u n ?k .

习题31试用马氏性以及引理29证明该命题。

注记32令p k ,n =P (S 2k =0,S 2k +1=0,...,S 2n =0),k =0,1,...,n ，则{p k ,n }为一分布列，由于它为反正弦函数提供了一个很好的逼近，所以称该分布为n 阶离散的反正弦律。由u n 的表达式以及Stirling 公式(n !～√2πn n +1/2e ?n )，当n ,k ,n ?k 很大时可得u k u n ?k ～1π√k (n ?k )。令f (x )=1π√x (1?x )

,0

个很长时间的抛执硬币游戏中，会有一方几乎在全过程中都处于胜方！我们给出n =10的反正弦分布列

p 0,10=p 10,10=0.1762,p 1,10=p 9,10=0.0927,p 2,10=p 8,10=0.0736,

p 3,10=p 7,10=0.0655,p 4,10=p 6,10=0.0617,p 5,10=0.0606.

反正弦律

最后我们叙述而不证明一个反正弦律。

定理33(占位时的反正弦律)称简单随机游动在时间单位[m ,m +1]上为正，如果S m ,S m +1中至少有一个为正。则在时刻0到2n 的时间区间内，粒子有2k 个时间单位为正，有2n ?2k 个时间单位为负的概率为u k u n ?k 。

4反射原理、反正弦律及对偶2-13推论34设随机变量X n 表示简单随机游动在时刻0到n 的时间区间内为正的时间单位的个数。给定0

arcsin √x 。注记35直观上粒子落在正的一边的时间与总时间的比应该接近于1/2，但推论34表明：接近1/2的可能性最小，接近0和1的极端情况的可能性最大。反正弦律在研究独立同分布随机变量和时经常会以各中各样的形式出现（独立同分布随机变量和的涨落理论），在讨论布朗运动的性质时，我们还会重新发现反正弦律。简单随机游动的更详细有趣的其它反正弦律形式可以参见Feller 的经典著作《概率论及其应用(I)》第3章。

对偶原理设{ξn ,n ≥1}为独立同分布随机变量序列，则(ξ1,ξ2,...,ξn )与(ξn ,ξn ?1,...,ξ1)有相同的联合分布。取S 0=x ，对n ≥1，记S n =x +∑n i =1ξi 。

例36(Kesten-Spitzer-Whitman)设{S n }是前面所讨论的从0出发的简单随机游动，定义随机变量R n :=#{S 0,S 1,...,S n }。它表示到时刻n 为止，粒子所到达的不同点的个数，则n ?1ER n →P ({粒子不回到0})（进一步的，R n /n a .s .

??→P ({粒子不回到0})）。

解:记

I k ={1,若S k =S k ?1,...,S k =S 0;

0,其它.则R n =1+∑n k =1I k ，所以由对偶原理

ER n =1+n ∑k =1P (I k =1)=1+n

∑k =1P (S k =S k ?1,...,S k =0)

=1+n ∑k =1P (X k =0,X k +X k ?1=0,...,X k +X k ?1+...+X 1=0)

=1+n ∑k =1P (X 1=0,X 1+X 2=0,...,X 1+X k ?1+...+X k =0)

=1+n ∑k =1P (S 1=0,...,S k =0)=

n

∑k =0P (T >k ).其中T :=min {n >0:S n =0}为粒子首次返回0的时刻。当k →∞时，

P (T >k )?→P (T =∞)=P ({粒子不回到0}),

所以n ?1ER n →P ({粒子不回到0})。2

习题37设{a n }是一数列，若lim n →∞a n =a ，试证明lim n →∞n ?1(a 1+...+a n )=a 。

4反射原理、反正弦律及对偶2-14习题38试应用例36和强大数定律证明Z上初始状态为0的简单随机游动是常返的，即

P(存在n使得S n=0)=P(∪n{S n=0})=1.

例39(Z上随机游动)由于Z上简单随机游动是常返的（即从0点出发，粒子返回零点的概率为1），故P({粒子不回到0})=0，从而n?1ER n→0。

现在设{S n}是从0出发的有偏紧邻随机游动，即P(S1=1)=1?P(S1=?1)=p=1/2。若p>1/2，记α=P({粒子回到0}|S1=1)，则P({粒子回到0})=αp+1?p，而

α=P({粒子回到0}|S1=1)

=P({粒子回到0},S2=0|S1=1)+P({粒子回到0},S2=2|S1=1)

=1?p+pP({粒子回到0}|S2=2,S1=1)

=1?p+pP({粒子回到0}|S2=2)=1?p+pα2.(16)

由于0<α<1，可得α=(1?p)/p，所以P({粒子回到0})=2?2p，即n?1ER n→2p?1。类似的，当p<1/2时，可得n?1ER n→2(1?p)?1=1?2p。

注记40关于对偶原理的其它应用（排队论等）和更一般的可交换随机变量序列的性质可参见Ross的《随机过程》第七章。下面我们给出式子(16)中最后一个等式的说明。定义粒子首达状态1的时刻为

σ:=min{n:S n=1}.

我们有

P({粒子回到0}|S2=2)=P({粒子回到0},{粒子回到1}|S2=2)

P({粒子回到0},σ=k,Sσ=1|S2=2)

=∑

k

P({粒子回到0}|σ=k,Sσ=1,S2=2)P(σ=k,Sσ=1|S2=2)

=∑

k

P(σ=k,Sσ=1|S2=2)

=P({粒子回到0}|S1=1)·∑

k

=P({粒子回到0}|S1=1)·P({粒子回到1}|S2=2)

=P({粒子回到0}|S1=1)·P({粒子回到0}|S1=1)=α2.

习题41试类比给出p<1/2时的推导。

习题42设{S n}是从0出发的简单随机游动。试证明，对所有的k=0，粒子在回到原点之前到达状态k的次数的期望为1。

5WALD等式2-15

5Wald等式

引理43若τ,σ都是停时，则τ∧σ,τ+σ也是停时。若τ关于随机游动{S n}的自然σ-代数流是停时，则对任意非负整数n，{τ≥n}∈σ{ξ1,...,ξn?1}。

习题44试证明上述引理43。

若τ为停时，由引理43知τ∧n也是停时，所以任意停时都是可以由一列有界停时逼近。下面总假定{S n}为从0出发的随机游动。

定理45(Wald等式I)设随机游动{S n}的步长随机变量ξi的期望存在，记为μ=Eξ1。τ为停时，若Eτ<∞，则ESτ=μEτ。

定理46(Wald等式II)设{ξn}是相互独立的随机变量序列，Eξn=μ,Varξn=σ2n<∞，记S n=∑n i=1ξi。则对任意有界停时τ有

E(Sτ?μτ)2=E

τ∑

i=1σ2i.

特别地，若σn≡σ2，τ为停时，若Eτ<∞，则E(Sτ?μτ)2=σ2Eτ。

定理47(Wald等式III)设随机游动{S n}的步长随机变量ξi的矩母函数φ(θ)=Eeθξ1在θ处是有限的。则对任意的有界停时τ有Eφ(θ)?τeθSτ=1。

Wald等式III中关于停时的条件比I和II中要求的强，我们会给出几个例子说明即使是Eτ<∞，Wald等式III仍不成立。

例48设{S n}是Z上简单随机游动，τ为状态1的首达时，则1=ESτ=μEτ=0·∞。

当我们学习到鞅论时，会发现Wald等式(I,II,III)都是Doob停止定理的特殊情况。这里我们采用直接的方法给出证明。首先我们需要一个来自作业中的引理。

引理49对任意的非负整值随机变量Y，有EY=∑∞n=1P(Y≥n)。

Wald等式I之证明：（1）设停时τ是有界的，即存在正整数M使得τ≤M。此时

Sτ=M

∑

S n1{τ=n}=

M

∑

n=1

ξn1{τ≥n}.

所以由引理43、49可得：ESτ=∑M n=1Eξn1{τ≥n}=Eξ1∑M n=1P(τ≥n)=μEτ。

5WALD等式2-16（2）若停时τ是无界的，则存在有界停时σn=τ∧n，使得σn↑τ。由（1）知ESσn=μEσn，由单调收敛定理知Eσn↑Eτ。另一方面，Sσn→Sτ并且

E|Sσ

n |≤E

τ

∑

k=1

|ξk|=E

∞

∑

k=1

|ξk|1{τ≥k}=E|ξ1|Eτ<∞,

所以由控制收敛定理可知：ESτ=lim n→∞ESσ

n

=μlim n→∞Eσn=μEτ。

Wald等式II之证明：令ηi=ξi?μ，则Z n:=S n?nμ=∑n i=1ηi，{ηi}相互独立同分布，并且Eη1=0,Varη1=σ2，则要证明的Wald等式转化为EZ2τ=σ2Eτ，故不妨假设μ=0。类比于Wald等式I的证明，设τ为有界停时（无界情形类比于Wald等式I的证明，留作小习题？）。

ES2τ=E[

M ∑

n=1ξn1{τ≥n}]2=

M

∑

n=1

Eξ2n1{τ≥n}+2∑

1≤j

Eξjξk1{τ≥j}1{τ≥k} =σ2

M

∑

n=1

E1{τ≥n}+2∑

1≤j

Eξj1{τ≥k}Eξk

=σ2

M

∑

n=1

P(τ≥n)=σ2Eτ.

Wald等式III之证明：由于τ是有界停时，即存在非负整数n使得τ≤n。因为对任意的k≤n，Eeθ(S n?S k)=φ(θ)n?k，并且S n?S k和S k,1{τ=k}相互独立，

Eφ(θ)?τeθSτ=

n

∑

k=0

Eφ(θ)?τeθSτ1{τ=k}=

n

∑

k=0

Eφ(θ)?k eθS k1{τ=k}

=

n

∑

k=0

Eφ(θ)?k eθS kφ(θ)?n+k eθ(S n?S k)1{τ=k}

=φ(θ)?n

n

∑

k=0

EeθS n1{τ=k}=φ(θ)?n EeθS n=1.(17)

例50(输光问题)现在我们应用Wald等式重新来研究前面的输光问题。设{S n}是Z上的简单随机游动，初始状态S0=x∈[0,A]。令T=T[0,A]=min{n:S n=0或A}表示粒子首次跑出[1,A?1]的时刻。由于Wald等式中要求随机游动的初始状态为0，所以我们考虑随机游动{S n?x}，由于ET<∞（？小习题），所以由Wald等式I得E(S T?x)=μET=0。设S T以u(x)的概率取A，以1?u(x)的概率取0，我们有

(A?x)u(x)+(?x)(1?u(x))=0=?u(x)=P x(S T=A)=x/A.

应用Wald等式II可得

E[(S T?x)?μT]2=σ2ET=ET=?(A?x)2x

A

+x2

A?x

A

=x(A?x)=ET.

5WALD 等式2-17例51(首达时)设{S n }是Z 上的简单随机游动，初始状态为0，τ=τ(1)为状态1的首达时。我们利用Wald 等式III 可以重新给出τ的概率生成函数。步长随机变量ξi 的矩母函数为

φ(θ)=Ee

θξ1=e θ+e ?θ2=cosh θ≥1.令s =1/φ(θ)，对θ>0有e ?θ=1?√1?s 2s 。注意此时已经回到前面§3中关于首达时的讨论中的（c ），那里我们用了一个关于鞅的结果（鞅的停止过程仍然是鞅，同Doob 的鞅停止定理相关）得到了式子（5），同样的可以用Wald 等式III 得到该式子。考虑有界停时

σn =τ∧n ，有E [φ(θ)?σn e θS σn ]=1。剩余的推导回归到§3中的（c ）

。习题52设α>0,0<ρ<1满足∑∞k =0αρk =1，即F ={p k =αρk ,k ≥0}为一分布列。设

{S n }为随机游动，其步长随机变量服从分布F ，初始状态为0。对任意的k ≥0定义τk =min {n :S n >k }，若任意的n 都有S n ≤k ，令τk =∞。

（1）试证明随机变量S τk ?k 关于τk <∞的条件分布为参数为ρ的几何分布；

（2）假定ES 1=μ>0，试计算E τk 。

定理53(随机级数)设{X n }是独立随机变量序列，EX n =0,Var X n =σ2n <∞，则

∞∑n =1σ2n :=σ2<∞=?lim n →∞n ∑j =1X j :=S ,a .s .

并且ES =0,ES 2=σ2。

引理54(L 2极大不等式)若σ2:=∑∞n =1σ2n <∞，则任意的α>0，

P (sup n ≥1

|S n |≥α)≤σ2

α.(18)

证明:定义τ:=min {n ≥1:|S n |≥α}，约定空集的下确界为∞。由于

{ω∈?:sup n ≥1|S n |≥α}={ω∈?:τ<∞},并且{τ≤m }↗{τ<∞}，对任意的有界停时τ∧m 应用Wald 等式II 可得

ES τ∧m =E

τ∧m ∑j =1σ2j ≤σ2.

故而

α2P (τ≤m )≤ES 2τ∧m 1{τ≤m }≤ES 2τ∧m ≤σ2.证毕。2

6附注2-18定理53之证明：只需证明{S n}是一个Cauchy列。由于σ2:=∑jσ2j<∞，所以对任意的k≥1存在n k使得∑j≥n

k

σ2j≤8?k。令

G k={|S n

k

?S n|≤2?k,?n≥n k},

则

P(G c k)=P(sup

n≥n k |S n

k

?S n|≤2?k)≤8?k/4?k=2?k.

由Borel-Cantelli引理知事件G c

k

以概率1只发生有限多次，因此{S n}为Cauchy列。

习题55在上述证明中已经给出S n a.s.

??→S，试证明ES=0,ES2=σ2。

随机游动的内容相当丰富，同其他专题以及学科联系密切而深远，譬如金融保险、统计物理、计算机科学、生物数学等，这里我们只是介绍了随机游动的一些有趣的基本内容，关于更多随机游动理论内容，可参见Feller的经典著作《概率论及其应用》卷1和卷2，以及Spitzer的专著《随机游动原理》。关于随机游动同电网理论，渗流、几何群论等方面的联系，可参见Lyons和Peres的《Probability on trees and networks》。

6附注

6.1鞅停止定理

在§3中我们定义了停止过程并且知道：若随机过程X={X n,F n}是鞅，则对应的停止过程Xτ={X n∧τ,F n}也是鞅。所以对任意的n，E(X n∧τ)=EX1。现在假设τ为停时，即P(τ<∞)=1，我们有X n∧τa.s.

??→Xτ，问题是EX n∧τ→EXτ是否成立呢？或者说在什么条件下成立呢？也即在什么条件下EXτ=EX1？我们有下面的结果

定理56(停止定理)若{X n}是一致有界的，或τ是有界停时，或Eτ<∞并且存在常数M 使得对任意的n<τ，有E(|X n+1?X n||X1,...,X n)

习题57试用定理56证明Wald等式(I,III)。

例58(输光问题)设{S n}是Z上的紧邻随机游动，初始状态为0，步长随机变量的分布为P(ξ1=1)=1?P(ξ1=?1)=p。设A,B是正整数，令τ={n:S n≥A或S n≤?B}表示赌资首次超过A或低于?B的时刻。假设Eξ1<0，问问题：赌资迟早超过A的概率有多大？

6附注2-19

由于E(1?p

p )ξ1=1，若令eθ=1?p

p

，则Eeθξ1=1，由第一讲习题知道{eθS n}是鞅。并

且定理56中的第三个条件满足，从而EeθSτ=1。由全概率公式

1=E(eθSτ|Sτ≥A)·P(Sτ≥A)+E(eθSτ|Sτ≤?B)·P(Sτ≤?B)

≥eθA P(赌资在达到-B之前先超过A).(19)

注意到θ>0，令B→∞，可得P(赌资迟早超过A)≤e?θA。注意到A越大，θ越大(p越小)，这个概率越小，这和实际也是相符的。

6.2稳定律的一个例子

若{X n}是独立同分布随机序列，EX1=μ,Var X1=σ2∈(0,∞)，记S n=∑n i=1X i，由中心极限定理可知(S n?nμ)/σn1/2D?→N(0,1)。假设{X n}是服从Cauchy分布的独立同分布随机变量序列，由于Cauchy分布的期望和方差不存在，所以没有了中心极限定理，但是由Cauchy分布的可加性知道n?1∑n k=1X k仍然服从Cauchy分布，也即n?1S n D?→Y，其中Y为Cauchy分布。那么一般的，对于独立同分布随机序列{X n}，记S n=∑n k=1X k，存在a n>0,b n使得a?1n(S n?b n)D?→Y的充分必要条件是什么？Y的分布又怎么刻画？这事实上就是前面脚注中的稳定律。下面，我给出一个简单的例子。假设{X n}为独立同分布随机变量序列，其公共分布为例6中的重尾随机分布，记φ(t)=Ee itX1，则

1?φ(t)=∫∞

1

(1?e itx)

α

2xα+1

dx+

∫?1

?∞

(1?e itx)

α

2|x|α+1

dx

=α∫∞

1

1?cos tx

xα+1

dx=tαα

∫∞

t

1?cos u

uα+1

du,

又φ(t)=φ(?t)，所以

1?φ(t)～C|t|α,t→0.

注意到随机变量n?1/αS n的特征函数为

Ee itn?1/αS n=[φ(tn?1/α)]n

=[1?(1?φ(tn?1/α))]n→e?C|t|α.

这表明n?1/αS n以分布收敛到某个非退化的特征函数为φY(t)=e?C|t|α的随机变量Y。