高等概率论

高等概率论作业

一，高等概率论的发展历程

现代概率论的研究方向和研究方法已经获得了极大发展，特别是近几十年，概率论和其他学科逐渐交叉结合，形成了一些新的学科分支和增长点，并且在科学研究和实际应用中都取得了突出成果。这些成果的取得，都源于概率论公理化体系的建立。概率论的发展历史一般分为四个时期：

（1）萌芽时期（1653年之前），以统计数据为主要手段，分析贸易、保险、赌博、占卜等人类实际生活领域中的一些问题。

（2）古典概率论时期（1654-1811年），用代数及组合方法为研究手段，以研究离散型随机变量为主。

（3）分析概率论时期（1812-1932），用微分方程、特征函数等分析方法为研究手段，以研究连续型随机变量为主。

（4）现代概率论时期（1933年至今），以集合论、测度论的思想方法为主要理论基础，研究方向呈现多元化。

20世纪30年代以来，因为概率论公理化体系的建立以及科学研究中的一些实际问题的推动，概率论得到了快速的发展，不断取得理论上的新突破。目前主要研究方向有极限理论、独立增量过程、马尔科夫过程、平稳过程和时间序列、鞅和随机微分方程、点过程等。（1）极限理论

极限理论主要研究与随机变量序列或随机过程序列的收敛性相关的问题。20世纪30年代以后，随机变量序列的极限理论（主要是中心

极限定理）的研究，是将独立序列情形的结果推广到鞅差序列等情形，以及研究收敛速度问题。近年来，由于统计物理学的需要，人们开始研究强相依随机变量序列的非中心极限定理。自1951年唐斯克提出不变原理（随机过程的极限定理）后，有关随机过程序列的弱收敛的研究成了极限理论的中心课题，普罗霍洛夫及斯科罗霍德在这方面做出了最主要的贡献。1964年斯特拉森的工作出现后，引起了有关随机过程序列的强收敛的研究，这就是强不变原理。近年来，鞅论方法已渗透到这一领域，使许多经典结果的证明得到简化和统一处理，并且还导致了一些新的结果。

（2）独立增量过程

人们最早知道的独立增量过程是在物理现象中观察到的布朗运动和泊松运动，一般的独立增量过程的研究，归功于莱维，它在20世纪40年代已臻成熟。在这些研究中，包含了许多重要的方法和概念，概率论的许多近代研究课题都直接或间接地受其启发与影响。

（3）马尔科夫过程

在实际中遇到的很多随机现象有如下的共同特性：它的未来的演变，在已知它目前状态的条件下与以往的状况无关。描述这种随时间推进的随机现象的演变模型就是马尔科夫过程。

20世纪50年代以前，研究马尔科夫过程的主要工具是微分方程和半群理论（即分析方法）。1936年前后就凯斯探讨马尔科夫过程的轨道性质，直到把微分方程和半群理论的分析方法同研究轨道性质的概率方法结合运用，才使这方面的研究工作进一步深化，并形成了对轨道

分析必不可少的强马尔科夫性概念。1942年，伊藤用他创立的随机积分和随机微分方程理论来研究一类特殊而重要的马尔科夫过程——扩散过程，开辟了研究马尔科夫过程的又一重要途径。近年来，鞅论方法也已渗透到马尔科夫过程的研究中，它与随机微分方法结合在一起，已成为目前除了多维扩散过程的工具。此外，马尔科夫过程与分析学中的位势论有密切的联系。对马尔科夫过程的研究，推动了位势理论的发展，并为研究偏微分方程提供了概率论的方法。近十多年发展起来的吉布斯机场和无穷粒子随机系统，是由于统计物理学的需要而提出的。

（4）平稳过程和时间序列

许多自然的和生产过程中的随机现象表现出某种平稳性。一种平稳性是过程在任意一些时刻上的联合概率分布随时间推移不变，这种平稳性称为严平稳。严平稳过程的研究与遍历理论有密切的联系。如果上述对概率分布的要求放宽为仅对二阶相关矩的要求，即过程在任意两时刻上的协方差随时间推移不变，则称这种平稳性为宽平稳。关于宽平稳过程的研究，辛钦、柯尔莫哥洛夫和维纳等人运用傅里叶分析和泛函分析的工具，在40年代已经找出了过程的相关函数及过程本身的谱分解式，并且较完美地解决了有应用意义的预测问题。许多应用问题还要去根据观测数据去建立这些数据所来自的随机过程的模型。为此产生了时间序列分析这一课题，提出了宽平稳序列的自回归滑动平均模型以及一些非线性模型。

（5）鞅和随机微分方程

鞅是另一类重要的随机过程。从20世纪30年代起，莱维等人就开始研究鞅序列，把它作为独立随机变量序列的部分和的推广。40年代到50年代初，杜布对鞅进行了系统的研究，得到有名的鞅不等式、停止定理和收敛定理等重要结果。1962年。P.A.迈耶解决了杜布提出的连续时间的上鞅分解为鞅及增长之差的问题。在解决这个问题的过程中，出现了很多新鲜而深刻的概念，式鞅和随机过程一般理论的内容大大丰富起来。鞅的研究丰富了概率论的内容，并引起人们用它所提供的新方法新概念对概率论中许多经典的内容重新审议，把以往认为是复杂的东西纳入鞅论的框架而更加简化。此外，利用上鞅的分解定理，可以把伊藤清的对布朗运动的随机积分方程的研究也随之发展。随机微分方程理论不仅可以用来研究马尔科夫过程，它还是解决滤波问题的必要工具。最近出现的流形上的随机微分方程又和微分几何及分析力学的研究发生了密切的联系。鞅论还对本学科以外的位势理论、调和分析及复变函数论等提供了有用单位工具。

（6）点过程

点过程是从所谓计数过程发展出来的，它们的特点是，可用落在不相重叠的集合的随机点数的联合概率分布来刻画整个过程的概率规律。最基本的计数过程是泊松过程，1943年，C.帕尔姆将它作为最简单的输入流应用于研究电话业务问题；1955年，辛钦又以严密的数学观点作了整理和发展。在60年代以前，点过程的研究主要限于泊松过程及其推广的过程。以后，由于大量实际问题的需要以及随机测度论和现代鞅论的推动，进一步把实轴上的点过程（即计数过程）推广

到一般的可分完备度量空间上，在内容和方法上都有根本性的进展。 许多服务系统，如电话通信，船舶装卸，病人候诊，红绿灯交换，存货控制，水库调度，购货排队等，都可用点过程来描述。 下面介绍一下高级概率论的一些相关知识点： 二，高等概率论的相关知识点 一、集族与测度：

(Ω,Φ,μ)---------测度空间

①Ω---------------非空集合-------------研究对象全体 ②Φ----------------σ代数（域）-------由Ω的一些子集组成

σ代数对集合的一切有限次或可数次运算封闭

Φ{,}φ=Ω-------------平凡的σ代数

③μ：Φ+→R （[0,1]）集函数（是Ω的元素的一种测度或度量） 例：Ω=[0,1].（a,b]?Ω,((,])a b b a μ- ,I 是Ω的子集，I 为区间，

()I μ=I 的长度，Φ=B （[0,1]）=()σε--------包含ε的最小σ代数，

[0,1]ε=中的一切开集

测度的唯一扩张定理

,{:()}n x x ωξω?∈≤∈R Φ 称ξ是可测函数

({})a b μξξ<≤---的分布 ①..()lim ()n x a e μξωμ→∞

?????

几乎处处收敛依测度收敛依分布收敛（弱收敛） ②ξ是一维可测函数，积分ξωμωΩ

?（）d ()-------数学期望

积分的收敛性---------Lebesgue 控制收敛定理

lim ()?lim ()n n x x d d ξωμξωμ→∞

→∞

Ω

Ω=??

Fatou 引理，Levy 引理 记号、述语：

大写英文字母表示Ω的子集（事件）

花写英文字母表示Ω的子集组成的集合类（集类，集族） AαBβXχ?δEεΦφΓγHηIι??KκΛλMμNνOο∏πΘθPρ∑σTτYυ??ΩωΞξψψZζ

某集类对某种运算封闭：如A 对可数并封闭指：对?A1，A2，…A n ∈A ，则1i ∞

= A i ∈A

二、集族与测度

1. 集合序列的极限 设1,2,...,,...,A A An ?Ω

111lim sup {:}

{,,...,}

x K k k K k n k

An n An X A A An

ωω→∞

∞

+=∞

∞

==∈Ω?∈== 可数个不同的，使至少一个发生

111lim inf {:}

{,,...,}

x k k k k n k

An n An A A An

ωω→∞

∞

+=∞

∞

==∈Ω∈== 除有限个以外，都发生

关系：lim inf lim sup n n An An →∞→∞

? 如果lim inf lim sup n n An An →∞→∞=，称{}An 的极限存在，记为lim x An →∞

特例：单调上升集合列：121

,lim

n n A A An An ∞

→∞

=?=

单调下降集合列：121

,lim n n A A An An →∞

=?= 例：A,B 是Ω的两个子集，

221,,1,2,n n A A A B n -=== ，则lim sup ,lim inf n n An A B An A B →∞

→∞

==

11

((1),1(1))n n An n n

=-+-，则lim sup [0,1],lim inf (0,1)n n An An →∞→∞== 11(

,1)(0,1)2211

(,1)(0,1)

22

n n n n An Bn =-↑=-+↓ 2几种常用集类的定义：

①A 称为一个π类：如果A 对有限交封闭 ②?称为一个λ类：如果：(a).ω∈ ?;

(b). ?对真差封闭：若,A B ∈?,且A B ?,则B A -∈?

（c ）?对单调上升（下降）集合列的极限封闭

③环A ：如果A 对有限并、差运算封闭（交：()A B A A B =-- ） ④代数Φ：如果Φ是环，且Ω∈Φ0（代数对一切有限次运算封闭） ⑤σ环A ：如果A 对可数并、差运算封闭（?可数交封闭，极限运算封闭）

⑥σ代数（域）Φ：如果Φ是σ环，且Ω∈Φ（σ代数对一切可数次集合运算封闭）

⑦单调族M ：如果M 对单调上升（下降）列的极限封闭，

即：如果An ∈M ，且An ↑，则1n An ∞

=∈ M

如果An ∈M ，且An ↓，则1

n An =∈ M

代数、且又是单调族σ?代数

π类、且又是λ类σ?代数

A 是任意集类，分别称λ（）A ，σ（）A ，M （A ）是由A 生成的最小λ类，最小σ代数，最小单调类。如：σ（）

A 是A 生成的最小σ代数指： ①σ（）A 是σ代数，且σ?（）A A

②如果Φ是σ?代数，且Φ?A ，且σ?（）A F ?σσ

?=

是代数

（）F A

F A F

单调类定理的两种形式和证明方法：

λπ-类方法：设C 是一个π类，D 是λ类，且?C D ，则：σ?（）D C 单调族方法：设0F 是一个代数，M 是一个单调族，且0?M F ，

则σ?0（）M F

推论：πλλσ==是类，（），则（）（）C D C C C 0000σ==是代数，（），则（）（）F M M F M F F

证明：λσ?（）（）

C C ，显然（σλ （）是包含的类C C ） 只要证λσ?（）（）C C ，令λ=（）

D C 如果D 对有限交封闭，则D 是一个σ代数

C 11111.2.A \A A 3.A ,,B ,B B ,B ,lim B n n C C

n k n k k k n n n k n k A A A ==∞→∞

=Ω∈?? ?∈Ω=∈ ?

?∈==∈ ? ?

?

?∴∈↑=∈ ???

，D D D D D D D

()σ∴?D C

①A {B A B }A ?∈=?Ω∈ 固定，令；C H D 验证：

A A A B,C

B

C C-B A C A-B A λ?∈?∈ 是类，且，，则（）=H H C

H D

A ∴?H D ,即对A

B ,A B ?∈∈∈ ，

C

D D

②B B ={E :E B }?∈?Ω∈ 固定，令D H D

验证：B B B λλ?∴?=，且是类（）H C H H D C ，

即B ,E B E ?∈?∈∈ ，D D D

#

方法：实际中，要证明σ代数()σC 中集合（元素）具有某种性质（*），先证C 中元素具有性质（*），然后将定义类

{:*}A A =∈Ω具有性质（）D 。验证D 是一个λ类，则：

λσ?=（）（）

D C C 例：11R ,(R )（）B 上Lebesgue 测度的1(R )------Borel σ代数B ，即由1R 得

全体开集（开区间）生成的最小σ代数，也是左开右闭区间生成的最小σ代数。在1R （）B 上定义一个集函数μ：使I =I μ（）的长度，I 是区间，令

{}

=∞≤≤∞（a,b ）:-a

C

是一个π

类。

(,),b a

a b μ-??∈?

+∞

?区间有限定义（（a,b ））=区间无限

C ，

1i

A R ,*(A)=inf{():A}i i i i

I I I μμ?∈?∈?∑ 有限个，使C

*i

(A)=sup{():A}i i i i

I I I μμ?∈?∑ 有限个，使C

1*{:*()()}A R A A μμ=?=?D C

R λσ∴?1是一个类，（）=（）D D B C

测度的连续性：

n An An A An ()An An A ,..(),

lim (n)()

n A s t A A A μσμμμμμμμ→∞

?∈↑→∞?∈↓?<∞=

00n 设是代数的一个非负可数可加集函数

（a)下方连续：，，（）（b)上方连续：，，n 则F F F

有限可加+连续性?可数可加性 三、测度的扩张定理

Ω 非空集，F （代数或σ代数）

R μ+→：F ，集函数，满足：①μφ（）=0；②具有可数可加性：即

1n n 1

A ,,A An ∞=?∈∈ ，且互不相交，且F F ，n 1

n 1An An μμ∞∞

==∑ （）=（）

（有限可加：1n A ,,A 有限个），称μ是上的一个测度F 测

度

分

类

：

11A n ..

,

1[0,1

A A A

R R I

I I L

An An n n n s t A A Borel μμσμσμμμμσμ∞

=Ω∞Ω=?∈Ω=<∞Ω==---∈Ω?∈== 有限测度：（）<+,概率测度（）有限测度：，非有限无穷测度：（）

域，（）=的长度，则是有限测度，且是概率测度（2）=，=（），区间（）=的长度----ebesgue 测度则是有限测度。令（-n,n ）,(An)=2n.且：F F B F F B F n 1R (3)[0,1],A A A μμ∞=?????

???

?

?

?

?

?

??

?

??=∞∞??

Ω==Ω∈?

??

（-,+）的一切子集，（）中点的个数，是一个计数测度F F 扩张的步骤：

把 P 是代数0F 上的概率测度：

中单调上升序列的极限集全体0G =F =将P 上，0n A An An An lim P An μμ→∞

?∈?∈↑ ，，，（）（），在上具备的性质：G F G

①0

,0()1P A μ

φμμμΩ=≤≤（）=0，（）=1，F |； ②,,,()()()A B A B A B A B φμμμ∈==+ G ; ③,,A B A B A B μμ?∈≤、则（）（）

G ； ④n An An A lim An A μμμ→∞

∈↑在上下方连续，即，，且（）=（）G G 02

设=Ω的一切子集所成集类，E 将μ的定义扩张到E 上。

*A *A G G A μμμ?∈∈? （外侧度）：，（）inf{（）：，}E G G ，则：

①**

*,0*A μμμφμμ=Ω≤≤，（）=0，（）=1（）1G |； ②

*A B +*A B *A +*B (),*A +*B 1

A B μμμμμμ≤≥?∈ （）（）（）（）次可加性（）（）、E

③A B *A *B μμ?≤，则（）（）

④n *An An A lim *An *A μμμ→∞

∈↑=下方连续，即，，则（）（）E ④：1

11

n n n n 0,,,..,()*(),

2

,*()*()()lim ()

1

()*()()2lim *()lim *()A A *()*()*()lim *()

n n n n n n

n

n n n n k n n

n

k n n

k n k k k n n n n n G s t G A G A A A G G A G G G G A A A A A A A ε

εμμμμμμμμεμεμε

μμμμ→∞

===→∞

→∞

→∞

?>??∈?≤+

=?∈≤==<≤+>≤++≥≥∴≥∑

且归纳法（）=，，G G

03

令C {A :*()+*()=1}A A μμ=∈H E

则H 是一个σ代数，且*μ在H 上是概率测度。0?H F ，同时

*P μ=F |，（称*μ为μ的扩张）。0是的扩张H F ，限制到σ?0（）（）F H

结论：

0P **P

σμμσμΩΩ=000（，，）扩张到了（，（），），使得*是（）上的概率测度。F F F F |

04

如果P 是0F 的一个有限测度，

1, 1.2.....,P n n n n n ∞

=?Ω∈Ω=Ω=ΩΩ∞ 且互不相交，且（）<

将001~3用到00(,,),()()*,()n n n n n P P A P A μσΩΩ 扩张为一个F F

对01(),*()*()n n n A A A σμμ∞

=?∈=Ω∑ F ，00(,(),*)P σμΩΩ是（，，）F F 的扩

张，且还是唯一的。

μΩ （，，）测度空间F

{:,,()0,,}B A N N B A C C N μμμ=?Ω?∈?∈==+?=即：中的集合与一切零测集的子集的并的全体

F F F F F

B B=A C,A ,

C N,N ,(N)=0μμμμ?∈∈?∈ 扩张到上，记为，，如果F V F F F

(B)(A),=μμ F V V |,称μμΩΩ（，，）为（，，）F V F 的完备化测度空间。

μΩ（，，）

F 称为是完备化的m.s.如果N ,(N)=0,C N,C .μ?∈??∈则对F F (,,*)μσμΩΩ是（，（），*）的完备化测度空间H F

101

1

{R }A ,A=,(,].()()

n

n

k k k k k k k k I I a b m A b a ===?∈=-∑ 上有限个互不相交的左开右闭的区间的并F F

扩张：

11(,(),)L B R R ebesgue erol 测度

完备化后测度

B M

四、Lebesgue----Stieltjes 测度

结论：一维分布函数与R,(R)（）

B 上的一个L —S 测度对应（某种意义下是1-1的），n 维分布函数与n n R ,(R )（）B 上的某一个L —S 测度

对应

定义：R,(R)（）B 上的测度μ称为是L —S 测度，如果对R ，一个任意有界集().()A R A μ∈<∞B

函数F ：R R →

称为分布函数.如果单调不减，右连续。,()x R F x ?∈<∞

给定R,(R),μ（）B 是L —S 测度，空间()((,])F x x μ-∞ ，则F 是一个分布函数（适用于μ是有限测度。

一般：(0)((0,]),0

()(0)((,0]),0

F x x F x F x x μμ+≥?=?

-

右连续?μ的下方连续

任给R 上的一个分部函数，定((,])()()a b F b F a μ-

0{}R =中有限个左开右闭不交区间的并F

01

1

A=(,),()((,])n n

k k k k a b A a b μμ==∈∑ F

0(,,)F(+)-F(-)=1R μσμ∞∞是有限测度空间（特别，当时，是概率测度）F

0(,,)R μF 可以唯一扩张成R,(R),*μ（）B ,则*μ是L-S 测度 F(x,y)P(X x,Y y)≤≤ ，矩形不等式成立，即：

1212221221(,)(,)(,)(,)(,)0P x x x y y y F x y F x y F x y F x y <≤<≤+--≥

.()()()b a F x F b F a =- 关于变量x 的差分。 121,,.(,)[(,)(,)]

[(,)(,)][(,)(,)]

a b d c b a F x y F x d F x c F b d F a d F b c F a c =-=---

111(,,),(,,),(,,),.n n n n n i i x x R a a b b R a b a b =∈==∈≤≤x a b 如果

1.1,1,1()(,,)(2)n n b a b a bn an n F x F x x 项

定义：F:n →R R 成为一个n 元分布函数。如果： ①F 对每个变元单调不减； ②F 右连续； ③,()n x F x ?∈<∞R

④,,,,()0n b a a b a b F x ?∈≤≥R

给定(,())n n R R B 上L---S 测量，定义.(),..

()((,]),,n b a F x s t F x a b a b μ=∈R 当μ有限测度时，()((,])F x x μ-∞

反之，给定n R 上的分步函数 .(),,,,((,])n b a F x a b a b a b F μ?∈≤R 定义

0{}n =R 中有限个不相交的左开右闭矩形的并F

三，高等概率论知识在金融中的应用（以蒙特卡罗方差减小技术以及在金融中的应用为例）

蒙特卡罗（Monte Carlo ）方法是一种在科学与技术的各领域中得到广泛应用的随机计算方法。 它的基本特点是以概率统计的理论、方法为基础，以是否在计算机上实现为重要标志。 因此它与一般的确定性的计算方法有很大区别。 蒙特卡罗方法将所求解的问题与某个概率模型联系在一起，在计算机上进行随机模拟，以获得问题的近似解，因此蒙特卡罗方法又称为随机模拟（Random Simulation ）方法或统计试验（Statistical testing ）方法。

蒙特卡罗方法求解的一般过程：首先选取一个概率空间，其次在该概率空间中确定一个依赖随机变量 X 的统计量 g （X ），其数学期望：

正好等于所要求的值 G ，其中 F （X ）为 X 的分布函数。最后产生随机变量 X 的样本 x1，…，xN ，用相应的统计量 g （x1），…， g （xN ）的算术平均值

作为G 的近似估计值。从以上过程看出，蒙特卡罗方法解题的最关键一步是，确定一个统计量，其数学期望值正好等于所要求的值，这个统计量为无偏统计量。由中心极限定理，只要选取的无偏统计量g （X）具有有限方差σ2，则对于任意的0＜α＜1，存在非负的λα，当N 足够大时，有如下近似等式成立

从而可知蒙特卡罗方法的误差是由方差σ和模拟次数N 决定的，误差形式σN决定了在方差σ固定情况下，要提高误差精度一位数字，就要增加100 倍的工作量。从另一角度说，在固定误差的情形下，如果σ减小到原来的1／10，就相当于减少模拟工作量为原来的1／100。

在无套利原理的假设下，任何（欧式）衍生产品的价值能够表示为其到期回报的贴现的期望值，即

其中r 是无风险利率，T 为衍生产品的期限，f（ST）是关于标的变量ST的到期收益函数，ST可以是一维变量也可以是多维变量，EQ表示风险中性测度。

正因为衍生产品的价格可以表示成一个期望值，因此，蒙特卡罗方法可以很自然的应用到衍生产品的价值计算中。通常衍生产品（例

如期权、互换等）定价的蒙特卡罗方法包含下面 3 个步骤（1）在风险中性测度下模拟标的状态变量随时间的演化过程；

（2）计算每条路径上衍生产品的折现现金流，由产品的收益函数形式决定；

（3）对所有模拟路径取平均得到期权价格的蒙特卡罗估计值。

理论上讲，绝大部分的金融衍生产品都可以用蒙特卡罗方法进行求解，但是与确定性计算方法相比，计算效果好坏取决于问题的维数（不一定是资产的个数）。在处理低维问题时，收敛速度比有限差分法和二叉树等确定性方法慢；而在处理高维问题（通常维数大于3）时，由于蒙特卡罗方法具有收敛速度与问题维数无关的重要特点，因而具有优势。目前该方法被广泛的应用于路径依赖型衍生产品、多个标的资产的产品及标的过程复杂情形下衍生产品的定价问题，如随机波动率情形下衍生产品和LIBOR产品的定价等。近几年来，随着创新型金融衍生产品的不断推出以及定价复杂度的增加，蒙特卡罗方法逐渐成为产品定价和风险管理的基本工具之一。

采用蒙特卡罗定价方法的缺点是，为达到一定的计算精度，往往需要大量的模拟次数。为了提高效率，一些方差减小技术被提出并使用于蒙特卡罗模拟计算中。常用的方差减小技术包括控制变量技术、重要取样技术、分层抽样技术与对偶变量技术等。