《现代概率论》
现代概率论习题(2011修订)-encryption
(3) 对于 ∀ ω ∈ A△B = A \ B + B \ A， 若 ω ∈ A \ B， 则 ω ∈ A ∪ N1 = B ∪ N2 ，
而 ω 不属于 B ， 故 ω ∈ N2 ．同理， 若 ω ∈ B \ A， 则 ω ∈ N1 ．因此， ω ∈ N1 ∪ N2 ， 即
因为 A△N1 = B △N2 ， 所以 A△(A△N1 ) = A△(B △N2 )， 即 (A△A)△N1 = (A△B )△N2 , ∅△N1 = (A△B )△N2 .
n n n n
/gu
Bn ) =
∞ ∞ ∞ ∪ ∪ ∪ ∩ Bn )] An ) ( [( k=1 n=k n=k
习题 1.4 证明：(1) (lim An )c = lim Ac n; n n ∪ ∪ (2) lim(An Bn ) = lim An lim Bn ;
o
CHAPTER 1. 可测空间
《现代概率论基础(第二版)》
汪嘉冈 编著
sys y.ed
/gu
o
习题参考答案
目
第一章 可测空间 第二章 测度与积分 第三章 独立随机变量序列 第四章 条件期望与鞅
录
1 29 65 67
sys y.ed
i
/gu
o
sys y.ed /gu o
第一章
可测空间
习题 1.1 若 {An , n ≥ 1} 为单调集合序列， 证明 limn An 存在， 且 ∪ ∞ An , An 递增 n=1 lim An = ∩ n ∞ An , An 递减 n=1 证明 (1) 若 An 递增， 则 lim An =
k=1 n=k ∞ ∩ ∞ ∪
=(
k=1 n=k n
概率论的发展简介及在生活中的应用改
论文题目概率论的发展简介及在生活中的应用摘要概率论是一门研究不确定性和随机性等现象的一门数学，其发展过程从最初的研究赌博的随机性开始、最终形成了当代的概率理论这门重要的数学分支，研究概率论发展的历史，有助于更好的理解和学习概率论，并在实际的生活和诸多科技领域更好的应用这门数学科学。
对此本文通过收集相关的文献资料对概率论的发展历程进行了梳理，从概率论的起源到发展，再到成熟进行了全面的论述，最后从生活应用的角度来阐述概率论和现代生活紧密的联系，并从经济管理决策、中奖问题、优化选择以及抽签公平问题和食品质量设计方案中等角度进行了深入的剖析。
关键字：概率论；发展历程；应用Probability theory is a mathematical study of an uncertain and stochastic phenomenon, its development process begins, eventually forming probability of modern theory of this branch of mathematics from the randomness of gambling first, study the history of the development of probability theory, contribute to a better understanding and learning the theory of probability, application and better in real life and in many areas of science and technology of the mathematical sciences. In this paper, through the collection of relevant literature and summarizes the development history of probability theory, from the origin to the development of probability theory, and then to the mature are discussed in this paper, the application perspective of probability theory and modern life closely, and from the optimization selection and draw fairness and food quality design scheme of medium angle economic management decision, winning question, has carried on the thorough analysis.Keywords: Probability theory Development Application第一章引言.................................... 错误!未定义书签。
现代概率论的理论发展与应用
现代概率论的理论发展与应用作者：杨文娟朱兰芝来源：《硅谷》2008年第11期[摘要]介绍现代概率论的一些主要理论，并综述它们在各方面的应用情况。
[关键词]概率论布朗运动鞅随机积分中图分类号：O21文献标识码：A 文章编号：1671－7597(2008)0610102－01一、引言在20世纪初期，作为概率论历史上一个重要发展阶段的拉普拉斯的概率论被公理化的概率论所代替，此后，概率论的研究主要采用测度论方法，并取得了一系列理论上的重大突破，开创了现代概率论的新时期。
二、现代概率论的主要理论研究（一）布朗运动的研究布朗运动(Brown motion)是一类特殊的马尔可夫过程，具有连续时间参数和连续状态空间，是一个最基本、最简单同时又是最重要的随机过程。
布朗运动最初由英国生物学家布朗(R.Brown)于1827年根据观察花粉微粒在液面上作“无规则运动”的物理现象而提出的。
爱因斯坦(Einstein)于1905年首次对这一现象的物理规律给出了一种数学描述，使这一课题有了显著的发展。
这方面的物理理论工作在Smoluchowski, Fokker,Planck,Burger, FurthOrnstein,Ublenbeck等人的努力下迅速发展起来了。
但在数学方面却由于精确描述太困难而进展缓慢，直到1918年才由维纳(Wiener)对这一现象在理论上作出了精确的数学描述，并进一步研究了布朗运动轨道的性质，提出了在布朗运动空间上定义测度与积分。
这些工作使对布朗运动及其泛函的研究得到迅速而深入的发展，并逐步渗透到概率论及数学分析的各个领域中，使之成为现代概率论的重要部分。
（二）随机过程“鞅”的研究鞅（martingale）是另一类重要的随机过程。
鞅的背景来源于公平赌博。
即如果每次赌博的输赢机会是均等的，并且赌博策略是依赖于前面的赌博结果，则赌博是“公平的”。
从20世纪30年代起，莱维（Levy）等人就开始研究鞅序列，证明了一些鞅的性质，把它作为独立随机变量序列的部分和的推广。
现代概率论基础课程设计
现代概率论基础课程设计一、课程简介现代概率论是数学的一个分支，研究随机现象的规律性。
本课程旨在介绍概率论的基本概念、理论和方法，包括概率空间、随机变量、分布函数、概率密度函数、期望、方差、协方差等内容。
通过本课程的学习，学生将掌握概率论的基本知识和方法，为深入学习相关领域的理论和应用打下基础。
二、课程目标1.掌握概率论的基本概念和理论。
2.理解概率空间、随机变量、分布函数、概率密度函数、期望、方差、协方差等概念及其应用。
3.学会运用概率论的方法解决一些实际问题。
4.培养学生的数学思维和实际应用能力。
三、教学内容本课程将分为以下几个部分：1.概率空间1.概率空间的定义和性质。
2.事件的定义和性质。
3.概率的定义和性质。
4.概率的基本运算规则。
2.随机变量1.随机变量的定义和性质。
2.离散型随机变量和连续型随机变量。
3.期望、方差和协方差的定义和性质。
3.概率分布1.离散型随机变量的分布律和分布函数。
2.连续型随机变量的概率密度函数和分布函数。
3.常见的离散型和连续型分布。
4.多维随机变量1.二维随机变量的概率分布及其性质。
2.随机变量的独立性和相关性。
3.二维连续型随机变量的密度函数。
5.中心极限定理和大数定律1.各种随机变量的中心极限定理。
2.大数定理的证明和应用。
四、教学方法本课程采取如下教学方法：1.以理论为基础，强调实际应用。
2.讲解课件+白板讲解+实例分析。
3.求助网络，观看一些经典的案例分析视频，分析相关领域的实际问题。
五、考核方式1.平时成绩：课堂表现、作业、实验等评定。
2.考试成绩：期中考试和期末考试。
六、参考书目1.《概率论与数理统计》（第三版），陈希孺著，高等教育出版社。
2.《现代概率论与数理统计》（第二版），方际明、陶晓峰著，高等教育出版社。
3. 《概率与统计》（第二版），蒋友兵著，机械工业出版社。
七、总结本课程的目的是让学生掌握概率论的基本概念和方法，培养学生的数学思维和实际应用能力，为学生深入学习相关领域的理论和应用打下坚实的基础。
高等概率论——精选推荐
-------------------- 高等概率论--------------------课程编号：121020402006 课程类别：学科基础课课程名称：高等概率论英文译名：Probability Theory学时：60学时学分：3学分开课学期：1 开课形式：讲授考核形式：闭卷考试适用学科：概率与数理统计授课单位及教师梯队：数学与统计学院，概率统计系教师。
内容简介：本课程以测度论为工具，系统地讲述概率论的基本概念，同时还将介绍概率论的主要结果，从而为深入学习现代概率论、随机过程和数理统计提供必要的基础。
本课程主要内容包括 (1)可测空间：σ-域、半σ-域、尾σ-域、单调类定理、可测变换、可测函数的单调类定理等； (2)测度与测度的扩张：符号测度、诱导测度、乘积测度、测度的扩张、测度空间的完备化、一致可积性、几乎必然收敛与平均收敛、Fubini定理、Radon-Nikodym定理、一些重要的不等式（比如：Jensen,Holder,Schwarz不等式）等； (3)独立随机变量序列：Kolmo- gorov 0-1律，三级数定理，强、弱大数定律、Wald等式，更新定理，特征函数，Cramer－Levy 定理等；(4)条件期望与鞅：鞅的定义、基本性质以及应用，关于鞅的中心极限定理，鞅的上穿不等式与收敛性，Marcinkiewicz－Zygmund不等式，鞅的凸函数不等式，鞅的随机不等式等。
主要教材：Chow, Y.S., Teicher, H., Probability Theory , Springer-V erlag, New Y ork Inc, 1978.参考书目（文献）：1．汪嘉冈：《现代概率论基础》，复旦大学出版社。
2．Ash R.B., Real Analysis and Probability, Academic Press, Inc. 1972.3．严士健、王隽骧、刘秀芳：《概率论基础》，科学出版社，1999年版。
《现代概率论》讲义稿_第二章 测度与积分_
第二章 测度与积分（Measures and Integration）一、测度与测度空间1．测度定义①．()Ω,F 为一可测空间,μ为定义于F 取值于_+R =[0,+]∞的函数（非负集函数）,常用μυλ，，等表示②．A ,1,,n n m n A A m n φ∈≥=≠∩F ⇒11()()n n n n A A μμ∞∞===∑∑μ具有可列可加性（σ可加性）③．φ∈F ,且()0μφ=则称μ为Ω上的（或()Ω,F 上的）测度.测度μ是非负、σ可加性、()0μφ=的集合函数.④．If A ∀∈F ,有()A μ<∞,then 称μ在F 上有限测度.特别地,if Ω∈F ,且()1μΩ=,then 称μ为概率测度. If A ∀∈F ,n A ∃∈F ,1..nn s t A A∞=⊂∪且()n A μ<∞,则称μ为σ有限测度.注：1nn A∞=∪不一定∈F例：1R 中的Lebesgue 测度是σ有限的,即1L R =∞() A [,1]()1n n n n L A =+⇒=,()[,]n L A a b b a ==−注：Lebesgue 测度是线段长度概念的延伸（更一般地,是欧式空间中面积或体积概念的延伸）,本节引入的测度是Lebesgue 测度的抽象化.2．测度空间设μ为可测空间()Ω,F 上的测度,称三元体()μΩ,,F 为测度空间. 若()μΩ<∞,称μ为有限测度,并称()μΩ,,F 为有限测度空间. 若()1μΩ=,则称μ为概率测度,并称()μΩ,,F 为概率测度空间若存在,1n A n ∈≥F ,使得1nn A∞==Ω∪,且使()n A μ<∞对一切1n ≥成立（n A 为Ω的一个划分）,则称μ为σ有限测度,并称()μΩ,,F 为σ有限测度空间.3．完备测度空间设()μΩ,,F 为一测度空间,若,()0A A μ∈=且F ,称A 为μ零测集.如果任何μ零测集的子集均属于F ,称F 关于μ是完备的,称()μΩ,,F 为完备测度空间.P37汪（定义 2.1.5）设μ为σ代数F 上的测度,{:,()0}A A A μ=∈=L F ,又令{():,}N A N A =∈Ω∈⊂存在使N P G ,则把N 中元素称为μ可略集.若⊂N F ,则称μ在F 上完备的.例：①．在()ΩP 上规定μ：#(){}A A μ=（A 的元素个数） 计数测度当A 为无限集时,()A μ=+∞； 当Ω为有限集时,μ为有限的； 当Ω为可列集时,μ为σ有限的.②．若数{():}cA A or A =∈Ω为有限集（或空集）A P ,01A A A υ⎧=⎨⎩为有限集（）为无限集则易验证：υ在A 上是有限可加的.但是Ω为无限集时,υ不是可列可加的.4．性质（测度的）半环F 上的测度μ的性质（抽样空间Ω）注：半环①．A B AB ∈⇒∈、F F ②．φ∈F ③．\fA B A B C ∈⇒∈∑、F半环上的测度具有：①．有限可加性 ②．可减性 ③．单调性 ④．下连续性 ⑤．上连续性 ⑥．半σ可加性① 有限可加性如果对一切2n ≥,,1,2,,i A i n ∈= F ,,i j A A i j φ=≠,且1ni i A =∈∑F ,则11()()n ni i i i A A μμ===∑∑证明：显然,1nii A =∑=1ii A ∞=∑,where 12n n AA φ++===11ni i i i A A ∞==∈⇒∈∑∑∵FF由于μ的σ可加性1111()()()()n ni i iii i i i A A A A σμμμμ∞∞===========∑∑∑∑可加性（因()()0n i A μμφ+==）② 可减性If ,\A B A B B A ⊂∈、、F and ()A μ<∞（有限测度）,then (\)()()B A B A μμμ=−证明：∵ A 与\B A 不交,且\B A B A =+（有限不交并） ∴()()(\)B A B A μμμ=+ ←利用可加性⇒ (\)()()B A B A μμμ=−③ 单调性If ,A B A B ⊂∈、F , then ()()B A μμ≥④ 下连续性If ,n n A A A ↑∈F ,then ()lim ()n n A A μμ→∞=证明：n ∀,由半环性质,,,1,2,,n k n C k k ∃∈= F ,11..\nk n n nk k s t A A C −==∑（约定0A φ≠）11111lim (\)nk n n n n nk n n n k n A A A A A C ∞∞∞−→∞========∑∑∑∪其中nk C 对不同的n 与k 都不交.∴ 1111()()()n nk k nk nk n k n k A C C μμμ∞∞======∑∑∑∑11lim ()n k N nk N n k C μ→∞===∑∑11lim ()lim ()nk N nk N N N n k C A μμ→∞→∞====∑∑⑤ 上连续性If n A ∈F ,n ∀,..s t n A A ↓∈F and 1()A μ<∞ ,then ()lim ()n n A A μμ→∞= 证明：由半环的定义,n ∀,∃两两不相交的,,1,2,,n k n C k k ∈= F ,11..\nk n n nkk s t A A C+==∑则1223\,\,A A A A 两两不相交,⇒,nk A C 对n ∀与k 两两不相交.∴ 1(\)n i i i nA A A A ∞+==+∑1ik ik i n k C A ∞===+∑∑由σ可加性有11()()()ik n iki k A CA μμμ∞===+∑∑ 对n ∀均成立当1n =时111()()()ik ik i k A C A μμμ∞==∞>=+∑∑ 因()0A μ≥⇒ 111()()i k ik i k A C μμ∞==≥∑∑, 所以1()0ik n ik i n k C μ∞→∞==→∑∑即对11()()()ik n iki k A CA μμμ∞===+∑∑取极限得lim ()()n n A A μμ→∞=注：在φ上的上连续性,即()()0A A φμμφ=⇒==⑥ 半σ可加性或次σ可加性If n A ∈F ,1n n A ∞=∈∪F ,Then ∑∞=∞=≤11)()(n n n n A A μμ∪证：化并为不交并令11A B =,22121\cB A A A A ==， ，111111()(\)n n c c c n n n n kn k k k B A A A A A A A −−−===== ∩∩则n B 对n ∀均不交,即i j B B φ=,j i ≠,,nkl n k c ∀∃∈F ,1,2,,nk l l = ,两两不交,t s . 1\nkl n k nkl l A A C ==∑n 1111()k n j l j n n nkl n l j k B C D −=====∑∑∩ 注： 111.2.3.,j n n n nk k n B j l D j −=⎧⎪⎪=⎨⎪⎪∈⎩∏不一定在上对不交F F111\()n j j n n k n j k A A D −===∑∪ （ 11111(\)()nkl n n n k nkl l k k A A C −−====∑∩∩ ） ⇒111\(\)n nn j jj j j j c n n n n n n j j j A D A D A D =====∑∩∩ （**）,1,2,,;i n n E i i ∃∈= F 两两不相交,..s t 1\n jj i i n n n i A D E ==∑ （*）∴ 111n n ni j j i j n n n i j j A E D ====+∑∑∩ （该式是将（*）代入与（*）所得）（上式取测度并放缩）所以 1()()njj n n j A Dμμ=≥∑又前并化不交并有 1111njj n nn n n j n A B D∞∞∞======∑∑∑∪取测度11111()()()()njj n n n n n n j n n A B D A μμμμ∞∞∞∞=======≤∑∑∑∑∪ 即证汪P35-36例 ① 在},2,1{ =N 上,μ为计数测度,};{n k k A n ≥=,则φ↓n A ,但+∞=)(n A μ ② 在},2,1{ =N 上,μ为计数测度,},2{},1{212==−n n A A 则}2,1{lim =∞→n n A , lim n n A φ→∞=(lim )01lim ()lim ()2(lim )n n n n n n n n A A A A μμμμ→∞→∞→∞→∞=<==<=定理：设μ是半环D 上的非负集函数,0)(=φμ,则μ是可列可加的 ⇔ μ有限可加且半可列可加. (证见北大笔记) 注：可列可加 11()()nnn n A A μμ∞∞===∑∑ 有限可加 11()()n niii i A A μμ===∑∑半σ可加 ∑∞=∞=≤11)()(n nn nA A μμ∪定义 三元体(,,)μΩF 称为测度空间,where F 是Ω上的σ−代数,μ是F 上的测度. ()μΩ<∞ ⇒ 有限测度空间 ()1μΩ= ⇒ 概率测度空间,可记为(,,)p ΩF If A ∈F ,且()0A μ=称A 为μ的零测集If F 中的任何μ零测集的子集都是属于F , 测度空间(,,)μΩF 称为完备的.二、外测度与测度的扩张1 ．外测度由Ω的最大σ−代数[0,]R →=+∞F 的函数μ称为Ω上的外测度.如果满足 （1）()0μφ= 非负集函数（2）If A B ⊂ then ()()A B μμ≤ 单调性（3）11()()nnn n A A μμ∞∞==≤∑∪ 半可列可加性/次σ−可加性/半σ−可加性（严加安） 令()ΩA 表示Ω的所有子集（包括空集）所构成的集类,设μ为()ΩA 上的一非负集函数（约定()0μφ=）,如果μ有单调性并满足如下的次σ−可加性：,1n A n ⊂Ω≥ ⇒ 11()()n n n n A A μμ∞∞==≤∑∪则称μ为Ω上的一外测度. 定理 设μ为Ω的一外测度,令{,}cA D D A D A D μμμ=⊂Ω∀⊂Ω∩∩有()=()+()U 则U 为Ω上的一σ代数,且μ限于U 为一测度,称U 中的元素为μ可测集. 上述定理为测度扩张的基础定理.定理：设C 为Ω上的一集类,且φ∈C . 又设μ为C 上的一半σ−可加非负集函数,()0μφ=. 令*11()inf{();,1}n n n n n A A A n A A μμ∞∞===∈≥⊂∑∪且C A ∀∈Ω∈F则*μ是Ω的外测度, 称为由μ生成(引出)的外测度. μ限于C 与μ一致；当A ∈C 时,*()()A A μμ= . 证明：（1）显然*()0μφ= （2）显然,单调性 （3）如果0*0...()n n s t A μ∃=∞ 有**11()()n n n n A A μμ∞∞==≤∑∪ 成立在*.()n n A μ∀<∞条件下证明0,,1k n n A B k ε∀>∀∃∈≥C 使1kn n k BA ∞=⊃∪ 且*1()()2kn n nn B A εμμ∞=≤+∑111kn n n k n BA ∞∞∞===⊃∪∪∪取外测度*μ***11111()()(())()2kn n n n nn k n n n A B A A εμμμμε∞∞∞∞∞=====≤≤+=+∑∑∑∑∪ 所有,当A ∈C 时,*()()A A μμ=.2.半环上测度的扩张（1）定义扩张 （2）扩张的唯一性、存在性等 （3）完全化（一种扩张） 定义：μ、*μ分别是C （σ代数）、C （半环）上的测度,且⊂C CIf A ∀∈C ,都有*()()A A μμ= Then 称*μ是μ由→C C 上的一个扩张如果*μ′是μ在→C C 另一个扩张,A ∀∈C 都有**()()A A μμ′=称扩张是唯一的 唯一性：设D 是一个π类（系）, μ,()υσ∈D 上的测度 (1) ()()A A μυ= A ∈D（2）n A ∃∈D ,1n ≥,不交 ,1nn A∞==Ω∑,()n A μ<∞,1,2......n =则()()A A μυ= ()A σ∀∈D证明：B ∀∈D ,如()B μ<∞, 令()(){}():A A B A B σμυ=∈=∩∩G D 易证G 是一个λ系（（1）∈ΩG （2）,A B ∈G 则B ∈G （3）↑封闭） 且⊃G D ⇒ ()σ⊃G D∀()A σ∈D ,()()A B A B μυ=∩∩将B 用n A 代替：()()n n A A A A μυ=∩∩ （n ∀均成立）1111()()()()()()()n n n i n n n i A A A A A A A A A A A μμμμυυυ∞∞∞∞=====Ω=====∑∑∑∑∩∩∩∩∩扩张定理：设μ为半环D 上的测度 （1）则μ可以扩张成为()σD 上的测度*μ∃()σD 上测度*μ,使A ∀∈D 上有*()()A A μμ=（2）如上述（2）对D 成立,则这一扩张是唯一的,且*μ在()σD 上也是σ有限的见严加安Ｐ19 或北大笔记 证明略完全化（完备化）：设*μ在D 上生成的外测度,则（1）A τ∀∈F ,B ∃∈()σD ,B A ⊃ s.t. **()()B A μμ=(2)如有上述（2）式成立,则A τ∀∈F ,B ∃∈()σD ,B A ⊃,s.t. ()0B A τ= 证明略（见北大笔记）三、Lebesgue-stielties 测度分布函数(CDF: Cumulative Distribution Function)()()F x P X x =≤ 一维121122(,,,)(,,,)n n n F x x x P X x X x X x =≤≤≤ n 维 命题A ：若()F X 为实值有限随机变量X 的分布函数,则（1）()F X 是单调不减的Proof: If 12X X <,Then 2112()()()0F X F X X x X −=Ρ<≤≥ (2) ()F X 是右连续的Proof:1111lim ()lim ()({[,]}){[,]}x x n F X X x X x X x n n n∞→∞→∞=+=Ρ≤+=Ρ∈−∞+=Ρ∈−∞∩()F x = 注：（1）（2）可概括为单调不减右连续. （3）lim ()0x F x →−∞= lim ()1x F x →+∞=Ｐroof:{}1lim ()lim [,]({[,]}{}0x x n F x x n x n x φ∞→∞→∞==Ρ∈−∞−=Ρ∈−∞−=Ρ∈=∩1lim ()lim {[,]}({[,]}){[,]}1x x n F x x n x n x ∞→+∞→∞==Ρ∈−∞=Ρ∈−∞=Ρ∈−∞+∞=∪记号：设12(,,...,)n a a a a =与12(,,...,)n b b b b =为nR 中的两个点.若(1,2,...)i n ∀= 均有i i a b ≤（i i a b <）,则记为a b ≤（a b <） 设a b ≤,令{(,]|,,}na b a b a b R =≤∈C 1((,])()niii a b b a μ==−Π引理：C 为nR 上的半环,且μ为C 上的σ可加非负集函数. 严加安 P23 一维情形定理：()F x 为R 上单调不减右连续的有界函数,则在(,)R B 必存在唯一的有限测度μ, 使([,])()()a b F a F b μ=− a b −∞≤<<+∞ 证明：见汪Ｐ48定义：若F 为R 上有限右连续不减函数的有界函数,则由F 在(,)R B 上按上式生成的σ有限完备测度μ称为由F 生成的Lebesgue-stielties 测度,简称L S −测度.特别：当()F t t =(or ()F t t c =+),由此产生的完备化测度称为Lebesgue 测度.由B按Lebesgue 测度扩张成的完备σ代数B 中的集合都称为Lebesgue 测度集. （见汪Ｐ49）定理：()F x 为满足命题A 的函数,则必存在概率测度空间(,,)p ΩF 及其上的随机变量 s.t.()()X x F x Ρ≤=n 维情形令()n R B 为nR 上的Borel σ代数.易知,()()n R σ=C B ,于是由测度扩张定理得： 定理：μ可以唯一地扩张成为()nR B 上的σ有限测度（称之为Lebesgue 测度） 令()n R B 为()n R B 的μ完备化,称()n R B 中元为Lebesgue 测度集,而()nR B 中的元称为Borel 可测集.定义：设F 为n R 上的一右连续实值函数,对,na b R ∈,a b ≤,令 111()(1)(1),,,,...nnn nn n b a F F b a ba b a −−Δ=ΔΔΔWhere()111111,()(,,,,,,)(,,,,,,)iii i i i n i i i n G x G x xb x x G x x a x x b a −+−+=−Δ如果对一切a b ≤,有,0a b F Δ≥,称F 为增函数.设μ为()nR B 上一σ有限测度,称μ为Lebesgue-stielties 测度（简称L S −测度）,如C ∀∈C ,有()C μ<∞,即μ在C 上有限.定理：设F 为n R 上的一右连续增函数,令 ()0F μφ=,,((,])F a b a b F μ=Δ,a b ≤,,n a b R ∈则Fμ可以唯一地扩张成为nR 上的Lebesgue-stielties 测度.反之,设μ为nR上的一L S −测度,则存在nR 上的一右连续增函数F （不唯一）.故见μ为Fμ从C 到()nR B 上的唯一扩张四、积分-期望 关于概率测度的积分1定义与性质定义1:若1()()ini A i X X Iωω==∑（∈E ：Ω上F 可测的非负简单函数全体）为阶梯随机变量,称1()niii X P A =∑()iA ∈F 为X 的期望或X 关于P 的积分.记为 []E X ,EX ,()X ω∫,Xdp ∫,X ∫概率测度空间(,,)P ΩF 注：当()()i j i A j B X X I y I ωω==∑∑{}{}()j i A B A EI P A ====⇒为的组合()()iijjijEX X P A y P B ==∑∑命题1 若E 表示(,)ΩF 上阶梯变量的全体,则（1）EX 是唯一满足)(A P EI A =的E 是上的正线性泛函;（2）[]E ⋅在E 上是单调的,且若{},1n X n ≥⊂E ,()n X ↑↓ X ∈E ,则()n EX ↑↓EX ;（3）若()E ⋅为E 上正线性泛函,1)1(=E 且当E 中序列0n X ↓时,0n EX ↓,则由A EI A Q =)(可规定(,)ΩF 上的概率测度.Proof ：(1) 由上述注释可得.(2) ()E ⋅非负、线性⇒()E ⋅单调设0n X ↓,记k 为1X 的上确界,则()000()n n X n n X kI EX kP X εεεεεε>≤↓≤+↓≤≤>+↓()0n n X EX εφ>↓⇒↓当∞→n 时,有(,0)()0n n n n n X X X X X X E X X EX EX ↓∈⇒−∈−↓⇒−↓⇒↓E E ()()n n n n X X X X E X E X EX EX ↑∈⇒−↓−∈⇒−↓−⇒↑E E(3) 验证()Q ⋅是概论测度,即()1Q ⋅=.命题2 If {},1n I X n ≥↑,{},1n Y n +≥↑∈E （非负阶梯随机变量全体）,且lim lim n n nnX Y ≤,then lim lim n n nnEX EY ≤特别：lim lim lim lim n n n n nnnnX Y EX EY =⇒=Proof: Fixed m ,则m n X Y +∧∈E min(,)m n X Y ,{,1}m n X Y n ∧≥↑and lim()m n m nX Y X +∧=∈E ()n Y ≤,即lim [][]lim lim m m n m n n nnnE X X E X EY EX ↑∞∧=≤===命题3 记{}lim :n n nX X X ++==↑∈G E 单调递增序列的全体对X +∈G ,若lim n nX X =↑,n X +∈E ,令lim n nEX EX =（*）则（1）+G 为(,)ΩF 上非负随机变量全体； （2）由（*）式规定的[]E ⋅是完全确定的； （3）0EX ≤≤∞（X +∈G ）；（4）在+G 中若12X X ≤,则12EX EX ≤⇐单调性 （5）若X +∈G ,0≥c ,则cX +∈G 且[][]E cX cE X =；（6）If 12,X X +∈G ,then 12X X +,12X X ∨1212,X X X X +∨∧∈G ,且12121212[][][][][]E X X E X E X E X X E X X +=+=∨+∧（7）{,1}n X n +≥↑⊂G ,则lim n nX X +=∈G ,且lim lim n n nnE X EX ↑=↑(极限的期望等于期望的极限) 证明：见汪P52-53定义 2 广义实值随机变量X ,若EX +<∞,EX −<∞,则称X 为可积的,且以EX EX EX +−=−表示X 关于P 的积分,也称为期望或关系期望,记为Xdp ∫.若EX +,EX −中至少有一个取有限值,则称X 为非可积的. 用EX EX EX +−=−表示X 关于P 的积分或期望.有界或阶梯随机变量都是可积的,非负随机变量必须是非可积的. If (0)0P X ≠= then X 可积分且0EX = (退化分布)命题4 若()E ⋅表示概率空间上的非可积随机变量的期望,则 （1）EX R ∈,EX R ∈⇔X +,X −可积且()0P X =±∞=（2）If 0((0)0)X P X ≥<=,then 0EX ≥且0EX =⇔(0)1P X ==（3）R c ∈∀,()E cX cEX =,If X Y +有确定的含义,且X −,Y −（X +,Y +）可积,then()E X Y EX EY +=+⇐===成立X ,Y 至少有一个可积（特别地）（4）If X Y ≤,且EX ,EY 存在,then EX EY ≤ Markov 不等式：X 为非负随机变量 ①11()()[]X a aa P X a E XI EX ≥≥≤≤ 0≥∀a ②1()pPa P X a E X ≥≤ 0>a ,0>p③1()()[()]f a P X a E f X ≥≤ f 为],0[+∞上非负不减函数证明：（1）期望定义：EX EX EX EX R +−=−⇒∈的充要条件,且因()1()()()X n X P X P X n E I EX n n+≥=+∞≤≥≤≤ n →∞====⇒当EX +<∞时()0P X ⇒=+∞=（2）If 0X ≥时0EX ≥,若当0X ≥时,0EX =则11()()1111([]0()0011(0){()}()0n n X X nn n P X E XI nEXI nEX P X n n X P X P X P X n n ≥≥⎫≥≤=≤=⇒≥=⎪⎪≥⎬⎪>=≥≤≥=⎪⎭∑∪由0(0)1E P X =⇒== （3）定义：()()iiX X P A E cX cEX =⇒=∑证：()E X Y EX EY +=+ 先证21X X X =−有意义且至少有一非负变量,至少有一可积,则21EX EX EX =−212121X X X X X X X X X EX EX EX EX +−−+−+−==−⇒+=+⇒+=+⇓21EX EX EX EX EX +−−=−= 一般：()()X Y X Y X Y ++−−+=+−+ ⇓X Y −−+可积()()()E X Y E X Y E X Y EX EY EX EY EX EY ++−−++−−+=+−+=+−−=+（4）定义推出2．极限定理Levy 引理(单调收敛定理)Levy lemma(Monotone convergence theorem)积分形式 测度形式（1）If n X X ↑,且0n ∃,0n X −可积, then lim n nEX EX ↑=⇔()()n X X μμ↑； （2）If n X X ↓,且0n ∃,0n X +可积, then lim n nEX EX ↓=⇔()()n X X μμ↓．where 0max(,0)n n n X X X −=∨= ()0max(,0)n n n X X X +=−∨=− n n n X X X +−=−证明：（1）令01n n n Y X X −=+nX X↑⎯⎯⎯→0{,}n Y n n ≥非负递增,且00lim lim()n n n n n nY X X X X −−=+=+, 由于命题前（7）(极限的期望等于期望的极限),即000[lim ]lim lim []lim []n n n n n n n nnnnE Y EY E X X E X X X X −−−==+=+=+,又由01n n n Y X X −=+两边取期望求极限利用上式得000[lim ]lim n n n n n nnE X EY EX EX EX EX EX −−−=−=+−= （1）即证（2）令0n n n Y X X +=−+,0n n ≥,类似于（1）可证．Fatou 引理：随机变量序列{,1}n X n ≥,,Y Z 为可积随机变量． （1）若0,n X Z n n ≥≥,则[lim ]lim n n nnE X EX ≤ ⇔[liminf ]liminf ()n n n nX X μμ≤ ⇔lim lim n n n nX d X d μμ≤∫∫（2）若0,n X Y n n ≤≥,则[lim ]lim n n nnE X EX ≥⇔[limsup ]limsup ()n n nnX X μμ≤ ⇔lim lim n n nnX d X d μμ≤∫∫证明：（1）取inf n k n k nY X X ≥=≤,则0{,}n Y n n ≥为递增序列,0n Y Z ≥,Z 为可积的,由Levy Lemma[lim ][lim ]lim lim n n n n nnnnE X E Y EY EX ==≤．（2）对n X −应用（1）即得(2)．Lebesgue Dominated Convergence Theorem ：非负随机变量Y 可积,随机变量序列{},1n X n ≥,有n X Y ≤,且lim n n X X →∞=存在．则lim n n EX EX →∞=⇔lim n nX d Xd μμ=∫∫证明：若取Y Z − ．即{},1n X n ≥满足Fatou 引理条件[lim ]lim n n nnEX E X EX =≤ ≤ lim [lim ]n n nnEX E X EX ≤=（“≤”两边两次利用Fatou 引理）由于n X Y ≤,故X Y ≤,X 可积．由此lim n n EX EX →∞=．五、随机变量及其收敛性研究概率测度空间(,,)p ΩF 上..'r v s 及其收敛性,并推广到一般测度空间(,,)μΩF 上的可测函数及收敛性． 约定：测度空间(,,)μΩF ,如果某一性质在Ω上除了一零测度集外均成立,则称它几乎处处成立,简称..a e (almost everywhere)成立．概率空间(,,)p ΩF ,如果某一性质在Ω上除了一零测度集外均成立,则称它几乎必然成立,简称..a s (almost surely)成立． 定义：设1()n n f ≥,f 均为实值可测函数(1) If ∃ 零测集N ,..s t cN ω∀∈．有lim ()()n nf f ωω=．则称()n f 几乎处处收敛于f （..a e 收敛于f ）,记为lim n nf f = ..a e or ..a e n f f ⎯⎯→；(2) If 0ε∀>,存在N f ∈,()u N ε<,..s t ()n f 在cN 上一致收敛于f ．则称()n f 几乎一致收敛于f ,并记为lim n nf f = ..a un (almostuniform) or ..a un n f f ⎯⎯⎯→； (3) If 0ε∀>,lim ([||])0n n f f με→∞−>=,则称()n f 依测度收敛于f ,并记为n f f μ⎯⎯→．当μ是概率测度时,称()n f 依概率收敛于f ,记为in p n f f ⎯⎯⎯→（in probability ）定理：实值可测函数n f ,f（1）..a e n f f ⎯⎯→⇔1([||])0i n i nf f με∞∞==−≥=∩∪ 0ε∀>；当μ概率测度时，n f ,f 为..r v ，则1([||])0i n i nP f f ε∞∞==−≥=∩∪⇔1([||])1i n i nP f f ε∞∞==−<=∩∪ 0ε∀>即..a s n f f ⎯⎯→(2）..a un n f f ⎯⎯⎯→ ⇔ lim ([||])0in i nff με∞→∞=−≥=∪ 0ε∀>;(3) n f f μ⎯⎯→ ⇔ ()n f 的任何子列()n f ′,存在其子列()k n f ′,..s t ..k a un n f f ′⎯⎯⎯→()k →∞．定理：（1）..a un n f f ⎯⎯⎯→⇒..a e n f f ⎯⎯→, ..a un n f f ⎯⎯⎯→⇒n f f μ⎯⎯→； （2）μ是有限测度,..a e n f f ⎯⎯→⇔..a un n f f ⎯⎯⎯→； （3）n f f μ⎯⎯→,then 存在子列()k n f ,..s t ..k a e n f f ⎯⎯→．1. 随机变量的等价类定义1．设()D ω表示与ω有关的一个论断(命题)．若{:()}A D ωω=∈Ω不真为可略集（某论断不真的样本点的集合）,即()0P A =．则称()D ω几乎必然成立,或()D ω..a s 成立,或()D ω为真..a s ．若A 为μ可略集,则()0A μ=,则称()D ω为真..a e μ． 特别：..r v X 、Y , If ()0P X Y ≠=, then 记X Y =..a s ．记：~X Y ⇔X Y =..a s ⇒与X 等价的元素全体记为{:..}X X X X a s ′′==．等价类间的运算{:}{:,}{:,}{:,}{:,}c X cX X X X YX Y X X Y Y X Y X Y X X Y Y X Y X Y X X Y Y X Y X Y X X Y Y ⎫′′=⎪′′′′+=+⎪⎪′′′′=⎬⎪′′′′∨=∨⎪⎪′′′′∧=∧⎭∼∼∼∼∼∼∼∼∼⇒ （1） 同一等价类内的..r v 有相同的分布；（2） If ~X X ′,且同时可积；若可积,则EX EX ′=．例：If 2~(0,)X N σ, then 2~(0,)Y X N σ=−.即X 与X −有相同的分布, 但X 与X −不相等.故分布相同与随机变量相等是两个不同的概念.命题2.4.1(变量形式) 随机变量族{},i X i I ∈,则必有唯一（不计..a s 相等差别）..r v Y (可取±∞)满足(1) 对i I ∀∈,i X Y ≤ ..a s ；(2) If 'Y 也满足,..i i I X Y a s ′∀∈≤,Then '..Y Y a s ≤（满足上述两点的Y 是{}i X 的本性上确界(essentiality supremum),记为sup i i IY ess X ∈=）证明：I 为可列指标集,取sup i i IY X ∈=即可.记()arctan f x x =↑有界,令sup [(sup )]i J Ii JE f X δ⊂∈= J 为I 的可列子集 (2.4.1)由上确界定义,必有可列子集...n J I s t ⊂1[(sup )]ni i J E f X nδ∈>−记0n nJ J =∪,则0J 可列,且对每个n ,有1[(sup )]i i J E f X n δδ∈≥>−⇒ 0[(sup )]i i J E f X δ∈= 令0sup i i J Y X ∈=,则Y 为..r v ,且（1）必成立,否则0i X ∃,()00i P X Y >>, 这时()()00i P f X Y f Y ⎡⎤∨>>⎣⎦ ⇒ {}()()000[(sup )]i i i J i E f X E f Y X E f Y δ∈⎡⎤=∨>=⎡⎤⎣⎦⎣⎦∪ 该式(大于)与（2.1.4）（等于）矛盾,故（2）成立. 此外,若'Y 也满足'i X Y ≤ ..a s i I ∀∈则sup 'i i J Y X Y ∈=≤ ..a s故（2）成立, 唯一性是（2）的直接结论.定义2.4.2 若{},i X i I ∈为..r v 族,由命题2.4.1规定的Y 称为{},i X i I ∈的本性上确界,记为sup i i Iess X ∈ or sup i i Ie X ∈.同样,inf sup ()i i i Ii Ies X ess X Δ∈∈=−−称为{},i X i I ∈的本性下确界.P61（汪） 注：① 任一随机变量族有上(下)确界，也就是随机变量作为格是完备的(有上(下)确界); ② 若随机变量族{},i X i I ∈本身是一个格，当,i j I ∈时，{},i j i X X X i I ∨∈∈，则必存在一列{},n i n X i I ∈，使{}n i X 递增地收敛于sup i i Iess X ∈;③ 若{},i X i I ∈对可列个随机变量的上确界运算是封闭的，则sup i i Iess X ∈必属于{},i X i I ∈.（命题2.4.1的）集合形式：可测集族{},i A i I ∈,必存在唯一,..,..i A s t i A A a s ∈∀⊂F 且若B ∈F 也有对,..i i A B a s ∀⊂,则..A B a s ⊂例 []0,1Ω=,[]0,1=F B 为[]0,1上Borel 点集全体,P 取为[]0,1上的Lebesgue 测度,对[]0,1r ∈,令10r r X r ωω=⎧=⎨≠⎩则[]()0,1sup 1r r X ω∈≡,但 []()0,1sup 0r r ess X ω∈=定义2.4.3 ..'r v s {,1}n X n ≥ ,若limsup liminf n n nnX X = ..a s则不计等价类内的差别,其唯一确定的极限limsup n nX X =,也记为lim n nX X = or..a s n X X →,称{,1}n X n ≥为以概率1收敛于X or ..a s 收敛于X .命题2.4.2（1） ..'RVs ..a s n X X → ⇔ 1({})0n N n NP X X ε∞∞==−>=∩∪⇔ 1({})1n N n NP X X ε∞∞==−≤=∩∪ 0ε∀>（2） ..a s n X X → ⇔ 1,({})0n m N n m NP X X ε∞∞==−>=∩∪⇔ 1,({})1n m N n m NP X X ε∞∞==−≤=∩∪⇔ ,m n →∞时,..{,,1}0a s n m X X m n −≥⎯⎯→ Cauchyseries （3）If 正数列{}n ε满足1nn ε∞=<∞∑, {,1}n X n ≥满足11{}n n n n P XX ε∞+=−><∞∑ ⇒ ..a s n X X ⎯⎯→ ()X <∞then {,1}n X n ≥ a.s.收敛于有限随机变量X .证明：（1） ""⇒If 0{:lim ()}n nX X ωωω∈=<∞ ,Then 0ε∀>,0(,)N εω∃,n N >, ..s t 00()()n X X ωωε−≤即0lim ()n n A ωω→∞∉. 所以(){lim }(lim )Cn n n n X X A ε→∞→∞=<∞⊂ ⇒ (1) 结论成立""⇐ 0ε∀>, 对于1({})0n N n NP X X ε∞∞==−>=∩∪ 成立,则11(lim (0n nk P A k ∞=⎧⎫=⎨⎬⎩⎭∪ ( * )因而对011(lim (n n k A k ω→∞≥∉∪及00ε∀>,取01k ε<,由011(lim ())lim(())c cn n n n A A k k ω→∞→∞∈= 必存在()00,N εω, 当()00,n N εω>时,01((cn A kω∈,即()()0001n X X kωωε−≤<.由于0ε可为0∀>的数, 故()()00lim n n X Xωω→∞=,由（*）式,故..a s n X X ⎯⎯→. （2）由实数列收敛的Cauchy 准则,对给定的0ω,()lim n n X ω→∞<∞ ⇔ ()()00,lim 0n m m n X X ωω→∞−=而{,1}n X n ≥..a s 为Cauchy 基本列与（2）中式子等价,可类似（1）证明. （3）记{}1n n n n A X X ε+=−>,Then{}1k n n n k nk n P A P X X ε+≥≥⎛⎞≤−>⎜⎟⎝⎠∑∪ ⇒ ()lim lim 0n k n n k n P A P A →∞→∞≥⎛⎞==⎜⎟⎝⎠∪若()c1lim c nk n n k nA A ω∞∞→∞≥≥∈=∪∩,Then 必存在()0N ω,..s t 0c n k N A ω≥∈∩,即当()0k N ω≥时,有()()1n n n X X ωωε+−≤ ⇒()()1n nnX X ωω+−<∞∑因为当()clim nn A ω→∞∈时,()lim nnXω<∞,故{}..a s n X X ⎯⎯→<∞. 定义2.4.4 Pn X X ⎯⎯→ or lim n n pr X X →∞−=⇔ {}lim 0n n P X X ε→∞−>= 0ε∀>说明 in P 收敛极限不计可数集上的差别是唯一确定的. 如果lim n n pr X X →∞−=, lim n n pr X Y →∞−=,那么0ε∀>有{}022n n n P X Y P X X P X Y εεε→∞⎛⎞⎛⎞−>≤−>+−>⎯⎯⎯→⎜⎟⎜⎟⎝⎠⎝⎠⇒ {}0P X Y ε−>=又由于ε可为任一正数,故()1P X Y ==.引理 2.4.1 If {,1}n X n ≤.in P⎯⎯⎯→Cauchy 基本列,即n X ： ,lim {||}0n m m n P X X ε→∞−>= 0ε∀> ⇒ ..a s nk X X ⎯⎯→ （<∞）Then 必有 a.s. 收敛于有限随机变量的子序列{,1}nk X k ≥ Proof ：取11n =,而1j j n n −>,且当,j r s n >时(||2)3j j r s P X X −−−><此时1(||2)3j j j jn n jjP XX +−−−><<∞∑∑ 2.4.2=====⇒命题（3）{,1}nk X k ≤..a s ⎯⎯→X <∞命题2.4.3 {,1},n X n ≤为..'r v s then（1）If lim n n X X →∞= .a s ⇒ Pr lim n n X X →∞−=（2）Pr lim n n X X →∞−=⇔ {}n X 为in P 收敛下的Cauchy 基本列：(in Pn X X ⎯⎯⎯→⇔n X 为in P 收敛下的Cauchy series.)Proof ：（1）..1({||})0a s n n N n N X X P X X ε∞∞==⎫⎯⎯→⎪⎬−>=⎪⎭∩∪ ⇒ 0ε∀>,lim ({||})0n n k nP X X ε∞→∞≥−>=∪ ⇒ 0ε∀>,lim {||}0n n P X X ε→∞−>=. 即in Pn X X ⎯⎯⎯→.（2） “⇒”.in Pn X X ⎯⎯⎯→:{||}{||}{||}22n m n m P X X P X X P X X εεε−>≤−>+−>⇒n X 为依概率收敛下的Cauchy Series.“⇐”由引理2.4.1有.a s nk X X ⎯⎯→⇒in pn X X ⎯⎯⎯→{||}{||}{||}22n n nk nk P X X P X X P X X εεε−>≤−>+−>k n n →∞→∞==⇒in pn X X ⎯⎯⎯→ 即证.注：,,Ω（p）F 上随机变量X ,Y||(,)[1||X Y X Y E X Y ρΔ−=+− 等价于依Pr.收敛 ⇐ 距离空间是完备的例：设B 为[0,1]的Lebesgue 可测集全体.p λ=为[0,1]上的Lebesgue 测度.在可测空间λ([0,1],,)B 上取[/2,(1)/2]()1()k k n p p X ωω+= 2k n p =+ 021k p ≤≤−则对[0,1]ε∈有1|2n kP X ε(|>)= n →∞===⇒ 0n X ρ⎯⎯→2. 一致可积与平均收敛定义 2.4.5 Ω（,,p）F 上{,}i X i I ∈,若||lim sup ||0ii N i I X NX dp →∞∈>=∫,则称{,}i X i I ∈为一致可积的.若随机变量Y 可积,则||lim ||0N Y Y dp →∞=∫ （*）证明：取 ||||n Y n X Y I >= ⇒ ||lim ||0n Y n X Y I =∞→∞== ..a s又||n X Y ≤故由Lebesgue 控制收敛定理即（*）成立.命题2.4.4 Ω（,,p）F 上可积..r v 族{,}i X i I =∈H （1） If I 为有限集,then H 一致可积；（2） If ,||i i I X Y ∀∈≤,Y 可积,then H 一致可积； （3） If 1p ∃>,sup ||pi i IE X ∈<∞, then H 一致可积；证明：（1）（2）由（*）可证明. （3） 利用11||||11||||sup ||i i pi i i p p i IX NX N X dp X dp E X N N N −−∈>>≤≤⇒→∞∫∫即证. 命题 2.4.5 Ω（,,p）F 上可积..r v 族{,}i X i I =∈H 为一致可积的充要条件是 （1） 一致绝对连续： 0()limsup sup ||0i P A i I AX dp δδ→<∈=∫ （☆）（2） 积分一致有界： sup ||i i IE X ∈<∞证明：“⇒”(||N)(||N)||||||i i ii i AA X A X Xdp X dp X dp≤>≤+∫∫∫N →→∞===⇒令P(A)0（1）A =Ω==⇒（2）“⇐”由（☆）式,0ε∀>,()0δε∃>,当()()P A δε<时,有sup ||i i I AX dp ε∈<∫,即{,}i X i I =∈H 一致可积.而1(||)sup ||0N i i iP X N E X N →∞>≤⎯⎯⎯→所以 (||)()i P X N δε><.定义 2.4.6 Ω（,,p）F 上..'r v s {,1}n X n ≥,且..r v X 可积,使lim ||0n n E X X →∞−=则称{}n X （一阶）平均收敛或1L 收敛于X ,记为1L nX X ⎯⎯→.命题2.4.6 对可积..'r v s {,1}n X n ≤下列条件等价： （1）1LnX X ⎯⎯→；（2）{}n X 为1L 基本列,即,lim ||0n m m n E X X →∞−=；（3）{,1},n X n ≤为一致可积的且Pn X X ⎯⎯→.3. pL 空间定义：设Ω（,,p）F 概率测度空间,若常数p ,且0p <<∞,令||||pp X Ω∞L （,,p)={X:X为r.v.,<}F 记为p L 空间.设1,,pp X L ≤∈定义11||||(||)(||)p p p pp X E X X dp ==∫为X 在L p空间上的范数.sup{:(||)0}Xx P X x ∞=>> ⇒ (||)1P X X∞≤=,(||)0P X X∞>=(,)p p L ⋅构成完备的线性赋范空间—Banach 空间基本不等式：,a b R ∈,0r >,1p <,q <∞且111p q+=（p ,q 为共轭数）,则(1)1||max(1,2)(||||)r r r r a b a b −+≤+(2) ||||||p q a b ab p q ≤+ ⇔ 11||||||||pq a b a b p q≤+p L 中基本不等式：（1）1||max(1,2)[||||]p r p pX Y dp X dp Y dp −+≤+∫∫∫Holder 不等式 （2）||pqXY XY dp XY=≤⋅∫⇔||pq E XY XY ≤⋅（111p q+=,1p ≤,1q ≤ ） （3）Minkowski 不等式：ppp X YXY +≤+ ..r v ：X Y . (若实数,1p c ≥,则有 ||ppcXc X≤)Proof ：1||||||pp X Y dp X Y X Y dp −+=+⋅+∫∫11||||||||p p X X Y dp Y X Y dp −−≤⋅++⋅+∫∫式中11||||(||)p p p qX X Y dp XX Y −−⋅+≤+∫11[(||)]p qqp XX Y dp −=+∫1[||]pqp XX Y =+∫ 11[||][||]ppqqpp X X Y dp YX Y dp ≤⋅++⋅+∫∫ 1()[||]pqp p XY X Y dp =++∫其中 111p q +=⇒1pq p =− 所以有11[||]()pqpp X Y dp XY −+≤+∫即有不等式ppp X YXY +≤+（4）Jensen 不等式f 为上的凸函数,X 为取值(,)a b 的可积..r v ,则有[()]()E f X f EX ≥证明：0(,)X a b ∃∈,f 为凸函数.'000()()()()f x f x f x x x −≥+− (,)x a b ∈令0x EX = x X =,则上式变为'()()()()f X f EX f EX X EX −≥+−上式两边同时取期望得[()]()E f X f EX ≥证明(,)pp L ⋅完备线性赋范空间线性：① If pX L ∈,a R ∈ ⇒paX L ∈ ② ,pX Y L ∈⇒pX Y L +∈ 赋范：0pX≥且0pX=⇔0X = ..a e ⇔0f ≡ppaX a X= ppp X YXY +≤+定义（依范数收敛）：设Pn X L ∈, If lim||0p n n X X dp Ω→∞−=∫（ ⇔lim 0n pn X X→∞−=）Then 称{}n X 依范数收敛于X （p 方收敛）,记为PL n X X ⎯⎯→. 结论：PL n X X ⎯⎯→⇒pn X X ⎯⎯→系（Corollary ）：[]1,,p ∈∞..'r v s {,1}n X n ≥.若存在(,,)pY L p ∈ΩF ,n ∀,有||n X Y ≤,则当n →∞时,下列两式等价：（1） pn X X ⎯⎯→ （2） PL n X X ⎯⎯→ 命题2.4.11： 1p ≤≤+∞,pL 中元素列{}n X ,下列两事实等价（1）PL n X X ⎯⎯→ ； （2）{}n X 是基本列,即,lim 0n mpn m X X →∞−=；（3）{||,1}p n X n ≥一致可积,且pn X X ⎯⎯→. 命题1：(1) [1,]p ∈+∞,p L 为Banach 空间(,)pp L ⋅,且是一个完备集合. （2）若在2(,,)L P ΩF 中取(,)[]X Y E XY =则(,)X Y 是内积,2(,,)L P ΩF 是Hilbert 空间22(,)L ⋅,且也是一个完备格. 定义：(,,)P ΩF ,..r v ,X Y 0p >.||p E X ：X 的（分布的）p 阶绝对矩()VarX E X EX Δ=− X 的方差p EX （存在） X 的p 阶矩ΔX 的标准差协方差：(,)()()Cov X Y E X EX Y EY Δ=−− ()0E XY =称,X Y 为正交的相关系数：0(,)00VarX VarY X Y VarX VarY ρΔ⋅≠=⋅=⎩⇒ ,X Y 互不相关的(,)Cov X Y ≤若(,)1X Y ρ≤,由1(||)||ppP X a E X a≥≤,得Chebyshev 不等式 21(||)P X EX a VarX a−>≤ 0a >六、乘积可测空间上的测度1．两个乘积可测空间上的测度 (1) 乘积可测空间(,)i i ΩFi i Ω=ΩΠ=1乘积空间1{(,,):}n i i ωωωΩ=∈Ω ，11{1}nn i i i i i i A A i n σ====∈≤≤ΠΠ：，F F F ，1(,)(,)ni i i =Ω=ΩΠF Fi i A Ω⊂，1{(,,):}n i i A A ωωω=∈ ，可测矩形全体：i ni A A Π==1C 为Ω中可测的矩形全体 ()σ=F C(2) 截口Y X ,集合，E 是Y X ×的子集，分别称}),({E y x Y y E X ∈∈=：（或}),({E y x X x E Y ∈∈=：）为E 在X （或Y ）处的截口.记),(y x f 为Y X ×上的函数，),()(y x f y f x =),()(y x f x f y = (3) 引理引理 设11(,)ΩF 与22(,)ΩF 为可测空间（a）若21Ω×Ω∈E ，则1Ω∈∀x ，2Ω∈y ，有2x E ∈F ，1y E ∈F（b）若f 为21Ω×Ω上的12×F F 可测函数，则1Ω∈∀x ，2Ω∈y ，x f 为2Ω上的2F 可测函数，y f 为1Ω上的1F 可测函数.进一步引理 设11(,,)μΩF 与22(,,)νΩF 为两个σ有限测度空间若21Ω×Ω∈E ，则函数(映照)x x E μ⎯⎯→为1Ω上可测；y y E ν⎯⎯→为2Ω上可测.(4) 乘积测度设11(,,)μΩF 与22(,,)νΩF 为两个σ有限测度空间，则在12×F F 上存在唯一的测度νμ×，s.t，)()())((B A B A νμνμ=××， 1A ∈F ，2B ∈F ，从而νμ×亦为σ有限.此外对于12E ∀∈×F F 有12()()()()()()x yE E dx E dy μννμμνΩΩ×==∫∫则测度νμ×称为μ与ν的乘积. (5) 乘积测度的积分Theorem: σ有依测度空间11(,,)μΩF 与22(,,)νΩF ，f 为21Ω×Ω上的非负12×F F 可测函数，则函数2x x f dv Ω→∫与1y y f d μΩ→∫分别在1F 和2F 可测，且有∫∫∫∫∫ΩΩΩΩΩ×Ω==×122121)()()()()(dx dv f dy v d f v fd x y μμμFubini's Theorem: σ有依测度空间11(,,)μΩF 与22(,,)νΩF ，f 为21Ω×Ω上的12×F F 可测函数，若f 关于νμ×可积（积分存在），则：(a) 对..a e μ− x ，x f 为ν可积（关于ν积分存在），对..a e ν−y ，y f 为μ可积（关于μ积分存在）(b) 令⎪⎩⎪⎨⎧=∫Ωotherv f d f I x x x f 02)(可积（积分存在）为若ν⎪⎩⎪⎨⎧=∫Ωelsewheref d f I y y y f 01)(可积（积分存在）为若μμ则)(x I f 为μ可积（积分存在），)(y I f 为v 可积（积分存在），且有1212()()()()()f f fd v I x dx I y v dy μμΩ×ΩΩΩ×==∫∫∫另一种形式的Fubini's Theorem: If 0≥f or ||f d μ<∞∫，then∫∫∫∫∫ΩΩΩ×ΩΩΩ==212112)()(),()()(),(dy v dx y x f fdu dx dy v y x f μμFubini 定理有很多应用 2．乘积可测空间上的概率测度 （1）两维乘积空间上的概率测度设()()1122,,,ΩΩF F 为两个可测空间，[]12(,)120,1P A ωΩ×→F ，若函数12(,)P A ω满足：（a） 11ω∀∈Ω，1(,)P ω⋅是()22,ΩF 上的概率测度； (b) 222,(,)A P A ∀∈⋅F 是()11,ΩF 上的可测函数； 则称P 为()11,ΩF 到()22,ΩF 的转移概率. 注：函数12(,)P A ω满足：()()121,1,,0P P ωωφΩ==； ()12,0,P A A ω≥∀∈F ；2,,i i j A A A i j ϕ∈∩=≠F ，有1111(,)(,)i i i i P A P A ωω∞∞===∑∑.例：可测空间()11,ΩF 和()22,ΩF ，则（a）()⋅Q 是()22,ΩF 上的概率测度，则对()()22122,,A P Q A ω∈=F F 是一个转移概率;（b）可测映照()()1122:,,f Ω→ΩF F ，则()()()2121,A P A I f ωω=也是一个转移概率.(2) 定理定理2.5.1：可测空间()11,ΩF 和()22,ΩF ，1P 为()11,ΩF 上的概率测度，12P 为转移概率，则（a）在()1212,Ω×Ω×F F 上存在唯一概率测度P 满足 ()()()1121212111122,,,A P A A P A P d A A ωω×=∀∈∈∫F F。
现代概率论03：测度空间（1）
现代概率论03：测度空间（1）⽬录第三讲 测度空间(1)2.1 测度的定义及性质2.1.1 测度的公理化定义本节主要讨论测度的定义及性质，在此之前需要引⼊⼏个概念：⾮负集函数：给定空间 X 上的集合系 E ，将定义在 E 上，取值于 [0,∞] 上的函数称为⾮负集函数，常⽤希腊字母 µ,ν,τ,⋯ 来表⽰。
可列可加性：如果对任意可列个两两不交的集合 {A n ∈E,n ≥1} 满⾜ ∞⋃n =1A n ∈E ，均有µ∞⋃n =1An=∞∑n =1µ(An ),则称⾮负集函数 µ 具有可列可加性。
有限可加性：如果对任意有限个两两不交的集合 {A k ∈E,1≤k ≤n } 满⾜ n⋃k =1Ak∈E ，均有µn⋃k =1Ak=n∑k =1µ(Ak ),则称⾮负集函数 µ 具有有限可加性。
可减性：如果对 ∀A ,B ∈E ，满⾜ A ⊂B ，且有 B −A ∈E ，只要 µ(A )<∞ ，就有µ(B −A )=µ(B )−µ(A ),则称⾮负集函数 µ 具有可减性。
本节的核⼼是测度的公理化定义，具体如下：测度的公理化定义：指的是在抽象空间的集合上建⽴的测度。
设 E 是 X 上的集合系，且 ∅∈E 。
若 E 上的⾮负集函数 µ 满⾜：(1) µ(∅)=0 ；(2) 可列可加性，则称 µ 为 E 上的测度。
若 µ(A )<∞, ∀A ∈E ，则称测度 µ 为有限测度。
()()若 ∀A ∈E ，存在 {A n ∈E,n ≥1} ，使得 ∞⋃n =1An⊃A ，则称测度 µ 为 σ 有限测度。
命题 2.1.1：测度具有有限可加性和可减性。
命题 2.1.2：设 X ⊂R, E =Q R ，F 是 R 上⾮降右连续的实值函数。
概率论发展简史
概率论发展简史概率论有悠久的历史，它的起源与博弈问题有关。
16世纪意大利的一些学者开始研究掷骰子等赌博中的一些简单问题，例如比较掷二个骰子出现总点数为9或10的可能性大小。
17世纪中叶，法国数学家B.帕斯卡，P.de.费马及荷兰数学家惠更斯基于排列组合的方法研究了一些比较复杂的赌博问题，解决了“合理分配赌注问题”（即历史上有名的“得分问题”）“输光问题”等等，其方法不是直接计算赌徒赢局的概率，而是计算期望的赢值，从而导致了现今成为数学期望的概念（由惠更斯明确提出）。
概率论成为数学的一个分支的真正奠基人则是瑞士数学家雅各布第一·伯努利。
他建立了概率论中第一个极限定理，即伯努利大数定律，这个结果发表于他死后八年(1713)出版的遗著《推测术》。
1716年前后，A.棣莫弗用他导出的斯特林公式（即：）进一步证明了渐进地服从正态分布（德国数学家C.F.高斯于1809年研究测量误差理论时重新导出正态分布，故亦称为高斯分布），这里，后来法国数学家P.S.拉普拉斯将棣莫弗的这一结果推广到一般的的情形，后世称为棣莫弗—拉普拉斯极限定理，这是概率论中第二个基本极限定理的原始形式。
拉普拉斯对概率论的发展贡献很大，他在系统总结前人工作的基础上写出了《概率的分析理论》（1812年出版后又再版6次），在这一著作中，他首次明确规定了概率的古典定义，并在概率论中引入了更有力的分析工具，如差分方程、母函数，从而实现了概率论由单纯的组合计算到分析方法的过渡，将概率论推向一个新的发展阶段。
拉普拉斯非常重视概率论的实际应用，对人口统计学尤感兴趣。
继拉普拉斯之后，概率论的中心研究课题是推广和改进伯努利大数定律及棣莫弗—拉普拉斯极限定理，在这方面俄国数学家切比雪夫迈出了决定性的一步，1866年他用自己创立的切比雪夫不等式建立了有关独立随机变量序列的大数定律，次年又建立了有关各阶绝对矩一致有界的独立随机序列的中心极限定理。
1901年，A.M.李亚普诺夫利用特征函数方法，对一类相当广泛的独立随机变量序列，证明了中心极限定理，他利用这一定理第一次科学地解释了为什么实际中遇到的许多随机变量近似服从正态分布。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
四、Stopping Time and Wald's Equation 第四章 Conditional Expectation and Martingales Conditional Expectation and Martingales 成为随机过程与数理统计中不可缺 少的概念，是随机过程和数理统计研究中的重要工具. 其内容主要包括 一、广义测度 定理及应用 第五章 Central Limit Theorems 研究一类 R.V.的分布规律， 它由许多独立 R.V.的和组成， 组成这个和的每一 个 R.V.都非常地“小”. 更确切地说，研究由项数越来越多的独立 R.V.的和组成 的序列的极限分布律，即 CLT 问题. 其主要讨论 一、Characteristic Function 四、CLT 一般结果简介 二、问题的提出 三、CLT-具有有界方差情形 二、条件期望 三、鞅的定义与基本不等式 四、鞅的收敛
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
现代概率论（Modern Probability Theory）
教 材
汪嘉冈编著 现代概率论基础（第二版） 上海 复旦大学出版社 2006.6 Bing-Yi JING. Advanced Probability Theory. July,2012
参考书 [1] Richard Durrett Duxbury Press
i i∈I
第 5 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
3.性质
1) 交换 2) 结合 3) 分配
A ∪ B=B ∪ A A ∩ B=B ∩ A
( A ∪ B ) ∪ C=A ∪ ( B ∪ C ) ( A ∪ B ) ∩ C= ( A ∩ C ) ∪ ( B ∩ C ) ( A ∩ B ) ∪ C= ( A ∪ C ) ∩ ( B ∪ C ) ( A\B ) C= ( AC ) \ ( BC )
[3] 夏道行等.实变函数论与泛函分析(上) 2rd 高教出版社 2011
[4] 严加安著 测度论讲义（第二版） 北京 科学出版社 2008.8 [5] 严士健等著 概率论基础（第二版） 北京 科学出版社 2009.8 [6] 胡尧 《测度论》笔记（2004 年北大学习） 授课老师 李志阐教授 [7] 胡尧 《高等概率论》笔记（2004 年北大学习） 授课老师 刘勇教授
主讲内容 第一章 Measurable Space
本章可以说是没有概率的概率论， 主要介绍可测空间中不依赖于概率的各种 性质. 主要内容包括 一、集与集类 二、Monotone Class Theorem 三、可测空间与乘积可测空间
四、可测映射与 R.V. 第二章 Measures and Integration 在可测空间引进测度后介绍概率论的各种基本概念. 主要内容有 一、测度与测度空间 度 二、外测度与测度的扩张 三、Lebesgue-Stieltjes 测 六、乘积可
本讲义的符号标识
随机事件： A B C 或 随机变量： X 或 X i 不可能事件： φ
Ai Bi Ci 或 A 或 Ac
指标集： I 实数集： R
概率： P ( A)
P( Ai )
广义实数集： R
可测空间： (Ω, F ) 或 (Ωi , Fi )
概率测度空间： (Ω, F , P) 或 (Ωi , Fi , P i) 样本空间： Ω 样本点： ω 或
n →∞ n m≥n
(
)
下极限是下确界的上确界
第 4 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
若 An 为随机事件：下极限发生当且仅当从某个事件之后的所有事件发生 注： lim X n < ∞ or ∃ ⇔ lim X n < ∞ or ∃ and lim X n < ∞ or ∃ and lim X n = lim X n
贵州大学 胡尧
的讨论. 独立性是概率论中最早引入的概念之一. 独立随机变量序列的性质是讨 论最早、结果最多的一个方面. 虽然以后的讨论并不局限于独立随机变量序列， 但对一般随机变量序列的讨论， 从方法到结果都可以从独立随机变量序列的讨论 中得到不少启发和借鉴. 本章主要包括 一、Independence and 0-1 Law 二、独立项级数 三、Laws of Large Numbers
下确界 infimum
设 E 是非空数集，若 ∃α ∈ R ，且 1） ∀x ∈ E ，有 α ≤ x ； 2） ∀ε > 0 ， ∃x0 ∈ E ，有 x0 < α + ε ； 则称 α 是 E 的下确界. 记为 α = inf E 注：① α 是 E 的下界; ② 大于 α 的任意数 α + ε 都不是 E 的下界,即下确界 α 是数集 E 最大的下界.
第 3 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
《概率论》 《测度论》与《现代概率论》 单调 R.V.序列 { X n , n ≥ 1}
① ② If X 1 < X 2 < If X 1 > X 2 >
< Xn < > Xn >
< ∞ then lim X n = sup{ X n }
n →∞ j =1 k = j
∞
∞
= {ω | ω属于无穷多个X n } = {ω | ∀j ∈ N , ∃k ≥ j , s.t. ω ∈ X k }
⎞ = lim sup X n = inf ⎛ ⎜ sup X m ⎟ n n →∞ ⎝ m≥ n ⎠
上极限是上确界的下确界
= { An i.o.} 若 An 随机事件：上极限发生当且仅当有无穷多个事件发生
A\B (差) 特别 Ω \B=Bc =B (余集 complement)
A ∩ A c =φ
A+A c =Ω
A-B=ABc
AΔB= ( A\B ) ∪ ( B\A )
Symmetric difference
约定：if 指标集 I= {i} =φ 即空集,then
∩ A =φ
i i∈I
and
∪ A =φ
ωi 事件域： σ − 代数
测度： μ
ν p f
M N O P
集类或集合类： P (Ω) A
B C D E F G H I
J
K L
Q R S T U V W X Y
Z
第 2 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
附：上确界与下确界（Supremum and Infimum）不同情形的定义
空间： Ω 元素： ω 集合: A,B,C,
具体， Ω = {ωi，i=1，， 2 ...} ， A=
2 , j } , B= {ω ，h=1，， 2 ,h } {ω ，j=1，，
j n
h n
1. 关系
1） contain or imply A ⊂ B ( B ⊃ A ) ⇔ if ∀ω ∈ A then 是的元素.注： ∅ ⊂ A ⊂ Ω . 2） equality A = B ⇔ A ⊂ B and B ⊂ A .
n →∞ n
> −∞ then lim X n = inf{ X n }
n →∞ n
若为单调类 { X n , n ≥ 1} 为集合
①If X 1 ⊂ X 2 ⊂
⊂ Xn ⊂ ⊃ Xn ⊃
then lim X n =
n →∞
∪X
n =1 ∞
∞
n
= sup{ X n } 包含所有 X n 的最小集合
n
i.o. ：infinitely often
下极限
lim X n = ∪∩ X k = {ω | ω ∉ X n , 只对有限个n成立}
n →∞ j =1 k = j
∞
∞
= {ω | ω至多不属于有限多个X n } = {ω | ∃j0 ∈ N , ∀k ≥ j0 , s.t. ω ∈ X k }
= lim inf X n = sup inf X m
⇒
4. 集序列与极限
集序列 {A n，n ≥ 1} 上极限：
lim A n = lim sup A n = {ω|ω ∈ A n，对无穷多个n成立}
n →∞ n →∞
(定性描述)
= ω|∀m，∃n (ω ) >m，ω ∈ A n (ω ) = ∩∪ A k
四、Integration and Expectation
五、随机变量及其收敛性
测空间上的测度 第三章 Independence Random Variables Series 在用测度论术语规定概率空间的基础上，本章以独立性为前提展开各种问题
第 1 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
[2]
Probability: Theory and Examples (Second Edition) 1996/2012
Kai Lai Chung. A Course in Probability Theory, (Third Edition) China Machine
Press. 2010.
4)
并化为不交并
A ∪ B=A+ ( B\A ) =A+ ( B\AB ) =A+A C B
B=Байду номын сангаасB+A C B
∪A
n=1
∞
n
=A1 +A 2 \A1 +A 3 \ ( A1 ∪ A 2 ) +
C C =A1 +A 2 A1 +A 3A C 2 A1 +