特征函数在极限理论中的应用(可编辑修改word版)
特征函数及其应用

特征函数及其应用
特征函数是概率论中一种重要的工具,用于描述随机变量的分布。
它是一个复数函数,定义为随机变量的各个值对应的指数函数的期望值。
特征函数具有许多有用的性质,例如可以用它来计算随机变量的矩、导数和卷积等。
特征函数在统计学、信号处理、物理学等领域中有着广泛的应用。
在统计学中,特征函数可以用于推导估计量的分布,检验假设以及构造置信区间等。
在信号处理中,特征函数可以用于对信号进行谱分析和滤波。
在物理学中,特征函数可以用于描述粒子的动力学特性和相互作用。
除了普通的特征函数,还有一些特殊的特征函数,例如矩母函数和累积分布函数的特征函数等,它们也具有广泛的应用。
在实际应用中,研究人员还可以根据需要构造自己的特征函数来解决特定的问题。
总之,特征函数是一种非常有用的工具,它不仅可以描述随机变量的分布,还可以用于推导估计量的分布、信号处理、粒子动力学等方面的应用。
- 1 -。
特征函数与极限定理

第 十二 次课 2学时本次课教学重点: 特征函数的定义与性质 本次课教学难点:常见分布的特征函数的计算 本次课教学内容: 第四章 特征函数通过前面的讨论,我们已经知道如何去计算随机变量的数字特征,数字特征一般由各阶矩决定,随着阶数的增高,矩的计算总是较麻烦的,另一方面,由于随机现象错综复杂,一个随机现象往往需要多个随机变量来描述,甚至需要讨论一列随机变量依某种意义的收敛,从前面的讨论我们就看到,只利用分布函数和密度函数,求独立随机变量的和的分布都是较麻烦的(要计算密度函数的卷积),要解决复杂的多的问题,没有更优越的数学工具是不行的,在学习数学分析时我们就知道富里埃变换能把卷积运算变成乘法运算,它在数学中是非常重要而有效的工具,把富里埃变换引入到概率之中来,就产生了“特征函数”,可以毫不夸张地说,概率统计自从引进了特征函数以后,就把理论的研究推进到一个新的台阶。
第一节特征函数定义与性质 一、定义本章中1-=i定义4.1.1设ξ是定义在概率空间),,(P F Ω一个随机变量,分布函数为)(x F ,称()ξϕit Ee t =,∞<<∞-t (4.1)为ξ的特征函数。
有时也称为分布函数)(x F 的特征函数。
由定义()()⎪⎪⎩⎪⎪⎨⎧=⎰∑∞∞-∞=dxx f e p e t itx k k ita k1ϕ(4.2) 由1=itxe,故(4.2)的级数或积分是绝对收敛,即ξ,,v r 的特征函数总存在。
由(4.2)看出,ξ..v r 的f c .是其概率函数或密度函数的富里埃变换,计算特征函数则需要进行复数求和或作实变量复值函数的积分。
作积分时有时会用到复变函数中的残数理当ξ~f (x ) 当论,但有时也可由欧拉公式ξξξt i t e it sin cos +=得()()()ξξϕξξt iE t E Ee t it sin cos +==即把求()t ϕ变成求两个实随机变量函数的期望。
特征函数及其应用

特征函数及其应用特征函数是一种在机器学习中常用的数学工具,用于将输入数据映射到一个新的表示形式,以便更好地描述和分析数据。
特征函数的应用非常广泛,涉及许多不同领域,包括自然语言处理、计算机视觉、生物信息学等。
本文将介绍特征函数的定义、性质和在不同领域中的应用。
特征函数是一种将输入数据映射到实数域的函数。
在机器学习中,我们通常将输入数据表示为向量的形式,特征函数将向量映射到一个实数。
特征函数的定义可以根据具体问题的需求而有所变化,可以使用原始数据本身的特性,也可以使用一些先验知识。
特征函数的目标是将输入数据映射为一组能够更好描述和区分数据的特征。
特征函数的定义可以采用不同的形式。
一种常用的方式是将特征函数定义为指标函数,即只有在满足其中一种条件时取值为1,否则为0。
例如,在文本分类中,可以使用特征函数表示一些词汇是否在文本中出现,如果词汇出现,则特征函数为1,否则为0。
此外,特征函数还可以采用连续的形式,例如使用激活函数对输入数据进行变换。
特征函数有一些特点,使其在机器学习中应用广泛。
首先,特征函数可以将输入数据映射为实数,这样可以方便地进行数值计算和分析。
其次,特征函数可以将高维数据映射为低维特征,从而简化问题的复杂度和计算难度。
此外,特征函数还可以提取数据的本质特征,去除噪声和冗余信息,从而更好地描述数据。
特征函数在机器学习中有许多应用。
首先,在分类和回归问题中,特征函数可以用于描述输入数据的特征,用于建立模型和进行预测。
例如,在图像分类中,可以使用特征函数描述图像的纹理、颜色等特征,以便进行分类。
其次,在聚类和降维问题中,特征函数可以用于从输入数据中提取主要特征,以便进行数据分析和可视化。
例如,在文本聚类中,可以使用特征函数提取文本的关键词和主题,以便进行聚类分析。
此外,在异常检测和推荐系统中,特征函数可以用于描述输入数据的异常性和用户偏好等特征。
特征函数的应用还包括自然语言处理、计算机视觉、生物信息学等领域。
第七章特征函数

第七章 特征函数7.1 特征函数的定义及基本性质定义1:设X 为维实随机向量,称为n Xit TEe t =)(ϕX 的特征函数(characteristicfunction )。
一些常见分布的特征函数。
例1:,则其c.f.为),(~p n B X .1,)()(p q pe q t n it −=+=ϕ例2:X 服从参数为λ的Poisson 分布,则其c.f.为 ).1(exp )(−=it e t λϕ例3:,则其c.f.为),(~2σµN X .)(2221t t i e t σµϕ−=特征函数基本性质:1) 1)0(=ϕ;2) (有界)n R t t ∈∀≤,1)(ϕ 3) (共轭对称);_______)()(t t −=ϕϕ4) (非负定)对任意给定正整数,任意t 和任意复数m n m R t t ∈L 21,m αααL 21,,0≥)(11−∑∑==m l mk k l k l t t ααϕ;5) )(t ϕ为n R 上的连续函数。
证明:4) 0)(2111)(11≥==−∑∑∑===−==ml Xit l ml mk k l X t t i ml mk k l k l TlTk l Ee E Ee t t αααααϕ∑∑。
定理1:(Bocher )n R 上的函数)(t ϕ是某个随机变量的特征函数当且仅当)(t ϕ连续非负定且1)0(=ϕ。
定理2:(增量不等式)设)(t ϕ是X 的特征函数,则对任意t 有n R h ∈,[])(Re 12)()(2h t h t ϕϕϕ−≤−+由此)(t ϕ在n R 上一致连续。
证明:[][]∫∫−=−=−++dP ee dP ee t h t Xih Xit Xit Xh t i T T T T 1)()()(ϕϕ,由Schwarz 不等式[])(Re 121)()(222h dP edP et h t Xih Xit T T ϕϕϕ−=−≤−+∫∫。
特征函数的性质及应用

特征函数的性质及其应用摘 要:本文讨论了特征函数概念,特征函数的若干性质并进一步探讨特征函数在 各个方面的应用以及它们的证明过程。
关键词:特征函数;随机变量Some properties of characteristic functionand its applicationClass3, 2008, Department of Mathematics XueEndeAbstract : This paper discusses the concept of characteristic function characteristicfunction, some properties and further explore the characteristic functionVarious aspects of the application as well as their process of proofKeywords : The characteristic function of random variables;1引言特征函数在概率统计领域中是研究极限定理的强有力的工具,虽然它的作用不像分布函数那样明显,但是它却有着很好的分析性质。
广大数学工作者对此也进行了深入的探讨,得到了特征函数的一些性质以及在各个方面中的应用等一系列成果。
它不是单一的学科,与其它学科也有着重要的联系,特别是在物理学上各种热力学关系都以特征函数为基础,所以它在热力学中占有很重要的地位。
鉴于此,我们有必要进一步讨论特征函数的相关性质。
本文将主要针对特征函数的性质和应用进行分开讨论。
2特征函数的定义及性质为了讨论方便,先给出特征函数的概念2.1基本概念 我们称(),()it t Ee t ξϕ=-∞<<+∞是ξ的特征函数.(其中令ξ是任一随机变量)上面介绍了特征函数的概念,接下来讨论一下特征函数的一些性质.2.2特征函数的性质 性质1 令1,ξ2ξ的特征函数分别为12(),(),t t ϕϕ且1ξ与2ξ相互独立,那么12ξξ+的特征函数为12()()()t t t ϕϕϕ=.证明 设1,ξ2ξ是两个相互独立的随机变量,则1,ξ2ξ的特征函数1212(),()it it t Ee t Ee ξξϕϕ==中的1it e ξ与2it e ξ也相互独立.由数学期望的性质可得121212()12()()()(),it it it it it t Ee E e e Ee Ee t t ξξξξξξϕϕϕ+==⋅=⋅=故性质1得证.性质2 令随机变量ξ存在有n 阶矩,那么ξ的特征函数()t ϕ可以微分n 次,且若,k n ≤则(0).k k k i E ϕξ=证明 ().k k itx k k itxkd e i x e x dt=≤根据假定(),k x dF x +∞-∞<∞⎰故下式中在积分号下对t 求导n 次,于是对0k n ≤≤,有()()()kk k itx k k it t i x e p x dx i E e ξϕξ+∞-∞==⎰令t=0,即(0)()k k k i E ϕξ=.性质3 若()t ϕ是特征函数,则(1)()t ϕ-,(2)2(),t ϕ(3)[]()()nt n N ϕ+∈也是特征函数.证明 (1)若()t ϕ是随机变量ξ的特征函数,那么()t ϕ-可以看作是随机变量(ξ-)的特征函数.(2)若1ξ与2ξ独立同分布,其特征函数为()t ϕ,那么2()()()t t t ϕϕϕ=-是随机变量12ξξ-的特征函数.(3)若12,,,m ξξξ 独立同分布,其特征函数为()t ϕ,那么[]()nt ϕ是随机变量12m ξξξ+++ 的特征函数.性质4(唯一性)随机变量ξ的分布函数()F x 仅由特征函数()t ϕ决定. 证明 设x 是任取的()F x 的连续点.令z 设在F 的连续点趋近-∞,则有1()lim lim()2itz itxA Az A e e F x t dt itϕπ---→-∞→∞-=⎰. 根据分布函数左连续,并且F 的连续点在直线上稠密, 即对每个(,)x ∈-∞+∞有F 的连续点,m x x <m x x <. 从而F 由其连续点上的值唯一确定.性质5 当且仅当()iat t e ϕ=时,函数()t ϕ与1()t ϕ都是一个特征函数. 证明 若()t ϕ与1()t ϕ都是特征函数,设随机变量1ξ与2ξ相互独立,且1ξ与2ξ的特征函数分别是()t ϕ和1()t ϕ.因为12ξξ+的特征函数为1()1()t t ϕϕ=,所以12(0)1P ξξ+==. 故有[]21121211()()(,)()()()()()F x P x P x x P x P x P x P x F x ξξξξξξξ=<=<<-=<<-=<<=.因此必存在常数a ,使得0()1x aF x x a≤⎧=⎨≥⎩所以ξ服从单点分布()1,P a ξ==即()iat t e ϕ=.反过来,若()iat t e ϕ=,则1()iat e t ϕ-=也是特征函数. 所以当且仅当()iat t e ϕ=时,()t ϕ与1()t ϕ都是特征函数. 性质6 设a b ηξ=+(,a b 是任意常数),记η在Y Z =时条件特征函数为()k t ϕ,则()()ibt k k t e at ϕϕ=.证明()()()()()it a b itb itb itb k k t E e Y k E e Y k e e at ξξϕϕ+=/==/==. 3 特征函数的应用 3.1在证明极限定理的应用定理 1 (辛钦大数定律)设1,2,ξξ 是一列独立分布的随机变量,且数学期望存在(1,2,)i E a i ξ== ,则对任意的0ε>,有11n pi i a n ξ=−−→∑. 证明 因为1,2,ξξ 具有一样的分布,所以它们也有一样的特征函数.我们把这个特征函数记为()t ϕ,又由于i E a ξ=存在,从而特征函数()t ϕ有展开式()(0)(0)t t ϕϕϕ'=++ο()再由独立性知11n i i n ξ=∑的特征函数为()1m mt t t ia n n n ϕ⎡⎤⎡⎤=++ο()⎢⎥⎢⎥⎣⎦⎣⎦.对任意t 有lim ()lim 1m miat n n t t t ia e n n n ϕ→∞→∞⎡⎤⎡⎤=++ο()=⎢⎥⎢⎥⎣⎦⎣⎦.已知iate 是退化分布的特征函数,对应的分布函数为()I x a -.根据连续性定理11ni i n ξ=∑的分布函数弱收敛于()F x ,因为a 是常数,则有11n pi i a n ξ=−−→∑.定理2 (林德贝格——勒维定理)若1,2,ξξ 是一列独立同分布的随机变量,且22,(0)1,2,k k E a D k ξξσσ==>=则有22lim )nt kxn nap x e dt ξ--∞→+∞-≤=∑.证明 设k a ξ-的特征函数()t ϕ1nknk naξ=-=∑nϕ⎡⎤⎢⎥⎣⎦. 又因为2()0,(),k k E a D a ξξσ-=-=所以2(0)0,(0)ϕϕσ'''==-.于是特征函数()t ϕ的展开式222221()(0)(0)(0)()1()22t t t t t t ϕϕϕϕσ'''=+++ο=-+ο.从而对任意固定的t有221().2nnt t nn ϕ⎡⎤⎡⎤=-+ο⎢⎥⎢⎥⎣⎦⎣⎦ 而22t e-是(0,1)N 分布的特征函数,从而定理得证.3.2在计算数字特征上的应用.例 求2(,)N μσ分布的数学期望与方差. 解 根据2(,)N μσ分布的函数222(),t i tt eσμϕ=再由性质2(0)kkikE ϕξ=知2222(0),(0)iE i i E ξϕμξϕμσ'''====--. 因此222,()E D E E ξμξξξσ==-=. 3.3在证明函数的随机变量和分布中的应用.利用归纳法:我们可以把性质1进行推广到n 个独立随机变量的场合,令12,,,nξξξ 为n 个相互独立的随机变量,它们所对应的特征函数为12(),(),,(),n t t t ϕϕϕ 则1n i i ξξ==∑的特征函数为1()().ni i t t ϕϕ==∑例 设(1,2,,)i i n ξ= 为n 个相互独立的随机变量,且它们服从2(,)i N μσ分布的正态随机变量,试求1nii ξξ==∑的分布.解 由i ξ得分布为2(,)i N μσ,所以它们对应的特征函数为22().2i i ti t t eμσϕ=我们根据特征函数的性质1()()ni i t t ϕϕ==∑可知ξ的特征函数12222111()()()22n i i i i t nn i ti i i i i tt t Eeet μμσϕϕσ=⎡⎤⎢⎥⎢⎥⎣⎦==∑===+∑∑. 而它却是211(,)n ni ii i N μσ==∑∑分布的特征函数.从而根据分布函数与特征函数的一一对应关系即可知ξ服从211(,)nni ii i N μσ==∑∑分布.例 设随机变量12,,,n X X X 相互独立且分别服从为(1)k k m λ≤≤的普哇松分布,求1.nk K Y X ==∑解 对于任何一个k ,k X 服从参数为λ的普哇松分布,从而我们知道它的特征函数为1()(1)1()()nit k k n e k K t t eλϕϕ=-=∑==∑,而()t ϕ是参数为1nkK λ=∑的普哇松分布的特征函数,从而可知Y 服从参数为1nkK λ=∑的普哇松分布.。
第四章特征函数与极限定理

第 十二 次课 2学时本次课教学重点: 特征函数的定义与性质 本次课教学难点:常见分布的特征函数的计算 本次课教学内容: 第四章 特征函数通过前面的讨论,我们已经知道如何去计算随机变量的数字特征,数字特征一般由各阶矩决定,随着阶数的增高,矩的计算总是较麻烦的,另一方面,由于随机现象错综复杂,一个随机现象往往需要多个随机变量来描述,甚至需要讨论一列随机变量依某种意义的收敛,从前面的讨论我们就看到,只利用分布函数和密度函数,求独立随机变量的和的分布都是较麻烦的(要计算密度函数的卷积),要解决复杂的多的问题,没有更优越的数学工具是不行的,在学习数学分析时我们就知道富里埃变换能把卷积运算变成乘法运算,它在数学中是非常重要而有效的工具,把富里埃变换引入到概率之中来,就产生了“特征函数”,可以毫不夸张地说,概率统计自从引进了特征函数以后,就把理论的研究推进到一个新的台阶。
第一节特征函数定义与性质 一、定义本章中1-=i定义4.1.1设ξ是定义在概率空间),,(P F Ω一个随机变量,分布函数为)(x F ,称()ξϕit Ee t =,∞<<∞-t (4.1)为ξ的特征函数。
有时也称为分布函数)(x F 的特征函数。
由定义()()⎪⎪⎩⎪⎪⎨⎧=⎰∑∞∞-∞=dxx f e p e t itx k k ita k1ϕ(4.2) 由1=itxe,故(4.2)的级数或积分是绝对收敛,即ξ,,v r 的特征函数总存在。
由(4.2)看出,ξ..v r 的f c .是其概率函数或密度函数的富里埃变换,计算特征函数则需要进行复数求和或作实变量复值函数的积分。
作积分时有时会用到复变函数中的残数理当ξ~f (x ) 当论,但有时也可由欧拉公式ξξξt i t eit sin cos +=得()()()ξξϕξξt iE t E Ee t it sin cos +==即把求()t ϕ变成求两个实随机变量函数的期望。
第08章特征函数

第八章特征函数第一节特征函数一、复随机变量1、定义:设与均为上的一维随机变量,称为上的复随机变量.2、的数学期望: ,若、均存在.3、相互独立:设()独立,称()独立.4、性质:(1),其中为复常数.证明:.(2).证明:.精彩文档精彩文档(3).证明:仅证离散型.设,则||||)(,,Z E p iy x p iy xlk kl l k lk kl l k∑∑=+≤+=.(4)|||1|x e ix≤-, R ∈∀x .证明:|||||1|0x dt edt e e xitx it ix=≤=-⎰⎰.(5)若k k k iY X Z +=独立,则. 证明:仅证明时成立即可.因独立,则与独立, 从而与,与,与,与,均独立.那么.(6),必存在.证明:仅证连续型. 因 ,,故与存在,从而存在.精彩文档二、特征函数 1、定义:设为上的一维随机变量,,规定,称为的特征函数.显然:①.② 若为离散型,则.③ 若为连续型,则.2、性质: (1);证明:.(2);证明:.(3)在上一致连续;证明:R ∈∀t ,R ∈∀h ,|])1[(||||)()(|)(itX ihX itX X h t i X X e e E Ee Ee t h t -=-=-++ψψ⎰⎰+∞∞-+∞∞--≤-=dx x edx x e e ihxitxihx)(|1|)()1(ϕϕ⎰∞∞-=dx x hx)(2sin2ϕ 其中:2sin222|1|222hx ie eeex h i x h i x h i ihx=-=--;精彩文档由于 0>∀ε, 0>∃K ..t s ⎰>Kx dx x ||)(ϕε<, (因为1)(=⎰+∞∞-dx x ϕ收敛)取0>=Kεδ , 当δ<||h 时,⎰⎰->+≤-+KKK x X X dx x hxdx x hx t h t )(2sin 2)(2sin 2|)()(|||ϕϕψψ⎰⎰⎰-->+<+≤KKKKKx dx x K h dx x hx dx x )(||22)(||2)(2||ϕεϕϕεϕεε4)(22≤++<⎰-KKdx x .(4),为常数;证明:.(5)设()独立, 则.证明:仅证明时成立即可..(6),若存在.证明:因 .所以 .三、常见分布的特征函数1、离散型(1)退化分布:.证明:.(2):,其中.证明:.(3):.证明:,服从参数为的(0-1)分布,且独立, , 所以.(3):.证明:.2、连续型(1):.特别:①:;②:.精彩文档精彩文档证明:(2):.(3):.证明:.(4) :.证明:222122221 221t t i it itz t t i edz eeσμσσσμπ--+∞-∞---==⎰.其中:.2222)(2σσσμσμσσμit it x x it x z +--⎪⎭⎫⎝⎛-=⎪⎭⎫ ⎝⎛--=精彩文档22222σμσμt it xit x -+-⎪⎭⎫ ⎝⎛-= 222221212t t i itx x z σμσμ+-+⎪⎭⎫ ⎝⎛--=- 下面计算 πσσ22222==⎰⎰-+∞-∞---it itz Lz dz edz e:,.,,在上, ,π2022=+→+=⎰⎰⎰⎰+∞∞---dx ex l xxL xx.第二节 唯一性定理一、逆转公式 1、预备知识 (1)设有函数,使得,,收敛,则在上一致收敛. 于是有;又若在上连续,则.华东师大《数学分析(下)》(2)狄里克莱积分: 华东师大《数学分析(下)》,.(3)设,,则2、逆转公式:设的分布函数为,特征函数为,又是的连续点,则证明: 不妨设,且,令,因为精彩文档.又收敛,则又因为存在,故. 所以.二、唯一性定理1、唯一性定理: 的分布函数由其特征函数为唯一确定.证明:在的每一个连续点上,取也为的连续点,于是有.因由其上连续点唯一确定,故由唯一确定.精彩文档精彩文档2、设,且,则⎰∞∞--='=dt t ex F x X itxX )(21)()(ψπϕ.证明: 因,故连续.,,有, 又 ,且 ,于是⎰⎰∞∞--+∞∞-∆+--→∆=∆-=dt t e dt t x it e e X itxX x x it itx x )(21)(lim 21)(0ψπψπ.注意为解析函数,.三、分布函数的再生性 1、,独立,则: . 证明:因,.由唯一性定理知, .2、,独立,则: .证明:因,.由唯一性定理知, .3、,独立,则: .证明:,,由唯一性定理知, .4、,独立,则: .证明:,, 由唯一性定理知, .第三节维随机变量的特征函数一、特征函数1、定义:设为上的维随机变量,,规定,称为精彩文档精彩文档的特征函数. 显然:① 若为离散型,则.② 若为连续型,则.注:∑==⎪⎪⎪⎪⎪⎭⎫ ⎝⎛='nk k k n n X t X X X t t t X t 12121) (M Λ2、性质: (1);证明:.(2);证明:.(3)在上一致连续; 证明:,,.其中:2121|||)()(|||X X t t X t '∆'∆≤'∆,注:∑=∆='∆nk k kX tX t 1,∑=∆∆=∆'∆nk k k t t t t 1,∑=='nk k k X X X X 1此式利用了许瓦兹不等式:精彩文档.因,由判别式可得.为方便起见,以下引入记号: ①,,.②,,特别记: ,.例: )4(}4,2{N I ⊂=,)1,0,1,0(1=I ,)0,1,0,0(11}3{3==.③ ,其中,.特别记,为单位矩阵.例: )4(}4,2{N I ⊂=,精彩文档⎪⎪⎪⎪⎪⎭⎫⎝⎛=1000000000100000I E , ⎪⎪⎪⎪⎪⎭⎫⎝⎛==0000010000000000}3{3E E .④ t E t I I =, 为t 的取有行的向量,I I I AE E A =, 为的取有行和列的矩阵,例: ),,,(4321t t t t t =,)4(}4,2{N I ⊂=,⎪⎪⎪⎪⎪⎭⎫⎝⎛⎪⎪⎪⎪⎪⎭⎫⎝⎛=⎪⎪⎪⎪⎪⎭⎫ ⎝⎛==43214242100000000010000000),0,,0(t t t t t t t t t I ,⎝⎛⎪⎪⎪⎪⎪⎭⎫⎝⎛⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=⎪⎪⎪⎪⎪⎭⎫⎝⎛=00000010000100000000010000000000000000000444342413433323124232221141312114422a a a a a a a a a a a a a a a a a a A I ④ ,,但均为非负整数. (4),为常量,为常矩阵. 证明:.精彩文档注:A B AB ''=')((5) 边缘分布:,, 特别,证明:.其中:X t E X E t X E E t X E t E X t I I I I I I I I )()()('='='='='(6),若存在,.说明:n kn kkkt t t t ∂∂∂=∂Λ2121二、逆转公式 1、逆转公式:设的分布函数为,特征函数为,在体面上概率为0,则⎰∏∈=---=-n kk k k x nk k b it a it X n dt it e e t a F b F R 1)()2(1)()(ψπ.2、唯一性定理:的分布函数由其特征函数唯一确定.⎰∏∈=---∞→-=n k k k k x nk k x it y it X n y dt it e e t x F R1)()2(1lim )(ψπ.三、独立性 1、设()独立, 则.证明:仅证明时成立即可.精彩文档.2、设为维随机变量,则 ,独立 ⇔ ∏==nk k X X t t k1)()(ψψ.证明:“”因为,独立,从而, 所以. “”因为,所以⎰∏∈=---∞→-=n kk k k x nk k x it y it X n y dt it e e t x F R1)()2(1lim )(ψπ⎰∏∈=---∞→-=n k kk k k x nk k X k x it y it n y dt t it e e R 1)()2(1lim ψπ ∏∏⎰==∈---∞→=-=nk k X nk t k k X k x it y it y x F dt t it e e k k k kk k k 11)()(21lim Rψπ.故,独立.第四节 n 维正态分布矩阵回顾:(1) 正定,记为; 非负定,记为.(2) ,.(3) 所有主子式存在,,使得存在,,使得.(4) 所有主子式存在,使得.(5) . 这时即的主子式.(6) ,则.(7) 对称合同于对角矩阵,即存在,,使得为对角矩阵.一、n维正态分布1、定义:设,,为阶正定矩阵,且,称服从维正态分布,记作.2、验算:验算确实是维随机变量的密度函数.(1)显然:,;(2)因,故存在,,使得,且.令,于是,这样,而,有,那么精彩文档,从而.于是.3、特别,当时, .二、特征函数1、的特征函数:.证明:,令,.由于,而,令,, 有,所以.精彩文档精彩文档2、I X 的特征函数: ,因此也是正态分布),(~I I I C N X μ. 其中,,为二次型的矩阵,也是正定矩阵.特别: ,.证明:.三、数字特征 1、设,则μ=EX .证明:因,从而,,所以.2、设,则. 因此有.预备工作: (1)设,为含自变量的可微函数,定义:.(2).证明:⎪⎪⎭⎫ ⎝⎛∂∂=⎪⎪⎭⎫ ⎝⎛∂∂=∂∂∑∑==)()(11n j jl kj nj jl kj B A t B A t t AB .(3)设,与无关,则精彩文档,.下面证明.证明:因)()()(202l k l k t l k X X X E X X E i t t t -==∂∂∂=ψ,又,而,,kl k l l k lk C C C t t Z -='-'-=∂∂∂111121212, lk Z k l Z k Z l l k X t t Z e t Z t Z e t Z e t t t t ∂∂∂+∂∂⎪⎪⎭⎫ ⎝⎛∂∂=⎪⎪⎭⎫ ⎝⎛∂∂∂∂=∂∂∂22)(ψ, 于是kl k l t l k X C i i t t t -=∂∂∂=))(()(02μμψ,从而,所以.四、独立性设,则独立,,证明:“”显然. “”因,,)(ex p()ex p()(221121kk k nk k k X C t it Ct t t i t -='-'=∑=μμψ∏∏===-=nk k X n k kkk k k t C t it k 11221)()ex p(ψμ. 所以 独立.精彩文档五、线性变换 1、,,,,则.证明:因})()( ex p{21t A AC t A t i ''-'=μ, 下面证明.因,,,故存在,,使得,且, 于是.可见.2、,,服从一维正态分布.证明:“”取,由1知.“”①先证明,当,,时., ,令,,,有,,已知,精彩文档那么.故 .显然,可见, 有,又X X k k 1'=服从一维正态分布,有0),cov(>==k k k kk DX X X C ,可知, 所以. ②再证明一般地也有.由于为实对称矩阵,故存在,,使得为对角矩阵.令,由条件知,,,,也服从一维正态分布, 而由知道,,,由①知,又,由1知.3、独立,),0(~E N X .证明:“”因,那么,故独立,.“”因,故,,服从一维正态分布.因此,又因独立,,所以.精彩文档作业:1、设nk X P X 1}{~==,.,,2,1n k Λ= 求)(t X ψ2、设X 服从几何分布,求)(t X ψ、EX 及DX .3、设||21)(~x e x X -=ϕ, 求)(t X ψ.4、已知itt X -=11)(ψ,求)(),(x x F ϕ.5、已知)1,0(~N X ,32+=X Y ,求)(t Y ψ.6、设X0 1 3P21 83 81 Y 01P 31 32 已知X 与Y 独立,求Y X Z +=的概率分布.7、已知),1,1,0,0(~ρN X ,求)(21X X E . 8、证明:若)(t k ψ,.,,2,1n k Λ=均为特征函数,则∏=nk kt 1)(ψ也是特征函数.9、已知)21,1,1,0,0(~N X ,⎩⎨⎧--=++=11211211X X Y X X Y ,求),(21y y Y ϕ.精彩文档作业:1、设nk X P X 1}{~==,.,,2,1n k Λ= 求)(t X ψ解: )1()1()(1)( 1111it t in it nk k it itn k ikt nk k itx itXX e n e e ene e n p eEet k--=====∑∑∑=-==ψ )1(1 --=-it tin e n e .2、设X 服从几何分布,求)(t X ψ、EX 及DX . 解:(1) qe p qe pe qepep qe Eet it it it k k it itk k ikt itXX -=-====-∞=-∞=-∑∑1)()(1111ψ. (2)由于kk k EX i X =)0()(ψ,而22)()()()(q e ipe i e q e p t it it itit X -=---='----ψ,精彩文档22)()()(2))(()(q e i e q e ipe q e i ipe t it it it it it it X ---⋅---=''------ψ32)(q e pe pqe it ti it ---=---. 于是 pq p i i EX X1)1()0(22=--='-=ψ. 又 2321)1()0(p q q p pq EX X +=----=''-=ψ, 从而 2222211)(p q p p q EX EX DX =-+=-=.3、设||21)(~x e x X -=ϕ, 求)(t X ψ.解: ⎰⎰⎰+∞∞-+∞∞-+∞∞-+===txdx x i txdx x dx x e Eet itxitXX sin )(cos )()()(ϕϕϕψ220||111)cos sin (cos cos 21t t tx tx t e txdx e txdx e x xx +=+-===+∞-+∞-+∞∞--⎰⎰.4、已知itt X -=11)(ψ,求)(),(x x F ϕ.解: 由于1111)(-⎪⎭⎫⎝⎛-=-=λψit it t X , 可见 )1(~Exp X .所以 ⎩⎨⎧≤>=- .0 ,0,0 ,)(x x e x x X ϕ⎩⎨⎧≤>-=- .0 ,0,0 ,1)(x x e x F x X精彩文档另解: ⎰⎰⎰∞∞--∞∞--∞∞--++=-==dt t e it dt it e dt t e x itxitx X itxX 21)1(21121)(21)(ππψπϕ ⎰⎰∞∞---∞∞--⎩⎨⎧≤>=+=+++= .0 ,0 ,0 ,121212122x x e iI I dt t te idt t e x itxitx ππ其中: ⎪⎩⎪⎨⎧≤>=- .0 ,21 ,0 ,211x e x e I xx⎪⎩⎪⎨⎧≤->=- .0 ,21 ,0 ,212x e x e iI x x 于是 ⎩⎨⎧≤>-=- .0 ,0 ,0 ,1)(x x e x F x X5、已知)1,0(~N X ,32+=X Y ,求)(t Y ψ. 解: 由于 2212221 )(t t t i X ee t --==σμψ,而)()(at e t X ibtb aX ψψ=+, 那么222212212323)2(3332)2()()(t t i t t i t t i X t i X Y e eee t e t t ---+=====ψψψ.可见 3=EY ,422==DY ,由唯一性定理知: )4,3(~N Y .6、设X0 1 3P21 83 81 Y 01P 31 32 已知X 与Y 独立,求Y X Z +=的概率分布. 解: 310818321)(⋅⋅⋅++==it it it itXX e e e Eet ψ, 103231)(⋅⋅+==it it itY Y e e Ee t ψ,因 X 与Y 独立, 于是精彩文档4321012124141241161)()()(⋅⋅⋅⋅⋅++++==it it it it it itX Y X Z e e e e e Ee t t t ψψψ, 所以,由唯一性定理知Z1234P612411 41 241 1217、已知),1,1,0,0(~ρN X ,求)(21X X E . 解: 由于) ex p()(21Ct t t i t X '-'=μψ,而 ⎪⎪⎭⎫⎝⎛=⎪⎪⎭⎫ ⎝⎛=0021μμμ, ⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛=1122212121ρρσσρσσρσσC , ()⎪⎪⎭⎫ ⎝⎛++=⎪⎪⎭⎫⎝⎛⎪⎪⎭⎫ ⎝⎛='211221212111)(t t t t t t t t t t Ct t ρρρρ222121212221212t t t t t t t t t t ++=+++=ρρρ, 于是 u t t t t X e eCt t t =='-=++-)2(2121222121)ex p()(ρψ因 ,而uu X e t t t t e t t )(222)(21211ρρψ+-=⎪⎭⎫ ⎝⎛+-=∂∂, )()()(1221212t t e t t e t t t u u X ρρρψ+++-=∂∂∂,所以 ρψ=∂∂∂-==021221)()(t X t t t X X E .精彩文档8、证明:若)(t k ψ,.,,2,1n k Λ=均为特征函数,则∏=nk kt 1)(ψ也是特征函数.证明: 设k X 的特征函数为)(t k ψ,.,,2,1n k Λ=且独立,则∑==n k k X X 1的特征函数为=∏=n k X t k 1)(ψ∏=nk k t 1)(ψ.因此∏=nk kt 1)(ψ也是特征函数.9、已知)21,1,1,0,0(~N X ,⎩⎨⎧--=++=11211211X X Y X X Y ,求),(21y y Y ϕ.解: 由于b AX Y +=,因 })()( ex p{)()()(21t A AC t A t i e t A e t t bt i X b t i b AX Y ''-'='==''+μψψψ,})()( ex p{21t A AC t b A t i ''-+'=μ, 由唯一性定理知 ),(~A AC b A N Y '+μ.而 ⎪⎪⎭⎫ ⎝⎛-=1111A ,⎪⎪⎭⎫ ⎝⎛-=11b ,⎪⎪⎭⎫⎝⎛=11ρρC , 有 b b A =+μ,⎪⎪⎭⎫ ⎝⎛-+=⎪⎪⎭⎫ ⎝⎛-⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛-='ρρρρ2200221111111111A AC , 从而 1,121-==y y μμ,0,)1(2,)1(22121=-=+=y y y y ρρσρσ,于是 ⎥⎥⎦⎤⎢⎢⎣⎡-+++---=ρρρπϕ1)1(1)1(412212221141),(y y ey y2)1(6)1(2221321+---=y y eπ.参考:精彩文档,⎥⎥⎦⎤⎢⎢⎣⎡-+-------=2222212121212)())((2)()1(21221121),(σμσσμμρσμρρσπσϕy y x x ey x .。
特征函数证明中心极限定理

特征函数证明中心极限定理中心极限定理是概率论中的重要定理之一,它给出了在大样本条件下,随机变量的和服从正态分布的性质。
在证明中心极限定理时,我们使用到了特征函数这一重要工具。
本文将详细介绍特征函数的定义,性质及其在证明中心极限定理中的应用。
一、特征函数的定义及性质1. 定义特征函数指的是一个随机变量的复数函数,定义为:φ(t) =E(e^(itX)),其中X为随机变量,i为虚数单位。
特征函数是一个对随机变量的完全描述,可以唯一地确定随机变量的分布函数。
2. 性质特征函数具有以下性质:(1)φ(0) = 1,即特征函数在t=0时等于1;(2)φ(t)是连续的,且具有线性性,即对任意实数a、b,有φ(at+b) = e^(ibt)φ(t);(3)若随机变量X和Y相互独立,则它们的特征函数之积等于它们的和的特征函数之积,即φX+Y(t) = φX(t)φY(t)。
二、特征函数在证明中心极限定理中的应用中心极限定理指出,对于独立同分布的随机变量序列X1,X2,...,Xn,它们的和Sn = X1 + X2 + ... + Xn在n很大时,服从正态分布。
证明中心极限定理时,我们使用到了特征函数。
设X1,X2,...,Xn为独立同分布的随机变量序列,且E(Xi)=μ,Var(Xi)=σ^2,则它们的和Sn的特征函数为:φS(t) =φX1(t)φX2(t)...φXn(t) = [φ(t)]^n,其中φ(t)为每个随机变量的特征函数。
将特征函数经过复数域上的变换可以得到一个新的特征函数:φ((t-nμ)/σ√n),即将Sn与其期望nμ和标准差σ√n标准化。
这个函数在n很大时趋近于e^(-t^2/2),也就是标准正态分布的特征函数。
因此,Sn在n很大时近似于正态分布,其期望为μn,方差为σ^2n。
三、总结特征函数是描述随机变量的重要工具,它唯一地确定了随机变量的分布函数。
在证明中心极限定理中,我们将随机变量的特征函数相乘后通过变换得到新的特征函数,并以此证明了Sn在n很大时服从正态分布的性质。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
⎨ n n k k n nA knn →∞ A nA nA A n 1. 集合列的特征函数1.1 集合 E 的特征函数定义:对于 X 中的子集 E ,作X = ⎧1, x ∈ E E ⎩0, x ∉ E称 X E : X → {0,1}是定义在 X 上的集合 E 的特征函数。
由定义知,特征函数 X E 在一定意义上作为集合 E 的代表。
借助特征函数,集列的极限运算可转换特征函数的相应运算。
1.2 定理:对任意的集合列{A n },有① lim X A = X lim A n ,n →∞nn →∞②lim X A = X lim A ,n →∞nn →∞ n③集列{A }收敛的充要条件是它的特征函数列{X }收敛,且 lim X A = X lim Ann →∞nn →∞定理说明了集列{A n }取(上、下)极限的运算与求特征函数的运算是可交换运算的次序。
集 列{A }收敛性与数列{X }收敛性等价。
证明:由特征函数的定义, lim X A =1 或 0,∀x ,设lim X n →∞nn →∞=1 ⇔ 有无限个n k n,使得 X A=1,⇔ 有无限个n ,使得 x ∈ A n ,⇔ x ∈ lim A ,n →∞⇔ X limn →∞A =1 (*1)∀x ,设lim X n →∞n=0 ⇔ 有无限个n k ,使得 X =0 k⇔ 有无限个n k ,使得 x ∉ A n ,⇔ x ∉ lim A , n →∞⇔ X lim A n=0 (*2)n knn0 0 n 0 n 0 由(1)(2)式,得证。
2 迭代数列收敛性与特征函数2.1.定义:设 F (x ) = x - f (x )在区间 I 上有定义,数列{x n }满足迭代关系:x n +1 = f (x n )(n=1,2,……)(*3)若存在自然数 N ,使得当 n>N 时恒有 x n ∈I 成立,则称 F (x )和 f (x )分别为迭代数列(*3) 在区间 I 上的特征函数和迭代函数,而迭代数列(*3)称为 F(x)在区间 I 上的生成迭代数列。
引理:设 f (x )是在区间 I 上有定义的单调函数, x 0 是 I 的内点。
若 lim f (x )存在,则 f (x )x → x 0在 x 0 处连续。
证明: 不妨设lim f (x )=A ,f (x )在区间 I 上单调增加。
x → x 0故当 x< x 0 时, f (x ) < f (x 0 ),则 A= lim f (x ) ≤ x → x 0f (x 0 ),当 x > x 0 时, f (x ) > f (x 0 ),则 A= lim f (x ) ≥ x → x 0f (x 0 )。
因此lim f (x )=A= f (x 0 ),x → x 0故 f (x ) 在 x 0 处连续。
定理 1:设 F (x )=x- f (x ) 是迭代数列(*3)在区间 I 上连续的特征函数,且 F (x )在 I 上单调增加。
则①若 I =[a,b>且 F (a )=0,则lim x 存在且等于 a , x →∞②若 I =<a,b]且 F (b )=0,则lim x 存在且等于 b 。
n →∞注:约定区间[a,b> , <a,b]或<a,b>中尖括号一侧的端点可以是实数,也可以是- ∞ 或+ ∞ ;为实数是可以包含端点,也可以不包含端点。
证明:(i )由特征函数和极限的定义,不妨设对一切自然数 n ,迭代数列(*3)恒有 x n ∈I =[a,b>, 则{x n }有下界。
再用反证法证明{x n }在 I 上单调减少:若存在自然数n 0 使得 x n < x n +1即 x < f (x ),nn 0 n nn n→∞n 00 n 0 n 0则 F (x )= x n - f (x )<0. 因为 F (a )=0,所以 F (x )< F (a )。
这与 F (x )在 I 上的单调增加矛盾。
故数列{x }在 I 上单调减少有下界,即lim x 存在。
n →∞在迭代数列(*3)中令n → ∞ ,可得 x= f (x ) 。
由题设可得 F (x )=x- f (x ) =0 在 I 上有唯一实根, 于是由 F (a )=a- f (a )=0 得 x=a , 故lim x =a 。
n →∞(ii )类似地可以证明数列{x }在 I =<a,b]上单调增加有上界,且lim x =b 。
n →∞定理 2:设 F (x )=x- f (x ) 是迭代数列(*3)在区间 I =<a,b>上的特征函数, F (x )和 f (x ) 在 I 上单调增加且存在 I 的内点 x 0 使得 F (x 0 ) =0,则lim x n 存在且等于 x 0n证明:不妨设对一切自然数 n ,迭代数列(*3)恒有 x n ∈ I ,记 I 1 =<a, x 0 ], I 2 =[ x 0 ,b>.由题设及引理得 F (x )在 I 1 和 I 2 上均单调增加且连续。
若对 x 1 ∈ I 有 x 2 = f (x ) ≤ x 0 ,则由 f (x ) 在 I 上单调增加有 x 3 = f (x 2 ) ≤ f (x 0 )= x 0 ,一般地由数学归纳法易证 x n +1 = f (x 0 ) ≤ x 0 (n=1,2,……);若对 x 1 ∈ I 有 x 2 = f (x 1 ) ≥ x 0 ,类似地可以证明 x n +1 = f (x n ) ≥ x 0 (n=1,2,……)。
所以 F (x )是迭代数列(*3)在 I 1 或 I 2 上的特征函数。
故由定理 1, lim x 存在且等于 x 。
n →∞利用上述定理,可以把迭代数列收敛性的证明和求极限的问题转化为求其特征函数、迭代函数单增区间和特征函数零点的问题,从而把判断函数单调性和求函数零点的一些方法应用a a a →∞ nnx →∞ 1 n2 2x到迭代数列的求解中,简化极限运算。
这种方法解题的一般步奏是:(1) 求出函数 F (x )=x- f (x ) 的单增区间(或 F (x )和 f (x ) 公共的单增区间); (2) 求出方程 F (x )=0 在单增区间的根 x 0 ;(3) 判断 F (x )是迭代函数列(1)在单增区间上的特征函数; (4) 判断极限存在并得出极限。
例 1:设 x 1 >0 , x n +1 = c ln (1+ x n )(n=1,2,……;0<c ≤ 1),证明lim x n 存在且等于 0。
n证明:令 F (x )=x- c ln (1+ x ),则 F ’ (x )=1- c1+ x>0(x>0)且 F (0)=0.当 x 1 >0 时,恒有 x n +1 = c ln (1+ x n )>0(n=1,2,……), 故 F (x )为迭代数列在单增区间[0,+ ∞ )上连续的特征函数。
于是由定理 1 可得lim x 存在且等于 0. n →∞1 ⎛ a ⎫ 例 2:设数列{x n }满足迭代关系 x n +1 = x n +2 x ⎪ (n=1,2,……;a>0),证明lim x 存在并求 n →∞此极限。
⎝ n ⎭ 证明:由数学归纳法和均值定理可知,当 x 1 > 0 时有 x n ∈[ a ,+∞) (n=2,3,……);当 x 1 < 0 时有 x n ∈(-∞,- a ] (n=2,3,……)。
所以 F (x ) = x - 1 ⎛ x - a ⎫ = 1 x - a是{x }分别在区间[ a ,+∞) 和⎪ n ⎝ ⎭(-∞,- a ] 上连续的特征函数。
由 F ’ (x )= 1 + 2 a2x 2 > 0 得 F (x )在[ a ,+∞) 和(-∞,- a ] 上单调增加。
又因为 F (x ) = 0 解得 x = ± 。
所以由定理 1 得{x n }的极限存在且当 x 1 < 0 时, lim x n = - ;n当 x > 0 时, lim x = 。
n →∞23 a 2x + x 1 n→∞ n1 ⎫ n ⎛ 同理可证数列{x n }: x n +1 = n a ⎪ (n=1,2,……;a>0)的极限存在且lim x = 。
2⎪ ⎝ n ⎭n →∞ 例 3:设数列{x n }满足迭代关系 x n +1 = c sin x n (n=1,2,……; 0 < c ≤ 1,),证明:对任意的 初值 x , lim x 存在并求此极限。
n →∞证明:对任意的 x 1 ,有-1 ≤ x n ≤ 1(n=2,3,……),因此 F (x )= x - f (x ) = x - c sin x 是{x n }在区间[-1,1] 上的特征函数。
又当 x ∈[-1,1] 时, F '(x ) = 1- cos x ≥ 0 (等号仅当c = 1, x = 0 时成立), 故 F (x )和 f (x ) 在[-1,1] 单调增加,且 F (0) = 0 。
由定理 2 可知{x n }的极限存在且等于 0.同理可证明{x n }: x n +1 = -cos x n (n=1,2,……; 0 < c ≤ 1)的极限存在且lim x n = x 0 ,n其中 x 0 ∈(-1,0) 是 F (x ) = x + c cos x = 0 的根。
3.极限定理证明的特征函数法李亚普诺夫提出了一种以特征函数为基础的思想证明了中心极限定理,后来的发展说明了李亚普诺夫的方法在证明最为多种多样的极限定理时,是十分有效的,这决定了它的发展和广泛应用。
3.1 分布函数与特征函数对应的连续性定理 1:设{F n }是分布函数序列: F n = F n (x ), x ∈ R ,而{n }是相应的特征函数序列:∞(t ) = itxdF (x ) ,n⎰ en-∞(1) 如果 F −w→ F ,其中 F = F (x )是某一分布函数,则 (t ) →(t ) ,其中 (t ) 是 F = F (x )nnn的特征函数。
(2) 如果对于每个t ∈ R 存在极限lim n (t ),而函数(t ) = lim n (t ) 在t = 0 连续,则(t )是某n →∞一概率分布 F = F (x )的特征函数,且n →∞F −w→ F注:设,, ……是随机变量,且 F−w → F ,则称随机变量,, ……依分布收敛于,并12n12记作 −d→定理时,常认为表达式.这一记号很直观( d 是 distribution 的字头),因此在 n 3→∞nRR表述极限定理时,常认为表达式 −d→比 F−w→ F 更好。