特征函数和讲义矩母函数
特征函数与矩函数
根据概率分布的性质和公式，计算相应的矩函数。例如，对于离散型随机变量，可以使用概率质量函数和概率分布函 数来计算；对于连续型随机变量，可以使用概率密度函数和概率分布函数来计算。
数值法
对于一些复杂的概率分布，可以使用数值方法来近似计算矩函数。例如，蒙特卡洛方法可以用来模拟随 机变量的样本值，然后通过样本值的数学期望来近似计算矩函数。
05 特征函数与矩函数的扩展
广义特征函数与矩函数
定义
广义特征函数与矩函数是相对于经典的特征 函数与矩函数的扩展，它们在更广泛的意义 下描述了数据的统计特性。
性质
广义特征函数与矩函数具有更强的灵活性和适应性 ，能够更好地处理复杂的数据分布和异常值。
应用
在统计学、机器学习、数据分析等领域，广 义特征函数与矩函数被广泛应用于数据建模 、特征提取和异常检测。
03 特征函数与矩函数的应用
在概率论中的应用
特征函数用于描述随机变量的概率分布， 可以表示为复平面上的函数。通过计算特 征函数的导数，可以得到随机变量的各阶 矩，如均值、方差、偏度、峰度等。
特征函数还可以用于研究随机变量的 变换性质，例如，通过特征函数可以 推导出随机变量的变换规律，以及随 机变量的独立性、相关性等性质。
特征函数与矩函数
目录
• 特征函数 • 矩函数 • 特征函数与矩函数的应用 • 特征函数与矩函数的区别与联系 • 特征函数与矩函数的扩展
01 特征函数
定义与性质
定义
特征函数是概率论和统计学中的一个 概念，用于描述随机变量或随机过程 的特性。
性质
特征函数具有一些重要的性质，如实 部和虚部都是单调递减的，且实部和 虚部都是偶函数。
特征函数的性质
唯一性
概率论课件 特征函数
e jtX cos(tX ) j sin(tX )
(t ) E(e jtX )
cos(tx)dF( x) j sin(tx)dF( x)
e jtX dF ( x)
一、定义及例 1. 特征函数的定义 定义4.1.1 设X 是定义在概率空间(, F , P)上的随机变量, 它 的分布函数为F ( x), 称 e jtX 的数学期望 E(e jtX ) 为X 的特征函数. 有时也称为分布函数 F ( x) 的特征函数, 其中 j 1, t R.
( t ) E( e jtX ) e jtxk pk
k
( t
)
e itk
k0
ke
k!
e
（e it ）k
k0 k!
e e eit
e（eit -1）
例4.1.5 设随机变量X 服从 [a,a]的均匀分布, 求其特征函数.
(t) E(e jtX )
记X 的特征函数为X (t), 在不会引起混乱的情况下简写为 (t).
e jtX cos tX j sintX
(t) E(e jtX ) E(cos Xt )+jE(sin Xt )
3. 特征函数的计算 e jtX cos(tX ) j sin(tX )
(t ) E(e jtX )
X的特征函数就是x的函数的期望，此时的函数是 由X 构造出来的复值随机变量的期望。
例4.1.1 设随机变量X 服从退化分布, 即
求X 的特征函数.
P{X c} 1
( t ) E( e jtX ) e jtxk k
1-4特征函数和母函数
k =1 n
n
k =1
Ex.7 随机变量Y～B(n, p),写出其特征函数 写出其特征函数. 随机变量 ～ 写出其特征函数 二项分布随机变量Y可表示为 解 二项分布随机变量 可表示为Y = ∑ X k ,且 且 Xk～B(1, p),k=1,2,…,n, 相互独立,故Y 的特征 相互独立, , 函数为 n
g(t1 , t2 ) = E[e
i ( t1 X + t 2Y )
]= ∫
∞
∞ ∞
∫
∞
ei (t1 x+t2 y )dF( x, y)
连续型 离散型
g(t1 , t 2 ) = ∫
∞
∞ ∞
∫
∞
e i (t1 x + t2 y ) f ( x, y)dxdy
i ( t1 X r + t 2YsS )
特征函数、 §1.4 特征函数、母函数
一、特征函数的定义及例子 是实随机变量, 定义 设X,Y是实随机变量,复随机变量 是实随机变量 Z=X+i Y, , 的数学期望定义为 E ( Z ) = E ( X ) + i E (Y ), i = 1 特别 X是实随 是实随 itX Ee = E (costX ) + i E (sintX ) 机变量
g ( t ) = ∫ e itx f ( x )dx;
∞
+∞
g ( t ) = ∑ e itxk pk .
k
Ex.1 单点分布 P{X = c} = 1,
g( t ) = E (e itc ) = e itc , t ∈ R.
Ex.2 两点分布
g( t ) = e (1 p) + e
矩母函数
因而
Y |Xx x 1 y f fY Y||X X y y||x xd y 1/1 1- 1 -x x x 1 y d y1 2 x
Y|X 1 X/2
fY|X y|x 1/ 1-x
注意： Y|X 1 X/2是随机变量，当X x 时， 其值为
Y|X x 1 x/2
思考题：当X与Y独立时， X |Y y 的值？
定义：X的矩母函数（MGF），或Laplace变换定义为
Xt
etX
其中t在实数上变化。
etxdF Xx
若MGF是有定义的，可以证明可以交换微分操作和求期 望操作，所以有：
0 de tX
d t
t0
d e tX d t t0
X e tX t0
X
取k阶导数，可以得到 k 0
Xk 方便计算分布的矩
.
.
6
X ～ U n ifo r m 0 ,1 ， Y |X ～ U n ifo r m x ,1
怎样计算 Y ？ 一种方法是计算联合密度 f x , y ，然后计算
Y yf x,ydxdy
另一种更简单的方法是分两步计算
计算 Y| X =1 X
计算 Y =
2 Y|X =
1
X
1+ X
2
2
= 1+
Y |X Y Y |X Y |X Y|X Y 0 0
所以
Y Y |X Y |X
.
10
二、混合分布
在一个分布族中，分布族由一个/一些参数决定， 如 f x，| 这些参数 通常又是一个随机变量 （贝叶斯学派的观点，参数也是随机变量）， 则最终的分布称为混合分布(mixture distribution)
概率统计：矩母函数
矩母函数与特征函数在计算随机变量的数字特征和概率分 布起很大的作用,它们使许多繁难的问题得到简化和解决,是证 明概率论中的许多理论问题的有力的工具.
定义 5.1 设 X 为随机变量,I 是一个包含0的(有限或无限的)
开区间,对任意t I ,期望EetX 存在,则称函数
M X (t) E(etX )
5
矩母函数(5)
3) 设U ,V 独立，U ~ B(m, p),V ~ B(n, p),W U V .则 MU (t) ( pet q)m , MV (t) ( pet q)n,
MW (t) MU (t)MV (t) ( pet q)m ( pet q)n ( pet q)mn. 故W ~ B(m n, p).
6
例 5.2 设 X ~ ( , ),则
矩母函数(6)
1) M X (t)
etx x 1e xdx 0 ( )
x 1e( t)xdx. 0 ( )
xu /( t)
(
t) ( )
0
u
1eu
du
t
a
.
2)
M
X
(t)
t
a1,
M
X
(t
)
(
2
1)
t
a2
2
2) M X (t) tet2 / 2, M X (t) t 2et2 / 2 et2 / 2 ,
EX M X (0) 0, EX 2 M X (0) 1, DX EX 2 (EX )2 1.
9
矩母函数(9)
3) M X (t) et2 / 2
(t2 / 2)k k0 k !
MY (t) et M X (t). 证 MY (t) EetY Eet( X ) et Ee(t ) X et M X (t).
特征函数与矩母函数
特征函数和矩母函数
特征函数和矩母函数是概率论和数理统计中常用的概念。
特征函数是一个随机变量的唯一标识函数，它以复数形式表示。
对于一个随机变量X，其特征函数定义为：
φ(t) = E(e^(itX))
其中，φ(t)是X的特征函数，t是一个实数变量，i是虚数单位，E是数学期望操作。
特征函数的主要作用是描述随机变量X的概率分布以及其性质。
通过特征函数，可以推导出随机变量的各阶矩、特征值、协方差等统计量。
矩母函数（也称为矩生成函数）是随机变量X的矩序列所组成的函数。
对于一个随机变量X，其矩母函数定义为：
M(t) = E(e^(tX))
其中，M(t)是X的矩母函数，t是一个实数变量，E是数学期望操作。
矩母函数可以用于计算随机变量的各阶矩，包括均值、方差、偏度、峰度等。
通过矩母函数，可以推导出随机变量的统计性质，并进行概率分布的分析和比较。
总结起来，特征函数用于描述随机变量的概率分布形态，而矩母函数则用于计算随机变量的各阶矩及统计性质。
它们都是在概率论和数理统计中广泛应用的工具。
常见分布的矩母函数
常见分布的矩母函数为了更好地理解概率统计学中的常见分布，我们需要先了解矩和矩母函数的概念。
在统计学中，矩是数据分布的一个特征，它能够描述数据的中心位置和离散程度。
矩母函数是矩的生成函数，它能够表示矩的所有信息。
在本文中，我们将介绍四种常见分布的矩母函数：正态分布、泊松分布、指数分布和伽马分布。
正态分布是一种常见的连续型分布，也被称为高斯分布。
在统计学中，许多随机现象都可以用正态分布来描述，因为它服从中心极限定理。
正态分布的概率密度函数是：$$f(x)={1\over \sqrt{2\pi}\sigma}\exp \{-{1\over2}[(x-\mu )/\sigma]^{2}\},\quad-\infty <x<+\infty$$$\mu$ 是分布的均值，$\sigma$ 是方差。
正态分布的矩母函数是：我们可以通过对矩母函数求导数来得到分布的各个矩，例如：$$\mu_{1}=M'(0)=\mu$$$$\mu_{4}=M^{(4)}(0)=\mu^{4}+6\mu^{2}\sigma^{2}+3\sigma^{4}$$泊松分布是一种常见的离散型分布，它经常用于描述单位时间内事件发生的次数，比如电话呼叫、到达顾客、任务处理等等。
$$P(X=k)={e^{-\lambda}\lambda^{k}\over k!},\quad k=0,1,2,\ldots$$$\lambda$ 是单位时间内事件发生的平均次数。
泊松分布的矩母函数是：指数分布是一种常见的连续型分布，用于描述随机事件发生的等待时间。
对于一个服从指数分布的随机变量 $X$，它的概率密度函数是：$\alpha$ 和 $\beta$ 是分布的参数，$\Gamma(\cdot)$ 是欧拉伽马函数，它是阶乘函数的推广。
伽马分布的矩母函数是：$$\mu_{4}=M^{(4)}(0)={\alpha(\alpha+1)(\alpha+2)(\alpha+3)\over\beta^{4}}$$总结除了常见的四种分布，还有许多其他的分布也可以通过矩母函数来描述。
1.4.11.4特征函数的定义
，
i
则
MY
t
M n
i1 Xi
ait
20 X
X1,, X n 为n维实值随机向量，
t
M
t
t1，, E
tn e(
Rn，X的 矩 E X1t1 X ntn )
母 e
函数
X ,t
定
义
为
，
X
30 矩母函数与分布函数也是一一对应关系 .
13
E e i X ,t
n维实值随机向量的特征函数为n元函数.
10
矩母函数
概率空间,F , P 上实值随机变量X ,密度函数 为p x，t R，矩母函数定义为
MX t
E etX
etx p x dx
t 2 x2
1
tx
2!
t n xn
n!
p
x
dx
1 tEX t 2 E X 2 t n E X n
50 X t 一致连续.
0,
X t h X t eitx eihx 1 p x dx
a
e ihx 1 p x dx e ihx 1 p x dx 2 p x dx
a
x a
1) 取 a 充 分 大 ，使 得 2 p x dx
2） x a , 取 h x a
目录
条件期望 特征函数
1
目录
1.4 特征函数的定义
从傅里叶变换到特征函数，再到矩母函数
2
特征函数前传
一 、卷积
如果随机变量X 与Y 相互独立，则它们的和 Z X Y的密度函数等于X 与Y 密度函数的 卷积：
fZ z f X x * fY y
f Z z f X x fY z x dx
概率论的随机变量
概率论的随机变量概率论是数学中一门重要的学科，研究的是随机事件的概率性质和规律。
随机变量是概率论中的重要概念，它是描述随机现象的数值特征的变量。
本文将从概率论的角度出发，全面介绍随机变量及其相关概念和性质。
一、随机变量的定义和分类随机变量是概率论中的一种数值变量，它的取值由随机试验的结果决定。
一般来说，随机变量可以分为离散型随机变量和连续型随机变量两类。
离散型随机变量是只能取有限或可列无穷多个值的随机变量，其取值通常是整数。
例如，抛一枚硬币，用X表示正面朝上的次数，X可以取0、1这两个值。
连续型随机变量是能够取得某个区间内所有可能值的随机变量，其取值可以是实数。
例如，测量一个人的身高X，X可以是区间[150, 200]内的任意一个值。
二、随机变量的分布函数和密度函数对于任意一个随机变量，都可以通过分布函数或密度函数来描述其概率分布情况。
1. 分布函数（累积分布函数，Cumulative Distribution Function，简称CDF）：对于随机变量X，其分布函数F(x)定义为F(x) = P(X ≤ x)，表示X取值小于等于x的概率。
分布函数具有以下性质：（1）F(x)是一个非降函数；（2）对于任意的实数x1 < x2，有F(x1) ≤ F(x2)；（3）当x→-∞时，F(x)→0；当x→+∞时，F(x)→1。
2. 密度函数（Probability Density Function，简称PDF）：对于连续型随机变量X，其密度函数f(x)定义为在某个数轴区间内，随机变量落在该区间内的概率密度。
具体来说，密度函数f(x)满足以下性质：（1）f(x) ≥ 0，即密度函数非负；（2）∫f(x)dx = 1，即密度函数的积分等于1；（3）对于任意实数a ≤ b，有P(a ≤ X ≤ b) = ∫[a,b] f(x)dx。
三、随机变量的期望和方差随机变量的期望和方差是描述随机变量性质的两个重要指标。
第2章 随机变量-特征函数
例1.1 设随机变量X 服从退化分布, 即 P { X c } 1 求X 的特征函数.
( t ) E( e
jtX
) e
k
jtxk
pk
pk
( t ) e
k
jtxk
e jtC 1
e
jtC
例1.2 设随机变量X 服从参数为p 的0-1分布(两点分布), 求其特征函数.
e
jtX
cos tX j sin tX
( t ) E (e jtX ) E(cos Xt )+jE(sin Xt )
2. 特征函数的计算
e
jtX
cos( tX ) j sin( tX )
( t ) E (e
jtX
) e jtX dF ( x )
1 1 2
2 t n X n )
]
为n 维随机变量 ( X 1 , X 2 ,, X n ) 的特征函数. 其中t= (t1, t2, , tn) Rn
二、二维随机变量特征函数的性质 性质2.1 设随机变量 ( X ,Y ) 的特征函数为 ( t1 , t 2 ) ，则有
(1) (0,0) 1, 且对任意 t1 , t 2 R, | ( t1 , t 2 ) | (0,0) 1. (2) ( t1 , t 2 ) ( t1 , t 2 );
一、定义及例
1. 特征函数的定义
定义1.1 设X 是定义在概率空间 ( , F , P )上的随机变量, 它
jtX
的分布函数为 F ( x ), 称 e jtX 的数学期望 E (e
) 为X 的特征函数.