特征函数
特征函数与矩函数
根据概率分布的性质和公式，计算相应的矩函数。例如，对于离散型随机变量，可以使用概率质量函数和概率分布函 数来计算；对于连续型随机变量，可以使用概率密度函数和概率分布函数来计算。
数值法
对于一些复杂的概率分布，可以使用数值方法来近似计算矩函数。例如，蒙特卡洛方法可以用来模拟随 机变量的样本值，然后通过样本值的数学期望来近似计算矩函数。
05 特征函数与矩函数的扩展
广义特征函数与矩函数
定义
广义特征函数与矩函数是相对于经典的特征 函数与矩函数的扩展，它们在更广泛的意义 下描述了数据的统计特性。
性质
广义特征函数与矩函数具有更强的灵活性和适应性 ，能够更好地处理复杂的数据分布和异常值。
应用
在统计学、机器学习、数据分析等领域，广 义特征函数与矩函数被广泛应用于数据建模 、特征提取和异常检测。
03 特征函数与矩函数的应用
在概率论中的应用
特征函数用于描述随机变量的概率分布， 可以表示为复平面上的函数。通过计算特 征函数的导数，可以得到随机变量的各阶 矩，如均值、方差、偏度、峰度等。
特征函数还可以用于研究随机变量的 变换性质，例如，通过特征函数可以 推导出随机变量的变换规律，以及随 机变量的独立性、相关性等性质。
特征函数与矩函数
目录
• 特征函数 • 矩函数 • 特征函数与矩函数的应用 • 特征函数与矩函数的区别与联系 • 特征函数与矩函数的扩展
01 特征函数
定义与性质
定义
特征函数是概率论和统计学中的一个 概念，用于描述随机变量或随机过程 的特性。
性质
特征函数具有一些重要的性质，如实 部和虚部都是单调递减的，且实部和 虚部都是偶函数。
特征函数的性质
唯一性
概率论课件 特征函数
e jtX cos(tX ) j sin(tX )
(t ) E(e jtX )
cos(tx)dF( x) j sin(tx)dF( x)
e jtX dF ( x)
一、定义及例 1. 特征函数的定义 定义4.1.1 设X 是定义在概率空间(, F , P)上的随机变量, 它 的分布函数为F ( x), 称 e jtX 的数学期望 E(e jtX ) 为X 的特征函数. 有时也称为分布函数 F ( x) 的特征函数, 其中 j 1, t R.
( t ) E( e jtX ) e jtxk pk
k
( t
)
e itk
k0
ke
k!
e
（e it ）k
k0 k!
e e eit
e（eit -1）
例4.1.5 设随机变量X 服从 [a,a]的均匀分布, 求其特征函数.
(t) E(e jtX )
记X 的特征函数为X (t), 在不会引起混乱的情况下简写为 (t).
e jtX cos tX j sintX
(t) E(e jtX ) E(cos Xt )+jE(sin Xt )
3. 特征函数的计算 e jtX cos(tX ) j sin(tX )
(t ) E(e jtX )
X的特征函数就是x的函数的期望，此时的函数是 由X 构造出来的复值随机变量的期望。
例4.1.1 设随机变量X 服从退化分布, 即
求X 的特征函数.
P{X c} 1
( t ) E( e jtX ) e jtxk k
概率论_特征函数
概率论_特征函数特征函数（characteristic function）是概率论中一个非常重要的工具，它能够完全描述一个随机变量的分布，并且可以用来推导和证明一系列的性质和定理。
特征函数具有许多重要的性质，如唯一决定定理、独立性的性质、收敛性的性质等。
特征函数的定义如下：对于一个随机变量X，它的特征函数$\varphi(t)$定义为$E[e^{itX}]$，其中 i 是复数单位，t 是实数。
特征函数是关于 t 的复数函数，其实部和虚部分别是 $\cos(tx)$ 和$\sin(tx)$。
特征函数的一个重要性质是唯一决定性（uniqueness），即对于一个分布，它的特征函数是唯一确定的，并且确定了分布的所有性质。
这一性质使得特征函数成为一种描述概率分布的有效工具。
对于连续分布，特征函数可以通过概率密度函数和积分的关系得到，对于离散分布，特征函数可以通过概率质量函数和求和的关系得到。
另一个重要的性质是独立性的性质。
如果两个随机变量 X 和 Y 是独立的，那么它们的特征函数的乘积等于它们各自的特征函数的乘积。
即$\varphi_{X+Y}(t)=\varphi_X(t)\varphi_Y(t)$。
这个性质可以用来推导和证明随机变量的和的分布。
特别地，如果 X 和 Y 是独立同分布的，那么它们的特征函数的乘积等于它们特征函数的平方。
特征函数还有一个重要的性质是收敛性的性质。
对于一个随机变量序列X₁,X₂,...，如果它们的特征函数逐点收敛于一个函数，那么这个函数也是一个随机变量的特征函数，且收敛到的分布是弱收敛的。
这个性质可以用来证明中心极限定理等重要的结果。
特征函数在概率论和统计学中有广泛的应用。
它被用来推导和证明许多重要的定理，如中心极限定理、大数定律、极限理论等。
它还可以用来计算随机变量的矩、协方差、相关系数等统计量，并且可以用来推导各种分布族的性质。
特征函数的计算通常比较简单，只需计算指数函数的期望。
14特征函数讲解
14特征函数讲解特征函数是机器学习与统计学中一种常用的工具，用于描述样本数据的特征或属性。
在机器学习中，特征函数通常是由特征工程师根据实际问题设计的，通过将原始数据转化为能够被机器学习算法所处理的形式，提取样本数据中的关键特征。
特征函数的设计需要结合具体问题领域的背景知识和对数据的理解，以下将介绍14种常见的特征函数。
1.数值特征：最常见的一类特征函数，用于处理连续型数据。
例如，平均值特征函数计算样本数据的平均值，标准差特征函数计算样本数据的标准差。
2. 类别特征：用于处理离散型数据，通常使用独热编码（one-hot encoding）将类别特征转化为二进制向量表示。
3.多项式特征：生成原始特征的高次项或交叉项，可以增加特征空间的维度，提高模型的拟合能力。
例如，二次多项式特征函数生成原始特征的平方项。
4.对数特征：将原始特征取对数，常用于对长尾分布的数据进行处理，使其近似服从正态分布。
5.傅里叶变换特征：通过傅里叶变换将时域信号转换为频域信号，常用于处理信号或时间序列数据。
6. 尺度变换特征：通过对原始特征进行线性或非线性的尺度变换，如归一化（Normalization）将特征缩放到一定范围内。
7.统计特征：计算样本数据的统计量，如最大值、最小值、中位数、众数等。
8.元素组合特征：将多个特征的值进行组合，生成新的特征。
例如，求和特征函数将多个特征的值相加。
9.离散化特征：将连续型特征离散化为若干个区间，可以减少特征空间的维度和计算复杂度。
10.时序特征：处理时间序列数据的特征函数，例如，移动平均特征函数计算时间序列数据的滑动平均值。
11.图像特征：处理图像数据的特征函数，如灰度特征函数将彩色图像转化为灰度图像。
12.文本特征：处理文本数据的特征函数，如词袋模型特征函数将文本转化为词频向量。
13.物理特征：针对一些特定领域的问题设计的特征函数，如声音信号处理中的声音强度特征函数。
14.模型特征：使用其他模型的输出作为特征，如使用预训练的深度神经网络模型提取图像特征。
常见分布的特征函数
常见分布的特征函数特征函数概述特征函数是概率论和数理统计中的常用概念，它是一个复数函数，描述了随机变量的特征信息。
对于一个随机变量X，它的特征函数f(t)定义为：f(t) = E[e^(itX)]，其中i为虚数单位，E为期望运算符。
特征函数不仅对概率密度函数具有很好的描述和表达作用，还可以描述随机变量的各种性质，比如分布、矩和相关系数等。
下面将具体介绍几种常见的分布的特征函数。
1.正态分布正态分布是自然界中多种现象的分布模式，其概率密度函数在数学上也能很好地描述为高斯函数。
其特征函数如下：f(t) = e^(-t^2/2)该特征函数具有良好的解析性质和奇偶性质，能很好地反映正态分布的对称性和峰态。
2.泊松分布泊松分布是描述单位时间内某个随机事件发生次数的概率分布，例如单位时间内打进一个电话亭电话而来的电话数量、在网球场内接到的球的数量等。
其特征函数如下：f(t) = e^(λ(e^(it)-1))其中λ为单位时间内事件发生的平均次数。
3.指数分布指数分布是描述随机事件发生的时间间隔的概率分布，例如寿命、等待时间、顾客到达时间等。
其特征函数如下：f(t) = 1 / (1-it/λ)，其中λ为事件发生的平均速率。
4.卡方分布卡方分布是应用最广泛的概率分布之一，常用于分析样本差异性和偏离程度，例如方差分析、偏度分析、正态性检验等。
其特征函数如下：f(t) = (1-2it)^(-k/2)其中k为自由度。
5. beta分布beta分布是应用广泛的概率分布之一，常用于贝叶斯统计、假设检验、数据挖掘等领域。
其特征函数如下：f(t) = B(a+it,b-it) / B(a,b)其中B(a,b)表示beta函数，a,b为形状参数。
上述几种分布是常见的概率分布，它们的特征函数形式各不相同，但都能很好地反映分布的各种性质和特点，为进一步分析和研究提供了便利。
sympy中特征函数
sympy中特征函数特征函数是数学中的一种重要概念，它在很多领域都有广泛的应用。
在代数、概率论、数论等领域中，特征函数都起着非常重要的作用。
特征函数可以用来描述一个随机变量的性质，它可以完整地刻画一个随机变量的分布。
特征函数的定义非常简单，它是一个复数函数，通常记作φ(t)，其中t是一个实数。
对于一个随机变量X，它的特征函数φ(t)的定义为E(e^{itX})，其中E表示期望。
特征函数的定义中，e^{itX}是一个复数随机变量，它的实部是余弦函数，虚部是正弦函数。
特征函数的性质非常丰富，它可以用来描述随机变量的各种性质。
首先，特征函数的模长总是小于等于1，即|φ(t)|≤1。
这是因为特征函数是复数函数，|φ(t)|的取值范围是[0,1]。
其次，特征函数具有唯一性，即不同的随机变量有不同的特征函数。
特征函数还具有线性性质，即对于任意的实数a和b，有φ(at+b)=e^{itbx}φ(at)。
特征函数的另一个重要性质是它的连续性。
对于一个随机变量序列{X_n}，如果它们的特征函数φ_n(t)依点收敛到一个函数φ(t)，那么这个函数φ(t)也是一个特征函数。
这个性质在概率论中有广泛的应用，它可以用来证明中心极限定理等重要定理。
特征函数还有一个重要的应用是在推导和计算随机变量的分布时。
通过特征函数，我们可以得到随机变量的各种矩和累积分布函数。
特征函数可以通过傅里叶反演公式来恢复原始的分布函数，这在数值计算和统计推断中非常有用。
特征函数在数论中也有重要的应用。
例如，特征函数可以用来计算素数的分布情况。
根据素数定理，素数的分布与特征函数的零点有关。
特征函数的零点也与黎曼猜想有关，这是数论中一个著名的未解问题。
特征函数在代数中也有广泛的应用。
特征函数可以用来刻画一个群的性质，例如群的阶和子群的结构。
特征函数还可以用来定义一个群的表示，通过表示理论，我们可以研究群的性质和结构。
特征函数在数学中起着非常重要的作用，它可以用来描述随机变量的性质，推导和计算分布函数，刻画群的性质等。
随机过程及应用：预备知识：特征函数
e
jtxφ(t
)dt
反演公式
注
因
φ(t)
e
jtx
f
(
x)dx
对于连续型随机变量X，概率密度与特征 函数互为富氏变换.
特征函数
推论3 随机变量X 是离散型的,其分布律为
pk PX k, k 0,1,2.
则 φ(t ) pke jkt , t R. k
1
pk 2π
π e j tkφ(t )dt
φ(t) e jt0(1 p) e jt1 p 1 p pe jt q pe jt , t R.
Ex.3 二项分布 φ(t) (q pe jt )n , t R
Ex.4 泊松分布 φ(t ) e(e jt 1) , t R
Hale Waihona Puke 特征函数Ex.5 指数分布
ex ,
f (x) 0,
e
jtxdF
(
x)
求随机变 量函数的 数学期望
注 1）t R, costx 和 sintx 均为有界函数, 故
E(e jtX ) 总存在.
2) E(e j是tX )实变量t 的函数.
特征函数
定义5.1 设X是定义在(Ω,F , P )上的随机变 量,称
φ(t ) E(e jtX )
e
jtxdF
π
反演公式
证 设 s 有N ,
πe jtsφ(t )dt π
π π
pk e jkte jtsdt
k
特征函数
π
π psdt
π π
pke
jt(k s)dt
2ps
0
k
ks
其中当k s时
π
e
jt(k s)dt
1.4.11.4特征函数的定义
，
i
则
MY
t
M n
i1 Xi
ait
20 X
X1,, X n 为n维实值随机向量，
t
M
t
t1，, E
tn e(
Rn，X的 矩 E X1t1 X ntn )
母 e
函数
X ,t
定
义
为
，
X
30 矩母函数与分布函数也是一一对应关系 .
13
E e i X ,t
n维实值随机向量的特征函数为n元函数.
10
矩母函数
概率空间,F , P 上实值随机变量X ,密度函数 为p x，t R，矩母函数定义为
MX t
E etX
etx p x dx
t 2 x2
1
tx
2!
t n xn
n!
p
x
dx
1 tEX t 2 E X 2 t n E X n
50 X t 一致连续.
0,
X t h X t eitx eihx 1 p x dx
a
e ihx 1 p x dx e ihx 1 p x dx 2 p x dx
a
x a
1) 取 a 充 分 大 ，使 得 2 p x dx
2） x a , 取 h x a
目录
条件期望 特征函数
1
目录
1.4 特征函数的定义
从傅里叶变换到特征函数，再到矩母函数
2
特征函数前传
一 、卷积
如果随机变量X 与Y 相互独立，则它们的和 Z X Y的密度函数等于X 与Y 密度函数的 卷积：
fZ z f X x * fY y
f Z z f X x fY z x dx
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
特征函数 (概率论)
维基百科，自由的百科全书
跳转到：导航, 搜索
在概率论中，任何随机变量的特征函数完全定义了它的概率分布。
在实直线上，它由以下公式给出，其中X是任何具有该分布的随机变量：
，
其中t是一个实数，i是虚数单位，E表示期望值。
用矩母函数M X（t）来表示（如果它存在），特征函数就是iX的矩母函数，或X 在虚数轴上求得的矩母函数。
与矩母函数不同，特征函数总是存在。
如果F X是累积分布函数，那么特征函数由黎曼-斯蒂尔切斯积分给出：。
在概率密度函数f X存在的情况下，该公式就变为：。
如果X是一个向量值随机变量，我们便取自变量t为向量，tX为数量积。
R或R n上的每一个概率分布都有特征函数，因为我们是在有限测度的空间上对一个有界函数进行积分，且对于每一个特征函数都正好有一个概率分布。
一个对称概率密度函数的特征函数（也就是满足f X(x) = f X(-x)）是实数，因为从x>0所获得的虚数部分与从x<0所获得的相互抵消。
目录
[隐藏]
• 1 性质
• 2 连续性
o 2.1 反演定理
o 2.2 博赫纳-辛钦定理/公理化定义
o 2.3 计算性质
• 3 特征函数的应用
o 3.1 矩
o 3.2 一个例子
• 4 多元特征函数
o 4.1 例子
• 5 矩阵值随机变量
• 6 相关概念
•7 参考文献
[编辑]性质
[编辑]连续性
主条目：勒维连续定理
勒维连续定理说明，假设为一个随机变量序列，其中每一个都有特征函数，那么它依分布收敛于某个随机变量：
当
如果
当
且在处连续，是的特征函数。
勒维连续定理可以用来证明弱大数定律。
[编辑]反演定理
在累积概率分布函数与特征函数之间存在双射。
也就是说，两个不同的概率分布不能有相同的特征函数。
给定一个特征函数φ，可以用以下公式求得对应的累积概率分布函数F：。
一般地，这是一个广义积分；被积分的函数可能只是条件可积而不是勒贝格可积的，也就是说，它的绝对值的积分可能是无穷大。
[1]
[编辑]博赫纳-辛钦定理/公理化定义
主条目：博赫纳定理
任意一个函数是对应于某个概率律的特征函数，当且仅当满足以下三个条件：
1.是连续的；
2.；
3.是一个正定函数（注意这是一个复杂的条件，与不等价）。
[编辑]计算性质
特征函数对于处理独立随机变量的函数特别有用。
例如，如果X1、X2、……、X n 是一个独立（不一定同分布）的随机变量的序列，且
其中a i是常数，那么S n的特征函数为：
特别地，。
这是因为：。
注意我们需要和的独立性来确立第三和第四个表达式的相等性。
另外一个特殊情况，是且为样本平均值。
在这个情况下，用表示平均值，我们便有：。
[编辑]特征函数的应用
由于连续定理，特征函数被用于中心极限定理的最常见的证明中。
[编辑]矩
特征函数还可以用来求出某个随机变量的矩。
只要第n个矩存在，特征函数就可以微分n次，得到：
例如，假设具有标准柯西分布。
那么。
它在处不可微，说明柯西分布没有期望值。
另外，注意到个独立的观测的样本平均值具有特
征函数，利用前一节的结果。
这就是标准柯西分布的特征函数；因此，样本平均值与总体本身具有相同的分布。
特征函数的对数是一个累积量母函数，它对于求出累积量是十分有用的；注意有时定义累积量母函数为矩母函数的对数，而把特征函数的对数称为第二累积量母函数。
[编辑]一个例子
具有尺度参数θ和形状参数k的伽玛分布的特征函数为：。
现在假设我们有：
且
其中X和Y相互独立，我们想要知道X + Y的分布是什么。
X和Y特征函数分别为：
根据独立性和特征函数的基本性质，可得：。
这就是尺度参数为θ、形状参数为k1 + k2的伽玛分布的特征函数，因此我们得出结论：
，
这个结果可以推广到n个独立、具有相同尺度参数的伽玛随机变量：。
[编辑]多元特征函数
如果是一个多元随机变量，那么它的特征函数定义为：。
这里的点表示向量的点积，而向量位于的对偶空间内。
用更加常见的矩阵表示法，就是：。
[编辑]例子
如果是一个平均值为零的多元高斯随机变量，那么：
其中表示正定矩阵Σ的行列式。
[编辑]矩阵值随机变量
如果是一个矩阵值随机变量，那么它的特征函数为：
在这里，是迹函数，表示与的矩阵乘积。
由于矩阵XT一定有迹，因此矩阵X必须与矩阵T的转置的大小相同；因此，如果X是m×n矩阵，那么T必须是n×m矩阵。
注意乘法的顺序不重要（但）。
矩阵值随机变量的例子包括威沙特分布和矩阵正态分布。
[编辑]相关概念
相关概念有矩母函数和概率母函数。
特征函数对于所有概率分布都存在，但矩母函数不是这样。
特征函数与傅里叶变换有密切的关系：一个概率密度函数的特征函数是的连续傅里叶变换的共轭复数（按照通常的惯例）。
其中表示概率密度函数的连续傅里叶变换。
类似地，从可以通过傅里叶逆变换求出：。
确实，即使当随机变量没有密度时，特征函数仍然可以视为对应于该随机变量的测度的傅里叶变换。