1-2 信源熵-习题答案

意义:
频率大小表示事件A发生的频繁程度。频率愈 大，事件A发生愈频繁。这意味着A在一次试验中发 生的可能性愈大。
由频率的性质容易推出：
(1).不可能事件的频率为零，即 f n ( ) 0 ；
(2).若A B ，则 f n ( A) f n ( B) ，由此还可推得
对任一事件 A 有 f n ( A) 1
但是否可以说“频率以概率为极限”呢？？？ 实际中，当概率不易求出时，人们常通过作大量 试验，用事件出现的频率去近似概率.
请同学们思考. 医生在检查完病人的时候摇摇头：“你的 病很重，在十个得这种病的人中只有一个能救活 .” 当病人被这个消息吓得够呛时，医生继续说：
“但你是幸运的．因为你找到了我，我已经看过
九个病人了，他们都死于此病.” 医生的说法对吗?
二、事件的概率
定义:
随机事件 A 发生可能性大小的度量(数值) 称为 A 发生的概率,记作 P ( A) . 由于频率的本质就是概率，所以概率也应该 具有频率的性质.事实上,抽象地看概率是定义在 事件域上的集函数。
性质:
设 P 是定义在事件域ℱ上的概率函数，则具有 如下性质：
例3: 某接待站在某一周曾接待过 12次来访,已知 所有这 12 次接待都是在周二和周四进行的,问是 否可以推断接待时间是有规定的. 解 假设接待站的接待时间没有 规定,且各来访者在一周的任一天 中去接待站是等可能的. 7 1 周一 7 2 周二 7 3 周三 7 4 周四

周五
7 12 周六 周日
设 A=｛第k次取出的球是黑球｝,
a 1 C a b 1 a 所以 P( A) a Cab ab
由于我们只关心第 k 次摸球的结果，因此可以将第 k 【解3】 次摸球的结果设为样本点.所有第 k 次摸球的全部可能结果 为样本空间，设想 a
b 只球是不同的.
设 i k次摸出第i号球, 则样本空间 第
从上述数据可得
(1) 频率有随机波动性,即对于同样的 n, 所得的
f 不一定相同;
(2) 抛硬币次数 n 较小时, 频率 f 的随机波动幅
度较大, 但随 n 的增大 , 频率 f 呈现出稳定性.即 当 n 逐渐增大时频率 f 总是在 0.5 附近摆动, 且 逐渐稳定于 0.5.
实验者 德 摩根 蒲丰 K 皮尔逊 K 皮尔逊
回顾
1. 随机试验、样本空间与随机事件的关系 随机试验 样本空间 子集 随机事件
基本事件 随 机 复合事件 事 必然事件 件 不可能事件
2. 概率论与集合论之间的对应关系
§1.2
概率和频率
一、事件的频率 二、事件的概率 三、小结
※
频率和概率的关系
概率的直观意义: 一般来讲,一个随机试验的
(甲正 乙正）（甲 乙正） （甲反 乙反） 正
(因为 甲正 甲反 n 1, 乙正 乙反 n,
所以, 甲正 乙正 ) （甲反 乙反） 因为硬币是均匀的，由对称性知
P(甲正 乙正） P(甲反 乙反）
1 由此可得 P(甲正 乙正） 2
1 2 3 4 5 6 7 2 3 0.4 0.6
n 500 f nH
0.44 251 22 0.502 1 在 处波动较大 249 25 0.50 0.498 2 呈现出稳定性 随n的增大, 频率 f 0.2 1 21 0.42 256 0.512 5 1.0 1 25 0.50 247 0.494 在 处波动较小 1 24 0.48 0.2 2 251 0.502 波动最小 2 18 0.36 262 0.524 0.4 4 0.8 0.54 258 0.516 27
(2) 它必须符合一般常情 例如,事件发生的可能性大它的值就大;事件发生的 可能性小,它的值就小;必然事件的值最大,不可能事件 的值最小等于零.
一.事件的频率
定义:
在相同的条件下, 进行了 n 次试验 , 在这 n
次试验中, 事件 A 发生的次数 nA 称为事件 A 发 nA 生的频数.比值 称为事件 A 发生的频率, 并记 n 成 f n ( A).
各种事件出现的可能性大小不一.研究随机事件不 仅要知道它可能出现那些事件,更重要的是要研究 各种随机事件出现可能性的大小, 揭示出现这些事 件的内在统计规律. 所以,我们必须有一个刻划事件
发生可能性的数量指标.这个数量指标至少应该满 足两个要求:
(1) 它应具有一定的客观性,不能随意改变
理论上可以通过在”相同条件下”大量的重复试 验予以识别和检验.
请看动画演示
单击图形播放/暂停 ESC键退出
结论:
频率当 n 较小时波动幅度比较大，当 n 逐渐增 大时，频率趋于稳定值，这个稳定值从本质上反映了 事件在试验中出现可能性的大小． 稳定值即是概率(P)． 对于较大的n,n次试验中事件A的频率，一般与事 件A的概率P相差不大，试验次数n越大，频率与概率 有较大偏差的情形就越少见(即 非常“靠近”).
2. 古典概型中事件概率的计算公式
对于任意一个事件A∈ℱ ，如果A是k个基本事件的和， 即：
A i1 i2 ik
则
k A中所含的基本事件数 P( A) n 基本事件数
A的有利事件数 基本事件数
不难验证上述概率的确具有非负性，规范性和有 限可加性。
二. 典型例题
注：巧妙利用“对称性”.
补例
掷硬币 2n 1 次,求出现的正面次数多于反面的概率.
正面次数 反面次数 解 A B 反面次数 正面次数
显然 B A
正面次数 反面次数 B 反面次数 正面次数
1 另外,由对称性知,P ( A) P ( B ) 2 1 P( A) 所以, 2
古典概率计算举例 抽球问题
在随机抽奖过程中不会因抽奖的先后次序不 同而使得“中奖” 的可能性大小有所变化。
例1：袋中有a只黑球，b只白球，它们除颜色不同外，没有其
它方面的差别，现在随机地把球从袋中一只一只地取出来,求 第 k 次取出的一只是黑球的概率（1 ka+b）。 把a只黑球及b只白球都看作是不同的(例如设想把 【解1】 它们进行编号),把球一一取出,排成一列． 不同的排列结果 有(a+b)！种， 第k个位置上是黑球（即第k次取出的是黑球）的不同 取法有a(a+b-1)!种。 设A表示事件“第k 次取出的是 黑球” ，则: a(a b 1)! a
三、小结
1. 频率 (波动) n 概率(稳定).
2、概率的定义和性质 问题 对一个随机事件A，如何寻求他的概率P(A)?
§1.3 古典概型
一、古典概型 二、典型例题 三、几何概率 四、小结
一、古典概型
引例：一个袋子中装有10个大小、形状完全 相同的球. 将球编号为1－10 .把球搅匀，蒙上 眼睛，从中任取一球.
（1）样本空间的元素（即基本事件）只有有限个，
设为 n 个, 并记它们为 1， 2， n . （2）每个基本事件出现的可能性是相等的，即有
P( 1) P( 2 ) P( n )
这种试验对应的数学模型为古典概型。
1, 2, ,,
n

注： (1)设古典概型的样本空间为 1, 2, ,, 事件域ℱ为 的所有子集(事件)的全体.则
10个球中的任一个被取出 的机会是相等的，均为1/10.
2
如i=2
i 表示取到i号,i=1,2,…,10。
则该试验的样本空间： ={1,2,…,10}, 且每个样本点(或者说基本事件)出 现的可能性相同。
---古典概型.
8 5 8 9 19 4 6 7 2 3 10
1.定义 若一个随机试验有下列特征：
故一周内接待 12 次来访共有 712 种.
2 1
2
2 3
2 4

2 12
周一 周二 周三 周四 周五 周六 周日
12 次接待都是在周二和周四进行的共有 212 种. 故12 次接待都是在周二和周四进行的概率为
212 p 12 0.0000003 . 7
小概率事件在实际中几乎是不可能发生的 , 从 而可知接待时间是有规定的.
P( A)
(a b)!

ab
【解2】把a只黑球看作没有区别，b 只白球也看作没有区别（即
只有黑、白两种颜色的球），今依次排列的a+b个位置，

将球依次从袋中取出放到这a+b个位置上。
把a只黑球的位置固定下 来，则其它位置必定是白 球，而黑球所占有位置的 Ca b 种。 情况有 a 第k个位置上必定是黑球时，其它黑球的不同放法有 C a 1 1 种。 ab
例1: 在盒子中有十个相同的球，分别标为号码1,2, …,10 从中任取一球，求此球的号码为偶数的概率。 解：法一
令 i 所取球的号码为, i
则 ， 10， 10 1 2， n
i 1,2,10,
4，8， A 所取球的号码为偶数 2，6，10, k 5
(3).对有限个两两不相容的事件（即任意两个事件 互不相容），频率具有可加性：
即若
则
Ai Aj (1 i, j m, i j)
f n ( Ai ) f n ( Ai ).
i 1 i 1 m m
实例 将一枚硬币抛掷 5 次、50 次、500 次, 各做 7 遍, 观察正面出现的次数及频率. n5 n 50 试验 序号 nH f f nH
事件域ℱ {, , A, A} 由 A 和 A 的对称性即得
例 2:甲、乙两人掷均匀硬币,其中甲掷n+1次,乙掷n 次.求“甲掷出正面次数大于乙掷出正面次数”概率.
解: 令
甲正=甲掷出的正面次数
甲反=甲掷出的反面次数