信息度量的故事
人教版小学数学度量衡的故事

人教版小学数学度量衡的故事《大禹和准绳》在很久以前,大地洪水滔滔,人们被洪水围困毫无办法。
大禹带着人们治水,这洪水滔滔,眼看着淹到了半山腰上,人们都不知道该如何让这洪水流走。
有人说,我们把他堵住,就可以把水变少了,可是这个办法他的爸爸以前试过,根本行不通。
他想,水善向下流,我何不在水旁边找更低的地方,看有没有办法让他朝着更低的地方流走?于是他就测量山川的高度和深度,有的山望着不高,可是却瞒不过大禹手中的准绳。
他有一个带着距的准绳,拿着这个绳子走到山顶,大禹就能够知道这座山是高是低。
人们都钦佩他的能干。
在他测量过的地方,每次人们开山凿石,仿佛这水就听大禹的话,他让凿哪里,水就流向哪里。
最后终于洪水全部归于大海。
土地重新露了出来。
大禹的那个丈量长度的准绳非常长,而且上面用绳结结成了一个个等距离的小节,每一节之间的距离是相等的。
《foot的来由》大家知道身体的长度经常是根据人的身高而变化的,而很多人手头用来量长短的,就靠一双手,或一双脚。
有时候就连国王都头疼,经常交上来的国土的数据是不准确的,因为每个用脚丈量土地的人,脚都不一样大。
一个晴朗的周日的早晨,在一座宏伟的教堂前,国王的贴身大臣,等在教堂门口,教堂中美妙的圣歌正在连绵不断的传出来。
终于圣歌结束,人们结束了祈祷。
大臣走到主教身边跟大家说:“亲爱的臣民们。
国王陛下让我制作一份最标准的尺子,他的长度将大概等于一位成年男子的脚的长度,我们不想得到一个巨人的脚,也不想得到一个矮人的脚,我们需要大家的帮忙。
请先出门的16为绅士站在教堂门口,大家把左脚一个挨着一个,排成直线,我们将把这条由16只脚组成的直线平均分16份,这样的话,就得到了一个最平均的脚的长度。
我将把这个长度交给陛下。
他会把这个长度公布给大家,统一测量不同的物品。
”于是最先出门的16个人站成了一列,左脚的脚尖挨着前面的人的脚跟。
大臣用绳子取得了他们16个脚的长度。
最后他平均成了1只脚的长度,用一个金属标识清晰的记录下来,存入了国王的宝库中。
度量衡简短小故事

度量衡简短小故事
从古至今,度量衡一直是人们生活的重要组成部分。
据说在中国
的商周时期,就已经有度量衡制度存在了。
随着社会的发展,度量衡
的应用范围也逐渐扩大,成为了商业、科学、化学甚至体育等各个领
域必不可少的一部分。
有一天,小明去超市买了一瓶牛奶和一袋鸡蛋,收银员告诉他:“你买的鸡蛋是十二只,牛奶是一升。
”小明本来很开心,但是当他
到家后发现鸡蛋竟然只有十个!他立刻打电话给超市,进行了投诉。
通过调查,商家发现是商家的计量器有误差,导致了误差计算不准确。
这就是应当引起人们关于度量衡重要性的思考。
如果度量衡不准确,就容易导致市场的混乱,甚至影响到人们的身体健康。
因此,所
有的度量衡必须经过权威机构的认证并得到合格证书。
只有这样,才
能保证市场秩序的稳定和安全。
随着科学技术的进步,度量衡也在不断地更新和完善。
如今,出
现了电子计量器等高科技产品,它们具有更高的精确度和稳定性,为
各行各业提供了更为准确的数据和更好的服务。
总之,正因为度量衡的重要性,我们必须重视它,从而不断完善
和更新度量衡标准,确保整个社会的公平公正性,保持市场健康有序
的状态。
信息论——信息的度量

信息论——信息的度量信息的度量 信息具可度量性,其⼤⼩取决于信息所消除的不确定性 举例如下: 消息A:中国⼥⼦乒乓球队夺取亚运会冠军。
消息B:中国男⼦⾜球队夺取世界杯赛冠军。
从事件的描述上来看,其主题内容⼤致相同,那么我们是否可以认为事件A和事件B具有相同的信息量呢?显然是不⾏的。
根据以往经验,我们可以认为事件A是⼀个⼤概率事件,所以事件A的不确定性⽐较⼩,故当事件A发⽣时,我们从这个消息中得到的信息(消除的不确定度)很⼩。
同理对事件B⽽⾔,由于是个极⼩概率事件,我们得到的信息很⼤。
由此我们可以推断:消息B的信息量⼤于消息A。
对于⼀个事件X,我们假设其不确定性为 I(p1) ,其中 p1 是事件X的先验概率。
对应于事件X的消息X所消除的不确定性为 I(p2)。
那么在我们获取了消息X之后,事件X的不确定性就变为了 I(p1)-I(p2) ,由此我们可以知道当我们对⼀个事物的信息获取的越多,其不确定性就越⼩,当其不确定性变为0时,该事件就被确定下来了,我们对其⽆法再获取更多的信息量了。
直观定义: 收到某消息获取的信息量=不确定性减少量=收到该消息前后某事件的不确定性差信息量的数学表⽰ 理论依据(信息量具有的性质): 1.⾮负性对于⼀个事件⽽⾔,当事件被完全确定时,即我们⽆法获取更多信息时,其信息量为0,因此⽆法⽐0更⼩。
2.单调性是先验概率的单调递减函数,即某事件的发⽣概率越⼤,其信息量就越⼩。
3.对于事件A 若 P(a)=0 则 I(Pa)=+∞ 若 P(a)=1 则 I(Pa)=0。
4.两个独⽴事件的联合信息量应等于它们分别的信息量之和。
I(xi)具有两个含义: 1.事件发⽣前,表⽰该事件发⽣的不确定性。
2.事件发⽣后,表⽰该事件所提供的信息量。
术语解释 先验概率(prior probability)是指根据以往经验和分析得到的概率。
度量衡小故事

度量衡小故事在一个古老的小村庄里,有一个非常勤劳的小贩,他经营着一家小店,出售各种食品和日常用品。
这个小贩以他的公平和诚实而为人所称赞。
有一天,一个陌生人来到了小贩的店里,他想买一些大米。
小贩称了一袋大米并告诉陌生人价格。
陌生人觉得价格太高了,他要求对大米进行称重。
于是小贩拿出一个秤,将大米倒入秤盘上。
可是陌生人突然说:'这个秤看起来好像有问题,你能给我用一个能称出准确重量的秤吗?'小贩微笑着回答:'我可以用我的另一个秤,它是我在另一个商家那里购买的,我相信它的准确性。
'陌生人同意了,小贩拿出另一个秤,将大米重新称重。
这次,重量与之前的一致。
陌生人满意地购买了大米,离开了店铺。
几天后,陌生人回到了小贩的店里。
这一次,他想购买一些面粉。
小贩称了一袋面粉,并告诉陌生人价格。
陌生人又一次要求对面粉进行称重。
小贩拿出了他相信的那个秤,将面粉放在秤盘上。
然而,陌生人又一次抱怨秤的准确性。
小贩感到非常困惑,他决定找到另一个商家借一台精密的秤。
小贩重复了前面的步骤,这次使用了新秤进行称重。
然而,这次的重量仍然与之前的一致。
小贩不解地问道:'我已经使用两台不同的秤了,它们都显示同样的重量。
难道你认为这两台秤都有问题吗?'陌生人看着小贩的困惑表情,突然脸上露出了微笑,他说:'实际上,我是一个度量衡官员,我专门负责检查商家的秤是否准确。
你的秤经过了我的测试,它是非常准确的。
我只是想测试你是否对自己的商品质量有自信。
你以诚实和公平而闻名,我非常愿意与你合作。
'小贩听到这些话,感到非常欣慰和放心。
从那天起,小贩的生意蒸蒸日上,他的店铺成为了村里最受欢迎的地方。
这个故事告诉我们,诚实和公平是成功的关键。
度量衡的准确性不仅仅是商家的责任,也是一个社会的责任。
只有当我们相信他人的诚实,我们才能建立起一个和谐的社会。
信息及其度量

第1章 绪论
I = log a
1 = log a P( x ) P( x)
– 上式中对数的底: 若a = 2,信息量的单位称为比特(bit) ,可简记为b 2,信息量的单位称为比特(bit) ,可简记为b 若a = e,信息量的单位称为奈特(nat), ,信息量的单位称为奈特(nat), 若 a = 10,信息量的单位称为哈特莱(Hartley) 。 10,信息量的单位称为哈特莱(Hartley) – 通常广泛使用的单位为比特,这时有
I 108 I= = = 1.89 每个符号的算术平均信息量为 (比特 / 符号) 符号数 57
第1章 绪论
若用熵的概念来计算:
3 3 1 1 1 1 1 1 H = log 2 log 2 log 2 log 2 8 8 4 4 4 4 8 8 = 1.906 (比特/ 符号)
则该消息的信息量
【解】此消息中,“0”出现23次,“1”出现14次,“2” 此消息中,“ 出现23次,“ 出现14次,“ 出现13次,“ 出现7次,共有57个符号,故该消息的 出现13次,“3”出现7次,共有57个符号,故该消息的 信息量
I = 23log2 8 / 3 + 14 log2 4 + 13log2 4 + 7 log2 8 = 108 (b)
– 模拟通信系统: 有效性:可用有效传输频带来度量。 可靠性:可用接收端最终输出信噪比来度量。
第1章 绪论
– 数字通信系统 有效性:用传输速率和频带利用率来衡量。
– 码元传输速率RB:定义为单位时间(每秒)传送码元的数 1 R B = ),简记为B。 目,单位为波特(Baud ( B) 目,单位为波特(Baud),简记为B T 式中T - 码元的持续时间(秒) – 信息传输速率Rb:定义为单位时间内传递的平均信息量或 比特数,单位为比特/ 比特数,单位为比特/秒,简记为 b/s ,或bps ,或bps
度量衡数学小故事

度量衡数学小故事从前,有一个小村庄,村庄里的人们都非常勤劳,他们过着简单而幸福的生活。
然而,在村庄的边缘,有一块神秘的土地,被一座高耸的山峰所覆盖。
人们传说,山峰的顶端隐藏着一个神奇的度量衡宝库,里面蕴藏着无尽的智慧和力量。
村庄里有一个叫小明的聪明而好奇的孩子。
他经常听大人们谈论这个神秘的宝库,渴望能够亲眼目睹它的奇迹。
有一天,他鼓起勇气,决定向山峰进发,寻找那个传说中的度量衡宝库。
小明踏上了漫长而艰辛的旅程。
他穿过茂密的森林,攀爬陡峭的山脉,一路上遇到了各种困难与考验。
但是他不屈不挠,始终坚信自己会找到宝库。
终于,小明爬到了山顶。
眼前的景象让他目瞪口呆。
一个巨大而华丽的宝库出现在他面前。
宝库里面摆满了各种形状、大小和颜色的度量衡工具,如尺子、秤砣、天平等。
它们有的金碧辉煌,有的晶莹剔透,每一样都散发出强大的力量和无穷的智慧。
小明走进宝库,他发现有一个智者正在那里等待着他。
智者告诉小明,这个宝库实际上是一道数学考验,只有通过解决数学问题才能获得度量衡的力量和智慧。
智者给了小明一道题目:“宝库里有一块长度为10个单位的棍子,请你用这个棍子来测量一个长方形的长和宽,使得长和宽的和最大。
”小明按照智者的要求思考了一会儿。
根据他在学校学到的知识,他意识到,长和宽的和最大,意味着长和宽要尽可能地相等。
于是他将这根棍子分成两段长度相等的部分,把它们分别放在长方形的两个边上。
这样就形成了一个正方形,长和宽相等,和最大。
智者看到小明的答案后,满意地笑了笑,并解释道:“这个问题其实是求解一个优化问题,在数学中被称为极值问题。
通过合理地运用你已经掌握的知识,你成功地找到了最佳答案。
度量衡就是这样,它帮助我们在生活中解决各种问题,寻找最佳的解决方案。
”小明心悦诚服地接受了智者的教诲,并且请求智者再给他出一道题目。
智者满意地点了点头,说道:“好吧,接下来我将给你一道更复杂的问题。
宝库里有一对秤砣,一块重100克,另一块重200克。
与度量衡有关的历史故事

目录
• 引言 • 国王命令 • 新的度量衡体系的推广
01 引言
引言
在遥远的古代,有一个叫做“平 衡国”的地方。这个国家的名字 源于他对公平和公正的深深热
爱。
平衡国人民对公平和公正有着深 深的热爱,这在他们独特的度量
衡体系中表现得淋漓尽致。
在那个时代,度量衡并非像我们 现在所理解的那样简单,而是一 种深深植根于文化、经济和社会
尽管新的度量衡体系在推广过程中遇到了困难,但只要我们坚持公正和公平的原 则,就一定能创造出更加精确、公正的度量衡体系。
为社会的进步和发展做出贡献。
THANKS FOR WATCHING
感谢您的观看
的象征。
02 国王命令
国王命令
平衡国的国王,明智而公正,他意识到一个准确的度量衡体系对于国家的发展至关 重要。
为了推广新的度量衡体系,他命令最聪明的智者们研发一套全新的度量衡标准。
智者们夜以继日地工作,最终创造出了一套既精确又实用的度量衡体系,被称为“ 天平准则”。
03 新的度量衡体系的推广
新的度量衡体系的推广
信息论第2章 信息的度量

4
甲地极端情况: 极端情况1:晴天概率=1
X 晴 阴 大雨 小雨 P( x) 1 0 0 0 H ( X ) 1 log1 0 log0 0 log0 0 log0
lim log 0 H ( X ) 0(bit / 符号 ) 0 极端情况2:各种天气等概率分布
2.2.1 平均自信息(信息熵)的概念
定义2.3 随机变量X的每一个可能取值的自信息I(xi)的统计平 均值定义为随机变量X的平均自信息量:
H ( X ) E I ( xi ) p( xi ) log p( xi )
i 1 q
这里q为的所有X可能取值的个数。 熵的单位也是与所取的对数底有关,根据所取的对数底 不同,可以是比特 / 符号、奈特 / 符号、哈特莱 / 符号或者 是r进制单位/符号。通常用比特/符号为单位。 一般情况下,信息熵并不等于收信者平均获得的信息量, 收信者不能全部消除信源的平均不确定性,获得的信息量将 小于信息熵。
乙地极端情况:
极端情况1:晴天概率=1 Y 晴 小雨 P( y ) 1 0 H (Y ) 1 log1 0 log0 0(bit / 符号)
极端情况2:各种天气等概率分布
Y 晴 阴 P ( y ) 1/2 1/2
H ( X ) pi log pi H ( p1 , p2 ,
i 1 q
, pq ) H (p)
熵函数H(P)具有以下性质: 对称性
H ( p1, p2 , , pq ) H ( p2 , p1, , pq )= = H ( pq , p1, , pq1 )
说明熵函数仅与信源的总体统计特性有关。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
摘自《少年百科知识文库》中“年轻的信息科学”片段今天约好由叔叔向小伙伴们介绍信息科学的基础知识!……“叔叔,您刚才讲到的这么多内容,我觉得似乎都是有关信息本质的定性化的内容,那么,信息是否有定量化方面的性质呢?”“有的,最常见的就是我们对信息的度量。
信息像其它事物一样,是有其数量大小的。
我们通常是用尺来度量物体的长度,以‘米’作单位;用秤来度量物质的重量,以‘千克’作单位;用温度计来度量物体的温度,通常以‘摄氏度’作单位,等等。
”“那么,怎样来度量信息的大小呢?它以什么作单位呢?由于长期以来,人们对信息的认识是模糊的,虽然历史上人们曾经设法度量信息,但是方法很不科学。
只是经过几千年的漫长历程以后,到了20 世纪20 年代,才找了度量信息的科学方法。
遗憾的是,这种科学方法,现在还有许多人不知道,他们还是沿用过去的老办法来度量信息。
因此,在我们谈度量信息这一问题时,有必要先谈谈过去度量信息的老办法,它为什么不科学,然后再谈度量信息的科学方法。
”“叔叔,过去量度信息用的是什么方法呢?”细敏急不可待地问道。
“为了说明这个问题,我先给你们讲个故事。
”叔叔看到小伙伴如此感兴趣,情不自禁地笑了。
他接着说:“传说,在我国春秋战国时期,魏王命令大臣庞葱到赵国的首都邯郸去办一件事情。
临行前,庞葱对魏玉说;如果忽然有人向大王报告说,城里大街上有一只老虎,大王相信吗?魏玉说:不相信。
庞葱说:再有一个人又来报告,城里大街上发现了老虎,大王相信吗?魏王说:我还是不大相信。
庞葱说:第三个人又来报告说,老虎正在城里大街上奔跑,大王相信吗?魏王说:那我就相信了。
庞葱说:很清楚,街上没有老虎,三个人说有老虎,大王就相信了。
邯郸离这里比大街离王宫远得多,而在大王面前说我闲话的恐怕不止三个人,大王可要好好考虑考虑啊……”“从这个故事来看,魏王是用消息的多少来度量信息的。
一个人说谎,他不信。
三个人说谎,他就信了。
把消息混同为信息,用消息的多少来衡量信息的多少,这就是人们几千年来度量信息的古老方法。
”“人们往往以为,收到的消息数量越多,获得的信息就越多。
其实,这是很不科学的。
因为信息不等于消息。
信息只是消息中所包含的内容,消息只是信息的形式,这两者是有区别的。
有客观内容的消息包含着信息,没有客观内容的消息并不包含信息。
你得到的消息全是谎言、废话,或者是你已经知道的东西,那还有什么信息呢?相反,你只得到一条简短的消息,但其中包含许多客观内容,都是你以前所没有听到过的,那你就获得了比较多的信息。
所以,用收到的消息的多少来衡量获得的信息的多少,是没有办法量度出信息的多少的。
”“然而,千百年来,很少有人明白这个道理。
人们习惯于用收到的消息的多少来衡量信息。
这一方面是由于科学的发展还没有达到今天的地步,另一方面也由于信息包含在消息里,它们难解难分,何况在许多情况下,的确是消息的数量多,则它所包含的信息也多。
”“当然,过去的人也不是一点不懂消息的多少并不等于信息的多少的道理。
连古人也知道谎言传的人再多也不会变成真理。
例如,刚才说到的庞葱就讲出了信息不等于消息的看法。
可见,早在2000 年前,我国就有人认识到不能用消息的多少来量度信息。
”“到了20 世纪20 年代,人们对这个问题才开始有了深刻的认识。
到了40 年代,信息论的奠基人、美国数学家香农又详细讨论了信息的量度问题。
从此,人们从技术上找到了量度信息的一些科学方法。
”“按照他们的观点,人们在没有获得任何信息之前,信源对收集者一定存在着某种不确定性。
也就是说,信息从信源发出,但在收信者没接收到信息之前,对信源存在着一定量的不确定性。
所谓不确定,就是收集者对信源的认识不肯定、不知道。
你对某件事物知道得越少,则存在的不确定性就越大,而你得到的信息假如能使不确定性消除得越多,你所获得的信息量就越多。
”“例如,在一次英语考试之后发布成绩通知,如果通知说,某位平时英语很好的同学的成绩是优,同学们不会有太大的反应,因为这是他们意料之中的事,这个通知使他们获得的信息量不大。
如果通知说,该同学的成绩是中,同学们就会感到有些反常,这个通知给他们提供的信息就比前一种情况所提供的信息量要大。
假如通知说,该同学的成绩是不及格,那一定会轰动全班,使大家感到惊讶。
因为这是他们意想不到的事。
这个通知给他们提供的信息量就更大了。
这个例子说明,某一事物状态出现的可能性越小,它的不确定性就越大,报道这一事物状态出现的消息所提供的信息量就越大。
如果某一消息报道的内容是人人皆知、司空见惯的,或者是事先已经预料必然要发生的事,那么这个事物就是确定的。
它的不确定性等于零,因此,这种消息的信息量也等于零。
”丁大力为了巩固自己刚学到的概念,迫不及待地说:“叔叔,根据您刚才讲到的,我的体会是,信息量的多少,是按照信息所消除的不确定性的大小来进行量度的。
消除不确定性多,就是信息量大,反过来说,消除不确定性少,就是信息量小,对不对?”“是这样的。
”叔叔肯定地点了点头。
“那么,我还有一些疑问。
就是您所说的事物的不确定性又怎么来衡量呢?如果我们不能衡量不确定性,那么我们还是不能来度量信息量的大小。
”王永明喜欢探根究底。
“你的问题提得很好!”叔叔看到小伙伴们不但认真地听讲,而且还能开动脑筋,不断提出疑问,很是高兴。
他觉得只有这样,小伙伴们才会掌握有关的信息科学基础知识。
为了能通俗地给小伙伴们讲这个深奥的问题,叔叔考虑了一下,不紧不慢地说:“事物的不确定性的大小与事物可能发生的状态数目及各种状态发生的概率有关,要进行定量的计算,就得借助数学这个基础工具了。
”“所谓概率,通俗地讲,就是事件可能发生的程度。
某一件事绝对不可能发生,称为不可能事件,它的概率为零。
反过来说,某一件事绝对会发生,称为必然事件,它的概率为1 。
概率论认为,两个事件能同时发生,称为独立事件。
如果一个事件的出现会引起另一事件的出现,称为相关事件。
在一定的条件下,可能出现,也可能不出现的事件,称为随机事件,它的概率在0和1之间。
概率并不是十分深奥的,在日常生活中,我们也常常用到它,例如,人们说这件事有80%的成功把握,明天的天气50%能转晴等,就是概率的运用。
”“你们玩过抛掷硬币的游戏吗?抛掷硬币这一事件可能有两种结果:一种是正面朝上,一种是反面朝上。
但是在每次抛掷之前,究竟哪一面朝上是不能肯定的,这种不肯定就是我们认识上的不确定性。
等到抛掷以后,我们知道了结果,这种不确定性也就被消除了,这是因为我们获得了信息。
”“如果你们反复多次地抛掷硬币,把每次的结果统计一下,你们会发现,出现正面朝上和反面朝上的次数各占一半,即各为1/2,这1/2就叫做抛掷硬币的概率。
既然如此,那么,你们在每次抛掷之前对于可能出现的结果就不是完全不知道,至少知道存在着两种可能性,一种可能是正面朝上,一种可能是反面朝上。
也就是说,你们对出现的结果,一半知道,一半不知道。
这样,你们认识上的不确定性、不知道用概率来表示,就是1/2。
当抛掷一次以后,出现了结果,你们获得了信息,这个1/2的不确定性、不知道也就被消除了。
信息论把获得这么多的信息规定为信息量单位,叫做1比特。
所谓1比特,就是含有两个独立的相等概率的事件所具有的不确定性被全部消除所需要的信息量。
它实际上是从两种可能状态选择出一种的等可能消息所含有的平均信息量。
”“我们在现实生活中有大量能获得1 比特信息量的例子。
例如,我们去看一场电影,这场电影我们是喜欢看还是不喜欢看在看电影之前是存在着两种可能性的。
当看完电影之后,无论是喜欢看,还是不喜欢看,我们所获得的信息量都是1比特。
为什么呢?因为在看电影之前,我们对这场电影是喜欢看,还是不喜欢看这个不知道的不确定性只包含两种可能性。
而喜欢看和不喜欢看是两个独立事件。
当看完电影,就能知道是喜欢看还是不喜欢看了,也就是两种可能性中的一种变成了现实。
这个事件的不确定性也就完全被消除了。
所以,我们获得的信息量是1比特。
”“叔叔,让我也举一个例子试试,看我理解得对不对,好吗?”丁大力说。
“好,你说吧!”叔叔鼓励着。
丁大力稍微思考了一下,说:“我明年要考初中了。
对这件事只有两种可能,考上重点中学和考不上重点中学。
当考完试后,学校发出录取通知单,我就获得了1比特的信息。
因为我得知了考上和考不上重点中学这两种可能性中的一种。
”“你说得很对。
”叔叔赞许地说,“然而,世界上的事情是复杂的,一个事件出现的可能性并不都是两种,有的是三种、四种或更多种可能性。
而且它们的概率也不一定是相等的,有的也可能不是独立事件,我们怎样才能知道它的信息量呢?要完全弄清这些问题,需要掌握更多的有关概率论和其它方面的科学知识。
而详细地介绍这些知识,不是短时间内能弄懂的。
要搞清楚这一问题,有待于你们在今后的学习中去掌握各学科的知识。
不过,今天我可以介绍一个计算具有多种可能性事件信息量的简单方法。
”“例如,我们在一个布袋里放入大小相等的红、黄、黑、白四种颜色的球各一个。
让你随意地从中摸一个来猜,看是什么颜色的。
你怎么猜法?当然你猜四种颜色中的一种。
当你拿出来一看,你获得的信息量是多少呢?这一事件的可能性有四种,而且它们的概率是相等的,各自又是独立的。
因此,出现每一种颜色的球的概率都是1/4。
这种情况的不确定性要比抛掷硬币大,四种可能性正好是两种可能性的二次方。
因此,你猜后拿出来一看,所获得的信息量就是2比特。
那么,如果布袋里装入八个大小相等、颜色不同的球呢?你摸一个猜后拿出来一看,所获得的信息量就是3比特。
因为八个球就有八种可能性,八种可能性正好是两种可能性的三次方。
”“由这个例子我们不难发现,一个事件的等可能性是2的多少整数次方,它的信息量就是多少比特。
这就是计算信息量的一个简单方法。
”“我们认识了信息的本质特性以及信息的度量方法,这只是打下了一个基础。