人工智能2018第四章2-不确定性推理(概率与可信度)
2不确定性推理1基本概念2不确定性推理中的基本问题不确定

2 不确定性推理中的基本问题
1. 不确定性的表示与度量
不确定性推理中的“ 不确定性推理中的“不确定性” 不确定性”一般分为两类: 一般分为两类:一是知 识的不确定性, ,一是证据的不确定性。 识的不确定性 一是证据的不确定性。 知识不确定性的表示: 知识不确定性的表示:目前在专家系统中知识的不确定 性一般是由领域专家给出的, 性一般是由领域专家给出的,通常用一个数值表示, 通常用一个数值表示,它 表示相应知识的不确定性程度, 表示相应知识的不确定性程度,称为知识的静态强度。 称为知识的静态强度。 证据不确定性的表示: 证据不确定性的表示:证据不确定性的表示方法与知识 不确定性的表示方法一致, 不确定性的表示方法一致,通常也用一个数值表示, 通常也用一个数值表示,代 表相应证据的不确定性程度, 表相应证据的不确定性程度,称之为动态强度。 称之为动态强度。
第四章2
基本概念 概率方法 可信度方法
不确定性推理
1 基本概念
什么是不确定性推理 不确定性推理是建立在非经典逻辑基础 上的一种推理, 上的一种推理,它是对不确定性知识的 运用与处理。 运用与处理。 具体地说, 具体地说,所谓不确定性推理就是从不 确定性的初始证据( 确定性的初始证据(即事实) 即事实)出发, 出发,通 过运用不确定性的知识, 过运用不确定性的知识,最终推出具有 一定程度不确定性的结论。 一定程度不确定性的结论。
8
7
概率推理方法 概率推理方法
经典概率方法要求给出条件概率P(H/E),在实际 中通常比较困难。 中通常比较困难。例如E代表咳嗽, 代表咳嗽,H代表支气管 炎,则P(H/E)表示在咳嗽的人群中患支气管炎的 概率, 概率,这个比较困难, 这个比较困难,因为样本空间太大。 因为样本空间太大。而逆 概率P(E/H)表示在得支气管炎的人群中咳嗽的概 率,这个就比较容易获得。 这个就比较容易获得。 我们可以根据Bayes定理从P(E/H)推出P(H/E)
不确定性推理方法

P( H i
︳ E
1
E2 Em ) =
P ( E1 ︳ H i ) P( E 2 ︳ H i ) P( E m ︳ H i ) P( H i )
∑ P( E1 ︳H j ) P( E 2 ︳H j ) P( Em ︳H j ) P( H j )
1 j=
n
i 1,2,, n
普通关系:两个集合中的元素之间是否有关联,
4.4.4 模糊关系与模糊关系的合成
1.模糊关系
模糊关系的定义 : A、B:模糊集合,模糊关系用叉积表示:
R : A B 0,1
叉积常用最小算子运算:
AB (a, b) min A (a), B (b)
A、B:离散模糊集,其隶属函数分别为:
身高与体重的模糊关系表
从X到Y的一个模糊关系R, 用模糊矩阵表示:
1 0.8 R 0.2 0.1 0 0.8 1 0.8 0.2 0.1 0.2 0.8 1 0.8 0.2 0.1 0 0.2 0.1 0.8 0.2 1 0.8 0.8 1
22
25
4.4.4 模糊关系与模糊关系的合成
2.模糊关系的合成
例8 设模糊集合 X {x1, x2 x3 , x4}, Y { y1 , y2 , y3}, Z {z1, z2}
Q X Y , R Y Z , S X Z , 求S。
0.5 0.7 Q 0 1 0.6 0.3 0.4 1 0.8 0 0.2 0.9
7
教学内容设计
可信度方法
1975 年肖特里菲等人在确定性理论的基础上, 结合概率论等提出的一种不确定性推理方法。 优点:直观、简单,且效果好。
人工智能教程习题及答案第4章习题参考解答

第四章不确定性推理习题参考解答4.1 练习题4.1什么是不确定性推理?有哪几类不确定性推理方法?不确定性推理中需要解决的基本问题有哪些?4.2什么是可信度?由可信度因子CF(H,E)的定义说明它的含义。
4.3什么是信任增长度?什么是不信任增长度?根据定义说明它们的含义。
4.4当有多条证据支持一个结论时,什么情况下使用合成法求取结论的可信度?什么情况下使用更新法求取结论可信度?试说明这两种方法实际是一致的。
4.5设有如下一组推理规则:r1:IF E1THEN E2(0.6)r2:IF E2AND E3THEN E4 (0.8)r3:IF E4THEN H (0.7)r4:IF E5THEN H (0.9)且已知CF(E1)=0.5,CF(E3)=0.6,CF(E5)=0.4,结论H的初始可信度一无所知。
求CF(H)=?4.6已知:规则可信度为r1:IF E1THEN H1(0.7)r2:IF E2THEN H1(0.6)r3:IF E3THEN H1(0.4)r4:IF (H1 AND E4) THEN H2(0.2)证据可信度为CF(E1)=CF(E2)=CF(E3)=CF(E4)=CF(E5)=0.5H1的初始可信度一无所知,H2的初始可信度CF0(H2)=0.3计算结论H2的可信度CF(H2)。
4.7设有三个独立的结论H1,H2,H3及两个独立的证据E1与E2,它们的先验概率和条件概率分别为P(H1)=0.4,P(H2)=0.3,P(H3)=0.3P(E1/H1)=0.5,P(E1/H2)=0.6,P(E1/H3)=0.3P(E2/H1)=0.7,P(E2/H2)=0.9,P(E2/H3)=0.1利用基本Bayes方法分别求出:(1)当只有证据E1出现时,P(H1/E1),P(H2/E1),P(H3/E1)的值各为多少?这说明了什么?(2)当E1和E2同时出现时,P(H1/E1E2),P(H2/E1E2),P(H3/E1E2)的值各是多少?这说明了什么?4.8在主观Bayes方法中,请说明LS与LN的意义。
人工智能第4章(不确定性推理方法)

例:容器里的球
现分别有 A,B 两个容器,在容器 A 里分别有 7 个红球和 3 个白球,在容器 B 里有 1 个红球和 9 个白球。
现已知从这两个容器里任意抽出了一个球,且是红球, 问:这个红球是来自容器 A 的概率是多少?
假设已经抽出红球为事件 B,从容器 A 里抽出球为事件 A, 则有:P(B) = 8 / 20 P(A) = 1 / 2 P(B | A) = 7 / 10,
证据(前提)的不确定性表示 规则的不确定性表示 推理计算---结论的不确定性表示
11
证据的不确定性度量
单个证据的不确定性获取方法:两种 初始证据:由提供证据的用户直接指定,用可信度因子对 证据的不确定性进行表示。如证据 E 的可信度表示为 CF(E)。 如对它的所有观测都能肯定为真,则使CF(E)=1;如能肯定 为假,则使 CF(E)=-1 ;若它以某种程度为真,则使其取小 于1的正值,即0< CF(E)<1;若它以某种程度为假,则使其 取大于 -1 的负值,即-1< CF(E)<0; 若观测不能确定其真假, 此时可令CF(E)=0。
P (H | E) - P (H) , 当 P (H | E) P (H) 1 P (H) CF(H, E) P (H | E) - P (H) , 当P (H | E) P (H) P (H)
15
确定性方法
规则
规则的不确定性表示 证据(前提)的不确定性表示 推理计算—结论的不确定性表示
24
规则
(推理计算 4)
CF(E) < =0,
规则E H不可使用,即此计算不必进行。
0 < CF(E) <= 1,
人工智能4不确定性推理

模糊集上的运算主要有:包含、交、并、补等等。
1. 包含运算
定义4.5 设A,B∈F(U),若对任意u∈U,都有
μB(u)≤μA(u) 成立,则称A包含B,记为B A。 2. 交、并、补运算
定义4.6 设A,B∈F(U),以下为扎德算子
A
B : A
B (u)
max{ uU
A
(u
),
B
(u)}
A (u) B (u)
3
模糊集的表示方法(1)
若论域离散且有限,则模糊集A可表示为:
也可写为:
A={μA(u1),μA(u2),…,μA(un)}
或者:
A=μA(u1)/u1+μA(u2)/u2+…+μA(un)/un
n
n
A (u ) / u , 或者A (u ) / u
Ai
i
Ai
i
i 1
i 1
A={μA(u1)/u1,μA(u2)/u2,…,μA(un)/un} A={(μA(u1),u1),(μA(u2),u2),…,(μA(un),un)} 隶属度为0的元素可以不写。
(A, B) 1 [1 (1 0.2)] 0.9 2
即A和B两个模糊集之间的匹配度为0.9。
21
语义距离
如果论域U上两个模糊集A和B的语义距离为d(A,B),则其匹配度为 1-d(A,B)。
曼哈顿距离(Manhattan Distance)或者海明距离(Hamming
Distance)
d (A, B)
A
•
B
{
U
A
(ui
)
B
(ui
)}
A⊙
B
{
04不确定性推理

第四章 不确定性推理方法
4.1 概述
在人类的知识和思维行为中,精确性只是相对的,不精确性 才是绝对的。知识工程需要各种适应不同类的不精确性特点的不 精确性知识描述方法和推理方法。
由于以上某种或多种原因,人工智能系统常采用非标准意义 下的不确定性推理方法。
不确定性推理是指建立在不确定性知识和证据的基础上的推 理。它实际上是一种从不确定的初始证据出发,通过运用不确定 性知识,最终推出既保持一定程度的不确定性,又是合理和基本 合理的结论的推理过程。
6
第四章 不确定性推理方法
4.2 确定性方法
4.2.1 规则的不确定性度量
CF(B, A)的特殊值:
CF(B, A) = 1, 前提真,结论必真
CF(B, A) = -1, 前提真,结论必假
CF(B, A) = 0 , 前提真假与结论无关
实际应用中CF(B, A)的值由专家确定,并不是由P(B|A), P(B)
1.知识不确定性的表示 2.证据不确定性的表示 3.组合证据不确定性的算法 4.不确定性的传递算法 5.结论不确定性的合成算法
第四章 不确定性推理方法
4.2 确定性方法
4.2.1 规则的不确定性度量 规则以A→B表示,其中前提A可以是一些命题的合取或析取。
MYCIN系统引入可信度CF作为规则不确定性度量。 在不确定推理过程中,通常要考 虑的是A为真时对B为真的支持 程度,甚至还考 虑A为假(不发生)时对B为真的支持程度。
2
第四章 不确定性推理方法
4.1 概述
由于知识本身的不精确和不完全,采用标准逻辑意义下的推 理方法难以达到解决问题的目的。对于一个智能系统来说,知识 库是其核心。在这个知识库中,往往大量包含模糊性、随机性、 不可靠性或不知道等不确定性因素的知识。为了解决这种条件下 的推理计算问题,不确定性推理方法应运而生。
人工智能及其应用-不确定性推理方法-证据理论

Bel({红,黄}) M ({红}) M ({黄}) M ({红,黄})
0.3 0.2 0.5
Pl({蓝}) 1 Bel({蓝}) 1 Bel({红,黄})=系
因为
Bel( A) +Bel(¬A) =∑M (B) +∑M (C)
则: K 1 M1(x)M 2 ( y) x y 1 [M1({黑})M 2 ({白}) M1({白})M 2 ({黑})]
1 [0.3 0.3 0.5 0.6] 0.61
M ({黑}) K 1 M1(x)M 2 ( y)
0.161x[My{1黑({}黑})M 2 ({黑}) M1 ({黑})M 2 ({黑,白})
Pl(A) :对A为非假的信任程度。
8 A(Bel(A), Pl(A)) :对A信任程度的下限与上限。
8
概率分配函数的正交和(证据的组合)
定义4.4 设 M1和 M 2 是两个概率分配函数;则其正交 和 M =M1⊕M2 : M (Φ) 0
M ( A) K 1
M1(x)M2( y)
x yA
B⊆A
C⊆¬A
≤∑M (E) =1
B⊆D
所以 Pl( A) Bel( A) 1 Bel(A) Bel( A)
1 (Bel(A) Bel( A)) 0
∴所以 Pl( A) ≥Bel( A)
A(0,0);A(0,1)
Bel(A) :对A为真的信任程度。
A(1,1);A(0.25,1) A(0,0.85);A(0.25,0.85)
1981年巴纳特(J. A. Barnett)把该理论引入专家系 统中,同年卡威(J. Garvey)等人用它实现了不确定 性推理。
4_2 不确定性推理

不确定性推理的问题
(3) 不确定性的传递算法
在每一步推理中,如何把证据及知识的不确定性传递给 结论 在多步推理中,如何把初始证据的不确定性传递给最终 结论
把当前推出的结论及其不确定性程度作为证据放入数 据库中,在以后的推理中,它又作为证据推出进一步 的结论,由此一步步进行推理,把初始证据的不确定 性传递给最终结论。
2) 量度范围的指定应便于领域专家及用户对不确定性的估 计的程度。
3) 要便于对不确定性的传递进行计算,而且对结论算出的 不确定性量度不能超出量度规定的范围。 4) 量度的确定应是直观的且有理论依据。
不确定性推理的问题
(2) 不确定性匹配算法及阈值的选择
如何确定是否匹配?
• 不确定性匹配算法:计算匹配双方相似程度的算法 • 阈值:相似的“限度”
(5) People were demonstrating and seniors were asked, on campus, to stop them .
(6)People were demonstrating and seniors were asked, to stop them from doing so on campus (although they could do it elsewhere)
模 型 方 法
非 数 值 方 法
框架推理 语义网络推理 常识推理 … 可信度方法
数 值 方 法 控制方法
基于概率的方法
主观Bayes方法
证据理论
模糊推理
不确定性推理方法的类型
1) 主观 Bayes 方法
利用新的信息将先验概率P(H)更新为后验概率P(H|E)的 一种计算方法
由 Duda 等人于 1976 年提出,其首先在Prospector专家 系统中使用,它以概率论中的 Bayes公式为基础。 核心思想: 根据证据的概率P(E),利用规则的(LS,LN),把结 论 H 的先验概率更新为后验概率 P(H|E)
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
MD(H
,E)
min{P(H
|E),P(H P(H )
)}P(H
),否则
当P(H|E)>P(H)时:表示证据E支持结论H MB(H,E)>0,MD(H,E)=0 。
当P(H|E)<P(H)时,表示E不支持H MD(H,E)>0, MB(H,E) =0。 当p(H/E)=p(H)时,表示E对H无影响,则有MB=MD=0
H (CF(H,E))
(1)前提E可以是命题的合取和析取组合
(2)结论H可为单一命题,也可以是复合命题
(3)CF(H, E)为确定性因子(Certainty factor),简称 可信度,用以量度规则的确定性(可信)程度。取 值于[-1,1],表示E为真时,对H的支持程度。 CF(H, E)值越大,E就越支持H为真。
9
逆概率法
若A1,A2,…,An构成一个完备事件组且都有正概率,对于事件B, 则有以下贝叶斯概率
P( Ai | B)
P( Ai ) P(B | Ai )
n
, i 1, 2,..., n
P(Aj ) P(B | Aj )
j1
其中,P(Ai)是事件Ai的先验概率;P(B|Ai)是在事件Ai发生条件 下事件B的条件概率。
CF1(H)CF2(H)CF1(H)CF2(H) ,CF1(H)0,CF2(H)0
CF12(H)CF1(H)CF2(H)CF1(H)CF2(H) ,CF1(H)0,CF2(H)0
1
CF1(H ) CF2(H ) min{|CF1(H )|,|CF2(H
CF(H,E)近似表示P(H|E)的大小,从而描述了规 则的可信度。
19
2.证据不确定性的表示 证据的不确定性也用可信度因子表示。如: CF(E)=0.6 CF(E)的取值范围:[-1,+1]。 CF(E)>0:表示证据以某种程度为真。 CF(E)<0:表示证据以某种程度为假。 CF(E)表示证据的强度,即动态强度。
6
1
不确定性推理方法的分类
不确定性推理方法主要可分为模型法与控制法。 模型法:在推理一级对确定性推理进行扩展,引
入证据的不确定性及知识的不确定性。 模型方法又分为数值方法和非数值方法两类。数
值方法对不确定性进行定量的描述,按其所依据 的理论又可分为基于概率的方法和基于模糊理论 的方法。本节主要针对模型方法中相关的典型算 法展开.
5
不确定性推理中的基本问题
4. 不确定性的传递算法
在每一步推理中,如何把证据及知识的不确定性传 递给结论。
在多步推理中,如何把初始证据的不确定性传递给 最终结论
5. 结论不确定性的合成
用不同知识进行推理得到了相同结论,但所得结论的 不确定性却不同。此时,需要用合适的算法对结论的
不确定性进行合成。
(3)先验概率: P(H)
后验概率: P(H|E)
8
逆概率法
经典概率方法要求给出条件概率P(H/E),在实际 中通常比较困难。例如E代表咳嗽,H代表支气管 炎,则P(H/E)表示在咳嗽的人群中患支气管炎的 概率,这个比较困难,因为样本空间太大。而 P(E/H)表示在得支气管炎的人群中咳嗽的概率, 这个就比较容易获得。 我们可以根据Bayes定理从P(E/H)推出P(H/E)
可信度的概念 根据经验对一个事物和现象为真的相信程度称为
可信度。 在可信度方法中,由专家给出规则或知识的可信
度,从而可避免对先验概率、或条件概率的要求。
14
5.4.2 C-F模型
1. 知识不确定性的表示: 在C-F模型中,知识是用产生式规则表示的,其一 般形式为:
IF E THEN 其中:
1
1
2
2
3
3
0.02 0.020.150.21
0.0526
同理可得: P(H2|E)=0.3947, P(H3|E)=0.5526
11
对应的产生式规则:
IF E THEN
H1
IF E THEN
H2
IF E THEN
H3
规则的静态强度(Hi为真的程度、或不确定性程度)
P(H1|E)=0.0526 P(H2|E)=0.3947 P(H3|E)=0.5526
7
逆概率法
经典概率方法
(1)设有如下产生式规则:
IF E THEN
H
其中,E为前提条件,H为结论。条件概率P(H|E)
可以作为在证据E出现时结论H的确定性程度,即规则的
静态强度。
(2)对于复合条件
E=E1 AND E2 AND … AND En
当已知条件概率P(H|E1,E2,…,En)时,就可把它作为在证 据E1,E2,…,En出现时结论H的确定性程度。
1
,P(H )1
MB(H
,E)
max{P(H|E),P(H 1P(H )
)}P(H
),否则
1
,P(H )0
MD(H
,E)
min{P(H
|E),P(H P(H )
)}P(H
),否则
16
1
,P(H )1
MB(H
,
E)
max{P(H|E),P(H 1P(H )
)|}
,CF1(H )CF2(H ) 0
经验主观确定。 证据的可信度值来源于两种情况: (1)初始证据由领域专家或用户给出; (2)中间结论由不确定性传递算法计算得到。
21
3. 组合证据不确定性的算法 (1)当组合证据是多个单一证据的合取时,即:
E=E1 AND E2 AND…AND En 则CF(E)=min{CF(E1), CF(E2)… CF(En)} (2)当组合证据是多个单一证据的析取时,即:
P(H1)=0.2,
P(H2)=0.5,
P(H3)=0.3
P(E|H1)=0.1, P(E|H2)=0.3, P(E|H3)=0.7
求P(H1|E),P(H2|E)及P(H3|E)的值各是多少?
解:
P(H |E)
P(H )P(E|H )
1
1
1 P(H )P(E|H )P(H )P(E|H )P(H )P(E|H )
E=E1 OR E2 OR…OR En 则CF(E)=max{CF(E1), CF(E2)… CF(En)}
22
4.不确定性的传递
不确定性的传递算法定义如下: CF(H)= CF(H,E) ×max[0,CF(E)]
由上式可以看出: (1)CF(E)<0时,CF(H)=0,说明该模型没有考虑证据为
假时对结论H所产生的影响。 (2)CF(E)=1时,CF(H)=CF(H,E),说明规则可信度
和 E2的析取和合取的不确定性,常用的方法有: 最大最小法:
T(E1 AND E2)=min{T(E1),T(E2)} T(E1 OR E2)=max{T(E1),T(E2)} 概率法: T(E1 AND E2)=T(E1)×T(E2) T(E1 OR E2)=T(E1)+T(E2)-T(E1)×T(E2) 有界法: T(E1 AND E2)=max{0,T(E1)+T(E2)-1} T(E1 OR E2)=min{1,T(E1)+T(E2)} 其中,T(E)表示证据E为真的程度(动态强 度),如可信度、概率等。
18
3
IF E THEN
H (CF(H,E))
MB(H
,E)0
P(H|E)P(H 1P(H )
)
,P(H |E)P(H )
CF (H , E) 0
,P(H |E)P(H )
0MD(H
,E)
P(H
)P(H P(H )
|E)
,P(H |E)P(H )
当且仅当P(H|E)=1时, CF(H,E)=1 当且仅当P(H|E)=0时, CF(H,E)=-1 CF(H,E)定性地反映了P(H|E)的大小,因此可以用
第四章2 不确定性推理
基本概念 概率方法—逆概率法 可信度方法
1
1 基本概念
什么是不确定性推理 不确定性推理是建立在非经典逻辑基础
上的一种推理,它是对不确定性知识的 运用与处理。 具体地说,所谓不确定性推理就是从不 确定性的初始证据(即事实)出发,通 过运用不确定性的知识,最终推出具有 一定程度不确定性的结论。
12
2
逆概率法的特点
优点: 逆概率法有较强的理论背景和良好的数学特性,
当证据彼此独立时计算的复杂度比较低。 缺点: 逆概率法要求给出结论Hi的先验概率P(Hi)及条
件概率P(Ej|Hi)。
13
可信度方法
可信度方法是在确定性理论的基础上,结合概率 论等提出的一种不确定性推理方法,简称C-F模型。 该方法首先在医疗系统MYCIN中得到成功的应用。
MB(H,E)与MD(H,E)是互斥的: 当MB(H,E)>0时,MD(H,E)=0 当MD(H,E)>0时,MB(H,E)=0
17
CF(H,E)的计算公式
根据定义CF(H,E)=MB(H,E)-MD(H,E),及 MB(H,E)与MD(H,E)的互斥性,可得:
MB(H
,E)0
P(H|E)P(H 1P(H )
3
不确定性推理中的基本问题
2. 不确定性匹配算法及阈值的选择 推理是不断运用知识的过程,为了找到所需的知识, 需要在这一过程中用知识的前提与已知证据进行 匹配.只有匹配成功的知识才有可能被应用. 设计一个不确定性匹配算法; 指定一个匹配阈值。