第五章不确定性推理
不确定推理方法
2014-10-22
27
华北电力大学
不确定性推理例子
初始命题的不确定性度量的获得也是非常重 要的，一般由领域内的专家从经验得出 推理过程可以用推理树直观的表示出来。例 如，对于如下的推理过程：
R1：A1∧A2→B1 R2：A2∨A3→B2 R3：B1→B R4：B2→B
用推理树可以表示如下：
2014-10-22
23
华北电力大学
概述-不确定性推理的基本问题
(3)不确定性的更新算法
不精确推理的根本目的是根据用户提供的初始证据， 通过运用不确定性知识，最终推出不确定性的结论， 并推算出结论为确定性的程度 不确定性的更新问题—— 在推理过程中如何考虑知 识不确定性的动态积累和传递
2014-10-22
2014-10-22
30
华北电力大学
概述-不确定性推理的基本问题
对证据的可信度度量 P(A) 关心的也是一些特 殊状态下的意义：
1）A为TRUE，P(A)＝？ 2）A为FALSE, P(A)＝？
T：True，F：False
2014-10-22
31
华北电力大学
概述-不确定性推理的基本问题
总结： 任何一个AI系统中，都必须较好的解决这三个 问题
2014-10-22
3
华北电力大学
第五章 不确定性推理方法
概述
概率论基础 确定性方法 主观Bayes方法
2014-10-22
4
华北电力大学
概述 不确定性推理是指建立在不确定性知识和证据基 础上的推理 不确定性推理产生的背景：
由于知识本身的不精确和不完全，采用标准逻辑意义 下的推理方法难以达到解决问题的目的 对于一个智能系统来说，知识库是其核心，知识库中 往往大量包含模糊性、随机性、不可靠性或不知道等 不确定性因素的知识 智能主要反映在求解不确定性问题的能力上 不确定推理是人工智能和专家系统的核心研究课题
不确定性推理概述
不确定性推理概述4.1.1 不确定推理的概念所谓推理就是从已知事实出发，运⽤相关知识（或规则）逐步推出结论或证明某个假设成⽴或不成⽴的思维过程。
其中已知事实和知识（规则）是构成推理的两个基本要素。
已知事实是推理过程的出发点，把它称为证据。
4.1.2 不确定性推理⽅法的分类可信度⽅法、主观Bayes⽅法、证据理论都是在概率论的基础上发展起来的不确定性推理⽅法。
4.1.3 不确定性推理知识库是⼈⼯智能的核⼼，⽽知识库中的知识既有规律性的⼀般原理，⼜有⼤量的不完全的专家知识，即知识带有模糊性、随机性、不可靠或不知道不确定因素。
世界上⼏乎没有什么事情是完全确定的。
不确定性推理即是通过某种推理得到问题的精确判断。
（1）不确定性问题的代数模型⼀个问题的代数模型由论域、运算和公理组成。
建⽴不确定性问题模型必须说明不确定知识的表⽰、计算、与语义解释。
不确定性的表⽰问题：指⽤什么⽅法描述不确定性，通常有数值和⾮数值的语义表⽰⽅法。
数值表⽰便于计算，⽐较，再考虑到定性的⾮数值描述才能较好的解决不确定性问题。
例如对规则A->B（即A真能推导B真）和命题（或称证据、事实）A，分别⽤f(B,A)来表⽰不确定性度量。
推理计算问题：指不确定性的传播和更新，也即获得新的信息的过程。
包括：①已知C(A),A->B,f(B,A)，如何计算C(B)②证据A的原度量值为C1(A),⼜得C2(A)，如何确定C(A)③如何由C(A1)和C(A2)来计算C(A1∧A2)，C(A1∨A2)等。
⼀般初始命题/规则的不确定性度量常常由有关领域的专家主观确定。
语义问题：是指上述表⽰和计算的含义是什么？即对它们进⾏解释，概率⽅法可以较好地回答这个问题，例如f(B,A)可理解为前提A为真时对结论B为真的⼀种影响程度，C(A)可理解为A为真的程度。
特别关⼼的是f(B,A)的值是：①A真则B真，这时f(B,A)=?②A真则B假，这时f(B,A)=?③A对B没有影响时，这时f(B,A)=?对C(A)关⼼的值是①A真时，C(A)=?②A假时，C(A)=?③对A⼀⽆所知时，C(A)=?（2）不确定推理⽅法的分类不确定推理⽅法在⼈⼯智能系统中通常是不够严谨的，但尚能解决某些实际问题，符合⼈类专家的直觉，在概率上也可给出某种解释。
6-不确定推理
推理能力不足
解题方案不唯一
人工智能
sspu 王帅
概述
一个AI系统，由于知识本身的不精确和不完全， 常采用非标准逻辑意义下的不确定性推理方法 和非单调推理方法。 对于不确定推理来说，研究的主要问题是
如何描述不精确性 如何传播不精确性
对于非单调推理来说，研究的主要问题是
如何提出合理的假设 如何处理矛盾
不确定性推理
不确定性推理
概述
确定性方法
概率论基础
Bayes网络
主观Bayes方法 证据理论
人工智能 sspu 王帅
第五章 不确定性推理
概述 确定性方法 概率论基础 Bayes网络 主观Bayes方法
证据理论
人工智能 sspu 王帅
概述
归结推理方法是建立在经典逻辑上的确定性推理。它是 一种运用确定性知识进行精确推理，而且随着新知识的 加入，推出的结论或证明了的命题将单调增加。但是人 类的推理通常是在信息不完全下进行的不确定和非单调 的推理 不确定是针对已知事实及推理中所用的知识而言的。由 于现时世界的随机性、模糊性，导致人们认识的不精确 不完全，反映到知识上即为不确定性知识，对这种知识 进行的推理就是不确定推理 非单调是针对推理过程所呈现出来的特性而言的。在推 理过程中，随着新知识的加入，推出的结论或证明了的 命题有可能减少。这种推理大都由知识的不完全引起， 所以也具有不确定的特性
n n
n n
，
n
n
P( B)Байду номын сангаас
An B
P( A )
n
人工智能
sspu 王帅
概率论基础（统计概率性质 ）
对任意事件A，有 0 P( A) 1 必然事件Ω 的概率P(Ω ) =1，不可能事件 φ 的概率P(φ ) = 0 P(~ A) 1 P( A) 对任意事件A，有 P( A ) P( A ) P( A ) ... P( A ) 设事件A1，A2，…An（k≤n）是两两互不 相容的事件，即有，则 设A，B是两事件，则
人工智能领域的贝叶斯最小风险模型在不确定性推理中的应用研究
人工智能领域的贝叶斯最小风险模型在不确定性推理中的应用研究第一章绪论人工智能领域一直以来都是研究者们关注的热点话题。
随着科技的发展和应用需求的增加，人工智能技术在各个领域中的应用也变得越来越广泛。
在人工智能的研究中，不确定性一直是一个重要的问题。
不确定性推理是指在面对不完备或不确定的信息时，通过推理进行决策或预测的过程。
贝叶斯最小风险模型是一种能够有效应对不确定性推理问题的方法，本文将对其在人工智能领域中的应用进行研究。
第二章贝叶斯最小风险模型的理论基础2.1 贝叶斯推理贝叶斯最小风险模型基于贝叶斯推理的思想，通过使用贝叶斯定理来更新先验概率，得到后验概率。
这种方法能够在面对不确定性的情况下，通过不断的观测和学习来逐渐减少不确定性，提高推理的准确性。
2.2 最小风险模型最小风险模型是基于决策论的思想，通过定义风险函数来评估决策的好坏，选取风险最小的决策作为最终结果。
在不确定性推理中，最小风险模型可以通过评估不同的决策结果对应的风险来选择最优的推理策略。
第三章贝叶斯最小风险模型在机器学习中的应用3.1 贝叶斯最小风险分类器贝叶斯最小风险分类器是基于贝叶斯最小风险模型的一种分类器。
在分类任务中，贝叶斯最小风险分类器能够通过计算不同类别对应的后验概率和损失函数，选取使总体风险最小的类别作为最终结果。
3.2 贝叶斯最小风险回归贝叶斯最小风险回归是一种将贝叶斯最小风险模型应用于回归任务的方法。
在回归任务中，贝叶斯最小风险回归能够通过计算不同预测结果对应的后验概率和风险函数，选取使总体风险最小的预测结果作为最终输出。
第四章贝叶斯最小风险模型在自然语言处理中的应用4.1 自然语言处理中的不确定性在自然语言处理任务中，存在各种不确定性，如语言歧义、词语消歧义等。
这些不确定性给自然语言处理任务的准确性和可靠性带来了挑战。
4.2 贝叶斯最小风险模型在信息检索中的应用信息检索是一个重要的自然语言处理任务，传统的检索方法往往只考虑了检索文档与查询之间的匹配程度，忽略了查询与搜索结果的不确定性。
不确定性推理概念
不确定性推理概念6.1不确定性推理概念的基本概念不确定性是智能问题的一个本质特征，研究不确定性推理概念是人工智能的一项基本内容。
为加深对不确定性推理概念的理解和认识，在讨论各种不确定性推理概念方法之前，首先先对不确定性推理概念的含义，不确定性推理概念的基本问题，以及不确定性推理概念的基本类型进行简单讨论。
6.1.1不确定性推理概念的含义不确定性推理概念是指那种建立在不确定性知识和证据的基础上的推理。
例如，不完备、不精确知识的推理，模糊知识的推理等。
不确定性推理概念实际上是一种从不确定的初始证据出发，通过运用不确定性知识，最终推出具有一定程度的不确定性但却又是合理或基本合理的结论的思维过程。
采用不确定性推理概念是客观问题的需求，其原因包括以下几个主要方面。
（1）所需知识不完备、不精确。
所谓知识的不完备是指在解决某一问题时，不具备解决该问题所需要的全部知识。
例如，医生在看病时，一般是从病人的部分症状开始诊断的。
所谓知识的不精确是指既不能完全确定知识为真，又不能完全确定知识为假。
例如，专家系统中的知识多为专家经验，而专家经验又多为不精确知识。
（2）所需知识描述模糊。
所谓知识描述模糊是指知识的边界不明确，它往往是由模糊概念所引起的。
例如，人们平常所说的“很好”、“好”、“比较好”、“不很好”、“不好”、“很不好”等都是模糊概念。
那么，当用这类概念来描述知识时，所得到的知识当然也是模糊的。
例如，“如果李清这个人比较好，那么我就把他当成好朋友”所描述的就是一条模糊知识。
（3）多种原因导致同一结论。
所谓多种原因导致同一结论是指知识的前提条件不同而结论相同。
在现实世界中，可由多种不同原因导出同一结论的情况有很多。
例如，引起人体低烧的原因至少有几十种，如果每种原因都作为一条知识，那就可以形成几十条前提条件不同而结论相同的知识。
当然，在不确定性推理概念中，这些知识的静态强度可能是不同的。
（4）解决方案不唯一。
所谓解决方案不唯一是指同一个问题可能存在多种不同的解决方案。
regzn
• 又如机器人从初始状态，走近A桌，然后拿起Box。这时同初始状态相比有： Holds（Robot，Box） EmptyHanded( Robot )
《人工智能》第四章 知识表示
《人工智能》第四章 知识表示
《人工智能》第四章 知识表示
例题（1）
• 已知：P(A)=1,P(B1)=0.04, P(B2)=0.02 R1:A→B1 LS=20 LN=1 R2:B1→B2 LS=300 LN=0.001 • 计算：P(B2|A)。分析：当使用规则R2时，证据B1并不是确定的发生了，即P(B1)≠1，因此要采用 插值方法。 • 解：先依照A必然发生，由定义和R1得： O(B1) = P(B1)/(1-P(B1) = 0.04/(1-0.04) = 0.0417 O(B1|A) = LS*O(B1)=0.83 P(B1|A) = O(B1|A )/(1+O(B1|A ) = 0.83/(1+0.83) = 0.454 • 然后假设P(B1|A)=1,计算： O(B2) = P(B2)/(1-P(B2) = 0.02 P(B2|B1) = LS*O(B2)/(1+ LS*O(B2)) = 300*0.02/(300*0.02+1)=0.857 • 最后进行插值：P(B1|A) > P(B1), P(B2)=0.02， P(B1)=0.04 （已知）, P(B2|A) = 0.02 + (0.857-0.02)(0.454-0.04)/(1-0.04) = 0.38
f(f(a,b),f(a,b)), f(f(a,b),f(a,a)), f(f(a,b), f(b,a)), f(f(a,b), f(b,b)),
f(f(a,a),f(a,b)), f(f(a,a),f(a,a)), f(f(a,a), f(b,a)), f(f(a,a), f(b,b)), f(f(b,a),f(a,b)), f(f(b,a),f(a,a)), f(f(b,a), f(b,a)), f(f(b,a), f(b,b)), f(f(b,b),f(a,b)), f(f(b,b),f(a,a)), f(f(b,b), f(b,a)), f(f(b,b), f(b,b))}
第五章 不确定推理
CF(A) < 0，
规则A B不可使用，即此计算不必进行。 （如MYCIN系统CF(A)0.2就认为是不可使用的。其目的是 使专家数据经轻微扰动不影响最终结果。）
规则
(推理计算 － 改进）
注意：以上公式不满足组合交换性。 解决方法：
异号时
CF ( B) CF ( B, A) CF ( B, A) CF ( B) 1 min{|CF ( B) |, | CF ( B, A)}
CF( A) ＜ 0， 表示A以CF( A)程度为假
确定性方法
理论基础
以定量法为工具，比较法为原则的相对确认理论。 采用此方法的MYCIN系统的诊断结果不是只给出一 个最可信结论及其可信度，而是给出可信度较高的 前几位，供人们比较选用。
规则
规则的不确定性度量 证据（前提）的不确定性度量。 推理计算。
CF(A1 ∧ A2 ) = min { CF(A1), CF(A2 )}
“或”的计算： A1 ∨ A2 →B
CF(A1 ∨ A2 ) = max { CF(A1), CF(A2 )} “非”的计算： CF(～A ) = ～CF(A ) 由A， A →B， 求 B： CF(B) = MAX（0，CF(A )）· CF(B,A ) (CF(A ) ＜ 0 时可以不算即为“0”)
第五章 不确定性推理
概述
确定性方法
主观Bayes方法
证据理论
第五章 不确定性推理
概述
确定性方法
主观Bayes方法
证据理论
确定性方法（可信度方法）
MYCIN系统研制过程中产生的不确定推理方法, 第一个采用了不确定推理逻辑，70年代很有名。 提出该方法时应遵循的原则
不采用严格的统计理论。使用的是一种接近统计理 论的近似方法。 用专家的经验估计代替统计数据 尽量减少需要专家提供的经验数据，尽量使少量数 据包含多种信息。 新方法应适用于证据为增量式地增加的情况。 专家数据的轻微扰动不影响最终的推理结论。
人工智能导论教学课件U5
(1)证据不确定性的表示
证据不确定性的表示通常为一个数值，用以表示相应证据的不确定性
程度。对于由观测所得的初始证据，其值一般由用户或专家给出而对
于用前面推理所得结论作为当前推理的证据，其值则是由推理中的不
确定性传递算法得到。
(2)知识不确定性的表示
上式中,P(Bi)是事件Bi的先验概率,先验概率是在不考虑任何证据的情
况下专家凭经验给出的.P(A|Bi)是在事件Bi发生条件下事件A的条件
概率,P(Bi|A)是事件A发生条件下Bi的条件概率.贝叶斯公式的意义在
于将P(Bi|A)的概率计算转化为对P(A|Bi)和P(Bi)的计算。
不确定性的传递算法
4.你对于人工智能的应用有哪些看法？
算法和结论不确定性的更新或合成算法。
假设以CF(E)表示证据E的不确定性程度，而以CF(H，E)表示知识规则
E→H的不确定性程度，则要解决的问题即是：
(1)不确定性传递问题
(2)证据不确定性的合成问题
不确定性推理方法分类
由于客观世界的复杂性和人类对客观世界认知的不完备性，不确定
性存在于世界的各个领域，成为人类生活中不可回避的问题，对不
不确定性推理
不确定性推理概述
不确定性及其类型
为了解决实际问题，必须对不确定性知识的表示、推理过程等进行
研究，这就是不确定性推理方法。
目前，不确定性方法可以分为两大类，一类称为模型方法，另一类
称为控制方法。
不确定性推理要解决的基本问题
1.不确定性的量度
在确定一种量度方法及其范围时，应注意以下几点：
识框架为Θ={A,B}，基于防空雷达观测到的目标特征为E。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
现实世界中的大多数问题是不精确、非完备的。对于这些问题，若采用 前面所讨论的精确性推理方法显然是无法解决的。
为此，人工智能需要研究不精确性的推理方法，以满足客观问题的需求。
5.1 不确定性推理的基本概念 5.2 主观Bayes方法 5.3 可信度方法 5.4 证据理论 5.5 模糊推理
( 6 .1 )
为讨论方便，下面引入几率函数
O ( X ) P ( X ) 或 O ( X ) P ( X )
1 P ( X )
P ( X )
( 6 .2 )
可见，X的几率等于X出现的概率与X不出现的概率之比，P(X)与O(X)的变 化一致，且有：
P(X)=0 时有 O(X)=0
P(X)=1 时有 O(X)=+∞
O (H | E )LN O (H )
(6.4)
式(6.3)和(6.4)就是修改的Bayes公式。
5.4.1 知识不确定性的表示
2. LS和LN的性质(1/2)
(1) LS 当LS>1时，O(H|E)>O(H)，说明E支持H，LS越大，O(H|E)比O(H)大得越 多 ， 即 LS 越 大 ， E 对 H 的 支 持 越 充 分 。 当 LS→∝ 时 ， O(H|E)→∝ ， 即 P(H/E)→1，表示由于E的存在，将导致H为真。 当LS=1时，O(H|E)=O(H)，说明E对H没有影响。 当LS<1时，O(H|E)<O(H)，说明E不支持H。 当LS=0时，O(H|E)=0，说明E的存在使H为假。
(1) 知识的不确定性的表示 考虑因素：问题的描述能力 推理中不确定性的计算 含义：知识的确定性程度，或动态强度 表示：用概率，[0,1]，0接近于假，1接近于真 用可信度，[-1,1]，大于0接近于真 小于0接近于假
(2) 证据的非精确性表示 证据来源：初始证据，中间结论 表示：用概率或可信度
6.1.2 不确定性推理的基本问题
(2) LN 当LN>1时，O(H|﹁E)>O(H)，说明﹁E支持H，即由于E的不出现，增大了 H为真的概率。并且，LN越大，P(H|﹁E)就越大，即﹁E对H为真的支持就越 强。当LN→∝时，O(H|﹁E)→∝，即P(H|﹁E)→1，表示由于﹁E的存在，将 导致H为真。 当LN=1时，O(H|﹁E)=O(H)，说明﹁E对H没有影响。 当LN<1时，O(H|﹁E)<O(H)，说明﹁E不支持H，即由于﹁E的存在，使H 为真的可能性下降，或者说由于E不存在，将反对H为真。当LN→0时O(H|﹁ E) →0，即LN越小，E的不出现就越反对H为真，这说明H越需要E的出现。 当LN=0时，O(H|﹁E)=0，说明﹁E的存在（即E不存在）将导致H为假。
即把取值为[0,1]的P(X)放大为取值为[0,+∞]的O(X)
把(6.2)式代入(6.1)式有：
O(H|E)P(E|H) O(H) P(E|H)
再把LS代入此式，可得： O ( H |E ) L S O ( H )
同理可得到关于LN的公式：
( 6 . 3 )
P (H | E )P ( E|H )P (H ) P ( H | E ) P ( E| H ) P ( H )
所需知识不完备 不精确所需知识描述模糊 多种原因导致同一结论 问题的背景知识不足 解题方案不唯一
6.1.2 不确定性推理的基本问题
1. 不确定性的表示 2. 不确定性的匹配 3. 组合证据的不确定性的计算 4. 不确定性的更新 5. 不确定性结论的合成
5.1.2 不确定性推理的基本问题
1. 不确定性的表示
值 方
证据理论
法
模糊推理
第5章 不确定性推理
5.1 不确定性推理的基本概念 5.2 主观Bayes方法 5.3可信度方法 5.4 证据理பைடு நூலகம் 5.5 模糊推理
5.4.1 知识不确定性的表示
1. 知识表示方式
在主观Bayes方法中，知识是用产生式表示的，其形式为：
IF E THEN (LS, LN) H 其中，(LS, LN)用来表示该知识的知识强度，LS(充分性度量)和LN(必要性度 量)的表示形式分别为：
5.1.1 不确定性推理的含义
1. 什么是不确定性推理 不确定性推理泛指除精确推理以外的其它各种推理问题。包括不
完备、不精确知识的推理，模糊知识的推理，非单调性推理等。 不确定性推理过程实际上是一种从不确定的初始证据出发，通过
运用不确定性知识，最终推出具有一定不确定性但却又是合理或基 本合理的结论的思维过程。 2. 为什么要采用不确定性推理
5.1.2 不确定性推理的基本问题
4. 不确定性的更新 5. 不确定性结论的合成
4. 非精确性的更新 主要问题 ① 如何用证据的不确定性去更新结论的不确定性 ② 如何在推理中把初始证据的不确定性传递给最终结论 解决方法 对①，不同推理方法的解决方法不同 对②，不同推理方法的解决方法基本相同，即把当 前结论及其
LS P(E| H) P(E| H)
LN P(E| H) 1P(E| H) P(E| H) 1P(E| H)
下面进一步讨论LS和LN的含义。由本章第2节的Bayes公式可知：
P(H | E) P(E| H)P(H) P(E)
P(H | E) P(E| H)P(H) P(E)
两式相除得：
P ( H |E ) P ( E |H ) P ( H ) P ( H |E )P ( E | H )P ( H )
不确定性作为新的结论放入综合数据库，依次 传递，直到得出最终 结论 5. 非精确性结论的合成
含义：多个不同知识推出同一结论，且不确定性程度不同 方法：视不同推理方法而定
5.1.2 不确定性推理的类型
非
框架推理
数
值
语义网络推理
不
方
确 定
法
常识推理…
性
确定性理论
推 理
数
基于概率的方法
主观Bayes方法
2. 不确定性的匹配
含义 不确定的前提条件与不确定的事实匹配
问题 前提是不确定的，事实也是不确定的
方法 设计一个计算相似程度的算法，给出相似的限度
标志 相似度落在规定限度内为匹配，否则为不匹配
5.1.2 不确定性推理的基本问题
3. 组合证据不确定性的计算
含义 知识的前提条件是多个证据的组合
方法 最大最小方法，如合取取最小、析取取最大 概率方法，按概率