比较简单的贝叶斯网络总结
贝叶斯网络与因果推理

贝叶斯网络与因果推理贝叶斯网络是一种常用的概率图模型,被广泛应用于因果推理领域。
它以概率分布和有向无环图为基础,能够帮助我们理解和分析变量之间的因果关系。
本文将详细介绍贝叶斯网络的原理与应用,以及它在因果推理中的重要作用。
一、贝叶斯网络的原理贝叶斯网络基于贝叶斯定理和条件独立性假设,通过节点、边和概率表达式构成有向无环图,从而建立变量之间的因果关系模型。
在贝叶斯网络中,节点代表随机变量,边表示变量之间的依赖关系,而概率表达式则描述了变量之间的条件概率分布。
贝叶斯网络的核心是贝叶斯定理,其形式为P(A|B) = (P(B|A) * P(A)) / P(B)。
其中,P(A|B)表示在已知B发生的条件下,A发生的概率;P(B|A)表示在已知A发生的条件下,B发生的概率;P(A)和P(B)分别表示A和B独立发生的概率。
二、贝叶斯网络的应用1. 分类和预测:贝叶斯网络可以通过学习已知数据的概率关系,进行分类和预测任务。
通过给定一些观测变量,可以计算出其他未观测变量的概率分布,从而进行分类或预测。
2. 诊断和故障检测:贝叶斯网络可以用于诊断系统故障或进行故障检测。
通过观测系统中的一些变量,可以推断其他未观测变量的概率分布,从而确定系统的故障原因。
3. 原因分析和决策支持:贝叶斯网络可以用于原因分析和决策支持。
通过构建概率模型,可以确定某个事件发生的原因,从而辅助决策制定。
三、贝叶斯网络与因果推理1. 因果关系建模:贝叶斯网络可以帮助我们理解和建模变量之间的因果关系。
通过有向无环图,我们可以确定变量之间的依赖关系和因果关系。
贝叶斯网络的条件概率表达式则描述了变量之间的因果关系。
2. 因果推理:贝叶斯网络可以用于因果推理,即通过观测到的一些变量,来推断其他未观测变量的概率分布。
这种推理方式能够帮助我们分析和预测因果关系,并进行有效的决策。
3. 因果关系判定:贝叶斯网络可以用于判定变量之间的因果关系。
通过条件独立性和概率计算,我们可以判断出某个变量对另一个变量的影响程度,从而确定因果关系。
贝叶斯网络的基本原理

贝叶斯网络是一种用于建模不确定性和概率推理的图形模型。
它的基本原理是基于贝叶斯定理,通过描述不同变量之间的条件依赖关系来表示概率分布。
贝叶斯网络可以用于各种不同的领域,包括医学诊断、金融风险管理、自然语言处理等。
贝叶斯网络的基本原理是基于概率和图论的。
它由两部分组成:一个是有向无环图(DAG),另一个是条件概率分布。
有向无环图是由节点和有向边组成的,每个节点代表一个随机变量,而有向边表示节点之间的依赖关系。
条件概率分布则描述了每个节点在给定其父节点值的情况下的条件概率。
贝叶斯网络的一个重要特性是可以对变量之间的依赖关系进行建模。
通过定义节点之间的条件概率分布,贝叶斯网络可以捕捉到变量之间的直接和间接关系,从而可以进行概率推理和预测。
这使得贝叶斯网络成为了一个强大的工具,可以用于分析复杂系统中的不确定性和概率关系。
贝叶斯网络的建模过程通常包括两个步骤:结构学习和参数学习。
结构学习是指确定网络的拓扑结构,即确定节点之间的有向边的连接关系。
参数学习则是指确定每个节点的条件概率分布。
这两个步骤通常需要依赖于大量的数据和专业知识,因为在实际应用中,很多变量之间的关系是复杂的,需要通过数据分析和领域知识来进行建模。
贝叶斯网络在实际应用中有着广泛的用途。
在医学诊断领域,贝叶斯网络可以用于帮助医生进行疾病诊断和预测病情发展趋势。
在金融风险管理领域,贝叶斯网络可以用于分析不同变量之间的风险关系,帮助金融机构进行风险评估和风险控制。
在自然语言处理领域,贝叶斯网络可以用于语义分析和文本分类,帮助计算机理解和处理自然语言。
贝叶斯网络的优势在于能够处理不确定性和复杂性,同时能够利用领域知识和数据进行建模和推理。
然而,贝叶斯网络也有一些局限性,例如对大规模数据和复杂模型的建模能力有限,以及对参数的选择和网络结构的确定需要一定的专业知识和经验。
总的来说,贝叶斯网络是一种强大的概率图模型,它的基本原理是基于概率和图论的,通过描述变量之间的条件依赖关系来进行建模和推理。
贝叶斯网络及其应用

贝叶斯网络及其应用贝叶斯网络是一种基于概率数学的图形模型,可以表示多个变量之间的关系,包括因果关系和依赖关系。
贝叶斯网络常用于分类、预测和诊断等领域,具有广泛的应用价值。
一、贝叶斯网络的原理贝叶斯网络的核心思想是贝叶斯定理,即在观测变量的前提下,推断未观测变量的概率分布。
具体而言,贝叶斯网络由节点(变量)和边(关系)构成,其中节点表示变量,边表示变量之间的关系。
例如,一个人的身高和体重之间存在一定的关系。
如果用贝叶斯网络表示,身高和体重分别是两个节点,它们之间存在一条边。
因为身高可以影响体重,但是体重不能影响身高。
贝叶斯网络可以表示更为复杂的关系,例如,多个变量之间的依赖关系或因果关系。
应用贝叶斯网络可以对复杂的现象进行建模,并进行推理和预测。
二、贝叶斯网络的应用1. 分类贝叶斯网络在分类问题中有广泛的应用。
例如,在医学诊断中,病人的症状和疾病之间存在复杂的关系,使用贝叶斯网络可以对病情进行分类。
另外,在垃圾邮件分类中,使用贝叶斯网络可以对邮件进行分类,以便过滤垃圾邮件。
2. 预测贝叶斯网络在预测问题中也有广泛的应用。
例如,在金融领域,使用贝叶斯网络可以对股票价格进行预测。
另外,在环境研究中,使用贝叶斯网络可以对气候变化等问题进行预测。
3. 诊断贝叶斯网络在诊断领域中也有广泛的应用。
例如,在医学诊断中,使用贝叶斯网络可以根据病人的症状和疾病之间的关系,进行病情诊断。
另外,在工业控制中,使用贝叶斯网络可以对机器故障进行诊断。
三、贝叶斯网络的局限性贝叶斯网络虽然具有广泛的应用价值,但也存在一些局限性。
其中最主要的局限性是数据要求较高。
因为贝叶斯网络需要大量的数据来进行建模和训练,如果数据量太少,可能会影响预测的准确性。
另外,贝叶斯网络对于较为复杂的现象建模能力有限,可能无法完全反映真实的现象。
四、结论贝叶斯网络是一种基于概率数学的图形模型,可以表示多个变量之间的关系。
它具有广泛的应用价值,包括分类、预测和诊断等领域。
贝叶斯的原理和应用

贝叶斯的原理和应用1. 贝叶斯原理介绍贝叶斯原理是基于概率论的一种推理方法,它被广泛地应用于统计学、人工智能和机器学习等领域。
其核心思想是通过已有的先验知识和新的观察数据来更新我们对于某个事件的信念。
2. 贝叶斯公式贝叶斯公式是贝叶斯原理的数学表达方式,它可以用来计算在观察到一些新的证据后,更新对于某个事件的概率。
贝叶斯公式的表达如下:P(A|B) = (P(B|A) * P(A)) / P(B)其中,P(A|B)表示在观察到事件B之后,事件A发生的概率;P(B|A)表示在事件A发生的前提下,事件B发生的概率;P(A)和P(B)分别是事件A和事件B的先验概率。
3. 贝叶斯分类器贝叶斯分类器是基于贝叶斯原理的一种分类算法。
它利用已有的训练数据来估计不同特征值条件下的类别概率,然后根据贝叶斯公式计算得到新样本属于不同类别的概率,从而进行分类。
贝叶斯分类器的主要步骤包括:•学习阶段:通过已有的训练数据计算得到类别的先验概率和特征条件概率。
•预测阶段:对于给定的新样本,计算得到其属于不同类别的概率,并选择概率最大的类别作为分类结果。
贝叶斯分类器的优点在于对于数据集的要求较低,并且能够处理高维特征数据。
但是,贝叶斯分类器的缺点是假设特征之间相互独立,这在实际应用中可能不符合实际情况。
4. 贝叶斯网络贝叶斯网络是一种用有向无环图来表示变量之间条件依赖关系的概率图模型。
它可以用来描述变量之间的因果关系,并通过贝叶斯推理来进行推断。
贝叶斯网络的节点表示随机变量,边表示变量之间的条件概率关系。
通过学习已有的数据,可以构建贝叶斯网络模型,然后利用贝叶斯推理来计算给定一些观察值的情况下,其他变量的概率分布。
贝叶斯网络在人工智能、决策分析和医学诊断等领域有广泛的应用。
它可以通过概率推断来进行决策支持,帮助人们进行风险评估和决策分析。
5. 贝叶斯优化贝叶斯优化是一种用来进行参数优化的方法。
在参数优化问题中,我们需要找到使得某个性能指标最好的参数组合。
贝叶斯网络的交叉验证技巧(Ⅱ)

贝叶斯网络的交叉验证技巧贝叶斯网络(Bayesian Network)是一种用来描述随机变量之间概率依赖关系的图模型。
在实际应用中,构建和验证贝叶斯网络是一个重要的任务,而交叉验证技巧则是评估网络模型性能的一种常用方法。
一、贝叶斯网络简介首先,让我们简单了解一下贝叶斯网络。
贝叶斯网络由节点和有向边组成,节点表示随机变量,有向边表示变量之间的依赖关系。
节点的条件概率分布由其父节点确定,因此可以利用贝叶斯网络来推断变量之间的依赖关系。
在贝叶斯网络中,节点之间的依赖关系可以用概率分布来描述,因此它适用于处理不确定性信息和概率推断问题。
二、构建贝叶斯网络在构建贝叶斯网络时,我们需要利用已有的数据来学习节点之间的依赖关系。
通常使用的方法是基于数据的学习,即根据数据集中变量之间的相关性来确定网络结构和参数。
在这一过程中,我们需要选择合适的算法来进行网络结构学习和参数学习,如Hill Climbing算法、TAN算法等。
三、交叉验证技巧在构建贝叶斯网络时,我们需要对模型进行验证,以评估其性能和泛化能力。
而交叉验证技巧则是一种常用的模型验证方法。
交叉验证技巧将数据集划分为训练集和测试集,利用训练集来构建模型,然后利用测试集来评估模型的性能。
常用的交叉验证方法有k折交叉验证、留一法交叉验证等。
其中,k折交叉验证将数据集划分为k个子集,每次将其中一个子集作为测试集,其余子集作为训练集,重复k次,最终得到k个模型性能评估指标的平均值。
留一法交叉验证则是将每个样本依次作为测试集,其余样本作为训练集,最终得到n个模型性能评估指标,再求平均值。
通过交叉验证技巧,我们可以更准确地评估贝叶斯网络模型的性能,避免过拟合和欠拟合等问题,提高模型的泛化能力。
四、贝叶斯网络的应用贝叶斯网络在众多领域都有着广泛的应用,如医疗诊断、金融风控、智能推荐等。
在医疗诊断领域,贝叶斯网络可以利用患者的病历和实验室检查结果来推断疾病的可能性,辅助医生做出诊断和治疗决策;在金融风控领域,贝叶斯网络可以利用客户的贷款记录、信用评分等信息来评估其信用风险,帮助金融机构做出贷款审批和风险管理;在智能推荐领域,贝叶斯网络可以利用用户的历史行为数据来推荐个性化的商品和服务,提升用户体验。
贝叶斯网络的基本原理(Ⅰ)

贝叶斯网络的基本原理贝叶斯网络是一种概率图模型,它能够描述变量之间的依赖关系,并通过概率推断来进行推理和决策。
贝叶斯网络的基本原理包括概率论、图论和贝叶斯定理。
概率论是贝叶斯网络的基础,它描述了不同变量之间的概率关系。
在贝叶斯网络中,每个节点代表一个随机变量,节点之间的连接表示了它们之间的依赖关系。
每个节点都有一个条件概率表,描述了在给定父节点条件下,子节点的条件概率分布。
这种条件概率表的建立是基于领域知识和数据统计的结果,它能够有效地捕捉到变量之间的依赖关系。
另一个重要的原理是图论,贝叶斯网络是一种有向无环图。
有向边表示了变量之间的因果关系,而无环则保证了网络的一致性和可推断性。
通过图论的方法,可以对贝叶斯网络进行结构学习和参数学习,从而能够从数据中学习到变量之间的依赖关系和概率分布。
最重要的原理是贝叶斯定理,它是贝叶斯网络的核心。
贝叶斯定理描述了在给定观测数据的条件下,变量之间的概率分布是如何更新的。
贝叶斯网络通过贝叶斯定理进行推理,可以根据已知的观测数据,推断出其他变量的概率分布。
这种基于贝叶斯定理的推理方法,使得贝叶斯网络能够在不确定性和不完整信息的情况下进行有效的推断和决策。
除了这些基本原理之外,贝叶斯网络还有一些特点和应用。
首先,它能够有效地处理不确定性和噪声,因为它能够通过概率推断来量化不确定性,并能够灵活地处理缺失和不完整数据。
其次,贝叶斯网络可以通过结构学习和参数学习来从数据中学习到变量之间的依赖关系和概率分布,因此能够适应不同领域的应用。
最后,贝叶斯网络在医疗诊断、风险评估、工程决策等领域有着广泛的应用,它能够帮助人们从复杂的数据中推断出有用的信息,帮助人们做出更好的决策。
总之,贝叶斯网络是一种强大的概率图模型,它基于概率论、图论和贝叶斯定理,能够描述变量之间的依赖关系,并通过概率推断进行推理和决策。
它具有处理不确定性的优势,能够从数据中学习到知识,并且在各个领域有着广泛的应用。
贝叶斯网络结构学习总结

贝叶斯网络结构学习总结一、 贝叶斯网络结构学习的原理从数据中学习贝叶斯网络结构就是对给定的数据集,找到一个与数据集拟合最好的网络。
首先定义一个随机变量hS ,表示网络结构的不确定性,并赋予先验概率分布()h p S 。
然后计算后验概率分布(|)h p S D 。
根据Bayesian 定理有(|)(,)/()()(|)/()h h h h p S D p S D p D p S p D S p D ==其中()p D 是一个与结构无关的正规化常数,(|)h p D S 是边界似然。
于是确定网络结构的后验分布只需要为每一个可能的结构计算数据的边界似然。
在无约束多项分布、参数独立、采用Dirichlet 先验和数据完整的前提下,数据的边界似然正好等于每一个(i ,j )对的边界似然的乘积,即111()()(|)()()iiq r n ij ijk ijk hi j k ij ij ijk N p D S N ===Γ∂Γ∂+=Γ∂+Γ∂∏∏∏二、 贝叶斯网络完整数据集下结构学习方法贝叶斯网络建模一般有三种方法:1)依靠专家建模;2)从数据中学习;3)从知识库中创建。
在实际建模过程中常常综合运用这些方法,以专家知识为主导,以数据库和知识库为辅助手段,扬长避短,发挥各自优势,来保证建模的效率和准确性。
但是,在不具备专家知识或知识库的前提下,从数据中学习贝叶斯网络模型结构的研究显得尤为重要。
常用的结构学习方法主要有两类,分别是基于依赖性测试的学习和基于搜索评分的学习。
第一类方法是基于依赖性测试的方法,它是在给定数据集D 中评估变量之间的条件独立性关系,构建网络结构。
基于条件独立测试方法学习效率最好,典型的算法包括三阶段分析算法(TPDA )。
基于依赖性测试的方法比较直观,贴近贝叶斯网络的语义,把条件独立性测试和网络结构的搜索分离开,不足之处是对条件独立性测试产生的误差非常敏感。
且在某些情况下条件独立性测试的次数相对于变量的数目成指数级增长。
贝叶斯网络结构学习总结

贝叶斯⽹络结构学习总结完备数据集下的贝叶斯⽹络结构学习:基于依赖统计分析的⽅法—— 通常利⽤统计或是信息论的⽅法分析变量之间的依赖关系,从⽽获得最优的⽹络结构对于基于依赖统计分析⽅法的研究可分为三种:基于分解的⽅法(V结构的存在)Decomposition of search for v-structures in DAGsDecomposition of structural learning about directed acylic graphsStructural learning of chain graphs via decomposition基于Markov blanket的⽅法Using Markov blankets for causal structure learningLearning Bayesian network strcture using Markov blanket decomposition基于结构空间限制的⽅法Bayesian network learning algorithms using structural restrictions(将这些约束与pc算法相结合提出了⼀种改进算法,提⾼了结构学习效率)(约束由Campos指出包括1、⼀定存在⼀条⽆向边或是有向边 2、⼀定不存在⼀条⽆向边或有向边 3、部分节点的顺序)常⽤的算法:SGS——利⽤节点间的条件独⽴性来确定⽹络结构的⽅法PC——利⽤稀疏⽹络中节点不需要⾼阶独⽴性检验的特点,提出了⼀种削减策略:依次由0阶独⽴性检验开始到⾼阶独⽴性检验,对初始⽹络中节点之间的连接进⾏削减。
此种策略有效地从稀疏模型中建⽴贝叶斯⽹络,解决了SGS算法随着⽹络中节点数的增长复杂度呈指数倍增长的问题。
TPDA——把结构学习过程分三个阶段进⾏:a)起草(drafting)⽹络结构,利⽤节点之间的互信息得到⼀个初始的⽹络结构;b)增厚(thickening)⽹络结构,在步骤a)⽹络结构的基础上计算⽹络中不存在连接节点间的条件互信息,对满⾜条件的两节点之间添加边;。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
贝叶斯网络贝叶斯网络是一系列变量的联合概率分布的图形表示。
一般包含两个部分,一个就是贝叶斯网络结构图,这是一个有向无环图(DAG),其中图中的每个节点代表相应的变量,节点之间的连接关系代表了贝叶斯网络的条件独立语义。
另一部分,就是节点和节点之间的条件概率表(CPT),也就是一系列的概率值。
如果一个贝叶斯网络提供了足够的条件概率值,足以计算任何给定的联合概率,我们就称,它是可计算的,即可推理的。
3.5.1 贝叶斯网络基础首先从一个具体的实例(医疗诊断的例子)来说明贝叶斯网络的构造。
假设:命题S(moker):该患者是一个吸烟者命题C(oal Miner):该患者是一个煤矿矿井工人命题L(ung Cancer):他患了肺癌命题E(mphysema):他患了肺气肿命题S对命题L和命题E有因果影响,而C对E也有因果影响。
命题之间的关系可以描绘成如右图所示的因果关系网。
因此,贝叶斯网有时也叫因果网,因为可以将连接结点的弧认为是表达了直接的因果关系。
图3-5 贝叶斯网络的实例图中表达了贝叶斯网的两个要素:其一为贝叶斯网的结构,也就是各节点的继承关系,其二就是条件概率表CPT。
若一个贝叶斯网可计算,则这两个条件缺一不可。
贝叶斯网由一个有向无环图(DAG)及描述顶点之间的概率表组成。
其中每个顶点对应一个随机变量。
这个图表达了分布的一系列有条件独立属性:在给定了父亲节点的状态后,每个变量与它在图中的非继承节点在概率上是独立的。
该图抓住了概率分布的定性结构,并被开发来做高效推理和决策。
贝叶斯网络能表示任意概率分布的同时,它们为这些能用简单结构表示的分布提供了可计算优势。
假设对于顶点xi,其双亲节点集为Pai,每个变量xi的条件概率P(xi|Pai)。
则顶点集合X={x1,x2,…,xn}的联合概率分布可如下计算:。
双亲结点。
该结点得上一代结点。
该等式暗示了早先给定的图结构有条件独立语义。
它说明贝叶斯网络所表示的联合分布作为一些单独的局部交互作用模型的结果具有因式分解的表示形式。
从贝叶斯网的实例图中,我们不仅看到一个表示因果关系的结点图,还看到了贝叶斯网中的每个变量的条件概率表(CPT)。
因此一个完整的随机变量集合的概率的完整说明不仅包含这些变量的贝叶斯网,还包含网中变量的条件概率表。
图例中的联合概率密度:P(S,C,L,E)=P(E|S,C)*P(L|S)*P(C)*P(S)推导过程:P(S,C,L,E)=P(E|S,C,L)*P(L|S,C)*P(C|S)*P(S)(贝叶斯定理)=P(E|S,C)*P(L|S)*P(C)*P(S)即:P(E|S,C,L) =P(E|S,C), E与L无关P(L|S,C)= P(L|S)L与C无关P(C|S)=P(C) C与S无关以上三条等式的正确性,可以从贝叶斯网的条件独立属性推出:每个变量与它在图中的非继承节点在概率上是独立的。
相比原始的数学公式:P(S,C,L,E)=P(E|S,C,L)*P(L|S,C)*P(C|S)*P(S)推导过程:由贝叶斯定理,P(S,C,L,E)=P(E|S,C,L)*P(S,C,L)再由贝叶斯定理P(S,C,L)= P(L|S,C)* P(S,C)同样,P(S,C)=P(C|S)*P(S)以上几个等式相乘即得原式。
显然,简化后的公式更加简单明了,计算复杂度低很多。
如果原贝叶斯网中的条件独立语义数量较多,这种减少更加明显。
贝叶斯网络是一系列变量的联合概率分布的图形表示。
这种表示法最早被用来对专家的不确定知识编码,今天它们在现代专家系统、诊断引擎和决策支持系统中发挥了关键作用。
贝叶斯网络的一个被经常提起的优点是它们具有形式的概率语义并且能作为存在于人类头脑中的知识结构的自然映像。
这有助于知识在概率分布方面的编码和解释,使基于概率的推理和最佳决策成为可能。
3.5.2 贝叶斯网的推理模式在贝叶斯网中有三种重要的推理模式,因果推理(由上向下推理),诊断推理(自底向上推理)和辩解。
3.5.2.1 因果推理让我们通过概述的实例来说明因果推理得过程。
给定患者是一个吸烟者(S),计算他患肺气肿(E)的概率P(E|S)。
S称作推理的证据,E叫询问结点。
首先,我们寻找E的另一个父结点(C),并进行概率扩展P(E|S)=P(E,C|S)+P(E,~C|S);即,吸烟的人得肺气肿的概率为吸烟得肺气肿又是矿工的人的概率与吸烟得肺气肿不是矿工的人的概率之和,也就是全概率公式。
然后利用Bayes定理:P(E|S)=P(E|C,S)*P(C|S)+P(E|~C,S)*P(~C|S);公式解释:P(E,C|S)=P(E,C,S)/P(S)=P(E|C,S)*P(C,S)/P(S)(贝叶斯定理)=P(E|C,S)*P(C|S)(反向利用贝叶斯定理)同理可以得出P(E,~C|S)的推导过程。
需要寻找该表达式的双亲结点的条件概率,重新表达联合概率(指P(E,C|S),P(E,~C|S))。
在图中,C和S并没有双亲关系,符合条件独立条件:P(C|S)=P(C),P(~C|S) = P(~C),由此可得:P(E|S) = P(E|S,C)*P(C)+P(E|~C,S)*P(~C)如果采用概述中的例题数据,则有P(E|S)=0.9*0.3+0.3*(1-0.3)=0.48从这个例子中,不难得出这种推理的主要操作:1)按照给定证据的V和它的所有双亲的联合概率,重新表达给定证据的询问结点的所求条件概率。
2)回到以所有双亲为条件的概率,重新表达这个联合概率。
3)直到所有的概率值可从CPT表中得到,推理完成。
3.5.2.2 诊断推理同样以概述中的例题为例,我们计算"不得肺气肿的不是矿工"的概率P(~C|~E),即在贝叶斯网中,从一个子结点计算父结点的条件概率。
也即从结果推测一个起因,这类推理叫做诊断推理。
使用Bayes公式就可以把这种推理转换成因果推理。
P(~C|~E)=P(~E|~C)*P(~C)/P(~E),从因果推理可知P(~E|~C) = P(~E,S|~C)+P(~E,~S|~C)= P(~E|S,~C)*P(S)+P(~E|~S,~C)*P(~S)= (1-0.3)*0.4+(1-0.10)*(1-0.4)=0.82;由此得:P(~C|~E)=P(~E|~C)*P(~C)/ P(~E)(贝叶斯公式)=0.82*(1-0.3)/ P(~E)=0.574/ P(~E)同样的,P(C|~E) =P(~E|C)* P(C)/ P(~E)=0.34*0.3/ P(~E)=0.102 /P(~E)由于全概率公式:P(~C|~E)+P(C|~E)=1代入可得P(~E)=0.676所以,P(~C|~E)=0.849这种推理方式主要利用Bayes规则转换成因果推理。
3.5.2.3 辩解如果我们的证据仅仅是~E(不是肺气肿),象上述那样,我们可以计算~C患者不是煤矿工人的概率。
但是如果也给定~S(患者不是吸烟者),那么~C也应该变得不确定。
这种情况下,我们说~S解释~E,使~C变得不确定。
这类推理使用嵌入在一个诊断推理中的因果推理。
作为思考题,读者可以沿着这个思路计算上式。
在这个过程中,贝叶斯规则的使用,是辩解过程中一个重要的步骤。
3.5.3 D分离在本节最开始的贝叶斯网图中,有三个这样的结点:S,L,E。
从直观来说,L的知识(结果)会影响S的知识(起因),S会影响E的知识(另一个结果)。
因此,在计算推理时必须考虑的相关因素非常多,大大影响了算法的计算复杂度,甚至可能影响算法的可实现性。
但是如果给定原因S,L并不能告诉我们有关E的更多事情。
即对于S,L和E是相对独立的,那么在计算S和L的关系时就不用过多地考虑E,将会大大减少计算复杂度。
这种情况下,我们称S能D分离L和E。
D分离是一种寻找条件独立的有效方法。
如下图,对于给定的结点集ε,如果对贝叶斯网中的结点Vi和Vj之间的每个无向路径,在路径上有某个结点Vb,如果有属性:1)Vb在ε中,且路径上的两条弧都以Vb为尾(即弧在Vb处开始(出发))2)Vb在ε中,路径上的一条弧以Vb为头,一条以Vb为尾3)Vb和它的任何后继都不在ε中,路径上的两条弧都以Vb为头(即弧在Vb处结束)则称Vi和Vj 被Vb结点阻塞。
结论:如果Vi和Vj被证据集合ε中的任意结点阻塞,则称Vi和Vj是被ε集合D分离,结点Vi和Vj条件独立于给定的证据集合ε,即P(Vi|Vj,ε) =P(Vi|ε)P(Vj|Vi,ε) =P(Vj|ε)表示为:I(Vi,Vj|ε) 或I(Vj,Vi|ε)无向路径:DAG图是有向图,所以其中的路径也应该是有向路径,这里所指的无向路径是不考虑DAG图中的方向性时的路径。
条件独立:如具有以上三个属性之一,就说结点Vi和Vj条件独立于给定的结点集ε。
阻塞:给定证据集合ε,当上述条件中的任何一个满足时,就说Vb阻塞相应的那条路径。
D分离:如果Vi和Vj之间所有的路径被阻塞,就叫证据集合ε可以D分离Vi和Vj注意:在论及路径时,是不考虑方向的;在论及"头"和"尾"时,则必须考虑弧的方向。
"头"的含义是箭头方向(有向弧)的终止点,"尾"的含义是箭头方向(有向弧)的起始点。
回到最开始的医疗诊断实例:为简单起见,选择证据集合ε为单个结点集合。
对于给定的结点S,结点E阻塞了结点C和结点L之间的路径,因此C和L是条件独立的,有I(C,L|S)成立。
而对于给定结点E,S和L之间找不到阻塞结点。
因此,S和L不是条件独立的。
即使使用了D分离,一般地讲,在贝叶斯网中,概率推理仍是NP难题。
然而,有些简化能在一个叫Polytree 的重要网络分类中使用。
一个Polytree网是一个DAG,在该DAG的任意两个结点间,顺着弧的每一个方向只有一条路径。
如图就是一个典型的Polytree。
图3-7 PolytreeD分离的实质就是寻找贝叶斯网中的条件独立语义,以简化推理计算。
总结本节就Bayes网络的基本问题进行了阐述,着重点在推理计算上。
其本质就是通过各种方法寻找网络中的条件独立性,达到减少计算量和复杂性的目的。
这些都只是粗浅的描述,进一步的学习,请参考相应的参考书的" olytree的概率推理"和"Bayes网的学习和动作"等章节,其中有很详细的阐述。