人工智能第4章 计算智能(1)
第一讲 人工智能与计算智能概述
1.2 人工智能的发展简史
第一阶段——孕育期 （1956年以前） 第二阶段——人工智能基础技术的研究和形成 （1956年—1970年） 第三阶段——发展和实用化阶段 （1971年—1980年） 第四阶段——知识工程与专家系统 （1980年至今）
第一阶段——孕育期
公元前，古希腊哲学家亚里士多德（Aristotle）创立了古典形式逻辑。 17世纪，英国哲学家和自然科学家培根（F. Bacon）系统地提出了古典归 纳推理。 17世纪，德国数学家莱布尼茨（G. W. Leibniz）提出了数理逻辑的基本 思想。 1642年，法国物理学家和数学家帕斯卡（B. Pascal）发明了世界上第一 台会演算的机械加法机。 1673年，Leibniz在这台加法机的基础上发展并制成了可进行四则运算的 计算器。 1832年，英国数学家巴比奇（C. Babbage）制成可用来计算简单数学表 的差分机，并提出分析机（能自动完成各种类型数字计算）的设计思想。 19世纪中叶，英国数学家布尔（G. Boole）出了布尔代数，初步实现了 Leibniz的数理逻辑思想 。
1956年，Newell和Simon等人编写的程序Logic Theorist证明了《数学 原理》中第二章的三十八条定理，又于1963年证明了该章中的全部五十二条 定理。他们的成果使人工智能研究走上以计算机程序来模拟人类思维的道路 ，第一次把求解方法和问题的领域知识分离开。在相同的研究途径下， Selfridge编制了字符识别程序、Samuel研制了跳棋程序。Samuel的跳 棋程序具有学习功能，在1959和1962年分别打败了Samuel本人和美国一 个州的跳棋冠军。 1957年，Simon、Newell和肖（J. C. Shaw）合作开发了表处理语言 IPL（Information Processing Language。 1957年，罗森勃拉特（F. Rosenblatt）提出著名的感知机（ Perceptron）模型，该模型是第一个完整的人工神经网络。 1958年，美籍逻辑学家王浩在自动定理证明中取得的重要进展。他的程序在 IBM-704计算机上用不到5分钟的时间证明了《数学原理》中“命题演算” 的全部220条定理。 1959年，王浩的改进程序用8.4分钟证明了上述220条定理及谓词演算
人工智能基础及应用(微课版) 习题及答案 第4章 机器学习
习题一、选择题1 .关于k-近邻算法说法错误的是OA是机器学习B是无监督学习Ck代表分类个数Dk的选择对分类结果没有影响2 .关于k-近邻算法说法错误的是OA一般使用投票法进行分类任务Bk-近邻算法属于懒惰学习C训练时间普遍偏长D距离计算方法不同，效果也可能显著不同3 .关于决策树算法说法错误的是OA受生物进化启发B属于归纳推理C用于分类和预测D自顶向下递推4 .利用信息增益来构造的决策树的算法是OAID3决策树B递归C归约DFIFO5 .决策树构成的顺序是（）A特征选择、决策树生成、决策树剪枝B决策树剪枝、特征选择、决策树生成C决策树生成、决策树剪枝、特征选择D特征选择、决策树剪枝、决策树生成6 .朴素贝叶斯分类器属于O假设A样本分布独立B属性条件独立C后验概率已知D先验概率已知7 .支持向量机是指OA对原始数据进行采样得到的采样点B决定分类平面可以平移的范围的数据点C位于分类面上的点D能够被正确分类的数据点8 .关于支持向量机的描述错误的是OA是一种监督学习的方式B可用于多分类问题C支持非线性核函数D是一种生成式模型9 .关于k-均值算法的描述错误的是OA算法开始时，k-means算法时需要指定中心点B算法效果不受初始中心点的影响C算法需要样本与中心点之间的距离D属于无监督学习10 .k-Medoids与k-means聚类最大的区别在于（）A中心点的选择规则B距离的计算法方法C应用层面D聚类效果二、简答题1 .k-近邻算的基本思想是什么？2 .决策树的叶结点和非叶结点分别表示什么？3 .朴素贝叶斯分类器为什么是“朴素”的？4 .线性可分支持向量机的基本思想是什么？5 .核技巧是如何使线性支持向量机生成非线性决策边界的？6 .什么是聚类？聚类和分类有什么区别？7 .试举例聚类分析的应用场景,参考答案一、选择题1.D2,C3.A4.A5.D6.B7.C8.D9.B 10.A二、简答题1.请简述k・近邻算法的思想答：给定一个训练样本集合D以及一个需要进行预测的样本X：对于分类问题，k-近邻算法从所有训练样本集合中找到与X最近的k个样本，然后通过投票法选择这k个样本中出现次数最多的类别作为X的预测结果;对于回归问题,k近邻算法同样找到与X最近的k个样本,然后对这k个样本的标签求平均值，得到X的预测结果。
人工智能本科习题
图8.22机械手堆积木规划问题
8-8指出你的过程结构空间求得的图8.23问题的路径，并叙述如何把你在上题中所得结论推广至包括旋转情况。
图8.23一个寻找路径问题
第一章绪论
1-1.什么是人工智能？试从学科和能力两方面加以说明。
1-2.在人工智能的发展过程中，有哪些思想和思潮起了重要作用？
1-3.为什么能够用机器（计算机）模仿人的智能？
1-4.现在人工智能有哪些学派？它们的认知观是什么？
1-5.你认为应从哪些层次对认知行为进行研究？
1-6.人工智能的主要研究和应用领域是什么？其中，哪些是新的研究热点？
3-16下列语句是一些几何定理，把这些语句表示为基于规则的几何证明系统的产生式规则：
(1)两个全等三角形的各对应角相等。
(2)两个全等三角形的各对应边相等。
(3)各对应边相等的三角形是全等三角形。
(4)等腰三角形的两底角相等。
第四章计算智能（1）：神经计算模糊计算
4-1计算智能的含义是什么？它涉及哪些研究分支？
5-2试述遗传算法的基本原理，并说明遗传算法的求解步骤。
5-3如何利用遗传算法求解问题，试举例说明求解过程。
5-4用遗传算法求的最大值
5-5进化策略是如何描述的？
5-6简述进化编程的机理和基本过程，并以四状态机为例说明进化编程的表示。
5-7遗传算法、进化策略和进化编程的关系如何？有何区别？
5-8人工生命是否从1987年开始研究？为什么？
2-10试构造一个描述你的寝室或办公室的框架系统。
第三章搜索推理技术
3-1什么是图搜索过程?其中，重排OPEN表意味着什么，重排的原则是什么?
3-2试举例比较各种搜索方法的效率。
人工智能教程习题及答案第4章习题参考解答
第四章不确定性推理习题参考解答4.1 练习题4.1什么是不确定性推理？有哪几类不确定性推理方法？不确定性推理中需要解决的基本问题有哪些？4.2什么是可信度？由可信度因子CF(H，E)的定义说明它的含义。
4.3什么是信任增长度？什么是不信任增长度？根据定义说明它们的含义。
4.4当有多条证据支持一个结论时，什么情况下使用合成法求取结论的可信度？什么情况下使用更新法求取结论可信度？试说明这两种方法实际是一致的。
4.5设有如下一组推理规则：r1：IF E1THEN E2(0.6)r2：IF E2AND E3THEN E4 (0.8)r3：IF E4THEN H (0.7)r4：IF E5THEN H (0.9)且已知CF(E1)=0.5，CF(E3)=0.6，CF(E5)=0.4，结论H的初始可信度一无所知。
求CF(H)=？4.6已知：规则可信度为r1：IF E1THEN H1(0.7)r2：IF E2THEN H1(0.6)r3：IF E3THEN H1(0.4)r4：IF (H1 AND E4) THEN H2(0.2)证据可信度为CF(E1)=CF(E2)=CF(E3)=CF(E4)=CF(E5)=0.5H1的初始可信度一无所知，H2的初始可信度CF0(H2)=0.3计算结论H2的可信度CF(H2)。
4.7设有三个独立的结论H1，H2，H3及两个独立的证据E1与E2，它们的先验概率和条件概率分别为P(H1)=0.4，P(H2)=0.3，P(H3)=0.3P(E1/H1)=0.5，P(E1/H2)=0.6，P(E1/H3)=0.3P(E2/H1)=0.7，P(E2/H2)=0.9，P(E2/H3)=0.1利用基本Bayes方法分别求出：（1）当只有证据E1出现时，P(H1/E1)，P(H2/E1)，P(H3/E1)的值各为多少？这说明了什么？（2）当E1和E2同时出现时，P(H1/E1E2)，P(H2/E1E2)，P(H3/E1E2)的值各是多少？这说明了什么？4.8在主观Bayes方法中，请说明LS与LN的意义。
华师大必修1 第4章第3节 人工智能的作用及影响
2018年 4月,“博鳌亚洲论坛 ,来自世界各国的 两千多位嘉宾。 首次使用人工智能翻译机(如图 4.25所 示),实现了中文和英语、日语、韩语、法语、 西班牙语等多种语言的实时互译,为现场嘉宾提供 服务。 思考： 1. 人工智能应用在哪些方面具有人类所不具 备的
优势? 随着人工智能技术的发展,哪些行业或 工种会受到比较大的冲击? 又会出现哪些新的 行业? 2. 与人工智能应用相比,人类自身有哪些优势? 人 类与人工智能应该建立什么样的合作 关系?
图 4.27 智能农业
3. 智能物流
智能物流通过加强智能化装卸搬运、分拣包装、 加工配送等智能 物流装备的研发和推广应用,建设深 度感知智能仓储系统,提升仓储运营 管理水平和效 率,如图4.28所示。
在国内某公司正着力打造的智慧物流中心里,从 入库、在库到拣货、 分拣、装车,整个过程都无需人力参与,使得仓储管理拥有极高的效率和 出色的灵活性。这种以“无人仓”作为载体的全新一代智能物流技术, 其核心特色体现为数据感知、 机器人融入和算法指导生产,可以全面改 变目前仓储的运营模式,极 大提升效率并降低人力消耗。与传统的仓储 模式相比,“无人仓”在运 营效率、灵活性、吞吐量等方面跨上了一个新 的台阶。
图 4.25 人工智能翻译机
一、人工智能在不同领域发挥的作用
为了加快推进产业智能化升级,推动人工智能与各 行业融合创新,我国将在制造、农业、物流、金融、家 居等重点行业和领域开展人工智能应用试点示范,推动 人工智能规模化应用,全面提升产业发展智能化水平。
制造
农业
物流
金融
家居
1. 智能制造
在国内某智能手机制造商的自动化生产线上,从 送料开始到 包装出货,每隔28.5秒就可以生产出一台 智能手机。生产的全过 程采用智能化管理,包括向生 产基地运货、物料自动仓储入库、 生产线自动提取配 件、成品出库等各个环节。生产组装过程中, 采用人机 结合的方式,由机器完成其中的大部分工作。同样贯 穿 在全部生产过程中的还有生产数据的可视化管理,每一台生产设 备、 每一件物料,甚至是每一位员工,都可以转化为一个可视化的 节点。
第一讲计算智能导论
图灵测试
❖ 从表面上看，要使机器回答按一定范围提出的问 题似乎没有什么困难，可以通过编制特殊的程序 来实现。然而，如果提问者并不遵循常规标准， 编制回答的程序是极其困难的事情。例如，提问 与回答呈现出下列状况：
图灵试验
❖ 问：你会下国际象棋吗？ ❖ 答：是的。 ❖ 问：你会下国际象棋吗？ ❖ 答：是的。 ❖ 问：请再次回答，你会下国际象棋吗？ ❖ 答：是的。 你多半会想到，面前的这位是一部笨机器。
然而，这种状况也没能维持几年，勤奋好学
的中学生很快又超过了大学教授，他居然把学习 的触角伸进了当时最新数学分支——集合论和泛 函分析，同时还阅读了大量历史和文学方面的书 籍，并且学会了七种外语。毕业前夕，冯·诺依曼 与数学教授联名发表了他第一篇数学论文，那一 年，他还不到17岁。
考大学前夕，匈牙利政局动荡，冯·诺依曼 便浪迹欧洲各地，在柏林和瑞士一些著名的大学 听课。22岁时，他获瑞士苏黎士联邦工业大学化 学工程师文凭。一年之后，轻而易举摘取布达佩 斯大学数学博士学位。在柏林当了几年无薪讲师 后，他转而攻向物理学，为量子力学研究数学模 型，又使自己在理论物理学领域占据了突出的地 位。风华正茂的冯·诺依曼，靠着顽强的学习毅力， 在科学殿堂里“横扫千军如卷席”，成为横跨 “数、理、化”各门学科的超级全才。
系詞有两种：「是」或「不是」；量词亦有兩种：「所有」 (all)或「有」(some)。
亚里斯多德与逻辑、推理
(A) 所有S是P (或 凡S是P)，例如「凡人是動物」； (B) 凡S不是P，例如「凡貓不是狗」； (C) 有S是P，例如「有花是白的」； (D) 有S不是P，如有花不是白的。
所谓「逻辑推論」，即指由前提推导出结论的正 确(valid)的方法，在这种正确推论中，若前提为 真，則结论亦必然为真。
人工智能课后习题第4章 参考答案
第4章搜索策略参考答案4.5 有一农夫带一条狼，一只羊和一框青菜与从河的左岸乘船倒右岸，但受到下列条件的限制：(1) 船太小，农夫每次只能带一样东西过河；(2)如果没有农夫看管，则狼要吃羊，羊要吃菜。
请设计一个过河方案，使得农夫、浪、羊都能不受损失的过河，画出相应的状态空间图。
题示：(1) 用四元组（农夫，狼，羊，菜）表示状态，其中每个元素都为0或1，用0表示在左岸，用1表示在右岸。
(2) 把每次过河的一种安排作为一种操作，每次过河都必须有农夫，因为只有他可以划船。
解：第一步，定义问题的描述形式用四元组S=（f，w，s，v）表示问题状态，其中，f，w，s和v分别表示农夫，狼，羊和青菜是否在左岸，它们都可以取1或0，取1表示在左岸，取0表示在右岸。
第二步，用所定义的问题状态表示方式，把所有可能的问题状态表示出来，包括问题的初始状态和目标状态。
由于状态变量有4个，每个状态变量都有2种取值，因此有以下16种可能的状态：S0=(1,1,1,1)，S1=(1,1,1,0)，S2=(1,1,0,1)，S3=(1,1,0,0)S4=(1,0,1,1)，S5=(1,0,1,0)，S6=(1,0,0,1)，S7=(1,0,0,0)S8=(0,1,1,1)，S9=(0,1,1,0)，S10=(0,1,0,1)，S11=(0,1,0,0)S12=(0,0,1,1)，S13=(0,0,1,0)，S14=(0,0,0,1)，S15=(0,0,0,0)其中，状态S3，S6，S7，S8，S9，S12是不合法状态，S0和S15分别是初始状态和目标状态。
第三步，定义操作，即用于状态变换的算符组F由于每次过河船上都必须有农夫，且除农夫外船上只能载狼，羊和菜中的一种，故算符定义如下：L(i)表示农夫从左岸将第i样东西送到右岸（i=1表示狼，i=2表示羊，i=3表示菜，i=0表示船上除农夫外不载任何东西）。
由于农夫必须在船上，故对农夫的表示省略。
人工智能(王万森)ppt
５．６．４ 贝叶斯网络的近似推理（１７１）
习题５ （１７２）
第６章 符号学习（１７５）
６．１ 符号学习概述（１７５）
６．１．１ 学习的概念（１７５）习系统的基本模型（１７８）
１．２．４ 从学派分立走向综合（６）
１．２．５ 智能科学技术学科的兴起（６）
１．３ 人工智能研究的基本内容（７）
１．３．１ 与脑科学和认知科学的交叉研究（７）
１．３．２ 智能模拟的方法和技术研究（８）
１．４ 人工智能研究中的不同学派（８）
１．４．１ 符号主义（９）
１．４．２ 联结主义（９）
４．２ 神经计算（９８）
４．２．１ 神经计算基础（９９）!
４．２．２ 人工神经网络的互联结构（１０２）
４．２．３ 人工神经网络的典型模型（１０４）
４．３ 进化计算（１０８）
４．３．１ 进化计算概述（１０８）
４．３．２ 遗传算法（１１２）
４．４ 模糊计算（１２３）
４．４．１ 模糊集及其运算（１２３）
５．１．２ 不确定性推理的基本问题（１３８）
５．１．３ 不确定性推理的类型（１３９）
５．２ 可信度推理（１３９）
５．２．１ 可信度的概念（１４０）
５．２．２ 可信度推理模型（１４０）
５．２．３ 可信度推理的例子（１４４）
５．３ 主观Bayes推理（１４５）
５．３．１ 主观Bayes方法的概率论基础（１４５）
２．２．２ 产生式表示法（３３）
２．２．３ 语义网络表示法（３４）
２．２．４ 框架表示法（４０）
２．３ 确定性知识推理方法（４７）
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
4.激励函数 4.激励函数
单元的总输入信号与单元激活值的映射关系 可以是等值函数, 可以是等值函数,也可以是阈值函数或可微的连续函数
5.连接模式 5.连接模式
网络中所有单元连接强度(权值) 网络中所有单元连接强度(权值)构成的矩阵
6.传播规则 6.传播规则
某个神经单元所接受的总输入与其它单元对该单元输出之间 的关系,最常用的为加权传播法则. 的关系,最常用的为加权传播法则.
三.BP模型的应用举例 BP模型的应用举例
实例：应用BP网络预测气候变化对雅砻江流域径流的影响. BP网络预测气候变化对雅砻江流域径流的影响 实例：应用BP网络预测气候变化对雅砻江流域径流的影响. 经分析,在诸多气候因子中, 经分析,在诸多气候因子中,流域内年均气温和年均降水量是 影响流域年均径流的两个主要因子, 影响流域年均径流的两个主要因子,若把气温和降水看作输入 径流看作输出,可用BP BP网络来研究气温和降水变化对流域径 ,径流看作输出,可用BP网络来研究气温和降水变化对流域径 流的影响.建立三层BP网络(输入层、输出层和一个隐蔽层), BP网络 流的影响.建立三层BP网络(输入层、输出层和一个隐蔽层), 以年均气温和年均降水量作为BP网络输入层的输入单元, BP网络输入层的输入单元 以年均气温和年均降水量作为BP网络输入层的输入单元,年均 径流量为网络输出层的输出单元. 1960到1990年共31年实测 年共31 径流量为网络输出层的输出单元.用1960到1990年共31年实测 的年均气温、降水和径流量系列资料( 31个样本对 个样本对) 的年均气温、降水和径流量系列资料(即31个样本对)对网络 进行训练、检验,其中1960 1982年资料作为训练样本 1960— 年资料作为训练样本， 进行训练、检验,其中1960—1982年资料作为训练样本， 1983-1990年资料作为检验样本 年资料作为检验样本。 1983-1990年资料作为检验样本。
二.计算智能与人工智能的区别
计算智能取决于制造者（manufacturers）提供的数值数据, 计算智能取决于制造者（manufacturers）提供的数值数据, 不依赖于知识 人工智能应用知识精品（ 人工智能应用知识精品（knowledge tidbits). 计算智能模拟人或动物的低层次智能. 计算智能模拟人或动物的低层次智能. 人工智能模拟人的逻辑判断等高级思维活动. 人工智能模拟人的逻辑判断等高级思维活动.
第四章 计算智能(1) 神经计算 计算智能(1)
4.1 4.2 4.3 4.4 4.5 计算智能概述 人工神经网络的进展 人工神经网络的结构 线性模型与感知机 BP模型及应用 BP模型及应用
4.1 计算智能概述
一.为什么要提出计算智能
传统的人工智能要解决得是对人的高层次智能的模拟,以处理 的模拟, 知识达到目的. 知识达到目的. 对人的低层次智能的模拟效果不理想.而一些仿生算法对处理 的模拟效果不理想. 该类问题显示了巨大的潜力.这些算法不依赖知识,因此在90年 该类问题显示了巨大的潜力.这些算法不依赖知识,因此在90年 代初被学者归类于计算智能. 代初被学者归类于计算智能. 计算智能包括人工神经网络,遗传算法,蚂蚁算法,元胞自动机, 计算智能包括人工神经网络,遗传算法,蚂蚁算法,元胞自动机, 进化计算,人工生命等. 进化计算,人工生命等.
大量的神经元通过突触连接成复杂的信息处理网络. 大量的神经元通过突触连接成复杂的信息处理网络.信息表现 在突触的连接强度上,并且能通过训练或学习进行改变. 在突触的连接强度上,并且能通过训练或学习进行改变. 在此基础上建立人工神经元的数学模型: 在此基础上建立人工神经元的数学模型:
二.感知机模型体现人工神经网络的非线性处理 能力
设误差e采用下式表示： 设误差e采用下式表示：
其中, 其中,Yi＝f〔W*·Xi]是对应第i个样本Xi的实时输出 是对应第i个样本X 是对应第i个样本X 的期望输出. Yi是对应第i个样本Xi的期望输出. 要使误差e最小，可先求取e的梯度： 要使误差e最小，可先求取e的梯度：
( ( w ij k + 1 ) = w ij k ) − η
分为输入单元, 分为输入单元,输出单元和隐单元 每个单元有激活值,可以是连续实数值, 每个单元有激活值,可以是连续实数值,也可以是离散整数值
2.输入与输出 2.输入与输出
从网络外部到网络内部的为输入信号 从网络内部到网络外部的为输出信号
3.输出函数 3.输出函数
单元的输出信号与单元激活值的映射关系 可以是等值函数, 可以是等值函数,也可以是阈值函数
∂E ( ∂ w ij k )
二.BP模型的应用范围及局限 BP模型的应用范围及局限
. BP模型广泛应用于模式识别,预测,信号处理等领域 BP模型广泛应用于模式识别 预测, 模型广泛应用于模式识别, . 经数学证明,它可以表达任意连续函数 经数学证明, . 其缺点是学习时间长,收敛慢,且容易陷入局部最小,原因是 其缺点是学习时间长,收敛慢,且容易陷入局部最小, 误差曲面复杂. 误差曲面复杂.
7.学习法则 7.学习法则
神经网络的运行包括两个阶段： 神经网络的运行包括两个阶段： 向神经网络提供一系列输入－ 1 . 训练或学习阶段 向神经网络提供一系列输入 － 输出数 据组,通过数值计算方法和参数优化技术, 据组 , 通过数值计算方法和参数优化技术 , 使节点连接的权值 不断调整,直到从给定的输入能产生所期望的输出. 不断调整,直到从给定的输入能产生所期望的输出. 预测（ 应用） 以训练好的网络, 2 2 . 预测 （ 应用 ） 阶段 以训练好的网络 , 对未知的样本进行 预测 人工神经网络的主要学习算法 .有师学习 .无师学习 .强化学习
4.4 线性模型与感知机
一.线性网络模型特征
1.只有输入单元和输出单元 1.只有输入单元和输出单元,没有隐单元 只有输入单元和输出单元, 2.单元激活值为连续实数值 2.单元激活值为连续实数值 3.输出函数和激活函数均为等值函数 3.输出函数和激活函数均为等值函数 4.采用加权传播规则 4.采用加权传播规则 线性网络模型等价于线形方程组(请课后自行分析) 线性网络模型等价于线形方程组(请课后自行分析) 多层线性模型可以找到等价的双层线形模型( 多层线性模型可以找到等价的双层线形模型(既隐单元对线 形模型是多余的) 请在作业中证明. 形模型是多余的) 请在作业中证明.
请看一个蚂蚁算法的实例
三.计算智能的概念
当一个系统只涉及数值（低层）数据,含有模式识别部分, 当一个系统只涉及数值（低层）数据,含有模式识别部分,不应 用人工智能意义上的知识，而且能够呈现出： 用人工智能意义上的知识，而且能够呈现出： 计算适应性； （1）计算适应性； 计算容错性； （2）计算容错性； 接近人的速度； （3）接近人的速度； 误差率与人相近， （4）误差率与人相近， 则该系统就是计算智能系统. 则该系统就是计算智能系统. 我们的目标是把计算智能系统与人类知识有机地结合起来构 成完整的智能系统. 成完整的智能系统.二.线性阈值模型的特征
1.既有输入单元和输出单元 1.既有输入单元和输出单元,也有隐单元 既有输入单元和输出单元, 2.单元激活值为{0,1} 2.单元激活值为 单元激活值为{0,1} 3.输出函数为等值函数 3.输出函数为等值函数 4.激活函数为阈值函数 4.激活函数为阈值函数 5.采用加权传播规则 5.采用加权传播规则
4.5 BP模型及应用 BP模型及应用
一.BP模型(反向传播网络)的特征 BP模型 反向传播网络) 模型(
1.既有输入单元和输出单元,也有隐单元 1.既有输入单元和输出单元 既有输入单元和输出单元, 2.单元激活值为连续实数值 2.单元激活值为连续实数值 3.输出函数为等值函数 3.输出函数为等值函数 4.激活函数为非递减的可微函数 4.激活函数为非递减的可微函数 例如Sigmoid函数,非对称Sigmoid函数为f(X)=1/(1+e Sigmoid函数 Sigmoid函数为 例如Sigmoid函数,非对称Sigmoid函数为f(X)=1/(1+ex),对称 Sigmoid函数f(X)=(1-e-x)/(1+e-x). ),对称 Sigmoid函数f(X)=(1函数f(X)=(1 5.采用加权传播规则 5.采用加权传播规则 6. 学习算法采用的是梯度下降法，它使期望输出与实际输出 学习算法采用的是梯度下降法， 之间的误差平方和最小. 之间的误差平方和最小.
三.两层线性阈值模型(感知机) 两层线性阈值模型(感知机)
这是一个表达或逻辑的模型 它可以用delta学习法则学习 它可以用delta学习法则学习
感知机无法表达异或逻辑(请在课后作业证明) 感知机无法表达异或逻辑(请在课后作业证明) 异或逻辑甚至更复杂的布尔代数只能用多层线形阈值模型表 但无法找到合适的学习法则. 达,但无法找到合适的学习法则. 感知机局限性的分析: 感知机局限性的分析:
20世纪50年代对人工神经网络的一个特例感知机模型(即双层 20世纪 年代对人工神经网络的一个特例感知机模型 世纪50年代对人工神经网络的一个特例感知机模型( 线性阈值模型)的研究表明, 线性阈值模型)的研究表明,人工神经网络能够处理非线性问题 .但随后不久发现感知机的表达能力极其有限,对于复杂的非线 但随后不久发现感知机的表达能力极其有限, 性问题无能为力,如布尔代数的异或逻辑. 性问题无能为力,如布尔代数的异或逻辑. 这表明计算复杂性必须以结构复杂性为代价, 这表明计算复杂性必须以结构复杂性为代价,感知机的结构局 限导致了其表达能力的有限. 限导致了其表达能力的有限. 随后人工神经网络的研究陷入了低谷,直到80年代出现的 随后人工神经网络的研究陷入了低谷,直到80年代出现的 Hopfield模型和 模型 Hopfield模型和BP模型. 模型和BP
四.人工神经网络的特点
（1）并行分布处理, 神经网络具有高度的并行结构和并行 并行分布处理, 实现能力. 实现能力. 非线性映射, 神经网络具有固有的非线性特性, （2）非线性映射, 神经网络具有固有的非线性特性,这源于 其近似任意非线性映射（变换）能力。 其近似任意非线性映射（变换）能力。 通过训练进行学习, （3）通过训练进行学习,神经网络是通过所研究系统过去 的数据记录进行训练的。 的数据记录进行训练的。一个经过适当训练的神经网络具有 归纳全部数据的能力。 归纳全部数据的能力。 适应与集成,神经网络能够适应在线运行， （4）适应与集成,神经网络能够适应在线运行，并能同时 进行定量和定性操作. 进行定量和定性操作. 硬件实现, （5）硬件实现,神经网络不仅能够通过软件而且可借助软 件实现并行处理. 件实现并行处理.