机器学习实验报告
机器学习SVM(支持向量机)实验报告
实验报告实验名称：机器学习:线性支持向量机算法实现学员: 张麻子学号: *＊***＊＊**** 培养类型：硕士年级：专业：所属学院：计算机学院指导教员：＊＊＊＊** 职称：副教授实验室:实验日期:ﻬ一、实验目得与要求实验目得:验证SVM(支持向量机）机器学习算法学习情况要求：自主完成。
二、实验内容与原理支持向量机（Support Ｖecｔｏr Maｃｈine,SVM）得基本模型就是在特征空间上找到最佳得分离超平面使得训练集上正负样本间隔最大。
SVＭ就是用来解决二分类问题得有监督学习算法。
通过引入了核方法之后SVM也可以用来解决非线性问题。
但本次实验只针对线性二分类问题。
ＳVM算法分割原则：最小间距最大化，即找距离分割超平面最近得有效点距离超平面距离与最大。
对于线性问题：假设存在超平面可最优分割样本集为两类,则样本集到超平面距离为：需压求取：由于该问题为对偶问题，可变换为:可用拉格朗日乘数法求解。
但由于本实验中得数据集不可以完美得分为两类，即存在躁点。
可引入正则化参数Ｃ,用来调节模型得复杂度与训练误差。
作出对应得拉格朗日乘式：对应得ＫKT条件为：故得出需求解得对偶问题:本次实验使用python编译器，编写程序，数据集共有２７０个案例，挑选其中70％作为训练数据,剩下30％作为测试数据。
进行了两个实验,一个就是取Ｃ值为１，直接进行ＳＶM训练;另外一个就是利用交叉验证方法,求取在前面情况下得最优Ｃ值.三、实验器材实验环境:windowｓ7操作系统+pytｈon编译器。
四、实验数据(关键源码附后)实验数据:来自ＵCI机器学习数据库,以Hｅart Disease数据集为例。
五、操作方法与实验步骤１、选取Ｃ＝1，训练比例７：3，利用pyｔｈon库sｋleａrｎ下得SVM（)函数进行训练,后对测试集进行测试；2、选取训练比例7：3，Ｃ＝nｐ、linspace（０、０001，1，30)}。
利用交叉验证方法求出Ｃ值得最优解。
机器学习实训报告(3篇)
第1篇一、引言随着信息技术的飞速发展，大数据和人工智能技术逐渐成为推动社会进步的重要力量。
机器学习作为人工智能的核心技术之一，已经广泛应用于各个领域，如金融、医疗、交通、教育等。
为了更好地掌握机器学习的基本原理和应用方法，我们参加了一次为期两周的机器学习实训。
本报告将详细记录实训过程、学习成果及心得体会。
二、实训内容本次实训主要围绕以下几个方面展开：1. 机器学习基础知识：介绍了机器学习的基本概念、发展历程、主要类型和应用场景。
2. 常用机器学习算法：学习了线性回归、逻辑回归、支持向量机、决策树、随机森林、K近邻、朴素贝叶斯等常用算法。
3. 机器学习工具：掌握了Python编程语言及NumPy、Pandas、Scikit-learn等常用机器学习库。
4. 实际案例分析：通过分析实际案例，了解机器学习在各个领域的应用。
三、实训过程1. 理论学习：首先，我们系统地学习了机器学习的基本概念、发展历程、主要类型和应用场景。
通过查阅相关书籍、资料，了解了机器学习的理论基础和发展趋势。
2. 算法实践：在掌握了基础知识后，我们开始学习常用的机器学习算法。
通过编写Python代码，实现了线性回归、逻辑回归、支持向量机等算法，并对算法的原理和参数进行了深入分析。
3. 工具应用：为了更好地应用机器学习，我们学习了Python编程语言及NumPy、Pandas、Scikit-learn等常用库。
通过实际操作，掌握了数据预处理、特征工程、模型训练、模型评估等技能。
4. 案例分析：我们选取了多个实际案例，如房价预测、垃圾邮件分类、手写数字识别等，运用所学知识进行模型训练和预测。
通过对比不同算法的性能，了解了不同算法的适用场景。
四、学习成果1. 掌握了机器学习的基本原理和应用方法：通过本次实训，我们对机器学习有了更加深入的了解，掌握了常用的机器学习算法和工具。
2. 提高了编程能力：在实训过程中，我们大量使用了Python编程语言，提高了编程能力和算法实现能力。
机器学习实验报告
机器学习实验报告实验一、ID3算法1.实验目的：了解并掌握ID3算法。
2.实验内容：编程实现ID3算法。
3.实验结果。
实验程序：function tree=ID3(T,N_V)[m,n]=size(T);C=zeros(1,n);for i=1:nC(i)=max(T(:,i));endPe=zeros(1,C(n));Ee=0;for i=1:C(n)Pe(i)=length(find(T(:,n)==i))/m;if Pe(i)~=0Ee=Ee-(Pe(i)*log2(Pe(i)));endendP=zeros(n-1,max(C(1:n-1)),C(n));E=zeros(1,n-1);G=zeros(1,n-1);nj=0;for i=1:n-1for j=1:C(i)nj=length(find(T(:,i)==j));for k=1:C(n)counter=0;for ii=1:mif(T(ii,i)==j&&T(ii,n)==k)counter=counter+1;endendP(i,j,k)=counter/nj;if P(i,j,k)~=0E(i)=E(i)-(nj/m)*P(i,j,k)*log2(P(i,j,k));endendendG(i)=Ee-E(i);endbest=0;BestTag=0;for i=1:n-1if G(i)>bestbest=G(i);BestTag=i;endendtree.rname=N_V(1,BestTag);for ii=1:C(BestTag)temp=0;tree.branch{ii}=[];tree.bname{ii}=[];for i=1:mif (T(i,BestTag)==ii)if (temp==0)temp=T(i,n);elseif (temp~=T(i,n))tree.branch{ii}=ID3(T(T(:,BestTag)==ii,:),N_V);tree.bname{ii}=N_V(ii+1,BestTag);break;endendendif isempty(tree.bname{ii})tree.branch{ii}=N_V(temp+1,n);tree.bname{ii}=N_V(ii+1,BestTag);endend对于下表：Day Outlook Temperature Humidity Windy PlayTennis D1 Sunny Hot High Weak NoD2 Sunny Hot High Strong NoD3 Overcast Hot High Weak YesD4 Rain Mild High Weak YesD5 Rain Cool Normal Weak YesD6 Rain Cool Normal Strong NoD7 Overcast Cool Normal Strong YesD8 Sunny Mild High Weak NoD9 Sunny Cool Normal Weak YesD10 Rain Mild Normal Weak YesD11 Sunny Mild Normal Strong YesD12 Overcast Mild High Strong YesD13 Overcast Hot Normal Weak YesD14 Rain Mild High Strong No转化为程序输入：N_V={'outlook''temperature''humidity''windy''class';'sunny''hot''high''weak''no';'overcast''mild''normal''strong''yes';'rain''cool''NAS''NAS''NAS'}T= [1 1 1 1 1;1 1 12 1;2 1 1 1 2;3 2 1 1 2;3 3 2 1 2;3 3 2 2 1;2 3 2 2 2;1 2 1 1 1;1 32 1 2;3 2 2 1 2;1 2 2 2 2;2 2 1 2 2;2 1 2 1 2;3 2 1 2 1];O=ID3(T,N_V);其中：第一列1、2、3分别对应'sunny'、'overcast'、'rain'；第二列1、2、3分别对应'hot'、'mild'、'cool'；第三列1、2分别对应'high'、'normal'、'cool'；第四列1、2分别对应'weak'、'strong'；第五列1、2分别对应'no'、'yes'。
机器学习实验报告
一、实验背景随着电子商务的快速发展，信用卡欺诈问题日益严重，给金融机构和消费者带来了巨大的损失。
为了有效预防和打击信用卡欺诈，本文设计并实现了一个基于机器学习的信用卡欺诈检测系统。
二、实验目的1. 熟悉信用卡欺诈数据集的特点。
2. 掌握常用的机器学习算法在信用卡欺诈检测中的应用。
3. 分析不同算法在信用卡欺诈检测中的性能，为实际应用提供参考。
三、实验环境1. 操作系统：Windows 102. 编程语言：Python3.83. 机器学习库：Scikit-learn、Pandas、Matplotlib4. 数据集：UCI机器学习库中的信用卡欺诈数据集四、实验内容1. 数据预处理（1）数据导入：使用Pandas库读取信用卡欺诈数据集。
（2）数据清洗：去除缺失值、异常值，对数据进行标准化处理。
（3）特征选择：通过相关性分析、信息增益等方法，选取与欺诈行为相关的特征。
2. 模型选择与训练（1）模型选择：选取以下常用机器学习算法进行实验：a. 决策树（Decision Tree）b. 随机森林（Random Forest）c. 支持向量机（SVM）d. K最近邻（KNN）e. 逻辑回归（Logistic Regression）f. 集成学习（Gradient Boosting）（2）模型训练：使用Scikit-learn库对每个模型进行训练，并记录训练时间。
3. 模型评估与对比（1）评估指标：准确率（Accuracy）、召回率（Recall）、F1值（F1-score）。
（2）模型对比：比较不同算法在信用卡欺诈检测中的性能。
4. 结果分析根据实验结果，分析不同算法在信用卡欺诈检测中的优缺点，为实际应用提供参考。
五、实验结果与分析1. 数据预处理经过数据清洗和特征选择，最终选取以下特征：时间戳、金额、账户类型、交易类型、交易时间、交易地点等。
2. 模型训练与评估（1）决策树a. 准确率：85.2%b. 召回率：83.5%c. F1值：84.0%（2）随机森林a. 准确率：87.5%b. 召回率：85.6%c. F1值：86.3%（3）SVMa. 准确率：86.8%b. 召回率：84.3%c. F1值：85.6%（4）KNNa. 准确率：85.6%b. 召回率：83.2%c. F1值：84.4%（5）逻辑回归a. 准确率：86.2%b. 召回率：84.8%c. F1值：85.5%（6）集成学习a. 准确率：88.3%b. 召回率：86.9%c. F1值：87.6%3. 结果分析根据实验结果，集成学习在信用卡欺诈检测中表现最佳，准确率达到88.3%，召回率达到86.9%，F1值达到87.6%。
山东大学机器学习实验报告 集成学习
山东大学机器学习实验报告集成学习计算机科学与技术学院XXXQQ：2420430689目录实验要求 (2)实验环境 (2)实验思想 (2)数据初始处理 (2)k-means (3)Parzen窗方法 (4)k n-近邻 (4)集成结果 (5)感想体会 (5)实验要求使用集成学习的思想设计分类器对数据进行分类。
实验环境操作系统：Windows10专业版软件：MATLAB2014a实验思想集成学习的思想是在对新的实例进行分类的时候，把若干个单个分类器（正确率均大于50%）集成起来，通过对多个分类器的分类结果进行某种组合来决定最终的分类。
如果把单个分类器比作一个决策者的话，集成学习的方法就相当于多个决策者共同进行一项决策。
-近邻三个分类方法的分类器来在本实验中，使用k-means, Parzen窗和kn实现一个简单的集成学习，对数据进行分类。
这三个算法在前面的实验中均已用过，此处不再详细介绍。
数据初始处理绘制出实验数据的图如下所示选区2000个数据点作为训练样本集，剩余的1000个样本点作为测试样本集。
所选取的训练样本点与测试样本点如下所示，从图中可以看出数据选取是比较均匀的。
k-means使用k-means算法将训练样本集聚成2类，效果如下图所示。
两个聚类中心分别为[−3.239011.0582]T和[24.6234−4.2796]T，2000个训练样本点中，共有438个样本点分错，训练误差为21.9% 。
利用测试样本集对该聚类进行测试，效果如下图所示。
1000个测试样本点中共有212个点分错，测试误差为21.2% 。
Parzen窗方法选取窗函数为圆形高斯函数如下所示φ(x−x iℎ)=exp[−(x−x i)t(x−x i)/(2ℎ2)]取ℎ=0.7，对测试样本集分类效果如下图所示。
1000个测试点全部分类正确，测试误差为0 。
k n-近邻当k=10时，分类效果如下图所示，此时所有的1000个测试样本点全部分类正确。
机器学习应用技术实训报告
一、实训背景随着信息技术的飞速发展，人工智能技术已成为推动社会进步的重要力量。
机器学习作为人工智能的核心技术之一，在各个领域都展现出了巨大的应用潜力。
为了深入了解机器学习技术的实际应用，我们开展了为期一个月的实训项目。
本次实训旨在通过实际操作，提升我们对机器学习技术的理解和应用能力。
二、实训目标1. 掌握机器学习的基本概念、原理和常用算法。
2. 学会使用Python等编程语言进行机器学习模型的开发。
3. 能够将机器学习技术应用于实际问题，解决实际问题。
4. 培养团队协作能力和创新意识。
三、实训内容本次实训主要分为以下几个部分：1. 机器学习基础知识学习- 学习了机器学习的定义、发展历程、应用领域等基本概念。
- 掌握了监督学习、无监督学习、强化学习等基本分类。
- 理解了机器学习中的常用算法，如线性回归、决策树、支持向量机、神经网络等。
2. Python编程与机器学习库应用- 学习了Python编程语言的基本语法和常用库。
- 掌握了使用NumPy、Pandas、Scikit-learn等库进行数据处理和机器学习模型开发。
3. 实际案例分析- 分析了多个机器学习应用案例，如手写数字识别、文本分类、图像识别等。
- 学习了如何针对实际问题选择合适的算法和模型。
4. 项目实践- 以小组为单位，选择一个实际问题进行机器学习模型的开发。
- 完成了数据收集、预处理、模型训练、模型评估等环节。
四、实训过程1. 前期准备- 小组成员共同学习机器学习基础知识，了解各个算法的原理和适用场景。
- 确定项目主题，收集相关数据，进行初步的数据探索。
2. 数据预处理- 使用Pandas等库对数据进行清洗、去重、特征提取等操作。
- 对缺失值进行处理，提高数据质量。
3. 模型训练- 选择合适的算法，如线性回归、决策树、支持向量机等。
- 使用Scikit-learn等库进行模型训练，调整参数，优化模型性能。
4. 模型评估- 使用交叉验证等方法对模型进行评估，分析模型的准确率、召回率等指标。
机器学习实验报告小结
机器学习实验报告小结引言本次实验旨在通过机器学习算法解决一个二分类问题，并评估各种机器学习模型的性能。
我们首先收集了一个包含大量样本和标签的数据集，然后使用不同的机器学习算法进行训练和测试。
通过实验的结果，我们得出了一些结论并提出了一些建议。
实验方法数据集我们使用了一个包含N个样本的数据集，每个样本包含M个特征和一个二分类标签。
我们将数据集按照7:3的比例划分为训练集和测试集。
特征选择在进行实验之前，我们进行了特征选择，选择了与目标变量相关性最高的M1个特征，以避免维度灾难和降低计算复杂度。
机器学习模型我们使用了以下几种机器学习模型进行实验：1. 逻辑回归2. 决策树3. 支持向量机4. 随机森林5. 神经网络模型训练和评估使用训练集对每个模型进行训练，并在测试集上进行性能评估。
评估指标包括准确率、精确率、召回率和F1-score等。
实验结果模型性能比较在测试集上，不同模型的性能如下：模型准确率精确率召回率F1-score-逻辑回归0.85 0.86 0.84 0.85决策树0.82 0.80 0.85 0.82支持向量机0.84 0.83 0.86 0.85随机森林0.86 0.87 0.85 0.86神经网络0.89 0.88 0.90 0.89从上表可以看出，神经网络模型在准确率、精确率、召回率和F1-score等指标上均取得了最佳性能，其次是随机森林模型。
逻辑回归模型的性能相对较差。
模型优化针对神经网络模型，我们进行了一些优化措施：1. 调整超参数：我们通过调整神经网络的层数、节点数、激活函数和优化算法等参数，以提高模型的性能。
2. 特征工程：我们尝试了不同的特征组合和变换，以提高模型对数据的拟合能力。
3. 数据增强：我们通过对训练集进行数据增强，如随机旋转、翻转和裁剪等操作，以扩大训练样本数量。
经过优化后，神经网络模型在测试集上的性能得到了进一步提升，准确率达到了0.91，且稳定性也有所提高。
机器学习建模实验报告(3篇)
第1篇一、实验背景随着大数据时代的到来，机器学习技术在各个领域得到了广泛应用。
本实验旨在通过实际操作，掌握机器学习建模的基本流程，包括数据预处理、特征选择、模型选择、模型训练和模型评估等步骤。
通过实验，我们将深入理解不同机器学习算法的原理和应用，提高解决实际问题的能力。
二、实验目标1. 熟悉Python编程语言，掌握机器学习相关库的使用，如scikit-learn、pandas等。
2. 掌握数据预处理、特征选择、模型选择、模型训练和模型评估等机器学习建模的基本步骤。
3. 熟悉常见机器学习算法，如线性回归、逻辑回归、决策树、支持向量机、K最近邻等。
4. 能够根据实际问题选择合适的机器学习算法，并优化模型参数，提高模型性能。
三、实验环境1. 操作系统：Windows 102. 编程语言：Python3.83. 机器学习库：scikit-learn 0.24.2、pandas 1.3.4四、实验数据本实验使用鸢尾花数据集（Iris dataset），该数据集包含150个样本，每个样本有4个特征（花瓣长度、花瓣宽度、花萼长度、花萼宽度）和1个标签（类别），共有3个类别。
五、实验步骤1. 数据导入与预处理首先，使用pandas库导入鸢尾花数据集，并对数据进行初步查看。
然后，对数据进行标准化处理，将特征值缩放到[0, 1]范围内。
```pythonimport pandas as pdfrom sklearn import datasets导入鸢尾花数据集iris = datasets.load_iris()X = iris.datay = iris.target标准化处理from sklearn.preprocessing import StandardScalerscaler = StandardScaler()X = scaler.fit_transform(X)```2. 特征选择使用特征重要性方法进行特征选择，选择与标签相关性较高的特征。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
决策树算法一、决策树算法简介：决策树算法是一种逼近离散函数值的方法。
它是一种典型的分类方法，首先对数据进行处理，利用归纳算法生成可读的规则和决策树，然后使用决策对新数据进行分析。
本质上决策树是通过一系列规则对数据进行分类的过程。
决策树方法的基本思想是：利用训练集数据自动地构造决策树，然后根据这个决策树对任意实例进行判定。
其中决策树（Decision Tree）是一种简单但是广泛使用的分类器。
通过训练数据构建决策树，可以高效的对未知的数据进行分类。
决策数有两大优点：1）决策树模型可以读性好，具有描述性，有助于人工分析；2）效率高，决策树只需要一次构建，反复使用，每一次预测的最大计算次数不超过决策树的深度。
决策树算法构造决策树来发现数据中蕴涵的分类规则．如何构造精度高、规模小的决策树是决策树算法的核心内容。
决策树构造可以分两步进行。
第一步，决策树的生成：由训练样本集生成决策树的过程。
一般情况下，训练样本数据集是根据实际需要有历史的、有一定综合程度的，用于数据分析处理的数据集。
第二步，决策树的剪技：决策树的剪枝是对上一阶段生成的决策树进行检验、校正和修下的过程，主要是用新的样本数扼集（称为测试数据集）中的数据校验决策树生成过程中产生的初步规则，将那些影响预衡准确性的分枝剪除、决策树方法最早产生于上世纪60年代，到70年代末。
由J Ross Quinlan 提出了ID3算法，此算法的目的在于减少树的深度。
但是忽略了叶子数目的研究。
C4.5算法在ID3算法的基础上进行了改进，对于预测变量的缺值处理、剪枝技术、派生规则等方面作了较大改进，既适合于分类问题，又适合于回归问题。
本节将就ID3算法展开分析和实现。
ID3算法：ID3算法最早是由罗斯昆（J. Ross Quinlan）于1975年在悉尼大学提出的一种分类预测算法，算法的核心是“信息熵”。
ID3算法通过计算每个属性的信息增益，认为信息增益高的是好属性，每次划分选取信息增益最高的属性为划分标准，重复这个过程，直至生成一个能完美分类训练样例的决策树。
在ID3算法中，决策节点属性的选择运用了信息论中的熵概念作为启发式函数。
在这种属性选择方法中，选择具有最大信息增益（information gain）的属性作为当前划分节点。
通过这种方式选择的节点属性可以保证决策树具有最小的分枝数量，使得到的决策树冗余最小。
伪代码：二、实验过程1.实验数据集这个样例集中，每个属性都是离散值的，连续的属性已经被离散化。
将图中的样例集转换成图2中所示的格式并保存到文件中以供项目程序读取数据。
图2中“@attribute”行所对应的是样例集中的测试属性和目标属性，以及它们属性值。
而“@data”行后面的每一行数据则对应了样例集中的一条样例。
测试属性：outlook，天气情况，属性值为{sunny, overcast, rainy}；temperature，气温，属性值为{hot, mild, cool}；humidity，湿度，属性值为{high, normal}；Windy，是否有风，属性值为{TRUE, FALSE}。
目标属性：输出：图3所示为本项目最终的输出结果。
项目的输出结果详细的给出了在构建决策树的过程中候选属性的信息增益、测试属性的选取结果、测试属性的各个属性值所对应的分支、目标属性选取结果以及目标概念buys_computer的决策树JSON格式输出，并使用项目生成的决策树进行预测分析。
根据生成的xml文件画出决策树如图所示：2.实现步骤：第一步：从文件weather.arff中读取测试样例的属性attribute和样例数据data，方法void readARFF(File file)实现了数据的读取这项工作。
第二步：开始递归地创建决策树。
首先为样例集中的每一个测试属性分配一个权值，权值越小代表属性的重要性越高。
创建决策树的过程中要计算样本的总体熵，计算各个属性的信息增益，将信息增益值最大的属性定为测试属性（根结点），然后开始从根节点开始递归地创建子结点。
实现代码参考方法public double calEntropy(ArrayList<Integer> subset, int index)。
第三步：输出目标概念weather的决策树xml格式，此项需要引入jaxen-1.1.1.jar包，编译整个项目并运行生成决策树。
关键代码：// 给定原始数据的子集(subset中存储行号),当以第index个属性为节点时计算它的信息熵public double calEntropy(ArrayList<Integer> subset, int index){int sum = subset.size();double entropy = 0.0;int[][] info = new int[attributevalue.get(index).size()][];for (int i = 0; i < info.length; i++)info[i] = new int[attributevalue.get(decatt).size()];int[] count = new int[attributevalue.get(index).size()];for (int i = 0; i < sum; i++){int n = subset.get(i);String nodevalue = data.get(n)[index];int nodeind = attributevalue.get(index).indexOf(nodevalue);count[nodeind]++;String decvalue = data.get(n)[decatt];int decind = attributevalue.get(decatt).indexOf(decvalue);info[nodeind][decind]++;}for (int i = 0; i < info.length; i++){entropy += getEntropy(info[i]) * count[i] / sum;}return entropy;}// 构建决策树public void buildDecisionTree(String name, String value,ArrayList<Integer> subset, LinkedList<Integer> selatt) {Element ele = null;@SuppressWarnings("unchecked")List<Element> list = root.selectNodes("//" + name);Iterator<Element> iter = list.iterator();while (iter.hasNext()){ele = iter.next();if (ele.attributeValue("value").equals(value))break;}if (infoPure(subset)){ele.setText(data.get(subset.get(0))[decatt]);return;}int minIndex = -1;double minEntropy = Double.MAX_VALUE;for (int i = 0; i < selatt.size(); i++) {if (i == decatt)continue;double entropy = calEntropy(subset, selatt.get(i));if (entropy < minEntropy){minIndex = selatt.get(i);minEntropy = entropy;}}String nodeName = attribute.get(minIndex);selatt.remove(new Integer(minIndex));ArrayList<String> attvalues = attributevalue.get(minIndex);for (String val : attvalues) {ele.addElement(nodeName).addAttribute("value", val);ArrayList<Integer> al = new ArrayList<Integer>();for (int i = 0; i < subset.size(); i++){if (data.get(subset.get(i))[minIndex].equals(val)){al.add(subset.get(i));}}buildDecisionTree(nodeName, val, al, selatt);}}BP神经网络一、BP神经网络简介在人工神经网络发展历史中，很长一段时间里没有找到隐层的连接权值调整问题的有效算法。
直到误差反向传播算法（BP算法）的提出，成功地解决了求解非线性连续函数的多层前馈神经网络权重调整问题。
BP网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。
BP网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。
它的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。
BP神经网络模型拓扑结构包括输入层（input）、隐层(hide layer)和输出层(output layer)。
二、算法原理由于传统的感知器和线性神经网络有自身无法克服的缺陷，它们都不能解决线性不可分问题，因此在实际应用过程中受到了限制。
而BP网络却拥有良好的繁泛化能力、容错能力以及非线性映射能力。
因此成为应用最为广泛的一种神经网络。
BP算法的基本思想是把学习过程分为两个阶段：第一阶段是信号的正向传播过程；输入信息通过输入层、隐层逐层处理并计算每个单元的实际输出值；第二阶段是误差的反向传递过程；若在输入层未能得到期望的输出值，则逐层递归的计算实际输出和期望输出的差值（即误差），以便根据此差值调节权值。
这种过程不断迭代，最后使得信号误差达到允许或规定的范围之内。
基于BP 算法的多层前馈型网络模型的拓扑结构如上图所示。