BP神经网络与多元回归
煤层含气量测井解释方法参数选择及适用性

煤层含气量测井解释方法参数选择及适用性唐颖;李乐忠;蒋时馨;张滨海;仲米虹;孙玉红【摘要】多元线性回归及 BP 神经网络是煤层含气量测井解释的常用方法。
基于澳大利亚 Galilee 盆地和沁水盆地煤层测井资料和实测含气量数据,通过相关性分析和显著性检验,筛选了和含气量相关的测井参数,通过多元线性回归建立含气量与测井参数的解释模型;基于 BP 神经网络的理论,通过网络训练和测试,建立了煤层含气量和测井参数的非线性解释模型。
讨论了多元线性回归模型的参数选择方法,并对两种解释方法的误差特点进行了分析,讨论了两种方法的适用性。
结果显示:多元线性回归法和 BP 神经网络法是煤层含气量解释的常用方法,前者的解释误差比后者大;多元线性回归法解释精度与煤层含气量相关,适用于含气量较高的井;BP 神经网络法解释精度普遍较高,在含气量高和低的井中均可适用,解释效果受输入层样本的数量和质量影响,样本数量越多,区域代表性越强,解释效果越好。
%Multiple linear regression and BP neural network are gas content logging interpretation methodologies commonly used in coal seam. Based on well logging data and measured gas content of CBM well in Galilee basin of Australia and Qinshui basin of China, this study screened the logging related parameters of gas content through correlation analysis and then established the relationship model between gas content and logging parameters. Based on BP neural network theory, this study not only established a nonlinear prediction model of CBM gas content and logging parameters through the network training and prediction, but also analyzed the error of the two methods and discussed their applicability.【期刊名称】《煤田地质与勘探》【年(卷),期】2015(000)004【总页数】5页(P94-98)【关键词】煤层气;测井;煤层含气量;多元线性回归;BP 神经网络;参数选择;适用性【作者】唐颖;李乐忠;蒋时馨;张滨海;仲米虹;孙玉红【作者单位】中国地质大学北京能源学院,北京 100083; 中海石油气电集团技术研发中心,北京 100027;中海石油气电集团技术研发中心,北京 100027;中海石油气电集团技术研发中心,北京 100027;中海油研究总院,北京 100027;中海石油气电集团技术研发中心,北京100027;中海油能源发展采技服钻采工程研究院,天津 300457【正文语种】中文【中图分类】P631.8;TE132含气量是进行煤层气储层评价的重要参数。
BP神经网络PPT全文

输出层与隐含层的激活函数可以不同,并且输出层
各单元的激活函数可有所区别
2024/8/16
26
2 多层网络的表达能力
按照Kolmogorov定理,任何一个判决均可用 前式所示的三层神经网络实现。
即: 只要给定足够数量的隐含层单元、适 当的非线性函数、以及权值, 任何由输入向输 出的连续映射函数均可用一个三层前馈神经网络 实现。
神经网络的计算通过网络结构实现;
不同网络结构可以体现各种不同的功能;
网络结构的参数是通过学习逐渐修正的。
2024/8/16
7
(1)基本的人工神经元模型
McCulloch-Pitts神经元模型
输入信号;链接强度与权向量;
信号累积
2024/8/16
激活与抑制
8
人工神经元模型的三要素 :
一组连接 一个加法器 一个激励函数
➢ 树突(dendrites), 接收来自外接的信息 ➢ 细胞体(cell body), 神经细胞主体,信息加工 ➢ 轴突(axon), 细胞的输出装置,将信号向外传递,
与多个神经元连接 ➢突触 (synapsse), 神经元经突触向其它神经元(胞体 或树突)传递信号
2024/8/16
5
(2)生物神经元的基本特征
5 假定:第l层为当前处理层;
其前一层l 1、当前层l、后一层l 1的计算单元序号为i, j,k;
位于当前层第j个计算单元的输出为Olj,j 1,..., nl
前层第i个单元到本层第j个单元的连接权值为ilj , i 1,..., nl1
本层第j个单元到后层第k个单元的连接权值为
l 1 jk
,
连接权值,突触连接强度
bp神经网络

BP神经网络框架BP(Back Propagation)网络是1986年由Rumelhart和McCelland为首的科学家小组提出,是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。
BP网络能学习和存贮大量的输入-输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。
它的学习规则是使用最速下降法,通过反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小。
BP神经网络模型拓扑结构包括输入层(input)、隐层(hide layer)和输出层(output layer)。
1BP神经网络基本原理BP神经网络的基本原理可以分为如下几个步骤:(1)输入信号Xi→中间节点(隐层点)→输出节点→输出信号Yk;(2)网络训练的每个样本包括输入向量X和期望输出量t,网络输出值Y 和期望输出值t之间的偏差。
(3)通过调整输入节点与隐层节点的联接强度取值Wij和隐层节点与输出节点之间的联接强度取值Tjk,以及阈值,使误差沿梯度方向下降。
(4)经过反复学习训练,确定与最小误差相对应的网络参数(权值和阈值),训练到此停止。
(5)经过上述训练的神经网络即能对类似样本的输入信息,自行处理输出误差最小的经过非线性转换的信息。
2BP神经网络涉及的主要模型和函数BP神经网络模型包括输入输出模型、作用函数模型、误差计算模型和自学习模型。
输出模型又分为:隐节点输出模型和输出节点输出模型。
下面将逐个介绍。
(1)作用函数模型作用函数模型,又称刺激函数,反映下层输入对上层节点刺激脉冲强度的函数。
一般取(0,1)内的连续取值函数Sigmoid函数:f x=11+e^(−x)(2)误差计算模型误差计算模型反映神经网络期望输出与计算输出之间误差大小的函数:Ep=12(tpi−Opi)2其中,tpi为i节点的期望输出值;Opi为i节点的计算输出值。
(3)自学习模型自学习模型是连接下层节点和上层节点之间的权重矩阵Wij的设定和修正过程。
多元线性回归与BP神经网络预测模型对比与运用研究

多元线性回归与BP神经网络预测模型对比与运用研究一、本文概述本文旨在探讨多元线性回归模型与BP(反向传播)神经网络预测模型在数据分析与预测任务中的对比与运用。
我们将首先概述这两种模型的基本原理和特性,然后分析它们在处理不同数据集时的性能表现。
通过实例研究,我们将详细比较这两种模型在预测准确性、稳健性、模型可解释性以及计算效率等方面的优缺点。
多元线性回归模型是一种基于最小二乘法的统计模型,通过构建自变量与因变量之间的线性关系进行预测。
它假设数据之间的关系是线性的,并且误差项独立同分布。
这种模型易于理解和解释,但其预测能力受限于线性假设的合理性。
BP神经网络预测模型则是一种基于神经网络的非线性预测模型,它通过模拟人脑神经元的连接方式构建复杂的网络结构,从而能够处理非线性关系。
BP神经网络在数据拟合和预测方面具有强大的能力,但模型的结构和参数设置通常需要更多的经验和调整。
本文将通过实际数据集的应用,展示这两种模型在不同场景下的表现,并探讨如何结合它们各自的优势来提高预测精度和模型的实用性。
我们还将讨论这两种模型在实际应用中可能遇到的挑战,包括数据预处理、模型选择、超参数调整以及模型评估等问题。
通过本文的研究,我们期望为数据分析和预测领域的实践者提供有关多元线性回归和BP神经网络预测模型选择和应用的有益参考。
二、多元线性回归模型多元线性回归模型是一种经典的统计预测方法,它通过构建自变量与因变量之间的线性关系,来预测因变量的取值。
在多元线性回归模型中,自变量通常表示为多个特征,每个特征都对因变量有一定的影响。
多元线性回归模型的基本原理是,通过最小化预测值与真实值之间的误差平方和,来求解模型中的参数。
这些参数代表了各自变量对因变量的影响程度。
在求解过程中,通常使用最小二乘法进行参数估计,这种方法可以确保预测误差的平方和最小。
多元线性回归模型的优点在于其简单易懂,参数估计方法成熟稳定,且易于实现。
多元线性回归还可以提供自变量对因变量的影响方向和大小,具有一定的解释性。
高炉铁水硅含量的预测模型

高炉铁水硅含量的预测模型摘 要高炉铁水的硅含量是衡量生铁质量和冶炼技术水平的一个重要指标,同时硅含量变化的幅度和频率又直接反映了冶炼生产过程的稳定性。
对高炉炉温水平和炉温变化趋势做出及时准确的预测是高炉过程控制的前提。
高炉铁水硅含量作为表征高炉产品质量和炉热状况的重要指标,其预测问题一直是人们所重视的。
所以我们建立模型来预测高炉中的铁水硅含量。
本文根据料速、透气性指数、铁量差、风温、风量及高炉中各元素的含量为参数,建立了多元线性回归模型和BP 神经网络模型。
其中多元线性回归只是用于和BP 神经网络进行对比。
模型一:多元线性回归模型我们选取了24个变量做预测,由于各变量之间的相关性,在做多元线性回归模型前,我们先对变量进行了主成分分析,最后确定了8个主成分,用i F 表示第i 个主成分,(8,,2,1 =i )这8个主成分包含了24个变量近80%的信息。
最后得出了多元线性回归模型:8765321041.0011.0025.0005.0058.0070.0003.0183.63F F F F F F F Y -+---++=模型二:BP 神经网络模型在模型一拟合度检验时发现,模型一虽然通过了显著性检验,但某些变量显著性水平不高,且拟合效果不良好。
对于这种多参数的预测问题,命中率不是很准确,所以我们建立了BP 神经网络模型,正好解决这种预测逼近的问题。
由于高炉炼铁中影响正常生产的因素非常的多,而且非常的杂乱,因此我们首先筛选影响参数,根据主成分分析结果,我们确定了9个参数为输入向量,在输入至网络前,需要先对数据进行处理,得到网络可用数据后开始在MATLAB 中对网络进行训练,附件中数据有159个样本,我们选取前100个样本作为训练样本,后59个作为检验预测结果的样本,对训练样本数据进行处理后,将可用数据输入网络,对网络进行训练,训练完成之后,得到的网络就具有预测功能,网络得到后,开始检验网络预测的准确性,将检验样本数据处理后输入网络,使网络对输入向量进行结果预测,将预测结果与样本进行比对,得出预测结果的误差,对最终的误差进行分析可知BP 网络模型对高炉炼铁的铁水硅含量预测有比较准确的命中率。
BP神经网络算法

1
目
录
一、BP神经网络算法概述
二、BP神经网络算法原理
三、BP神经网络算法特点及改进
2
一.BP神经网络算法概述
BP神经网络(Back-Propagation Neural Network),即误差
后向传播神经网络,是一种按误差逆向传播算法训练的多层前馈网
络,是目前应用最广泛的网络模型之一。
11
二.BP神经网络算法原理
图5 Tan-Sigmoid函数在(-4,4)范围内的函数曲线
12
二.BP神经网络算法原理
激活函数性质:
① 非线性
② 可导性:神经网络的优化是基于梯度的,求解梯度需要确保函
数可导。
③ 单调性:激活函数是单调的,否则不能保证神经网络抽象的优
化问题转化为凸优化问题。
④ 输出范围有限:激活函数的输出值范围有限时,基于梯度的方
= 1
=1
7
,
= 1,2,3 … , q
二.BP神经网络算法原理
输出层节点的输出为:
j = 2 ,
= 1,2,3. . . ,
=1
至此,BP网络完成了n维空间向量对m维空间的近似映射。
图2 三层神经网络的拓扑结构
8
二.BP神经网络算法原理
BP神经网络是多层前馈型神经网络中的一种,属于人工神经网
络的一类,理论可以对任何一种非线性输入输出关系进行模仿,因
此 被 广 泛 应 用 在 分 类 识 别 ( classification ) 、 回 归
(regression)、压缩(compression)、逼近(fitting)等领域。
在工程应用中,大约80%的神经网络模型都选择采用BP神经网
基于多元线性回归和BP神经网络铣削力的预测

为理 论 模 型 、经 验 模 型 、机 械 力 学 模 型 、 有 限 元
模型 和 神 经 网络 模 型 等 。但 是 文 献 [ 3 1 在 将 理 论 分
析 与 经验 相 结合 的 基 础 上 ,建 立 了统 一 的 切 削 力
归理 论 对 实 验 数 据 进 行去 异 常 点 处理 ,然 后将 未
D o i :1 0 . 3 9 6 9 / J . i s s n . 1 0 0 9 -0 1 3 4 . 2 0 1 3 . 0 9 ( 下) . 2 9
0 引言
建 立铣 削 力模 型 ,合 理 控 制 铣 削 加工 中零 件
的加 工 误 差 、刀 具 磨 损 、 刀具 断 裂 和 机 床振 动 , 对 于 优 化 加 工 参 数 , 保 证 零件 加 工 质 量具 有重 要
基于多元线性 回归和B P 神经 网络铣削 力的预测
The pr edi ct i on of mi l l i ng f or ce based on l i n ear r egr ess i on and BP n eu r al net w or k
胡 艳娟 ,王 占礼 ,朱 丹
H U Y a n  ̄ u a n 。V v AN G Z h a n . ¨ . Z HU D a n
( 长春 工业大学 机电工程学院,长春 1 3 0 0 1 2 ) 摘 要 : 分 别建立线性回归铣削力预测 模型和B P 神经网络铣削力预 测模型 ,对铣削力进行预测 , 获 得 预测值与 实验值的拟合 曲线 ,然后通过 线性回 归理 论对实验采集 的铣 削力数据进 行去除异常 数据点 ,再将实验数 据放入B P 神经网络预 测模型中进行训 I 练及铣 削力的预 测 ,获取预测值与 实验值的拟合 曲线 ,结果表明B P 神经 网络 铣削力预测模型更适合 ,并通过线性回归理论去 除 异常点后的数据 , 使得B P 神经网络预测值更加的准确 。 关键词 :多元线性回归 ;B P 神经网络 ;铣削力 中圈分类号 :T G 5 0 1 . 3 文献标识码 :A 文章编号 :1 0 0 9 —0 1 3 4 ( 2 0 1 3 ) 0 9 ( 下) -0 0 9 6 -0 4
BP神经网络的简要介绍及应用

BP神经网络的简要介绍及应用BP神经网络(Backpropagation Neural Network,简称BP网络)是一种基于误差反向传播算法进行训练的多层前馈神经网络模型。
它由输入层、隐藏层和输出层组成,每层都由多个神经元(节点)组成,并且每个神经元都与下一层的神经元相连。
BP网络的训练过程可以分为两个阶段:前向传播和反向传播。
前向传播时,输入数据从输入层向隐藏层和输出层依次传递,每个神经元计算其输入信号的加权和,再通过一个激活函数得到输出值。
反向传播时,根据输出结果与期望结果的误差,通过链式法则将误差逐层反向传播至隐藏层和输入层,并通过调整权值和偏置来减小误差,以提高网络的性能。
BP网络的应用非常广泛,以下是一些典型的应用领域:1.模式识别:BP网络可以用于手写字符识别、人脸识别、语音识别等模式识别任务。
通过训练网络,将输入样本与正确的输出进行匹配,从而实现对未知样本的识别。
2.数据挖掘:BP网络可以用于分类、聚类和回归分析等数据挖掘任务。
例如,可以用于对大量的文本数据进行情感分类、对客户数据进行聚类分析等。
3.金融领域:BP网络可以用于预测股票价格、外汇汇率等金融市场的变动趋势。
通过训练网络,提取出对市场变动有影响的因素,从而预测未来的市场走势。
4.医学诊断:BP网络可以用于医学图像分析、疾病预测和诊断等医学领域的任务。
例如,可以通过训练网络,从医学图像中提取特征,帮助医生进行疾病的诊断。
5.机器人控制:BP网络可以用于机器人的自主导航、路径规划等控制任务。
通过训练网络,机器人可以通过感知环境的数据,进行决策和规划,从而实现特定任务的执行。
总之,BP神经网络是一种强大的人工神经网络模型,具有较强的非线性建模能力和适应能力。
它在模式识别、数据挖掘、金融预测、医学诊断和机器人控制等领域有广泛的应用,为解决复杂问题提供了一种有效的方法。
然而,BP网络也存在一些问题,如容易陷入局部最优解、训练时间较长等,因此在实际应用中需要结合具体问题选择适当的神经网络模型和训练算法。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
BP神经网络和多元回归
在电力控制及预测中的应用
XXX 机械工程
652085201003
NJTECH UNIVERSITY
1
目录
CONTENTS
简述:对解决问题的简单描述
数据来源、参数选择:数据的出处和自由变量的选取 模型建立:BP神经网络、多元回归模型 总结:两种模型比较
1 234
121121 122389 123626 124761 125786 126743 127627 128453 129227
129988 7
130756
表1 1995-2015年全社会用电量、GDP、人口数据表
年份
2006 2007 2008 2009 2010 2011 2012 2013 2014 2015
676708.3
人口 (万人)
131448 132129 132802 133450 134091 134735 135404 136072 136782
137462 8
过渡页 TRANSLATION PAGE
3
模型的建立
BP神经网络、多元回归模型
9
第三章 CHAPTER THREE
BP神经网络介绍
B=[10023.4 10764.3 11273.6 11590.4 12305.2 13472.7 14632.6 16330.7 19032.2 21972.3 24940.8 28588.4 32632.0 32711.8 36430.3 41923.4 46928.0 49592.8 53223.5 55233.6 55500.6]';
4
过渡页 TRANSLATION PAGE
数据来源、指标选择
2
数据的出处和自由变量的选取
5
第二章 CHAPTER TWO
数据来源:
从国家统计局官网上面查找数据, 选取1995-2015年国家全社会用电量、 GDP、人口数据,选取前17年的数据 (训练数据)进行模型的建立,后面 4年的数据(测试数据)进行数据的 测试!见表1!
figure(4); plot(1:length(T2),T2,'-*'); hold on plot(1:length(T2),B2,'-o');%原始测试输出 hold off
T1=mapminmax('reverse',M1,outputns);%反归一化
hold on
figure (5)
plot(1:length(T),B1,'-o');%原始输出
figure(4) X4=(B2-y1)./B2; plot(1:length(x12),X4,'-');
15
第三章 CHAPTER THREE
b0=-81430.085 b1=0.0712 b2=0.7046 y -81430.085 0.0712x1 0.7046x2
16
第三章 CHAPTER THREE
R
R2
平均绝对误差
平均相对误差(%) 均方根误差
BP神经网络 多元回归
0.99845 0.98701
0.99690 0.97419
405.5226 1085.693
1.63760 6.17930
2030.818 1310.913
20
第三章 CHAPTER THREE
测试精度对比
数据有的较模型高输的出拟值合与精实际度值,绝但对B差P神值的经平网均络值的,各平均个相指对标误值差都为输要出优值于与多实元际值回的归绝模对差值 占实型际,值的整百体分拟比合,精均方度根要误高差于为多输出元值回与归实模际型值均。方误差的平方根,这三个指标值越小表
示模型精度越高。
表2 拟合精度对比表
模型
拟合精度对比
计算BP神经网络模型和多元回归模型的拟合指标如表2,其中R为拟合度,它表示模型
中的所有变表量2可与因以变看量出之两间个密切模程型度的大R小都,取高值于介0于.908到,1R之^间2均,R高越于大0说.9明7,线平性均回绝归关对系越
密切误。差决定、系平数R均^相2为对拟误合差度R和的均平方方根,差值越均大较,小表,示说模型明拟所合建越立好的。平两均个绝模对型误均差为具输入
figure(2) x12=A2(1,1:4);%测试数据的自变量1 x22=A2(2,1:4);%测试数据的自变量2 y1=b0+b1*x12+b2*x22; plot(1:4,y1,'-o'); hold on plot(1:4,B2,'-^');
figure(3) X3=(Y-y')./Y; plot(1:length(x1),X3,'-'); hold off
B=[10023.4 10764.3 11273.6 11590.4 12305.2 13472.7 14632.6 16330.7 19032.2 21972.3 24940.8 28588.4 32632.0 32711.8 36430.3 41923.4 46928.0 49592.8 53223.5 55233.6 55500.6]';
net=newff(minmax(P),[5,1],{'logsig','purelin'},'traingd');
net.trainParam.epochs=5000; net.trainParam.goal=0.001; net.trainParam.lr=0.1; net=train(net,P,T); figure (2) M1=sim(net,P);
BP神经网络模型由输入层、隐含层和输出层组成,隐含层和输出 层可以一层或多层构成。训练过程中输入信号从输入层通过作用函数, 逐层向隐含层、输出层传播,如果在输出层得不到期望的输出,则转 入反向传播,不断修改各层神经元的连接权值,直至使网络输出与期 望输出的误差平方和最小,从而训练出最优神经网络模型。
X1=(B2-T2)./B2;
hold on
plot(1:length(T2),X1,'-');
plot(1:length(T),T1,'-*');%神经网络拟合后的输出
hold off
12
第三章 CHAPTER THREE
图1 神经网络训练拟合度
图2 均方误差图
13
第三章 CHAPTER THREE
[inputn,inputns]=mapminmax(A1);%数值归一化 M2=sim(net,P2);
[outputn,outputns]=mapminmax(B1);
T2=mapminmax('reverse',M2,outputns);
P=inputn;%归一化得到的值
hold off
T=outputn%训练归一化输出值
两种模型的比较分析
前17组数据(训练数据)对比 BP神经网络
多元回归
拟拟合合数数据据误图差图 17
第三章 CHAPTER THREE
后4组数据(测试数据)对比 BP神经网络
多元回归
测 原测试始试拟数数合据据数比误据较差与图图
18
第三章 CHAPTER THREE
19
第三章 CHAPTER THREE
10
MATLAB程序
A=[60693.7 121121 71176.6 122389 78973.0 123626 84402.3 124761 89677.1 125786 99214.6 126743 109655.2 127627 120332.7 128453 135822.8 129227 159878.3 129988 183867.9 130756 210871.0 131448 257305.6 132129 300670.0 132802 335629.2 133450 408903.0 134091 484123.5 134735 534123.0 135404 588018.8 136072 635910.2 136782 676708.3 137462]';
10023.4 10764.3 11273.6 11590.4 12305.2 13472.7 14632.6 16330.7 19032.2 21972.3 24940.8
60693.7 71176.6 78973.0 84402.3 89677.1 99214.6 109655.2 120332.7 135822.8 159878.3 183867.9
指标选择:
将人口以及GDP作为多元回归 的自变量和BP神经网络的输入层神 经元;
全社会用电量作为因变量和输 出层指标。
6
表1 1995-2015年全社会用电量、GDP、瓦时)
GDP (亿元)
人口 (万人)
1995 1996 1997 1998 1999 2000 2001 2002 2003 2004 2005
A1=A(1:2,1:17);%训练输入数据 B1=B(1,1:17);%训练输出数据 A2=A(1:2,18:21);%测试输入数据 B2=B(1,18:21);%测试输出数据
x1=A1(1,1:17);%因变量x1 x2=A1(2,1:17);%因变量x2 Y=B1'; x=[x0',x1',x2']; b=regress(Y,x);%多元回归函数 [b,bint,r,rint,stats]=regress(Y,x) ; b0=b(1); b1=b(2); b2=b(3); y=b0+b1*x1+b2*x2; plot(1:17,y,'-o')%拟合值 hold on plot(1:17,Y,'-*')%原始值 grid on hold off