建模与仿真统计回归模型
Python数学建模StatsModels统计回归可视化示例详解
Python数学建模StatsModels统计回归可视化⽰例详解⽬录1、如何认识可视化？2、StatsModels 绘图⼯具包（Graphics）3、Matplotlib 绘图⼯具包4、Seaborn 绘图⼯具包5、多元回归案例分析（Statsmodels）5.1 问题描述5.2 问题分析观察数据分布特征观察数据间的相关性建模与拟合6、Python 例程（Statsmodels）6.1 问题描述6.2 Python 程序6.3 程序运⾏结果：1、如何认识可视化？需要指出的是，虽然不同绘图⼯具包的功能、效果会有差异，但在常⽤功能上相差并不是很⼤。
与选择哪种绘图⼯具包相⽐，更重要的是针对不同的问题，需要思考选择什么⽅式、何种图形去展⽰分析过程和结果。
换句话说，可视化只是⼿段和形式，⼿段要为⽬的服务，形式要为内容服务，这个关系⼀定不能颠倒了。
因此，可视化是伴随着分析问题、解决问题的过程⽽进⾏思考、设计和实现的，⽽且还会影响问题的分析和解决过程：可视化⼯具是数据探索的常⽤⼿段回归分析是基于数据的建模，在导⼊数据后⾸先要进⾏数据探索，对给出的或收集的数据有个⼤概的了解，主要包括数据质量探索和数据特征分析。
数据准备中的异常值分析，往往就需要⽤到箱形图（Boxplot）。
对于数据特征的分析，经常使⽤频率分布图或频率分布直⽅图（Hist），饼图（Pie）。
分析问题需要可视化⼯具的帮助对于问题中变量之间的关系，有些可以通过定性分析来确定或猜想，需要进⼀步的验证，有些复杂关系难以由分析得到，则要通过对数据进⾏初步的相关分析来寻找线索。
在分析问题、尝试求解的过程中，虽然可以得到各种统计量、特征值，但可视化图形能提供更快捷、直观、丰富的信息，对于发现规律、产⽣灵感很有帮助。
解题过程需要可视化⼯具的⽀持在解决问题的过程中，也经常会希望尽快获得初步的结果、总体的评价，以便确认解决问题的思路和⽅法是否正确。
这些情况下，我们更关⼼的往往是绘图的便捷性，图形的表现效果反⽽是次要的。
系统建模与仿真及其方法
系统建模与仿真及其方法1 什么是建模与仿真模型（model）：对系统、实体、现象、过程的数学、物理或逻辑的描述。
建模（modeling）:建立概念关系、数学或计算机模型的过程,又称模型化，就是为了理解事物而对事物做出的一种抽象，是对事物的一种描述系统的因果关系或相互关系的过程都属于建模，所以实现这一过程的手段和方法也是多种多样的。
仿真（simulation）：通过研究一个能代表所研究对象的模型来代替对实际对象的研究。
计算机仿真就是在计算机上用数字形式表达实际系统的运动规律。
2十种建模与仿真的方法：2.1智能仿真是以知识为核心和人类思维行为做背景的智能技术，引入整个建模与仿真过程，构造各处基本知识的仿真系统，即智能仿真平台。
智能仿真技术的开发途径是人工智能（如专家系统、知识工程、模式识别、神经网络等）与仿真技术（仿真模型、仿真算法、仿真软件等）的集成化。
2.2多媒体仿真[1]它是在可视化仿真的基础上再加入声音，从而得到视觉和听觉媒体组合的多媒体仿真。
多媒体仿真是对传统意义上数字仿真概念内涵的扩展，它利用系统分析的原理与信息技术，以更加接近自然的多媒体形式建立描述系统内在变化规律的模型，并在计算机上以多媒体的形式再现系统动态演变过程，从而获得有关系统的感性和理性认识。
2.3频域建模方法频域建模方法就是从s域的传递函数G(s)，根据相似原理得到与它匹配的z域传递函数G(z)，从而导出其差分模型。
2.4模糊仿真方法[2]基于模糊数学，在建立模型框架的基础上，对于观测数据的不确定性，采用模糊数学的方法进行处理。
2.5蒙特卡罗仿真方法当系统中各个单元的可靠性特征量已知，但系统的可靠性过于复杂，难以建立可靠性预计的精确数学模型，或者模型太复杂而不便应用则可用随机模拟法近似计算出出系统可靠性的预计值。
基本思想：当所求解问题是某种随机事件出现的概率，或者是某个随机变量的期望值时，通过某种“实验”的方法，以这种事件出现的频率估计这一随机事件的概率，或者得到这个随机变量的某些数字特征，并将其作为问题的解。
数学建模之回归模型
二、多元线性回归分析1.简介多元回归分析预测法，是指通过对两上或两个以上的自变量与一个因变量的相关分析，建立预测模型进行预测的方法。
当自变量与因变量之间存在线性关系时，称为多元线性回归分析。
应用于根据现有资料对某变量进行预测，如预测某商品的销量等。
2.步骤①根据预测目标，确定自变量和因变量。
②建立多元线性归回模型 根据预测目标得自变量(1,2,,)k x k m =，因变量y 。
设与k x 无关的未知量2(1,,),j j m βσ= ，j β为回归系数。
记y ，k x 的观测值分别为i b ，im a ，1,,,i n n m =>，n 阶单位矩阵n E ，且111111m n nm a a X a a ⎡⎤⎢⎥= ⎢⎥⎢⎥ ⎣⎦，1,n b Y b ⎡⎤⎢⎥= ⎢⎥⎢⎥⎣⎦[][]101,,,,,TTn m εεεββββ==则多元线性回归分析的模型为2,~(0,).n Y X N E βεεσ=+⎧⎨⎩（1） ③求归回系数使用最小二乘法求j β的估计值，选取估计值ˆj β，使当ˆj jββ=时，误差平方和222011111ˆ)()nnni i ii i m im i i i Q b b b a a εβββ=====-=----∑∑∑（最小。
因此，令j0,0,1,2,3Qj c ∂==∂.得到正规方程组: ,T T j X X X Y β=则有1ˆ().T T jX X X Y β-= 利用matlab 求解正规方程组即得j β的估计值为将ˆj β带回（1）得y 的估计值为 011ˆˆˆˆ,m my x x βββ=+++ 拟合为011ˆˆˆˆ,1,,.i m mb x x i n βββ=+++=用拟合误差ˆe Y Y =-作为随机误差ε的估计值得ε= 残差平方和2211ˆ()nni i ii i Q e b b ====-∑∑ ④回归模型的假设检验由于不确定因变量与自变量之间是否存在线性关系，现对其作出检验。
线性回归模型的建模与分析方法
线性回归模型的建模与分析方法线性回归模型是一种常用的统计学方法，用于研究自变量与因变量之间的关系。
在本文中，我们将探讨线性回归模型的建模与分析方法，以及如何使用这些方法来解决实际问题。
一、线性回归模型的基本原理线性回归模型假设自变量与因变量之间存在线性关系，即因变量可以通过自变量的线性组合来预测。
其基本形式可以表示为：Y = β0 + β1X1 + β2X2 + ... + βnXn + ε其中，Y表示因变量，X1、X2、...、Xn表示自变量，β0、β1、β2、...、βn表示回归系数，ε表示误差项。
二、线性回归模型的建模步骤1. 收集数据：首先需要收集自变量和因变量的相关数据，确保数据的准确性和完整性。
2. 数据预处理：对数据进行清洗、缺失值处理、异常值处理等预处理步骤，以确保数据的可靠性。
3. 模型选择：根据实际问题和数据特点，选择适合的线性回归模型，如简单线性回归模型、多元线性回归模型等。
4. 模型拟合：使用最小二乘法等方法，拟合回归模型，得到回归系数的估计值。
5. 模型评估：通过统计指标如R方值、调整R方值、残差分析等，评估模型的拟合优度和预测能力。
6. 模型应用：利用已建立的模型进行预测、推断或决策，为实际问题提供解决方案。
三、线性回归模型的分析方法1. 回归系数的显著性检验：通过假设检验，判断回归系数是否显著不为零，进一步判断自变量对因变量的影响是否显著。
2. 多重共线性检验：通过计算自变量之间的相关系数矩阵，判断是否存在多重共线性问题。
若存在多重共线性，需要进行相应处理，如剔除相关性较高的自变量。
3. 残差分析：通过观察残差的分布情况，判断模型是否符合线性回归的基本假设，如误差项的独立性、正态性和方差齐性等。
4. 模型诊断：通过观察残差图、QQ图、杠杆值等，判断是否存在异常值、离群点或高杠杆观测点，并采取相应措施进行修正。
5. 模型优化：根据模型评估结果，对模型进行优化，如引入交互项、非线性变换等，以提高模型的拟合效果和预测准确性。
数学建模实验报告-统计回归模型
代码：
%新模型自相关性检验 Y1=b1(1)+b1(2).*x1;
6
Residuals
Et1=y1-Y1; %模型残差 Y1(:,1)=b1(1)+b1(2).*x1(:,1); Et1(:,1)=y1(:,1)-Y1(:,1); %模型残差 dw3=sum((Et1(2:18,1)-Et1(1:17,1)).^2); dw4=sum((Et1(2:18,1)).^2); DW1=dw3/dw4
7
yt* yt yt 1 , xt* xt xt 1
* * 新模型： yt* 0 1 xt* ut , 0 0 1
* * （新模型是以 0 , 1 为回归系数的普通回归模型，由数据 yt* , xt* 可估计系数 0 , 1 ）
%自相关性检验 Y=b0(1)+b0(2).*x0; Et=y0-Y; figure %模型残差
dw1=sum((Et(2:19,1)-Et(1:18,1)).^2); dw2=sum((Et(2:19,1)).^2); DW0=dw1/dw2
三． 建立消除了随机误差项自相关性之后的回归模型
1.广义差分变换 原模型： yt 0 1 xt t , t t 1 ut 变换：
3.新模型的自相关性检验定量诊断——DW 检验
由 DW 值的大小确定自相关性：查 D-W 分布表，得到检验水平 0.05 ,样本容量 n=18，回归变 量数目 k=2 时，对应的检验临界值： d L 1.16, dU 1.39 。 因为结果求得 1.39 dU DW1 1.6537 4 - dU 2.61 ，所以新模型无自相关。
间 rint 不包含零点，应作为异常点去掉。 代码：
《数学建模》课件：第十章 统计回归模型
回归和拟合比较相近，但并不一样。对拟合而言， 一个Y变量对应一个X变量，而回归分析的一个Y变 量则有可能对应多个X变量。从这个角度说，拟合 也属于回归的一种。
/view/0aa4c90c844769eae009ed7d.html? re=view （回归分析的基本理论及软件实现）
linear（线性）： y 0 1 x1 m xm
purequadratic（纯二次）：
y 0 1x1 m xm
n
jj
x
2 j
j1
interaction（交叉）： y 0 1x1 m xm jk x j xk
1 jkm
quadratic（完全二次）： y 0 1x1 m xm jk x j xk
6.80
0.55
9.26
问题分析
注意到牙膏是生活必需品，顾客在购买同类 产品时常常会更在意不同品牌之间的价格差异， 而不是他们价格本身。
因此，在研究各因素对销售量的影响时，用价 格差代替公司销售价格和其他厂家平均价格更为合 适。 下面建立牙膏销售量与价格差、广告费之间的关系 模型。
基本模型
y 10
(1) beta=nlinfit(X,Y,function,beta0) (2) [beta,r,J]=nlinfit(X,Y,function,beta0)
10.1 牙膏的销售量
问 建立牙膏销售量与价格、广告投入之间的模型; 题 预测在不同价格和广告费用下的牙膏销售量.
收集了30个销售周期本公司牙膏销售量、价格、
1
xn1
xn2
建模与仿真统计回归模型
大学程度薪金比更 高的多148
a4置信区间包含零点， 解释不可靠!
16/33
结果分析 残差分析方法
yˆ aˆ0 aˆ1x1 aˆ2 x2 aˆ3x3 aˆ4 x4
残差 e y yˆ
e 与资历x1的关系
2000
管理与教育的组合
组合 管理 教育
123456 010101 112233
价格差较小时增加 的速率更大
2021/3/24
价格差较小时更需要靠广告
来吸引顾客的眼球
9/33
第9页/共32页
完全二次多项式模型 y 0 1x1 2 x2 3 x1x2 4 x12 5 x22
MATLAB中有命令rstool直接求解
yˆ
10
9.5 9
8.5 8
7.5
0
0.2
0.4
5.5
a4
148
[ -636 931 ]
R2=0.957 F=226 p=0.000
资历增加1年薪 金增长546
管理人员薪金多 6883
中学程度薪金比更 高的少2994
R2,F, p 模型整体上可用
x1~资历(年)
x2 = 1~ 管理，x2 = 0~ 非管理
2021/3/24
中学：x3=1, x4=0;大 学：x3=0, x4=1; 更高： x3=0, x4=0.
20
e ~组合
2
3
4
5
6
R2： 0.957 0.999 0.9998
残差图十分正常
F： 226 554 36701 最终模型的结果可以应用 置信区间长度更短
2021/3/24
第19页/共32页
19/33
数学建模 回归分析模型
非线性回归模型的实际应用
预测人口增长
非线性回归模型可以用来描述人口增长的动态变 化，预测未来人口数量。
医学研究
在医学研究中，非线性回归模型可以用来分析药 物对病人体内生理指标的影响。
经济预测
在经济领域，非线性回归模型可以用来预测经济 增长、通货膨胀等经济指标。
多元回归模型的实际应用
01
社会学研究
模型检验
对模型进行检验，包括残差分析、拟 合优度检验等，以确保模型的有效性 和可靠性。
非线性回归模型的参数估计
最小二乘法
梯度下降法
通过最小化预测值与实际值之间的平方误 差，求解出模型中的未知参数。
通过迭代计算，不断调整参数值，以最小 化预测值与实际值之间的误差。
牛顿法
拟牛顿法
基于泰勒级数展开，通过迭代计算，求解 出模型中的未知参数。
线性回归模型的评估与检验
残差分析
分析残差分布情况，检查是否 存在异常值、离群点等。
拟合优度检验
通过计算判定系数、调整判定 系数等指标，评估模型的拟合 优度。
显著性检验
对模型参数进行显著性检验， 判断每个自变量对因变量的影 响是否显著。
预测能力评估
利用模型进行预测，比较预测 值与实际值的差异，评估模型
基于牛顿法的改进，通过迭代计算，求解 出模型中的未知参数，同时避免计算高阶 导数。
非线性回归模型的评估与检验
残差分析
对模型的残差进行统计分析，包括残差 的分布、自相关性、异方差性等，以评
估模型的可靠性。
预测能力评估
使用模型进行预测，比较预测值与实 际值的误差，评估模型的预测能力。
拟合优度检验
通过比较实际值与预测值的相关系数 、决定系数等指标，评估模型的拟合 优度。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
销售量预测区间为 [7.8230，8.7636]（置信度95%）
上限用作库存管理的目标值 下限用来把握公司的现金流
若估计x3=3.9，设定x4=3.7，则可以95%的把握知
道销售额在 7.83203.7 29（百万元）以上
7/33
2020/10/30
模型改进 y 0 1x1 2 x2 3x22
[-7.4989 0.1077 ]
3
0.3486
[0.0379 0.6594 ]
R2=0.9054 F=82.9409 p=0.0000
y的90.54%可由模型确定 F远超过F检验的临界值
p远小于=0.05
模型从整体上看成立
2的置信区间包含零点 (右端点距零点很近)
x2对因变量y
的影响不太显
x22项显著
销售 周期
1 2 29 30
3/33
本公司价 格(元) 3.85 3.75 3.80 3.70
其它厂家 广告费用 价格(元) (百万元)
3.80
5.50
4.00
6.75
3.85
5.80
4.25
6.80
2020/10/30价格差 元） -0.050.25 0.05 0.55
销售量 (百万支)
7.38 8.51 7.93 9.26
8.7636]
yˆ 8.3272 (百万支)
yˆ 0 ˆ1x1 ˆ2x2 ˆ3x22 ˆ4x1x2
区间 [7.8953，
8.7592]
yˆ 略有增加
预测区间长度更短
9/33
2020/10/30
两模型yˆ 与x1,x2关系的比较
yˆ ˆ0 ˆ1x1 ˆ2x2 ˆ3x22 yˆ 0 ˆ1x1 ˆ2x2 ˆ3x22 ˆ4x1x2
~随机误差（数均值为零的
正态分布随机变量）
4/33
2020/10/30
y 10
9.5
9
8.5
8
7.5
7
5
5.5
6
6.5
x 7
7.5
2
y 0 1x2 2 x22
模型求解 MATLAB 统计工具箱 y 0 1x1 2 x2 3 x22 由数据 y,x1,x2估
[b,bint,r,rint,stats]=regress(计y,x,alpha)
第十章 统计回归模型
牙膏的销售量 软件开发人员的薪金
酶促反应
1/33
2020/10/30
数学建模的基本方法 机理分析 测试分析
由于客观事物内部规律的复杂及人们认识程度的限制, 无法分析实际对象内在的因果关系，建立合乎机理规 律的数学模型。
通过对数据的统计分析，找出与数据拟合最好的模型
回归模型是用统计分析方法建立的最常用的一类模型
基本模型
y ~公司牙膏销售量 x1~其它厂家与本公司价格差 x2~公司广告费用
y 0 1x1 2 x2 3 x22
y 10
9.5
9
8.5
8
7.5
7
-0.2
0
0.2
0.4
0.6
y 0 1x1 x1
y~被解释变量（因变量）
x1, x2~解释变量(回归变量, 自 变量0), 1 , 2 , 3 ~回归系
Stats~ 检验统计量
R2,F, p
R2=0.9054 F=82.9409 p=0.0000
5/33
2020/10/30
结果分析 y 0 1x1 2 x2 3x22
参数
参数估计值
置信区间
0
17.3244
[5.7282 28.9206]
1
1.3070
[0.6829 1.9311 ]
2
-3.6956
6/33
著可将x2保留在模型中
2020/10/30
销售量预测 yˆ ˆ0 ˆ1x1 ˆ2x2 ˆ3x22
价格差x1=其它厂家价格x3-本公司价格x4
估计x3 调整x4 控制x1
通过x1, x2预测y
控制价格差x1=0.2元，投入广告费x2=650万元
yˆ ˆ0 ˆ1x1 ˆ2x2 ˆ3x22 8.2933 (百万支)
x1和x2对y
的影响独立
参数
0 1
参数估计值 17.3244 1.3070
置信区间 [5.7282 28.9206] [0.6829 1.9311 ]
2
-3.6956
[-7.4989 0.1077 ]
x1和x2对y 的影响有
3
0.3486
[0.0379 0.6594 ]
R2=0.9054 F=82.9409 p=0.0000
交互作用
y 0 1x1 2 x2 3x22 4 x1x2
参数
参数估计值
置信区间
0
29.1133
[13.7013 44.5252]
1
11.1342
[1.9778 20.2906 ]
2
-7.6080
[-12.6932 -2.5228 ]
3
0.6712
[0.2538 1.0887 ]
4
-1.4777
[-2.8518 -0.1037 ]
R2=0.9209 F=72.7771 p=0.0000
8/33
2020/10/30
两模型销售量预测比较
控制价格差x1=0.2元，投入广告费x2=6.5百万元
yˆ ˆ0 ˆ1x1 ˆ2x2 ˆ3x22 yˆ 8.2933 (百万支)
区间 [7.8230，
• 不涉及回归分析的数学原理和方法
• 通过实例讨论如何选择不同类型的模型
• 对软件得到的结果进行分析，对模型进行改 进
2/33
2020/10/30
10.1 牙膏的销售量
问 建立牙膏销售量与价格、广告投入之间的模型 题 预测在不同价格和广告费用下的牙膏销售量
收集了30个销售周期本公司牙膏销售量、价格、 广告费用，及同期其它厂家同类牙膏的平均售价
输入 y~n维数据向量
输出 b~的估计值
x= [1 x1 x2 x22 ] ~n4数
据矩阵, 第1列为全1向量
bint~b的置信区间 r ~残差向量y-xb
alpha(置信水平,0.05)
rint~r的置信区间
参数
0 1 2 3
参数估计值 17.3244 1.3070 -3.6956 0.3486
置信区间 [5.7282 28.9206] [0.6829 1.9311 ] [-7.4989 0.1077 ] [0.0379 0.6594 ]
yˆ
yˆ
9
9
8.5
x2=6.5 8.5
8
8
7.5 -0.2
yˆ
10 9.5
9 8.5
8 7.5
5 10/33
0
0.2
0.4
0.6 x1
x1=0.
2
6
7
8 x2
2020/10/30
7.5 -0.2
yˆ
10.5 10 9.5 9 8.5 8 5
0
0.2
0.4
6
7
0.6 x1 8 x2
交互作用影响的讨论 yˆ 0 ˆ1x1 ˆ2x2 ˆ3x22 ˆ4x1x2