多元线性回归模型(1)
第三章 多元线性回归模型
引子:中国已成为世界汽车产销第一大国
2009年，为应对国际金融危机、确保经济平稳较快增长， 国家出台了一系列促进汽车消费的政策，有效刺激了汽车消费市 场，汽车产销呈高增长态势，首次成为世界汽车产销第一大国。 2009年，汽车产销分别为1379.1万辆和1364.5万辆，同比增长
u1 u2 ' 因为：E uu E u 1 un Eu12 E (u2u1 ) E (unu1 ) E (u1u2 )
(截距项可视为解释变量总是取值为1)
10
三、多元线性回归中的基本假定
假定1：零均值假定 E(ui ) 0 （ i=1，2，---n）
或矩阵表示： E（u）=0
u1 Eu1 u Eu 2 即，E (u | X) E 2 0 u Eu n n
个别值表现形式：
引入随机扰动项
ui Yi E(Yi X 2i , X 3i
X ki )
或表示为 Y X X X u i 1 2 2i 3 3i k ki i
(i 1, 2, n)
7
多元样本回归函数
Y 的样本条件均值可表示为多个解释变量的函数
ˆ ˆ X ˆ X ˆi Y 1 2 3 2i 3i
nk
Y
n 1
X
β
k 1
u
n 1
9
9
矩阵表示方式
总体回归函数 样本回归函数
E(Y) = Xβ 或 Y = Xβ + u
ˆ ˆ = Xβ Y
或
ˆ +e Y = Xβ
ˆ 其中： Y,Y,u,e 都是有n个元素的列向量
ˆ 是有k 个 元素的列向量 β, β
（ k = 解释变量个数 + 1 ）
X 是第一列为1的n×k阶解释变量数据矩阵 ，
Yn 1 2 X 2n 3 X 3n k X kn un
用矩阵表示
Y1 1 X 21 Y 1 X 22 2 Yn 1 X 2 n
X k1 1 u1 u X k2 2 2 X kn k u n
,n
0 i j cov(ui , u j | X i , X j ) E (ui u j | X i , X j ) 2 i j
12
假设（2），（3）说明随机项u的方差－协方差矩阵为对角 矩阵：
' 2 Ω＝ var cov(u ) E uu I nn
注意：模型中的 j （j=1,2,---k）是偏回归系数 样本容量为n 偏回归系数：
(i 1, 2,
n)
控制其它解释量不变的条件下，第 j 个解释变量的 单位变动对被解释变量平均值的影响，即对 Y 平均值“直 接”或“净”的影响。
5 5
多元线性回归中的“线性”
指对各个回归系数而言是“线性”的，对变量则可
3
本章主要讨论:
●多元线性回归模型及古典假定 ●多元线性回归模型的估计 ●多元线性回归模型的检验 ●多元线性回归模型的预测 补充：非线性回归模型
4
第一节 多元线性回归模型及古典假定
一、多元线性回归模型的意义
一般形式：对于有K-1个解释变量的线性回归模型
Yi 1 2 X 2i 3 X 3i k X ki ui
11
假定2、无自相关假定
cov(ui , u j | X i , X j ) E (uiu j | X i , X j ) 0 i j, i, j 1, 2,
假定3、同方差假定
,n
var(ui | X i ) E (ui2 | X i ) 2
也可以合并为：
i 1, 2,
48.3%和46.15%。
是什么因素导致中国汽车数量的增长? 影响中国汽车行业发展的因素并不是单一的，经济增长、 消费趋势、市场行情、业界心态、能源价格、道路发展、内 外环境，都会使中国汽车行业面临机遇和挑战。
2
怎样分析多种因素的影响？
分析中国汽车行业未来的趋势,应具体分析这样一些问题： 中国汽车市场发展的状况如何？（用销售量观测） 影响中国汽车销量的主要因素是什么？
（如收入、价格、费用、道路状况、能源、政策环境等）
各种因素对汽车销量影响的性质怎样？（正、负） 各种因素影响汽车销量的具体数量关系是什么？ 所得到的数量结论是否可靠？ 中国汽车行业今后的发展前景怎样？应当如何制定汽车的 产业政策？ 很明显，只用一个解释变量已很难分析汽车产业的发展, 还需要寻求有更多个解释变量情况的回归分析方法。
记回归剩余（残差）： 个别值表现形式：
ˆ X k ki
ˆi ei Yi Y
ˆ X e k ki i
ˆ ˆ X ˆ X Yi 1 2 3 2i 3i
i 1 ,2, n
8
二、多元线性回归模型的矩阵表示
多个解释变量的多元线性回归模型的n组样本观测值，可 表示为 Y1 1 2 X 21 3 X 31 k X k1 u1 Y2 1 2 X 22 3 X 32 k X k 2 u2
以是线性的，也可以是非线性的 例如：生产函数
Y AL K u
取对数
ln Y ln A ln L ln K ln u
这也是多元线性回归模型，只是这时变量为lnY、 lnL、lnK
6
多元总体回归函数
条件期望表现形式： 将Y的总体条件期望表示为多个解释变量的函数，如:
E(Yi X 2i , X 3i , X ki ) 1 2 X 2i 3 X 3i k X ki (i 1, 2, n) 注意：这时Y总体条件期望的轨迹是K维空间的一条线
多元线性回归模型公式
二、多元线性回归模型在多要素的地理环境系统中，多个（多于两个）要素之间也存在着相互影响、相互关联的情况。
因此，多元地理回归模型更带有普遍性的意义。
（一）多元线性回归模型的建立假设某一因变量y 受k 个自变量k x x x ,...,,21的影响，其n 组观测值为（ka a a a x x x y ,...,,,21），n a ,...,2,1=。
那么，多元线性回归模型的结构形式为：a ka k a a a x x x y εββββ+++++=...22110（3.2.11）式中：k βββ,...,1,0为待定参数； a ε为随机变量。
如果k b b b ,...,,10分别为k ββββ...,,,210的拟合值，则回归方程为ŷ=k k x b x b x b b ++++...22110（3.2.12）式中：0b 为常数；k b b b ,...,,21称为偏回归系数。
偏回归系数i b （k i ,...,2,1=）的意义是，当其他自变量j x （i j ≠）都固定时，自变量i x 每变化一个单位而使因变量y 平均改变的数值。
根据最小二乘法原理，i β（k i ,...,2,1,0=）的估计值i b （k i ,...,2,1,0=）应该使()[]min (2)12211012→++++-=⎪⎭⎫⎝⎛-=∑∑==∧n a ka k a a a na a a xb x b x b b y y y Q （3.2.13）有求极值的必要条件得⎪⎪⎩⎪⎪⎨⎧==⎪⎭⎫ ⎝⎛--=∂∂=⎪⎭⎫⎝⎛--=∂∂∑∑=∧=∧n a ja a a jn a a a k j x y y b Q y y b Q 110),...,2,1(0202（3.2.14） 将方程组（3.2.14）式展开整理后得：⎪⎪⎪⎪⎪⎩⎪⎪⎪⎪⎪⎨⎧=++++=++++=++++=++++∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑===================na a ka k n a ka n a ka a n a ka a n a ka n a aa k n a ka a n a a n a a a na a na aa k n a ka a n a a a n a a n a a na ak n a ka n a a n a a y x b x b x x b x x b x y x b x x b x b x x b x y x b x x b x x b x b x y b x b x b x nb 11221211101121221221121012111121211121011112121110)(...)()()(...)(...)()()()(...)()()()(...)()( （3.2.15）方程组（3.2.15）式，被称为正规方程组。
第三章 多元线性回归模型
即
Y Xb U
X 称为数据矩阵或设计矩阵。
6
二、古典假定
假定1：零均值假定 E(ui ) 0 (i 1,2,...,n)
1 E ( 1 ) E ( ) 2 2 E (μ) E 0 n E ( n )
写成矩阵形式：
Y1 1 X 21 Y 1 X 22 2 Yn 1 X 2 n X 31 X k 1 b 1 u1 X 32 X k 2 b 2 u 2 X 3 n X kn b k un
或
ei 1 X 21 X e 1 X 22 2i i X ki ei 1 X 2 n X 31 X k 1 e1 X 32 X k 2 e2 X e 0 X 3 n X kn en
9
当总体观测值难于得到时，回归系数向 量 b 是未知的，这时可以由样本观测值进行 估计，可表示为
ˆ ˆ Xb Y
但实际观测值与计算值有偏差，记为：
ˆ e Y Y
于是
ˆ e Y Xb
称为多元样本回归函数。
10
ˆ b 1 ˆ b2 ˆ b ˆ b k
同理
ˆ x x b ˆ x 2 x3 i yi b 2 2i 3i 3 3i
x2 i yi x x3 i yi x2 i x3 i ˆ b2 2 2 2 x2 x ( x x ) i 3i 2i 3i
2 3i
x3 i yi x x2 i yi x2 i x3 i ˆ b3 2 2 2 x2 x ( x x ) i 3i 2i 3i
多元线性回归模型
Cov( X ji , i ) 0
j 1,2, k
假设4，随机项满足正态分布
i ~ N (0, 2 )
上述假设的矩阵符号表示 式：
假设1，n(k+1)维矩阵X是非随机的，且X的秩=k+1，
即X满秩。
回忆线性代数中关于满秩、线性无关!
假设2，
E (μ)
E
1
E (1 )
0
n E( n )
X ki ) ) X 1i ) X 2i
Yi Yi X 1i Yi X 2i
(ˆ0 ˆ1 X 1i ˆ2 X 2i ˆk X ki ) X ki Yi X ki
解该（ k+1）个方程组成的线性代数方程组，即
可得到(k+1) 个待估参数的估计值
$ j
,
j
0,1,2, ,
k
。
□正规方程组的矩阵形式
en
二、多元线性回归模型的基本假定
假设1，解释变量是非随机的或固定的，且各X之间互不 相关（无多重共线性）。
假设2，随机误差项具有零均值、同方差及不序列相关 性。
E(i ) 0
i j i, j 1,2,, n
Var
(i
)
E
(
2 i
)
2
Cov(i , j ) E(i j ) 0
假设3，解释变量与随机项不相关
这里利用了假设: E(X’)=0
等于0，因为解释变 量与随机扰动项不相 关。
3、有效性（最小方差性）
ˆ 的方差-协方差矩阵为
Co（v ˆ） E{[ˆ E（ˆ）][ˆ E（ˆ）]}
E[(ˆ )(ˆ )]
E{（[ X X）-1X ]（[ X X）-1X ]}
多元线性回归的计算模型
多元线性回归的计算模型多元线性回归模型的数学表示可以表示为：Y=β0+β1X1+β2X2+...+βkXk+ε，其中Y表示因变量，Xi表示第i个自变量，βi表示第i个自变量的回归系数（即自变量对因变量的影响），ε表示误差项。
1.每个自变量与因变量之间是线性关系。
2.自变量之间相互独立，即不存在多重共线性。
3.误差项ε服从正态分布。
4.误差项ε具有同方差性，即方差相等。
5.误差项ε之间相互独立。
为了估计多元线性回归模型的回归系数，常常使用最小二乘法。
最小二乘法的目标是使得由回归方程预测的值与实际值之间的残差平方和最小化。
具体步骤如下：1.收集数据。
需要收集因变量和多个自变量的数据，并确保数据之间的正确对应关系。
2.建立模型。
根据实际问题和理论知识，确定多元线性回归模型的形式。
3.估计回归系数。
利用最小二乘法估计回归系数，使得预测值与实际值之间的残差平方和最小化。
4.假设检验。
对模型的回归系数进行假设检验，判断自变量对因变量是否显著。
5. 模型评价。
使用统计指标如决定系数（R2）、调整决定系数（adjusted R2）、标准误差（standard error）等对模型进行评价。
6.模型应用与预测。
通过多元线性回归模型，可以对新的自变量值进行预测，并进行决策和提出建议。
多元线性回归模型的计算可以利用统计软件进行，例如R、Python中的statsmodels库、scikit-learn库等。
这些软件包提供了多元线性回归模型的函数和方法，可以方便地进行模型的估计和评价。
在计算过程中，需要注意检验模型的假设前提是否满足，如果不满足可能会影响到模型的可靠性和解释性。
总而言之，多元线性回归模型是一种常用的预测模型，可以分析多个自变量对因变量的影响。
通过最小二乘法估计回归系数，并进行假设检验和模型评价，可以得到一个可靠的模型，并进行预测和决策。
计量经济学-多元线性回归模型
Y=β0+β1X1+β2X2+...+βkXk+ε，其中Y为因变 量，X1, X2,..., Xk为自变量，β0, β1,..., βk为回归 系数，ε为随机误差项。
多元线性回归模型的假设条件
包括线性关系假设、误差项独立同分布假设、无 多重共线性假设等。
研究目的与意义
研究目的
政策与其他因素的交互作用
多元线性回归模型可以引入交互项，分析政策与其他因素（如技 术进步、国际贸易等）的交互作用，更全面地评估政策效应。
实例分析：基于多元线性回归模型的实证分析
实例一
预测某国GDP增长率：收集该国历史数据，包括GDP、投资、消费、出口等变量，建立 多元线性回归模型进行预测，并根据预测结果提出政策建议。
最小二乘法原理
最小二乘法是一种数学优化技术，用 于找到最佳函数匹配数据。
残差是观测值与预测值之间的差，即 e=y−(β0+β1x1+⋯+βkxk)e = y (beta_0 + beta_1 x_1 + cdots + beta_k x_k)e=y−(β0+β1x1+⋯+βkxk)。
在多元线性回归中，最小二乘法的目 标是使残差平方和最小。
t检验
用于检验单个解释变量对被解释变量的影响 是否显著。
F检验
用于检验所有解释变量对被解释变量的联合 影响是否显著。
拟合优度检验
通过计算可决系数（R-squared）等指标， 评估模型对数据的拟合程度。
残差诊断
检查残差是否满足独立同分布等假设，以验 证模型的合理性。
04
多元线性回归模型的检验与 诊断
计量经济学(庞浩)第三章-多元线性回归模型(1)
矩阵X的秩为K(注意X为n行K列)。
Ran(X)= k
Rak(X'X)=k
即 (X'X) 可逆 假定6:正态性假定
ui ~ N (0, 2 )
u ~ N (0, 2I)
12
第二节 多元线性回归模型的估计
一、普通最小二乘法（OLS）
原则：寻求剩余平方和最小的参数估计式 min : ei2 (Yi Yˆi )2
1
X 22
Xk
2
2
u2
Yn
1 X 2n
X
kn
k
un
Y
X
βu
n 1
nk
k 1 n1
9
9
矩阵表示方式
总体回归函数 E(Y) = Xβ 或 Y = Xβ + u
样本回归函数 Yˆ = Xβˆ 或 Y = Xβˆ + e
其中： Y,Yˆ,u,e 都是有n个元素的列向量
β, βˆ 是有k 个 元素的列向量
多重可决系数：在多元回归模型中，由各个解释
变量联合起来解释了的Y的变差，在Y的总变差中占
的比重，用 R2表示 与简单线性回归中可决系数 r的2 区别只是 不Yˆi 同
多元回归中
Yˆi ˆ1 ˆ2 X2i ˆ3 X3i ˆk Xki
多重可决系数可表示为
R2 ESS TSS
(Yˆi Y )2 (Yi Y )2
0
2
X 2i
Yi
(ˆ1
ˆ2
X 2i
ˆ3
X 3i
ˆki
X ki )
0
(i 1, 2, n)
( j 1, 2, n)
ei 0
X2iei 0
2
多元线性回归模型构建
多元线性回归模型构建多元线性回归模型是统计分析中一种常用的数据拟合方法，可用来对定量变量之间的关系进行建模，预测定量变量的变化，以及预测结果的置信水平等。
本文将针对多元线性回归模型的概念及其理论模型，结构介绍，应用说明以及优缺点等方面进行详细介绍。
二、概念多元线性回归模型（Multiple Linear Regression Model, MLRM）是统计分析中最常用的数据拟合方法，也是机器学习和数据挖掘的一种经典算法。
它可以用来在多个定量变量之间建立一个线性回归关系，从而预测定量变量的变化，以及预测结果的置信水平等。
多元线性回归模型以线性模型为基础，以求解最小二乘问题（Least Squares Problem）来寻找常数和系数，旨在找到最佳拟合模型。
三、结构多元线性回归模型以线性模型为基础，以求解最小二乘问题（Least Squares Problem）来寻找常数和系数，旨在找到最佳拟合模型，其结构如下：多元线性回归模型：Y=b0+b1*X1+b2*X2…+b n*XnY 为因变量，指被预测的定量变量；X1、X2…Xn是自变量，指可用来预测因变量变化的定量变量； b0、b1、b2…b n分别为关系中各个自变量的系数。
四、应用多元线性回归模型广泛应用于社会科学，包括经济学、管理学、法学等多个领域。
例如，探讨一个企业经济活动的盈利情况，就可采用多元线性回归模型计算出不同的投资因素对企业收益的影响程度。
因此，多元线性回归模型可以应用在预测和决策分析中，从而更好地支持决策。
五、优点(1)多元线性回归模型可涉及多个自变量，可模拟出复杂的系统关系，解决多头预测和决策分析问题，对决策提供可靠的数据和参考；(2)多元线性回归模型具有较高的精度和稳定性，可以准确地捕捉现实问题，更好地反映实际情况；(3)多元线性回归模型的数据处理上也相对较为简单，不需要花费大量的人力和时间资源，容易操作，易于理解；六、缺点(1)多元线性回归模型要求数据具有较高的完整性和多样性，并要求自变量的变量类型较少，局限性较大；(2)多元线性回归模型可能因数据中的噪音而影响模型的准确性，模型预测存在较大误差；(3)多元线性回归模型可能存在欠拟合或过拟合的情况，无法有效反映出实际系统中的复杂情况。
计量经济学第3章 多元线性回归模型(1)
BB ( X X ) 1 0
这意味着 BB ( X X ) 1为半正定矩阵。这样的协方差 矩阵之差 ˆ ) BB 2 ( X X ) 1 2 [ BB ( X X ) 1 ] 2 0 Var (b) Var ( 也是半正定矩阵。因此多元线性回归参数的最小二 乘估计是最小方差的线性无偏估计。
i
21
•
但是需注意：多元线性回归模型解释变量的 数目有多有少，而上述可决系数R2又可以证明是 解释变量数目的增函数。这意味着不管增加的解 释变量是否对改善模型、拟合程度有意义，解释 变量个数越多，可决系数一定会越大。因此，以 这种可决系数衡量多元回归模型的拟合优度是有 问题的，而且会导致片面追求解释变量数量的错 误倾向。正是由于存在这种缺陷，可决系数R2在 多元线性回归分析拟合优度评价方面的作用受到 很大的限制。
10
Q ˆ X Y ˆ X X ˆ ) 2 X Y 2 X X ˆ 0 (Y Y 2 ˆ ˆ
• 其中矩阵求导：
f ( B) A f ( B) BA B f ( B ) f ( B) BAB 2 AB B
11
Q ˆ ˆ X ˆ X ˆ X ) (1) 0 2 ( Y i 0 1 1 i 2 2 i k ki ˆ 0 Q ˆ ˆ X ˆ X ˆ X ) ( X ) 0 2 (Yi 0 1 1i 2 2i k ki 1i ˆ 1 Q ˆ ˆ X ˆ X ˆ X ) ( X ) 0 2 (Yi 0 1 1i 2 2i k ki ki ˆ k
• 整理该向量方程，得到下列形式的正规方程组
ˆ X Y X X
• 当X X 可逆，也就是X是满秩矩阵（满足假设5）时，在 上述向量方程两端左乘的 X X 逆矩阵，得到
第四章 多元线性回归模型(计量经济学,潘省初)
Y1 β 0 β 1 X 11 β 2 X 21 β 3 X 31 ... β K X K 1 u1 Y2 β 0 β 1 X 12 β 2 X 22 β 3 X 32 ... β K X K 2 u2 ...... Yn β 0 β 1 X 1n β 2 X 2 n β 3 X 3n ... β K X Kn un
ˆ 116.7 0.112 X 0.739 P Y (9.6) (0.003) (0.114)
R 2 0.99
Y和X的计量单位为10亿美元 (按1972不变价格计算).
食品价格平减指数 P 100，（ 1972 100） 总消费支出价格平减指数
3
多元线性回归模型中斜率系数的含义
上述假设条件可用矩阵表示为以下四个条件：
9
(1) E(u)=0 (2)
由于
E (uu) 2 I n
u1 u2 uu u1 u2 ... u n
2
u12 u1u2 ...... u1un 2 u2u1 u2 ...... u2un ... un ................................. 2 unu1 unu2 ...... un
一．假设条件 （1）E(ut)=0, t=1,2,…,n （2）E(ui uj)=0, i≠j （3）E(ut2)=σ2, t=1,2,…,n （4）Xjt是非随机量， j=1,2, … k
t=1,2, … n
8
除上面4条外，在多个解释变量的情况下，还有 两个条件需要满足： （5）（K+1）< n; 即观测值的数目要大于待估计的参数的个数 （要有足够数量的数据来拟合回归线）。 （6）各解释变量之间不存在严格的线性关系。
多元线性回归模型
多元线性回归模型多元线性回归模型是一种广泛应用于统计学和机器学习领域的预测模型。
它通过使用多个自变量来建立与因变量之间的线性关系，从而进行预测和分析。
在本文中，我们将介绍多元线性回归模型的基本概念、应用场景以及建模过程。
【第一部分：多元线性回归模型的基本概念】多元线性回归模型是基于自变量与因变量之间的线性关系进行建模和预测的模型。
它假设自变量之间相互独立，并且与因变量之间存在线性关系。
多元线性回归模型的数学表达式如下：Y = β0 + β1X1 + β2X2 + … + βnXn + ε其中，Y表示因变量，X1、X2、…、Xn表示自变量，β0、β1、β2、…、βn表示回归系数，ε表示误差项。
回归系数表示自变量对因变量的影响程度，误差项表示模型无法解释的部分。
【第二部分：多元线性回归模型的应用场景】多元线性回归模型可以应用于各种预测和分析场景。
以下是一些常见的应用场景：1. 经济学：多元线性回归模型可以用于预测GDP增长率、失业率等经济指标，揭示不同自变量对经济变量的影响。
2. 医学研究：多元线性回归模型可以用于预测患者的生存时间、治疗效果等医学相关指标，帮助医生做出决策。
3. 市场研究：多元线性回归模型可以用于预测产品销量、市场份额等市场相关指标，帮助企业制定营销策略。
4. 社会科学：多元线性回归模型可以用于研究教育水平对收入的影响、家庭背景对孩子成绩的影响等社会科学问题。
【第三部分：多元线性回归模型的建模过程】建立多元线性回归模型的过程包括以下几个步骤：1. 数据收集：收集自变量和因变量的数据，确保数据的准确性和完整性。
2. 数据清洗：处理缺失值、异常值和离群点，保证数据的可靠性和一致性。
3. 特征选择：根据自变量与因变量之间的相关性，选择最相关的自变量作为模型的输入特征。
4. 模型训练：使用收集到的数据，利用最小二乘法等统计方法估计回归系数。
5. 模型评估：使用误差指标（如均方误差、决定系数等）评估模型的拟合程度和预测性能。