多元线性回归模型
第三章 多元线性回归模型
即
Y Xb U
X 称为数据矩阵或设计矩阵。
6
二、古典假定
假定1：零均值假定 E(ui ) 0 (i 1,2,...,n)
1 E ( 1 ) E ( ) 2 2 E (μ) E 0 n E ( n )
写成矩阵形式：
Y1 1 X 21 Y 1 X 22 2 Yn 1 X 2 n X 31 X k 1 b 1 u1 X 32 X k 2 b 2 u 2 X 3 n X kn b k un
或
ei 1 X 21 X e 1 X 22 2i i X ki ei 1 X 2 n X 31 X k 1 e1 X 32 X k 2 e2 X e 0 X 3 n X kn en
9
当总体观测值难于得到时，回归系数向 量 b 是未知的，这时可以由样本观测值进行 估计，可表示为
ˆ ˆ Xb Y
但实际观测值与计算值有偏差，记为：
ˆ e Y Y
于是
ˆ e Y Xb
称为多元样本回归函数。
10
ˆ b 1 ˆ b2 ˆ b ˆ b k
同理
ˆ x x b ˆ x 2 x3 i yi b 2 2i 3i 3 3i
x2 i yi x x3 i yi x2 i x3 i ˆ b2 2 2 2 x2 x ( x x ) i 3i 2i 3i
2 3i
x3 i yi x x2 i yi x2 i x3 i ˆ b3 2 2 2 x2 x ( x x ) i 3i 2i 3i
多元线性回归模型
Cov( X ji , i ) 0
j 1,2, k
假设4，随机项满足正态分布
i ~ N (0, 2 )
上述假设的矩阵符号表示 式：
假设1，n(k+1)维矩阵X是非随机的，且X的秩=k+1，
即X满秩。
回忆线性代数中关于满秩、线性无关!
假设2，
E (μ)
E
1
E (1 )
0
n E( n )
X ki ) ) X 1i ) X 2i
Yi Yi X 1i Yi X 2i
(ˆ0 ˆ1 X 1i ˆ2 X 2i ˆk X ki ) X ki Yi X ki
解该（ k+1）个方程组成的线性代数方程组，即
可得到(k+1) 个待估参数的估计值
$ j
,
j
0,1,2, ,
k
。
□正规方程组的矩阵形式
en
二、多元线性回归模型的基本假定
假设1，解释变量是非随机的或固定的，且各X之间互不 相关（无多重共线性）。
假设2，随机误差项具有零均值、同方差及不序列相关 性。
E(i ) 0
i j i, j 1,2,, n
Var
(i
)
E
(
2 i
)
2
Cov(i , j ) E(i j ) 0
假设3，解释变量与随机项不相关
这里利用了假设: E(X’)=0
等于0，因为解释变 量与随机扰动项不相 关。
3、有效性（最小方差性）
ˆ 的方差-协方差矩阵为
Co（v ˆ） E{[ˆ E（ˆ）][ˆ E（ˆ）]}
E[(ˆ )(ˆ )]
E{（[ X X）-1X ]（[ X X）-1X ]}
多元线性回归的计算模型
多元线性回归的计算模型多元线性回归模型的数学表示可以表示为：Y=β0+β1X1+β2X2+...+βkXk+ε，其中Y表示因变量，Xi表示第i个自变量，βi表示第i个自变量的回归系数（即自变量对因变量的影响），ε表示误差项。
1.每个自变量与因变量之间是线性关系。
2.自变量之间相互独立，即不存在多重共线性。
3.误差项ε服从正态分布。
4.误差项ε具有同方差性，即方差相等。
5.误差项ε之间相互独立。
为了估计多元线性回归模型的回归系数，常常使用最小二乘法。
最小二乘法的目标是使得由回归方程预测的值与实际值之间的残差平方和最小化。
具体步骤如下：1.收集数据。
需要收集因变量和多个自变量的数据，并确保数据之间的正确对应关系。
2.建立模型。
根据实际问题和理论知识，确定多元线性回归模型的形式。
3.估计回归系数。
利用最小二乘法估计回归系数，使得预测值与实际值之间的残差平方和最小化。
4.假设检验。
对模型的回归系数进行假设检验，判断自变量对因变量是否显著。
5. 模型评价。
使用统计指标如决定系数（R2）、调整决定系数（adjusted R2）、标准误差（standard error）等对模型进行评价。
6.模型应用与预测。
通过多元线性回归模型，可以对新的自变量值进行预测，并进行决策和提出建议。
多元线性回归模型的计算可以利用统计软件进行，例如R、Python中的statsmodels库、scikit-learn库等。
这些软件包提供了多元线性回归模型的函数和方法，可以方便地进行模型的估计和评价。
在计算过程中，需要注意检验模型的假设前提是否满足，如果不满足可能会影响到模型的可靠性和解释性。
总而言之，多元线性回归模型是一种常用的预测模型，可以分析多个自变量对因变量的影响。
通过最小二乘法估计回归系数，并进行假设检验和模型评价，可以得到一个可靠的模型，并进行预测和决策。
(整理)第四章 多元线性回归模型
第四章 多元线性回归模型在一元线性回归模型中，解释变量只有一个。
但在实际问题中，影响因变量的变量可能不止一个，比如根据经济学理论，人们对某种商品的需求不仅受该商品市场价格的影响，而且受其它商品价格以及人们可支配收入水平的制约；影响劳动力劳动供给意愿（用劳动参与率度量）的因素不仅包括经济形势（用失业率度量），而且包括劳动实际工资；根据凯恩斯的流动性偏好理论，影响人们货币需求的因素不仅包括人们的收入水平，而且包括利率水平等。
当解释变量的个数由一个扩展到两个或两个以上时，一元线性回归模型就扩展为多元线性回归模型。
本章在理论分析中以二元线性回归模型为例进行。
一、预备知识（一）相关概念对于一个三变量总体，若由基础理论，变量21,x x 和变量y 之间存在因果关系，或21,x x 的变异可用来解释y 的变异。
为检验变量21,x x 和变量y 之间因果关系是否存在、度量变量21,x x 对变量y 影响的强弱与显著性、以及利用解释变量21,x x 去预测因变量y ，引入多元回归分析这一工具。
将给定i i x x 21,条件下i y 的均值i i i i i x x x x y E 2211021),|(βββ++= （4.1） 定义为总体回归函数（Population Regression Function,PRF ）。
定义),|(21i i i i x x y E y -为误差项（error term ）,记为i μ，即),|(21i i i i i x x y E y -=μ，这样i i i i i x x y E y μ+=),|(21，或i i i i x x y μβββ+++=22110 （4.2）（4.2）式称为总体回归模型或者随机总体回归函数。
其中，21,x x 称为解释变量（explanatory variable ）或自变量（independent variable ）；y 称为被解释变量（explained variable ）或因变量（dependent variable ）；误差项μ解释了因变量的变动中不能完全被自变量所解释的部分。
计量经济学-多元线性回归模型
Y=β0+β1X1+β2X2+...+βkXk+ε，其中Y为因变 量，X1, X2,..., Xk为自变量，β0, β1,..., βk为回归 系数，ε为随机误差项。
多元线性回归模型的假设条件
包括线性关系假设、误差项独立同分布假设、无 多重共线性假设等。
研究目的与意义
研究目的
政策与其他因素的交互作用
多元线性回归模型可以引入交互项，分析政策与其他因素（如技 术进步、国际贸易等）的交互作用，更全面地评估政策效应。
实例分析：基于多元线性回归模型的实证分析
实例一
预测某国GDP增长率：收集该国历史数据，包括GDP、投资、消费、出口等变量，建立 多元线性回归模型进行预测，并根据预测结果提出政策建议。
最小二乘法原理
最小二乘法是一种数学优化技术，用 于找到最佳函数匹配数据。
残差是观测值与预测值之间的差，即 e=y−(β0+β1x1+⋯+βkxk)e = y (beta_0 + beta_1 x_1 + cdots + beta_k x_k)e=y−(β0+β1x1+⋯+βkxk)。
在多元线性回归中，最小二乘法的目 标是使残差平方和最小。
t检验
用于检验单个解释变量对被解释变量的影响 是否显著。
F检验
用于检验所有解释变量对被解释变量的联合 影响是否显著。
拟合优度检验
通过计算可决系数（R-squared）等指标， 评估模型对数据的拟合程度。
残差诊断
检查残差是否满足独立同分布等假设，以验 证模型的合理性。
04
多元线性回归模型的检验与 诊断
3第三章多元线性回归模型分析
§3.2 参数的OLS估计
•参数的OLS估计
附录：极大似然估计和矩估计
投影和投影矩阵 分块回归和偏回归 偏相关系数
一、参数的OLS估计
▪ 普通最小二乘估计原理：使样本残差平方和最小
我们的模型是：
Y= x11 + x22 +…+ xk k +
i= 1 ,2 ,… ,n
因为Yi 是相互独立的，所以Y 的所有样本观测值的联合概率，
也即或然函数(likelihood function)为：
L(ˆ0,ˆ1,2) P(Y1,Y2,,Yn)
1
e1 22
(Yi
ˆ0ˆ1Xi
)2
n
(2)2
n
将该或然函数极大化，即可求得到模型参数的极大 或然估计量。
由于或然函数的极大化与或然函数的对数的极 大化是等价的，所以，取对数或然函数如下：
1 212 (yi (ˆ0ˆ1x1i ˆ2x2i ˆkxki))2
e n
2
n
(2)
1
n
(2 )2
e212 (YXˆ )(YXˆ )
n
▪ 对数似然函数为
L*Ln(L)
nLn( 2)212(YX )'(YX )
▪ 参数的极大似然估计
(XX)1XY
▪ 结果与参数的普通最小二乘估计相同
附录：矩估计(Moment Method,MM)
为偏回归系数（partial regression coefficients）。
▪偏回归系数的含义如下： 1度量着在X2,X3,…,Xk保持不变的情况下，X1
每变化1个单位时，Y的均值E(Y)的变化，或者说 1给出X1的单位变化对Y均值的“直接”或“净” （不含其他变量）影响。
多元线性回归模型的估计与解释
多元线性回归模型的估计与解释多元线性回归是一种广泛应用于统计学和机器学习领域的预测模型。
与简单线性回归模型相比，多元线性回归模型允许我们将多个自变量引入到模型中，以更准确地解释因变量的变化。
一、多元线性回归模型的基本原理多元线性回归模型的基本原理是建立一个包含多个自变量的线性方程，通过对样本数据进行参数估计，求解出各个自变量的系数，从而得到一个可以预测因变量的模型。
其数学表达形式为：Y = β0 + β1X1 + β2X2 + ... + βnXn + ε其中，Y为因变量，X1、X2、...、Xn为自变量，β0、β1、β2、...、βn为模型的系数，ε为误差项。
二、多元线性回归模型的估计方法1. 最小二乘法估计最小二乘法是最常用的多元线性回归模型估计方法。
它通过使残差平方和最小化来确定模型的系数。
残差即观测值与预测值之间的差异，最小二乘法通过找到使残差平方和最小的系数组合来拟合数据。
2. 矩阵求解方法多元线性回归模型也可以通过矩阵求解方法进行参数估计。
将自变量和因变量分别构成矩阵，利用矩阵运算，可以直接求解出模型的系数。
三、多元线性回归模型的解释多元线性回归模型可以通过系数估计来解释自变量与因变量之间的关系。
系数的符号表示了自变量对因变量的影响方向，而系数的大小则表示了自变量对因变量的影响程度。
此外，多元线性回归模型还可以通过假设检验来验证模型的显著性。
假设检验包括对模型整体的显著性检验和对各个自变量的显著性检验。
对于整体的显著性检验，一般采用F检验或R方检验。
F检验通过比较回归平方和和残差平方和的比值来判断模型是否显著。
对于各个自变量的显著性检验，一般采用t检验，通过检验系数的置信区间与预先设定的显著性水平进行比较，来判断自变量的系数是否显著不为零。
通过解释模型的系数和做假设检验，我们可以对多元线性回归模型进行全面的解释和评估。
四、多元线性回归模型的应用多元线性回归模型在实际应用中具有广泛的应用价值。
多元线性回归模型
第三章 多元线性回归模型基本概念(1)多元线性回归模型； (2)偏回归系数；(3)正规方程组； (4)调整的多元可决系数； (5)多重共线性； (6)假设检验； 练习题1. 多元线性回归模型的基本假设是什么?试说明在证明最小二乘估计量的无偏性和有效性的过程中，哪些基本假设起了作用?2．在多元线性回归分析中，t 检验与F 检验有何不同?在一元线性回归分析中二者是否有等价的作用?3．为什么说对模型参数施加约束条件后，其回归的残差平方和一定不比未施加约束的残差平方和小?在什么样的条件下，受约束回归与无约束回归的结果相同?4．在一项调查大学生一学期平均成绩(Y )与每周在学习(1X )、睡觉(2X )、 娱乐(3X )与其他各种活动(4X )所用时间的关系的研究中，建立如下回归模型： 011223344Y X X X X u βββββ=+++++如果这些活动所用时间的总和为一周的总小时数168。
问：保持其他变量不变，而改变其中一个变量的说法是否有意义?该模型是否有违背基本假设的情况? 如何修改此模型以使其更加合理?5.表3-1给出三变量模型的回归结果。
表 3-1(1)求样本容量n ，残差平方和RSS ，回归平方和ESS 及残差平方和RSS 的自由度。
(2)求拟合优度2R 及调整的拟合优度2R -。
(3)检验假设：2X 和3X 对Y 无影响。
应采用什么假设检验?为什么? (4)根据以上信息，你能否确定3X 和3X 各自对Y 的影响?6.某地区通过一个样本容量为722的调查数据得到劳动力受教育的一个回归方程为 12310.360.0940.1310.210Y X X X =-++20.214R =其中，Y 为劳动力受教育年数，1X 为该劳动力家庭中兄弟姐妹的人数，2X 与3X 分别为母亲与父亲受教育的年数。
问：(1) 1X 是否具有预期的影响?为什么?若2X 与3X 保持不变，为了使预测的受教育水平减少一年，需要1X 增加多少?(2)请对2X 的系数给予适当的解释。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
多元线性回归模型
一、单选题
1.可决定系数2R 是指（ ）
A 、剩余平方和占总离差平方和的比重
B 、总离差平方和占回归平方和的比重
C 、回归平方和占总离差平方和的比重
D 、回归平方和占剩余平方和的比重
2.调整的多重可决定系数2R 和2R 多重可决定系数之间的关系是（ ）
A 、22
11n R R n k -=-- B 、22111
n R R n k -=--- C 、2211(1)1n R R n k -=-+-- D 、2211(1)1n R R n k -=---- 3.在由30n =的一组样本估计的、包含3个解释变量的线性回归模型中，计算的多重可决定系数为0.8500，则调整后的可决定系数为（ ）
A 、0.8603
B 、0.8389
C 、0.8655
D 、0.8327
4.设k 为模型中参数的个数，则回归平方和为（ ）
A 、2
1
()n i i Y Y =-∑ B 、21ˆ()n i i i Y Y =-∑ C 、21ˆ()n i i Y Y =-∑ D 、21
()n i
i Y Y =-∑ 5.最常用的统计检验准则包括拟合优度检验、变量的显著性检验和（ ）
A 、方程的显著性检验
B 、多重共线性检验
C 、异方差检验
D 、预测检验
6.设k 为回归模型中参数的个数（不含截距项），n 为样本容量，RSS 为残差平方和，ESS 为回归平方和，则对总体回归模型进行显著性检验时构造的F 统计量为（ ）
A 、ESS F TSS =
B 、//(1)
ESS k F RSS n k =-- C 、/1/(1)ESS k F TSS n k =-
-- D 、RSS F TSS =
7.根据可决定系数2R 和F 统计量的关系可知，当21R =时有（ ）
A 、1F =
B 、1F =-
C 、F →+∞
D 、0F =
8.对于01122ˆˆˆˆi i i
k ki i Y X X X e ββββ=+++++，统计量22ˆ()/ˆ()/(1)i i i
Y Y k Y Y n k ----∑∑服从（ ）。
A. (1)t n k -- B.)1,(--k n k F C ．(1,)F k n k -- D ．(1,1)F k n k ---
9.用一组35个观测值的样本估计模型1122i i i i Y X X e ββ=++后，在0.05的显
著性水平下对1β的显著性作t 检验，则1β显著地不等于零的条件是其统计量大于等于（ ）。
A. 0.05(35)t
B. 0.025(33)t C ．0.025(32)t D ．0.05(33)t
10.对于模型01122i i i i Y X X e βββ=+++的最小二乘回归结果显示，样本可决定系数20.98R =，样本容量为28，总离差平方和为455，则回归的标准差为（ ）。
A. 0.325
B. 0.603 C ．0.364 D ．0.570
11.样本可决定系数2R 、调整的样本可决定系数2R 与用于回归方程显著性检验的F 统计量的关系是（ ）。
A 、22/(1)/(1)R k F R n k =---
B 、22/(1)/(1)
R k F R n k =--- C 、22/(1)(1)/R n k F R k --=- D 、22/(1)(1)/R n k F R k
--=- 三、判断题
1.用于检验回归方程总体是否呈显著性的统计量是F 统计量，其与用于单个回归参数显著性检验的t 检验无关。
（F ）
2.回归方程总体线性显著性的原假设是模型中所有的回归参数同时为零。
（F ）
3.对于多元回归模型来说，若要估计出结果，对于样本容量的最低要求是样本容量不少于模型中解释变量个数的3倍。
（ F ）
4.只要解释变量个数大于1，调整的样本可确定系数得知一定比为调整的样本可决定系数小，且可能为负值。
（T ）
四、简答题
1. 给定二元线性模型：01122(1,2,
,)i i i Y X X i n βββμ=+++=
（1）叙述模型的基本假定；
（2）写出总体回归方程、样本回归方程；
（3）写出回归模型的矩阵表示；
（4）写出回归系数及随机误差项方差的最小二乘估计量，并叙述参数估计量的性质；
（5）试述总离差平方和、回归平方和、残差平方和之间的关系及其自由度之间的关系。
解：(1) 4个基本假设（或填6个）P.56-57 (课代表填上去)
(2) i i i i X X X X Y E 2211021),|(βββ++=, i
i X X Y 22110ˆˆˆˆβββ++= (3) 令 ⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=n Y Y Y Y 21 ⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=210ββββ ⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=n μμμμ 21 ⎪⎪⎪⎪⎪⎭
⎫ ⎝⎛=n n X X X X X X X 2122122111111 回归模型的矩阵表示：μβ+=X Y
（4）1
2'ˆ,')'(ˆ21--==-n e e Y X X X σβ，其中βˆX Y e -= 线性、无偏、最小方差（BLUE ）。
（5） 3
21--+=n n RSS ESS TSS 2.在多元线性回归分析中，为什么用调整的可决定系数衡量估计模型对样本观测值的拟和优度？
解：因为增加解释变量为导致回归误差（残差）减少，从而导致决定系数2R 的增加，然而增加解释变量并不代表拟合优度提高，因此在多元回归中决定系数2R 并不是一个合适的指标，需对其进行调整。
具体调整的思路：将残差平方和
与总离差平方和分别除以各自的自由度，以剔除变量个数对拟合优度的影响。
3. 在多元线性回归分析中，可决定系数2R 与总体线性关系显著性检验统计量F 之间有何关系？t 检验与F 检验有何不同？是否可以替代？在一元回归分析中二者是否有等价的作用？
解：在多元线性回归模型：n i X X Y i ki k i i ,2,1,110=+++=μβββ
（1）⇒+-=+-=⇒-=RSS
ESS RSS ESS RSS R TSS RSS R /111112 k
k n R R k n RSS k ESS F R R RSS ESS 111//12222---=--=⇒-= ∞→→F R ,12
（2）t 检验是检验自变量各自对因变量y 是否有显著影响，F 检验是检验自变量整体对因变量y 是否有显著影响，在多元情况不能替代，在一元情况两者作用等价，都是检验唯一的自变量对因变量是否有显著影响。
4.下表给出三变量的回归结果：
(1) 求样本容量n ，残差平方和RSS ，回归平方和ESS 及残差平方和RSS 的自由度；
(2)求拟合优度2R 及调整的拟合优度2R ；
(3) 检验假设：1X 和3X 对Y 无影响。
应采用什么假设检验？为什么？（4）根据以上信息，你能否确定1X 和3X 各自对Y 的影响？
解：(1) 15=n ,776596566042=-=-=ESS TSS RSS
回归平方和的自由度为 3，残差平方和的自由度为 11
（2）9988.0660426596512==-==
TSS RSS TSS ESS R 9985.014
/6604211/771)1/()1/(12=-=----=n TSS k n RSS R
（3）)11,3(2.314111/773/65965)1/(/05.0F k n RSS k ESS F >==--=， 因此通过F 检验能够判断1X 和3X 对Y 有显著影响，然而不能判断1X 和3X 各自对Y 是否有影响。