第4章 最小二乘估计量的性质
计量经济学-中国人民大学,赵国庆
r Xt X Yt Y SXY
2
2
Xt X
Yt Y
SXX SYY
§2.3最小二乘估计量的性质
1. 线性特性（Linear）
估计量a,b均可由被解释变量Yt线性表出，即：
b wtYt a vtYt wt ,vt均为确定性变量。
b
Xt X Xt
Yt Y X 2
Xt SXX
≥
t
2
≤
的 置 信 区 间 为 :
b
p
S
1 S XX
t
2
=
1
-
b t S
2
1 S XX
≤
≤
b + t S
2
1 S XX
同 样 的 置 信 区 间 为 :
a t S
2
1 n
X2 S XX
≤
≤
a + t S
2
1 X2
n S XX
§2.4 系数的显著性检验
例 题 :给 出 下 列 数 据 X 23 159 Y 4 7 3 9 17 (1)估 计 模 型 :Y X u
( 2 ) 给 出 方 差 : v aˆ r a v aˆ r b
(3) 对 系 数 作 显 著 性 检 验
§2.4 系数的显著性检验
解:(1) Yˆ a bX 1 1.75 X
(2) S 2 TSS ESS 1.24 1.75 70 0.5
n2
3
vaˆr a
S
2
1 n
则 式变为: S XX SXY
S XY
S XX
Y X
§2.2参数的最小二乘估计
最小二乘估计:
b
X t X Yt X t X 2
最小二乘估计量的性质
第三节 最小二乘估计量的性质三大性质：线性特性、无偏性和最小偏差性 一、 线性特性的含义线性特性是指参数估计值1ˆβ和2ˆβ分别是观测值t Y 或者是扰动项t μ的线性组合，或者叫线性函数，也可以称之为可以用t Y 或者是t μ来表示。
1、2ˆβ的线性特征证明 （1）由2ˆβ的计算公式可得： 222222()ˆt tttt ttttttt tt tt x y x Y x Y xxx xx x x x β--===⎛⎫== ⎪ ⎪⎝⎭∑∑∑∑∑∑∑∑∑∑∑Y Y Y Y需要指出的是，这里用到了因为t x 不全为零，可设2tt tx b x =∑，从而，t b 不全为零，故2ˆt t b β=∑Y 。
这说明2ˆβ是t Y 的线性组合。
（2）因为12t t t Y X ββμ=++，所以有()212122ˆt t t t t t t t t t t tb b X b b X b b βββμββμβμ==++=++=+∑∑∑∑∑∑Y这说明2ˆβ是t μ的线性组合。
需要指出的是，这里用到了220t t t t t x x b x x ===∑∑∑∑∑以及 ()2222222201t t tt t t tt ttttttttx x X x b X X x x x x X x X x x x x x⎛⎫+⎪== ⎪⎝⎭++==+=∑∑∑∑∑∑∑∑∑∑∑∑∑2、1ˆβ的线性特征证明 （1）因为12ˆˆY X ββ=-，所以有 ()121ˆˆ1t t t t tY X Y X b nXb n ββ=-=-⎛⎫=- ⎪⎝⎭∑∑∑Y Y这里，令1a Xb n=-，则有1ˆt a β=∑Y 这说明1ˆβ是t Y 的线性组合。
（2）因为回归模型为12t t t Y X ββμ=++，所以()11212ˆt t t t t t t t t ta a X a a X a βββμββμ==++=++∑∑∑∑∑Y因为111t t t a Xb X b nn⎛⎫=-=-=⎪⎝⎭∑∑∑∑。
计量经济学名词解释和简答题
计量经济学 第一部分：名词解释第一章1、模型：对现实的描述和模拟。
2、广义计量经济学：利用经济理论、统计学和数学定量研究经济现象的经济计量方法的统称，包括回归分析方法、投入产出分析方法、时间序列分析方法等。
3、狭义计量经济学：以揭示经济现象中的因果关系为目的，在数学上主要应用回归分析方法。
第二章1、总体回归函数：指在给定Xi 下Y 分布的总体均值与Xi 所形成的函数关系（或者说总体被解释变量的条件期望表示为解释变量的某种函数）。
2、样本回归函数：指从总体中抽出的关于Y ，X 的若干组值形成的样本所建立的回归函数。
3、随机的总体回归函数：含有随机干扰项的总体回归函数（是相对于条件期望形式而言的）。
4、线性回归模型：既指对变量是线性的，也指对参数β为线性的，即解释变量与参数β只以他们的1次方出现。
5、随机干扰项：即随机误差项，是一个随机变量，是针对总体回归函数而言的。
6、残差项：是一随机变量，是针对样本回归函数而言的。
7、条件期望：即条件均值，指X 取特定值Xi 时Y 的期望值。
8、回归系数：回归模型中βo ，β1等未知但却是固定的参数。
9、回归系数的估计量：指用01,ββ等表示的用已知样本提供的信息所估计出来总体未知参数的结果。
10、最小二乘法：又称最小平方法，指根据使估计的剩余平方和最小的原则确定样本回归函数的方法。
11、最大似然法：又称最大或然法，指用生产该样本概率最大的原则去确定样本回归函数的方法。
12、估计量的标准差：度量一个变量变化大小的测量值。
13、总离差平方和：用TSS 表示，用以度量被解释变量的总变动。
14、回归平方和：用ESS 表示：度量由解释变量变化引起的被解释变量的变化部分。
15、残差平方和：用RSS 表示：度量实际值与拟合值之间的差异，是由除解释变量以外的其他因素引起的被解释变量变化的部分。
16、协方差：用Cov （X ，Y ）表示，度量X,Y 两个变量关联程度的统计量。
17、拟合优度检验：检验模型对样本观测值的拟合程度，用2R 表示，该值越接近1，模型对样本观测值拟合得越好。
计量经济学考点整理
第一章计量经济学定义：统计学、经济理论和数学三者的结合。
正经济学中，我们用数学的函数概念表达对经济变量间的关系的看法。
计量经济学模型建立的步骤：一、理论模型的设计二、样本数据的收集三、模型参数的估计四、模型的检验计量经济学模型成功的三要素：理论 数据 方法计量经济学模型的应用：一、结构分析二、经济预测三、政策评价四、理论检验与发展第二章回归分析概述：是研究一个变量关于另一个（些）变量的具体依赖关系的计算方法和理论。
其目的在于通过后者的已知或设定值，去估计和（或）预测前者的（总体）均值。
回归分析与相关分析异同同：对变量间统计依赖关系的考察异：1。
相关分析适用于所有统计关系，回归分析仅对存在因果关系而言2．相关分析对称地对待任何（两个）变量，两个变量都被看作是随机的。
回归分析对变量的处理方法存在不对称性，即区分应变量（被解释变量）和自变量（解释变量），前者是随机变量，后者不一定是。
医院线性回归的基本假设：针对采用普通最小二乘法（Ordinary Least Squares, OLS ）估计而提出的。
分为：1、关于模型关系的假设：1。
模型设定正确假设。
2线性回归假设i i i X Y μββ++=102、关于解释变量的假设：1。
确定性假设。
2．与随机项不相关假设 3．观测值变化假设4．无完全共线性假设5．样本方差假设：随着样本容量的无限增加，解释变量X 的样本方差趋于一有限常数∞→→-∑n Q n X X i ,/)(23、关于随机项的假设：1。
0均值假设 2．同方差假设3序列不相关假设4、随机项的正态性假设：正态性假设5、CLRM 和 CNLRM cov(,)0,1,2,,()0,1,2,,i i i i X i nE X i n μμ====()0,1,2,,i i E X i n μ==2(),1,2,,i i Var X i n μσ==(,,)0,,1,2,,,i j i j Cov X X i j n i j μμ==≠22~(0,)~(0,)i i N μσμσ→NID一、元线性回归模型的参数估计：一、参数的普通最小二乘估计（OLS ）二、参数估计的最大或然法(ML)三、最小二乘估计量的性质四、参数估计量的概率分布及随机干扰项方差的估计一、参数的普通最小二乘估计（OLS ）：根据被解释变量的所有观测值与估计值之差的平方和最小的原则求得参数估计量 二、参数估计的最大或然法(ML)：基本原理：当从模型总体随机抽取n 组样本观测值后，最合理的参数估计量应该使得从模型中抽取该n 组样本观测值的概率最大• 三、最小二乘估计量的性质：1准则：– 线性性(linear)，即它是否是另一随机变量的线性函数；– 无偏性(unbiased)，即它的均值或期望值是否等于总体的真实值； – 有效性(efficient)，即它是否在所有线性无偏估计量中具有最小方差。
2.2 最小二乘的估计性质
ˆ ) E ( k ) k E ( ) E( i i 1 i i 1 1 1
同样地，容易得出
ˆ ) E ( w ) E( ) w E ( ) E( i i i i 0 0 0 0
3、有效性（最小方差性） ， 即在所有线性无偏估计量
2
x nX n x
2 i 2 i
2
2
X n x
2 i i
2 2
（2）证明最小方差性
ˆ * 是其他估计方法得到的关于 的线性无偏估计量： 假设 1 1
ˆ* c Y ii 1
其中，ci=ki+di，di为不全为零的常数
则容易证明
ˆ * ) var( ˆ) var( 1 1
ˆ + ˆ Xi + ei • (2) 估计的统计模型 ： Yi= 0 1
• (3) 真实的回归直线：E(Yi) = 0 + 1 Xi
ˆ = ˆ + ˆ Xi • (4) 估计的回归直线： Y i 0 1
二、参数估计量的概率分布及随机误差 项方差的估计
ˆ 的概率分布 ˆ 和 1、参数估计量 0 1
2 1 x 1 1 2 2 2 Xk i X 2 k i2 2 X k i X 2 i 2 x n n n n i 2
2
2 1 X n x2 i
高斯—马尔可夫定理(Gauss-Markov theorem)
在给定经典线性回归的假定下，最小二乘估计 量是具有最小方差的线性无偏估计量。
ˆ 证： 1
x y x
i 2 i
最小二乘法原理
三、最小二乘法最小二乘法是根据最小二乘准则，利用样本数据估计回归方程的一种方法。
（一）残差设是被解释变量的第次样本观测值，是相应的第次样本估计值。
将与之间的偏差记作称为第次样本观测值的残差。
（二）最小二乘准则使全部样本观测值的残差平方和达到最小，即来确定未知参数估计量的准则，称为最小二乘准则。
（三）最小二乘估计量未知参数的最小二乘估计量的计算公式为最小二乘估计量的推导设残差平方和其中它是阶残差列向量。
为了得到最小二乘估计量，我们对上式进行极小化移项后，得正规方程组根据基本假定5.，存在，用左乘正规方程组两边，得的最小二乘估计量式（四）的无偏估计量随机误差项的方差的无偏估计量为称作回归估计的均方误差，而称作回归估计的标准误差。
（五）的方差其中，，于是每个的方差为，而是矩阵对角线上对应的第个元素，。
（六）方差的估计量方差的估计量为则每个方差的估计量为，标准差的估计量为，四、拟合优度检验拟合优度检验是样本回归方程对样本观测值拟合程度的检验。
（一）总离差平方和的分解公式其中—总离差平方和，—回归平方和，—残差平方和。
于是，可以将平方和的分解公式写成离差形式（二）多元样本决定系数1.多元样本决定系数所谓多元样本决定系数，也称多元样本判定系数或多元样本可决系数，是指被解释变量中的变异性能被样本回归方程解释的比例，即2. 修正的样本决定系数与有如下关系：在样本容量一定的情形下，可以看出有性质：(1)，；（2）可能出现负值。
例如，，，时，。
显然负的拟合优度没有任何意义，在这种情形时，我们取。
（三）三个平方和的计算公式于是有因为，所以。
作为度量回归值对样本观测值拟合优度的指标，显然的数值越大越好。
的数值越接近于1，表示中的变异性能被估计的回归方程解释的部分越多，估计的回归方程对样本观测值就拟合的越好；反之，的数值越接近于0，表示中的变异性能被估计的回归方程解释的部分越少，估计的回归方程对样本观测值就拟合的越差。
五、检验检验是对回归方程总体显著性的检验，就是从总体上检验解释变量对被解释变量是否有显著影响的一种统计检验方法。
一元线性回归的最小二乘估计
3. 高斯--马尔柯夫定理（Gauss--Markov Theorem）
对于满足统计假设条件(1)--(4)的线性回归模型 Yt = + Xt + ut , ，普通最小二乘估计量 ( OLS估 计量) 是最佳线性无偏估计量（BLUE）。 或 对于古典线性回归模型（CLR模型）Yt=α+β+Xt ， 普通最小二乘估计量（OLS估计量）是最佳线性无 偏估计量（BLUE）。
最小二乘法就是选择一条直线，使其残差平方和 ，使得 ˆ和 达到最小值的方法。即选择 α
ˆ )2 S et (Yt Y t
2
ˆX ) 2 ˆ (Yt t
达到最小值。
运用微积分知识，使上式达到最小值的必要条件为：
S S 0 ˆ ˆ
两边取期望值，得：
ˆ )2 E (
1 2 2 [ x E ( i ) xi x j E ( i j )] 2 2 i ( xt ) i j
由于 E( t )=
2
2
, t=1,2,…,n
——根据假设（3） ——根据假设（2）
E( i j )=0, i≠j
ˆ
xy 390 0.39,ˆ Y ˆ * X 22 0.39 * 30 10.3 x 1000
Eviews 创建工作文件，输入数据并进行回归：
Create u 1 5
data x y ls y c x
三、 最小二乘法估计量的性质 ˆ 和 ˆ 的均值 1．
2 1 2 2 2 ˆ E ( ) ( x 0) ∴ 2 2 i 2 ( xt ) x t 2 ˆ) 即 Var ( 2 x t
第四章参数的最小二乘法估计讲解
第四章 最小二乘法与组合测量§1概述最小二乘法是用于数据处理和误差估计中的一个很得力的数学工具。
对于从事精密科学实验的人们来说，应用最小乘法来解决一些实际问题，仍是目前必不可少的手段。
例如，取重复测量数据的算术平均值作为测量的结果，就是依据了使残差的平方和为最小的原则，又如，在本章将要用最小二乘法来解决一类组合测量的问题。
另外，常遇到用实验方法来拟合经验公式，这是后面一章回归分析方法的内容，它也是以最小二乘法原理为基础。
最小二乘法的发展已经经历了200多年的历史，它最先起源于天文和大地测量的需要，其后在许多科学领域里获得了广泛应用，特别是近代矩阵理论与电子计算机相结合，使最小二乘法不断地发展而久盛不衰。
本章只介绍经典的最小二乘法及其在组合测量中的一些简单的应用，一些深入的内容可参阅专门的书籍和文献。
§2最小二乘法原理最小二乘法的产生是为了解决从一组测量值中寻求最可信赖值的问题。
对某量x 测量一组数据n x x x ,,,21 ，假设数据中不存在系统误差和粗大误差，相互独立，服从正态分布，它们的标准偏差依次为：n σσσ ,,21记最可信赖值为x ，相应的残差x x v i i -=。
测值落入),(dx x x i i +的概率。
dx v P i i ii )2exp(2122σπσ-=根据概率乘法定理，测量n x x x ,,,21 同时出现的概率为n i ii ni i dx v P P )]()(21exp[)2(12∑-∏=∏=σπσ 显然，最可信赖值应使出现的概率P 为最大，即使上式中页指数中的因子达最小，即∑=iii Min v 22σ权因子：22o i i w σσ=即权因子i w ∝21iσ，则2[]i i wvv wv Min ==∑再用微分法，得最可信赖值x11ni ii nii w xx w===∑∑ 即加权算术平均值这里为了与概率符号区别，以i ω表示权因子。
计量经济学 普通最小二乘法估计量
[
1 N
x2 (xi x)2
x2f (xi
x)2
2xx f (xi
x)2
1]
2
1
[N
(x (xi
xf )2 x)2
1]
2
2、预测E(yf)
以 yˆ f ˆ0 ˆ1xf 作为对E(yf)的预测。预
测误差是：
e2 E( y f ) yˆ f (0 ˆ0) (1 ˆ1)xf
1、预测yf
以 yˆ f ˆ0 ˆ1xf 作为对yf的预测。此时预测 误差是： e1 y f yˆ f (0 ˆ0) (1 ˆ1)xf f 显然，E(e1)=0。
Var(e1) Var(ˆ0 ) x2fVar(ˆ1) 2x f Cov(ˆ0, ˆ1) Var( f )
普通最小二乘法估计量
例2：假设真实模型为 y 0 1x
0, 1为待估参数，最小二乘法的参数估计量为
ˆ1
(xi x ) yi (xi x )2
; ˆ0
y
ˆ1x
既然估计量是随机的，那么我们需要分析随机
变量的统计性质，了解它的分布。另外0, 1 真
cov ki yi , (wi ki )yi
ki (wi ki ) 2
0
var wi yi var ki yi (wi ki )yi
var ki yi var (wi ki )yi var ki yi
假定2：在重复抽样中，(x1, x2,..., xN )被预先 固定下来，即(x1, x2,..., xN )是非随机的，显 然，如果解释变量含有随机的测量误差， 那么该假定被违背。还存其他的违背该 假定的情况。
计量经济学简答题
第二部分：简答题第一章1、什么是计量经济学？答：计量经济学包括广义计量经济学和狭义计量经济学，本课程中的计量经济学模型，就是狭义计量经济学意义上的经济数学模型：计量经济学是经济学的一个分支学科，以揭示经济活动中客观存在的数量关系为主要内容，是由经济学、统计学和数学三者结合而成的交叉性学科。
2、计量经济学方法与一般经济数学方法有什么区别？答：计量经济学方法揭示经济活动中具有因果关系的各因素间的定量关系，它用随机性的数学方程加以描述；而一般经济数学方法揭示经济活动中各个因素间的理论关系，更多地用确定性的数学方程加以描述。
3、如何理解计量经济学在当代经济学科中的重要地位？当代计量经济学的基本特点？答：计量经济学自20世纪20年代末30年代初形成以来，无论在技术方法还是在应用方面发展都十分迅速，尤其是经过20世纪50年代的发展阶段和60年代的扩张阶段，计量经济学在经济学科中占据了重要的地位，主要表现在：①。
在西方大多数大学和学院中，计量经济学的讲授已成为经济学课程表中最具权威性的一部分；②。
在1969至2003年诺贝尔经济学奖的53位获奖者中有10位与研究和应用计量经济学有关，居经济学各分支学科之首。
此外，绝大多数获奖者的研究中都应用了计量经济学方法。
③。
计量经济学方法与其他经济数学方法的结合应用得到了长足发展。
从当代计量经济学的发展动向看，其基本特点包括：⑴。
非经典计量经济学的理论与应用研究成为计量经济学越来越重要的内容；⑵。
计量经济学方法从主要用于经济预测转向经济理论假设和政策假设的检验；⑶。
计量经济学模型的应用从传统的领域转向新的领域，从宏观领域的研究开始转向微观领域的研究；⑷。
计量经济学模型的规模不再是水平高低的衡量标准，人们更喜欢建立一些简单的模型，从总量上和趋势上说明经济现象。
4、建立与应用计量经济学模型的主要步骤有哪些？答：建立与应用计量经济学模型的主要步骤包括：①设定理论模型，包括选择模型所包含的变量，确定变量之间的数学关系和拟定模型中待估参数的数值范围；②收集样本数据，要考虑样本数据的完整性、准确性、可比性和一致性；③估计模型参数；④检验模型，包括经济意义检验、统计检验、计量经济学检验和模型预测检验。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
最小二乘估计量的特征
在满足基本假设的情况下，其结构参数的 普通最小二乘估计、最大或然估计及矩估计仍具 有： 线性性、无偏性、有效性。 同时，随着样本容量增加，参数估计量具有： 渐近无偏性、渐近有效性、一致性。
1、线性性
ˆ ( X X) 1 X Y CY β
其中,C=(X′X)-1 X′为一仅与固定的X有关的行 向量
1
所以
Var B 0 VarB AA 2 XX 2
1
AA XX 2 0
1
高斯—马尔可夫定理(Gauss-Markov theorem) 在给定经典线性回归的假定下，最小 二乘估计量是具有最小方差的线性无偏估计 量。
( X X ) 1 X ( Xβ μ) β ( X X ) 1 X μ
和
) 2I E (μμ
如果在上面以A替代 令 B0 AY
B0 X）= σ 2 AA' 则Var（
X X
'
1
X'
• 最小方差性：证明
B0 AY
Var B0 VarB 0
E AXβ Aε AXβ AEε AXβ β AX I
E B 0 E AY EAXβ ε
Var B0 VarAXβ ε Varβ Aε VarAε AVarεA AA 2
2、无偏性
ˆ ) E (( X X ) 1 X Y ) E (β E (( X X ) 1 X ( Xβ μ )) β ( X X ) 1 E ( X μ ) β
这里利用了假设: E(X′)=0
3、有效性（最小方差性）
其中利用了
ˆ ( X X) 1 X Y β
因为
A XX XA XX X A XX XA XXX
1 1
பைடு நூலகம்
1
1
1 1 1 1 AA XX XA AXXX XX XXXX
AA XX 0