一元线性回归模型及参数估计

合集下载

第一课时一元线性回归模型及其参数的最小二乘估计

解析由题意得－x＝3＋4＋4 5＋6＝4.5，－y＝25＋30＋4 40＋45＝35. ∵回归直线方程^y＝b^x＋a^中b^＝7，∴35＝7×4.5＋a^，解得a^＝3.5， ∴^y＝7x＋3.5. ∴当 x＝10 时，^y＝7×10＋3.5＝73.5(万元)．答案 73.5
(2)列出下表，并用科学计算器进行有关计算．
i
1
2
3
4
5
xi
2
4
5
6
8
yi
30
40
60
50
70
xiyi
60
160
300
300
560
x2i
4
16
25
36
64
－x＝5，－y＝50，i＝∑5 1x2i ＝145，i＝∑5 1xiyi＝1 380
5
∑xiyi－5－x
－
y
于是可得，b^＝i＝15
∑xi2－5－x 2
【训练2】某车间为了规定工时定额，需要确定加工零件所花费的时间，为此做了四次实验，得到的数据如下：
零件的个数x(个) 加工的时间y(h)
23 2.5 3
45 4 4.5
(1)已知零件个数与加工时间线性相关，求出y关于x的线性回归方程； (2)试预测加工10个零件需要多少时间？
4
解 (1)由表中数据，得∑xiyi＝2×2.5＋3×3＋4×4＋5×4.5＝52.5， i＝1
【迁移2】 (变条件，变设问)本例中近似方程不变，每小时生产有缺点的零件件数是 7，估计机器的转速．解因为 y＝5710x－67，所以当 y＝7 时，7＝5710x－67，解得 x≈11，即估计机器的转速约为 11 转/秒．

第1课时一元线性回归模型及参数的最小二乘估计

√B.劳动生产率提高1 000元时，工人工资平均提高80元
C.劳动生产率提高1 000元时，工人工资平均提高130元 D.当月工资为250元时，劳动生产率为2 000元
解析因为经验回归直线的斜率为80，所以x每增加1，y平均增加80，即劳动生产率提高1 000元时，工人工资平均提高80元.
1234
x6
8
10
12
y23
5
6
(2)请根据上表提供的数据，用最小二乘法求出 y 关于 x 的经验回归方程y^
＝b^ x＋a^ ；
解 x ＝6＋8＋410＋12＝9， y ＝2＋3＋4 5＋6＝4，
4
x2i ＝62＋82＋102＋122＝344，
i＝1
4
xiyi＝6×2＋8×3＋10×5＋14－10×8×2＝24，
i＝1
则b^ ＝8204＝0.3， a^ ＝ y －b^ x ＝2－0.3×8＝－0.4，故所求经验回归方程为y^ ＝0.3x－0.4.
(2)判断变量x与y之间是正相关还是负相关；解由于变量y的值随x值的增加而增加(b＝0.3＞0)，故x与y之间是正相关.
随堂演练
一、一元线性回归模型与函数模型
知识梳理
一元线性回归模型：我们称
Y＝bx＋a＋e， Ee＝0，De＝σ2
为Y关于x的_一__元__线_性__回__归__
模型，其中，Y称为因变量或响应变量，x称为自变量或解释变量；
a和b为模型的未知参数，a称为截距参数，b称为斜率参数；e是Y与bx＋a
i＝1
b^ ＝15384－4－4×4×9×924＝2104＝0.7，a^ ＝ y －b^ x ＝4－0.7×9＝－2.3，
故经验回归方程为 y^ ＝0.7x－2.3.

§2.2 一元线性回归模型的参数估计

i i 2 i
β 0 = Y β1 X
例2.2.1：在上述家庭可支配收入-消费支出例中，对：在上述家庭可支配收入-消费支出例中，于所抽出的一组样本数，于所抽出的一组样本数，参数估计的计算可通过下面的进行。表2.2.1进行。进行
表 2.2.1 数计计参估的算表
Xi
Yi
xi
1
的样本方差： 2 = σ 2 x 2 / n ( x x )2 ∑ i ∑ i β0 Sβ
0
β1 =
∑x y ∑x
i 2 i
i
5769300 = = 0.777 7425000
β 0 = Y β 0 X = 1567 0.777 × 2150 = 103.172
因此，由该样本估计的回归方程为：
Yi = 103.172 + 0.777 X i
三、最小二乘估计量的性质
（1）线性性，即它是否是另一随机变量的线性）线性性，函数；函数；（2）无偏性，即它的均值或期望值是否等于总）无偏性，体的真实值；体的真实值；（3）有效性，即它是否在所有线性无偏估计量）有效性，中具有最小方差。中具有最小方差。
中，最小二乘估计量 β 0 、 β1 具有最小方差。
（2）证明最小方差性
β 1* 是其他估计方法得到的关于β1 的线性无偏估计量：假设
β 1* = ∑ ci Yi
其中，ci=ki+di，di为不全为零的常数则容易证明
var(β 1* ) ≥ var(β 1 )
同理，可证明β0 的最小二乘估计量 β 0 具有最的小方差
-973 1314090 1822500 947508 640000 352836 -929 975870 1102500 863784 1210000 407044 -445 334050 562500 198381 1960000 1258884 -412 185580 202500 170074 2890000 1334025 -159 23910 22500 25408 4000000 1982464 28 4140 22500 762 5290000 2544025 402 180720 202500 161283 6760000 3876961 511 382950 562500 260712 8410000 4318084 1018 1068480 1102500 1035510 10240000 6682225 963 1299510 1822500 926599 12250000 6400900 5769300 7425000 4590020 53650000 29157448

2.2 一元线性回归模型的参数估计

于是，Y的概率函数为
P(Yi ) = 1
− 1 2σ
2
ˆ ˆ (Yi − β 0 − β1 X i ) 2
σ 2π
e
（i=1,2,…n）
4/29/2012
14
因为Yi是相互独立的，所以的所有样本观测值的联合概率，也即或然函数(likelihood function) 或然函数(likelihood function)为：或然函数
§2.2 一元线性回归模型的参数估计
一、一元线性回归模型的基本假设二、参数的普通最小二乘估计（OLS）参数的普通最小二乘估计（OLS）参数估计的最大或然法(ML) 三、参数估计的最大或然法(ML) * 四、最小二乘估计量的性质五、参数估计量的概率分布及随机干扰项方差的估计
4/29/2012
1
640000 352836 1210000 407044 1960000 1258884 2890000 1334025 4000000 1982464 5290000 2544025 6760000 3876961 8410000 4318084 10240000 6682225 12250000 6400900 53650000 29157448
4/29/2012
-973 1314090 1822500 947508 -929 975870 1102500 863784 -445 334050 562500 198381 -412 185580 202500 170074 -159 23910 22500 25408 28 4140 22500 762 402 180720 202500 161283 511 382950 562500 260712 1018 1068480 1102500 1035510 963 1299510 1822500 926599 5769300 7425000 4590020

一元线性回归模型的参数估计

感谢您的观看
斜率（β1）
表示 x 每变化一个单位，y 平均变化的数量。
一元线性回归模型的假设
线性关系
因变量 y 和自变量 x 之间存在线性关系。
误差项独立
误差项 ε 之间相互独立，且与 x 独立。
误差项的正态性
误差项 ε 的分布是正态的。
误差项的无偏性
误差项 ε 的期望值为 0，即 E(ε) = 0。
有限的方差
回归分析的分类
一元回归分析
研究一个自变量和一个因变量之间的关系。
多元回归分析
研究多个自变量和一个因变量之间的关系。
线性回归模型
线性回归模型是一种常用的回归分析方法，它假设自变量和因变量之间存在线性关系，即可以用一条直线来描述它们之间的关系。
在一元线性回归模型中，自变量和因变量之间的关系可以表示为一条直线，即 y = ax + b，其中 a 是斜率，b 是截距。
确定样本数据
收集用于估计参数的样本数据。
构建估计量
根据模型和样本数据构建用于估计参数的统计量。
计算估计值
通过计算统计量的值得到参数的估计值。
评估估计质量
通过统计检验和图形方法评估估计的质量和可靠性。
05 模型的评估与检验
模型的拟合度评估
决定系数（R^2）
衡量模型解释变量变异程度的指标，值越接近1表示模型拟合度越好。
数据整理
将数据整理成适合进行统计分析的格式，如表格或图形，以便后续分析。
建立一元线性回归模型
确定自变量和因变量
根据研究问题选择合适的自变量和因变量，确保它们之间存在一定的关联性。
散点图分析
绘制散点图，观察自变量和因变量之间的关系，初步判断是否适合建立一元线性回归模型。

一元线性回归分析

一元线性回归分析摘要：一元线性回归分析是一种常用的预测和建模技术，广泛应用于各个领域，如经济学、统计学、金融学等。

本文将详细介绍一元线性回归分析的基本概念、模型建立、参数估计和模型检验等方面内容，并通过一个具体的案例来说明如何应用一元线性回归分析进行数据分析和预测。

1. 引言1.1 背景一元线性回归分析是通过建立一个线性模型，来描述自变量和因变量之间的关系。

通过分析模型的拟合程度和参数估计值，我们可以了解自变量对因变量的影响，并进行预测和决策。

1.2 目的本文的目的是介绍一元线性回归分析的基本原理、建模过程和应用方法，帮助读者了解和应用这一常用的数据分析技术。

2. 一元线性回归模型2.1 模型表达式一元线性回归模型的基本形式为：Y = β0 + β1X + ε其中，Y是因变量，X是自变量，β0和β1是回归系数，ε是误差项。

2.2 模型假设一元线性回归模型的基本假设包括：- 线性关系假设：自变量X与因变量Y之间存在线性关系。

- 独立性假设：每个观测值之间相互独立。

- 正态性假设：误差项ε服从正态分布。

- 同方差性假设：每个自变量取值下的误差项具有相同的方差。

3. 一元线性回归分析步骤3.1 数据收集和整理在进行一元线性回归分析之前，需要收集相关的自变量和因变量数据，并对数据进行整理和清洗，以保证数据的准确性和可用性。

3.2 模型建立通过将数据代入一元线性回归模型的表达式，可以得到回归方程的具体形式。

根据实际需求和数据特点，选择适当的变量和函数形式，建立最优的回归模型。

3.3 参数估计利用最小二乘法或最大似然法等统计方法，估计回归模型中的参数。

通过最小化观测值与回归模型预测值之间的差异，找到最优的参数估计值。

3.4 模型检验通过对回归模型的拟合程度进行检验，评估模型的准确性和可靠性。

常用的检验方法包括：残差分析、显著性检验、回归系数的显著性检验等。

4. 一元线性回归分析实例为了更好地理解一元线性回归分析的应用，我们以房价和房屋面积之间的关系为例进行分析。

3、计量经济学【一元线性回归模型——参数估计】

ˆ Y i
(8) 651.8181 753.6363 855.4545 957.2727 1059.091 1160.909 1262.727 1364.546 1466.364 1568.182 11100
ˆ ei Yi Y i
(9)=(2)-(8) 48.18190 -103.6363 44.54550 -7.272700 40.90910 -10.90910 -62.72730 35.45450 83.63630 -68.18190

假设 5：随机误差项服从 0 均值，同方差的正态分布，即

2 i ~ N (0, ), ,,,,,,,,, ,, i 1,2, n
以上这些假设称为线性回归模型的经典假
设，满足这些假设的线性回归模型，也称为经典线性回归模型（classical linear regression model）。在回归分析的参数估计和统计检验理论中，许多结论都是以这些假定作为基础的。如果违背其中的某一项假定，模型的参数估计就会存在问题，也就是说最小二乘法（OLS）就不再适用，需对模型进行修正或采用其他的方法来估计模型了。
二、参数的普通最小二乘估计（OLS）三、最小二乘估计量的性质四、参数估计量的概率分布及随机误差项
方差的估计

给出一元线性回归模型的一般形式：
Yi 0 1 X i i ,,,, , i 1, 2, ,n
其中 Yi ：被解释变量，X i ：解释变量，0 和 1 ：待估参数； i ：随机误差项；
ei2
（10） 2321.495 10740.48 1984.302 52.89217 1673.554 119.0085 3934.714 1257.022 6995.031 4648.771 33727.27

一元线性回归

一元线性回归一、一元线性回归模型的数学形式εββ++=x y 10 对两边求数学期望和方差得：i i x y E 10)(ββ+=，2)var(σ=i y 随机变量y 的期望不等，方差相等，因而i y 是独立随机变量，但并不同分布，而i ε是独立同分布的随机变量。

估计参数1ˆβ在实际应用中表示自变量x 每增加一个单位时因变量y 平均增加数量。

一元回归的一般形式用矩阵表示：⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=n y y y y 21，⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=n x x x x 21111，⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=n εεεε 21，⎥⎦⎤⎢⎣⎡=10βββ，模型表示有：⎪⎩⎪⎨⎧I ==+=n E x y 2)var(0)(σεεεβ 其中n I 为n 阶单位矩阵。

二、参数估计需注意，极大似然估计是在),0(~2σεN i 的正态分布假设下求得的，而最小二乘估计则对分布假设没有要求，另外，n y y y ,,,21 是独立的正态分布样本，但并不是同分布的，期望值i i x y E 10)(ββ+=不相等。

三、最小二乘估计的性质1、线性性：估计量10ˆ,ˆββ为随机变量i y 的线性函数2、无偏性：yˆ,ˆ,ˆ01ββ是y ,,01ββ无偏估计 3、10ˆ,ˆββ的方差∑∑∑===-=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡--=nj jini n j j i x x y x x x x 12212121)()var()()ˆvar(σβ，21220)()(1)ˆvar(σβ⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡-+=∑=ni i x x x n从上面两个式子可以看出，要想使10,ββ的估计值10ˆ,ˆββ更稳定，在收集数据时，就应该考虑x 的取值尽可能分散一些，不要挤在一块，样本量应尽可能大一些，样本量n 太小时估计量的稳定性肯定不会太好。

从))(1,(~ˆ2200σββ⎥⎦⎤⎢⎣⎡+xxL x nN ;),(~ˆ211xxL N σββ;其中∑=-=ni ixx x xL 12)(可以得到：210)ˆ,ˆcov(σββxxL x -=，在x =0时，10ˆ,ˆββ的协方差为0，此时10ˆ,ˆββ不相关，在正态假定下独立；在≠x 0时不独立。

一元线性回归模型的参数估计分析

整理得：
ˆ ˆ X )0 ( Y i 0 1 i ˆ ˆ X )X 0 ( Y i 0 1 i i
即：
ˆ ˆ Y n 0 1 Xi i 2 ˆ ˆ X iYi 0 X i 1 X i
• 对于给定的样本观测值，可以用无数条直线来拟合。
ˆ的差，即残差e 越小越好最好的直线应使Yi与Y i i
因ei可正可负，所以取ei2最小
ˆ ˆ X )2 即min( ei2 ) min (Yi 0 1 i
2.最小二乘估计量的推导
记 ˆ ˆ X )2 Q ei2 (Yi 0 1 i
根据微积分中多元函数求极值的方法，求Q关于 ˆ 和 ˆ 的一阶偏导并令其等于0得：
0 1
Q ˆ ˆ X )0 2 ( Y i 0 1 i ˆ 0 ˆ ˆ X )X 0 Q 2 (Y i 0 1 i i ˆ 1
1.为什么要作基本假定？
（1）只有具备一定的假定条件，所作出的估计才具有较好的统计性质。
（2）模型中有随机扰动，估计的参数是随机变量，只有对随机扰动的分布作出假定，才能确定所估计参数的分布性质，也才可能进行假设检验和区间估计。 2. 基本假定的内容
假定1：解释变量X 0 1 X i
假定3：等方差假定。Var(Yi ) 2
假定4：无自相关假定。Cov(Yi , Yj ) 0(i j)
假定5：正态性假定。Yi ~ N (0 1 X i , 2 )
三、参数的普通最小二乘估计（OLS）
1.OLS的基本思想
第二节一元线性回归模型的参数估计
• • • • • • 一元线性回归模型的概念一元线性回归模型的基本假定参数的普通最小二乘估计截距为零的一元线性回归模型的估计最小二乘估计量的性质参数估计量的概率分布

一元线性回归模型的参数估计及性质

(i 1, , n) 为用样本的到的一元线性回归函数，最小二乘法就是使
n i 1
估计模型与真实模型之间偏差平方和（残差平方和 i ）达到最小时的
ˆ ,b ˆ (b 0 1 )去估计真实参数(b0 , b1 ) 。
令
i 1
ˆ ,b ˆ ˆ ˆ ˆ i Q(b 0 1 ) ( yi yi ) ( yi b0 b1 xi )
2 2 2
i 1
ˆ b ˆ x b ˆ b ˆ x) ˆ i ) ( yi y ) ( y ˆ i y ) ( y i y ) (b i ( yi y 0 1 i 0 1 ˆ 2 ( x x ) 2 lyy (lxy ) lxx lyy (lxy ) ( yi y ) 2 b 1 i lxx (lxx ) 2 ˆ 2 (n 1) S 2 (n 1) S 2 b
②若 ei ~ N (0, 2 ) ，有
i
n 2
i 1

2
~ 2 (n 2)
③“残差” i 是随机误差的一种反应，如果在模型正确的前提下，“残差” i 应该是杂乱无章没有规律性的，如果呈现出某种规律性，则可能是模型中某方面的假定与事实不符。
四、拟合优度——可决系数 R
2
（一般模型）
ˆ y b ˆ 也是 y 的线性组合。 ˆ x ，所以出 b ˆ 是 y 的线性组合，又 b 可以看出 b 0 0 1 i i 1
还有 ki
( xi x ) ( xi x ) ( xi x ) ( xi x ) xi 0 ； ki xi x 1. 2 2 2 i ( xi x ) ( xi x ) ( xi x ) ( xi x ) xi

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

ˆ SX i2 SYi SX i SYi X i b 0 = nSX i2 (SX i ) 2 ˆ = nSYi X i SYi SX i b 1 2 2 n S Y ( S X ) i i
可见，在满足一系列基本假设的情况下，模型结构参数的最大或然估计量与普通最小二乘估计量是相同的。
1 i i i 0 1 i i 0 i 1 i i i i
i
i
2 i
i
i
i
i
i
i
2 i 2 i
i
i
i
2 i
2 i
2 i
2 i
故： bˆ
1
= b1 + ki m i
ˆ ) = E ( b + k m ) = b + k E (m ) = b E(b i i i i 1 1 1 1
ˆ = w Y = w (b + b X + m ) = b b i i i 0 1 i i 0 wi + b1 wi X i + wi m i 0
e
n
2 i
3、样本回归线的数值性质(numerical properties) • 样本回归线通过Y和X的样本均值；
• Y估计值的均值等于观测值的均值；
• 残差的均值为0。
二、最小二乘参数估计量的统计性质
高斯-马尔可夫定理
当模型参数估计完成后，需考虑参数估计值的精
度，即是否能代表总体参数的真值，或者说需考察
给定一组样本观测值（Xi, Yi），i=1,2,…n，假如模型参数估计量已经求得，并且是最合理的参数估计量，那么样本回归函数应该能够最好地拟合样本数据，即样本回归线上的点与真实观测点的“总体误差”应该尽可能地小。
最小二乘法给出的判断标准是：二者之差的平方和最小，即
Q=
n (Y i =1 =
k
2 i
s 2 + d i2s 2 + 2s 2 k i d i
= k i (c i k i ) = k i c i k i2
模型参数估计的任务
• 模型参数估计的任务为两项：
一是求得反映变量之间数量关系的结构参数的估计量，
在一元线性回归模型即是参数 b0 和 b 1 的估计量；二是求得随机误差项的分布参数，由于随机误差项
的均值已经被假定为0，所以所要求的分布参数只有
方差 s 2 m 。
1、普通最小二乘法（Ordinary Least Square, OLS）
i=1,2, …n
随机抽取 n 组样本观测值Yi , X i （i=1,2,…n），假如模型的参数
$ $ b b 0 和估计量已经求得到，为那么Yi 服从如下的正态分布： 1 ， ˆ +b ˆ X ,s 2 ) Yi ～ N ( b 0 1 i m
于是，Yi 的概率函数为
P(Yi ) = 1
=
1
n (2 ) s m
n 2

1 2s m
2
e
ˆ b ˆ X )2 S (Yi b 0 1 i
将该或然函数极大化，即可求得到模型参数的极大或然估计量。
由于或然函数的极大化与或然函数的对数的极大化是等价的，所以，取对数或然函数如下：
L* = ln( L) 1 ˆ b ˆ X )2 = n ln( 2 s m ) 2 S(Yi b 0 1 i 2s m
2
1 2 ˆ Var ( b ) = Var w Y = w Var ( b + b X + m ) = Xk s 2 0 i i i 0 1 i i i m n
2 x 1 2 1 2 1 2 2 2 i 2 = 2 Xk + X k s = X k + X 2 s i i m i m n n n n x i 2
ˆ b ˆ X ) 2 求极小值: 对 L* 求极大值，等价于对 S(Yi b 0 1 i
ˆ b ˆ X )2 = 0 S ( Y b i 0 1 i ˆ b 0 ˆ b ˆ X )2 = 0 S(Yi b 0 1 i ˆ b 1
解得模型的参数估计量为：
2 ei
2.用离差形式的数据xi，yi计算简捷公式为
2 2 ˆ 2 x2 ei = yi b 1 i
其中
2 2 2 2 yi = (Yi Y ) = Yi nY 2 2 2 2 xi = ( X i X ) = X i nX
2、最大似然法（ Maximum Likelihood, ML）
可知：
b 0 ci + b 1 ci X i = b 1
c 从而有：
i
=0
，
ci X i = 1
ˆ * 的方差 b 1
ˆ * ) = var( c Y ) = var( b i i ci2 var( Yi ) = ci2 var( m i ) = ci2s 2 1
= (k 由于
1 = Xi X n 1 = Yi Y 记 = n xi X i X y i = Yi Y
，
ˆ0 = Y b ˆ1X b 则参数估计量可以写成： b ˆ1 = xi yi 2 x i
注：在计量经济学中，往往以大写字母表示原始数据（观测值），而以小写字母表示对均值的离差（deviation)。
Q 对 b$0 、 b$1 的一阶偏导数为
根据极值存在的
Q 达到最小。即
0 时，
Q ˆ =0 ˆ +b ˆ SX ˆ +b ˆ X Y )=0 S Yi = nb (b b 0 0 1 i 0 1 i i 2 ˆ ˆ ˆ ˆ Q S = b S + b S b + b = Y X X X ( X Y ) X 0 0 i 1 0 1 i i i i i i =0 ˆ b 1
• 最大或然法，也称最大似然法，是不同于最小二乘
法的另一种参数估计方法，是从最大或然原理出发发展起来的其它估计方法的基础。 • 基本原理：对于最大或然法，当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型总体中抽取该n组样本观测值的联合概率最大。
对于一元线性回归模型：
Yi = b 0 + b 1 X i + m i
由于： w = (1 / n X k ) = 1 X k
i i
i
=1
w X = (1 / n Xk ) X
i i i
i
=1
n
X i X ki X i = X X = 0
故：
ˆ =b + wm b i i 0 0 ˆ ) = E ( b + w m ) = E ( b ) + w E (m ) = b E(b i i i i 0 0 0 0
= k i + d i ，d i
为不全为零的常数。
ˆ * ) = E ( c Y ) = c E (Y ) = c ( b + b X ) = b E(b ii i i i 0 1 i 1 0 ci + b 1 ci X i
ˆ* ˆ*) = b b E ( b 1 由的无偏性，即 1 1
一元线性回归模型及其参数估计
一、一元线性回归模型的参数估计二、最小二乘参数估计量的统计性质三、最小二乘参数估计量的概率分布
一、一元线性回归模型的参数估计
一元线性回归模型的一般形式
一元线性回归模型的一般形式
Yi = b 0 + b 1 X i + m i
是：
i=1 ， 2 ，…， n
在满足基本假设：
3、有效性：在所有线性无偏估计量中，最小二乘参数估计量具有最小方差。
ˆ 和b ˆ 的方差（1）先求b 0 1
x s2 ˆ ) = Var ( k Y ) = k 2Var ( b + b X + m ) = i s 2 = m Var ( b 1 i i i 0 1 i i x2 m Sx 2 i i
i i i i 2 i 2 i 2 i
i i
+
Y xi
2 x i
xi 2 x i
，因 x = ( X
i
i
X ) = 0 ，故有
xi ˆ = b x 2 Yi = k iYi 1 i
ˆ =Y b ˆ X = 1 Y k Y X = ( 1 Xk )Y = w Y b i ii n i i ii 0 1 n
随机误差项方差的估计量
ˆi 为第i个样本观测点的残差，即被记 ei = Yi Y
解释变量的估计值与观测值之差，则随机误差项方差的估计量为：
$m s
2
Se = n2
2 i
1.用原始数据（观测值）Xi，Yi计算简捷公式为
ei = Yi
ei
2
2
2 b ˆ Y b ˆ Y X 0 i 1 i i
ˆ) = Y
i
2
n (Y i =1 i
2 ˆ ˆ ( b + b X )) 0 1 i
最小
n 2 ˆ +b ˆ X )) 2 是 b$ 、 b$ 的二次函 ˆ 由于 Q = (Yi Yi ) = (Yi ( b 0 1 0 1 i 1 1
n
数，并且非负，所以其极小值总是存在的。条件，当
E(mi ) = 0 2 Var ( m i ) = s m Cov ( m i , m j ) = 0 Cov ( xi , m i ) = 0 期望或均方值同方差协方差