回归直线方程的三种推导方法
回归直线方程b尖的公式推导
回归直线方程b尖的公式推导为了推导回归直线方程的一般形式，我们首先需要了解回归分析的基本概念和假设。
回归分析是一种用于研究变量之间关系的统计技术，它假设自变量和因变量之间存在线性关系，并通过拟合一条直线来描述这种关系。
假设我们有一个自变量x和一个因变量y，我们的目标是找到一条最佳拟合直线来描述x和y之间的关系。
回归直线的一般形式可以表示为：y=b0+b1x其中，y是因变量的预测值，x是自变量的值。
b0和b1是回归方程的系数，它们的值取决于数据样本的特点。
b0是截距，表示当自变量x等于0时，因变量y的值。
b1是斜率，表示当自变量x增加1个单位时，因变量y的变化值。
为了推导最佳拟合直线的回归系数，我们需要使用最小二乘法。
最小二乘法是一种常见的回归分析方法，它通过最小化预测值与实际值之间的差异来确定回归系数。
首先，我们定义回归方程的残差（error）为实际值y与预测值y的差异。
对于每个观察值，残差可以表示为：ei = yi - (b0 + b1xi)然后，我们定义回归方程的残差平方和（SSE）为所有观察值的残差平方之和：SSE = Σ(ei^2)我们的目标是找到能够最小化SSE的回归系数b0和b1、为了达到这个目标，我们需要对SSE进行求导，并令导数等于0。
首先，我们对b0求导数，得到：∂SSE/∂b0 = -2Σ(yi - (b0 + b1xi))然后，我们对b1求导数，得到：∂SSE/∂b1 = -2Σxi(yi - (b0 + b1xi))接下来，我们令导数等于0，并求解b0和b1：∂SSE/∂b0 = 0 => Σ(yi - (b0 + b1xi)) = 0∂SSE/∂b1 = 0 => Σxi(yi - (b0 + b1xi)) = 0通过求解这两个方程，我们可以得到b0和b1的估计值，进而确定回归直线的方程。
一般情况下，这些方程的解没有闭式解，需要使用数值优化方法进行求解。
常见的数值优化方法包括梯度下降法和牛顿法。
回归直线方程的推导
回归直线方程的推导山东 王加祥 范玉峰设x 与y 是具有线性相关关系的两个变量，且相应于样本的一组观测值的n 个点的坐标分别是：112233()()()()n n x y x y x y x y ，，，，，，，，，下面给出回归方程的推导．设所求的回归方程为i i y bx a =+，(123)i n =，，，，．显然，上面的各个偏差的符号有正、有负，如果将他们相加会相互抵消一部分，因此他们的和不能代表n 个点与回归直线的整体上的接近程度，因而采用n 个偏差的平方和Q 来表示n 个点与相应直线（回归直线）在整体上的接近程度，即22222223311()()()()()nni i i n n i i i Q y y y bx a y bx a y bx a y bx a ===-=--+--+--++--∑∑．求出当Q 取最小值时的a b ，的值，就求出了回归方程．一、先证明两个在变形中用到的公式 公式（一）22211()nni i i i x x x nx ==-=-∑∑，其中12nx x x x n+++=证明：2222121()()()()ni n i x x x x x x x x =-=-+-++-∑∵22221212()2n n x x x x x x nxnx n+++=+++-+222222222212121()2()nnni i x x x nx nx x x x x nx ==+++-+=+++=-∑22211()nni i i i x x x nx ==-=-∑∑∴．公式（二）11()()n ni i i i i i x x y y x y nx y ==--=-∑∑证明：11221()()()()()()()()ni i n n i x x y y x x y y x x y y x x y y =--=--+--++--∑∵11221122()()n n n n x y x y x y x y y x x y y x x y y x nx y =+++-+++++++12121[()()]ni i n n i x y x x x y y y y x nx y ==-++++++++∑ 12121()()nn n i i i x x x y y y x y n y x nx y n n=++++++⎡⎤=-++⎢⎥⎣⎦∑ 112n ni i i i i i x y nxy nxy x y nxy ===-+=-∑∑，11()()nni i i i i i x x y y x y nx y ==--=-∑∑∴．二、推导：将Q 的表达式的各项先展开，再合并、变形 2222112233()()()()n n Q y bx a y bx a y bx a y bx a =--+--+--++--2222121122()[2()2()]n y y y y b x a y b x a =+++-+++展开 222211111222n n nnni i i i ii i i i i i y b x y a y bxab x na ======--+++∑∑∑∑∑合并同类项22221111122nnii n n ni i i i i i i i i y x na na b b x b x y y nn =====⎛⎫ ⎪ ⎪=--+-+ ⎪ ⎪⎝⎭∑∑∑∑∑以a b ，的次数为标准整理 22221112()2nn nii i i i i i na na y bx bxb x y y ====--+-+∑∑∑转化为平均数x y ，22222111[()]()2nnni i i i i i i n a y bx n y bx bxb x y y ====----+-+∑∑∑配方法2222222111[()]22nnnii i i i i i n a y bx ny nbxy nb x bxb x y y ====---+-+-+∑∑∑展开 222222111[()]()2()()nnnii i i i i i n a y bx b x nx b x y nxy y ny ====--+---++∑∑∑整理2222111[()]()2()()()nnnii i i i i i n a y bx bxx b x x y y y y ====--+----+-∑∑∑用公式（一）、（二）变形22212111()()[()]()()()ni i n ni i i ni i i i x x y y n a y bx x x b y y x x ====⎡⎤--⎢⎥⎢⎥=--+--+-⎢⎥-⎢⎥⎣⎦∑∑∑∑配方22212212211111()()()()()()()()()n ni i i i n n i i i i n n i i i i i x x y y x x y y n a y bx x x b y y x x x x ======⎡⎤⎡⎤----⎢⎥⎢⎥⎣⎦⎡⎤⎢⎥=--+---+-⎣⎦⎢⎥--⎢⎥⎣⎦∑∑∑∑∑∑配方法在上式中，共有四项，后两项与a b ，无关，为常数；前两项是两个非负数的和，因此要使得Q 取得最小值，当且仅当前两项的值都为0．所以a y bx =-，121()()()nii i nii xx y y b xx ==----∑∑或1221ni ii nii x ynxyb xnx==-=-∑∑用公式（一）、（二）变形得三、总结规律上述推导过程是围绕着待定参数a b ，进行的，只含有i i x y ，的部分是常数或系数，用到 的方法有：①配方法，有两次配方，分别是a 的二次三项式和b 的二次三项式；②变形时，用到公式（一）、（二）和整体思想；③用平方的非负性求最小值．④实际计算时，通常是分步计算：先求出x y ，，再分别计算1()()n i i i x x y y =--∑，21()n i i x x =-∑或1n i i i x y nx y =-∑，221ni i x nx=-∑的值，最后就可以计算出a b ，的值．。
回归直线方程的三种推导方法
回归直线方程的三种推导方法下面将介绍回归直线方程的三种推导方法。
方法一：最小二乘法最小二乘法是最常用的回归直线方程推导方法。
它的基本思想是寻找一条直线，使得所有数据点到该直线的距离之和最小。
具体推导过程如下：1. 假设有 n 个数据点，表示为 (x1, y1), (x2, y2), ..., (xn, yn)。
2. 代入直线方程 y = ax + b，得到每个数据点的预测值 y_hat =ax + b。
3. 定义误差函数E = Σ(yi - y_hat)²，即每个数据点的实际值与预测值之差的平方之和。
4.求E的最小值，即求使误差函数最小化的a和b的值。
5.对E分别对a和b偏导，并令偏导数为零，得到两个方程：∂E/∂b = -2Σ(yi - axi - b) = 0∂E/∂a = -2Σ(xi(yi - axi - b)) = 06.解这两个方程，即可得到回归直线方程的斜率a和截距b。
方法二：几何推导法几何推导法是利用几何方法推导回归直线方程的方法。
具体推导过程如下：1. 假设有 n 个数据点，表示为 (x1, y1), (x2, y2), ..., (xn, yn)。
2.在坐标系中绘制这n个数据点。
3.寻找一条直线，使得所有数据点到该直线的距离之和最小。
4.使用垂直距离作为距离的度量，即对于每个数据点，找到它到直线的垂直距离d。
这可以通过计算直线的斜率a和截距b，然后使用点到直线的距离公式来求解。
5.定义误差函数E=Σd²，即每个数据点到直线的垂直距离之和。
6.求E的最小值，即求使误差函数最小化的a和b的值。
7.求解斜率a和截距b。
方法三：代数推导法代数推导法是另一种推导回归直线方程的方法。
具体推导过程如下：1. 假设有 n 个数据点，表示为 (x1, y1), (x2, y2), ..., (xn, yn)。
2. 定义误差函数E = Σ(yi - axi - b)²，即每个数据点的实际值与预测值之差的平方之和。
回归直线公式
回归直线公式回归直线公式是统计学中常用的一种方法，用于描述两个变量之间的关系。
回归直线公式可以用来预测一个变量的值，当另一个变量的值已知时。
回归直线公式的一般形式为y = a + bx，其中y是因变量，x是自变量，a是截距，b是斜率。
回归直线公式的斜率b表示自变量x 每增加一个单位，因变量y会增加多少个单位。
截距a表示当自变量x为0时，因变量y的值。
回归直线公式可以通过最小二乘法来求解。
最小二乘法是一种常用的数学方法，用于拟合数据点到回归直线上。
最小二乘法的基本思想是，找到一条直线，使得所有数据点到这条直线的距离之和最小。
回归直线公式可以用来预测一个变量的值。
例如，假设我们想预测一个人的体重，我们可以使用身高作为自变量，使用回归直线公式来预测体重。
我们可以收集一些数据，例如身高为160cm的人的体重为50kg，身高为170cm的人的体重为60kg，身高为180cm 的人的体重为70kg。
我们可以使用这些数据来拟合一条回归直线，然后使用这条回归直线来预测身高为175cm的人的体重。
回归直线公式还可以用来评估两个变量之间的相关性。
如果两个变量之间的相关性很强，那么回归直线的斜率会很大，截距会很小。
如果两个变量之间的相关性很弱，那么回归直线的斜率会很小，截距会很大。
回归直线公式在实际应用中有很多用途。
例如，它可以用来预测股票价格、房价、销售额等。
回归直线公式也可以用来评估广告效果、产品质量等。
回归直线公式是一种非常有用的统计学工具，可以用来描述两个变量之间的关系，预测一个变量的值，评估两个变量之间的相关性，以及在实际应用中进行各种预测和评估。
第22讲 回归直线方程(解析版)
第22讲 回归直线方程一、必备秘籍 1．两个变量线性相关(1)散点图：将样本中n 个数据点(,)i i x y (i ＝1,2，…，n )描在平面直角坐标系中得到的图形． (2)正相关与负相关①正相关：散点图中的点散布在从左下角到右上角的区域． ②负相关：散点图中的点散布在从左上角到右下角的区域． 2．回归直线的方程(1)回归直线：如果散点图中点的分布从整体上看大致在一条直线附近，就称这两个变量之间具有线性相关关系，这条直线叫做回归直线．(2)回归方程：回归直线对应的方程叫回归直线的方程，简称回归方程． (3)回归方程的推导过程：①假设已经得到两个具有线性相关关系的变量的一组数据11(,)x y ,22(,)x y ,33(,)x y (,)n n x y ．②设所求回归方程为y bx a =+，其中,a b 是待定参数． ③由最小二乘法得1122211()(),()nnii i ii i nniii i xx y y x ynx yb a y bx xx xnx ====---===---∑∑∑∑其中，b 是回归方程的斜率，a 是截距． 二、例题讲解1．（2021·哈尔滨市呼兰区第一中学校高三模拟预测（文））十三届全国人大三次会议表决通过了《中华人民共和国民法典》这部法律自2021年1月1日起施行，某市相关部门进行法律宣传，某宣传小分队记录了前5周每周普及宣传的人数与时间的数据，得到下表：（2）利用（1）的回归方程，预测该宣传小分队第7周普及宣传（民法典）的人数．参考公式及数据：回归方程ˆˆˆybx a =+中斜率和截距的最小二乘估计公式分别为()()()121ˆniii nii x x y y b x x ==--=-∑∑，ˆa y bx=-，()()51430i ii x x y y =--=∑.【答案】（1）4341y x =+；（2）预测该宣传小分队第7周普及宣传《民法典》的人数为342． 【分析】（1）求出x 、y 的值，将表格中的数据代入最小二乘法公式，求出b 、a 的值，可得出y 关于x 的线性回归方程；（2）将7x =代入回归直线方程，可得出结果. 【详解】（1）由题意得()11234535x =++++=，()1901201702102601705y =++++=， ()()()()()()52222221132333435310ii x x =-=-+-+-+-+-=∑，所以()()()51521430ˆ4310iii ii x x y y bx x ==--===-∑∑，所以ˆ17043341a y bx=-=-⨯=， 所以线性回归方程为4341y x =+；（2）由（1）知4341y x =+，令7x =，解得43741342y =⨯+=， 故预测该宣传小分队第7周普及宣传《民法典》的人数为342．2．（2021·合肥市第六中学高三模拟预测（文））树木根部半径与树木的高度呈正相关，即树木根部越粗，树木的高度也就越高.某块山地上种植了A 树木，某农科所为了研究A 树木的根部半径与树木的高度之间的关系，从这些地块中用简单随机抽样的方法抽取6棵A 树木，调查得到A 树木根部半径x (单位：米)与A 树木高度y (单位：米)的相关数据如表所示：（2）对（1）中得到的回归方程进行残差分析，若某A 树木的残差为零则认为该树木“长势标准”，在此片树木中随机抽取1棵A 树木，估计这棵树木“长势标准”的概率.参考公式：回归直线方程为y bx a =+，其中()()()1122211n ni iiii i b nnixii i x y nxy x x y y xnx x ==-==---==--∑∑∑∑，a y bx =-.【答案】（1）ˆ 20.9y x =+；（2）12【分析】（1）由最小二乘法先求样本点中心(),x y ，再代入公式求ˆ2b=，即可得到答案；（2）先计算6棵A 树木中残差为零的有3棵，占比为3162=，即可得到答案； 【详解】（1）由1(0.10.20.30.40.50.6)0.356x =⨯+++++=，1(1.1 1.3 1.6 1.5 2.0 2.1) 1.66y =⨯+++++=，610.1 1.10.2 1.30.3 1.60.4 1.50.5 2.00.6 2.1 3.71i ii x y==⨯+⨯+⨯+⨯+⨯+⨯=∑，6222222210.10.20.30.40.50.60.91ii x==+++++=∑，有62261216 3.7160.35 1.6ˆ20.9160.356i ii ii x yxybxx ==--⨯⨯===-⨯-∑∑，ˆˆ 1.6020.350.9ay bx =-=-⨯=， 故y 关于x 的回归方程为：ˆ 20.9yx =+. （2）当0.1x =时，ˆ20.10.9 1.1y=⨯+=，残差为1.1 1.10-=， 当0.2x =时，ˆ20.20.9 1.3y=⨯+=，残差为1.3 1.30-=， 当0.3x =时，ˆ20.30.9 1.5y=⨯+=，残差为1.6 1.50.1-=， 当0.4x =时，ˆ20.40.9 1.7y=⨯+=，残差为1.5 1.70.2-=-， 当0.5x =时，ˆ20.50.9 1.9y=⨯+=，残差为2.0 1.90.1-=， 当0.6x =时，ˆ20.60.9 2.1y=⨯+=，残差为2.1 2.10-=， 由这6棵A 树木中残差为零的有3棵，占比为3162=，∴这棵树木“长势标准”的概率为12.1．（2021·湖南师大附中高三月考）今年五月，某医院健康管理中心为了调查成年人体内某种自身免疫力指标，从在本院体检的人群中随机抽取了100人，按其免疫力指标分成如下五组：(10,20],(20,30],(30,40],(40,50],(50,60]，其频率分布直方图如图1所示．今年六月，某医药研究所研发了一种疫苗，对提高该免疫力有显著效果．经临床检测，将自身免疫力指标比较低的成年人分为五组，各组分别按不同剂量注射疫苗后，其免疫力指标y 与疫苗注射量x 个单位具有相关关系，样本数据的散点图如图2所示．（1）健管中心从自身免疫力指标在(40,60]内的样本中随机抽取3人调查其饮食习惯，记X 表示这3人中免疫力指标在(40,50]内的人数，求X 的分布列和数学期望；（2）由于大剂量注射疫苗会对身体产生一定的副作用，医学部门设定：自身免疫力指标较低的成年人注射疫苗后，其免疫力指标不应超过普通成年人群自身免疫力指标平均值的3倍．以健管中心抽取的100人作为普通人群的样本，据此估计疫苗注射量不应超过多少个单位．附：对于一组样本数据()()()1122,,,,,,n n x y x y x y ⋅⋅⋅，其回归直线ˆybx a =+的斜率和截距的最小二乘估计值分别为()()()1122211,nniii ii i nniii i x x yy x ynxyb a y bx x xxnx ====---===---∑∑∑∑． 【答案】（1）分布列见解析，125；（2）疫苗注射量不应超过80个单位． 【分析】（1）根据频率分布直方图分别求出自身免疫力指标在(40,50]内和在(50,60]内的人数，写出X 的可能取值，求出对应概率，即可写出分布列，再根据期望公式即可求得数学期望；（2）根据最小二乘法求得回归方程，然后求出免疫力指标的平均值，根据题意列出不等式，从而可得答案. 【详解】解：（1）由直方图知，自身免疫力指标在(40,50]内的人数为0.008101008⨯⨯=，在(50,60]内的人数为0.002101002⨯⨯=，则X 的可能取值为1，2，3．其中122130828282233101010177(1),(2),(3)151515C C C C C C P X P X P X C C C =========．所以X 的分布列为()7121231515155E X =⨯+⨯+⨯=． （2）由散点图知，5组样本数据(,)x y 分别为(10,30),(30,50),(50,60),(70,70),(90,90)，且x 与y 具有线性相关关系． 因为50,60x y ==，则22222210303050506070709090550607103050709055010b ⨯+⨯+⨯+⨯+⨯-⨯⨯==++++-⨯，760502510a =-⨯=，所以回归直线方程为ˆ0.725yx =+． 由直方图知，免疫力指标的平均值为26402482152535455527100100100100100⨯+⨯+⨯+⨯+⨯=． 由27381ˆy≤⨯=，得0.72581x +≤，解得80x ≤． 据此估计，疫苗注射量不应超过80个单位．2．（2021·安徽师范大学附属中学（理））根据国际疫情形势以及传染病防控的经验，加快新冠病毒疫苗接种是当前有力的防控手段，我国正在安全、有序加快推进疫苗接种工作，某乡村采取通知公告、微信推送、广播播放、条幅宣传等形式，积极开展疫苗接种社会宣传工作，消除群众疑虑，提高新冠疫苗接种率，让群众充分地认识到了疫苗接种的重要作用，自宣传开始后村干部统计了本村200名居民（未接种）的一个样本，5天内每天新接种疫苗的情况，如下统计表：（2）假设全村共计2000名居民（均未接种过疫苗），用样本估计总体来预测该村80%居民接种新冠疫苗需要几天？参考公式：回归方程y bx a =+中斜率和截距的最小二乘估计公式分别为：1221ˆi ii nii x ynxybxnx π==-=-∑∑，ˆˆay bx =-． 【答案】（1）222955y x =+；（2）7． 【分析】（1）根据公式求线性回归方程即可； （2）根据线性回归方程可设222955n a n ，求出67,S S ，与200080%1600⨯=比较即可求解. 【详解】 （1）1234535x ++++==，1015192328195y ++++==，则51522222222110305792140531922ˆ12345535i ii ii x y nxybxnx ==-++++-⨯⨯===++++-⨯-∑∑，222919355ˆa =-⨯=， 故y 关于x 的线性回归方程222955y x =+． （2）设222955na n ，数列{}n a 的前n 项和为n S ，易知数列{}n a 是等差数列， 则()12222922291155558225n n n a a S n n n n⎛⎫+++ ⎪+⎝⎭=⋅=⋅=+， 因为6127.2S ，7163.8S ， 所以6101272S =，7101638S =200080%1600⨯=（人），所以预测该村80%居民接种新冠疫苗需要7天．3．（2021·九龙坡·重庆市育才中学高三月考）随着城市规模的扩大和人们生活水平的日益提高，某市近年机动车保有量逐年递增.根据机动车管理部门的统计数据，以5年为一个研究周期，得到机动车每5年纯增数据情况为：其中，时间变量i 对应的机动车纯增数据为i ，且通过数据分析得到时间变量与对应的机动车纯增数量y （单位：万辆）具有线性相关关系.（1）求机动车纯增数量y （单位：万辆）关于时间变量x 的回归方程，并预测2025~2030年间该市机动车纯增数量的值；附：回归直线方程y bx a =+中斜率和截距的最小二乘估计公式分别为：()()()1122211n ni iiii i nniii i x y nx y x x y y b xnxx x ====-⋅--==--∑∑∑∑；a y bx =-.（2）该市交通管理部门为了了解市民对“单双号限行”的赞同情况，随机采访了200名市民，将他们的意见和是否拥有私家车情况进行了统计，得到如下的22⨯列联表：附：()()()()()22n ad bc K a b c d a c b d -=++++，n a b c d =+++.【答案】（1） 5.7 5.1y x =-，2025~2030年间，机动车纯增数量的值约为34.8万辆；（2）没有95%的把握认为“对限行的意见与是否拥有私家车有关”. 【分析】（1）根据最小二乘法求得线性回归方程，再求估计值即可； （2）根据列联表求得卡方观测值，再对照表即可得解. 【详解】 （1）由 51132639415527237i ii x y=⨯+⨯+⨯+=⨯+⨯=∑.()12222222212375312575.755451234553ni ii ni i x y nx yb x nx==-⋅-⨯⨯====-++++-⨯-∑∑. 因为y bx a =+过点(),x y ，所以 5.7y x a =+，5.1a =-，所以 5.7 5.1y x =-.2025~2030年时，7x =，所以 5.77 5.134.8y =⨯-=， 所以2025~2030年间，机动车纯增数量的值约为34.8万辆.（2）根据列联表，由()()()()()22n ad bc K a b c d a c b d -=++++得观测值为()2220025 3.12510085251575100160084K ⨯⨯-⨯⨯=⨯⨯==，3.125 3.841<，所以没有95%的把握认为“对限行的意见与是否拥有私家车有关”.4．（2021·贵州贵阳·高三月考（理））据贵州省气候中心报，2021年6月上旬，我省降水量在15.2-170.3mm 之间，毕节市局地、遵义市北部、铜仁市局地和黔东南州东南部不足50mm ，其余均在50mmm 以上，局地超过100mm.若我省某地区2021年端午节前后3天，每一天下雨的概率均为50%.通过模拟实验的方法来估计该地区这3天中恰好有2天下雨的概率，利用计算机或计算器可以产生0到9之间取整数值的随机数x （x ∈N ，且09x ≤≤）表示是否下雨：当[]()0,x k k Z ∈∈时表示该地区下雨，当[]1,9x k ∈+时，表示该地区不下雨.因为是3天，所以每三个随机数作为一组，从随机数表中随机取得20组数如下: 332 714 740 945 593 468 491 272 073 445 992 772 951 431 169 332 435 027 898 719（1）求出k 的值，使得该地区每一天下雨的概率均为50%；并根据上述20组随机数估计该地区这3天中恰好有2天下雨的概率；（2）2016年到2020年该地区端午节当天降雨量（单位:mm ）如表：回归直线方程y bt a =+.并预测该地区2022年端午节有降雨的话，降雨量约为多少？参考公式：()()()1122211nniii ii i nniii i tty y t y nt yb tttnt====---==--∑∑∑∑，a y bt =-.【答案】（1）4， 25；（2）814955y t =-+，935mm ．【分析】（1）由于该地区每一天下雨的概率均为50%，所以150%10k +=，从而可求出k 的值，在所给的20组数据中找出有两天小于等于k 的数，从而利用古典概型的概率公式可求出概率，（2）直接利用所给的数据和公式求出回归直线方程。
(完整版)回归直线方程的三种推导方法
回归直线方程的三种推导方法 巴州二中母润萍回归直线方程是新课改新增内容之一，在必修数学3中对两个具有线性相关关系的变量利用回归分析的方法进行了研究，书中直接给出了回归直线方程系数的公式，在选修2-3中给出了回归直线方程的截距和斜率的最小二乘法估计公式的另一种形式的推导方法，根据所学知识，我总结了3种推导回归直线方程的方法：设x 与y 是具有线性相关关系的两个变量，且相应于样本的一组观测值的n 个点的坐标分别是：112233()()()()n n x y x y x y x y ，，，，，，，，，设所求的回归方程为i i y bx a =+，(123)i n =，，，，．显然，上面的各个偏差的符号有正、有负，如果将他们相加会相互抵消一部分，因此他们的和不能代表n 个点与回归直线的整体上的接近程度，因而采用n 个偏差的平方和Q 来表示n 个点与相应直线（回归直线）在整体上的接近程度，即Q =∑(y i −y i ̂)2ni=1=∑(y i −bx i −a )2ni=1求出当Q 取最小值时的a b ，的值，就求出了回归方程． 下面给出回归方程的推导方法一：一、先证明两个在变形中用到的公式公式（一）22211()nni ii i x x x nx ==-=-∑∑，其中12nx x x x n +++=证明：2222121()()()()ni n i x x x x x x x x =-=-+-++-∑∵22221212()2n n x x x x x x nxnxn+++=+++-+222222222212121()2()nnni i x x x nx nx x x x x nx==+++-+=+++=-∑22211()nni i i i x x x nx==-=-∑∑∴．公式（二）11()()nnii i i i i xx y y x y nx y==--=-∑∑证明：11221()()()()()()()()ni i n n i x x y y x x y y x x y y x x y y =--=--+--++--∑∵11221122()()n n n n x y x y x y x y y x x y y x x y y x nx y=+++-+++++++12121[()()]ni i n n i x y x x x y y y y x nx y==-++++++++∑12121()()n n n i i i x x x y y y x y n y x nx y n n=++++++⎡⎤=-++⎢⎥⎣⎦∑112nni i i i i i x y nxy nxy x y nxy===-+=-∑∑，11()()nni i i i i i x x y y x y nx y==--=-∑∑∴．二、推导：将Q 的表达式的各项先展开，再合并、变形 2222112233()()()()n n Q y bx a y bx a y bx a y bx a =--+--+--++--2222121122()[2()2()]n y y y y bx a y bx a =+++-+++展开222211111222n n nnni i i i ii i i i i i y b x y a y bxab x na ======--+++∑∑∑∑∑合并同类项22221111122nnii n n ni i i i i i i i i y x na na b b x b x y y nn =====⎛⎫ ⎪ ⎪=--+-+ ⎪ ⎪⎝⎭∑∑∑∑∑以a b ，的次数为标准整理22221112()2nn nii i i i i i na na y bx bxb x y y ====--+-+∑∑∑转化为平均数x y，22222111[()]()2nnnii i i i i i n a y bx n y bx bxb x y y ====----+-+∑∑∑配方法2222222111[()]22nnnii i i i i i n a y bx ny nbxy nb x bxb x y y ====---+-+-+∑∑∑展开222222111[()]()2()()nnni i i i i i i n a y bx b x nx b x y nxy y ny ====--+---++∑∑∑整理2222111[()]()2()()()nnnii i i i i i n a y bx bxx b x x y y y y ====--+----+-∑∑∑用公式（一）、（二）变形22212111()()[()]()()()ni i n ni i i nii i i x x y y n a y bx x x b y y x x ====⎡⎤--⎢⎥⎢⎥=--+--+-⎢⎥-⎢⎥⎣⎦∑∑∑∑配方22212212211111()()()()()()()()()nni i i i n n i i i i n ni i i i i x x y y x x y y n a y bx x x b y y x x x x ======⎡⎤⎡⎤----⎢⎥⎢⎥⎣⎦⎡⎤⎢⎥=--+---+-⎣⎦⎢⎥--⎢⎥⎣⎦∑∑∑∑∑∑配方法在上式中，共有四项，后两项与a b ，无关，为常数；前两项是两个非负数的和，因此要使得Q 取得最小值，当且仅当前两项的值都为0．所以b =∑(x i −x̅)(y i −y ̅)n i=1∑(x i−x̅)2n i=1 a ＝y ̅−bx̅ 或1221ni ii n i i x ynxyb x nx==-=-∑∑用公式（一）、（二）变形得上述推导过程是围绕着待定参数a b ，进行的，只含有i i x y ，的部分是常数或系数，用到的方法有： ① 配方法，有两次配方，分别是a 的二次三项式和b 的二次三项式； ② 形时，用到公式（一）、（二）和整体思想； ③ 用平方的非负性求最小值．④ 实际计算时，通常是分步计算：先求出x y，，再分别计算1()()nii i xx y y =--∑，21()nii xx =-∑或1ni ii x ynx y=-∑，221nii xnx=-∑的值，最后就可以计算出a b ，的值．推导方法二：Q =∑(y i −y i ̂)2ni=1=∑(y i −bx i −a )2ni=1=∑[y i −bx i −(y ̅−bx̅)+(y ̅−bx̅)−a ]2ni=1=∑{[y i −bx i −(y ̅−bx̅)]2+2[y i −bx i −(y ̅−bx̅)]∗[(y ̅−bx̅)−a ]+[(y ̅−bx̅)−a ]2}ni=1=∑[y i −bx i −(y ̅−bx̅)]2+2∑[y i −bx i −(y ̅−bx̅)]∗[(y ̅−bx̅)−a ]ni=1+n (y ̅−bx̅−a )2ni=1注意到∑[y i −bx i −(y ̅−bx̅)]∗[(y ̅−bx̅)−a ]=(y ̅−bx̅−a )∑[y i −bx i −(y ̅−bx̅)]ni=1ni=1=(y ̅−bx̅−a )[∑y i −b ∑x i −n (y ̅−bx̅)ni=1n i=1]=(y ̅−bx̅−a )[ny ̅−nbx̅−n (y ̅−bx̅)]=0因此，Q =∑[y i −bx i −(y̅−bx̅)]2+n (y ̅−bx̅−a )2n i=1 =b 2∑(x i −x̅)2ni=1−2b ∑(x i −x̅)(y i −y ̅)+∑(y i −y ̅)2ni=1ni=1+n (y ̅−bx̅−a )2=n (y ̅−bx̅−a )2+∑(x i −x̅)2[b −∑(x i −x̅)(y i −y ̅)n i=1∑(x i −x̅)2n i=1]2ni=1−[∑(x i −x̅)(y i −y ̅)n i=1]2∑(x i −x̅)2n i=1+∑(y i −y ̅)2ni=1在上式中，后面两项和a,b 无关，前两项为非负数，因此，要使Q 达到最小值，当且仅当前两项均为0，即有b =∑(x i −x̅)(y i −y ̅)n i=1∑(x i −x̅)2n i=1a ＝y ̅−bx̅ 总结：这种方法难想到为什么要这样处理，并且计算量很大。
线性回归方程公式推导过程
线性回归方程公式推导过程公式是数学题目的解题关键，那么线性回归方程公式推导过程是什么呢?下面是由小编为大家整理的“线性回归方程公式推导过程”，仅供参考，欢迎大家阅读。
线性回归方程公式推导过程假设线性回归方程为： y=ax+b (1)，a,b为回归系数,要用观测数据(x1,x2,...,xn和y1,y2,...,yn)确定之。
为此构造Q(a,b)=Σ(i=1->n)[yi-(axi+b)]^2 (2)，使Q(a,b)取最小值的a,b为所求。
令：∂Q/∂a= 2Σ(i=1->n)[yi-(axi+b)](-xi)= 0 (3)，∂Q/∂b= 2Σ(i=1->n)[yi-(axi+b)] = 0 (4)，根据(3)、(4)解出a ,b就确定了回归方程(1)：a Σ (Xi)² +b Σ Xi = Σ Xi Yi (5)；a Σ Xi +b n = Σ Yi (6)；由(5)(6)解出a,b便是。
//这一步就省略了。
拓展阅读：线性回归方程的分析方法分析按照自变量和因变量之间的关系类型，可分为线性回归分析和非线性回归分析。
如果在回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。
如果回归分析中包括两个或两个以上的自变量，且因变量和自变量之间是线性关系，则称为多元线性回归分析。
线性回归方程的例题求解用最小二乘法估计参数b,设服从正态分布,分别求对a、b的偏导数并令它们等于零，得方程组解得。
其中，且为观测值的样本方差.线性方程称为关于的线性回归方程,称为回归系数,对应的直线称为回归直线.顺便指出,将来还需用到,其中为观测值的样本方差。
先求x,y的平均值。
利用公式求解：b=把x,y的平均数带入a=y-bx。
求出a=是总的公式y=bx+a线性回归方程y=bx+a过定点。
(x为xi的平均数，y为yi的平均数)。
回归方程的推导过程123
回归方程的推导过程：①假设已经得到两个具有线性相关关系的变量的一组数据(x 1，y 1)，(x 2，y 2)，…，(x n ，y n )．②设所求回归方程为y ^＝b ^x ＋a ^，其中a ^，b ^是待定参数． ③由最小二乘法得⎩⎪⎨⎪⎧b ＝∑i ＝1n(x i－x )(y i－y )∑i ＝1n (x i－x )2＝∑i ＝1nx i y i－nx －y －∑i ＝1nx 2i－n x 2a ＝y －b x其中：b 是回归方程的斜率，a 是截距．用公式求回归方程的一般步骤是： (1)列表x i ，y i ，x i y i . (2)计算x ，y，∑i ＝1nx 2i ，∑i ＝1n x i y i . (3)代入公式计算b ^、a ^的值. (4)写出回归方程．在钢铁碳含量对于电阻的效应的研究中，得到如下表所示的一组数据：(1)画出散点图；(2)求回归方程(参考数据∑i ＝17x 2i ＝2.595，∑i ＝17x i y i ＝85.61)．解：(1)作出散点图如图所示．(2)由散点图可以看出，这些点大致分布在一条直线的附近，可求回归方程．由表中的数据可求得x －＝17∑i ＝17x i ＝3.807≈0.543，y －＝17∑i ＝17y i ＝145.47≈20.771，又∑i ＝17x 2i ＝2.595，∑i ＝17x i y i ＝85.61. 则b ^＝∑i ＝17x i y i －7x －y－∑i ＝17x 2i －7x －2＝85.61－7×0.543×20.7712.595－7×0.5432≈12.54，a ^＝y －－b ^x －＝20.77－12.54×0.543≈13.96. 所以回归方程为y ^＝12.54x ＋13.96.某种产品的广告费支出x 与销售额y (单位：百万元)之间有如下对应数据：(1)画出散点图； (2)求回归方程；(3)试预测广告费支出为10百万元时，销售额多大？ 解：(1)根据表中所列数据可得散点图如下：(2)列出下表，并用科学计算器进行有关计算.因此，x －＝255＝5，y －＝2505＝50，∑i ＝15x 2i ＝145，∑i ＝15y 2i ＝13 500，∑i ＝15x i y i ＝1 380. 于是可得b ^＝∑i ＝15x i y i －5x －y－∑i ＝15x 2i －5x－2＝1 380－5×5×50145－5×52＝6.5； a ^＝y －－b ^x －＝50－6.5×5＝17.5， 因此，所求回归直线方程是y ^＝6.5x ＋17.5.(3)据上面求得的回归直线方程，当广告费支出为10百万元时，y ^＝6.5×10＋17.5＝82.5(百万元)．即这种产品的销售收入大约为82.5百万元．。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
上述推导过程是围绕着待定参数 a，b 进行的，只含有 xi，yi 的部分是常数或系数，用到的方法有：
在上式中，后面两项和 无关，前两项为非负数，因此，要使 Q 达到最小值，当且仅当前两项均为 0， 即有
① 配方法，有两次配方，分别是 a 的二次三项式和 b 的二次三项式；
② 形时，用到公式（一）、（二）和整体思想； ③ 用平方的非负性求最小值．
回归直线方程的三种推导方法
巴州二中母润萍
回归直线方程是新课改新增内容之一，在必修数学 3 中对两个具有线性相关关系的变量利用回归分
析的方法进行了研究，书中直接给出了回归直线方程系数的公式，在选修 2-3 中给出了回归直线方程的
截距和斜率的最小二乘法估计公式的另一种形式的推导方法，根据所学知识，我总结了 3 种推导回归直
公式（一） i1
i 1
，其中
n
n
∵ (xi x)2 (x1 x)2 (x2 x)2 (xn x)2
证明： i1
x12 x22
xn2
2nx
(x1
x2
n
xn
)
2
nx
(x12 x22
xn2 )
2
2nx
2
nx
(x12
x22
xn2 )
n
xi2
2
nx
i 1
n
∴
(xi x)2
n
n
( xi
x)( yi
y)
n
n[a ( y bx)]2
i 1
(xi
x)2
b
i 1
n
(xi x)2
i 1
i 1
( yi
y)2
配方
注意到
n a ( y bx)2
n
( xi
i 1
x)2
b
n
(xi x)( yi
i 1
n
(x1 x)2
i 1
y)
2
n i1
( xi
x)( yi
n
(xi x)2
i 1
2
y)
n
( yi
i 1
y)2
配方法
在上式中，共有四项，后两项与 a，b 无关，为常数；前两项是两个非负数的和，因此要使得 Q 取 得最小值，当且仅当前两项的值都为 0．所以
因此，
n
xi yi nx y
b
i 1 n
xi2
2
nx
或
i 1
用公式（一）、（二）变形得
两边对 求导得
令 若两边对 求导得
得
（1）
令 将（1）式带入上式得
总结：这种方法应该比以上两种方法都简单，学生在学习过导数及其利用导数求极值之后，度这个方法 的推导能够理解。
n
xi2
Hale Waihona Puke 2nx)2b(
n
xi yi nx y) (
n
yi2
2
ny )
i 1
i 1
i 1
整理
n
n
n
n[a ( y bx)]2 b2 (xi x)2 2b (xi x)( yi y) ( yi y)2
i 1
i 1
i 1
用公式（一）、（二）变形
(x1 y1 x2 y2 xn yn ) (x1 y y1 x x2 y y2 x xn y yn x) nx y
n
xi2
2
nx
i 1
i 1
．
n
n
(xi x)( yi y) xi yi nx y
公式（二） i1
i 1
n
∵ (xi x)( yi y) (x1 x)( y1 y) (x2 x)( y2 y) (xn x)( yn y)
证明： i1
n
xi yi [(x1 x2 xn ) y ( y1 y2 yn )x] nx y i 1
i 1
i 1
i 1
i 1
i 1
合并同类项
n
yi
n
xi
n
n
n
na2 2na i1
n
b i1 n
b2
i 1
xi2
2b
i 1
xi yi
i 1
yi2
以 a，b 的次数为标准整理
n
n
n
na2 2na( y bx) b2 xi2 2b xi yi yi2
i 1
i 1
i 1
n
n
④
实际计算时，通常是分步计算：先求出
x，y
，再分别计算
( xi
i 1
x)( yi
y)
，
( xi
i 1
x)2
或
n
i 1
xi yi
nxy ，
n i 1
xi2
2
nx
的值，最后就可以计算出 a，b
的值．
推导方法二：
总结：这种方法难想到为什么要这样处理，并且计算量很大。还有不足之处是它与必修三给出的公式形 式上还是有所区别，还要对形式进行转化。 推导方法三：
Q ( y1 bx1 a)2 ( y2 bx2 a)2 ( y3 bx3 a)2 ( yn bxn a)2
( y12 y22 yn2 ) [2 y1(bx1 a) 2 y2 (bx2 a)2 ]
展开
n
n
n
n
n
yi2 2b xi yi 2a yi b2 xi2 2ab xi na2
转化为平均数 x，y
n
n
n
n[a ( y bx)]2 n( y bx)2 b2 xi2 2b xi yi yi2
i 1
i 1
i 1
配方法
n[a
(y
bx)]2
2
ny
2nbx y
nb2
2
x
b2
n
xi2 2b
n
xi yi
n
yi2
i 1
i 1
i 1
展开
n[a ( y bx)]2 b2 (
n i 1
xi yi
n
(
x1
x2
n
xn ) y ( y1 y2 n
yn ) x nx y
n
n
n
n
xi yi 2nx y nx y xi yi nx y ∴ (xi x)( yi y) xi yi nx y
i 1
i 1
， i1
i 1
．
二、推导：将 Q 的表达式的各项先展开，再合并、变形
线方程的方法： 设 x 与 y 是具有线性相关关系的两个变量，且相应于样本的一组观测值的 n 个点的坐标分别是：
(x1，y1)，(x2，y2 )，(x3，y3)， ，(xn，yn ) ，设所求的回归方程为 yi bxi a ， (i 1，2，3， ，n) ．显然，上面的 各个偏差的符号有正、有负，如果将他们相加会相互抵消一部分，因此他们的和不能代表 n 个点与回归
直线的整体上的接近程度，因而采用 n 个偏差的平方和 Q 来表示 n 个点与相应直线（回归直线）在整体
上的接近程度，即
求出当 Q 取最小值时的 a，b 的值，就求出了回归方程．
下面给出回归方程的推导方法一： 一、先证明两个在变形中用到的公式
n
(xi x)2
n
xi2
2
nx
x x1 x2 xn