1一元多元回归

)
因此，Y0的1-α预测区间为 a+bx0±Δ(x0)，
( x 0 ) t 1 0 .5 ( n 2 ) SSE n2 (1 1 n (x0 x) l xx
2
).
华中农业大学数学建模基地 网站
2.1 一元线性回归
例1.1《吸附方程》某种物质在不同温度下 可以吸附另一种物质，如果温度x(单位：℃)与 吸附重量Y(单位：mg)的观测值如下表所示： 温度x 1.5 1.8 2.4 3.0 3.5 3.9 4.4 4.8 5.0 重量y 4.8 5.7 7.0 8.3 10.9 12.4 13.1 13.6 15.3 试求线性回归方程并用三种方法作显著性检验， 若x0＝2，求Y0的0.95预测区间。 解：根据上述观测值得到n＝9，
Q

n
ˆ i )2 ( yi y

n
[ y i ( a bx i )]
2
i 1
i 1
华中农业大学数学建模基地 网站
2.1 一元线性回归
的值最小，所求出的a称为经验截距，简称为 截距，b称为经验回归系数，简称为回归系数。 根据最小二乘法的要求由
Q a 0, Q b 0, 得
2 bx
;
y ax ; y
b
1 a be
x
常用处理方法:将非线性回归通过变量替换变 成线性回归
华中农业大学数学建模基地 网站
曲线方程 1/y = a + b/x y = axb y = a + blnx y = aebx y = 1/ ( a + be-x )
偏回归系数
残差
华中农业大学数学建模基地 网站
多元线性回归模型的假设:
Y b 0 b1 X 1 b 2 X 2 b k X k
• 解释变量 Xi 是确定性变量，不是随机变量；解释 变量之间互不相关，即无多重共线性。 • 随机误差项不存在序列相关关系
X Y x1 y1 x2 y2 xn yn
华中农业大学数学建模基地 网站
2.1 一元线性回归
力图建立回归方程的估计式或经验回归方程
ˆ ˆ ˆ y x ,
ˆ ˆ ˆ a , b 及 y i a bx i 使
使用最小二乘法进行参数估计
D ( Z ) (1
2
1 n

(x0 x) l xx
2
),
及
SSE

2
~ ( n 2 ),
2
Z与SSE相互独立，
华中农业大学数学建模基地 网站
2.1 一元线性回归
可以导出
t SSE n2 (1 Z 1 n (x0 x) l xx
2
ˆ 由于 E ( y 0 ) x 0 E (Y 0 ),
Y0的观测值y0的点预测是无偏的。
华中农业大学数学建模基地 网站
2.1 一元线性回归
⑵ 当x＝x0时，用适合不等式P{Y0∈(G,H)} ≥1-α的统计量G和H所确定的随机区间(G,H) 预测Y0的取值范围称为区间预测，而(G,H)称 为Y0的1-α预测区间。 若Y与样本中的各Y相互独立，则根据 Z＝Y0-(a+bx0)服从正态分布，E(Z)＝0，
华中农业大学数学建模基地 网站
2.2 一元非线性回归
画散点图，根据图形趋势选用三个非线性回 归方程：
y a b ; y ax ; y ae
b bx
x
华中农业大学数学建模基地 网站
2.2 一元非线性回归
华中农业大学数学建模基地 网站
• 随机误差项与解释变量之间不相关
• 随机误差项服从0均值、同方差的正态分布
华中农业大学数学建模基地 网站
2.3 多元线性回归
多元模型的解析表达式：
Y b 0 b1 X 1 b 2 X 2 b k X k
n个样本观测值
(Y i , X 1 i , X 2 i , , X k i )
华中农业大学数学建模基地 网站
2.1 一元线性回归
华中农业大学数学建模基地 网站
华中农业大学数学建模基地 网站
华中农业大学数学建模基地 网站
2.2 一元非线性回归
常见的非线性回归方程
y a bx ; y a b ln x ; y ae
2 回归分析 • 一元回归 • 一元非线性回归 • 多元回归 • 逐步回归与标准化回归
华中农业大学数学建模基地 网站
2.1 一元线性回归
1. 一元线性回归参数估计 一元线性回归可用来分析自变量x取值与因 变量Y 取值的内在联系，不过这里的自变量x是 确定性的变量，因变量Y是随机性的变量。 进行n次独立试验，测得数据如下：

2
),
SSE
l xx

2
~ ( n 2 ),
2
当H0为真时，
t b l xx SSE ( n 2 ) ~ T ( n 2 ),
当|t|≥t1-0.5α(n-2)时应该放弃原假设H0。
华中农业大学数学建模基地 网站
2.1 一元线性回归
(3)r 检验法：根据x与Y的观测值的相关系数
2

2
2

2
~ (1);
且SSR与SSE相互独立；因此，当H0为真时，
F SSR SSE ( n 2) ~ F (1, n 2),
当F≥F1-α(1,n-2)时应该放弃原假设H0。
华中农业大学数学建模基地 网站
2.1 一元线性回归
(2)t 检验法：
b ~ N ( ,
华中农业大学数学建模基地 网站
2.3 多元线性回归
多元回归模型：含两个以上解释变量的回归模型
多元线性回归模型：一个因变量与多个解释变量
之间设定的是线性关系
多元线性回归模型一般形式为：
Y b 0 b1 X 1 b 2 X 2 b k X k
截距
i 1, 2 , , n
得 ： Y i b 0 b1 X 1 i b 2 X 2 i b k X k i i
Y 1 b 0 b1 X 1 1 b 2 X 2 1 b k X k 1 1 Y 2 b 0 b1 X 1 2 b 2 X 2 2 b k X k 2 2 Y b b X b X b X 0 1 1n 2 2n k kn n n
r ( n 2 ) F 1 (1, n 2 ) F 1 (1, n 2 ) ( n 2 )
可由r检验用表中查出。
r
2

SSR SST
,
因此，r常常用来表示x与Y的线性关系 在x与Y的全部关系中所占的百分比，又称为 x与Y的观测值的决定系数。
华中农业大学数学建模基地 网站
r l xy l xx l yy ,r
2 2 xy
l
,
l xx l yy
SSR SST .
可以推出 当H0为真时，
F
r
2

r
2
2
(1 r ) ( n 2)
~ F (1, n 2),
华中农业大学数学建模基地 网站
2.1 一元线性回归
当F≥F1-α(1,n-2)或|r|≥rα(n-2)时应该放 弃原假设H0，式中的
华中农业大学数学建模基地 网站
2.1 一元线性回归
/*数据段*/ data ex; /*表示数据集为ex*/ input x y @@; /*@@表示连续输入数据*/ cards; 1.5 4.8 1.8 5.7 2.4 7 3 8.3 3.5 10.9 3.9 12.4 4.4 13.1 4.8 13.6 5 15.3 2 . ; /*程序段*/ proc gplot; plot y*x; symbol i=rl v=dot; proc reg; model y=x/cli; run;
比较哪个方程拟合的效果好，只要求出剩余平方 和： 9
( yi
i 1
yi ) ˆ
2
剩余平方和越小说明方程拟合的越好。
计算剩余平方和，可用以下程序：
华中农业大学数学建模基地 网站
2.2 一元非线性回归
data ex; input x y @@; x1=1/x;lx=log(x);ly=log(y); y1=0.1159+1.9291*x1; q1+(y-y1)**2; y2=exp(0.9638-1.1292*lx); q2+(y-y2)**2; y3=exp(0.9230-0.3221*x); q3+(y-y3)**2; cards; 1 1.85 2 1.37 3 1.02 4 0.75 4 0.56 6 0.41 6 0.31 8 0.23 8 0.17 ; proc print;var q1-q3; run;
华中农业大学数学建模基地 网站
2.1 一元线性回归
gplot表示画散点图 plot y*x 表示y为纵坐标，x为横坐标 i=rl 表示画回归直线，v=dot表示观测值对应的点 标记为小圆点 proc reg表示调用回归模块 model y=x/cli表示y为因变量，x为自变量， 对y关于x做回归， cli表示要求预测值的置信区间
2.2 一元非线性回归
data ex; input x y @@; x1=1/x; lx=log(x);ly=log(y); cards; 1 1.85 2 1.37 3 1.02 4 0.75 4 0.56 6 0.41 6 0.31 8 0.23 8 0.17 ; proc gplot; plot y*x; symbol i=spline v=star; proc reg;model y=x1; proc reg;model ly=lx; proc reg;model ly=x; run;