一次回归正交设计计算
第七章 回归正交试验设计
个因素之间的函数关系。
因素水平编码表
自然变量xj 规范变量zj 1 -1 0 △j x1 700 300 500 200 x2 2400 1800 2100 300 x3 10 8 9 1
7.1.2一次回归方程的建立
设总的试验次数为N，其中原正交表所规定的二水平试验次数为 mc，零水平试验次数为m0，即有： N 建立回归方程
m
mc m0
ˆ a b j x j bkj xk x j，k 1,2,, m 1( j k ) y
j 1 k j
其系数的计算公式如下：
将被剔除变量的偏回归平方和、自由度并入到剩余平方和与自由度中，
然后再进行相关的方差分析计算。具体例子见书P126～129例8－1。
7.1 一次回归正交试验设计及结果分析
14
用石墨炉原子吸收分光光度计法测定食品中的铅，为提高吸光度，
对x1（灰化温度/℃）、x2（原子化温度/℃）和x3（灯电流/mA）三个
F0.05（1,6）=5.99 F0.01（1,6）=13.74
可见因素z2对指标影响高度显著，所建的回归方程高度显著：
y 0.50475 0.03375z2
7.1 一次回归正交试验设计及结果分析
N 1 SST Lyy ( yi y ) 2 yi2 ( yi ) 2 N i 1 i 1 i 1 N N
7.1 一次回归正交试验设计及结果分析
10
②一次项zj偏回归平方和
SS j m b ，j＝ 1 ， 2， ，m
回归正交试验设计
－1
－1
1
1
1
1/3
1/3
5
1
0
0
1
0
1/3
－2/3
6
－1
0
0
1
0
1/3
－2/3
7
0
1
0
0
1
－2/3
1/3
8
0
－1
0
0
1
－2/3
1/3
9
0
0
0
0
0
－2/3
－2/3
二元二次回归正交组合设计编码表
因素水平编码
01
试验因素的水平被编为－γ，－1，0，1，γ
02
变化间距：Δj＝上水平－零水平＝零水平－下水平
第8章 回归正交试验设计
Orthogonal Regression Design
演讲人姓名
正交设计：优方案只能限制在已定的水平上，而不是一定试验范围内的最优方案 回归正交设计（orthogonal regression design） ： 可以在因素的试验范围内选择适当的试验点 用较少的试验建立回归方程 能解决试验优化问题 不适合非数量性因素
8.1 一次回归正交试验设计及结果分析
建立试验指标（y）与m个试验因素x1，x2，…，xm之间的一次回归方程 例：m＝3时，一次回归方程： y＝a＋b1x1＋b2x2＋b3x3＋b12x1x2＋b13x1x3＋b23x2x3 其中x1，x2，x3表示3个因素；x1x2，x1x3，x2x3表示交互作用 若不考虑交互作用，为三元一次线形回归方程： y＝a＋b1x1＋b2x2＋b3x3
二次项偏回归平方和：
一次项偏回归平方和：
回归正交试验设计
回归正交试验设计一、概述（1）回归分析与正交试验设计的主要优缺点回归分析的主要优点是可以由试验数据求出经验公式，用于描述自变量与因变量之间的函数关系。
它的主要缺点是毫不关心试验数据如何取得，这样，不仅盲目地增加了试验次数，而且试验数据还往往不能提供充分的信息。
因此，有些工作者将经典的回归分析方法描述成：“这是撒大网，捉小鱼，有时还捉不到鱼”。
所以说，回归分析只是被动地处理试验数据，并且回归系数之间存在相关关系，若从回归方程中剔除某个不显著因素时，需重新计算回归系数，耗费大量的时间。
正交试验设计的主要优点是科学地安排试验过程，用最少的试验次数获得最全面的试验信息，并对试验结果进行科学分析（如方差分析），从而得到最佳试验条件，但是它的主要缺点是试验结果无法用一个经验公式来表达，从而不便于考察试验条件改变后，试验指标将作如何变化。
（2）回归正交试验设计回归正交试验设计，实际上就是将线性回归分析与正交试验设计两者有机地结合起来而发展出的一种试验设计方法，它利用正交试验设计法的“正交性”特点，有计划、有目的、科学合理地在正交表上安排试验，并将试验结果用一个明确的函数表达式即回归方程来表示，从而达到既减少试验次数、又能迅速地建立经验公式的目的。
根据回归模型的次数，回归正交试验设计又分为一次回归试验设计和二次回归试验设计。
二、一次回归正交试验设计（一）一次回归正交试验设计的概念一次回归设计研究的是一个因素z （或多个因素z 1，z 2，……）与试验指标y 之间的线性关系。
当只研究一个因素时，其线性回归模型：y ＝β0＋β1z ＋e (1)其回归方程为：z y ∧∧∧+=10ββ (2)式中∧0β、∧1β称为回归系数，e 是随机误差，是一组相互独立、且服从正态分布Ｎ（０，σ２）的随机变量。
可以证明，∧0β、∧1β和∧y 是β０、β１和y 的无偏估计，即Ｅ（∧0β）＝β０，Ｅ（∧1β）＝β1，Ｅ（∧y ）＝y一次回归正交试验设计是通过编码公式x ＝f(z) −− 即变量变换，将式（２）变为：x b b y 10+=∧(3)且使试验方案具有正交性，即使得编码因素Ｘ的各水平之和为零：∑==mi ix1(4)式中m 是因素x 的水平数。
正交回归(正交多项式回归)
正交回归（正交多项式回归）多项式回归虽然是一种有效的统计方法，但这种方法存在着两个缺点：一是计算量较大，特别是当自变量个数较多，或者自变量幂较高时，计算量迅速增加；二是回归系数间存在着相关性，从而剔除一个变量后还必须重新计算求出回归系数。
当自变量x的取值是等间隔时，我们可以利用正交性原理有效地克服上述缺点。
这种多项式回归方法就是本节将要介绍的正交多项式回归。
一、正交多项式回归的数学模型设变量y和x的n组观测数据服从以下k次多项式(2-4-17)令(2-4-18)…分别是x的一次、二次,…k次多项式，a ij是一些适当选择的常数，如何选择将在下面讨论(i=1,2,…，n)。
将(2-4-18)式代入(2-4-17)式，则有(2-4-19)比较(2-4-19)和(2-4-17)式可知，二者系数间存在简单的函数关系，只要求出，就可以求出。
若把…看作新的自变量，则(2-4-19)式就成为一个k元线性模型，其结构矩阵为(2-4-20) 正规方程为(2-4-21)(2-4-22) 其中在上节中我们遇到的困难是解正规方程系数矩阵的工作量太大，如果我们有办法使其对角线上的元素不为零，而其余元素均为零，那么计算就大大简化了，而且同时消去了系数间的相关性。
对于…我们可以通过选择系数a10,a21,a20,…,a k,k-,…,a k0使得i(2-4-23)（2-4-24）则正规方程组为(2-4-29)回归系数为(2-4-30)满足(2-4-23)和(2-4-24)式的多项式组…我们称之为正交多项式。
显然这里关键的问题是如何找出一组正交多项式。
换言之，就是如何选择系数a10,a21,a20,…,a k,k-i,…,a k0使(2-4-23)和(2-4-24)式成立。
在正交多项式回归中自变量的选择是等间隔的，设间隔为h,x0=a, 则(2-4-31)(2-4-32)则(2-4-33)由此可见，是1至n的正整数。
只要我们用代替x作为自变量，问题就变得简单了。
一次回归正交设计、二次回归正交设计、二次回归旋转设计说明
一次回归正交设计、二次回归正交设计、二次回归旋转设计说
明
一次回归正交设计是一种广泛应用于实验设计中的设计方式，该设计最基本的特点是每一个自变量只考虑一次。
这种设计方法可以通过排列组合的方式得到各种不同的设计方案，使得实验者可以通过设计来达到用最少的实验次数获取尽可能多的信息的目的。
一次回归正交设计在实验设计中被广泛使用，尤其在化学制药、工业生产等领域得到了广泛运用。
二次回归正交设计是一种基于一次回归正交设计的设计方式，这种设计方式可以进一步增加实验信息的获取。
在二次回归正交设计中，依然按照一次正交设计的方式来设计实验，但是在每个单独的自变量上，提高对其的测量次数，使得对这些自变量的测量更加准确。
同时，在某些需要深入探究的因素上，可以通过将这些因素的实验次数进一步提高，来获取相关信息。
二次回归旋转设计是一种在二次回归正交设计的基础上发展而来的设计方式。
在二次回归旋转设计中，实验者可以通过旋转矩阵来达到实验变量间的协方差为0的目的。
这样可以在保证基本信息获取的同时，增加获取高阶信息的可能性。
旋转设计特别适合于需要同时考虑多个变量的实验设计，可以使各个变量之间更加独立，减少不必要的干扰。
总的来说，在实验设计领域中，三种设计方法各自有着各自的优势。
对于需要更精准的信息获取的实验，应该选择更高阶的设计方法，在更基础的实验中则可以选择更为简单的设计方法。
另外，在选择设计方法的过程中，还应该根据实验具体情况灵活选择，使得实验设计更加科学合理。
第八章-回归的正交设计教程文件
§2 一次回归正交设计及统计分析
（3）选择适合的2水平正交表进行设计。
在应用2水平正交表进行回归设计时，需以“－1”代换 表中的“2”，以“＋1”代换表中的“1”，并增加“0”水 平。这种变换的目的是为了适应对因素水平进行编码的需要， 代换后正交表中的“＋1”和“－1”不仅表示因素水平的不 同状态，而且表示因素水平数量变化的大小。原正交表经过 上述代换，其交互作用列可以直接从表中相应几列对应元素 相乘而得到。因此原正交表的交互作用列表也就不用了，这 一点较原正交表使用更为方便。
§2 一次回归正交设计及统计分析
（1）确定试验因素的变化范围。
根据试验研究的目的和要求确定试验因素数 ，并在此基 础上拟定出每个因素Zj的变化范围。回归正交试验设计的因 素一般都大于3个，但也不能太多，否则处理过多，方案难 以实施。
各试验因素取值最高的那个水平称为上水平，以Z2j表示； 取值最低的那个水平称为下水平，以Z1j 表示；两者之算术平 均数称为零水平，以Z0j表示，
因此，在对供试因素 Zj 各水平进行了以上的编码以后，就 把试验结果 y 对供试因素各水平 Zi1,Zi2 , … , Zim 的回归问题转 化为在编码空间试验结果 y 对编码值 xi1,xi2 , … , xim 的回归问 题。
今后，不论是一次回归设计还是二次回归设计，我们都先 将各因素进行编码，再去求试验指标 y 对 x1,x2 , … , xm 的回归方程，这种方法在试验设计中是经常被采用的。
因素 1 2 3 4 5 6 7 8 9 … N
§2 一次回归正交设计及统计分析
表13-2 3元一次回归正交设计试验方案
x1 (Z1) 1 (17) 1 (17) 1 (17) 1 (17)
x2 ( Z2 ) 1 (22.6) 1 (22.6) -1 (9.4) -1 (9.4)
一次回归正交设计、二次回归正交设计、二次回归旋转设计
一次回归正交设计
某产品的产量与时间、温度、压力和溶液浓度有关。实际生产中，时间控制 在 30~40min，温度控制在 50~600C，压力控制在 2*105~6*105Pa，溶液浓度控制 在 20%~40%，考察 Z1~Z2 的一级交互作用。
因素编码
Zj(xj)
Z1/min
Z2/oC
Z3/*105Pa
Z4/%
下水平 Z（1j -1）
30
50
2
20
上水平 Z2j
40
60
6
40
（+1）
零水平 Z0j（0）
35
55
4
30
变化间距
5
5
2
10
编码公式 X1=（Z1-35） X2=(Z2-55）/5 X3=(Z3-4)/2 X4=(Z4-30)/10
/5
选择 L8（27)正交表
因素 x1,x1,x3,x4 依次安排在第 1、2、4、7 列，交互项安排在第 3 列。
试验号 X0 X1(Z1) X2(Z2) X3(Z3) X4(Z4) X1X2
Yi
1
1
1
1
1
1
1
9.7
2
1
1
1
-1
-1
1
4.6
3
1
1
-1
1
-1
-1
10.0
.
.
4
1
1
-1
-1
1
-1
11.0
5
1
-1
1
1
-1
-1
9.0
6
1
-1
1
-1
1
第七章 回归正交设计
y 26. 9 28. 3 28. 7 28. 9 29. 6 30. 0 30. 4
y2 723. 61 800. 89 823. 69 835. 21 876. 16 900. 00 924. 16
l iy
k
2
(k ) yk
14.8 28 0. 5286 7.823 1
y 202 .8
输出结果:
The SAS System 16:19 Monday, August 12, 2006 5 The ORTHOREG Procedure Dependent Variable: y Source DF Sum of Squares Mean Square F Value Pr > F 0.0083
2 z (1 ) ˆ 0 . 4762 y 4 12 z 140 2 15 . 961 0 . 8357 z 0 . 011905 z .
SAS操作
求指标对因素的多项式回归可以由SAS轻松地完成： 当自变量(因素)等间距取值时, 变换公式 新变量(可看成水平序号)=(原变量－左端点)/步长+1
方差来源 平方和 自由 度
1 1 p 1
平均平 方和
b1 l 1 y b2l 2y b p l py
F
显 著 性
b1l 1 y 一次 1 (x ) b l 2 2y 一次 2 (x ) Sr 回归 p次 p ( x ) b p l py
0. 035 8. 314
1 1 4 1 1
2 6
447 . 03 10 .86 7 . 71 7 . 49
**
(*)
残差 Se 总和 lyy