(完整版)逻辑回归模型分析见解
逻辑回归三线表-概述说明以及解释
逻辑回归三线表-概述说明以及解释1.引言1.1 概述逻辑回归是一种经典的统计学习方法，它用于处理分类问题。
与线性回归模型不同，逻辑回归模型的输出变量是一个概率值，通常取值范围在0和1之间。
逻辑回归常被用于预测二分类问题，即将样本分为两个互斥的类别。
它的基本思想是根据输入特征的线性组合，经过一个特定的函数（称为激活函数）得到输出概率。
逻辑回归的应用领域非常广泛。
例如，在医学领域中，逻辑回归可被用于预测疾病的发生概率。
在金融领域中，逻辑回归可被用于评估贷款申请者的信用风险。
在市场营销中，逻辑回归可被用于预测某个产品销售的成功率。
总之，逻辑回归可在各种领域中用于分类问题的建模与预测。
逻辑回归模型具有一些优点，例如计算简单、速度快、模型解释性强等。
此外，它还可利用正则化方法对模型进行优化，防止过拟合现象的发生。
然而，逻辑回归模型也存在一些缺点，如对特征空间的线性可分性要求较高，对于非线性问题建模效果较差。
并且，它对异常点较为敏感。
本文将详细介绍逻辑回归模型的基本概念、应用领域以及优缺点。
在结论部分，我们将对逻辑回归的发展和应用进行展望，并总结其优势和限制。
通过深入理解逻辑回归模型，我们可以更好地应用它解决实际问题，并挖掘出其潜在的改进空间。
文章结构部分的内容可以如下编写：1.2 文章结构本文将按照以下结构进行介绍和讨论逻辑回归：1. 引言：首先对逻辑回归进行概述，介绍其基本概念和应用领域。
2. 正文：接着分为三个小节详细讨论逻辑回归的相关内容。
首先，我们将介绍逻辑回归的基本概念，包括其模型形式、假设条件等。
其次，我们将探讨逻辑回归在不同领域中的应用，如医学、金融等。
最后，我们将分析逻辑回归的优缺点，包括其灵活性、解释性等方面的优势和限制。
3. 结论：最后，我们进行总结，并对逻辑回归的未来发展进行展望，同时给出我们对逻辑回归的结论。
通过以上结构，本文将全面而系统地介绍逻辑回归的概念、应用和优缺点，旨在帮助读者更深入地理解和应用逻辑回归模型。
逻辑曲线(Logistic回归)
逻辑回归的参数解释
β0
截距，表示当所有解释变量x都为0时， logit P的估计值。
β1, β2, ..., βp
斜率，表示各解释变量对logit P的影 响程度。
逻辑回归的假设条件
线性关系
假设自变量与因变量之间存在线性关系，即因变 量的变化可以被自变量的线性组合所解释。
误差项同分布
假设误差项服从同一分布，通常是正态分布。
评估指标
根据任务类型选择合适的评估指标，如准确率、召回率、F1分数等。
模型比较
将新模型与其他同类模型进行比较，了解其性能优劣。
04 逻辑回归的优缺点
优点
分类性能好
逻辑回归模型在二分类问题上 表现优秀，分类准确率高。
易于理解和实现
逻辑回归模型形式简单，参数 意义明确，方便理解和实现。
无数据分布假设
总结词
在某些情况下，逻辑回归可能不是解决回归问题的最佳选择，此时可以考虑其他替代方 案。
详细描述
当因变量是连续变量，且自变量和因变量之间的关系非线性时，线性回归可能不是最佳 选择。此时可以考虑使用其他回归模型，如多项式回归、岭回归、套索回归等。另外， 当自变量和因变量之间的关系不确定时，可以考虑使用支持向量回归等模型进行预测。
06 总结与展望
总结
应用广泛
逻辑回归模型在许多领域都有广泛的应用，如医学、金融、市场 营销等，用于预测和解释二元分类结果。
理论基础坚实
基于概率和统计理论，逻辑回归模型能够提供可靠的预测和解释， 尤其是在处理小样本数据时。
灵活性和可解释性
模型参数可以解释为对结果概率的影响程度，这使得逻辑回归成为 一种强大且易于理解的工具。
在二分类问题中，逻辑回归通过将线性回归的输出经过逻辑函数转换，将连续的预测值转换为概率形式，从而实 现对因变量的二分类预测。逻辑函数的形式为1 / (1 + e ^ (-z))，其中z为线性回归的输出。
二元逻辑回归结果解读
二元逻辑回归结果解读
在解读二元逻辑回归结果时，我们需要关注以下几个关键点：
1. 模型概述：首先，我们需要了解模型的基本信息，例如自变量和因变量的名称、模型的公式以及用于拟合模型的样本数量。
2. 模型系数：模型系数是二元逻辑回归结果的核心部分。
我们需要注意每个自变量的系数、标准误、z值和P值。
其中，系数表示自变量每变动一个单位，因变量发生变动的概率；标准误表示系数的标准差；z值表示系数的显著性水平，通常用于判断系数的真假；P 值表示当原假设为真时，发生这类统计推断的概率。
3. 模型假设检验：在二元逻辑回归中，我们通常使用似然比卡方检验（LR chi-square）来检验模型的整体拟合效果。
这个检验的原假设是所有自变量的系数都为零，如果拒绝原假设，则说明至少有一个自变量的系数不为零，即模型能够显著地解释因变量的变动。
4. 模型拟合优度：我们可以通过计算AUC（曲线下面积）来评估模型的拟合优度。
AUC越接近1，说明模型的预测准确性越高。
5. 自变量对因变量的影响：通过二元逻辑回归结果，我们可以判断自变量对因变量的影响方向和程度。
如果某个自变量的系数为正，说明该自变量与因变量呈正相关关系，即该自变量增加时，因变量发生的概率也会增加；如果某个自变量的系数为负，说明该自变量与因变量呈负相关关系，即该自变量增加时，因变量发生的概率会降低。
总之，在解读二元逻辑回归结果时，我们需要关注模型的假设检验、拟合优度以及各个自变量对因变量的影响方向和程度。
这些信息
可以帮助我们更好地理解模型的结果并对未来的预测提供参考。
数据分析知识：数据分析中的Logistic回归分析
数据分析知识：数据分析中的Logistic回归分析Logistic回归分析是数据分析中非常重要的一种统计分析方法，它主要用于研究变量之间的关系，并且可以预测某个变量的取值概率。
在实际应用中，Logistic回归分析广泛应用于医学疾病、市场营销、社会科学等领域。
一、Logistic回归分析的原理1、概念Logistic回归分析是一种分类分析方法，可以将一个或多个自变量与一个二分类的因变量进行分析，主要用于分析变量之间的关系，并确定自变量对因变量的影响。
Logistic回归分析使用的是逻辑回归模型，该模型是将自变量与因变量的概率映射到一个范围为0-1之间的变量上，即把一个从负无穷到正无穷的数映射到0-1的范围内。
这样，我们可以用这个数值来表示某个事件发生的概率。
当这个数值大于0.5时，我们就可以判定事件发生的概率比较高，而当这个数值小于0.5时，我们就可以判定事件发生的概率比较小。
2、方法Logistic回归分析的方法有两种：一是全局最优化方法，二是局部最优化方法。
其中全局最优化方法是使用最大似然估计方法，而局部最优化方法则是使用牛顿法或梯度下降算法。
在进行Logistic回归分析之前，我们首先要对数据进行预处理，将数据进行清洗、变量选择和变量转换等操作，以便进行回归分析。
在进行回归分析时，我们需要先建立逻辑回归模型，然后进行参数估计和模型拟合，最后进行模型评估和预测。
在进行参数估计时，我们通常使用最大似然估计方法，即在估计参数时，选择最能解释样本观测数据的参数值。
在进行模型拟合时，我们需要选取一个合适的评价指标，如准确率、召回率、F1得分等。
3、评价指标在Logistic回归分析中，评价指标包括拟合度、准确性、鲁棒性、可解释性等。
其中最常用的指标是拟合度，即模型对已知数据的拟合程度，通常使用准确率、召回率、F1得分等指标进行评价。
此外，还可以使用ROC曲线、AUC值等指标评估模型的性能。
二、Logistic回归分析的应用1、医学疾病预测在医学疾病预测中，Logistic回归分析可以用来预测患某种疾病的概率，如心脏病、肺癌等。
logistic回归模型分析和总结
含有名义数据的logit
含有名义数据的logit
• 例：某地25岁及以上人中各类婚姻状况居民的死
亡情况见表，试建立死亡率关于年龄和婚姻状况
的logit模型。
ln p 1 p
A 1M1
2M 2
3M3
• 其中，A表示年龄(取中值)，M1、M2、M3表示婚 姻状况
• 于是，估计的logit方程为：
多项logit模型
【例】研究三个学校、两个课程计划对学生偏好何 种学习方式的影响。调查数据见表:
• 其中，三个学校对应两个哑变量x1和x2，两个课 程计划为常规(x3=1)和附加(x3=0)，学习方式分 为：自修(y=1)、小组(y=2)、上课(y=3)
• 从题目可以看出，响应变量是学习方式有三类， 属于多项逻辑斯蒂回归问题。于是，建模为：
ln ln
p1 p3 p2 p3
10 11x1 12 x2 13 x3 20 21x1 22 x2 23x3
多项logit模型
多项logit模型
• 应用统计软件可以得到模型的参数估计和回归方程：
ln
p1 p3
0.5931.134 x1 0.618 x3
ln
p2 p3
0.603 0.635 x3
ln p A E
1 p
• 其中A为年龄，E为文化程度
含有有序数据的logit
含有有序数据的logit
• 于是，估计的logit方程为：
ln p 11.637 0.124A 0.164E 1 p
• 其中，年龄的系数0.124，说明年龄越大死亡率会 越高；
• 文化程度的系数-0.164，说明文化程度与死亡率 呈负相关，文化程度越高，死亡率越低。
逻辑回归模型
逻辑回归模型逻辑回归模型是一种分类学习算法，其主要用于分类判断，是机器学习算法中一种常用的模型。
它的工作原理是，将一系列的解释变量联系起来，并用概率来预测结果变量的取值，以实现对结果变量值的预测。
本文旨在阐述逻辑回归模型的原理、特点和应用，以解决分类问题。
一、逻辑回归模型简介逻辑回归模型是统计学中常用的分类技术，它可以计算出预测变量和因变量之间关系的强度，从而判断出应当采取何种行动。
它属于机器学习的监督学习模式，采用概率的方法预测输出，能准确预测出一个特征的概率为一个另一个特征的取值所对应的概率。
二、基本原理逻辑回归模型的基本原理是：通过解释变量和因变量之间的关系，来预测因变量的取值。
它的核心思想是：若解释变量的值发生改变，则因变量的值也会根据解释变量的变化而发生改变。
其模型公式可以表示为：Y = +1X1 +2X2+...+nXn其中，Y是因变量；α、β1,β2...βn分别为回归系数；X1,X2...Xn为解释变量。
三、特点1、准确率高：逻辑回归的预测准确率高，这就使得它可以用于细致的分类任务，如预测疾病发生的概率等。
2、简单方便：逻辑回归模型的构建简单，只需要简单的数学操作就可以得出结果，无需构建复杂的模型，省下了大量的计算时间。
3、无需输入特征缩放：逻辑回归模型基于logistic函数来处理输入，因此，它不会因受影响而受输入特征缩放的影响。
四、应用1、预测病患：逻辑回归模型可以用于政府或医疗机构的疾病预测，根据患者的性别、年龄、职业等信息，预测患者患某种疾病的几率，以便从更早的阶段采取控制措施。
2、市场营销：逻辑回归模型可以用于市场营销，利用用户的年龄、性别、购物频率等信息，可以预测出此次营销活动中每个客户是否会参与，从而更有效地实施营销活动。
3、金融风险控制：逻辑回归模型可以用于金融风险控制，可以预测客户的信用风险，以及未来贷款还款是否守约，以减少风险损失。
总之，逻辑回归模型是一种有效的分类技术，它可以以概率的方式预测出输出结果，具有准确率高、简单方便特性，并且无需特征缩放，在众多行业中有着广泛的应用，如预测疾病发生、市场营销和金融行业等，是一种有效的分类解决方案。
logistic回归模型的分类及主要问题
Logistic回归模型的分类及主要问题一、引言逻辑回归是一种广泛应用于分类问题的统计方法，用于预测某个实例属于特定类别的概率。
尽管其简单易懂并具有很好的可解释性，但在应用过程中仍然会遇到一些问题。
本文将详细讨论逻辑回归模型的分类及其主要问题。
二、逻辑回归模型的分类1. 二元逻辑回归：这是最简单也是最常见的逻辑回归形式，用于解决二分类问题（例如，电子邮件是否为垃圾邮件）。
在这种模型中，我们尝试找到一条线或一个超平面，以最大化正类和负类之间的分离度。
2. 多项式逻辑回归：当与线性回归模型相比，数据的特性更复杂时，可以使用多项式逻辑回归。
在这种情况下，我们使用非线性函数来映射自变量和因变量之间的关系。
3. 次序逻辑回归：当输出变量是有序的（例如，评级为1到5）时，可以使用次序逻辑回归。
这种模型可以估计有序概率比（OR），即成功的概率与失败的概率之比。
三、逻辑回归模型的主要问题1. 多重共线性：逻辑回归模型假设自变量之间不存在线性关系。
然而，在现实世界的数据集中，这种假设往往不成立，导致多重共线性问题。
多重共线性会导致模型系数的不稳定，影响模型的解释性和预测准确性。
2. 类别不平衡：在处理类别不平衡的数据时，逻辑回归模型可能会遇到问题。
例如，在垃圾邮件检测中，垃圾邮件的数量通常远少于非垃圾邮件。
这种情况下，模型可能会过于倾向于预测为非垃圾邮件，导致预测性能下降。
3. 忽略交互效应：逻辑回归模型默认自变量之间没有交互效应。
然而，在现实中，自变量之间可能存在复杂的交互关系。
忽略这些交互效应可能会导致模型的预测性能下降。
4. 精度-复杂性权衡：逻辑回归模型的一个关键问题是找到精度和复杂性之间的最佳平衡。
一方面，我们希望模型尽可能精确；另一方面，我们也希望模型尽可能简单，以便解释和应用。
然而，过度复杂的模型可能会导致过拟合，而过于简单的模型则可能无法捕捉到数据的真实结构。
四、总结逻辑回归是一种强大的分类工具，但在使用过程中需要注意以上提到的问题。
如何使用逻辑回归模型进行情感分析(五)
情感分析是一种非常有用的技术，它可以帮助企业了解消费者的情感和态度，从而更好地满足客户的需求。
逻辑回归模型是一种常用的机器学习算法，可以用来进行情感分析。
本文将介绍如何使用逻辑回归模型进行情感分析，并进行案例分析和实际应用。
一、逻辑回归模型简介逻辑回归模型是一种用于处理分类问题的统计模型。
它可以用来预测一个二元变量的概率，比如“是”或“否”、“成功”或“失败”。
逻辑回归模型的输出是一个介于0和1之间的概率值，通常被解释为一个事件发生的可能性。
逻辑回归模型的数学表达式为：\[P(y=1|x) = \frac{1}{1+e^{-\beta^Tx}}\]其中，\(P(y=1|x)\)表示在给定输入变量x的条件下，y取值为1的概率；\(\beta\)是模型的参数向量；x是输入变量的特征向量。
二、如何使用逻辑回归模型进行情感分析情感分析是一种对文本进行情感和态度分析的技术。
在情感分析中，逻辑回归模型可以被用来判断文本中的情感是积极的、消极的还是中性的。
首先，需要对文本进行预处理。
这包括去除文本中的标点符号、停用词和数字，对文本进行分词和词干提取等操作。
接下来，需要构建特征向量。
逻辑回归模型的输入是特征向量，因此需要将文本转换成数字特征。
常用的方法包括词袋模型和TF-IDF模型。
词袋模型将文本表示为一个词频向量，TF-IDF模型将文本表示为一个词的重要性向量。
然后，需要训练逻辑回归模型。
训练数据集通常包括标注好情感的文本数据，可以使用一些机器学习库如scikit-learn或TensorFlow来训练逻辑回归模型。
最后，可以使用训练好的逻辑回归模型来预测新的文本情感。
给定一个新的文本，可以将其转换成特征向量，然后使用逻辑回归模型来预测其情感。
三、案例分析假设我们有一个餐厅的评论数据集，其中包含顾客的评论和他们对餐厅的评分。
我们可以使用逻辑回归模型来进行情感分析，预测评论的情感是正面的还是负面的。
首先，我们需要对评论数据进行预处理，包括去除标点符号和停用词，进行分词和词干提取等操作。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1.逻辑回归模型1.1逻辑回归模型考虑具有p个独立变量的向量,设条件概率为根据观测量相对于某事件发生的概率。
逻辑回归模型可表示为（1.1）上式右侧形式的函数称为称为逻辑函数。
下图给出其函数图象形式。
其中。
如果含有名义变量，则将其变为dummy变量。
一个具有k个取值的名义变量，将变为k-1个dummy变量。
这样，有（1.2）定义不发生事件的条件概率为（1.3）那么，事件发生与事件不发生的概率之比为（1.4）这个比值称为事件的发生比(the odds of experiencing an event),简称为odds。
因为0<p<1,故odds>0。
对odds取对数，即得到线性函数，（1.5）1.2极大似然函数假设有n个观测样本，观测值分别为设为给定条件下得到的概率。
在同样条件下得到的条件概率为。
于是，得到一个观测值的概率为（1.6）因为各项观测独立，所以它们的联合分布可以表示为各边际分布的乘积。
（1.7）上式称为n个观测的似然函数。
我们的目标是能够求出使这一似然函数的值最大的参数估计。
于是，最大似然估计的关键就是求出参数，使上式取得最大值。
对上述函数求对数（1.8）上式称为对数似然函数。
为了估计能使取得最大的参数的值。
对此函数求导，得到p+1个似然方程。
（1.9），j=1,2,..,p.上式称为似然方程。
为了解上述非线性方程，应用牛顿－拉斐森(Newton-Raphson)方法进行迭代求解。
1.3牛顿－拉斐森迭代法对求二阶偏导数，即Hessian矩阵为（1.10）如果写成矩阵形式，以Ｈ表示Hessian矩阵，Ｘ表示（1.11）令（1.12）则。
再令(注：前一个矩阵需转置)，即似然方程的矩阵形式。
得牛顿迭代法的形式为（1.13）注意到上式中矩阵Ｈ为对称正定的，求解即为求解线性方程ＨＸ＝Ｕ中的矩阵Ｘ。
对Ｈ进行cholesky分解。
最大似然估计的渐近方差（asymptotic variance）和协方差(covariance)可以由信息矩阵（information matrix）的逆矩阵估计出来。
而信息矩阵实际上是二阶导数的负值，表示为。
估计值的方差和协方差表示为，也就是说，估计值的方差为矩阵Ｉ的逆矩阵的对角线上的值，而估计值和的协方差为除了对角线以外的值。
然而在多数情况，我们将使用估计值的标准方差，表示为，for j=0,1,2,…,p （1.14）２.显著性检验下面讨论在逻辑回归模型中自变量是否与反应变量显著相关的显著性检验。
零假设：＝0（表示自变量对事件发生可能性无影响作用）。
如果零假设被拒绝，说明事件发生可能性依赖于的变化。
2.1 Wald test对回归系数进行显著性检验时，通常使用Wald检验，其公式为（2.1）其中, 为的标准误差。
这个单变量Wald统计量服从自由度等于１的分布。
如果需要检验假设：＝0,计算统计量（2.2）其中，为去掉所在的行和列的估计值，相应地，为去掉所在的行和列的标准误差。
这里，Wald统计量服从自由度等于p的分布。
如果将上式写成矩阵形式，有（2.3）矩阵Ｑ是第一列为零的一常数矩阵。
例如，如果检验，则。
然而当回归系数的绝对值很大时，这一系数的估计标准误就会膨胀，于是会导致Wald 统计值变得很小，以致第二类错误的概率增加。
也就是说，在实际上会导致应该拒绝零假设时却未能拒绝。
所以当发现回归系数的绝对值很大时，就不再用Wald统计值来检验零假设，而应该使用似然比检验来代替。
2.2似然比（Likelihood ratio test）检验在一个模型里面，含有变量与不含变量的对数似然值乘以-2的结果之差，服从分布。
这一检验统计量称为似然比(likelihood ratio)，用式子表示为（2.4）计算似然值采用公式（1.8）。
倘若需要检验假设：＝0,计算统计量（2.5）上式中，表示＝0的观测值的个数，而表示＝１的观测值的个数，那么n就表示所有观测值的个数了。
实际上，上式的右端的右半部分表示只含有的似然值。
统计量G服从自由度为p的分布2.3 Score检验在零假设：＝0下，设参数的估计值为，即对应的＝0。
计算Score统计量的公式为（2.6）上式中，表示在＝0下的对数似然函数（1.9）的一价偏导数值，而表示在＝0下的对数似然函数（1.9）的二价偏导数值。
Score统计量服从自由度等于１的分布。
2.4模型拟合信息模型建立后，考虑和比较模型的拟合程度。
有三个度量值可作为拟合的判断根据。
(1)-2LogLikelihood(2.7)(2) Akaike信息准则（Akaike Information Criterion,简写为AIC）(2.8)其中Ｋ为模型中自变量的数目，Ｓ为反应变量类别总数减１，对于逻辑回归有S=2-1=1。
-2LogL的值域为0至，其值越小说明拟合越好。
当模型中的参数数量越大时，似然值也就越大，-2LogL就变小。
因此，将２(K+S)加到AIC公式中以抵销参数数量产生的影响。
在其它条件不变的情况下，较小的AIC值表示拟合模型较好。
(3)Schwarz准则这一指标根据自变量数目和观测数量对-2LogL值进行另外一种调整。
SC指标的定义为(2.9)其中ln(n)是观测数量的自然对数。
这一指标只能用于比较对同一数据所设的不同模型。
在其它条件相同时，一个模型的AIC或SC值越小说明模型拟合越好。
3.回归系数解释3.1发生比odds=[p/(1-p)]，即事件发生的概率与不发生的概率之比。
而发生比率(odds ration),即(1)连续自变量。
对于自变量，每增加一个单位，odds ration为(3.1)(2)二分类自变量的发生比率。
变量的取值只能为0或1，称为dummy variable。
当取值为1，对于取值为0的发生比率为(3.2)亦即对应系数的幂。
(3)分类自变量的发生比率。
如果一个分类变量包括m个类别，需要建立的dummy variable的个数为m-1,所省略的那个类别称作参照类(reference category)。
设dummy variable为，其系数为，对于参照类，其发生比率为。
3.2 逻辑回归系数的置信区间对于置信度１-，参数的100%（１-）的置信区间为（3.3）上式中，为与正态曲线下的临界Ｚ值（critical value）, 为系数估计的标准误差，和两值便分别是置信区间的下限和上限。
当样本较大时，＝0.05水平的系数的95%置信区间为（3.4）4.变量选择4.1前向选择（forward selection）：在截距模型的基础上，将符合所定显著水平的自变量一次一个地加入模型。
具体选择程序如下（1）常数（即截距）进入模型。
（2）根据公式（2.6）计算待进入模型变量的Score检验值，并得到相应的P值。
（3）找出最小的p值，如果此p值小于显著性水平,则此变量进入模型。
如果此变量是某个名义变量的单面化(dummy)变量，则此名义变量的其它单面化变理同时也进入模型。
不然，表明没有变量可被选入模型。
选择过程终止。
（4）回到(2)继续下一次选择。
4.2 后向选择（backward selection）：在模型包括所有候选变量的基础上，将不符合保留要求显著水平的自变量一次一个地删除。
具体选择程序如下(1) 所有变量进入模型。
(2) 根据公式（2.1）计算所有变量的Wald检验值，并得到相应的p值。
(3) 找出其中最大的p值，如果此P值大于显著性水平，则此变量被剔除。
对于某个名义变量的单面化变量，其最小p值大于显著性水平，则此名义变量的其它单面化变量也被删除。
不然，表明没有变量可被剔除，选择过程终止。
(4) 回到(2)进行下一轮剔除。
4.3逐步回归(stepwise selection)(1)基本思想：逐个引入自变量。
每次引入对Ｙ影响最显著的自变量，并对方程中的老变量逐个进行检验，把变为不显著的变量逐个从方程中剔除掉，最终得到的方程中既不漏掉对Ｙ影响显著的变量，又不包含对Ｙ影响不显著的变量。
(2)筛选的步骤：首先给出引入变量的显著性水平和剔除变量的显著性水平，然后按下图筛选变量。
(3)逐步筛选法的基本步骤逐步筛选变量的过程主要包括两个基本步骤：一是从不在方程中的变量考虑引入新变量的步骤；二是从回归方程中考虑剔除不显著变量的步骤。
假设有p个需要考虑引入回归方程的自变量.①设仅有截距项的最大似然估计值为。
对p个自变量每个分别计算Score检验值，设有最小p值的变量为，且有，对于单面化(dummy)变量，也如此。
若，则此变量进入模型，不然停止。
如果此变量是名义变量单面化(dummy)的变量，则此名义变量的其它单面化变量也进入模型。
其中为引入变量的显著性水平。
②为了确定当变量在模型中时其它p-1个变量也是否重要，将分别与进行拟合。
对p-1个变量分别计算Score检验值，其p值设为。
设有最小p值的变量为，且有.若，则进入下一步，不然停止。
对于单面化变量，其方式如同上步。
③此步开始于模型中已含有变量与。
注意到有可能在变量被引入后，变量不再重要。
本步包括向后删除。
根据(2.1)计算变量与的Wald检验值，和相应的p值。
设为具有最大p值的变量，即=max(),.如果此p值大于，则此变量从模型中被删除，不然停止。
对于名义变量，如果某个单面化变量的最小p值大于，则此名义变量从模型中被删除。
④如此进行下去，每当向前选择一个变量进入后，都进行向后删除的检查。
循环终止的条件是：所有的p个变量都进入模型中或者模型中的变量的p值小于，不包含在模型中的变量的p值大于。
或者某个变量进入模型后，在下一步又被删除，形成循环。