Logistic回归模型
Logistic 回归模型
• 反对数变换得到 OR e1
11
实例1
研究急性心肌梗塞(AMI)患病与饮酒 的关系， 采用横断面调查。
饮酒 不饮酒 合计
(X=1) (X=0)
患病(y=1) 55 74 129
未患病(y=0) 104663 212555 317218
合计
104718 21262Odds分别为
O R e1e1 .7 9 1 7 5 96
95% CI=(4.3, 8.5)
34
实例3：Logistic模型的交互作用
• 由于本例模型为
L o g i t( P ) 0 1 x 1 2 x 2 3 x 1 x 2
• 3，P＝，差别有统计学意义，可以认为吸烟 和家属史对患肺癌有交互作用。
33
实例3：Logistic模型的交互作用
• 由于本例模型为 L o g i t( P ) 0 1 x 1 2 x 2 3 x 1 x 2
• 对于无家属史，x2=0代入模型，得到
Logit(P)01x1
• 由回归系数与OR的关系，得到吸烟的：
2
数据分析的背景
• 单因素的分类资料统计分析，一般采用 Pearson 2进行统计检验，用Odds Ratio 及其95%可信区间评价关联程度。
• 考虑多因素的影响，对于反应变量为分 类变量时，用线性回归模型P=a+bx就不 合适了，应选用Logistic回归模型进行统 计分析。
3
Logistic回归模型
• 在本例中，对于同为吸烟或不吸烟的对象 而言(x2相对固定不变)，
• 饮酒(x1=1)的对数Odds为
L o g (O d d s x 1 1 )0 1 2 x 2
• 不饮酒(x1=0)的对数Odds为
logistic回归模型
Logistic回归模型
• 列联表中的数据是以概率的形式把属性变量联系 起来的，而概率p的取值在0与1之间，因此，要把
概率 p (x)与 x 之间直接建立起函数关系是不合
适的。即 (x) x
Logistic回归模型
• 因此，人们通常把p的某个函数f(p)假设为变量的 函数形式，取 f ( p) ln (x) ln p
1 (x) 1 p
• 称之为logit函数，也叫逻辑斯蒂变换。 • 因此，逻辑斯蒂变换是取列联表中优势的对数。
当概率在0-1取值时，Logit可以取任意实数，避免 了线性概率模型的结构缺陷。
Logistic回归模型
假设响应变量Y是二分变量，令 p P(Y 1) ,影响Y
的因素有k个 x1, xk，则称：
多项logit模型
• 前面讨论的logit模型为二分数据的情况，有时候 响应变量有可能取三个或更多值，即多类别的属 性变量。
• 根据响应变量类型的不同，分两种情况：
–响应变量为定性名义变量； –响应变量为定性有序变量；
• 当名义响应变量有多个类别时，多项logit模型应 采取把每个类别与一个基线类别配成对，通常取 最后一类为参照，称为基线-类别logit.
• 为二分数据的逻辑斯ln 1蒂pp回归g(模x1,型,，xk简) 称逻辑斯蒂 回归模型。其中的k个因素称为逻辑斯蒂回归模型 的协变量。
• 最重要的逻辑斯蒂回归模型是logistic线性回归模 型，多元logit模型的形式为：
ln
p 1 p
0
1x1
k xk
Logistic回归模型
• 其中，0, 1, , k 是待估参数。根据上式可以得到
多项logit模型
Logistic 回归模型
Log (Oddsx10 ) 0 2 x2
28
多自变量Logistic模型的OR解释
• 则饮酒的对数Odds Ratio为
ln(OR) Log (Oddsx11 ) Log (Oddsx10 ) 1
• 即：饮酒的 OR e • 意义：对于同为吸烟的对象或者同 为不吸烟的对象，其饮酒的 OR e 1 • 故称校正吸烟后OR，而前者未考虑 吸烟的单因素OR称为crude OR
12
实例1
• 饮酒的患病率和Odds分别为
55 P 55 1 P Odds1 1 1 P 104663 104718 1
不饮酒的患病率和Odds分别为
55 211555 OR 1.5094166 74 104663
P2 74 74 Odds2 P2 1 P2 211555 212629
• 应用Stata软件进行最大似然估计，得到 回归系数估计的主要结果如下
y x1 x2 _cons Coef. -0.000021 1.710272 -8.227466 P>|z| 1.000 0.000 0.000 [95% Conf. Interval] -0.3680823 0.3680403 1.341277 2.079267 -8.478243 -7.976688
32
应用Logistic模型分析实例3
• 用Stata软件对实例3的资料拟合上述模型，得 到下列结果：
0
74
0 1
55
104663
212555
• 选择0和1使似然函数L达到最大，即最 大似然估计。
16
实例1:用Logistic模型进行统计分析
• 以上述实例资料用Stata统计软件对回归系数 进行最大似然估计，得到回归系数估计为 y b se(b) z P>|z| x .4117232 .1780719 2.31 0.021 _cons -7.962891 .1162679 -68.49 0.000 • 即：
logistic回归
概念
logistic回归是一种广义线性回归（generalized linear model），因此与多重线性回归分析有很多相同 之处。它们的模型形式基本上相同，都具有 w‘x+b，其中w和b是待求参数，其区别在于他们的因变量不同，多 重线性回归直接将w‘x+b作为因变量，即y =w‘x+b，而logistic回归则通过函数L将w‘x+b对应一个隐状态p， p =L(w‘x+b),然后根据p与1-p的大小决定因变量的值。如果L是logistic函数，就是logistic回归，如果L是 多项式函数就是多项式回归。
感谢观看
logistic回归
一种广义的线性回归分析模型
01 概念
目录
02 主要用途
logistic回归又称logistic回归分析，是一种广义的线性回归分析模型，常用于数据挖掘，疾病自动诊断， 经济预测等领域。例如，探讨引发疾病的危险因素，并根据危险因素预测疾病发生的概率等。以胃癌病情分析为 例，选择两组人群，一组是胃癌组，一组是非胃癌组，两组人群必定具有不同的体征与生活方式等。因此因变量 就为是否胃癌，值为“是”或“否”，自变量就可以包括很多了，如年龄、性别、饮食习惯、幽门螺杆菌感染等。 自变量既可以是连续的，也可以是分类的。然后通过logistic回归分析，可以得到自变量的权重，从而可以大致 了解到底哪些因素是胃癌的危险因素。同时根据该权值可以根据危险因素预测一个人患癌症的可能性。
实际上跟预测有些类似，也是根据logistic模型，判断某人属于某病或属于某种情况的概率有多大，也就是 看一下这个人有多大的可能性是属于某病。
这是logistic回归最常用的三个用途，实际中的logistic回归用途是极为广泛的，logistic回归几乎已经 成了流行病学和医学中最常用的分析方法，因为它与多重线性回归相比有很多的优势，以后会对该方法进行详细 的阐述。实际上有很多其他分类方法，只不过Logistic回归是最成功也是应用最广的。
logistic回归模型和logit模型
logistic回归模型和logit模型引言部分：在机器学习领域中，分类问题一直是研究的热点之一。
Logistic回归模型和Logit模型是二分类问题中，表现优异的分类算法。
基于二项分布的原理，这两个模型能够有效的进行分类，因此受到了广泛的应用和研究。
正文部分：一、Logistic回归模型Logistic回归模型是一种广义线性模型，被广泛应用于分类问题中。
它通过Sigmoid函数将线性回归的结果映射到概率值，在进行分类时，将概率值与设定的阈值进行比较，从而进行分类。
Logistic回归模型的形式如下：$$ P(Y=1|X)=\frac{1}{1+e^{-(w^TX+b)}} $$其中，$w$表示特征的权值，$b$表示偏置的值，$X$表示输入的特征向量，$Y$表示输出的标签。
该模型的训练过程通常采用最大似然估计方法进行优化，从而得到最佳的模型参数。
二、Logit模型Logit模型也是一种二分类模型，它的实现基于对数几率的概念。
在Logit模型中，将正例的对数几率表示为输入向量的线性函数，而负例的对数几率为其相反数。
模型的形式如下：$$ \log(\frac{P(Y=1|X)}{1-P(Y=1|X)})=w^TX+b $$Logit模型使用最大似然估计法进行参数的学习，使得模型尽可能地对训练数据进行拟合。
通过计算输入向量对应的对数几率，可以得到相应的输出标签，从而进行分类。
三、Logistic回归模型与Logit模型的异同1. 形式不同：Logistic回归模型采用的是Sigmoid函数进行分类，而Logit模型则是基于对数几率的理论进行分类。
2. 拟合效果不同：Logistic回归模型在分类效果上表现出更好的鲁棒性，能够在处理多重共线性等情况下表现出较好的效果；而Logit模型的拟合效果较为稳定，能够更好地应对噪声和异常点的干扰。
3. 处理方式不同：Logistic回归模型通常采用迭代法和正则化方法来优化模型参数；而Logit模型常常采用牛顿法等基于优化的方法来更新模型参数。
Logistic回归模型
Logistic 回归模型1 Logistic 回归模型的基本知识 1.1 Logistic 模型简介主要应用在研究某些现象发生的概率p ，比如股票涨还是跌，公司成功或失败的概率，以及讨论概率p 与那些因素有关。
显然作为概率值，一定有10≤≤p ，因此很难用线性模型描述概率p 与自变量的关系，另外如果p 接近两个极端值，此时一般方法难以较好地反映p 的微小变化。
为此在构建p 与自变量关系的模型时，变换一下思路，不直接研究p ，而是研究p 的一个严格单调函数)(p G ，并要求)(p G 在p 接近两端值时对其微小变化很敏感。
于是Logit 变换被提出来：ppp Logit -=1ln)( （1）其中当p 从10→时，)(p Logit 从+∞→∞-，这个变化范围在模型数据处理上带来很大的方便，解决了上述面临的难题。
另外从函数的变形可得如下等价的公式：XT X T T eep X ppp Logit βββ+=⇒=-=11ln)( （2）模型(2)的基本要求是，因变量（y ）是个二元变量，仅取0或1两个值，而因变量取1的概率)|1(X y P =就是模型要研究的对象。
而T k x x x X ),,,,1(21 =，其中i x 表示影响y 的第i 个因素，它可以是定性变量也可以是定量变量，Tk ),,,(10ββββ =。
为此模型(2)可以表述成：kx k x kxk x k k ee p x x p p βββββββββ+++++++=⇒+++=- 11011011011ln （3）显然p y E =)(，故上述模型表明)(1)(ln y E y E -是k x x x ,,,21 的线性函数。
此时我们称满足上面条件的回归方程为Logistic 线性回归。
Logistic 线性回归的主要问题是不能用普通的回归方式来分析模型，一方面离散变量的误差形式服从伯努利分布而非正态分布，即没有正态性假设前提；二是二值变量方差不是常数，有异方差性。
十三、logistic回归模型
非条件logistic回归
模型简介
❖
简单分析实例
内
容
哑变量设置
提
自变量的筛选方法与逐步回归
要
模型拟合效果与拟合优度检验
模型的诊断与修正
条件logistic回归
模型简介
对分类变量的分析，当考察的影响因素较少，且也为分类 变量时，常用列联表（Contingency Table）进行整理，并 用2检验或分层2检验进行分析，但存在以下局限性：
.184
Wal d 6.391
30.370 6.683 4.270
33.224
df 1 1 1 1
1
Sctep lwt
3
ptl
-.015
.007
5.584
1
.728
.327
4.961
1
ht
1.789
.694
6.639
1
Constant
.893
.829
1.158
1
a. Variable(s) entered on step 1: ptl.
模型拟合效果检验
结果分析
Area Under the Curv e
Test Result Variable(s): Predicted probability
Area Std. Errora
.708
.043
Asymptotic Sigb. .000
Asymptotic 95% Confidence Interval
❖ 给出了模型拟合过程中每一步的-2log（L）及 两个伪决定系数。
逐步回归
结果分析
Variables in the Equation
回归分析线性回归Logistic回归对数线性模型
逻辑回归的模型为 (P(Y=1) = frac{1}{1+e^{-z}})，其中 (z = beta_0 + beta_1X_1 + beta_2X_2 + ... + beta_nX_n)。
逻辑斯蒂函数
பைடு நூலகம்
定义
逻辑斯蒂函数是逻辑回归模型中用来描述自变量与因变量之 间关系的函数，其形式为 (f(x) = frac{1}{1+e^{-x}})。
。
在样本量较小的情况下， logistic回归的预测精度可能高 于线性回归。
线性回归的系数解释较为直观 ，而logistic回归的系数解释相 对较为复杂。
对数线性模型与其他模型的比较
对数线性模型假设因变量和自变量之间存在对 数关系，而其他模型的假设条件各不相同。
对数线性模型的解释性较强，可以用于探索自变量之 间的交互作用和效应大小。
THANKS
感谢您的观看
预测市场细分中的消费者行为等。
对数线性模型还可以用于探索性数据分析，以发现数 据中的模式和关联。
Part
04
比较与选择
线性回归与logistic回归的比较
线性回归适用于因变量和自变 量之间存在线性关系的场景， 而logistic回归适用于因变量为
二分类或多分类的场景。
线性回归的假设条件较为严格 ，要求因变量和自变量之间存 在严格的线性关系，而logistic 回归的假设条件相对较为宽松
最小二乘法
最小二乘法是一种数学优化技术，用于最小化预测值与实际观测值之间的平方误差总和。
通过最小二乘法，可以估计回归系数，使得预测值与实际观测值之间的差距最小化。
最小二乘法的数学公式为：最小化 Σ(Yi - (β0 + β1X1i + β2X2i + ...))^2，其中Yi是实际观 测值，X1i, X2i, ...是自变量的观测值。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Logistic 回归模型1 Logistic 回归模型的基本知识 1.1 Logistic 模型简介主要应用在研究某些现象发生的概率p ，比如股票涨还是跌，公司成功或失败的概率，以及讨论概率p 与那些因素有关。
显然作为概率值，一定有10≤≤p ，因此很难用线性模型描述概率p 与自变量的关系，另外如果p 接近两个极端值，此时一般方法难以较好地反映p 的微小变化。
为此在构建p 与自变量关系的模型时，变换一下思路，不直接研究p ，而是研究p 的一个严格单调函数)(p G ，并要求)(p G 在p 接近两端值时对其微小变化很敏感。
于是Logit 变换被提出来：ppp Logit -=1ln)( （1）其中当p 从10→时，)(p Logit 从+∞→∞-，这个变化范围在模型数据处理上带来很大的方便，解决了上述面临的难题。
另外从函数的变形可得如下等价的公式：XT XT T ee p Xppp Logit βββ+=⇒=-=11ln )( （2）模型(2)的基本要求是，因变量（y ）是个二元变量，仅取0或1两个值，而因变量取1的概率)|1(X y P =就是模型要研究的对象。
而Tk x x x X ),,,,1(21 =，其中i x 表示影响y 的第i 个因素，它可以是定性变量也可以是定量变量，Tk ),,,(10ββββ =。
为此模型(2)可以表述成：kx k x k x k x kk eep x x pp βββββββββ+++++++=⇒+++=- 11011011011ln （3）显然p y E =)(，故上述模型表明)(1)(lny E y E -是k x x x ,,,21 的线性函数。
此时我们称满足上面条件的回归方程为Logistic 线性回归。
Logistic 线性回归的主要问题是不能用普通的回归方式来分析模型，一方面离散变量的误差形式服从伯努利分布而非正态分布，即没有正态性假设前提；二是二值变量方差不是常数，有异方差性。
不同于多元线性回归的最小二乘估计法则(残差平方和最小)，Logistic 变换的非线性特征采用极大似然估计的方法寻求最佳的回归系数。
因此评价模型的拟合度的标准变为似然值而非离差平方和。
定义1 称事件发生与不发生的概率比为 优势比(比数比 odds ratio 简称OR)，形式上表示为OR=kx k x e pp βββ+++=- 1101 （4） 定义2 Logistic 回归模型是通过极大似然估计法得到的，故模型好坏的评价准则有似然值来表征，称-2ˆln ()L β为估计值βˆ的拟合似然度，该值越小越好，如果模型完全拟合，则似然值ˆ()L β为1，而拟合似然度达到最小，值为0。
其中ˆ()lnL β表示βˆ的对数似然函数值。
定义3 记)ˆ(βVar 为估计值βˆ的方差-协方差矩阵，21)]ˆ([)ˆ(ββVar S =为βˆ的标准差矩阵，则称 k i S w iii i ,,2,1,]ˆ[2 ==β （5）为iβˆ的Wald 统计量，在大样本时，i w 近似服从)1(2χ分布，通过它实现对系数的显著性检验。
定义4 假定方程中只有常数项0β，即各变量的系数均为0，此时称20ˆˆ2[ln ()ln ()]L L χββ=-- （6） 为方程的显著性似然统计量，在大样本时，2χ近似服从)(2k χ分布。
1.2 Logistic 模型的分类及主要问题根据研究设计的不同，Logistic 回归通常分为成组资料的非条件Logistic 回归和配对资料的条件Logistic 回归两种大类。
还兼具两分类和多分类之分，分组与未分组之分，有序与无序变量之分。
具体如下： 两分类非条件Logistic 回归：分组数据的Logistic 回归，未分组数据的Logistic 回归； 多分类非条件Logistic 回归：无序变量Logistic 回归，无序变量Logistic 回归； 条件Logistic 回归：1:1型、1:M 型和M:N 型Logistic 回归。
关于Logistic 回归，主要研究的内容包括：1． 模型参数的估计及检验 2． 变量模型化及自变量的选择 3． 模型评价和预测问题 4． 模型应用2 Logistic 模型的参数估计及算法实现2.1 两分类分组数据非条件Logistic 回归因变量(反应变量)分为两类，取值有两种，设事件发生记为y=1，不发生记为 y=0，设自变量T k x x x X ),,,(21 =是分组数据，取有限的几个值；研究事件发生的概率)|1(X y P =与自变量X 的关系，其Logistic 回归方程为：k k x x X y P X y P βββ+++=== 110)|0()|1(ln 或 kx k x kxk x ee X y P ββββββ+++++++== 1101101)|1( 例2.1.1 分组数据[1]在一次住房展销会上，与房地产商签订初步购房意向书的有n=325人，在随后的3个月时间内，只有一部分顾客购买了房屋。
购买房屋的顾客记为1，否则记为0。
以顾客的年家庭收入(万元)作为自变量X ,对数据统计后如表2.1.1所示，建立Logistic 回归模型。
表2.1.1 购房分组数据例2.1.2 药物疗效数据[2]为考察某药物疗效，随机抽取220例病人并分配到治疗组和对照组，治疗组采用治疗药物，对照组采用安慰剂。
治疗一段时间后观察病人的疗效，得到表2.1.2数据。
设y 为疗效指标(y=1 有效，y=0无效)，1x 为治疗组指标(1为治疗组，0为对照组)，2x 为年龄组指标(1为>45岁，0为其他)。
上述两个例子数据都是经过统计加工后的分组数据，对此类数据进行Logistic 回归，首先要明确应变量对应事件的发生概率如何确定和进行Logit 变换，其次才能建立Logistic 回归。
为便于数据处理，我们将此类数据的格式作个约定，排列格式为（组序号，自变量X ，该组事件发生数，该组总例数）。
表2.1.3 分组数据的标准格式表2.1.1 改造表表2.1.2 改造表经过改造后，可得我们关心的事件的发生的频率为 n i n m p i ,,2,1,ii==该组总例数该组发生事件数。
其中n为分组数，然后作Logit 变换，即iii i p p p Logit p -==1ln )(~。
变换后的数据，形式上已经可以采用一般的线性回归的处理方式来估计回归参数了。
此时方程变为：∑==+=kj ij j i n i x p 10,,2,1,~ββ 当然这样处理并没有解决异方差性，当i n 较大时，i p ~的近似方差为： )(,)1(1)~(i i i i i i y E n p D =-≈πππ （7）所以选择权重 n i p p n i i i i ,,2,1),1( =-=ω，最后采用加权最小二乘法估计参数。
注意，分组数据的Logistic 回归只适用于大样本分组数据，对小样本的为分组数据不适用，并且以组数n 为回归拟合的样本量，明显降低了拟合精度，在实际应用中必须谨慎。
求解算法及步骤：1．依据分组数据的标准格式，计算频率i p 、Logit 变换i p ~和权重i ω 2．构建加权最小二乘估计：∑∑∑∑====--=--n i kj ij j i i i i n i k j ij j i i x y x y 11201120)(min )(min βωβωωββω （8）令 i i i y y ω=*，T ik i i i i i x x X ),,,(1*ωωω =，T k ),,,(10ββββ =则方程又变成一般的线性回归模型：∑=-ni i T i X y12**)(minβ （9）3．构造增广矩阵21****][+⨯+k k T TY X X X利用消去法得]ˆ)ˆ([ββVar I =矩阵，得到估计βˆ其中2,1++K K I 为残差平方和SE , 回归方差1ˆ2--=k n SEσ各系数检验采用 )1(~ˆˆ--=k n t I t ii i i σβ总平方和∑∑∑===-=ni ni ini ii ii y yST 112122)()(ωωω，回归平方和SE ST SR -=总平方和求解相当于拟合i i y ωβ*0*=方程的残差平方和，故得上式ST所以方程的检验为)1,(~)1/(/----=k n k F k n SE kSR F例2.1.1的求解过程如下（由LLLStat 统计软件计算）：表2.1.4 数据Logit 变换及权重家庭年收入x 实际购买mi 签订意向ni比例pi 逻辑变换Logit 权重ni*pi(1-pi) 1.500000 8 25 0.320000 -0.753772 5.440000 2.500000 13 32 0.406250-0.3794907.718750 3.500000 26 58 0.448276 -0.207639 14.344828 4.500000 22 52 0.423077 -0.310155 12.692308 5.500000 20 43 0.465116 -0.139762 10.697674 6.500000 22 39 0.564103 0.257829 9.589744 7.500000 16 28 0.571429 0.287682 6.857143 8.500000 12 21 0.571429 0.287682 5.142857 9.50000010150.666667 0.6931473.333333表2.1.5 回归模型基本信息 总样本 9求解方法 加权最小二乘 仅常数项beta0 -0.095029 方程F 统计量 51.982160 F 分布自由度 1,7 方程检验p 值 0.000176 总平方和 8.798294 回归平方和 7.754112 残差平方和1.044181表2.1.6 分组Logistic 回归系数检验序号 均值回归系数系数标准误 t 统计量 自由度df检验P 值 常数项 2.837815 -0.848882 0.113578 -7.473994 7 0.000056 家庭年收入x14.901140 0.1493230.0207117.20986570.000056表2.1.7 1][-X X T0.086479 -0.014517 -0.014517 0.002876本例Logistic 模型的回归方程：xe xe pi 149323.0848882.0149323.0848882.01ˆ+-+-+=对于多分类无序自变量的Logistic 回归，即某个自变量为m 个水平的名义变量（如治疗方法A,B,C ），只需要引入m -1（2个）个哑变量，然后采用上述方法进行分析。