一般离散因变量模型和面板离散因变量模型
第八章 离散因变量模型
第八章离散因变量模型离散（分类）因变量模型（Models with Discrete /Categorical Dependent Variables）分为二元选择模型（Binary Choice Models）和多类别选择（反应）模型（Multicategory Choice /Polytomous Response Models）。
在多类别选择模型中，根据因变量的反应类别（response category）是否排序，又分为无序选择模型（Multinominal Choice Models）和有序选择模型（Ordered Choice Models）（也称有序因变量模型Ordered Dependent Variable Models、有序类别模型Ordered Category Models等）一、二元选择模型设因变量1、线性概率模型（LPM模型）如果采用线性模型，给定，设某事件发生的概率为P i，则有所以称之为线性概率模型。
不足之处：1、不能满足对自变量的任意取值都有。
2、3、所以线性概率模型不是标准线性模型。
给定，为使，可对建立某个分布函数，使的取值在（0，1）。
2、Logit模型（Dichotomous/ Binary Logit Model）Logit模型是离散（分类）因变量模型的常用形式，它采用的是逻辑概率分布函数（Cumulative Logistic Probability Function）（e为自然对数的底），逻辑曲线如图4-1所示。
其中，二元Logit模型是掌握多类别Logit模型的基础。
图4-1 逻辑曲线（Logit Curve）以二元选择问题为例，设因变量有0和1两个选择，由自变量来决定选择的结果。
为了使二元选择问题的研究成为可能，首先建立随机效用模型：令表示个体i选择=1的效用，表示个体i选择=0的效用，显然当时，选择结果为1，反之为0。
将两个效用相减，即得随机效用模型：，记为（4-1）当时，，则个体i选择=1的概率为：若的概率分布为Logistic分布，则有即（4-2）式（4-2）即为最常用的二元选择模型——Logit模型。
第八讲 离散因变量模型(LPM,Probit,Logit)
= F ( X i B) [1 − F ( X i B)]
∂E ( yi X i ) ∂F ( X i B ) ∂P r= = = 斜率： 斜率： ∂x j ∂x j ∂x j dF ( X i B ) ∂ ( X i B ) = = f ( X i B)β j d ( X iB) ∂x j
分布函数F的选取 （四） 分布函数 的选取
选取分布函数F的原则： 选取分布函数 的原则： 的原则
0 ≤ F ( X i B) ≤ 1
X iB → +∞
F ( X i B) → 1
X i B → −∞
F是单调函数 是单调函数
F ( X i B) → 0
按照上述原则F取作累计分布函数。 按照上述原则 取作累计分布函数。 取作累计分布函数 下面介绍三种不同分布函数下的计量模型： 下面介绍三种不同分布函数下的计量模型： LPM, Probit, Logit
注：括号里是p值。 括号里是 值
p ln( ) = −242.4576 + 0.6771Score − 0.4766 D1 1− p
(0.052) (0.052) (0.873) 值进行判断， （4）检验：可以直接根据括弧里的 p 值进行判断，也可以 ）检验： 利用正态分布表查临界值进行检验。 利用正态分布表查临界值进行检验。
E ( yi X i )
P( yi = 0 X i ) = 1 − pi
= 1* P( yi = 1 X i ) + 0 * P( yi = 0 X i ) = 1 ∗ pi + 0 ∗ (1 − pi ) = pi
yi = E ( yi X i ) + ε i = pi + ε i = X i B + ε i
第六章 面板数据模型的分析
面板数据模型的矩阵形式
记
y1 X1 u1 1 y X u 2 ; X 2 ; u 2 ; 2 y K yN X N u N
yit xit uit
i xit it
y1 i 0 0 1 X 1 1 y 0 i 0 X 2 2 2 2 T y N 0 0 N X N
1995 上海
江苏 浙江 安徽 福建 江西
1996
1997
1998
1999
2462.57 2902.20 3360.21 3688.20 4034.96
5155.25 6004.21 6680.34 7199.95 7697.82 3524.79 4146.06 4638.24 4987.50 5364.89 2003.66 2339.25 2669.95 2805.45 2908.59 2191.27 2583.83 3000.36 3286.56 3550.24 1224.04 1517.26 1715.18 1851.98 1962.98
二、一般面板数据模型介绍 先引入各变量的表示法：
yit (i 1,2,, N ; t 1,2,, T ) : 因变量在横截面 i 和时间 t
的观察值；
j xit ( j 1,2,, K ) : 第 j 个解释变量在横截面 i 和时间
t 的观察值。 于是第 i 个横截面的数据为
xi11 y i1 1 y i 2 ; X xi 2 yi i 1 xiT y iT
面板数据的模型(panel data model)
面板数据的模型(panel data model)王志刚 2004年11月11日一． 混合数据模型和面板数据模型如果扰动项it ε服从独立同分布假定，而且和解释变量不相关，那么就可以采用混合最小二乘法估计（Pooled OLS ），但是这里要注意POLS 暗含着一个假定就是，截距项和解释变量的系数是相同的，不随着个体和时间而变化。
我们一般采用单因子（one-way effects ）模型，假定截距项具有个体异质性，也就是：这种模型是最常见的面板模型（又称为纵列数据longitudinal data ），因为面板数据往往要求个体纬度 N>>T(时间纬度)，下面我们基本上以这种模型为例。
it u 是独立同分布，而且均值为0，方差为2u σ。
如对截距项和解释变量系数均有个体的异质性，那么要采用随机系数模型（Random coefficient model ），stata 的xtrchh 过程提供了相应的估计。
双因子模型（two-way ）：it t i it u ++=γαε二． 固定效应（Fixed effects ） vs 随机效应(Random effects)如果个体效应i α是一个均值为0，方差为2ασ的独立同分布的随机变量，也就是()0,cov =it i x α，该模型就称为随机效应模型（又称为error component model ）；如果相关，则称为固定效应模型。
1．在随机效应模型中，it ε在每个个体内部存在着一阶自相关，因为他们都包含着相同的个体效应；此时OLS 无效，而且标准差也失真，应该采用广义最小二乘估计(GLS)其中：是个体按时间的均值；有待估计；我们可以通过对组内和组间估计得到相应的残差，从而可以计算出方差；T k n e e e e nnk nT ubetween between between between within within u 22222,,ˆˆ1σσσσσα-=-'='--=；组间估计：εβ+=..i i x y ；组内估计如下；2．如果个体效应和解释变量相关，OLS 和GLS 都将失效，此时要采用固定效应模型。
离散因变量模型
0.4
0.2
0.0 X
-0.2 280 300 320 340 360 380 400 420
第10章 离散因变量模型
ቤተ መጻሕፍቲ ባይዱ
对 yi = + xi + ui 取期望，
E(yi) = + xi
(2)
下面研究 yi 的分布。因为 yi 只能取两个值，0 和 1，所以 yi 服从两点分布。 把 yi 的分布记为，
1.0
CNORM
CLOGISTIC
（依据(4)式）
= (1- - xi) ( + xi) = (1 - pi) pi = pi - pi2, （抛物线，依据(4)式）
上两式说明，误差项的期望为零，方差具有异方差。当 pi 接近 0 或 1 时，ui 具有较
小的方差，当 pi 接近 0.5 时，ui 具有最大方差（如图）。所以线性概率模型（1）回
10.1 线性概率模型 线性概率模型的形式如下，
yi = + xi + ui
(1)
其中 ui 为随机误差项，xi 为定量解释变量。yi 为二元选择变量。如利息税、 机动车的费改税（燃油税）问题等。设
1, 若 是 第 一 种 选 择 yi 0, 若 是 第 二 种 选 择
1.2 Y
1.0
0.8
归系数的 OLS 估计量具有无偏性和一致性，但不具有有效性。
y
0.25 0.2
1.4 Y
1.2
1.0
0.8
0.15
0.6
0.1
0.4
0.05
x
0.2 0.4 0.6 0.8
1
Var(ui2) = pi - pi2当pi = 0.5时最大
数学模型之离散模型
离散模型的应用领域
计算机科学
离散模型在计算机科学中广泛 应用于算法设计、数据结构、
网络流量分析等领域。
统计学
离散模型在统计学中用于描述 和分析离散数据，如人口普查 、市场调查等。
经济学
离散模型在经济学中用于描述 和分析离散的经济现象，如市 场交易、人口流动等。
生物学
离散模型在生物学中用于描述 和分析生物种群的增长、疾病
强化学习与离散模型
强化学习通过与环境的交互来学习最优策略。离散模型可以用于描述环境状态和行为，为 强化学习提供有效的建模工具。
离散模型在人工智能中的应用
1 2
决策支持系统
离散模型在决策支持系统中发挥着重要作用，通 过建立预测和优化模型，为决策者提供科学依据 和解决方案。
推荐系统
离散模型常用于构建推荐系统，通过分析用户行 为和偏好，为用户提供个性化的推荐服务。
03
分布式计算与并行化
为了处理大规模数据集，离散模型需要结合分布式计算和并行化技术，
以提高计算效率和可扩展性。
机器学习与离散模型的结合
集成学习与离散模型
集成学习通过结合多个基础模型来提高预测精度。离散模型可以作为集成学习的一部分， 与其他模型进行组合，以实现更准确的预测。
深度学习与离散模型
深度学习具有强大的特征学习和抽象能力。将深度学习技术与离散模型相结合，可以进一 步优化模型的性能，并提高对复杂数据的处且依赖于过去误差项的平方。
GARCH模型
定义
广义自回归条件异方差模型（Generalized AutoRegressive Conditional Heteroskedasticity Model）的简称，是ARCH模型的扩展。
特点
离散因变量模型(Logit 模型,Probit模型)
（2）估计：用 logit 法估计。 模型形如：
Y ( x)
（调用数据库和程序E:\logit）
模型结果：
Stata 命令：logit y score d1
Logit estimates Log likelihood = -3.979482
Number of obs =
LR chi2(2)
yi F ( X i B) i
eZ F(Z) 1 eZ (Z)
模型 yi ( Xi B) i
f
(Z)
F'(Z)
eZ (1 eZ )2
(Z )(1 (Z ))
线性化 pi ( Xi B)
∵
(Z )
eZ 1 eZ
pi ( X i B) eXiB 1 pi 1 ( X i B)
( X i B) x j
f (XiB) j
（四） 分布函数F的选取
选取分布函数F的原则：
0 F(XiB) 1
X i B F ( X i B) 1
X i B F ( Xi B) 0
F是单调函数
按照上述原则F取作累计分布函数。 下面介绍三种不同分布函数下的计量模型：
内容
二元选择模型的三类模型介绍 二元选择模型的估计: 二元选择模型的检验： 二元选择模型的应用
一、 二元选择模型
二元选择模型的理论模型 二元选择模型经济计量的一般模型 线性概率模型（LPM) Logit 模型 Probit 模型
（一） 二元选择模型的理论模型
效用是不可观测的只能观测到选择行为uiii11??x1??uiii000??x??uuiiiii1010?????x10????iiy?????ix第i个个体选择1的效用第i个个体不选择1选择0的效用1000iiiiyyyy???????????选择1不选择1选择0二二元选择的经济计量一般模型ftft???11011iiiiipyxpyppff????????????????????iiiixxxx101iieyxppf???????ixyeyx???yfxb???12
离散模型的原理与应用
离散模型的原理与应用离散模型，顾名思义，是指将连续变量转化为有限或可数的取值集合，并对这些离散取值进行建模和分析的一种数学方法。
离散模型广泛应用于各个领域，包括计算机科学、统计学、经济学、市场营销以及生物学等，并在这些领域中起到了重要的作用。
离散化是指通过将连续变量转化为离散变量来简化问题。
在实际应用中，很多变量是连续的，如时间、空间、数量等，但是连续变量的取值范围往往非常大，导致计算和分析变得困难。
因此，将连续变量离散化可以将问题空间缩小为有限的可数集合，便于分析和建模。
离散化的方法包括等宽分箱、等频分箱、基于聚类的分箱等。
等宽分箱是将连续变量的取值范围等分为若干区间，每个区间对应一个离散值；等频分箱是将连续变量的取值按照频率分布等分为若干区间，每个区间对应一个离散值；基于聚类的分箱是根据样本数据的分布特点，采用聚类方法将连续变量的取值划分为若干离散值。
离散化的好处是可以降低分析复杂度，使数据更易理解和解释，并且可以保护数据的隐私性。
离散模型在实际应用中有很多优点。
首先，离散模型可以将问题简化为有限的离散集合，使问题更易于理解和分析。
其次，离散模型可以运用多种统计学和机器学习方法进行建模，因此具有很高的灵活性和适应性。
此外，离散模型还可以提供精确度、可解释性和可预测性，对于决策支持和优化问题具有较高的实用性。
离散模型的应用非常广泛。
在计算机科学领域，离散模型被广泛应用于图论、组合优化、自动控制等领域。
例如，网络路由算法可以采用离散模型来建立网络路由表，优化网络传输效率。
在统计学领域，离散模型可以用于建立概率图模型，分析变量之间的依赖关系和随机过程。
在经济学和市场营销领域，离散模型可以用于预测市场需求、优化定价策略和建立市场竞争模型。
在生物学和医学领域，离散模型可以用于研究生物分子的结构、功能和相互作用，以及预测药物分子的活性和毒性。
总之，离散模型是一种将连续变量离散化，并利用统计学和机器学习方法进行建模的数学方法。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1 Yt 0
1 2 X ( X 1 , X 2 ,..., X k ), ... k
王中昭制作
例如有如下数据,其X和Y的散点图为:
X 321 351 361 381 340 421 435 490 483 510 523 564 545 578 594 Y 1 0 0 0 1 0 0 1 0 1 0 0 0 1 1
王中昭制作
• 采用线性回归的方式来构建二元选择模型，会导致如下 问题： • （1）、模型的随机误差项不能满足同方差的假设
由Yt X t t 得 : 当Yt 1时， t Yt X t 1 X t 当Yt 0时， t Yt X t X t 而t 取这两个值的概率分别 为: P( t 1 X t ) P(Yt 1) X t P( t X t ) P(Yt 0) 1 X t 因此t的期望值为: E ( t ) (1 X t )( X t ) ( X t )(1 X t ) 0 但t的方差为: var(t ) Et2 ( E ( t ))2 Et2 (1 X t ) 2 ( X t ) ( X t ) 2 (1 X t ) (1 X t )( X t ) 常数
王中昭制作
一、一般的离散因变量模型
如果回归模型的解释变量中含有定性变量，则可以用虚拟变量 进行处理。在实际经济问题中，被解释变量也可能是定性变量。如 通过一系列解释变量的观测值观察人们对某项动议的态度，是否签 订合同。对某一商品是否购买(汽车或房子)，某件事情的成功和失 败，求职者对某种职业是否接受或者拒绝，那么这种选择就可以用 1或者0来表示，这与解释变量的虚拟变量一样，只不过这里的变量 为被解释变量，建模过程就较为复杂。 当被解释变量为定性变量时怎样建立模型呢？这就是要介绍的 二元选择模型或多元选择模型。这里主要介绍 Tobit （线性概率） 模型，Probit（概率单位）模型和Logit模型。
王中昭制作
1．Tobit（线性概率）模型 Tobit模型的形式如下， Yt = + Xtβ + μt …… (1) 其中μt为随机误差项，Xt为解释变量，和 β为待估计的参数。Yt为二元选择变量。此 模型由James Tobit提出，因此得名。如利 息税、机动车的费改税问题等。设
如果是第一种选择 如果是第二种选择
2
obs 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
1
Y
0 300
350
400
450 X
500
550
600
王中昭制作
• 对Yt取期望， • E(Yt) = + Xt ……(2) • 下面研究Yt的分布。因为Yt只能取两个值0和1，所以 Yt 服从二项分布。把Yt的分布记为: • pt = P (Yt = 1) • 1 - pt = P ( Yt = 0) • 则: E(Yt) = 1×P ( Yt = 1) + 0×P ( Yt = 0) • = pt = P ( Yt = 1)……(3) • 由（2）和（3）式有 • pt = P ( Yt = 1) = +Xt ……(4) • 其中Yt的样本值是0或1，而预测值(拟合值)是概率。 • 因此模型(2)称为线性概率模型.
P
X
•
王中昭制作
基于线性概率模型上述缺点，希望能找到一种
变
• •
换,使模型满足如下条件: （ 1 ）使解释变量 Xt 所对应的所有预测值（概率值） 都落在（0，1）之间。 • （2）同时对于所有的 Xt，当Xt增加时，希望Yt也单 调增加或单调减少。 • 显然累积概率分布函数 F(Zt) 能满足这样的要求。 采用累积正态概率分布函数的模型称作 Probit模型。 用正态分布的累积概率作为 Probit模型的预测概率。 另外logistic函数也能满足这样的要求。采用logistic函 数的模型称作logit模型（服从Logistic分布）。
因此变量的显著性检验是采用Z统计量。
Zi
ˆ i
S i
（看相关的书：赵卫亚著《计量经济学》，机械工业出版社， 2008年9月，p188-189）。
王中昭制作
• (2)、线性概率模型要求Yt的取值落入[0,1 Xt Y [0,1]外， 导致不合理结果 . t
王中昭制作
因为线性概率模型的随机误差项的方差不是一个常数，因 此不能用OLS来估计模型，线性概率模型往往使用极大似然 法估计参数，有关极大似然法的推导见书P238-239。
logistic回归参数的极大似然估计具有如下性质:一是极大 似然估计为一致估计。二是极大似然估计是渐进有效的，当 样本容量较大时，极大似然估计的方差小于其它方法的方差。 三是极大似然估计为渐进的正态分布。
王中昭制作
• 以pt=- 0.2+0.05Xt 为例，说明Xt 每增加一个单位， 则采用第一种选择(Yt = 1)的概率增加0.05。假设用 这个模型进行预测，当预测值落在 [0，1] 区间之 内（即Xt取值在[4, 24] 之内）时，则没有什么问题； 但当预测值落在[0，1] 区间之外时，则会暴露出该 模型的严重缺点。因为概率的取值范围是 [0，1]， 所以此时必须强令预测值（概率值）相应等于0或 1（见下图）。
（3）、在线性概率模型 P(Yt =1) = +Xt中，模型假设Yt=1的概 率随Xt的变化而线性变化，这个假设通常与实际情况不相符。 以家庭购买汽车为例，当某个家庭的年收入X很低时，即便给予 这个家庭一定幅度的增加收入，其购买汽车的概率也不会比原来 增加多少，当某个家庭的年收入X很高时，因本来其购买汽车的 概率就很大，即便再给予这个家庭一定幅度的增加收入，其购买 汽车的概率也不会比原来增加多少，通常情况是：当X很大或者 很小时，P(Yt =1)的变化均较缓慢，而当X取其它值时， P(Yt =1) 的变化较快， P(Yt =1)与Xt不是线性关系，如下图，因此必须要 寻求符合这样非线性关系的模型。