离散选择模型

二元选择模型
解释变量与因变量的关系
解释变量与因变量的关系
在二元选择模型中，解释变量与因变量之间的关系
如何描述呢？ 首先，我们可以将模型写成如下形式：
P Y 1 F x
但是由于 F x 不一定是线性函数，因此x对于Y的 影响不能简单的用 表示。
二元选择模型
二元选择模型的一个例子
分析劳动力就业情况，Y=1表示就业，Y=0表示失
业，若x为影响因素，β为参数向量，则劳动力就业 的概率与影响因素的关系就可以表示为：
P Y 1 F x, P Y 0 1 F x,
其中，F (x, β)是与x和β有关的分布函数。
解释变量与因变量的关系
由于有
P Y 1 E Y F x
所以x对于事件Y 1 发生的概率，即 P Y 1 的影响
为：
E Y dF x f x x d x
解释变量与因变量的关系
由于变量Y是一个二元变量，因此有：
N1 E Y P Y 1 E Y F x, N
二元选择模型
分布函数的几种不同形式
线性概率模型
线性概率模型即假设分布函数为线性形式： 因此有：
F x, x
Y E Y Y E Y
Pij P Yi j P U ij U i j


Logit模型
与二元选择模型的思路一样，我们使用一种特定的
分布函数来描述这一概率，假设 ij 独立同分布，且 服从Weibull分布，分布函数的形式为：
F t exp e t
则前述模型变为：
二元选择模型
设定检验
单个系数的显著性检验
与回归分析类似，二元选择模型中单个系数的显著
性检验也是计算t统计量并进行t检验
模型整体的显著性检验
由于二元选择模型模型的常用形式，即Probit模型
和Logit模型是非线性的，因此F检验不再适用。 通常用对数似然比检验，计算LR统计量：
ˆ 为在原假设H 成立情况下的参数估计值。 其中， R 0 2 LR渐进服从 k 分布，其中k为变量的个数。
发生的概率为：
, X n xn
n
L L x1 , x2 ,
L 即为似然函数
, xn ; p xi ;
i 1
极大似然估计
所谓极大似然估计指的是找到一个使得似然函数达 到最大的参数 ˆ ，即令
L x1 , x2 ,
则

ˆ max L x , x , , xn ; 1 2
对于Probit模型，这一影响是：
E Y x x
对于Logit模型，这一影响是：
E Y x 1 x x x e 2 x 1 e
二元选择模型
参数估计
估计方法的选择
yi 1 i
, Yn yn
F x 1 F x
yi i i i
1 yi
二元选择模型的极大似然估计
将似然函数对数化，可得：
ln L
ln 1 F x ln F x
yi 0 i yi 1 i
有序数据：满意度，偏好
有序反应模型
多重选择模型
无序反应模型
无序反应模型的一个例子
假定有I个消费者面临着J种方案可以选择
其中，消费者 i 若选择了方案 j 则会获得如下随机
效用：
Uij xij ij
ij
若消费者是理性的，则可知： U
Ui j
这样，消费者 i 选择方案 j 的概率就可以表示为：
令F (x, β)为逻辑斯蒂分布，即：
x e x F x, x t dt x 1 e
其中：
et t 1 et t d e t t t 1 t 2 t dt 1 e
ˆ ln L ˆ LR 2 ln L R


模型整体的显著性检验
二元选择模型整体显著性的检验方法还有：
Wald检验
1 ˆ ˆ q W R q RVR R




拉格朗日乘子检验（LM）
LM g Vg
2 W和LM都渐进服从 k 分布，其中k为变量的个数。
Pij P Yi j
e
k
xij xi j
e
为待估参数 其中，
令 X1 , X 2 ,
合分布为：
n
, X n 为来自总体 X 的样本，则它们的联
p X ;
i 1 i
极大似然估计
令 x1 , x2 ,
件：
, xn 为 X1 , X 2 ,
, X n 的一个观察值，则事
X1 x1, X 2 x2 ,
y ln F x 1 y ln 1 F x
i i i i i
令对数似然函数的一阶条件等于0，可以得到参数
ˆ 的估计值
Logit模型的似然函数
L e e 1 x x 1 e 1 e i e 1 x x i 1 e 1 e
二元选择模型的参数估计一般使用极大似然法。
不选择最小二乘法的原因主要是由于最小二乘法需
要因变量是连续型，且需要满足关于回归模型的一 系列假设，而在二元选择模型中并不能够提供这种 保证。 极大似然估计则可以避免上述问题
极大似然估计
若总体X为离散型，且有
P X x p x;
ln L
x
yi 1 yi
x
yi
x
1 yi
e x e x yi ln 1 yi ln 1 x x 1 e 1 e i e x 1 yi ln 1 yi ln x x 1 e i 1 e
拟合优度分析
在古典回归模型中我们通常用判定系数 R 2 来度量模
型的拟合优度，在二元选择模型中，类似指标是似 然指数（LRI）。
ln L LRI 1 ln L0
与 R 2 同样，LRI的取值在0无序数据：民族，职业，购买品牌
无序反应模型
离散选择模型
首都经济贸易大学 统计学院
离散因变量
有很多我们要研究的变量其形式是离散的
购买决策：购买，不购买
满意度：满意，一般，不满意 次数：一次，两次，三次，四次
因其变量是离散型，所以无法使用古典回归的方法，
者要求我们发展新的方法对其进行研究。 当因变量为二元变量，即只有0和1两种可能取值时， 我们要建立的模型就是二元选择模型。


, xn ;
ˆ arg max L x , x , 1 2

, xn ;
为“极大似然估计值”
二元选择模型的极大似然估计
建立似然函数
L P Y1 y1 , Y2 y2 ,
yi 0 i
1 F x F x
F x, Y E Y
Y E Y 为随机扰动，因此，上述方程可 其中，
以变为：
Y x
线性概率模型的特性
由于线性概率模型具有与连续因变量回归模型相同
的性质，因此可以使用古典线性回归模型估计。 但是线性概率模型具有两个显著的缺点： 不能保证 x 的取值在0和1之间
具有异方差性，即：
Var x 1 x
因此该模型并不适合用作对二元选择模型的研究
概率单位（Probit）模型
令F (x, β)为标准正态分布，即：
F x, x t dt

x
对数单位（Logit）模型