HLM多层线性模型简介
图4：考虑不同学校平均成绩差异 和入学对毕业成绩影 响程度差异的回归直线
回归模型中，如何解决残差相关 的问题?
Outcome for observation i in unit j
Intercept
Residual term specific to unit j
Value of X for observation i in unit j
Coefficient
一个简单的多层线性模型
Residual term
希望定义一个模型，可以明确地允 许因变量水平在组内和组间存在差 异
例如，允许学生的学业成绩存在学 校之间的差异
告别 OLS: 一个简单的多层线性模 型
将
Yij 0 1Xijij
重写为:
Y ij01Xijujrij
一个简单的多层线性模型
Y ij01Xijujrij
一个简单的多层线性模型
多层线性模型
合并模型：
gg g g Y i j0 0 1 X i0 j0 W j 1 1 X iW 1 j j u 0 j u 1 jX i j e i
其中：yij表示因变量（如三年后的 高考成绩），xij表示第一水平（学 生）的预测变量，Wj表示第二水平 （学校）的预测变量。
多层线性模型
Y ij01Xijujrij
Outcome for observation i in unit j
一个简单的多层线性模型
Y ij01Xijujrij
Outcome for observation i in unit j
Intercept
一个简单的多层线性模型
Y ij01Xijujrij
Var(ij)
= Var(uj + rij) = Var(uj) + Var(rij) + 2*Cov(uj,rij) = Var(uj) + Var(rij)
模型的特征
Yij 的值可能存在第二水平（组间）的差异 对于 uj和 rij没有定义其分布.
X 和 Y 之间的关系不依赖于 j (1 不依赖于 j)
模型的另一种表达
Yij 0 1 X ij u j rij
0 u j 1 X ij rij
0 j 1 X ij rij
这里
0j 0 uj
多层线性模型
水平1（如：学生）
Y ij0j1jXijeij
水平2（如：学校）
Yij---第j个 学校的第i 个学生
回归分析模型
Yi 01Xii
i ~N0,2
回归分析模型的假设
线性（Linearity） 误差正态分布（ normally
distributed） 误差方差齐性（homoskedastic） 误差或观测个体之间相互独立
（independent）
什么是多层（多水平）数据?
多层（多水平）数据指的是观测数据在单位上 具有嵌套的关系。如学生嵌套于班级，班级嵌 套于学校等。
HLM的发展
快速发展与应用 HLM（Bryk，Randenbush，Seltzer＆ Congdon，1988）； Mlwin（Rabash，Prosser＆Goldstein， 1989）； VARCL（Longford，1988）； MPLUS（Muthen，1992）。
多层线性模型
回归模型的一种 常用来回答背景变量（如班级环境等）与个体变量
多层线性模型
截距与斜率之间的相关系数：
r(0j,1j )
01
1
(0011)2
截距与斜率之间的相关系数大小表示了不同学 校平均高考成绩与入学成绩对高考成绩影响强 度之间的关系，如果相关系数大于零，表示平 均成绩越高，入学成绩对期末成绩的影响越大。
HLM常用模型类型
随机效应一元方差分析模型（one-way Anova with Random Effect）
同一单位内的观测，具有更大的相似性。同一 个班级的学生由于受相同的班级环境等因素的 影响有更大的相似性。
嵌套于背景（contextual）特征 的多层数据举例
学生水平特征的观测，嵌套于班级或学校 兄弟姊妹特征的观测，嵌套于家庭 个体之间的观测嵌套于社区 个体不同时间点的重复测量嵌套于个体 病人嵌套于医院 参数的估计嵌套于不同的研究 (元分析，meta-analysis)
多层线性模型
多层分析方法提供了解决嵌套数据关系 的合理的正确的统计方法。下面结合上 面提到的例子，介绍两水平模型的一般 数学表示：
多层线性模型水平1（如：学 Nhomakorabea）Y ij0j1jXijeij
水平2（如：学校）
Yij---第j个 学校的第i 个学生
0j
g 00
g 01 W j
u0j
g g 1j 10 1W 1ju 1j
Y Xur specific to ij 0 1 ij j ij observation i in unit j
Outcome for observation i in unit j
Intercept
Residual term specific to unit j
Value of X for observation i in unit j
Coefficient
uj表示什么?
残差项 定义第 j 组（第二水平） 对于第 j组的所有观测都相同 只有下标 j, 没有下标 i 解释: 总截距和第 j组的截距之间的差异
rij表示什么?
残差项 定义第 j 组第i 个观测 均值为0
模型的特征
注意到: 我们有:
ij = uj + rij
HLM数据特点
对于嵌套数据，传统回归模型的做法： （1）个体（如学生）水平上分析
问题：同一班级的学生间相互独立的假 设是不合理的，同样对不同班级的学生 和相同班级的学生作同一假设也是不合 理的。 （2）组（如学校）水平上分析 问题：丢失了班级内学生个体间的差异 的信息。
HLM数据特点
对于嵌套数据，传统回归分析的假设往 往无法满足。 传统的线性回归模型假设变量间存在直 线关系，因变量总体上服从正态分布， 方差齐性，个体间相互独立。前两个假 设较易保证，但方差齐性，尤其是个体 间相互独立的假设却很难满足。
多层线性模型简介
Introduction to HLM
北京师范大学心理学院 刘红云
hyliu@
主要内容
为什么要用多层线性模型?
回归分析模型回顾 多层（多水平）数据特点
什么是多层线性模型？
HLM发展 HLM数学模型 HLM常见简化模型
两水平模型应用举例 应该注意的问题
Outcome for observation i in unit j
Intercept
Value of X for observation i in unit j
Coefficient
一个简单的多层线性模型
Y ij01Xijujrij
Outcome for observation i in unit j
HLM常用模型类型
随机效应单因素协方差分析（One-way ANCOVA with Random Effects） 水平1：
水平2： Y ij0j1jX ijeij
0 j g 00 u0 j 1 j g 10
g
0j
00
u0 j
1 j g 10
u1 j
何谓多层线性模型?
多层线性模型又称为：
多水平分析（ Multilevel Analysis ） 混合模型（Mixed Models） 随机系数模型（Random Coefficient Models）
HLM的发展
Harvey Goldstein---Multilevel Analysis ( Mlwin)
对多层数据，我们了解什么...
随机选取两个观测，同一组内的观测之间的相似性要 比不同组观测之间的相似性大；
如果回归模型不能解释所有的组间的差异（事实上传 统回归不可能做到这一点）,那么同一组内的观测之间 的误差可能相关；
这就违背了传统回归（OLS）中关于残差相互独立的 假设；
至少，传统回归分析得到的标准误的估计不正确（太 小）。
第一水平： Yij 0j eij
g 第二水平： 0j 00u0j
合并模型：
Yij g 00 uoj eij
HLM常用模型类型
无条件模型：模型中没任何预测变量的多层分析模型
模型表示与随机效应的方差分析模型相同。在无条件模 型中：
00 00 2
上式的相关系数描述了水平2单位内个体之间的相关 （intra level 2-unit correlation），它测量了学校之间方差 占总方差的比例，或者说在总的变异中由水平二解释 的方差的比例。
模型的假设条件为：
（ 1 ） e ij～ N (0 , 2)， e ij间 相 互 独 立 ； （ 2 ） u u 1 0 jj ～ N (0 , )， V u u a 1 0 jj r 1 00 0 1 0 1 1
（ 3 ） C(u o 0j,e iv )j C(u o 1j,e iv )j 0， C(u o i1j,u iv 2j) 0 ,j1 j2
（如学生特征）之间的关系 常用来估计组内（如班级内）和组间（如班级间）变
量间的关系 以及跨水平的交互作用。
例如, 学校内和学校间自我概念和学业成绩之间的关系。
多层线性模型简介
多层线性模型－－一种处理嵌套数据的 统计方法。通过定义不同水平（层）的 模型，将随机变异分解为两个部分，其 一是第一水平个体间差异带来的误差， 另一个是第二水平班级的差异带来的误 差。可以假设第一水平个体间的测量误 差相互独立，第二水平班级带来的误差 在不同班级之间相互独立。多水平分析 法同时考虑到不同水平的变异 。
hlm模型的概念和原理
hlm模型的概念和原理
HLM模型（Hierarchical Linear Model，分层线性模型）是一种用于分析多层数据结构的统计方法，可以用于研究个体差异、群体差异以及群体与个体相互作用等方面的问题。
在社会科学、心理学、医学等领域得到广泛应用。
HLM的原理是基于线性模型的，但它将数据分为多个层次，并对每个层次的变量进行单独分析和建模。
HLM可以解决一些传统线性模型无法解决的问题，例如在研究个体差异时，传统线性模型只能考虑个体内差异，而HLM可以同时考虑个体内和个体间的差异。
在具体实现上，HLM模型涉及到两个重要的专业术语，分别是‘固定效应’和‘随机效应’。
固定效应是指做HLM模型时，不涉及group 干扰时的影响关系研究；随机效应可指在group层面时的影响关系情况。
如果完全不考虑group，即不考虑‘聚集性’问题，那么直接使用线性回归即可，并不需要使用HLM模型；而HLM模型就是处理‘聚集性’问题的一种进阶方法。
如果说使用HLM模型，并且在分析时只考虑个体效应不需要考虑group层面的效应，即只有固定效应项并无随机效应项；如果说使用HLM模型，并且在分析时考虑个体效应的同时还考虑group层面的效应，即包括固定效应项和随机效应项。
多层线性模型与HLM软件应用概述
多层线性模型与HLM软件应用概述
多层线性模型（Hierarchical Linear Model, HLM）是一种多层次的
数据分析方法，可以用于处理分层结构的数据，如学生嵌套在班级中，班
级嵌套在学校中等。
HLM软件是用于实施多层线性模型分析的统计软件，
其中常用的有HLM7、HLM6和MLwiN等。
HLM软件是专门用于多层线性模型分析的工具，主要有以下几个常见
的应用：
1.教育研究：HLM软件可以用于教育研究中的学校和班级层次的分析。
例如，可以通过学生嵌套在班级和学校中，分析学校和班级对学生成绩的
影响，从而得出不同层次间的差异。
2.医学研究：HLM软件可以用于医学研究中的多层次数据分析。
例如，可以分析患者嵌套在医院和地区中，探究医院和地区对患者健康指标的影响。
3.组织行为研究：HLM软件可以应用于组织行为研究中的多层次数据
分析。
例如，可以分析员工嵌套在团队和组织中，探究团队和组织特征对
员工绩效的影响。
4.社会科学研究：HLM软件可以用于社会科学研究中的多层次数据分析，如家庭、社区和城市等不同层次的分析。
例如，可以分析个体嵌套在
家庭和社区中，研究家庭和社区对个体幸福感的影响。
总之，多层线性模型和HLM软件可以用于处理分层结构的数据，帮助
研究者深入分析不同层次间的差异。
在教育、医学、组织行为和社会科学
等领域具有广泛的应用前景，能够提供更准确和全面的研究结果。
多层线性模型简介
多层线性模型——零模型
第一层：
Yij 0 j eij
var(eij )
2
第二层：
0 j 00 u0 j
00 uoj eij
var(0 j ) 00
合并模型： Yij
多层线性模型——零模型
0 j指第j个二层单位Y的平均值
多层线性模型简介
（2）组织心理学研究领域 Eg:雇员镶嵌于不同的组织、工厂 （3）发展心理学领域 Eg:纵向研究、重复研究 在一段时间内对儿童进行多次观察，那么不同时间 的观测数据形成了数据结构的第一层，而儿童之间 的个体差异则形成了数据结构的第二层。这样，就 可以探索个体在其发展趋势或发展曲线上的差异。
ij 0j 1j ij ij
var(eij )
2
多层线性模型——完整模型
第二层：
0j
00
W 01
j
u0 j
1 j 10 11W j u1 j
var(0 j ) 00
var(1 j ) 11
cov(0 j , 1 j ) 10
多层线性模型简介
3、多层线性模型分析方法 回归的回归方法 Eg:学生成绩（X） 学习动机（Y） 班级教师教学水平（W） （1）求各个班级学生成绩对学习动机的回归
Yij 0 j 1j X i j rij
多层线性模型简介
（2）求教师教学水平对β 0j和 β
1j
的回归方程
00
eij指第j个二层单位Y的变异
指所有二层单位的Y的总体平均数 0 j 指第二层方程的残差（随机项） 跨级相关：指Y的总体变异中有多大比例是由 第二层的变异引起的。
(完整版)多层线性模型介绍
多层线性模型：HLM（hierarchical linear model）计量模型，为解决传统统计方法如回归分析在处理多层嵌套数据时的局限而产生的，是目前国际上较前沿的一套社会科学数据分析的理论和方法，优势体现两个方面：一是解决了数据嵌套问题；二是为追踪研究或重复测量研究引入了新方法。
传统的线性模型，例如，ANOV A或者回归分析，只能对涉及某一层数据的问题进行分析，而不能将涉及两层或多层数据的问题进行综合分析，而多层线性模型对解决这些问题提供了有效的统计方法。
多层线性模型的参数估计方法与进行两次回归的方法在概念上是相似的, 但二者的统计估计和验证方法却是不同的, 并且多层线性模型的参数估计方法更为稳定。
因此多层模型的应用范围也相当广泛，与传统的用于处理多元重复测量数据的方法相比，该模型具有对数据资料要求低、能够明确表示个体在第一层次的变化情况、可以通过定义第一层次和第二层次的随机变异解释个体随时间的复杂变化情况、可以考虑更高一层次的变量对于个体增长的影响等特点。
多层线性模型( multilevel model ) 由Lindley 等于1972 年提出，是用于分析具有嵌套结构数据的一种统计分析技术。
作为传统方差分析模型的有效扩展Korendijk 等和Duncan 等众多的研究者对多层线性模型进行了广泛研究。
20 多年来，该方法在社会科学领域获得了广泛应用。
近年来，有研究者提出使用多层线性模型进行面板研究，并且已在社会科学领域取得较大进展。
面板研究中多层线性模型的应用优势：由上述分析可知，在面板研究中，传统的数据分析方法会遇到很多难以克服的困难，而多层线性模型可以很好地处理上述问题。
近年来，越来越多的面板研究开始采用多层线性模型的分析方法，显示出多层线性模型在面板研究中的独特优势。
首先，多层线性模型通过考察个体水平在不同时间点的差异，明确表达出个体在层次一的变化情况，因而对于数据的解释（个体随时间的增长趋势）是在个体与重复观测交互作用基础上的解释，即不仅包含不同观测时点的差异，也包含个体之间存在的差异。
分层线性模型操作方法
分层线性模型操作方法分层线性模型（Hierarchical Linear Model，简称HLM）是一种用于分析多层数据结构的统计模型。
它将数据分类到不同的层次，并在每个层次上拟合线性模型，然后将这些层次之间的关系建模。
以下是分层线性模型的操作方法：1. 确定层次结构：首先需要确定数据的层次结构，即数据是如何分成不同层次的。
例如，研究可以有多个学校，每个学校有多个班级，每个班级有多个学生。
在这种情况下，学校可以被定义为第一层，班级为第二层，学生为第三层。
2. 数据准备：准备好所需的层次数据。
这意味着将每个层次的数据分为不同的变量或列。
例如，在上述例子中，可以为每个学生收集学校、班级和个人的信息，然后将其分为不同的列。
3. 建立模型：使用统计软件或编程语言，将分层线性模型拟合到数据中。
通常，HLM的建模过程包括选择固定效应和随机效应，指定相应的层次结构和层次间关系。
4. 检验模型：一旦建立了HLM模型，需要对其进行检验以评估其拟合优度。
这可以通过检查模型参数的统计显著性、模型拟合度量（如R方）以及残差分析来完成。
5. 解释和解读结果：在完成模型检验后，可以解释和解读结果以回答研究问题。
这可能涉及解释固定效应和随机效应之间的差异以及层次间关系的影响。
6. 进行推断和预测：最后，可以使用已建立的HLM模型进行推断和预测。
这可以通过根据模型参数和已知变量的值来预测响应变量的值，或者通过使用模型进行假设检验和置信区间构建来推断总体水平上的差异。
总的来说，分层线性模型的操作方法包括确定层次结构、准备数据、建立模型、检验模型、解释和解读结果，以及进行推断和预测。
HLM多层线性模型教程
HLM多层线性模型教程HLM（Hierarchical Linear Modeling）是一种多层线性模型，常用于分析层级结构的数据。
相比于传统的线性模型，HLM能够更好地处理多层数据的结构，并考虑到不同层级之间的相关性。
HLM模型由两个部分组成：固定效应和随机效应。
固定效应表示不同的自变量对因变量的影响，而随机效应则表示不同层级之间的方差和协方差。
通过区分这两种效应，HLM能够更准确地估计模型参数。
首先，我们来看一下HLM的基本模型。
假设我们有一个层级结构的数据集，其中个体（比如学生）位于组（比如班级）之中。
我们可以建立以下的多层线性模型：Level 1: Y = β0 + β1*X + rLevel 2: β0 = γ00 + u0β1=γ10+u1在Level 1中，Y表示因变量（比如学生成绩），X表示一个或多个自变量（比如学生的背景信息），β0和β1表示固定效应，r表示误差项。
在Level 2中，β0和β1被分解为γ00和γ10（固定效应）以及u0和u1（随机效应）。
通过HLM模型，我们可以估计出固定效应和随机效应的值。
HLM模型的建模过程主要包括以下几个步骤：1.数据准备：将多层数据按照层级结构整理，确保每个样本都有相应的层级信息。
2.模型设定：根据研究问题和数据特点，确定模型的层级结构、因变量、自变量以及需要考虑的随机效应。
3. 模型估计：使用统计软件（如HLM软件）进行模型估计。
HLM模型的估计通常使用迭代加权最小二乘（Iterative Weighted Least Squares, IWLS）方法。
4.参数解释和效应分析：根据估计结果，解释固定效应和随机效应的含义，并进行效应分析。
在解释HLM模型的结果时，需要特别注意几点。
首先，固定效应代表在不同层级上，自变量对因变量的影响。
例如，在学生的层级上，自变量X对学生成绩Y的影响是β1、其次，随机效应代表不同层级之间的方差和协方差。
HLM多层线性模型简介
Introduiu@
主要内容
为什么要用多层线性模型?
回归分析模型回顾 多层（多水平）数据特点
什么是多层线性模型？
HLM发展 HLM数学模型 HLM常见简化模型
两水平模型应用举例 应该注意的问题
回归分析模型
Yi 01Xii
i ~N0,2
回归分析模型的假设
线性（Linearity） 误差正态分布（ normally
distributed） 误差方差齐性（homoskedastic） 误差或观测个体之间相互独立
（independent）
什么是多层（多水平）数据?
多层（多水平）数据指的是观测数据在单位上 具有嵌套的关系。如学生嵌套于班级，班级嵌 套于学校等。
同一单位内的观测，具有更大的相似性。同一 个班级的学生由于受相同的班级环境等因素的 影响有更大的相似性。
嵌套于背景（contextual）特征 的多层数据举例
学生水平特征的观测，嵌套于班级或学校 兄弟姊妹特征的观测，嵌套于家庭 个体之间的观测嵌套于社区 个体不同时间点的重复测量嵌套于个体 病人嵌套于医院 参数的估计嵌套于不同的研究 (元分析，meta-analysis)
（如学生特征）之间的关系 常用来估计组内（如班级内）和组间（如班级间）变
量间的关系 以及跨水平的交互作用。
例如, 学校内和学校间自我概念和学业成绩之间的关系。
多层线性模型简介
多层线性模型－－一种处理嵌套数据的 统计方法。通过定义不同水平（层）的 模型，将随机变异分解为两个部分，其 一是第一水平个体间差异带来的误差， 另一个是第二水平班级的差异带来的误 差。可以假设第一水平个体间的测量误 差相互独立，第二水平班级带来的误差 在不同班级之间相互独立。多水平分析 法同时考虑到不同水平的变异 。
HLM简介
τ00 (intercept-only) - τ00 (means-as-outcomes)
-------------------------------------------------------------------------------------
τ00 (intercept-only)
2
HLM
何时用 HLM?
• 有不独立的数据 • 回归线在各组不同 • 有多水平的数据
3
HLM
嵌套数据
• 学生嵌套于学校中
学校1
学校2
Sarah
Bill
Ted
Tami
Jackson
Kate
Maria
Jordan
4
HLM
嵌套数据
– 重复测量的每一次观察嵌套于个体中
Sarah
Jordan
Day 1
Day 2
• Wj = 教师经验 (对总均值中心化) • 00 =教师经验为均值的班的受欢迎程度分数的均值 • 01 =用经验预测受欢迎程度分数的回归系数
21
HLM
2.均值-结果模型
– u0j = 残差或条件方差, 是教师评定被解释后班级的平均受欢迎程 度的方差 (τ00)
• 方差成分
– “R2” 解释的方差 – 通过模型比较
– 在level-2层次上给出一个预测变量解释方差的指标
22
HLM
3. 随机系数回归模型 (random-coefficients regression model)
• 需要回答2 个基本问题
– 在所有班级中的平均截距和斜率是什么? – 这些参数在不同的班级之间怎样变化?
23
HLM
3. 随机系数回归模型
多层线性模型
违背了传统回归（OLS）中关于残差相互独立的假设
采用经典方法可能失去参数估计的有效性并导致不合理的推断结 论。
经典方法框架下的分析策略
经典的线性模型只对某一层数据的问题进 行分析，而不能将涉及两层或多层数据的问题进 行综合分析。
但有时某个现象既受到水平1变量的影 响，又受到水平2变量的影响，还受到两个水平 变量的交互影响(cross-level interaction)。
间数据，称为组间效应 • 三是忽视组的特性而对所有的数据进行分析，称为总效应。 • 在此基础上，计算组内效应和组间效应在总效应的比例，从
而确定变异来自于组间还是组内。 • 组内分析组间分析的方法较前两种方法更多地考虑到了第一
层数据及第二层数据对变异产生的影响，但无法对组内效应 和组间效应做出具体的解释，也就无法解释为什么在不同的 组变量间的关系存在差异。
• 2、多层数据的传统分析方法 • 个体的行为既受个体自身特征的影响，也受到其所处环境的影响，所
以研究者一直试图将个体效应与组效应（背景效应或环境效应）区分 开来。 • 个体效应：由个体自身特征所造成的变异。 • 组效应：由个体所处环境所造成的变异。
多层线性模型简介
• （1）只关注个体效应，而忽视组效应 • 只在个体这一层数据上考虑变量间的关系，那么导致所观测到的效应
图1：不考虑学校之间差异的回归直线
• 在许多研究中，取样往往来自不同层级和单位，这种 数据带来了很多跨级（多层）的研究问题，解决这些 问题的一种新的数据分析方法——多层模型分析技术。
• 这一方法的开创及发展的主要贡献者之一是英国伦敦 大学的Harvey Goldstein教授及研究者把这种方法称 作“多层分析”。另一主要开拓者美国密歇根大学的 Stephen W.Raudenbush教授和同行把它称为“分层线 性模型结构”。在此，我们按照张雷等人的叫法称其 为“多层线性模型”或“多层模型”。
HLM中介调节重要资料
方差成分
0.03 0.09 0.22
χ2检验
49.64*** 41.98***
方差成分
0.03 0.10 0.22
χ2检验
49.57*** 41.52***
0.22 表明引入团队心 随机效应显著，表 理安全感反而增 明组织支持感对创 0.08 加了第二层斜率 新行为的影响在各 0.63 2 项 11% 的变异程 σ 较零模型 减少8%，说明有8%的创新行为组内方 群组间存在显著的 -0.11 度 —— 正常应当 说明有63%426.40 的创新行为组间方 424.89 差可被460.09 组织 支持感解释。 439.96 变异，因此需要进 减少 差可以被团队心理安全感所解 行调节效果的检验 离异数降低说明模型适配度提高 释
LEVEL 2
LEVEL 1
South China University of Technology
当r01c 、r01a、 r02b的值t检验都达到显著水平时，就一定有中介效应存在。 如果r01c’估计值达到显著水平，但r01c’ < r01c ，说明是部分中介； 如果r01c’估计值没有达到显著水平，说明是完全中介。 中介效应的大小用ab（即r01a × r02b ）或c-c’ （即r01c’ - r01c ）来衡量（在两层级中介效应中， ab 和c-c’ 在数值上略有差异，但在大样本条件下这个差异会消失）； （1）虚无模型 中介效应量用 ’ 的比值来衡量。 Level 1 ab/ab+c ： Yij = β0j + rij 其中Var（rij）= σ2 由于X对Y的直接效应c和X对M的间接
HLM多层线性模型：
原理及应用
一、认识多层线性模型
在社会科学研究进行取样时，样本往往来自于不同的层级和单位，由此得到 的数据伴随着许多跨级（多层）。多层线性模型又叫做“多层分析