非参数统计 第六章 相关和回归分析
统计学中的非参数统计分析
统计学中的非参数统计分析统计学作为一门研究数据分析和推断的学科，涉及到各种统计方法和技术。
其中，非参数统计分析是一种常见且重要的方法，它不依赖于数据的特定分布假设，而是利用数据本身的特征进行分析和推断。
本文将介绍非参数统计分析的基本概念、应用场景和常用方法。
非参数统计分析是相对于参数统计分析而言的。
参数统计分析通常需要对数据的分布做出假设，如正态分布、指数分布等，并利用参数估计方法来推断总体参数。
然而，在实际应用中，我们往往无法确定数据的真实分布，或者分布假设不成立。
这时，非参数统计分析就成为一种有力的工具。
非参数统计分析的一个重要应用是在样本比较中。
假设我们想比较两组样本的均值是否有显著差异，但无法确定数据是否符合正态分布。
这时，可以使用非参数的Wilcoxon秩和检验来进行推断。
该方法将两组样本的观测值按大小排序，并计算秩次和。
通过比较秩次和的大小，可以判断两组样本的均值是否有显著差异。
除了样本比较，非参数统计分析还可以用于回归分析。
在传统的线性回归中，我们通常假设自变量和因变量之间的关系是线性的，并利用最小二乘法来估计回归系数。
然而，在实际应用中，变量之间的关系可能是非线性的，或者无法确定具体的函数形式。
这时，非参数的局部回归方法就可以派上用场。
该方法通过在每个数据点附近拟合局部线性模型，来估计变量之间的关系。
这种方法不依赖于具体的函数形式，能够更好地适应数据的特点。
在实际应用中，非参数统计分析还有许多其他的方法，如Kolmogorov-Smirnov 检验、Mann-Whitney U检验等。
这些方法都不依赖于数据的分布假设，能够更加灵活地适应不同的数据类型和场景。
尽管非参数统计分析在某些方面具有优势，但也存在一些限制。
首先，由于不依赖于分布假设，非参数方法通常需要更多的样本来获得可靠的推断结果。
其次，非参数方法往往比参数方法计算量更大，需要更多的计算资源和时间。
此外，非参数方法对异常值和缺失值的鲁棒性较差，需要进行适当的数据处理。
非参数回归分析
非参数回归分析非参数回归分析是一种无需对数据分布做出假设的统计方法，它通过学习数据的内在结构来建立模型。
与传统的参数回归分析相比，非参数回归分析更加灵活，适用于各种复杂的数据分布。
本文将介绍非参数回归分析的基本原理和应用场景，并通过实例来说明其实际应用。
一、非参数回归分析的原理非参数回归分析是通过将目标变量与自变量之间的关系建模为一个未知的、非线性的函数形式，并通过样本数据来估计这个函数。
与参数回归分析不同的是，非参数回归模型不需要表示目标变量与自变量之间的具体函数形式，而是通过样本数据来学习函数的结构和特征。
在非参数回归分析中，最常用的方法是核密度估计和局部加权回归。
核密度估计使用核函数对数据进行平滑处理，从而得到目标变量在不同自变量取值处的概率密度估计。
局部加权回归则是通过在拟合过程中给予靠近目标变量较近的样本点更大的权重，从而对目标变量与自变量之间的关系进行拟合。
二、非参数回归分析的应用场景1. 数据分布未知或复杂的情况下，非参数回归分析可以灵活地适应不同的数据分布，从而得到较为准确的模型。
2. 非线性关系的建模，非参数回归分析可以对目标变量与自变量之间的非线性关系进行拟合，从而获得更准确的预测结果。
3. 数据量较小或样本信息有限的情况下，非参数回归分析不需要对数据分布做出假设，并且可以通过样本数据来学习模型的结构，因此对数据量较小的情况下也具有一定的优势。
三、非参数回归分析的实际应用为了更好地理解非参数回归分析的实际应用，以下通过一个实例来说明。
假设我们有一组汽车销售数据，包括了汽车的价格和其对应的里程数。
我们希望通过这些数据预测汽车的价格与里程数之间的关系。
首先，我们可以使用核密度估计方法来估计汽车价格与里程数之间的概率密度关系。
通过对价格和里程数进行核密度估计，我们可以得到一个二维概率密度图，显示了不同价格和里程数组合的概率密度。
接下来，我们可以使用局部加权回归方法来拟合汽车价格与里程数之间的关系。
《非参数统计》教学大纲
《非参数统计》课程教学大纲课程代码：090531007课程英文名称：Non-parametric Statistics课程总学时：40 讲课：32 实验：8 上机：0适用专业：应用统计学大纲编写（修订）时间：2017.6一、大纲使用说明（一）课程的地位及教学目标《非参数统计》是应用统计学专业的一门专业基础课，是统计学的一个重要分支。
课程主要研究非参数统计的基本概念、基本方法和基本理论。
本课程在教学内容方面除基本知识、基本理论和基本方法的教学外，着重培养学生的统计思想、统计推断和决策能力。
通过本课程的学习，学生将达到以下要求：1．掌握非参数统计方法原理、方法，具有统计分析问题的能力；2．具有根据具体情况正确选用非参数统计方法，正确运用非参数统计方法处理实际数据资料的能力；3．具有运用统计软件分析问题，对计算结果给出合理解释，从而作出科学的定论的能力；4．了解非参数统计的新发展。
（二）知识、能力及技能方面的基本要求1.基本知识：掌握符号检验、Wilcoxon符号秩检验、Cox-Stuart趋势检验、游程检验、Brown-Mood中位数检验、Wilcoxon秩和检验、Kruskal-Wallis检验、Jonckheere-Terpstra检验、Friedman检验、Page检验、Siegel-Tukey检验、Mood检验、Ansari-Bradley检验、Fligner-Killeen检验等非参数统计方法。
2.基本理论和方法：掌握单样本模型、两样本位置模型、多样本数据模型中的位置参数非参数统计检验方法，掌握检验尺度参数是否相等的各种非参数方法，掌握各种回归的方法，掌握分布检验的各种方法，要求能在真实案例中应用相应的方法。
3.基本技能：掌握非参数统计方法的计算机实现。
（三）实施说明1. 本大纲主要依据应用统计学专业2017版教学计划、应用统计学专业建设和特色发展规划和沈阳理工大学编写本科教学大纲的有关规定并根据我校实际情况进行编写。
非参数回归方法
非参数回归方法非参数回归是一种灵活的建模技术，它不依赖于对数据分布的假设，因此适用于各种类型的数据分析问题。
本文将介绍非参数回归的基本原理和常用方法，包括局部线性回归、核回归和样条回归等。
1. 非参数回归的基本原理非参数回归可以看作是对自变量与因变量之间的关系进行拟合的过程，而不需要对关系的具体形式进行假设。
与参数回归不同，非参数回归方法不直接对某个函数形式进行建模，而是通过对数据进行适当的拟合，从中获取自变量与因变量之间的关系。
2. 局部线性回归局部线性回归是一种常用的非参数回归方法，它假设在自变量附近的小区域内，自变量与因变量之间的关系可以近似为线性关系。
具体而言，局部线性回归通过在每个数据点附近拟合一个线性模型来进行预测。
这种方法可以有效地捕捉到数据的非线性关系。
3. 核回归核回归是另一种常见的非参数回归方法，它利用核函数对自变量进行加权来进行拟合。
核函数通常具有类似正态分布的形状，在自变量附近的数据点被赋予更大的权重，而离自变量远的数据点则被赋予较小的权重。
核回归可以灵活地适应不同的数据分布和关系形式。
4. 样条回归样条回归是一种基于样条函数的非参数回归方法，它将自变量的取值范围划分为若干个区间，并在每个区间内拟合一个多项式函数。
样条函数的拟合可以采用不同的方法，例如样条插值和样条平滑等。
样条回归能够更精确地捕捉到数据中的非线性关系。
5. 非参数回归的优势和应用领域与参数回归相比，非参数回归具有更高的灵活性和鲁棒性。
非参数回归方法不依赖于对数据分布和关系形式的假设，适用于各种类型的数据分析问题。
非参数回归广泛应用于经济学、统计学、金融学等领域，用于探索变量之间的关系、预测未知观测值等。
结论非参数回归方法是一种适用于各种类型数据分析问题的灵活建模技术。
本文介绍了非参数回归的基本原理和常用方法，包括局部线性回归、核回归和样条回归等。
非参数回归方法能够更准确地捕捉数据中的非线性关系，具有更高的适应性和鲁棒性。
SPSS数据分析教程-第6章-非参数
Median test
独立样本检验举例
➢ 一个公司把他们的销售代表随机分到三个 不同的组中，进行不同的培训。两个月后 对销售进行考察，我们想通过非参数检验 比较不同组别的销售代表考试得分是否有 显著性差异。这里，不同组别的考试得分 是相互独立的，因此为独立样本数据，我 们采用独立样本非参数检验。
➢
独立样本包括两个独立样本或者两个以上的独 立样本。
➢ SPSS提供的独立样本非参数检验的方法有：
两个独立样本分布的比较
Mann-Whitney U
Kolmogorov-Smimov
Wald-Wolfowitz K个独立样本分布的比较
Kruskal-Wallis
Jonckheere-Terpstra 比较全矩
➢ Wilcoxon符号秩检验用于检验样本所来自的 总体的中位数和所给的值是否有显著区别。 该检验适用于连续型数据（或者尺度数 据），它把观测值和原假设的中心位置之 差的绝对值的秩分别按照不同的符号相加 作为其检验统计量。
➢ Wilcoxon符号秩检验的假设为：
样本所来自的总体的中位数等于给定的数值。
游程检验
➢ 游程检验用于检验某一变量的两个值的出 现顺序是否随机，对于连续型变量的随机 性检验也可以转化为只有两个取值的分类 变量的随机性的检验。游程检验通过对样 本观测值的分析，用来检验该样本所来自 的总体序列是否为随机序列（又称为白噪 声序列）。它也可以用来检验一个样本的 观测值之间是否相互独立。
二项式检验
➢ SPSS的二项式检验通过样本数据检验样本 来自的总体是否服从指定的二项分布。例 如，现代社会男、女的比例是否为1.01：1； 工厂的次品率是否为1%等都可以通过二项 式检验完成。
非参数统计秩相关分析和秩回归
非参数统计秩相关分析和秩回归非参数统计方法是一类不依赖于总体分布形式的统计方法，它们通常基于样本数据的秩次（rank）或者置换（permutation）来进行统计推断。
秩相关分析和秩回归是非参数统计中常见的两种方法，本文将对它们进行详细介绍。
一、秩相关分析秩相关分析是用于测量两个变量间相关性的方法，它适用于总体分布不满足正态分布假设或无法假设总体分布形式的情况。
秩相关系数可以反映两个变量之间的关系的强度和方向。
常见的秩相关系数包括Spearman相关系数、Kendall相关系数等。
Spearman相关系数是一种非参数的秩相关系数，它将原始数据转换为秩次，然后计算秩次之间的皮尔逊相关系数。
Spearman相关系数的取值范围在-1到1之间，当Spearman相关系数为0时，表示两个变量之间不存在线性关系；当Spearman相关系数为正值时，表示两个变量呈正相关关系；当Spearman相关系数为负值时，表示两个变量呈负相关关系。
Kendall相关系数也是一种非参数的秩相关系数，它与Spearman相关系数类似，但是不考虑秩次之间的距离。
Kendall相关系数的取值范围在-1到1之间，具有与Spearman相关系数类似的解释。
秩相关分析的步骤如下：1.对原始数据进行秩次转换，将每个变量的观测值按照从小到大的顺序进行排列，并用相应的秩次替代原始观测值。
2.计算秩次之间的秩相关系数。
3.使用适当的统计检验方法对秩相关系数进行显著性检验。
秩相关分析的优点是不依赖于总体分布形式，对异常值不敏感，而且可以比较有序变量和无序变量的相关性。
但是它也有一些限制，比如只能检测线性相关性，不能检测非线性相关性。
二、秩回归秩回归是一种非参数的回归分析方法，它用于研究自变量和因变量之间的关系，并不要求总体分布的形式。
秩回归与普通回归的区别在与秩回归是基于秩次转换后的数据进行建模分析的。
秩回归的优点是可以适用于各种类型的数据，不需要对数据进行正态化变换，对异常值不敏感。
第6讲相关分析与回归分析
第6讲 相关分析与回归分析
一、引 言
在很多研究领域中，往往需要研 究事物间的关系。如收入与受教育程 度，子女身高与父母身高，商品销售 额与广告费用支出，农作物产量与施 肥量，上述两者间有关系吗？如果有 关系，又是怎么样的关系呢？如何来 度量这种关系的强弱？
解决上述问题的统计方法是相关
由于相关系数是用样本计算得到 的，带有一定的随机性，所以用样本 相关性估计总体相关性的可信度需要 检验。
SPPS可以自动进行检验，并分
2020/4/8
15
别用“*”,“**”标注显著性水平0.05, 0.01下的显著相关。 (2) Spearman和Kendall’s相关系数
Pearson相关系数属参数统计分 析中的矩相关系数，有一定的局限性: 当正态分布假设不成立时，检验结果 不可信；只能度量线性相关性，不能 描述非线性相关性。
下列不属于相关关系的是( )。 A. 产品成本与生产数量 B. 球的表面积与体积 C. 家庭的支出与收入 D. 人的年龄与体重 下列关系是线性相关的是( )。
2020/4/8
10
A. 人的身高与视力 B. 圆心角大小与所对弧长 C. 收入水平与纳税水平 D. 父母平均身高与儿子身高 相关分析主要研究变量间是否相 关及相关的密切程度与方向。 相关分析中最常用的是简单相关 分析，即两个变量间的相关性。
2020/4/8
38
y 3 3 .7 3 0 .5 1 6 x 即父辈身高每增加或减少一个单位， 其子辈身高仅增加或减少半个单位， 也即子代的身高有回到同龄人平均身 高的趋势。
Galton称这种现象为“回归”。 为了纪念Galton，后人将研究两变量 间统计关系的方法称为回归分析。
非参数统计教学大纲
遵义师范学院课程教学大纲非参数统计教学大纲（试行）课程编号：280020 适用专业：统计学学时数：64 学分数： 4执笔人：黄建文审核人：系别：数学教研室：统计学教研室编印日期：二〇一五年七月课程名称：非参数统计课程编码：学分：4总学时：64课堂教学学时：64实践学时：适用专业：统计学先修课程：高等数学、线性代数、概率论、数理统计一、课程的性质与目标：（一）该课程的性质本课程属专业方向选修课程。
非参数统计形成于二十世纪四十年代，是与参数统计相比较而存在的统计学一个年轻、活跃而前沿的分支，含有丰富的统计思想并在实践中有着广泛的应用。
非参数统计方法不依赖于总体分布及其参数，适用于多种类型的数据，进行统计推断时仅需要一些非常一般性的假设，因而具有良好的稳健型，在总体分布未知的情况下往往比参数统计方法有效。
（二）该课程的教学目标本课程的教学目的是使学生了解非参数统计在推断统计体系中日益重要的作用，理解非参数统计方法和参数统计方法的区别。
要求学生掌握本课程的基本知识、基本概念、基本原理和基本方法，能应用非参数统计方法解决一些简单的实际问题；注重学生统计思维能力和实践能力的培养，进一步培养学生重视原始资料的完整性与准确性、对数据处理持严肃认真态度的专业素质。
二、教学进程安排课外学习时数原则上按课堂教学时数1:1安排。
三、教学内容与要求第一章引言【教学目标】通过本章学习，使学生清楚非参数统计的研究对象，了解非参数统计的历史，明白非参数统计方法和参数统计方法的区别，认识学习非参数统计方法的必要性，了解非参数统计的一些基本概念与基本工具；通过对初等推断统计的简单回顾，要求学生提炼并把握推断统计思想的实质，为后续章节学习非参数统计的分析技巧和主要思想打下基础。
【教学内容和要求】主要教学内容：非参数统计研究内容；非参数统计小史；初等推断统计回顾；非参数统计基本概念。
教学重点与难点：教学重点是通过与参数统计异同的比较，介绍非参数统计的研究内容与研究方法；教学难点是对检验的相对效率、秩检验统计量、U统计量等非参数统计基本概念的理解。