Parzen窗方法的分析和研究
Parzen窗方法的分析和研究
对Parzen窗/PNN算法的学习和研究报告姓名：吴潇学号：13337551、Parzen窗方法综述、发展历史及现状模式识别领域的非参数估计方法大致可以分为两类。
第一种类型是先估计出概率密度函数的具体形式，然后再利用这个估计出来的概率密度函数对样本进行分类。
第二种类型是，不估计具体的概率密度函数，而直接根据样本进行分类。
Parzen窗方法就是属于第一种类型的非参数估计方法，概率神经网络（PNN）是它的一种实现方式。
Parzen窗方法的基本思想是利用一定范围内的各点密度的平均值对总体密度函数进行估计。
Parzen窗（Parzen window）又称为核密度估计（kernel density estimation），是概率论中用来估计未知概率密度函数的非参数方法之一。
该方法由Emanuel Parzen于1962年在The Annals of Mathematical Statistics杂志上发表的论文“On Estimation of a Probability Density Function and Mode”中首次提出。
Nadaraya 和Watson最早把这一方法用于回归法中。
Specht把这一方法用于解决模式分类的问题，并且在1990年发表的论文“Probabilistic neural networks”中提出了PNN网络的硬件结构。
Ruppert和Cline基于数据集密度函数聚类算法提出了修订的核密度估计方法，对Parzen窗做了一些改进。
Parzen窗方法虽然是在上个世纪60年代提出来的，已经过去了45年的时间，看上去是一种很“古老”的技术，但是现在依然有很多基于Parzen窗方法的论文发表。
这说明Parzen 窗方法的确有很强的生命力和实用价值，虽然它也存在很多缺点。
2、Parzen窗方法和概率神经网络Parzen窗方法就是基于当样本个数n非常大的时候，有公式p(x)≈k/nV成立这样的一个事实而提出的。
MATLAB下的Parzen函数Parzen窗法概率密度函数估计
MATLAB下的Parzen函数Parzen窗法概率密度函数估计在基于熵的⾳频相似度度量中，⽤到Parzen窗法对所提取的MFCC参数进⾏概率密度函数估计，
其MATLAB实现如下：
function p=Parzen(xi,x,h1,f)
%xi为样本，x为概率密度函数的⾃变量的取值，
%h1为样本数为1时的窗宽，f为窗函数句柄
%返回x对应的概率密度函数值
if isempty(f)
%若没有指定窗的类型，就使⽤正态窗函数
f=@(u)(1/sqrt(2*pi))*exp(-0.5*u.^2);
end;
N=size(xi,2);
hn=h1/sqrt(N);
[X Xi]=meshgrid(x,xi);
p=sum(f((X-Xi)/hn)/hn)/N;
由于不知道如何在m语⾔中设置函数参数的默认值或设置可变参数，所以即使你使⽤默认的正态窗，也需要传⼊f参数，传⼊为‘[]’。
举例说明这个函数的⽤法：
>>xi=rand(1,1024);
>>x=linspace(-1,2,1024);
>>p=Parzen(xi,x,1,[]);
>>plot(x,p);
得到如下图形：
上⾯演⽰的是均匀分布，现在再试试正态分布：
>>xi=randn(1,1024);
>>x=linspace(-2,2,1024);
>>p=Parzen(xi,x,1,[]);
>>plot(x,p);
得到如下图形：
最好不要设置太⼤的N。
parzen窗估计例题
parzen窗估计例题一、引言Parzen窗估计作为一种非参数概率密度估计方法，广泛应用于统计学、信号处理、图像处理等领域。
本文将详细介绍Parzen窗估计的基本原理、计算步骤、优缺点以及在实际应用中的案例，帮助读者更好地理解和应用这一方法。
二、Parzen窗估计的基本原理1.Parzen窗的定义Parzen窗估计是一种基于数据点邻域的密度估计方法。
给定一组数据点X = {x1, x2, ..., xn}，Parzen窗宽度的函数h（宽度大于0）为数据点集的函数，那么在点x处的Parzen窗函数表示为：f(x) = (1/h^2) * Σ[K(x, xi)]，其中K为核函数，xi为数据点。
2.Parzen窗的性质（1）Parzen窗估计具有平滑性，可以有效地避免噪声对密度估计的影响。
（2）当窗口宽度h减小时，估计结果越接近真实密度；当h增大时，估计结果趋于平滑，但可能损失局部信息。
（3）Parzen窗估计是连续的，可以描述数据分布的连续性。
3.Parzen窗在概率密度估计中的应用Parzen窗估计可应用于一维和多维数据的概率密度估计。
通过调整窗口宽度和核函数，可以实现对不同数据类型的适应。
三、Parzen窗估计的计算步骤1.数据准备：收集一组数据点X = {x1, x2, ..., xn}。
2.确定Parzen窗的参数：选择合适的窗口宽度h和核函数K。
窗口宽度影响着估计结果的粗糙程度，核函数的选择依据数据类型和需求进行。
3.计算概率密度估计值：根据公式计算每个数据点的概率密度估计值，然后绘制概率密度函数图像。
四、Parzen窗估计的优缺点1.优点：（1）适应性强，可以应用于不同类型的数据。
（2）具有良好的平滑性，能有效减小噪声影响。
（3）计算简便，易于实现。
2.缺点：（1）对窗口宽度的选择敏感，较难确定最佳参数。
（2）在数据点分布稀疏的区域，估计结果可能不准确。
五、Parzen窗估计在实际应用中的案例1.信号处理：在信号处理领域，Parzen窗估计可以用于估计信号的概率密度，从而实现信号的参数估计、特征提取等任务。
改进Parzen窗解决高维数据聚类的方法研究
2011，47（8）1引言聚类是将物理或抽象对象的集合分组成为由类似的对象组成的多个类的过程，它所生成的类的集合是一组数据对象的集合，同一个类中的对象彼此相似，与其他类中的对象却相异。
一个好的聚类算法应能识别任意数据形态，对数据的输入顺序不敏感，随输入数据的大小线性扩展，当数据维数增加时也具有良好的可伸缩性[1]。
聚类所具有的无指导学习能力使它具有广泛的应用空间，例如模式识别、图像处理等。
对高维数据的处理是聚类的一个重要应用领域。
生物信息学和电子信息化的加深，带来了越来越多的高维数据，除了“维灾问题”，高维数据中含有的大量随机噪声也会带来额外的效率问题，并且在实际的高维数据应用中，如果需要对某类具有上百个属性的对象进行聚类，很难得到理想的聚类结果。
至今，有很多文献对如何进行高维对象之间的聚类进行了研究[2]。
例如，专门针对各维属性取值为区间变量的高属性维稀疏聚类问题提出了SFC聚类方法和用于求解二态变量的高属性维稀疏聚类问题的CABOSFV算法[3-4]。
解决高维数据比较典型的有频繁模式挖掘、基于模式相似的聚类、特征选择/子空间聚类、特征转换法等。
高维数据的聚类算法逐步发展，近几年国内学者提出很多解决算法，例如具有输入知识的高维数据聚类算法、改进CLIQUE算法的并行高维聚类算法，以及高维空间球体的k-中心聚类等方法的研究[1-2，5]。
本文对Parzen窗估计法加权，通过多次仿真得到更优的加权函数，根据Parzen窗对一维数据的优良聚类效果的特性，将高维数据投影在低维空间，进行聚类，逐步投向高维数据，并对结果矩阵进行优化处理。
最后一章将所得的聚类效果与Parzen窗进行高维数据聚类的效果进行比较，并做了分析得出结论。
2方法思想Parzen窗估计法是一种具有坚实理论基础和优秀性能的非参数估计方法，能够较好地描述数据的分布状态。
使用Par-zen窗估计法求取每个分类的概率密度函数，从而建立其稳定性指标，使用该指标可以比较各个分类结果的好坏。
非参数估计——核密度估计（Parzen窗）
⾮参数估计——核密度估计（Parzen 窗） 核密度估计，或Parzen 窗，是⾮参数估计概率密度的⼀种。
⽐如机器学习中还有K 近邻法也是⾮参估计的⼀种，不过K 近邻通常是⽤来判别样本类别的，就是把样本空间每个点划分为与其最接近的K 个训练抽样中，占⽐最⾼的类别。
直⽅图 ⾸先从直⽅图切⼊。
对于随机变量X 的⼀组抽样，即使X 的值是连续的，我们也可以划分出若⼲宽度相同的区间，统计这组样本在各个区间的频率，并画出直⽅图。
下图是均值为0，⽅差为2.5的正态分布。
从分布中分别抽样了100000和10000个样本： 这⾥的直⽅图离散地取了21个相互⽆交集的区间：[x −0.5,x +0.5),x =−10,−9,...,10，单边间隔h =0.5。
h >0在核函数估计中通常称作带宽，或窗⼝。
每个长条的⾯积就是样本在这个区间内的频率。
如果⽤频率当做概率，则⾯积除以区间宽度后的⾼，就是拟合出的在这个区间内的平均概率密度。
因为这⾥取的区间宽度是1，所以⾼与⾯积在数值上相同，使得长条的顶端正好与密度函数曲线相契合。
如果将区间中的x 取成任意值，就可以拟合出实数域内的概率密度（其中N x 为样本x i ∈[x −h ,x +h ),i =1,...,N 的样本数）：ˆf (x )=N xN ⋅12h 这就已经是核函数估计的⼀种了。
显然，抽样越多，这个平均概率密度能拟合得越好，正如蓝条中上⽅⼏乎都与曲线契合，⽽橙⾊则稂莠不齐。
另外，如果抽样数N →∞，对h 取极限h →0，拟合出的概率密度应该会更接近真实概率密度。
但是，由于抽样的数量总是有限的，⽆限⼩的h 将导致只有在抽样点处，才有频率1/N ，⽽其它地⽅频率全为0，所以h 不能⽆限⼩。
相反，h 太⼤的话⼜不能有效地将抽样量⽤起来。
所以这两者之间应该有⼀个最优的h ，能充分利⽤抽样来拟合概率密度曲线。
容易推理出，h 应该和抽样量N 有关，⽽且应该与N 成反⽐。
基于极大似然Parzen窗的独立成分分析
函数采用了磨 光处理 ，引入参数 ，本文证明了 的选择依
赖于 信号的统 计特征以及采样 的样 本总数。另外 ，为 了提高 算法 的收敛速度 ，采用 自然梯度法进行算法的优化 。 独立成分分析 能够 高效地分解相互独立 的非高斯信号 ，
种基于高阶统计量的盲信号处理方法。其 目的是把混合信 号 分解为相互独立 的成分 ， 强调分解 出来 的各个分量相互独立 ，
ｌ 概述
独 立 成 分 分 析 （ ｄｐ ｎ ｅｔＣ ｍｐ ｎ ｎ Ａｎｌｓｓ Ｉ Ａ） Ｉ ｅｅｄ ｎ ｏ ｏｅ ｔ ａｙｉ Ｃ 是 ｎ ，
一
立成 分分析 。 考虑到在构造梯度算法 时， 要对 目标函数求导 ， 而直方图方法估计概率密度函数是不可微的。对相 应的阶梯
项把混合信号分解成具有统计独立性 成分的新技术 ，是一
Ｍ ａ ｉ ｕｍ ｋｅ ｉ ｏ Ｐａ ｚ ｎ ｉ ｘｍ Ｌｉ ｌｈｏ ｄ ｒ ｅ Ｗ ｎｄｏ ｗ
Ｇ Ｏ ＮＧ Ｄａｎ． ｎ ｄａ ．ＬＩ Ｇ ｕｏ． ｎｇｂ Ｕ ｑｉ
ｆ． ｃｏ ｌ ｆ ｌｃ ｏ ｉ ａ ｄ ｎｏｍａｉｎＥ ｇｎｅ ｎ ； ． ｃｏ ｌ ｆ ｃ ｎｅ Ｎａｊ ｇＵｎｖ ｒｉ ｆ ｅｈ ｏｏ ｙ Ｎａ ｉ ｇ２ ０ ０ ， ｈｎ ） ａＳ ｈ ｏ Ｅｅｔ ｎｃ ｎ Ｉｆｒ ｔ ｏ ｒ ｏ ｎ ｉｅｒ ｇ ｂ Ｓ ｈ ｏ Ｓ ｉ ｃ ， ｎｉ ｉ ｏ ｅ ｎ ｉｅｓｙｏ Ｔ ｃ ｎ ｌｇ ， ｎｉ １０ ９ Ｃ ｉａ ｔ ｎ ［ ｓｒｃ ］Ａ Ｄ ｗ Ｉｄ ｐｎ ｅｔ ｏ ｏ ｅ ｔ ｎ ｌｓｓ Ｃ ａｇ ｒｈ ｉ ｉｔ ｄ ｃｄｂ ｉ ｏ ｒｍ ｓｉ ｔ ｎａ ｄ￣ ｉ ｍ ｋ ｌ ｏ ｄｅｔ ｔ ｎ Ａｂｔａ ｔ ｅ ｅ ｅｄ ｎ ｍｐ ｎ ｎ ａｙｉ（ Ａ） ｌｏ ｔｍ ｒ ｕｅ ｙｈｓ ｇａ ｅｔ ｉ ｎ ｎ Ｃ Ａ Ｉ ｉ ｓｎ ｏ ｔ ｍａ ｏ ｍｕ ｌ ｅｉ ｏ ｓｍａ ｏ ． ｉ ｈ ｉ ｉ
Parzen窗方法的分析和研究
对Parzen窗/PNN算法的学习和研究报告姓名：吴潇学号：13337551、Parzen窗方法综述、发展历史及现状模式识别领域的非参数估计方法大致可以分为两类。
第一种类型是先估计出概率密度函数的具体形式，然后再利用这个估计出来的概率密度函数对样本进行分类。
第二种类型是，不估计具体的概率密度函数，而直接根据样本进行分类。
Parzen窗方法就是属于第一种类型的非参数估计方法，概率神经网络（PNN）是它的一种实现方式。
Parzen窗方法的基本思想是利用一定范围内的各点密度的平均值对总体密度函数进行估计。
Parzen窗（Parzen window）又称为核密度估计（kernel density estimation），是概率论中用来估计未知概率密度函数的非参数方法之一。
该方法由Emanuel Parzen于1962年在The Annals of Mathematical Statistics杂志上发表的论文“On Estimation of a Probability Density Function and Mode”中首次提出。
Nadaraya和Watson最早把这一方法用于回归法中。
Specht把这一方法用于解决模式分类的问题，并且在1990年发表的论文“Probabilistic neural networks”中提出了PNN网络的硬件结构。
Ruppert和Cline基于数据集密度函数聚类算法提出了修订的核密度估计方法，对Parzen窗做了一些改进。
Parzen窗方法虽然是在上个世纪60年代提出来的，已经过去了45年的时间，看上去是一种很“古老”的技术，但是现在依然有很多基于Parzen窗方法的论文发表。
这说明Parzen 窗方法的确有很强的生命力和实用价值，虽然它也存在很多缺点。
2、Parzen窗方法和概率神经网络Parzen窗方法就是基于当样本个数n非常大的时候，有公式成立这样的一个事实而提出的。
Parzen窗算法_PNN神经网络
1） 正态窗函数：(u)=
1 2
exp
1 2
u
2
其中： u x xi h
2） 指数窗函数：(u)= exp | u | 其中： u x xi
h
包括单位立方体函数，以及上面两种窗口函数的图像分别如下：
图1
介绍完窗口函数，我们回到（1.9）式。教材上内容关于 p(x) 均值的收敛性和方差的收敛性已经证明过，不
图2
图3
2. PNN 算法
PNN 算法（probabilistic neural network）也即我们的 Parzen 窗方法，使用神经网络的结构来实现。假设
我们要实现一个 Parzen 估计，共有 n 个 d 维的样本，都是随机的从 c 个类别中选取的。在这种情况下，输 入层由 d 个输入单元组成，每一个输入单元都与 n 个模式单元相连。而每一个模式单元都与 c 个类别的其中
图4
PNN 训练算法： Begin initialize:
Do
//这里其实就是把样本特征向量归一化 //把归一化的特征向量作为权值
If
then =1 // 是个标识符, 标识出哪一个权值对哪一个类有贡献, 有贡献的赋值 1，为
什么记录这个 后面会讲解。
Until end
备注一下：实际上这里书上讲的很操蛋，直接看这块的训练算法，根本和上面一章讲的 Parzen 窗算法 联想不到一起去，也不知道算法为什么这么设计。所以这里要说明一下，实际上训练算法这里，只是为 Parzen
Parzen 窗算法_PNN 神经网络（--by 小马哥）
1. Parzen 窗算法的推导
这两天在学习《模式分类》的无参数技术，我们知道 Parzen 窗算法，就是一种典型的无参数技术，所 谓的无参数技术，就是在不知道概率密度函数形式的情况下，如何从训练样本中能够直接估计出概率密度
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
对Parzen窗/PNN算法的学习和研究报告姓名：吴潇学号：13337551、Parzen窗方法综述、发展历史及现状模式识别领域的非参数估计方法大致可以分为两类。
第一种类型是先估计出概率密度函数的具体形式，然后再利用这个估计出来的概率密度函数对样本进行分类。
第二种类型是，不估计具体的概率密度函数，而直接根据样本进行分类。
Parzen窗方法就是属于第一种类型的非参数估计方法，概率神经网络（PNN）是它的一种实现方式。
Parzen窗方法的基本思想是利用一定范围内的各点密度的平均值对总体密度函数进行估计。
Parzen窗（Parzen window）又称为核密度估计（kernel density estimation），是概率论中用来估计未知概率密度函数的非参数方法之一。
该方法由Emanuel Parzen于1962年在The Annals of Mathematical Statistics杂志上发表的论文“On Estimation of a Probability Density Function and Mode”中首次提出。
Nadaraya和Watson最早把这一方法用于回归法中。
Specht把这一方法用于解决模式分类的问题，并且在1990年发表的论文“Probabilistic neural networks”中提出了PNN网络的硬件结构。
Ruppert和Cline基于数据集密度函数聚类算法提出了修订的核密度估计方法，对Parzen窗做了一些改进。
Parzen窗方法虽然是在上个世纪60年代提出来的，已经过去了45年的时间，看上去是一种很“古老”的技术，但是现在依然有很多基于Parzen窗方法的论文发表。
这说明Parzen 窗方法的确有很强的生命力和实用价值，虽然它也存在很多缺点。
2、Parzen窗方法和概率神经网络Parzen窗方法就是基于当样本个数n非常大的时候，有公式成立这样的一个事实而提出的。
通过计算在一个区域R内的频数k/n，用这个频数来估计这一点的频率，从而得到这一点的概率。
当n趋于无穷大的时候，p(x)等于该点的实际概率。
这种方法就是模式识别领域中的非参数估计方法。
Parzen窗方法就是通过构造一系列的区域：，在这些区域内计算k/n。
记V n为区域R n的体积，k n为落在区域R n中的样本个数，表示对的第n次估计，于是有：为了保证能够收敛到，必须满足以下3个条件：1）2）3）Parzen窗方法的实质就是通过对上面的区域R n，每次按照来构造区域序列，使区域逐渐收缩到一个给定的初始区间。
它不断收缩区域，按照公式把区域不断缩小，而不关心该区域实际上包含多少个样本点。
另外一种与它相对应的非参数估计方法是K n-近邻法。
假设区间R n是一个d维的超立方体，h n表示超立方体的一条边的长度，那么该超立方体的体积就是。
通过定义如下的窗函数，我们能够解析地得到落在窗中的样本个数k n的表达式：这样，就表示一个中心在原点的单位超立方体。
如果xi落在超立方体V n中，那么，否则便为0。
因此，超立方体中的样本个数就是带入公式，就得到该方程表明一种更加一般的估计概率密度函数的方法——不必规定区间必须是超立方体，可以是某种更加一般化的形式。
这个公式表示我们对p(x)的估计是对一系列关于x和x i的函数求平均。
这个就是Parzen窗方法估计得到的概率密度函数。
关于是否合理的问题，也就是判断它是否保证函数值非负，而且积分的结果为1。
这一点可以通过增加条件来保证：1）要求满足和2）要求增加这些条件就可以保证是一个合理的概率密度函数，函数值是非负的，积分的结果为1。
Parzen窗方法可以使用神经网络的方法来实现，也就是通常所说的概率神经网络（Probabilistic neural network,PNN）。
现在假设有n个d维的样本，它们都是从c个类别中选取的。
在这种情况下，输入层由d个输入单元组成，每一个输入单元都与模式层中的n 个模式单元相连。
而每一个模式单元只与类别层中的c个类别单元中的其中之一相连。
从输入层到模式层的连线表示可修改的权系数，这些权系数可以通过训练得到。
每一个类别单元都计算与之相连的各模式单元的输出结果的和。
每一个模式层单元能够对它的权重向量和归一化的样本向量x作内积，得到，然后映射为。
每一个类别单元把与它相连的模式层单元的输出结果相加。
这样的结果就保证了类别单元处得到的就是使用协方差为的圆周对称高斯窗函数的Parzen窗的估计结果（I表示d×d的单位矩阵）。
PNN网络是用下面的方式训练的。
首先，把训练样本中的每一个样本x都归一化为单位长度，即。
第一个经过归一化的样本被置于输入层单元上。
同时，连接输入单元和第一个模式层单元的那些连接被初始化为。
然后，从模式层的第一个单元到类别层中代表x1所属类别的那个单元之间就建立了一个连接。
同样的过程对剩下的各个模式单元都重复进行，即，其中k=1,2,…,n。
这样就得到了一个网络：输入层单元与模式层单元之间是完全连通的，而模式层单元到类别单元之间是稀疏连接的。
如果把第j个样本的第k个分量记为x jk，把这个分量到第j个模式层单元的连接权重系数记为w jk，其中j=1,2,…,n,k=1,2,…, d。
得到算法描述如下：PNN训练算法1begin initialize j←0,n,a ji←0,j=1,…,n；i=1,…,c2do3（归一化过程）4（训练）5if then6until7end然后，经过训练完成的网络就可以用这样的方式实现分类：首先把一个归一化了的测试样本x提供给输入节点，每一个模式层单元都计算内积，得到“净激活”（net activation）：并产生net k的一个非线性函数，其中是由用户设置的一个参数，表示有效的高斯窗的宽度。
每一个类别层单元则把与它相连接的模式层单元的结果进行相加。
为了实现Parzen 窗算法，这里的激活函数必须是一个指数函数。
对于一个中心在某一个训练样本w k处的未经过归一化的高斯窗函数。
从期望得到的高斯窗函数倒推出模式层应采用的非线性活化函数的形式，即如果令有效宽度h n为常数，则窗函数为其中使用了归一化条件：。
这样一个模式层单元向与它相连接的那个类别层单元贡献了一个信号，这个信号的强度等于以当前训练样本为中心的高斯函数产生这个测试样本点的概率。
对这些局部估计值求和就得到判别函数——也就是概率密度函数的Parzen窗估计结果。
通过运算得到测试点的期望的类别：PNN分类算法1begin initialize k←0，x←测试点2do k←k+13net k←4if then5until k=n6return class←7end3、Parzen窗方法的优点和缺点Parzen窗方法的好处是不需事先知道概率密度函数的参数形式，比较通用，可以应对不同的概率密度分布形式。
在处理有监督学习过程的时候，现实世界的情况往往是我们不知道概率密度函数形式。
就算能够给出概率密度函数的形式，这些经典的函数也很少与实际情况符合。
所有经典的概率密度函数的形式都是单模的（只有单个局部极大值），而实际情况往往是多模的。
非参数方法正好能够解决这个问题，所以从这个意义上来讲，Parzen窗方法能够更好地对应现实世界的概率密度函数，而不必实现假设概率密度函数的形式是已知的。
Parzen窗方法能处理任意的概率分布，不必假设概率密度函数的形式已知，这是非参数化方法的基本优点。
Parzen窗方法的一个缺点是它需要大量的样本。
在样本有限的情况下，很难预测它的收敛性效果如何。
为了得到较精确的结果，实际需要的训练样本的个数是非常惊人的。
这时要求的训练样本的个数比在知道分布的参数形式下进行估计所需要的训练样本的个数要多得多。
而且，直到今天人们还没有找到能够有效的降低训练样本个数的方法。
这也导致了Parzen 窗方法对时间和存储空间的消耗特别大。
更糟糕的是，它对训练样本个数的需求，相对特征空间的维数呈指数增长。
这种现象被称为“维数灾难（curse of dimensionality）”，严重制约了这种方法的实际应用。
Parzen窗方法的另外一个缺点是，它在估计边界区域的时候会出现边界效应。
Parzen窗方法的一个问题是，窗宽度的选择难以把握。
下图是一个二维Parzen窗的两类分类器的判决边界。
其中窗宽度h不相同。
左边的图中的窗宽度h较小，右边的图中的窗宽度h较大。
所以左侧的Parzen窗分类器的分类界面比右边复杂。
这里给出的训练样本的特点是，上半部分适合用较小的窗宽度h，而下半部分适合用较大的窗宽度h。
所以，这个例子说明没有一个理想的固定的h值能够适应全部区域的情况。
这算是Parzen窗方法的一个不足之处。
PNN是Parzen窗方法的实现。
PNN的好处之一是学习速度很快，因为学习规则非常简单（），并且每一个样本点只需要提供一遍。
这个算法的空间复杂度也很容易计算：只要查看PNN图中的连接个数即可。
而空间复杂度是O((n+1)d)。
可见，PNN算法的缺点就是在硬件实现的时候，对存储空间的要求比较高，特别是当n和d都比较大的时候。
PNN算法的时间复杂度是O(1)，因为公式中的内积都可以用并行的方式来完成计算。
所以，PNN算法适合于对计算速度要求高而存储器资源比较容易满足的场合。
PNN算法的另外一个优点是新的训练样本很容易被加入以前训练好的分类器中，这一特性对于“在线”应用特别有意义。
4、Parzen窗的仿真实验为了编写Parzen窗，首先要确定一个窗函数。
一般可以选择的窗函数有方窗、正态窗等。
接下来将分别用方窗、正态窗实现Parzen窗法。
1）方窗函数：方窗法的实验流程图：根据上述实验流程图可以得到matlab代码，此处省略。
获得的实验结果如下图所示：2）正态窗函数使用该窗函数时，得到的实验流程图如下（matlab代码已省略）：该方法得到的实验运行结果如下：5、对Parzen窗法的改进Parzen窗/PNN算法中的一个关键问题就是如何选取体积序列V1,V2,…,V n。
例如，当我们选取，那么对于有限的n，估计结果将对初始体积V1非常敏感。
如果V1非常小，那么大多数的体积内都是空的，估计得到的将包含很大的误差。
但是如果V1非常大的话，那么平滑效应就会非常剧烈，以至于概率密度的空间变化被掩盖了。
而且很有可能对于某一个区域适合的体积对于另一个区域就非常不适合。
所以，可以考虑更加一般化的方法，例如使用交叉验证方法来辅助Parzen窗方法，提高算法的性能。
简单地说，“交叉验证方法”使用数据集中的一小部分来形成一个“验证集”，而窗的宽度就是通过使验证集上的误差率最小来调节得到的。
我们可以通过使用“m-重交叉验证”（m-fold cross validation）来估计Parzen窗方法得到的分类器的推广性能。