第三章矢量量化技术
矢量量化原理 第六章
▪ 归结起来，正如率-失真理论所指出的，组编码总
是优于单个输出的逐个编码的，当编码长度K趋于
无穷大时，可以达到率失真界。
27
6.3 最佳矢量量化
▪ 一.最佳矢量量化器的概念
▪ 给定条件下，失真最小的矢量量化器，称为这个
条件下的最佳矢量量化器。给定矢量量化器的码
4
三、矢量量化技术的发展历程
1956年 1957年 1978年
最佳矢量量化问题
如何划分量化区间 及求量化值问题
Steinhaus Loyd和Max
1980年
提出实际矢量量化器
Buzo
LBG算法
Linde,Buzo和Gray
5
四、矢量量化的优点
矢量量化优于标量量化，为不可逆压缩方法，采用矢量 量化技术对信号波形或参数进行压缩处理，可以获得很好 的效益，具有存储要求低、比特率低、解码简单、失真较 小和计算量小等优点。 采用矢量量化的效果优于标量量化的原因： ➢ 矢量量化能有效的应用矢量中各分量之间的四种相互关 联性质来消除数据中的冗余度。这四种相互关联的性质是 线性依赖(相关性)、非线性依赖(统计不独立)、概率密度 函数的形状和矢量量化的维数，而标量量化仅能利用线性 依赖和概率密度函数的形状来消除冗余度。
6
五、矢量量化研究的目的
针对特定的信息源和矢量维数，设计 出一种最优化的量化器，在R（量化速率） 一定的情况下，给出的量化失真尽可能接 近D(R)(最小量化失真)。
7
6.2 矢量量化的基本原理
标量量化是对信号的单个样本或参数的幅 度进行量化；标量是指被量化的变量，为 一维变量。
矢量量化的过程是将语音信号波形的K个样 点的每一帧，或有K个参数的每一参数帧构 成K维空间的一个矢量，然后对这个矢量进 行量化。
图像编码中的向量量化技术解析(七)
图像编码是指将图像信息以尽可能低的比特率（bit rate）进行表示和传输的过程。
向量量化技术（Vector Quantization，简称VQ）作为一种经典的图像编码方法，旨在通过对图像中的像素进行聚类与压缩，以减小图像的存储和传输所需的数据量。
本文将对图像编码中的向量量化技术进行解析。
一、向量量化技术的基本概念与原理向量量化技术利用了向量空间的概念，将图像中的像素集合分组为多个聚类中心（codebook）。
具体而言，通过将图像分割为非重叠的小块，在这些小块中选取一些代表性向量（也称为矢量），并构建一个包含这些代表性向量的码本。
之后，通过将图像中的每个小块映射到最相似的码本向量，实现对图像进行编码和解码。
向量量化技术的核心在于码本（codebook）的设计和码本向量的选择。
码本的设计要尽可能地减小编码误差，即理想情况下，能够最好地保留图像的信息。
常见的码本设计方法有两种：无监督学习（如聚类算法）和有监督学习（如神经网络）。
码本向量的选择可以通过各种方案进行，常用的有Lloyd-Max算法和梯度算法等。
二、向量量化技术的优缺点向量量化技术相比于其他图像编码方法具有多种优点。
首先，它能够高效地对图像进行压缩，减小图像数据的存储和传输量，从而节省了存储空间和传输带宽。
其次，向量量化技术能够在一定程度上保持图像的视觉质量，控制压缩带来的失真。
然而，向量量化技术也存在一些不足之处。
首先，该方法的计算复杂度较高，特别是当码本较大时，运算量急剧增加，导致编码时间过长。
其次，在码本生成和选择过程中，如何找到最优的码本仍然是一个挑战。
此外，由于向量量化技术是一种有损压缩方法，所以无论通过什么样的码本设计和选择策略，都无法避免图像信息的损失。
三、向量量化技术的应用领域向量量化技术在图像编码领域有着广泛的应用。
首先，它被广泛应用于传输图像数据，在减小数据量的同时保持图像质量。
其次，向量量化技术在图像检索和图像压缩中也发挥着重要作用。
第2章信源编码技术3
第2章
信源编码技术3
各层次矢量的求解
（1）已知码本yM的八个
码矢，则按最邻近的原则 配成对，得： [y000，y001]，[y010，y011]， [y100，y101]，[y110，y111]
四对，
（2）求各对的形心，得到：y00，y01，y10，y11。 （3）再求这两对的中心，就可以得到：y0和y1。
• 标量量化是矢量量化的特例
第2章
信源编码技术3
矢量量化的基本原理
设X=[x1，x2，·，x]是一个N维实数矢量 · · 用另一个幅度离散的N维实数矢量Y匹配， 即用Y表示X，或者说X被量化成Y。 Y选自一个有限集合S＝Yi（1＜i＜M＝，其中Yi=[yi1， yi2，…，yi]。
集合S称为码本（codebook）或参考模板（reference template）。
第2章
信源编码技术3
失真测度
• • • • 失真测度和码本尺寸是矢量量化中两个相互对立、相
互制约的关键技术指标。
一个理想的失真测度应具备以下两个特性： 它必须是主观上有意义的（Subjectively Relevant）。 即小的失真应该对应于好的主观语音质量。 它必须是易于处理的（Tractable）。即易于数学运算
性能？
所有这些都属于矢量量化系统降低复杂度的设计问题。
第2章
信源编码技术3
无记忆的矢量量化系统设计
树形搜索的矢最量化系统 • 优点是可以减少运算量； • 缺点是存储器容量增大且性能会有所降 低。 树形搜索又可分为二叉树和多叉树两种。 现以码本尺寸M=8的二叉树为例说明
第2章
信源编码技术3
码本尺寸M=8的二叉树
• 在恢复时，只须按此角标从码本中找出相应的码矢量
语音信号处理
第一部分语音信号处理第一章·绪论一···考核知识点1·语音信号处理的基本概念2·语音信号处理的发展概况二···考核要点一·语音信号处理的基本概念1．识记：（1）语音信号对人类的重要性。
（2）数字语音的优点。
（3）语音学的基本概念。
（4）语音信号处理的应用领域。
二·语音信号处理的发展概况1.识记：（1）语音信号处理的发展历史。
（2）语音编码、语音合成、语音识别的基本概念。
语音编码技术是伴随着语音的数字化而产生的，目前主要应用在数字语音通信领域。
语音合成的目的是使计算机能象人一样说话说话，而语音识别使能够听懂人说的话。
第二章·基础知识一···考核知识点一·语音产生的过程二·语音信号的特性三·语音信号产生的数字模型四·人耳的听觉特性二···考核要求一·语音产生的过程1.识记：声音是一种波，能被人耳听到，振动频率在20Hz~20kHz之间。
自然界中包含各种各样的声音，而语音是声音的一种，它是由人的发音器官发出的，具有一定语法和意义的声音。
2.领会：（1）语音产生的过程与人类发声的基本原理。
（2）清音、浊音、共振峰的基本概念。
语音由声带震动或不经声带震动产生，其中由声带震动产生的音统称为浊音，而不由声带震动而产生的音统称为清音。
声道是一个分布参数系统，它是一个谐振腔，有许多谐振频率，称为共振峰，它是声道的重要声学特征。
二·语音信号的特性1.识记：（1）语音的物理性质，包括音质、音调、音强、音长等特性。
语音是人的发音器官发出的一种声波，具有声音的物理属性。
其中音质是一种声音区别于其它声音的基本特征。
音调就是声音的高低，取决于声波的频率：频率高则音调高，频率低则音调低。
响度就是声音的强弱，又称音量。
第4章矢量量化
2020/2/19
5
什么是矢量量化(VQ)
x2,y2
V2
y
x1, y1
V1
V3
V
x
V4
V5
V6
图4.1
上图的两维矢量空间里，存在6类矢量，每一类都有
一个中心，V i 称为室心 Xi,Yi ，每一室心对应一个码
2020/2/19
32
2020/2/19
33
4.5.2 有记忆的矢量量化系统
概念：有记忆的矢量量化在量化每一个输入矢量时， 不仅与此矢量本身有关，而且也与其前面的矢量有 关。也就在量化时，它通过“记忆”，利用了过去 输入矢量的信息，利用了矢量与矢量之间的相关性， 从而提高了矢量量化的性能。 优点：在语音编码中，引入记忆后，还可利用音长 、短时的非平稳统计特性，清音、浊音和无声区域 的特性，短时频谱特性等信息。意味着在相同维数 条件下大大提高了矢量量化系统的性能。
2020/2/19
15
失真测度的方法：
均方误差(即欧氏距离)、加权的均方误差、 Itakura—Saito（板仓-斋藤）距离，似然比失 真测度等。
2020/2/19
16
4.3.1 欧氏距离——均方误差
设输入信号的某个k维矢量X，与码书中某个k维 矢量Y进行比较，xi、yi分别表示X和Y的元素 (1≤i≤k)，则定义均方误差为欧氏距离，即有
2020/2/19
19
4.3.3 识别失真测度
2020/2/19
20
§4.4最佳矢量量化器和码本的设计
4.4.1 矢量量化器最佳设计的两个条件
第6章 矢量量化
概述
3
概述
“十二五”普通高等教育本科国家级规划教材
把抽样后的信号值 逐个进行量化 标量量化 量化 矢量量化
将k(k≥2)个抽样值 形成K维空间Rk中的 一个矢量，然后将 此矢量进行量化
4
概述
“十二五”普通高等教育本科国家级规划教材
仙农 率-失真理论
率-失真理论指出，利用矢量 量化，编码性能有可能任意接近率 -失真函数，其方法是增加维数k； 该理论指出了矢量量化的优越性。 率 - 失真理论在实际应用中的 重要指导意义： 常作为一个理论下界与实际编 码速率相比较，分析系统还有多大 的改进余地。 但是，率 - 失真理论是一个存 在性定理而非构造性定理，因为它 没有指出如何构造矢量量化器。
设计矢量量化器的主要任务是设计码书。码字数 目N 给定时，由Linde，Buzo，和Gray三人1980年首 次提出矢量量化器的一个设计算法，通常称为LBG算 法。
31
6.3 矢量量化器的设计算法及MATLAB实现
“十二五”普通高等教育本科国家级规划教材
1. 已知信源分布的LBG设计算法步骤如下：
图示输入信号序列{xn}，每4个样点构成一个矢量（取 K=4），共得到n/4个4维矢量： X1，X2，X3，…，Xn/4
{ x n}
X1 X2
X3
X4
图6.1 4维矢量形成示意图
9
Xn
6.1 矢量量化基本原理
“十二五”普通高等教育本科国家级规划教材
矢量量化就是先集体量化X1，然后量化X2，依 次向下量化。下面以K=2为例说明其量化过程。
27
6.2 最佳矢量量化器
“十二五”普通高等教育本科国家级规划教材
（2）最佳码书 给定了划分Si（并不是最佳划分）后，为了使码书的 平均失真最小，码字 Yi 必须为相应划分 Si(i=1 ， 2 ，…N ) 的形心，即：
图像编码中的向量量化技术解析(一)
图像编码是计算机科学中的一个重要领域，它涉及将图像数据转化为数字信号以便于存储和传输。
其中，向量量化作为图像编码中的一种重要技术，具有着广泛的应用。
本文将从原理、应用和进展等角度，对图像编码中的向量量化技术进行解析。
一、向量量化的原理向量量化的核心思想是将高维向量映射到低维向量空间中。
在图像编码中，向量量化通常是将一幅图像分割成多个小块，每个小块被视为一个向量，然后利用聚类算法将这些向量映射到一个有限的向量码本中。
聚类算法中最常用的是K均值算法，它将样本分为指定数量的簇，使得每个样本与所属簇内的均值向量之间的距离最小。
通过K均值算法的迭代更新，可以得到一组优化的向量码本。
然后，对于每个小块向量，通过计算与码本向量之间的距离，将其映射到最接近的码本向量。
通过这样的映射，可以极大地减少图像数据的冗余性，实现图像压缩和存储。
二、向量量化的应用向量量化在图像编码中有着广泛的应用。
其中最突出的应用之一是图像压缩。
通过向量量化，可以将原始图像数据压缩到比特率较低的码流中。
这在图像传输和存储方面具有重要意义。
同时，在图像检索和图像处理领域，向量量化技术也被广泛应用。
通过将图像向量化，可以实现对大规模图像数据库的高效检索和匹配。
另外，向量量化技术还广泛应用于视频编码中。
例如，对于视频中的每一帧图像，可以对其进行向量量化，然后利用差值编码等方法，对连续帧之间的运动信息进行压缩。
这种应用可以实现视频的高效传输和存储，为视频通信和视频监控等领域提供了重要支持。
三、向量量化技术的进展随着计算机技术的发展，向量量化技术也在不断进步和演进。
传统的向量量化算法面临着计算复杂度高和码本大小限制等问题。
为了解决这些问题，研究者们提出了许多改进的方法。
一种常见的改进方法是基于矩形码本的向量量化。
通过限制码本向量的维度和范围，可以减少计算复杂度和码本大小。
此外，还有一些基于深度学习的向量量化方法被提出。
这些方法通过神经网络和自动编码器等模型，实现了更加高效和准确的图像编码。
LearningVectorQuantization（LVQ）：学习矢量量化（LVQ）
Learning Vector Quantization (LVQ) Introduction to Neural Networks : Lecture 18© John A. Bullinaria, 20041.What is Vector Quantization?2.The Encoder-Decoder Model3.Relation between a SOM and Noisy Encoder-Decoder4.Voronoi Tessellation5.Learning Vector Quantization (LVQ)What is a Vector Quantization?We have already seen that one aim of using a Self Organizing Map (SOM) is to encode a large set of input vectors {x } by finding a smaller set of “representatives” or “prototypes” or “code-book vectors” {w I(x )} that provide a good approximation to the original input space. This is the basic idea of vector quantization theory, the motivation of which is dimensionality reduction or data compression .In effect, the error of the vector quantization approximation is the total squared distanceD I =−∑x w x x ()2between the input vectors {x } and their representatives {w I(x )}, and we clearly wish to minimize this. We shall see that performing a gradient descent style minimization of D does lead to the SOM weight update algorithm, which confirms that it is generating the best possible discrete low dimensional approximation to the input space (at least assuming it does not get trapped in a local minimum of the error function).The Encoder – Decoder ModelProbably the best way to think about vector quantization is in terms of general encoders and decoders . Suppose c (x ) acts as an encoder of the input vector x , and x´(c) acts as a decoder of c (x ), then we can attempt to get back to x with minimal loss of information:Generally, the input vector x will be selected at random according to some probability function p (x ). Then the optimum encoding-decoding scheme is determined by varying the functions c (x ) and x´(c) to minimize the expected distortion defined byD d p =−′=−′∑∫x x c x x x x x c x x(())()(())22The Generalized Lloyd AlgorithmThe necessary conditions for minimizing the expected distortion D in general situations are embodied in the two conditions of the generalized Lloyd algorithm:Condition 1. Given the input vector x, choose the code c = c(x) to minimize the squared error distortion x x c−′()2.Condition 2. Given the code c, compute the reconstruction vector x´(c) as the centroid of those input vectors x that satisfy condition 1.To implement vector quantization, the algorithm works in batch mode by alternately optimizing the encoder c(x) in accordance with condition 1, and then optimizing the decoder in accordance with condition 2, until D reaches a minimum.To overcome the problem of local minima, it may be necessary to run the algorithm several times with different initial code vectors.The Noisy Encoder – Decoder ModelIn real applications the encoder-decoder system will also have to cope with noise in the communication channel. We can treat the noise as an additive random variable ν with probability density function π(ν), so the model becomes It is not difficult to see that the expected distortion is now given byD d p d νπ=−′+=−′+∑∑∫∫x x c x x x x x c x x (())()(())νν(ν)νν22The Generalized Lloyd Algorithm with NoiseTo minimize the modified expected distortion D ν we can compute the relevant partial derivatives and use the modified generalized Lloyd algorithm :Condition 1. Given the input vector x , choose the code c = c (x ) to minimize the distortion measure d ∫−′+ν(ν)νπx x c x (())2.Condition 2. Given the code c , compute the reconstruction vector x´(c) to satisfy ′=−−∫∫x c x x c c x x x x c c x ()()()()()d p d p ππ()().If we set the noise density function π(ν) to be the Dirac delta function δ(ν), that is zero everywhere except at ν = 0, these conditions reduce to the conditions we had before in the no noise case. We can usually approximate Condition 1 by a simple nearest neighbour approach, and then we can determine that the appropriate iterative updates of the reconstruction vector x´(c) for condition 2 are ∆′−−′x c c c x x x c ()~()())π()(.Relation between a SOM and Noisy Encoder–DecoderWe can now see that there is a direct correspondence between the SOM algorithm and the noisy encoder-decoder model:Noisy Encoder-Decoder Model SOM AlgorithmEncoder c(x)Best matching neuron I(x) Reconstruction vector x´(c)Connection weight vector wj Probability density function π(c – c(x))Neighbourhood function T j I,()xThis provides us with a proof that the SOM algorithm is a vector quantization algorithm which provides a good approximation to the input space.Note that the topological neighbourhood function T j I,()x in the SOM algorithm has the form of a probability density function.Voronoi TessellationA vector quantizer with minimum encoding distortion is called a Voronoi quantizer or nearest-neighbour quantizer. The input space is partitioned into a set of Voronoi or nearest neighbour cells each containing an associated Voronoi or reconstruction vector:The SOM algorithm provides a useful method for computing the Voronoi vectors (as weight vectors) in an unsupervised manner. One common application is to use it for finding good centres (input to hidden unit weights) in RBF networks.Learning Vector Quantization (LVQ)Learning Vector Quantization (LVQ) is a supervised version of vector quantization that can be used when we have labelled input data. This learning technique uses the class information to reposition the Voronoi vectors slightly, so as to improve the quality of the classifier decision regions. It is a two stage process – a SOM followed by LVQ:This is particularly useful for pattern classification problems. The first step is feature selection – the unsupervised identification of a reasonably small set of features in which the essential information content of the input data is concentrated. The second step is the classification where the feature domains are assigned to individual classes.The LVQ AlgorithmThe basic LVQ algorithm is actually quite simple. It starts from a trained SOM with input vectors {x } and weights/Voronoi vectors {w j }. We then use the classification labels of the inputs to find the best classification label for each w j , i.e. for each Voronoi cell. It is unlikely that these Voronoi cell boundaries will match the classification boundaries. The LVQ algorithm attempts to correct this by shifting the boundaries:1. If the input x and the associated Voronoi vector/weight w I(x ) (i.e. the weight ofthe winning output node I (x )) have the same class label, then move them closer together by ∆w x w x x I I t t t ()()()()())=−β( as in the SOM algorithm.2. If the input x and associated Voronoi vector/weight w I(x ) have the differentclass labels, then move them apart by ∆w x w x x I I t t t ()()()()())=−−β(.3. Voronoi vectors/weights w j corresponding to other input regions are leftunchanged with ∆w j t ()=0.where β(t ) is a learning rate that decreases with the number of iterations/epochs of training. In this way we get better classification than by the SOM alone.The LVQ2 AlgorithmA second, improved, LVQ algorithm known as LVQ2 is sometimes preferred because it comes closer in effect to Bayesian decision theory.The same weight/vector update equations are used as in the standard LVQ, but they only get applied under certain conditions, namely when:1.The input vector x is incorrectly classified by the associated Voronoi vector wI(x).2.The next nearest Voronoi vector wS(x)does give the correct classification, and3.The input vector x is sufficiently close to the decision boundary (perpendicularbisector plane) between wI(x) and wS(x).In this case, both vectors wI(x) and wS(x)are updated (using the incorrect and correctclassification update equations respectively).Various other variations on this theme exist (LVQ3, etc.), and this is still a fruitful research area for building better classification systems.Overview and Reading1.We began with an overview of what vector quantization is.2.We then looked at general encoder-decoder models and noisy encoder-decoder models, and the generalized Lloyd algorithm for optimizing them. This led to a clear relation between SOMs and vector quantization.3.We ended by studying learning vector quantization (LVQ) from thepoint of view of Voronoi tessellation, and saw how the LVQ algorithm could optimize the class decision boundaries generated by a SOM.Reading1.Haykin: Section 9.5, 9.7, 9.8, 9.10, 9.112.Beale & Jackson: Sections 5.63.Gurney: Section 8.3.64.Hertz, Krogh & Palmer: Sections 9.25.Ham & Kostanic: Section 4.1, 4.2, 4.3。
第03章 图像的数字化与显示
存储(cún chǔ)这幅图像所需的位数是：
b = M·N·G = 2m+n+k
（2.2a）
如果图像是正方形？
图像尺寸的增加，所需的存储空间？
共四十二页
Slide 11
3.1.4 二维采样 定理 (cǎi yànɡ)
图像在取样时，必须满足二维采样定理，确保无失真或有限失 真地恢复原图像 。
对测试图像进行 适当裁剪并显示
K = I(2*W:S(1)-W,2*W:S(2)-5*W) ; imshow(K);
处理后的图像。
Slide 9
共四十二页
共四十二页
Slide 10
3.1.2 数字图像的数据量
假定图像尺寸为M、N，每个像素所具有的离散灰度级 数为G
这些量分别取为2的整数幂m，n，k，即M=2m，N=2n，G=2k
特别是CCD摄像机采用CCD器件替代摄像管实 行光电转换、电荷存储与电荷转移。
Slide 31
共四十二页
CCD摄像机
VLSI产品，由于体积小、重量轻、寿命长、成像速度 快、成本低、灵敏度高、图像无几何失真，已成为视 频信号的常用输入设备。
拍摄的图像质量与CCD的数量(shùliàng)、CCD的感光面积、
灰度图像和彩色图像的描述方法(fāngfǎ)。 重点讨论灰度静止图像。 数字图像的获取方法，重点讲解图像的采样与量化。 量化方法分标量量化和向量量化。
图像的输入/输出设备。
共四十二页
Slide 3
3.1 图像数字化的基本(jīběn)过程
3.1.1 图像的取样和量化 数字化包括取样和量化两个过程 ：
f
(x,
y)＝
m
n
f
(mx,
数字图像处理第三章 图象处理中的压缩编码
小波分解的不同分辨级或不同尺度和不同方 向的系数有一定对应关系，可以构成小波树， 如图3-4所示小波三级分解树结构。阴影部分 低频区每一根节点分出水平，垂直和对角三 个节点。这三个节点再向各自方向生长出四 个分支，各分支再向各自方向生长出四个分 支，直到结束。按照各自方向生长出分支形 成的树结构如图3-4 (b)所示，每个树分支的节 点数为 21个(1+4+16)，定义垂直和水平矢量 量化为21维矢量。
矢量激励编码在语音压缩编码中获得成功地运 用。矢量激励编码保持了VQ矢量的高效性， 并且使码本大小大为减少。在码激励线性预测 (CELP)中，操作处理是一个时变滤波器。滤波 器的参数是对输入矢量X(n)的线性预测分析来 确定。把每个m个输入矢量集对应的滤波器参 数进行量化，并把它和剩余量化矢量的码本传 输给接收机。在闭环的CELP中，滤波器的参 数经过量化后，可以获得最佳重建的剩余项被 确定和传输。闭环的CELP技术在语音数据编 码中获得非常成功的应用。二维图象的CELP 可以使预测后的剩余量的矢量量化码本减小， 其操作过程正如语音中的闭环的CELP技术。
3． 根据各子图象的空间与频率对应关系，只 对低频（亮度）子图象计算均值。因为 WT 能 使信号能量集中于低频子图象，低频子图象变 化相对缓慢，其均值可能会在较大范围内变化， 必须传送。而对各高频子图象，能量相对分散， 通过大量的统计研究表明，均值接近于零。所 以可不对各个子块进行均值计算，直接对各个 子块进行标量量化形成传送的码流。这样对这 几个高频子带可进行一步提高压缩比。
3.3小波树结构快速矢量量化编码方 法
本节提出基于人眼视觉属性和应用小波树结 构快速图象编码的矢量量化图象编码方法， 简称为树结构快速矢量量化编码。本树结构 快速矢量量化编码方法与传统的树结构快速 矢量量化编码方法最大不同是引入小波零树， 以零树为树结构矢量量化的树结构，可实行 预测，从而极大地提高了效率。树结构快速 矢量量化编码方法能获得40倍压缩比，峰值 信噪比为36.21dB， 综合性能指标优于其它方 法，有可能实现实时数据压缩。