实验二 香农编码的计算与分析

实验二 香农编码的计算与分析

一、[实验目的]

1、理解香农第一定理指出平均码长与信源之间的关系。

2、加深理解香农编码具有的重要理论意义。

3、掌握Shannon 编码的原理。

4、掌握Shannon 编码的方法和步骤。

5、熟悉shannnon 编码的各种效率

二、[实验环境]

windows XP,MATLAB 7

三、[实验原理]

香农第一定理：

设离散无记忆信源为

12 (1)

(2)....()S s s sq

P p s p s p sq ????=???????? 熵为H(S)，其N 次扩展信源为 12 (1)

(2)....()N q S p p p q P αααααα????=???????? 熵为H(S N )。码符号集X=（x1,x2,…,xr ）。先对信源N S 进行编码，总可以

找到一种编码方法，构成惟一可以码，使S 中每个信源符号所需的平均码长满足： 1N L H S H S N N +>≥（）（）logr logr

当N →∞时 lim ()N r N L H S N

→∞= N L 是平均码长 1

()N

q N i i i L p αλ==∑ i λ是i α对应的码字长度

四、[实验内容]

1、根据实验原理，设计shannon 编码方法，在给定

条件下，实现香农编码并算出编码效率。

2、请自己构造两个信源空间，根据求Shannon 编码结果说明其物理意义。

五、[实验过程]

每个实验项目包括：1)设计思路2)实验中出现的问题及解决方法；

要求：

1）有标准的实验报告 （10分）

2）程序设计和基本算法合理（30分）

3）实验仿真具备合理性（30分）

4）实验分析合理（20分）

5）能清晰的对实验中出现的问题进行分析并提出解决方案（10分）

S

P s1 s2 s3 s4 s5 s6 s7

0.01 0.17 0.19 0.10 0.15 0.18 0.2

=

附录：程序设计与算法描述参考（1））按降序排列概率的函数

%[p,x]=array(P)为按降序排序的函数%

%P为信源的概率矢量，x为概率元素的下标矢量% %P为排序后返回的信源的概率矢量%

%x为排序后返回的概率元素的下标矢量%

%******************************%

function[p,x]=array(P)

n=length(P);

X=1:n;

P=[P;X];

for i=1:n

max=P(1,i);

maxN=i;

MAX=P(:,i);

for j=i:n

if(max

MAX=P(:,j);

max=P(1,j);

maxN=j;

end

end

if (maxN>1)

if (i

for k=(maxN-1):-1:i

P(:,k+1)=P(:,k);

end

end

end

P(:,i)=MAX;

end

p=P(1,:);

x=P(2,:);

（2）Shannon编码算法

% shannon编码生成器%

% 函数说明：%

% [W,L,q]=shannon(p) 为Shannon编码函数%

% p 为信源的概率矢量，W为编码返回的码字%

% L 为编码返回的平均码字长度，q 为编码概率%

% ******************************************************* %

function [W,L,q] =shannon(p)

% 提示错误信息%

if (length(find(p<=0)) ~=0)

error('Not a prob.vector.negative component'); % 判断是否符合概率分布条件end

% 1) 排序

if (abs(sum(p)-1)>10e-10)

error('Not a https://www.360docs.net/doc/1a262795.html,ponent do not add up to 1') %判断是否符合概率和为1

end

[p,x]=array(p);

% 2) 计算代码组长度l

l=ceil(-log2(p));

% 3) 计算累加概率P

P(1)=0;

n=length(p);

for i=2:n

P(i)=P(i-1)+p(i-1);

end

% 4) 求得二进制代码组W

% a) 将十进制数转为二进制数

for i=1:n

for j=1:l(i)

temp(i,j)=floor(P(i)*2);

P(i)=P(i)*2-temp(i,j);

end

end

% b) 给W赋ASCII码值，用于显示二进制代码组W for i=1:n

for j=1:l(i)

if (temp(i,j)==0)

W(i,j)=48;

else

W(i,j)=49;

end

end

end

L=sum(p.*l); % 计算平均码字长度

H=entropy1(p,2); % 计算信源熵

q=H/L; % 计算编码效率

for i=1:n

B{i}=x(i);

end

% [n,m]=size(W);

% TEMP=32*ones(n,6);

% W=[W,TEMP];

% W=W';

% [n,m]=size(W);

% W=reshape(W,1,n*m);

% W=sprintf('%s',W);

[m,n]=size(W);

TEMP=blanks(m);

W=[W,TEMP',TEMP',TEMP'];

[m,n]=size(W);

W=reshape(W',1,m*n);

s0='很好！输入正确，编码结果如下：';

s1='Shannon编码所得码字W：';

s2='Shannon编码平均码字长度L：';

s3='Shannon编码的编码效率q：';

disp(s0);

disp(s1),disp(B),disp(W); disp(s2),disp(L);

disp(s3),disp(q);