信息论报告资料

实验一 字典编码

1. 题目要求：

Write a program that executes the Lempel Ziv algorithm .The input to the program can be the English alphabets .It should convert the alphabets into their ASCII code and then perform the compression routine. It should output the expression achieved .Using this program ,find out the compression achieved for the following strings of letters.

(i) The Lempel Ziv can express the English text by about fifty five percent. (ii) The cat cannot sit on the canopy of the car. 2.算法设计：

1）建立初始字典，该字典含有ASCII 值为0--255共256个字符，同时将新字典开始和结束的标志添加到字典。

2）对字符串进行编码，得到相应的码字。 译码流程图： 3) 对得到的码字进行译码，得到字符串。

编码流程图：

开始 从文本中读入一个字符c1

c 是不是字典内的字符

否

从文本中读入一个字符c2 c=[c1,c2]; 将c 添加到字典中，发送c1的编码， c1=c2

文本是不是已经结束

是

c1=c 否

开始

从码字流中读入一个码字，译出其字符c1

从文本中读入一个码字，译出该码字c2，

c=[c1,c2[1]],将c 加入字典

c1=c2

文本是不

是已经结束

是

结束

否

3.程序代码：

1） 建立新字典：

function [ new_dic ] = Creat()

%UNTITLED 此处显示有关此函数的摘要 % 此处显示详细说明

new_dic=zeros(512,30); new_dic=uint8(new_dic); for i=1:256

new_dic(i,1)=i-1; end

new_dic=char(new_dic);

new_dic(257,1:12)='new char....'; new_dic(258,1:7)='next...';

end

2)找到字符（串）在字典中的位置：

function [ position ] =fin(dic,str) %UNTITLED2 此处显示有关此函数的摘要 % 此处显示详细说明 [M N]=size(str); position=0;

for i=1:512

if dic(i,1:N)==str position=i; b reak; end end

position=int32(position); end

3)根据位置查找字符（串）：

function [str]=get_str(dic,position)

for i=1:30

if dic(position,i)~=0 N=i; else break ; end end

str(1:N)=dic(position,1:N);

是

结束

end

4)向字典中添加新字符：

function [ dic ] = addnew( new_dic,str )

%UNTITLED5 此处显示有关此函数的摘要

% 此处显示详细说明

dic=new_dic;

[M,N]=size(str);

m=fin(dic,'next...');

dic(m,1:7)=0;

dic(m,1:N)=str;

dic(m+1,1:7)='next...';

end

5）编码程序：

function [ code_out,dic_out ] = LZ(dic_in,str)

%UNTITLED2 此处显示有关此函数的摘要

% 此处显示详细说明

dic_out=dic_in;

[M,N]=size(str);

counter=1;

if N==0

code_out(counter)=fin(dic_out,'new char...');

counter=counter+1;

code_out(counter)=fin(dic_out,'next...');

return;

end

if N==1

code_out(counter)=fin(dic_out,'new char...');

counter=counter+1;

s3=str;

code_out(counter)=fin(dic_out,s3)

counter=counter+1;

code_out(counter)=fin(dic_out,'next...');

return;

end

if N>1

code_out(counter)=fin(dic_out,'new char...'); counter=counter+1;

end

s1=str(1);

for i=2:N

s2=str(i);

s=[s1,s2];

p=fin(dic_out,s);

if p~=0 %有这个元素。

s1=s;

else

dic_out=addnew(dic_out,s);

code_out(counter)=fin(dic_out,s1);

counter=counter+1;

s1=s2;

end

end

code_out(counter)=fin(dic_out,s1);%important

counter=counter+1;

code_out(counter)=fin(dic_out,'next...');

end

6）译码程序：

function [ str,dic_out] =Decodel( new_dic,code)

%UNTITLED2 此处显示有关此函数的摘要

% 此处显示详细说明

dic_out=new_dic;

[M,N]=size(code);

disp(N);

if code(1)~=fin(dic_out,'new char....');

msgbox('码字错误，无法解码','错误提示');

return ;

end

s1=get_str(dic_out,code(2));

s1=char(s1);

str=s1;

for i=3:(N-1)

s2=get_str(dic_out,code(i));

s=[s1,s2(1)];

dic_out=addnew(dic_out,s);

str=[str,s2];

s1=s2;

end

end

7)脚本文件：

clear;

new_dic=Creat();

[code,dic_out]=Code(new_dic,'The Lempel Ziv algorithm can express the English text by about fifty five percent');

[str,dic_out1]=Decodel(new_dic,code);

disp(str);

new_dic1=Creat();

[code1,ydic_out]=Code(new_dic1,'The cat cannot sit on the canopy of the car'); [str1,ydic_out1]=Decodel(new_dic1,code1);

disp(str1);

4.运行结果：

编码生成字典与译码生成字典进行比较：

该程序正确的完成了编码和译码任务，两个过程生成的字典完全一致，也从侧面验证了该程序的正确性。

实验二计算信道容量

1.题目要求：

Write a compute program that takes in the channel transition probability matrix and computes the capacity of the channel.

流程图：

2.算法设计：

(1)设定信道转移概率矩阵。

(2)设定各信源发送的初始概率。

(3)计算各信宿的接收概率。

(4)将接收概率与设定的精度进行比较。

(5)根据一定的规则重新设定信源的发送概率。

(6)重复（3）（4）（5）直到满足设定的精度再结束计算信道容量。

3.程序代码：

1）计算信道容量：

function [ C,px ] = compute_m( pyx,e )

%UNTITLED3 此处显示有关此函数的摘要

% 此处显示详细说明

[M,N]=size(pyx);

px(1:N,1)=1/N;

disp(N);

py=pyx*px;

s=0;

for j=1:N

for i=1:M

if pyx(i,j)<0

error('输入概率错误');

end

s=s+pyx(i,j);

end

if s~=1

error('输入概率错误');

end

s=0;

end

开始

结束

输入转移概率矩阵，精度计算信宿的接受概率

计算信道容量

是否满足

精度要求

是

否

重新分配信源概率

while(1)

for j=1:N

sum_i=0;

for i=1:M

if (pyx(i,j))

sum_i=sum_i+(pyx(i,j)*log(pyx(i,j)/py(i)));

end

end

f(j)=exp(sum_i);%( , , , )

end

x=f*px;

Il=log2(x);

Iu=log2(max(f));

if(Iu-Il

C=Il;

break;

else

for j=1:N

px(j,1)=f(j)*px(j,1)/x;

end

py=pyx*px;

end

end

disp(f);

end

2）脚本文件：

clear;

pyx=[0.65 0.25 ;0.25 0.35;0.1 0.4];

e=0.1;

[C,px]=compute_c(pyx,e);

4.程序运行结果：

可以看出，该程序利用迭代算法可以正确的计算出信道容量C。

实验三汉明码

1.题目要求：

Write a computer program for a universal binary Hamming encoder with rate(2^m-1)/(2^m-m-1)The program should take as input the value of m and a bit-stream to be encoded.It should then generate an encoded bit-stream.Develop a program for the decoder also.

Now,perform the following takes:

(i)Write an error generator module that takes in a bit stream and output another bit-stream after inverting every bit with probability p,i.e,the probability of a bit error is p.

(ii)For m=3,pass the Hamming encoded bit-stream through the above-mentioned module and then decode the received words using the decoder block.

2.算法设计：

1）根据m构造G矩阵和H矩阵。

2）根据生成矩阵对码字进行编码，

3) 随机生成错误，并将错误加入到码字中，

4）对接收到的码字进行译码。

流程图：开始

输入m,p,计算GH

C=mG,并添加错误

3.程序代码：

1）创建P矩阵：

function [ P ] = Creat_P(m)

%UNTITLED 此处显示有关此函数的摘要

% 此处显示详细说明

n=2^m-1;

k=2^m-1-m;

r=n-k;

counter=1;

P=zeros(k,r);

for i=1:n

if mod(log2(i),1)~=0 %由于n=2^m-1,所以内层循环最多m次。（0--m）

t=dec2bin(i,m); %dec2bin用于将十进制整数转换成二进制的形式，并且保存在一个字符串中，for q=1:m

P(counter,q)=t(1,q)-48;

end

counter=counter+1;

end

end

end

2）创建GH矩阵：

function [G,H] = Creat_GH(m)

%UNTITLED3 此处显示有关此函数的摘要

% 此处显示详细说明

n=2^m-1;

k=2^m-1-m;

IG=eye(k);

P=Creat_P(m);

G=[IG,P];

IH=eye(n-k);

H=[P',IH];% 二元域加等同于减

end

3）根据m 的值得到将要编码的码字：

function [ code ] = Creat_h( m )

%UNTITLED4 此处显示有关此函数的摘要

% 此处显示详细说明

k=2^m-1-m;

l=2^k;

code=zeros(2^k,k);

for i=0:(l-1)

t=dec2bin(i,k);

for j=1:k

code(i+1,j)=t(1,j)-48;

end

end

end

4）编码：

function [dCode] = Code1(yCode,G )

%UNTITLED4 此处显示有关此函数的摘要

% 此处显示详细说明

dCode=yCode*G;

dCode=mod(dCode,2);%保证每个码字的值不超过二。end

5）生成错误：

function [ dCode ] = Creat_e(yCode,p )

%UNTITLED5 此处显示有关此函数的摘要

% 此处显示详细说明

[M,N]=size(yCode);

dCode=yCode;

for j=1:M

for i=1:N

if rand(1)

dCode(j,i)=mod(yCode(j,i)+1,2);

break;

end

end

end

end

6）译码：

function [Code,t,error] =decode1(yCode,H) %UNTITLED6 此处显示有关此函数的摘要

% 此处显示详细说明

[M,N]=size(H);%r*n N-M=k

[C,R]=size(yCode);%yCode为输入要译的码字

error=0;

H1=H';

t=zeros(C,R);

Code=zeros(C,N-M);

r=mod(yCode*H1,2);%有错误则r不为零。C 行，r列e=eye(N);%单个错误的类型

s=e*H1;%N行，r列。

position=sum(r,2);

dCode=yCode;

for i=1:C

if position(i,1)~=0

error=1;

for j=1:N

if s(j,:)==r(i,:)

dCode(i,:)=dCode(i,:)+e(j,:);

t(i,j)=1;

break;

end

end

end

end

dCode=mod(dCode,2);

for i=1:C

Code(i,1:N-M)=dCode(i,1:N-M);

end

disp(dCode);

end

7）脚本文件：

clear;

m=input('m=');

p=0.05;

[G,H]=Creat_GH(m);

code_in=Creat_h(m);

code_word=Code1(code_in,G);

error_word=Creat_e(code_word,p);

[code_out,t,error]=decode1(error_word,H);

4.运行结果：

e=1说明发生了错误。

编码得到的码字

添加错误后的码字：

对比编码前的码字和编码后的码字：两者完全一致，译码成功。

实验四CRC循环码

1.题目要求：CRC-16循环冗余检验码的编码和译码，g(x)=x^16+x^15+x^2+1.

2.算法设计；

1）按照一定的规律得到要编码的码字。

2）根据公式c(x)=x^r*m(x)+x^r*m(x)/g(x)编码。 3）根据s=e(x)/g(x),得到syndrome table 。 4）随机生成错误e,v=c+e; 5）计算v/g,并译码。 流程图：

3.程序代码： 1）按一定的规律生成码字：

function [code ] =creat_c(m)

%UNTITLED3 此处显示有关此函数的摘要 % 此处显示详细说明 k=2^m-1-m; l=2^k; disp(l);

code=zeros(l,k); for i=0:(l-1) t=dec2bin(i,k); for j=1:k

code(i+1,j)=t(1,j)-48; end end end

2）随机产生错误：

function [ dCode ] = Creat_e(yCode,p ) %UNTITLED5 此处显示有关此函数的摘要 % 此处显示详细说明 [M,N]=size(yCode); dCode=yCode;

开始

得到码字m 编码得到c,并添加错误，得到v S=e/g ’,得到

syndrome table

C 的前几位即为m 计算vH ’,将不为零的行跟

syndrome table 的行进行比

对

得到错误e ，c=v-e; 结束

for j=1:M

for i=1:N

if rand(1)

dCode(j,i)=mod(yCode(j,i)+1,2);

break;

end

end

end

end

3）译码：

function [Code,t,error] =decode1(yCode,g) %UNTITLED6 此处显示有关此函数的摘要

% 此处显示详细说明

[M,N]=size(yCode);%yCode为输入要译的码字error=0;

t=zeros(M,N);

Code=zeros(M,N-16);

v_error=zeros(M,N);

for i=1:M

[q,r]=deconv(yCode(i,:),g);

v_error(i,:)=mod(r,2);

end

e=eye(N);%单个错误的类型

s=zeros(N);

for i=1:N

[q,f]=deconv(e(i,:),g);

s(i,:)=mod(f,2);

end

position=sum(v_error,2);

dCode=yCode;

for i=1:M

if position(i,1)~=0

error=1;

for j=1:N

if s(j,:)==v_error(i,:)

dCode(i,:)=dCode(i,:)+e(j,:);

t(i,j)=1;

break;

end

end

end

end

dCode=mod(dCode,2);

for i=1:M

Code(i,1:N-16)=dCode(i,1:N-16);

end

end

4）脚本文件（含编码）：

g=[1 1 0 0 0 0 0 0 0 0 0 0 0 0 1 0 1];%g(x)是r次的，一共r+1比特。code_in=creat_c(3);

n=7;

k=4;

x=zeros(2^k,16);

code=[code_in,x];

code_t=code;

for i=1:16

[q,r]=deconv(code(i,:),g);

code_t(i,:)=mod((code_t(i,:)+mod(r,2)),2);

end

error_code=Creat_e(code_t,0.05);

[code_out,t,error]=decode1(error_code,g);

4.运行结果：

编码前的码字

编码后的码字（两张图一起共20个码字）：

添加错误之后的码字（两张图一起共20个码字）：

译码后的码字：

编码前后码字一致，完成了编码和译码操作。

实验五卷积码

1.题目要求

Write a Viterbi Decoder in software that takes in the following:

(i)code parameters in the Octal Format,and

(ii)the received bit-stream

The decoder then produces the survivors and the decoded bit stream

2.算法流程

1）建立状态表用于储存寄存器的每一个状态。

3）对待编码序列进行编码，得到码字后添加错误。

2）计算每一条路径的汉明距离。

3）选择最小汉明距离的路径作为解码结果，并根据最小路径纠错。

流程图：

开始

输入参数，建立状态表

从待编码序列读入一

个字符，得到输出码字

待编码序列是

否

否结束

是

得到编码后的码字

将状态表恢复为00状态

输入0、1分别进入

不同的路径

译码输出的码字

是否和编码的码

否

字的数量一致