信息论的编码

香农编码

function c = shannon(p)

% p = [0.2 0.15 0.15 0.1 0.1 0.1 0.1 0.1]

% shannon(p)

[p , index] = sort(p) ;%让p中的元素升序排列

p = fliplr(p) ;% 让p中的元素倒序排列

n = length(p) ;%计算p中元素的个数

pa = 0 ; %累加概率的计算

for i = 2:n

    pa(i) = pa(i - 1) + p(i - 1) ;  

end

k = ceil(-log2(p)) ; %对子信息量的向上取整，计算的是码长

c = cell(1,n) ;

for i = 1:n

    c{i} = '' ;

    tmp = pa(i) ;

    for j = 1:k(i)

        tmp = tmp * 2 ;

        if tmp >= 1

            tmp = tmp -1 ;

            c{i}(j) ='1' ;

        else

            c{i}(j) ='0' ;

        end

    end

end

c = fliplr(c) ;

c(index) = c ;

 

fano编码

functionc = fano(p)
% p= [0.25 0.25 0.20 0.15 0.10 0.05]
% c= fano(p)
n =size(p , 2) ;
%已经编码完成
if n ==1
    c= cell(1,1);
    c{1}= '' ;
    return
end
[p ,index] = sort(p);%按概率排序
p =fliplr(p) ;
total= sum(p) ;%总概率
acc= 0 ;%累积概率
flag= 0 ;%是否到达尾部的标志
for i =1:n-1
    newacc= acc + p(i) ;
    if abs(total- 2 * newacc) >= abs(total - 2 * acc)
        flag= 1 ;
        break;   
    end
    acc= newacc ;
end
if ~flag
    i= n ;
end
split= i ;
%从分界点对两边的码递归做fano
c1 =fano(p(1:split-1)) ;
c2 =fano(p(split:n)) ;
c =cell(1,n) ;
%添加前缀0，1
for i =1:split-1
    c{i}= strcat('0' , c1{i}) ;
end
for i =split:n
    c{i}= strcat('1' , c2{i - split + 1} ) ;
end
%将顺序调整回去
c =fliplr(c) ;
c(index)= c ;
 

2.霍夫曼编码

function c = huffman(p)

% p = [0.2 0.15 0.15 0.1 0.1 0.1 0.1 0.1]

n = size(p , 2) ;%给出p中元素个数

if n == 1 %信源是不是缩减到一个元素，若if为真

    c = cell(1,1) ;

    c{1} = '' ;%开始回溯

    return    

end

[p1 , i1] = min(p) ;%把p中最小元素给p1，i1记录p1的位置

index = [(1:i1-1) , (i1+1:n)] ;%找到第一个最小概率并剔除

p = p(index) ;

n = n - 1 ;

[p2 , i2] = min(p) ;

index2 = [(1:i2-1) , (i2+1:n)] ;

p = p(index2);

i2 = index(i2) ;

index = index(index2) ;

p(n) = p1 + p2 ; %在信源中添加新符号概率为最小概率相加

c = huffman(p) ; %递归调用huffman函数，进一步的进行信源缩减，直到信源元素为一

c{n+1} = strcat(c{n} , '1') ;

c{n} = strcat(c{n} , '0') ;

index = [index , i1 , i2] ;

c(index) = c ;%在回溯过程中重新建立编码

 

3. 游程编码

 

image1=imread('C:\Program Files\MATLAB71\work\1\girl.jpg'); %读入图像

imshow(image1);       %显示原图像(右图)

 

% 以下程序是将原图像转换为二值图像

image2=image1(:);  %将原始图像写成一维的数据并设为 image2

image2length=length(image2); % 计算image2的长度

 for i=1:1:image2length  % for 循环，目的在于转换为二值图像

if     image2(i)>=127

image2(i)=255;

else   image2(i)=0;

end

end

image3=reshape(image2,146,122); % 重建二维数组图像，并设为image3

figure,imshow(image3);%（右图）

 

% 以下程序为对原图像进行游程编码，压缩

X=image3(:);  %令X为新建的二值图像的一维数据组

x=1:1:length(X);   % 显示游程编码之前的图像数据

 figure,

plot(x,X(x));

 

j=1;

image4(1)=1;

for z=1:1:(length(X)-1)  % 游程编码程序段

if  X(z)==X(z+1)

image4(j)=image4(j)+1;

else

data(j)=X(z);  % data(j)代表相应的像素数据

j=j+1;

image4(j)=1;

end

end

data(j)=X(length(X));    % 最后一个像素数据赋给data

image4length=length(image4);  % 计算游程编码后的所占字节数，记为image4length

y=1:1:image4length ;          % 显示编码后数据信息

figure,

plot(y,image4(y));

 

CR=image2length/image4length;   % 比较压缩前于压缩后的大小

 

% 下面程序是游程编码解压

 l=1;

for m=1:image4length

    for n=1:1:image4(m);

        rec_image(l)=data(m);

        l=l+1;

     end

    end

u=1:1:length(rec_image);       % 查看解压后的图像数据

figure,plot(u,rec_image(u));

rec2_image=reshape(rec_image,146,122); % 重建二维二维图像数组

figure,imshow(rec2_image);          % 显示解压恢复后的图像

 

 

 

 

 

 

平均码长  编码效率

 

functionf = acl(p , c)
%f =acl(p,c)
%p:probability, c:code
%return :average code length
 
c =fano(p);
4000
f =0 ;
r =0 ;
for i =1:length(p)
    f= f + p(i) * length(c{
i
});   
end
for i =1:length(p)
    r= r - p(i)* log2(p(i)) ;   
end
H =r
L =f
P =H/L