陆振波SVM的MATLAB代码解释

%构造训练样本
n = 50;
randn('state',6);
x1 = randn(2,n); %2行N列矩阵
y1 = ones(1,n); %1*N个1
x2 = 5+randn(2,n); %2*N矩阵
y2 = -ones(1,n); %1*N个-1
figure;
plot(x1(1,:),x1(2,:),'bx',x2(1,:),x2(2,:),'k.');
%x1(1,:)为x1的第一行，x1(2,:)为x1的第二行
axis([-3 8 -3 8]);
title('C-SVC')
hold on;
X = [x1,x2]; %训练样本d*n矩阵，n为样本个数，d为特征向量个数
Y = [y1,y2]; %训练目标1*n矩阵，n为样本个数，值为+1或-1
%训练支持向量机
function svm = svmTrain(svmType,X,Y,ker,p1,p2)
options = optimset; % Options是用来控制算法的选项参数的向量
rgeScale = 'off';
options.Display = 'off';
switch svmType
case'svc_c',
C = p1;
n = length(Y);
H = (Y'*Y).*kernel(ker,X,X);
f = -ones(n,1); %f为1*n个-1,f相当于Quadprog函数中的c
A = [];
b = [];
Aeq = Y; %相当于Quadprog函数中的A1,b1
beq = 0;
lb = zeros(n,1); %相当于Quadprog函数中的LB，UB
ub = C*ones(n,1);
a0 = zeros(n,1); % a0是解的初始近似值
[a,fval,eXitflag,output,lambda] = quadprog(H,f,A,b,Aeq,beq,lb,ub,a0,options); %a是输出变量，它是问题的解
% Fval是目标函数在解a 处的值
% Exitflag>0,则程序收敛于解x
Exitflag=0,则函数的计算达到了最大次数
Exitflag<0,则问题无可行解，或程序运行失败
% Output 输出程序运行的某些信息
%Lambda 为在解a 处的值Lagrange 乘子
%支持向量机的数学表达式：
()()C
y st X X K y y W i i l
i i j i j i j l
j i i l
i i ≤≤=+-=∑∑∑===αααααα00
:,21min 11,1
(i=1 to L)
Quadprog 函数：
cx Hx x T
+2
1min
St:()
()
()
有界约束等式约束
不等式约束UB x LB b x A b Ax ≤≤=≤11
因此，H = (Y'*Y).*kernel(ker,X,X)
支持向量机的数学表达式中的最优解为
T l
),...,(***1
ααα=，∑==l
i i i i x y W 1
**α，
)2/()*(*1
*1
*∑∑==-=i y i l
i i i x W B αα
%寻找支持向量
a = svm.a;
epsilon = 1e-8;
i_sv = find(abs(a)>epsilon); %0<a<a(max)则认为x 为支持向量 plot(X(1,i_sv),X(2,i_sv),'ro');
%构造测试数本
[x1,x2] = meshgrid(-2:0.05:7,-2:0.05:7); %x1和x2都是181*181的矩阵 [rows,cols] = size(x1); %M=size(x1,1):返回x 数组的行数181
%N=size(x1,2):返回x 数组的列数181
nt = rows*cols;
Xt = [reshape(x1,1,nt);reshape(x2,1,nt)];
%reshape(x1,1,nt)是将x1转成1*（181*181）的矩阵；所以Xt 是一个2*(181*181)的矩阵
%测试输出
tmp = (a.*Y)*kernel(ker,X,X(:,i_sv)); %∑==l
i i i i x X K y a
tmp 1
*),(
b = 1./Y(i_sv)-tmp;
b = mean(b); %∑=-=l
i j i i i x x K yi y b
1
*),(α
tmp = (a.*Y)*kernel(ker,X,Xt); %∑==
l
i i i i x X K y a
tmp 1
*
),( Xt 是要进行判别
Yd = sign(tmp+b); % }),(sgn{)(1
*∑=+=l
i i i i b X x K a y x f
%分界面
Yd = reshape(Yd,rows,cols)
contour(x1,x2,Yd,[0 0],'m'); % Contour 函数：曲面的等高线图。