机器学习中交叉验证方法

机器学习中的交叉验证方法，可以用于分类结果的验证，参数的选择验证等

function [cvmsegam_bestsig2_best] = crossvalidate（XtrainYtraingam_mingam_maxsig2_minsig2_maxk）
%%%%%%%%%%%%%%%
%子程序_交叉验证程序
%
%
%函数输入：Xtrain-训练集的输入，Ytrain-训练集的输出，gam_min-惩罚参数选择范围的最小值，
%         gam_max-惩罚参数选择范围的最大值，sig2_min-宽度系数选择范围的最小值，
%         sig2_max-宽度系数选择范围的最大值，k-交叉验证的折数
%函数输出：cvmse-交叉验证精确度，gam_best-最佳惩罚系数，sig2_best-最佳宽度系数
%
%
%
number = size（Xtrain1）;
%将gam和sig2划分网格
[XY] = meshgrid（gam_min:0.1:gam_maxsig2_min:0.05:sig2_max）;
[mn] = size（X）;
%cv对应不同gam，sig2的验证误差
cv = zeros（mn）;
eps = 10^（-4）;
%
%
gam_best = 0;
sig2_best = 0;
mse_sum = 0;
cvmse = Inf;
%
step = floor（number/k）;
%交叉验证
for i = 1:m
    for j = 1:n
        gam = 10^X（ij）;
        sig2 = 10^Y（ij）;
        %将Xtrain分成k组
        for t = 1:k
            if t~=k
                startpoint = （t-1）*step +1;
                endpoint = t*step;
            else
                startpoint = （t-1）*step+1;
                endpoint = number;
            end
            %%%取一组为验证数据
            validate_in = Xtrain（startpoint:endpoint:）;
            validate_out = Ytrain（startpoint:endpoint:）;            
            %%%剩余样本为训练数据
            train_in = Xtrain;
            train_in（startpoint:endpoint:） = ‘‘;
            train_out = Ytrain;
            train_out（startpoint:endpoint:） = ‘‘;
            %
            [outmse] = lssvm_regression（train_intrain_outgamsig2validate_invalidate_out）;         
        end
        mse_sum = sum（mse）;
        cv（ij） = mse_sum/k;        
        if cv（ij） < cvmse
            cvmse = cv（ij）;
            gam_best = gam;
            sig2_best = sig2;
        end
        % 达到精度后取小的gam
        if abs（cv（ij）-cvmse）<=eps && gam_best>gam
            cvmse = cv（ij）;
            gam_best = gam;
            sig2_best = sig2;
        end
    end
end

 属性            大小     日期    时间   名称
----------- ---------  ---------- -----  ----

     文件       2016  2013-01-05 13:02  crossvalidate.m

----------- ---------  ---------- -----  ----

                 2016                    1