案例13.rar_paragraphj7v_支持向量机_粒子群向量机_粒子群算法

共35个文件

png：26个

html：4个

m：4个

版权申诉

支持向量机

粒子群算法

79 浏览量 2022-07-15 08:39:38 上传评论收藏 275KB RAR 举报

《支持向量机与粒子群算法在红酒分类案例中的应用》本文将深入探讨一个具体的机器学习案例——红酒分类，其中涉及到了支持向量机（SVM）和粒子群优化算法（PSO）的应用。我们需要理解这两种算法的基本原理。支持向量机是一种监督学习模型，主要用于分类和回归分析。它的核心思想是找到一个最优超平面，使数据点能够被正确地分为两类，同时最大化两类之间的间隔。SVM的优势在于它能够处理高维空间的数据，并且在小样本情况下表现优秀。在红酒分类案例中，我们可以利用SVM对红酒的各类属性（如酒精度、颜色深度等）进行建模，以实现对红酒类型的准确预测。粒子群优化算法是一种基于群体智能的全局优化方法，灵感来源于鸟群或鱼群的集体行为。在算法中，每个“粒子”代表一个可能的解决方案，它们在搜索空间中移动并更新其速度和位置，以寻找最优解。在红酒分类案例中，PSO可以用于参数优化，例如调整SVM中的核函数参数和惩罚系数，以提升模型的性能。在实际应用中，为了构建这个红酒分类模型，我们通常会经历以下步骤： 1. 数据预处理：清洗数据，处理缺失值，进行特征选择和标准化。 2. 模型构建：选择SVM作为基础模型，可能需要尝试不同的核函数，如线性、多项式或高斯核。 3. 参数优化：利用PSO来寻找SVM的最佳参数组合，如C值和γ值。 4. 模型训练：用优化后的参数训练SVM模型。 5. 模型验证：通过交叉验证来评估模型的泛化能力。 6. 结果可视化：可以使用图形展示模型的决策边界，或者绘制学习曲线以了解模型的过拟合或欠拟合情况。在这个案例中，还提到了“粒子群向量机”（PSVM），这是一种结合了PSO和SVM的算法，旨在自动寻找最佳核函数参数和正则化参数，以提高SVM的性能。这种结合策略在解决红酒分类这类复杂问题时，可能会提供更优的解决方案。这个红酒分类案例展示了SVM和PSO在实际问题中的强大应用能力。通过对红酒特性的深入理解和模型的精细调整，我们可以构建出一个有效的分类系统，帮助葡萄酒行业进行更精准的市场定位和品质评估。在后续的研究中，还可以考虑引入其他优化算法，或者结合深度学习方法，进一步提升模型的预测精度。

资源详情

资源评论

资源推荐

收起资源包目录

案例13.rar （35个子文件）

案例13

chapter13_GridSearch.m 8KB

chapter13_GA.m 2KB

html

chapter13_GA_03.png 13KB

chapter13_GridSearch.png 3KB

chapter13_GridSearch_04.png 899B

chapter13_GA.html 27KB

chapter13_02.png 11KB

chapter13_06.png 15KB

chapter13_GA_02.png 11KB

chapter13_PSO_03.png 14KB

chapter13_GridSearch.html 26KB

chapter13_05.png 18KB

chapter13_GA_04.png 9KB

chapter13_GA_01.png 7KB

chapter13_PSO.png 3KB

chapter13_GridSearch_02.png 11KB

chapter13_PSO_02.png 11KB

chapter13_PSO.html 33KB

chapter13.html 28KB

chapter13_PSO_01.png 7KB

chapter13.png 3KB

chapter13_GridSearch_05.png 22KB

chapter13_GridSearch_06.png 15KB

chapter13_GA.png 3KB

chapter13_GridSearch_07.png 9KB

chapter13_01.png 7KB

chapter13_07.png 9KB

chapter13_PSO_04.png 9KB

chapter13_GridSearch_03.png 12KB

chapter13_03.png 11KB

chapter13_04.png 14KB

chapter13_GridSearch_01.png 7KB

gaSVMcgForClass.m 3KB

chapter13_PSO.m 5KB

chapter13_wine.mat 20KB

%% SVM神经网络中的参数优化---如何更好的提升分类器的性能 % % <html> % <table border="0" width="600px" id="table1"> <tr> <td>该案例作者申明：</td> </tr> <tr> <td>1：本人长期驻扎在此<a target="_blank" href="http://www.ilovematlab.cn/forum-158-1.html">板块</a>里，对<a target="_blank" href="http://www.ilovematlab.cn/thread-48362-1-1.html">该案例</a>提问，做到有问必答。</td></tr><tr> <td>2：此案例有配套的教学视频，配套的完整可运行Matlab程序。</td> </tr> <tr> <td> 3：以下内容为该案例的部分内容（约占该案例完整内容的1/10）。</td> </tr> <tr> <td> 4：此案例为原创案例，转载请注明出处（<a target="_blank" href="http://www.ilovematlab.cn/">Matlab中文论坛</a>，<a target="_blank" href="http://www.ilovematlab.cn/forum-158-1.html">《Matlab神经网络30个案例分析》</a>）。</td> </tr> <tr> <td> 5：若此案例碰巧与您的研究有关联，我们欢迎您提意见，要求等，我们考虑后可以加在案例里。</td> </tr> <tr> <td> 6：您看到的以下内容为初稿，书籍的实际内容可能有少许出入，以书籍实际发行内容为准。</td> </tr><tr> <td> 7：此书其他常见问题、预定方式等，<a target="_blank" href="http://www.ilovematlab.cn/thread-47939-1-1.html">请点击这里</a>。</td> </tr></table> % </html> % %% 清空环境变量 function chapter13_GridSearch close all; clear; clc; format compact; %% 数据提取 % 载入测试数据wine,其中包含的数据为classnumber = 3,wine:178*13的矩阵,wine_labes:178*1的列向量 load chapter13_wine.mat; % 画出测试数据的box可视化图 figure; boxplot(wine,'orientation','horizontal','labels',categories); title('wine数据的box可视化图','FontSize',12); xlabel('属性值','FontSize',12); grid on; % 画出测试数据的分维可视化图 figure subplot(3,5,1); hold on for run = 1:178 plot(run,wine_labels(run),'*'); end xlabel('样本','FontSize',10); ylabel('类别标签','FontSize',10); title('class','FontSize',10); for run = 2:14 subplot(3,5,run); hold on; str = ['attrib ',num2str(run-1)]; for i = 1:178 plot(i,wine(i,run-1),'*'); end xlabel('样本','FontSize',10); ylabel('属性值','FontSize',10); title(str,'FontSize',10); end % 选定训练集和测试集 % 将第一类的1-30,第二类的60-95,第三类的131-153做为训练集 train_wine = [wine(1:30,:);wine(60:95,:);wine(131:153,:)]; % 相应的训练集的标签也要分离出来 train_wine_labels = [wine_labels(1:30);wine_labels(60:95);wine_labels(131:153)]; % 将第一类的31-59,第二类的96-130,第三类的154-178做为测试集 test_wine = [wine(31:59,:);wine(96:130,:);wine(154:178,:)]; % 相应的测试集的标签也要分离出来 test_wine_labels = [wine_labels(31:59);wine_labels(96:130);wine_labels(154:178)]; %% 数据预处理 % 数据预处理,将训练集和测试集归一化到[0,1]区间 [mtrain,ntrain] = size(train_wine); [mtest,ntest] = size(test_wine); dataset = [train_wine;test_wine]; % mapminmax为MATLAB自带的归一化函数 [dataset_scale,ps] = mapminmax(dataset',0,1); dataset_scale = dataset_scale'; train_wine = dataset_scale(1:mtrain,:); test_wine = dataset_scale( (mtrain+1):(mtrain+mtest),: ); %% 选择最佳的SVM参数c&g % 首先进行粗略选择: c&g 的变化范围是 2^(-10),2^(-9),...,2^(10) [bestacc,bestc,bestg] = SVMcgForClass(train_wine_labels,train_wine,-10,10,-10,10); % 打印粗略选择结果 disp('打印粗略选择结果'); str = sprintf( 'Best Cross Validation Accuracy = %g%% Best c = %g Best g = %g',bestacc,bestc,bestg); disp(str); % 根据粗略选择的结果图再进行精细选择: c 的变化范围是 2^(-2),2^(-1.5),...,2^(4), g 的变化范围是 2^(-4),2^(-3.5),...,2^(4), [bestacc,bestc,bestg] = SVMcgForClass(train_wine_labels,train_wine,-2,4,-4,4,3,0.5,0.5,0.9); % 打印精细选择结果 disp('打印精细选择结果'); str = sprintf( 'Best Cross Validation Accuracy = %g%% Best c = %g Best g = %g',bestacc,bestc,bestg); disp(str); %% 利用最佳的参数进行SVM网络训练 cmd = ['-c ',num2str(bestc),' -g ',num2str(bestg)]; model = svmtrain(train_wine_labels,train_wine,cmd); %% SVM网络预测 [predict_label,accuracy] = svmpredict(test_wine_labels,test_wine,model); % 打印测试集分类准确率 total = length(test_wine_labels); right = sum(predict_label == test_wine_labels); disp('打印测试集分类准确率'); str = sprintf( 'Accuracy = %g%% (%d/%d)',accuracy(1),right,total); disp(str); %% 结果分析 % 测试集的实际分类和预测分类图 % 通过图可以看出只有三个测试样本是被错分的 figure; hold on; plot(test_wine_labels,'o'); plot(predict_label,'r*'); xlabel('测试集样本','FontSize',12); ylabel('类别标签','FontSize',12); legend('实际测试集分类','预测测试集分类'); title('测试集的实际分类和预测分类图','FontSize',12); grid on; snapnow; %% 子函数 SVMcgForClass.m function [bestacc,bestc,bestg] = SVMcgForClass(train_label,train,cmin,cmax,gmin,gmax,v,cstep,gstep,accstep) %SVMcg cross validation by faruto % % by faruto %Email:patrick.lee@foxmail.com QQ:516667408 http://blog.sina.com.cn/faruto BNU %last modified 2010.01.17 %Super Moderator @ www.ilovematlab.cn % 若转载请注明： % faruto and liyang , LIBSVM-farutoUltimateVersion % a toolbox with implements for support vector machines based on libsvm, 2009. % Software available at http://www.ilovematlab.cn % % Chih-Chung Chang and Chih-Jen Lin, LIBSVM : a library for % support vector machines, 2001. Software available at % http://www.csie.ntu.edu.tw/~cjlin/libsvm % about the parameters of SVMcg if nargin < 10 accstep = 4.5; end if nargin < 8 cstep = 0.8; gstep = 0.8; end if nargin < 7 v = 5; end if nargin < 5 gmax = 8; gmin = -8; end if nargin < 3 cmax = 8; cmin = -8; end % X:c Y:g cg:CVaccuracy [X,Y] = meshgrid(cmin:cstep:cmax,gmin:gstep:gmax); [m,n] = size(X); cg = zeros(m,n); eps = 10^(-4); % record acc with different c & g,and find the bestacc with the smallest c bestc = 1; bestg = 0.1; bestacc = 0; basenum = 2; for i = 1:m for j = 1:n cmd = ['-v ',num2str(v),' -c ',num2str( basenum^X(i,j) ),' -g ',num2str( basenum^Y(i,j) )]; cg(i,j) = svmtrain(train_label, train, cmd); if cg(i,j) <= 55 continue; end if cg(i,j) > bestacc bestacc = cg(i,j); bestc = basenum^X(i,j); bestg = basenum^Y(i,j); end if abs( cg(i,j)-bestacc )<=eps && bestc > basenum^X(i,j) bestacc = cg(i,j); bestc = basenum^X(i,j); bestg = basenum^Y(i,j); end end end % to draw the acc with different c & g figure; [C,h] = contour(X,Y,cg,70:accstep:100); clabel(C,h,'Color','r'); xlabel('log2c','FontSize',12); ylabel('log2g','FontSize',12); firstline = 'SVC参数选择结果图(等高线图)[GridSearchMethod]'; secondline = ['Best c=',num2str(bestc),' g=',num2str(bestg), ... ' CVAccuracy=',num2str(bestacc),'%']; title({firstline;secondline},'Fontsize',12); grid on; figure; meshc(X,Y,cg); % mesh(X,Y,cg); % surf(X,Y,cg); axis([cmin,cmax,gmin,gmax,30,100]); xlabel('log2c','FontSize',12); ylabel('log2g','FontSize',12); zlabel('Accuracy(%)','FontSize',12); firstline = 'SVC参数选择结果图(3D视图)[GridSearchMethod]'; secondline = ['Best c=',num2str(bestc),' g=',num2str(bestg), ... ' CVAccuracy=',num2str(bestacc),'%']; title({firstline;secondline},'Fontsize',12); %%% % % <html> % <table align="center" > <tr> <td align="center">版权所有：<a % href="http://www.ilovematlab.cn/">Matlab中文论坛</a>   <script % src="http://s3.cnzz.com/stat.php?id=971931&web_id=971931&show=pic" language="JavaScript" ></script> </td> </tr></table> % </html> %