Raw_Data_MLKNN.zip_ML-KNN_MLkNN_RAW_mlknn计算示例

共1个文件

m：1个

版权申诉

74 浏览量 2022-07-15 01:29:05 上传评论收藏 1KB ZIP 举报

《深入理解ML-KNN算法：基于RAW数据的MLkNN计算示例》在机器学习领域，多标签分类（Multi-Label Classification）是一项重要的任务，它涉及到为每个样本分配一个标签集合，而非单一标签。ML-KNN（Multi-Label K-Nearest Neighbors）是一种广泛应用的多标签分类算法，它基于经典的KNN（K-Nearest Neighbors）算法进行了扩展。本文将深入探讨ML-KNN算法的原理，并以RAW数据为例，解析其计算过程。一、ML-KNN算法简介 ML-KNN是由Zhang和Zhang于2003年提出的一种基于KNN的多标签分类算法。传统的KNN算法在单标签问题中，是通过找到最近邻并依据多数表决来决定目标样本的类别。而在多标签场景下，ML-KNN算法考虑了标签之间的关联性，不仅考虑邻居的类别，还考虑它们的标签集合，以预测目标样本的标签集合。二、ML-KNN算法核心思想 1. **相似度度量**：ML-KNN使用了一种称为“部分匹配度”（Braun-Blanquet similarity）的相似度函数，该函数衡量两个标签集合的交集与并集的比例。这允许算法识别标签间的相关性。 2. **K近邻选择**：算法首先计算测试样本与训练集中所有样本的相似度，然后选取K个最相似的样本作为近邻。 3. **标签分配**：对于每个标签，算法统计K个近邻中包含该标签的样本比例，若比例超过预设阈值，则将该标签分配给测试样本。三、RAW数据在ML-KNN中的应用在"Raw_Data_MLKNN.m"文件中，我们可以看到一个MATLAB实现的ML-KNN算法。MATLAB是一种广泛用于数值计算和科学计算的编程语言，其代码结构清晰，适合进行数据处理和算法实现。 1. **数据预处理**：在RAW数据中，可能包含连续和离散特征，需要进行标准化或编码处理，以便于计算相似度。 2. **构建相似度矩阵**：根据Braun-Blanquet相似度计算所有样本对之间的相似度。 3. **K近邻搜索**：根据预设的K值，找出每个测试样本的K个最近邻。 4. **标签预测**：计算每个标签的覆盖率，即包含该标签的近邻占总近邻的比例，然后按照预设阈值判断是否分配该标签。 5. **结果评估**：使用适当的评价指标，如Hamming Loss、Jaccard Similarity等，评估模型的性能。四、总结 ML-KNN算法通过结合KNN的局部结构和多标签的特性，有效地解决了多标签分类问题。RAW数据的使用展示了如何在实际操作中应用ML-KNN，包括数据预处理、相似度计算、近邻选择以及标签分配等步骤。理解和掌握这一算法有助于我们更好地处理那些具有多个可能标签的数据集，提升分类的准确性和实用性。

资源推荐

资源详情

资源评论

收起资源包目录

Raw_Data_MLKNN.zip （1个子文件）

Raw_Data_MLKNN.m 2KB

%%原始数据 MLKNN结果 emotions = csvread('emotion.csv');%读数据 [sample_num,col_num] = size(emotions);% 样本数、列数 label_num = 6;% 标签数 attr_num = col_num - label_num; initial_attr = emotions(:,1:col_num-label_num);% 样本属性 sample_label = emotions(:,(attr_num+1):col_num);% 标签 theta = 0.4; fold = 10;%十折划分 result = zeros(fold+2,6);% 存放十折评估结果(汉明/排序/0-1/覆盖率/精度/F值) & 均值/标准差 %% %标签转换为——[-1，1] id = find(sample_label==0); sample_label(id) = -1; %% %数据归一化到——（0，1） % sample_attr = normlize(initial_attr); % sample = [sample_attr sample_label]; %未归一化 sample_attr = initial_attr; sample = [sample_attr sample_label]; %% %十折划分 ten_fold = Ten_fold(sample,fold); %% %十折结果 for i = 1:fold test = sample(ten_fold{i},:); test_attr = test(:,1:attr_num); test_label = test(:,(attr_num+1):col_num)'; train = sample; train(ten_fold{i},:) = []; train_attr = train(:,1:attr_num); train_label = train(:,(attr_num+1):col_num)'; %训练分类器 [Prior,PriorN,Cond,CondN]=MLKNN_train(train_attr,train_label,10,1); %测试分类性能 [HammingLoss,RankingLoss,OneError,Coverage,Average_Precision,Outputs,Pre_Labels]=MLKNN_test(train_attr,train_label,test_attr,test_label,10,Prior,PriorN,Cond,CondN); F_score=F(Pre_Labels,test_label); %储存结果 result(i,:)=[HammingLoss,RankingLoss,OneError,Coverage,Average_Precision,F_score]; fprintf('第 %d 次运行结果为：\n',i); fprintf('HammingLoss: %6.4f \n',HammingLoss); fprintf('RankingLoss: %6.4f \n',RankingLoss); fprintf('OneError: %6.4f \n',OneError); fprintf('Coverage: %6.4f \n',Coverage); fprintf('Average_Precision: %6.4f \n',Average_Precision); fprintf('F_score: %6.4f \n',F_score); end average=mean(result(1:fold,:),1);% 十折均值 result(fold+1,:)=average; D=std(result(1:fold,:));% 十折标准差 result(fold+2,:)=D; fprintf('HammingLoss: %6.4f +- %6.4f\n',average(1),D(1)); fprintf('RankingLoss: %6.4f +- %6.4f\n',average(2),D(2)); fprintf('OneError: %6.4f +- %6.4f\n',average(3),D(3)); fprintf('Coverage: %6.4f +- %6.4f\n',average(4),D(4)); fprintf('Average_Precision: %6.4f +- %6.4f\n',average(5),D(5)); fprintf('F_score: %6.4f +- %6.4f\n',average(6),D(6));

评论收藏

内容反馈

版权申诉