基于麻雀算法(SSA)优化卷积神经网络-双向门控循环单元(CNN-BIGRU)回归预测，SSA-CNN-BIGRU多输入单输出模

%% 清空环境变量 warning off % 关闭报警信息 close all % 关闭开启的图窗 clear % 清空变量 clc % 清空命令行 %% 导入数据 res = xlsread('data.xlsx'); %% 数据分析 num_size = 0.7; % 训练集占数据集比例 outdim = 1; % 最后一列为输出 num_samples = size(res, 1); % 样本个数 res = res(randperm(num_samples), :); % 打乱数据集（不希望打乱时，注释该行） num_train_s = round(num_size * num_samples); % 训练集样本个数 f_ = size(res, 2) - outdim; % 输入特征维度 %% 划分训练集和测试集 P_train = res(1: num_train_s, 1: f_)'; T_train = res(1: num_train_s, f_ + 1: end)'; M = size(P_train, 2); P_test = res(num_train_s + 1: end, 1: f_)'; T_test = res(num_train_s + 1: end, f_ + 1: end)'; N = size(P_test, 2); %% 数据归一化 [p_train, ps_input] = mapminmax(P_train, 0, 1); p_test = mapminmax('apply', P_test, ps_input); [t_train, ps_output] = mapminmax(T_train, 0, 1); t_test = mapminmax('apply', T_test, ps_output); %% 数据平铺 % 将数据平铺成1维数据只是一种处理方式 % 也可以平铺成2维数据，以及3维数据，需要修改对应模型结构 % 但是应该始终和输入层数据结构保持一致 p_train = double(reshape(p_train, f_, 1, 1, M)); p_test = double(reshape(p_test , f_, 1, 1, N)); t_train = double(t_train)'; t_test = double(t_test )'; %% 数据格式转换 for i = 1 : M Lp_train{i, 1} = p_train(:, :, 1, i); end for i = 1 : N Lp_test{i, 1} = p_test( :, :, 1, i); end %% 优化算法参数设置 SearchAgents_no = 8; % 数量 Max_iteration = 6; % 最大迭代次数 dim = 3; % 优化参数个数 lb = [1e-4,10 1e-4]; % 参数取值下界(学习率，隐藏层节点，正则化系数) ub = [1e-2, 30,1e-1]; % 参数取值上界(学习率，隐藏层节点，正则化系数) fitness = @(x)fical(x); [Best_score,Best_pos,curve]=SSA(SearchAgents_no,Max_iteration,lb ,ub,dim,fitness) Best_pos(1, 2) = round(Best_pos(1, 2)); best_hd = Best_pos(1, 2); % 最佳隐藏层节点数 best_lr= Best_pos(1, 1);% 最佳初始学习率 best_l2 = Best_pos(1, 3);% 最佳L2正则化系数 %% 建立模型 lgraph = layerGraph(); % 建立空白网络结构 tempLayers = [ sequenceInputLayer([f_, 1, 1], "Name", "sequence") % 建立输入层，输入数据结构为[f_, 1, 1] sequenceFoldingLayer("Name", "seqfold")]; % 建立序列折叠层 lgraph = addLayers(lgraph, tempLayers); % 将上述网络结构加入空白结构中 tempLayers = [ convolution2dLayer([2, 1], 16, 'Stride', [1, 1], "Name", "conv_1") % 建立卷积层,卷积核大小[2, 1]，16个特征图 reluLayer("Name", "relu_1") % Relu 激活层 convolution2dLayer([2, 1], 32, 'Stride', [1, 1], "Name", "conv_2") % 建立卷积层,卷积核大小[2, 1]，32个特征图 reluLayer("Name", "relu_2")]; % Relu 激活层 lgraph = addLayers(lgraph, tempLayers); % 将上述网络结构加入空白结构中 tempLayers = [ sequenceUnfoldingLayer("Name", "sequnfold") % 建立序列反折叠层 flattenLayer("Name", "flatten") % 网络铺平层 gruLayer(best_hd, "Name", "gru", "OutputMode", "last") % GRU层 concatenationLayer(1, 2, "Name", "cat") % 拼接层 fullyConnectedLayer(outdim, "Name", "fc") % 全连接层 regressionLayer("Name", "regressionoutput")]; % 回归层 lgraph = addLayers(lgraph, tempLayers); % 将上述网络结构加入空白结构中 tempLayers = [ FlipLayer("flip") % 反转层 gruLayer(best_hd, 'OutputMode', 'last', "Name", "gru2" )]; % 反向GRU lgraph = addLayers(lgraph, tempLayers); % 将上述网络结构加入空白结构中 lgraph = connectLayers(lgraph, "flatten", "flip"); % 网络铺平层连接反向 GRU lgraph = connectLayers(lgraph, "gru2", "cat/in2"); % 正反向GRU的拼接 lgraph = connectLayers(lgraph, "seqfold/out", "conv_1"); % 折叠层输出 连接 卷积层输入 lgraph = connectLayers(lgraph, "seqfold/miniBatchSize", "sequnfold/miniBatchSize"); % 折叠层输出 连接 反折叠层输入 lgraph = connectLayers(lgraph, "relu_2", "sequnfold/in"); % 激活层输出 连接 反折叠层输入 %% 参数设置 options = trainingOptions('adam', ... % Adam 梯度下降算法 'MaxEpochs', 500, ... % 最大训练次数 1000 'InitialLearnRate', best_lr, ... % 初始学习率为0.01 'LearnRateSchedule', 'piecewise', ... % 学习率下降 'LearnRateDropFactor', 0.1, ... % 学习率下降因子 0.1 'L2Regularization', best_l2, ... % L2正则化参数 'LearnRateDropPeriod', 400, ... % 经过800次训练后 学习率为 0.01*0.1 'Shuffle', 'every-epoch', ... % 每次训练打乱数据集 'Plots', 'training-progress', ... % 画出曲线 'Verbose', false); %% 训练模型 net = trainNetwork(Lp_train, t_train, lgraph, options); %% 模型预测 t_sim1 = predict(net, Lp_train); t_sim2 = predict(net, Lp_test ); %% 数据反归一化 T_sim1 = mapminmax('reverse', t_sim1', ps_output); T_sim2 = mapminmax('reverse', t_sim2', ps_output); T_sim1=double(T_sim1); T_sim2=double(T_sim2); %% 查看网络结构 analyzeNetwork(net) %% 评价 figure plot(1 : length(curve), curve,'linewidth',1.5); title('SSA-CNN-BIGRU', 'FontSize', 10); xlabel('迭代次数', 'FontSize', 10); ylabel('适应度值mse', 'FontSize', 10); grid off %% 测试集结果 figure; plotregression(T_test,T_sim2,['回归图']); figure; ploterrhist(T_test-T_sim2,['误差直方图']); %% 均方根误差 RMSE error1 = sqrt(sum((T_sim1 - T_train).^2)./M); error2 = sqrt(sum((T_test - T_sim2).^2)./N); %% %决定系数 R1 = 1 - norm(T_train - T_sim1)^2 / norm(T_train - mean(T_train))^2; R2 = 1 - norm(T_test - T_sim2)^2 / norm(T_test - mean(T_test ))^2; %% %均方误差 MSE mse1 = sum((T_sim1 - T_train).^2)./M; mse2 = sum((T_sim2 - T_test).^2)./N; %% %RPD 剩余预测残差 SE1=std(T_sim1-T_train); RPD1=std(T_train)/SE1; SE=std(T_sim2-T_test); RPD2=std(T_test)/SE; %% 平均绝对误差MAE MAE1 = mean(abs(T_train - T_sim1)); MAE2 = mean(abs(T_test - T_sim2)); %% 平均绝对百分比误差MAPE MAPE1 = mean(abs((T_train - T_sim1)./T_train)); MAPE2 = mean(abs((T_test - T_sim2)./T_test)); %% 训练集绘图 figure %plot(1:M,T_train,'r-*',1:M,T_sim1,'b-o','LineWidth',1) plot(1:M,T_train,'r-*',1:M,T_sim1,'b-o','LineWidth',1.5) legend('真实值','SSA-CNN-BIGRU预测值') xlabel('预测样本') ylabel('预测结果') string={'训练集预测结果对比';['(R^2 =' num2str(R1) ' RMSE= ' num2str(error1) ' MSE= ' num2str(mse1) ' RPD= ' num2str(RPD1) ')' ]}; title(string) %% 预测集绘图 figure plot(1:N,T_test,'r-*',1:N,T_sim2,'b-o','LineWidth',1.5) legend('真实值','SSA-CNN-BIGRU预测值') xlabel('预测样本') ylabel('预测结果') string={'测试集预测结果对比';['(R^2 =' num2str(R2) ' RMSE= ' num2str(error2) ' MSE= ' num2str(mse2) ' RPD= ' num2str(RPD2) ')']}; title(string) %% 测试集误差图 figure ERROR3=T_test-T_sim2; plot(T_test-T_sim2,'b-*','LineWidth',1.5) xlabel('测试集样本编号') ylabel('预测误差') title('测试集预测误差') grid on; legend('SSA-CNN-BIGRU预测输出误差') %% 训练集拟合效果图 figure plot(T_train,T_sim1,'*r'); xlabel('真实值') ylabel('预测值') string = {'训练集效果图';['R^2_c=' num2str(R1) ' RMSEC=' num2str(error1) ]}; title(string) hold on ;h=lsline; set(h,'LineWidth',1,'LineStyle','-','Color',[1 0 1]) %% 预测集拟合效果图 figure plot(T_test,T_sim2,'ob'); xlabel('真实值') ylabel('预测值') string1 = {'测试集效果图';['R^2_p=' num2str(R2) ' RMSEP=' num2str(error2) ]}; title