毕业论文实验2，多尺度密集连接图像超分辨率重建，pytorch实现

加入注意力机制，此时层数=4，grow rate = 32 不加注意力机制 Total params: 142,464 Total Flops: 329.86MFlops Total MemR+W: 21.37MB epoch: 200 lr: 6.25e-05 epoch: 200/199: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 34816/34816 [00:05<00:00, 6277.64it/s, loss=0.011612] eval psnr: 37.07,eval ssim:0.96 eval loss :0.008855501096695662 best epoch: 121, psnr: 37.10 加ca注意力机制 Total params: 142,976 Total Flops: 329.86MFlops Total MemR+W: 21.38MB epoch: 200 lr: 6.25e-05 epoch: 200/199: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 34816/34816 [00:06<00:00, 5767.40it/s, loss=0.011551] eval psnr: 37.15,eval ssim:0.96 eval loss :0.008786086365580559 best epoch: 175, psnr: 37.16 加cbam注意力机制 Total params: 143,075 Total Flops: 330.09MFlops Total MemR+W: 21.4MB epoch: 200 lr: 6.25e-05 epoch: 200/199: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 34816/34816 [00:06<00:00, 5322.06it/s, loss=0.011424] eval psnr: 36.62,eval ssim:0.96 eval loss :0.00933151002973318 best epoch: 84, psnr: 36.97 分析，可以使用通道注意力机制 多尺度残差块 不加多尺度 Total params: 142,976 Total Flops: 329.86MFlops Total MemR+W: 21.38MB epoch: 200 lr: 6.25e-05 epoch: 200/199: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 34816/34816 [00:06<00:00, 5767.40it/s, loss=0.011551] eval psnr: 37.15,eval ssim:0.96 eval loss :0.008786086365580559 best epoch: 175, psnr: 37.16 多尺度特征提取1 Total params: 192,768 Total Flops: 445.02MFlops Total MemR+W: 29.46MB epoch: 200 lr: 6.25e-05 epoch: 200/199: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 34816/34816 [00:07<00:00, 4602.83it/s, loss=0.011543] eval psnr: 37.10,eval ssim:0.96 eval loss :0.008834917936474085 best epoch: 132, psnr: 37.12 多尺度特征提取2 Total params: 192,768 Total Flops: 444.88MFlops Total MemR+W: 28.33MB epoch: 200 lr: 6.25e-05 epoch: 200/199: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 34816/34816 [00:07<00:00, 4627.01it/s, loss=0.011564] eval psnr: 37.11,eval ssim:0.96 eval loss :0.008832947630435229 best epoch: 171, psnr: 37.12 多尺度特征提取3 Total params: 158,368 Total Flops: 365.48MFlops Total MemR+W: 24.88MB epoch: 200 lr: 6.25e-05 epoch: 200/199: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 34816/34816 [00:06<00:00, 5479.67it/s, loss=0.011405] eval psnr: 37.16,eval ssim:0.96 eval loss :0.008787225931882858 best epoch: 126, psnr: 37.18 多尺度特征提取4 Total params: 158,368 Total Flops: 365.48MFlops Total MemR+W: 24.88MB epoch: 200 lr: 6.25e-05 epoch: 200/199: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 34816/34816 [00:06<00:00, 5309.42it/s, loss=0.011690] eval psnr: 37.09,eval ssim:0.96 eval loss :0.008856563549488782 best_epoch: 200 best epoch: 200, psnr: 37.09 多尺度特征提取5 epoch: 200 lr: 6.25e-05 epoch: 200/199: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 34816/34816 [00:06<00:00, 5295.39it/s, loss=0.011594] eval psnr: 37.09,eval ssim:0.96 eval loss :0.008832203038036824 best epoch: 192, psnr: 37.11 多尺度特征提取6 Total params: 160,096 Total Flops: 369.53MFlops Total MemR+W: 25.12MB epoch: 200 lr: 6.25e-05 epoch: 200/199: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 34816/34816 [00:07<00:00, 4810.16it/s, loss=0.011254] eval psnr: 37.18,eval ssim:0.96 eval loss :0.008761101868003607 best epoch: 100, psnr: 37.22 多尺度特征提取7 Total params: 160,608 Total Flops: 369.53MFlops Total MemR+W: 25.12MB epoch: 200 lr: 6.25e-05 epoch: 200/199: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████| 34816/34816 [00:07<00:00, 4710.82it/s, loss=0.011212] eval psnr: 37.24,eval ssim:0.96 eval loss :0.008719293680042029 best epoch: 105, psnr: 37.26 多尺度特征提取8 密集块的增加会导致训练难度增加，所以这里作为最后一个实验进行 确定密集块的结构，改变块的个数 块=1 多尺度特征提取7 Total params: 160,608 Total Flops: 369.53MFlops Total MemR+W: 25.12MB epoch: 200 lr: 6.25e-05 epoch: 200/199: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████| 34816/34816 [00:07<00:00, 4710.82it/s, loss=0.011212] eval psnr: 37.24,eval ssim:0.96 eval loss :0.008719293680042029 best epoch: 105, psnr: 37.26 块=2 Total params: 302,432 Total Flops: 696.59MFlops Total MemR+W: 44.22MB epoch: 200 lr: 6.25e-05 epoch: 200/199: 100%|███████████████████████████████████████�