论文研究-基于密集连接网络的图像隐写分析.pdf

所需积分/C币:22 2019-09-12 17:38:23 844KB .PDF
22
收藏 收藏
举报

针对目前传统的隐写分析技术对特征集要求越来越高的问题,构建了一个密集连接网络模型(Steganalysis-Densely Connected Convolutional Networks,S-DCCN)进行图像隐写分析,避免了人工提取特征,提高了隐写分析效率。首先,在网络层之前添加高通滤波层(HPF)进行滤波,加快模型训练速度。经过滤波后的图像进入两层卷积层进行特征提取,在卷积层之后使用了5组密集连接模块来解决网络加深带来的梯度消失问题,密集连接模块之间通过过度层来控制整个网络的宽度。实验结果表明,相比传统的图像隐写分析算法和卷积神经网络技术,该模型有效提高了隐写分析的准确率和泛化性能。
76 08,54(15) Computer Engineering and Applications计算机工程与应用 组合,即:Con→BN→ReLU。因此,第L层网络的输都可以直接进入损失函数层,从而实现深度监督。另 出为: 方面,S-DCCN还可以提高训练效率,冈络的每层都 X1=HX0,X1,…,X1-1) (1)可以利用前面网络层学到的特征,只需要学习很少特 其中[K,X,…X-为特征图的并集。因此,通过这祉,所以可以将模型的网络层的通道数^设计得特别 种密集连接的方式缩短前面卷积层和后面卷积层之间窄,减少了模型在训练过程中的计算量,提高了模型的 的连接,使得最后层可以直接用到原始输入信息.同训练效率。 时还用到了之前层对原始信息非线性操作之后的信息, 这样可以做到对信息流动的最人化 卷积层1 r(X ReLU onv(163×3) RelIsh 卷积层2 F(X+X Conv(12×3×3) ReLU BN 图4残差学习模块 33模型训练 Couv(12×3×3) ReLU BN 为了更好地对比S-DCCN模型的优越性,木文构建 了3种网络进行实验对比:(1)由卷积层直接叠加构成 Conv(12×3×3) RCLU BN 的平凡网络;(2)采川」残差学习模块的深度残差网络 3)本文的 S-DCCN模型。3种网络为同等深度的网络 Conv(16×3×3) ReLU B 除了卷积层连接方式不同,HPF层、卷积层维度、全连接 层等条件都相同。在实验环境相同的条件下,对3种冈 络分别进行测试。 图3密集连接模块 实验平台采用深度学习开源平台cafe,在 Windows 在密集连接模块中,特征图是通过组合的方式在网下对S- UNIWARD嵌入算法进行测试。数据集采用 络中传递,因此密集连接模块的输出维度为听有卷积层 BOSSbase v1.01,图像大小为128×128,训练样本为3 中卷积核的个数之和,使得后续树终层的输入急增10张载体图像和3×10隐写图像,测试样本为1×10张 加。因此在相邻密集连接模块之间采用维度为12、大小载体图像和1×10隐写图像,为了防止某张图像被多次 为1×1的过渡层来控制网络的宽度。 调用,将图像集中的顺序打乱。 在模型的最后采用了两层1000维的全连接层,和 由于GPU内存的限制,训练时最小批量大小为64 层损失函数层,全连接层的神经元与上一层的神经元 试时最小批量大小为40。学习速率初始值为0.001, 进行全连接,从而整合卷积层中可以区分类别的局部信学习率变化策略为“invy",避免了于动调整学习率参数 息。损失函数层采用的是 Softmax损失函数,将输入分使学习率随着迭代次数的增加自动调整。冲量参数 为两类。 ( momentum)为0.9权值衰减( weight decay)为0.004 32模型分析 S-DCCN模型使用了密集连接模块,相比使用如图4实验结果 4所示的残差学习模块,更加提高了隐写分析检测效4.1层数的对比 果。残差学刁模垬通过捷径连接实现残差学刁,将特征 本文构建的S-D((N模型使用了5组密集连接模 图求和传递给下一层网络,其输出为 块,卷积层共31层,为了更好地说明深层网络的优越 XL=HL(XL D+X (2)性,本文共对比了4种不同深度的密集连接网络,每种 通过这种方式在深度残差网络中可以实现梯度的反向网终除密集连接模块个数不同外,其余条件都相同,实 传播解决了桷度消失问颙,但是这种相加的方式会妨验结果如表1。由实验结果可知,随着深度的增加模型 碍信息的流动;而密集连接模块是通过求模垬屮所有的隐写分析准确率显蓍增加,密集连接可以很好地鮮决 层的特征图的并集,如公式(1)所示,这种方法使得网络网终加深带来的梯度消失和退化问题。随着模型深度 中的特征和梯度可以在网终中更好的传递,有效解决了的增加,网络的参数也随之增加,训练时长会在一定程 随着网络加深带来的梯度消失问题,强化了特征的传度上延长,但始终在可接受的范围内。本文的S-DCCN 播,并且还支持特征重复使用。此外,钶一层的特征图模型为GPU硬件(GTX960M)所能运行的最深模型。 高培贤,魏立线,刘佳,等:基于密集连接网络的图像隐写分析 2018,54(15)77 表1模型深度对比结果 的隐写分析准确率如表4所示,S-DCCN模型的识别效 密集连接模块个数准确率/%训练时间 果明显优于其他两种网络,也证明了该模型的泛化性能 强于其他两种网络。 92.47 3.2 表4S-DCCN模型不同嵌入率下检测结果 94.24 3.8 准确率/‰ 模型 0.4 42有无HPF层和池化层对比 平凡网终48.8250.61495452.0 在图像隐写分析领域,HPF层是一种特殊的卷积 残差网络691674927901919 层,其可以大大加快模型在训练过程中的收敛速度,提 S-DCCN70.12794884.369424 高模型训练效率, S-DCCN模型有元HP层的实验结果45与其他隐写分析方法对比 如表2,在模型迭代20000次时无HIPF层的模型Loss值 相比传统的隐写分析算法富模型+支持向量机 过大模型没有收敛而使用了HP层的模型准显sDCN模型省去了人工提取特征,有效提高了隐写分 著增加,模型已经收敛;池化层会减弱隐写产生的噪声, 析效率,同时将隐写分析准确率提高了14.71%;相比 因此,S-DcCN模型没有使用池化层。在S-DCCN模型 Ⅹu等人构建的5层CNN模型,本文模型加深了网络深 的过渡层后边添加池化层与S-CN模犁进行对比,结 度解决了梯度消失问题,将图像隐写分析准确率提髙 果如表3,有池化层的模型对检测准确率会产生·定的 了14%。 影响,因此,本文没有使用池化层。 表2有无HPF层对比结果 表5与其他隐写分析方法对比结果 模L0s1准确率 模型 有HPF层00984 94.24 富模型+支持向量机 无HPF层3.4510 56.89 5层CNN模型 80.24 S-1)(N模型 944.24 表3有无池化层对比结果 模型 Ios值淮确率/ 5结東语 无池化层0.0984 94.24 有池化层0.1002 本文构建了一个密集连接树终的图像隐写分析模 92.19 型(S-DCCN)。该模型在增加了网络深度的同时解决 4.3损失值(Loss) 了梯度消失问题。实验结果表明,利用该模型进行隐写 损失值代表着模型的拟合程度,图5为3种模型的分析的准确率高于浅层卷积神经网络和传统的隐写分 Lωs值对比,从图中可以看出,相同迭代次数下,由卷积析算法,同时避免了人工提取特征,提高了隐写分析效 层直接叠加的平凡网络始终没有收敛,这是由于梯度消率。下一步将继续优化深度学习技术在隐写分析邻域 失问题造成的,而S-CN模型和残差閃络模型均解決的通用性,进一步提高隐写分析的检测精度。 了梯度消失问题,但s-DCCN模型的收敛速度明显快于 残差网络证明密集连接模块通过强化特征传播,相比参若义献 残差网络更加加快了模型的收敛。 「II周飞燕,金林鹏,董军卷积神经网络研究综述门计算机 平凡网终—残差网络一密集连接网络 学报,2017,40(6):1229-1251 neural networks for steganalysis [J].IEEE Signal Processing Leters,2016,23(5):708-712 [3] Ioffe S, Szegedy C Batch normalization: Accelerating deep network training by reducing internal covariate shin[J]. Computer Science, 2015, 37(4): 448-456 wM啊A [4] He K, Zhang X, Ren S, et al. Deep residual learning for 2468101214161820 mage recognition C/Computer Vision and Pattern rec 达代次数 ognition,2016:770-778 图5树络训练损失值对比 5] Huang G, Liu 7, Weinberger K Q, et al. ensely connected 4.4嵌入率的对比 convolutional networks[C]!!Computer Vision and Pattern 为了更好地测试 S-DCCN模型的泛化性能,本文设 Recognition 2016 置了4种不同的嵌入率,在4种嵌入率下,3种不同网络 (下转146贝)

...展开详情
试读 4P 论文研究-基于密集连接网络的图像隐写分析.pdf
立即下载 低至0.43元/次 身份认证VIP会员低至7折
一个资源只可评论一次,评论内容不能少于5个字
您会向同学/朋友/同事推荐我们的CSDN下载吗?
谢谢参与!您的真实评价是我们改进的动力~
关注 私信
上传资源赚钱or赚积分
最新推荐
论文研究-基于密集连接网络的图像隐写分析.pdf 22积分/C币 立即下载
1/4
论文研究-基于密集连接网络的图像隐写分析.pdf第1页

试读结束, 可继续读1页

22积分/C币 立即下载 >