没有合适的资源?快使用搜索试试~ 我知道了~
温馨提示
![preview](https://dl-preview.csdnimg.cn/88580794/0001-a49eafff8a446cc9ee43b84c2300fed3_thumbnail-wide.jpeg)
![preview-icon](https://csdnimg.cn/release/downloadcmsfe/public/img/scale.ab9e0183.png)
试读
18页
PSCC-Net Progressive Spatio-Channel Correlation Network for Image Manipulation Detection and Localization
资源推荐
资源详情
资源评论
![docx](https://img-home.csdnimg.cn/images/20210720083331.png)
![gz](https://img-home.csdnimg.cn/images/20210720083447.png)
![gz](https://img-home.csdnimg.cn/images/20210720083447.png)
![gz](https://img-home.csdnimg.cn/images/20210720083447.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![whl](https://img-home.csdnimg.cn/images/20210720083646.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![whl](https://img-home.csdnimg.cn/images/20210720083646.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![swf](https://img-home.csdnimg.cn/images/20210720083632.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![gz](https://img-home.csdnimg.cn/images/20210720083447.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![txt](https://img-home.csdnimg.cn/images/20210720083642.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![](https://csdnimg.cn/release/download_crawler_static/88580794/bg1.jpg)
PSCC-Net: Progressive Spatio-Channel Correlation Network for Image Manipulation
Detection and Localization
发布于 IEEE Transactions on Circuits and Systems for Video Technology 2021
论文链接:https://arxiv.org/pdf/2103.10596v2.pdf
一作开源代码:https://github.com/proteus1991/pscc-net
摘要
开发了一种渐进式空间通道相关网络 (PSCC-Net) 对图像篡改进行检测和定位。
PSCC-Net 以双路径过程处理图像:
• 自上而下的路径:提取局部和全局特征。
• 自下而上的路径:检测输入图像是否被篡改,并以多个比例估计其 mask,其中每
个 mask 都以前一个为条件。
与传统的 encoder-decoder 和 no-pooling 结构不同,PSCC-Net 利用具有密集交叉连接的
不同尺度的特征以从粗到细的方式产生操纵掩模。空间信道相关模块(SCCM)捕获自底向
上路径中的空间和信道相关性,赋予特征整体线索,使网络能够应对广泛的操纵攻击。
SCCM 避免了使用大量注释数据对特征提取器进行预训练; 连续实现了图像处理、检测和
定位的 SoTA 结果。由于重量轻的主干和渐进式机制,PSCC-Net 可以以 50+FPS 的速度
处理 1080p 图像。 大量的实验表明,PSCC-Net 在检测和定位方面都优于现有的方法。
引言
通常,图像处理由内容相关过程和与内容无关过程组成。
内容相关过程:拼接、复制移动和移除。通常,内容相关过程遵循目标图像中的语义安排。
内容无关过程:包括全局修改,例如亮度/对比度变化,模糊,噪声和图像压缩。它们几
乎不会产生任何虚假信息,但是它们产生的噪声可能会破坏对图像/相机轨迹的分析,并
可能隐藏被操纵区域和原始区域之间的差异。
IMDL 三个主要未解决的问题:
1. 规模变化:伪造区域大小不一。大多数先前的工作都忽略了尺度变化的重要性,并
且在检测不同尺寸的伪造区域时遇到困难。传统的 encoder-decoder 和 no-pooling
结构都难以联合利用局部和全局特征,因此只能处理有限的尺度变化。
2. 图像相关性:与原始区域相比,可以最好地确定被操纵的区域,尤其是对于拼接攻
击。 从操纵图像到操纵 mask 映射的简单学习可能导致训练中对特定攻击类型的
过拟合。 相比之下,考虑图像的空间相关性可以得到更广义的定位解决方案。 然
而,这种相关性在以往的研究中大多被忽略。
3. 检测:现有的大多数研究都假设在所有输入图像中都存在操纵。 因此,这会在原
始图像上造成许多虚警(把真实的图像检测为篡改),使检测变得不可靠。
![](https://csdnimg.cn/release/download_crawler_static/88580794/bg2.jpg)
为了解决上述问题,本文提出了一种新的渐进空间信道相关网络(PSCC-NET),如图 2 所
示。
由检测头预测的检测分数指示输入是否被操纵。 从 mask-4 到 mask-1 的操作定位精度逐
渐提高,例如,mask-4 的预测混淆了粘贴(伪造)区域和原始(复制)区域,而 mask-1
有效地修复了粘贴(伪造)区域。
PSCC-Net 由一个自顶向下的路径和一个自底向上的路径组成。 在自上而下的路径中,骨
干编码器首先从输入图像中提取局部和全局特征,其不同尺度之间的紧密联系促进了信息
的交换。 在自底向上的路径中,我们利用学习到的特征从小尺度到大尺度估计 4 个操纵
掩码,其中每个掩码作为下尺度估计的先验信息。 由于这样的设计,最终的 mask 是以
一种从粗到细的方式估计的,收获了本地和全局的信息。 如果中间掩码令人满意,则通
过终止自下而上的掩码估计,该设计实现了潜在的加速。 此外,我们不是研究预测的操
纵 mask 的响应,而是将学习到的特征输入检测头,以产生二分分类的分数。
为了利用图像相关性,我们提出了一个空间通道关联模块(SCCM),该模块在每个自下而上
的步骤中同时掌握空间关联和通道关联。空间相关性在局部特征之间聚合全局上下文。
由于来自不同信道的响应可能与同一类(例如,操纵的或原始的)相关,信道相关性计算
特征映射之间的相似性,以增强感兴趣区域的表示。考虑到编码器的轻量级设计,PSCC-
Net 可以以 50+FPS 的速度处理 1080P。
相关
图像的篡改检测分为隐式检测和显式检测。
• 隐式检测:说明了图像整体篡改的概率
• 显式检测:说明逐像素篡改的概率
由于只考虑局部区域的相关性,因此 Mantra-Net 和 SPAN 未能充分利用空间相关性,推
广性有限。 在这项工作中,我们的 PSCC-Net 利用一种渐进机制来改进多尺度特征表示
和 SCCM 模块,以更好地探索空间和信道相关性。
![](https://csdnimg.cn/release/download_crawler_static/88580794/bg3.jpg)
PSCC-NET
与图像级检测相比,像素级定位更加困难。 因此,PSCC-NET 特别重视解决定位问题。
事实上,由于用于检测和定位的特征是联合学习的,提高定位性能自然有利于检测。
网络体系结构
自顶向下路径
以前的大多数工作使用传统的 encoder-decoder 和 no-pooling 结构来提取特征。 由于伪
造区域的尺寸多种多样,因此融合局部特征和全局特征来处理尺度变化是非常重要的。
然而,这两种结构都是在顺序流水线上提取特征,忽略了不同尺度之间的特征融合,因此
只能处理有限的尺度变化。
与 encoder-decoder 和 no-pooling 结构相比,我们的 backbone 的好处是双重的。 首先,
并行计算不同尺度的特征。 因此,不同尺度之间的紧密联系能够有效地进行信息交换,
有利于处理尺度的变化。 其次,由于对每个尺度进行局部和全局特征融合,每个特征包
含足够的信息来预测相应尺度下的操纵 mask。 因此,这个主干符合我们的渐进式机制,
其中每个 mask 的预测都应该依赖于所有局部和全局特征来提高其准确性。 实际上,除
了上一个尺度上的预测 mask,其他的都作为下一个尺度 mask 预测的先验。 经过自上而
下的路径,提取 4 个尺度上的操纵特征。 然后,使用自底向上的路径执行操作检测和定
位。
自底向上路径
PSCC-NET 中的自底向上路径估计检测得分和操作掩码。 具体地,基于通过检测头从自上
而下路径提取的特征预测检测得分,然后通过完全监督的渐进机制生成操纵掩码。 特别
是,从粗到细的渐进机制模拟了人类如何处理日常生活中的复杂问题。
为了降低预测难度,提出的渐进机制避免了直接以最小尺度生成掩码。 取而代之的是,
最粗尺度上的掩码首先被预测,以根据当前可用信息定位潜在伪造的区域。 在更细尺度
上的后续预测可以利用先前的掩模,更多地关注那些选定的区域。 这个过程一直持续到
以最细的尺度生成操作掩码,这是最后的预测。 然而,如果没有对每一个尺度的明确监
管,中间 mask 可能不会遵循从粗到细的顺序。 因此,在所有尺度上应用全面监督来指
导掩码估计。
空间信道相关模块
下图 3 是 SCCM 的结构。其中红色箭头显示公共特征流; 粉红色和绿色箭头分别表示空
间和通道注意的特征流。输入特征 x 的大小为 H×W×C,尽管 x 很小(256×256),但其空
剩余17页未读,继续阅读
资源评论
![avatar-default](https://csdnimg.cn/release/downloadcmsfe/public/img/lazyLogo2.1882d7f4.png)
![avatar](https://profile-avatar.csdnimg.cn/0e35228262bb4364b07f212ce2091b81_fl1623863129.jpg!1)
FL1623863129
- 粉丝: 1w+
- 资源: 1万+
上传资源 快速赚钱
我的内容管理 展开
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助
![voice](https://csdnimg.cn/release/downloadcmsfe/public/img/voice.245cc511.png)
![center-task](https://csdnimg.cn/release/downloadcmsfe/public/img/center-task.c2eda91a.png)
安全验证
文档复制为VIP权益,开通VIP直接复制
![dialog-icon](https://csdnimg.cn/release/downloadcmsfe/public/img/green-success.6a4acb44.png)