没有合适的资源?快使用搜索试试~ 我知道了~
一种改进的深度神经网络后门攻击方法.docx
1.该资源内容由用户上传,如若侵权请联系客服进行举报
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
版权申诉
0 下载量 31 浏览量
2022-06-17
17:03:10
上传
评论
收藏 285KB DOCX 举报
温馨提示
试读
13页
一种改进的深度神经网络后门攻击方法.docx
资源推荐
资源详情
资源评论
0 引言
近年来人工神经网络的研究取得了很大的进展在模式识别、智能机器人、
自动控制、预测估计、生物、医学、经济等领域解决了许多现代计算机难以解
决的实际问题表现出良好的智能特性
。随着深度神经网络的多领域广泛应用
深度神经网络自身的安全研究变得越来越重要。深度神经网络后门攻击方法被
提出敌手通过对目的网络模型恶意修改后可对任意的输入数据添加触发器
来达到让网络模型绕过现有判别、触发恶意分类的效果。这种攻击方式可以在
恶意集合上达到 的攻击成功率同时还可以在非恶意数据集上保持高度精确
率。该攻击方法主要分为两个阶段。第一阶段敌手从公开的平台获取网络模型
并通过数据投毒的方式对模型植入触发器后门。第二阶段 如图
所示敌手将触
发器数据与任意输入数据叠加然后如图
所示输入到使用中毒模型的应用场景
中触发该模型的潜在后门产生敌手期望的目的分类结果。目前公开的网络模型
因获取相对简单且表现良好被工业界广泛使用。这导致敌手可以很方便地达成
攻击所需要的基本条件从而对现实场景进行攻击。但该攻击方法未考虑到复杂
的检测情况。
图
图 1非恶意数据添加触发器示意图
图
图 2触发器激活目的神经元示例
为进一步保证深度神经网络的安全一些学者针对深度神经网络后门攻击方
法出现了很多改进和检测研究。
提出相似的 后门攻击方法并在
数据集上实现攻击成功率高于 。
等人提出遍历触发器输入空
间的检测方法和对恶意神经元裁剪的清除方法。遍历整个输入空间的触发器检
测方法所需要的计算成本与网络模型输出类别的数量成正比输出类别越大检测
所带来的计算成本越高。神经元裁剪方法容易影响网络模型在非恶意数据集上
的表现。
等人提出基于少量数据投毒的后门攻击方法该攻击方法探索了
完成攻击所需要花费的成本问题。 !
等人提出生成随机位置触发器的触
发器生成网络 。文献
"
将研究方向转向直接修改网络模型中的神经元用来
而激活敌手期望的目的分类无需对数据添加触发器。
#
提出一种基于数据
集潜在特征聚类的恶意输入数据和非恶意数据差异检测方法。 $%&
通过将
正常数据集和非正常数据集在高维空间的差异作为惩罚函数来改进触发器生成
网络该方法可绕过基于聚类的检测方法但无法解决基于神经元差值直接检测的
问题。'$
(
等人考虑到将后门攻击应用到 ) 和迁移网络的场景。
等
人提出针对后门攻击的 检测方法将检测神经元在触发器下产生的高触发值
和 非 恶 意 数 据 集 的 均 值 做 对 比 。
等 人 利 用 条 件 生 成 模 型
)**+())基于现有模型生成触发器集合来对模型做检测。 ,&- 方
法通过加入强扰动来检测输入中是否存在触发器
。文献
"
主要研究攻击效果
的改进但未考虑针对潜在的检测方法的对抗策略。文献
未考虑动态生成触发器
候选数据集对目的神经元的影响。文献
#
虽然在聚类检测上取得了良好的对抗效
果却未考虑扰动检测 ,&- 方法下进行的抗检测改进。
针对上述问题本文通过对输入和目标神经元的敏感度分析
进行动态触发
器候选集选择并提出一种使用基于聚类结果和随机化混淆的综合惩罚函数作为
改进的触发器生成网络 &.。相比于静态的触发器选择基于敏感度分析的动
态选择触发器候选数据集方法生成触发器所需训练代价更小、效率更高。随机
化混淆触发器生成网络可以增加基于强扰动检测的拒识率其产生的触发器由于
随机化参数干扰神经元的存在很难被 ) 检测模型重新复原出潜在的触发器数据
集。
1 深度神经网络后门攻击
本章需要用到的相关术语解释详见表
。
表 1术语表
名词术语 基本解释
敌手 实施攻击的主体
触发器 作为神经网络输入用于触发后门攻击的数据集合
触发器候选数据集 在单个输入的数据集合中用作后续生成触发器的数据集合
触发器生成网络 用于生成触发器的神经网络
目的神经元 攻击者选择的用于触发恶意分类的神经元
伴随神经元 攻击者用于诱导差值检测的神经元
攻击精确率 恶意的输入示例成功触发攻击占总输入恶意示例的比值
新窗口打开|下载
CSV
/威胁模型
剩余12页未读,继续阅读
资源评论
罗伯特之技术屋
- 粉丝: 3684
- 资源: 1万+
下载权益
C知道特权
VIP文章
课程特权
开通VIP
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功