神经网络后门攻击研究.pdf

2021 年 6 月 Chinese Journal of Network and Information Security June 2021

第 7 卷第 3 期 网络与信息安全学报 Vol.7

No.3

神经网络后门攻击研究

谭清尹

1

，曾颖明

2

（1. 南开大学网络空间安全学院，天津 300350

2. 北京计算机技术及应用研究所，北京 100081）

摘 要：针对现有的神经网络后门攻击研究工作，首先介绍了神经网络后门攻击的相关概念；其次，从

1

2

2. Beijing Computer Technology and Application Research Institute, Beijing 100081, China

Abstract: According to existing neural network backdoor attack research works, the concept of neural network

backdoor attack is first introduced. Secondly, the research status of neural network backdoor attack is explained

from three aspects: research development, summary of typical work and classification. Then, some typical backdoor

[1]

[3]

[4-5]

收稿日期：2020−02−22；修回日期：2020−07−02

通信作者：刘哲理，[email protected]

基金项目：国家自然科学基金（61672300）；天津市人工智能重点专项（18ZXZNGX00140）

第 3 期 谭清尹等：神经网络后门攻击研究 ·47·

[6]

等现实场景中发挥重要作用。

攻击也称逃逸（evasion）攻

对抗性输入推理为特定目标。

·48· 网络与信息安全学报 第 7 卷

推理结果是否发生变化。

场景及攻击实施方式进行评估。

抗神经网络后门修复算法的能力。

分为 3 个阶段：验证期、完善期、丰富期。

的 Trojaning Attack，对模型进

上正确精度达到 96.58%，对原始训练数据以外的

数据正确精度达到 97.15%，同样证明了后门攻击

的可行性与危害性。

提出的 PoTrojan 在预训练模型中