AI 赋能的网络攻击分析与分类
Zhi WANG
University of Chinese Academy of Sciences
摘要
近些年,伴随着计算机性能的不断提升,人工智能(Artificial Intelligence,AI)技术得
以迅速发展。以深度神经网络为代表的人工智能技术在包括自动驾驶、智慧城市、医学
图像等在内的多个领域取得了巨大突破,并开始走进千家万户。在 AI 惠及大众的同时,
我们也注意到 AI 能够助力攻击者执行网络攻击任务。本文对已有的 AI 赋能网络攻击案
例进行梳理,分析 AI 在攻击任务中的作用,将 AI 赋能的网络攻击划分为在线和离线两
类,并给出相应的讨论与展望。
关键词 人工智能 网络攻击 神经网络 网络空间安全 人工智能安全
1 引言
人工智能作为引领未来的战略性技术,日益成为驱动经济社会各领域从数字化、网络化
向智能化加速跃升的重要引擎。近年来,数据量爆发式增长、计算能力显著性提升、深
度学习算法突破性应用,极大地推动了人工智能发展。然而,技术往往具备两面性。当
技术应用于好的一面时,能推动科技发展和社会进步;而当其应用在不好的一面时,能
造成发展停滞和社会动荡。人工智能技术也是如此。当应用在网络安全领域时,人工智
能可以在入侵检测、恶意代码防御、态势感知等多个方向提供有力支撑,也可以助力攻
击者执行更加高效和难以防御的网络攻击。
2018 年,由来自 26 所不同研究机构的科学家联名发布了针对恶意利用人工智能的报告,
提出了恶意利用 AI 可能导致的数字安全、物理安全和政治安全风险,号召全世界的 AI
研究团队警惕 AI 安全风险,抵制针对 AI 的恶意利用行为。随着 AI 安全风险的加剧,
一些知名安全厂商也对 AI 应用于网络攻击的趋势进行了预测。BeyondTrust[1]在网络安
全发展趋势预测中指出,机器学习训练数据污染、AI 武器化的泛滥将给网络安全带来巨
大挑战。Check Point[2]在网络威胁趋势预测中认为,AI 技术呈现武器化趋势。Gartner[3]
则表示,到 2022 年,30%的网络攻击将与人工智能安全有关,人工智能趋于工程化。
Fortinet[4]也认为,借助于多形态恶意代码的进化、集群攻击和人工智能的武器化成为趋
势。尽管人工智能可以运用在多个领域(如自动驾驶、武装器械、智能家居等),本文
主要关注其在网络安全领域的应用,侧重点在网络层及以上,聚焦于应用层。