人工智能模型数据泄露的攻击与防御研究综述.docx
版权申诉
157 浏览量
2023-03-06
20:51:56
上传
评论
收藏 45KB DOCX 举报
人工智能模型数据泄露的攻击与防御研究综述
本文对近年来人工智能数据安全与隐私保护的研究工作进行了总结和分析。
人工智能和深度学习算法正在高速发展，这些新兴技术在音视频识别、自
然语言处理等领域已经得到了广泛应用。然而，近年来研究者发现，当前主流
的人工智能模型中存在着诸多安全隐患，并且这些隐患会限制人工智能技术的
进一步发展。因此，研究了人工智能模型中的数据安全与隐私保护问题。对于
数据与隐私泄露问题，主要研究了基于模型输出的数据泄露问题和基于模型更
新的数据泄露问题。在基于模型输出的数据泄露问题中，主要探讨了模型窃取
攻击、模型逆向攻击、成员推断攻击的原理和研究现状；在基于模型更新的数
据泄露问题中，探讨了在分布式训练过程中，攻击者如何窃取隐私数据的相关
研究。对于数据与隐私保护问题，主要研究了常用的 3 类防御方法，即模型结
构防御，信息混淆防御，查询控制防御。综上，围绕人工智能深度学习模型的
数据安全与隐私保护领域中最前沿的研究成果，探讨了人工智能深度学习模型
的数据窃取和防御技术的理论基础、重要成果以及相关应用。
剩余18页未读，继续阅读
资源评论
xxpr_ybgg
- 粉丝: 6535
- 资源: 3万+
