随机变换提高对抗鲁棒性

"随机变换提高对抗鲁棒性" 随机变换在对抗鲁棒性中的应用已经成为机器学习领域的一个热点话题。近年来，机器学习模型遭受攻击的安全问题日益严重，例如自动驾驶汽车的安全性问题。因此，找到一种有效的防御方法来抵御攻击变得非常重要。 在本文中，我们探索了随机组合的想法，将大量单独的弱防御组合成一个单一的随机转换弹幕，以建立一个强大的防御对抗性攻击。我们表明，即使在考虑了模糊梯度之后，随机变换屏障（BaRT）也是一个有弹性的防御甚至最困难的邪教攻击，如PGD。 BaRT的灵感来自于之前的一些作品，这些作品使用奇异变换来抵御攻击。我们在第2节中详细说明了解决对抗性问题的方法，并在第3节中介绍了攻击者的威胁模型。在第4节中，我们介绍了攻击者的威胁模型，并在第5节中展示了实验结果。 我们发现，在考虑了我们最强大的对手之后，我们获得了最先进的鲁棒性，可以抵御对ImageNet数据集的攻击。我们的方法可以扩展到ImageNet的规模，并且我们发现大多数试图保护其免受攻击的工作都是基于变换或去噪。 在本文中，我们还探讨了相关工作，包括针对机器学习模型的对抗性攻击的工作已经存在了十多年，但最近的工作表明它们对神经网络的成功已经产生了更多的动机和注意力。有些人认为这种担忧被夸大了，并且在现实世界中发生的位置，照明，角度和其他然而，后来的研究表明，这些困难是可以规避的，从而可以构建对抗性示例。 我们提供了一种新的、最先进的防御方法，完全解决了模糊梯度问题。我们的方法可以抵御对ImageNet数据集的攻击，并且可以扩展到ImageNet的规模。这项工作为机器学习领域的安全性和鲁棒性提供了重要的贡献。 我们的方法可以提供高达24μm的精度提高，与以前的工作相比，甚至扩展了效率到以前未经测试的最大对抗扰动μm= 32。我们的方法可以抵御对ImageNet数据集的攻击，并且可以扩展到ImageNet的规模。这项工作为机器学习领域的安全性和鲁棒性提供了重要的贡献。