深入解读自动驾驶中的安全隐患.pdf

【深入解读自动驾驶中的安全隐患】 自动驾驶技术，源自上世纪80年代的科研探索，如今在传感器技术和计算能力的不断提升下，已取得了显著进步。然而，随之而来的是对自动驾驶安全性的担忧，尤其是近期特斯拉和优步等公司发生的事故，凸显了这一问题的紧迫性。自动驾驶系统主要由传感、识别和控制模块构成，其中控制模块包括行为控制和机械控制。系统通过路径规划和强化学习算法来训练端到端的驾驶模型。 自动驾驶识别模块是关键一环，负责检测车辆、行人、车道标记和交通标志等重要元素。2D图像常作为输入，由深度神经网络进行处理。这些网络在计算机视觉任务中展现出与人类相当的识别能力，因此在实际控制系统中得到广泛应用。然而，研究发现深度神经网络易受对抗样本的影响，即通过微小的输入扰动可导致系统错误响应，甚至可能导致严重后果。 对抗样本的威胁逐渐引起关注，研究已从数字领域扩展到物理世界。以路标分类为例，由于其简单图形、环境变化、安全重要性和潜在的攻击途径（修改实物而非直接操控系统），成为讨论焦点。文献中的物理对抗攻击方法，如RP2，使用优化技术为每个图像生成扰动，同时考虑了物理环境的变化。通过模拟图像在数字和物理环境中的变化，生成的扰动能够在不同条件下欺骗分类器。 为实现这一目标，研究者采用拉格朗日松弛方法解决约束优化问题，并引入图像掩膜来确保扰动仅作用于目标物体表面，同时保持肉眼难以察觉。掩膜的设计允许扰动以涂鸦的形式存在，以此规避人类的注意，从而更隐蔽地影响自动驾驶系统的判断。 制造误差也被考虑在内，通过添加辅助项来模拟印刷色彩的不确定性，这一方法借鉴了之前关于制造困难度的研究。整体而言，理解并抵御自动驾驶系统中的对抗样本已成为确保其安全性和鲁棒性的重要课题，这需要深入研究物理世界中的信号处理、机器学习模型的稳健性，以及如何在现实环境中构建抗干扰的自动驾驶系统。