人工智能对安全评价标准的影响.pdf
版权申诉
71 浏览量
2022-11-13
13:09:47
上传
评论
收藏 107KB PDF 举报
人工智能对安全评价标准的影响
随着物联网(IoT)和人工智能(AI)的发展，许多行业正在受到影响。安全领域的 AI 威胁尤
其值得关注。然而，如果我们仔细研究物联网的使用数据，我们会发现我们实际上无法对这些威
胁做出准确的评估。由于人工智能系统往往在实际应用中不会按照人们要求做，所以在制定风险
评估计划时需要考虑人工智能(AI)所带来的挑战或者其对行业标准的影响。许多安全领域的专业
人士认为人工智能可以消除传统安全测试中遇到的挑战。比如美国国防部安全研究人员提出了一
种基于深度学习(DeepMind)的新方法，以减少人为错误导致事件发生时引起的风险。人工智能能
够自动识别潜在安全风险并将其与传统安全测试方法进行比较。这些分析能够确保不会发生任何
重大事件。与此同时，人工智能还可以提供适当的机器学习方法来评估系统风险，从而有效地防
止某些极端情况可能发生或造成严重危害并迫使企业作出调整。
一、物联网设备
随着物联网设备不断增加，其安全性问题也日益受到关注。然而，与物联网设备的数据量
相比，安全问题可能更加严重。就目前而言，在评估物联网设备安全风险时要考虑其存储数据的
完整性。例如，在过去十年里，网络钓鱼和恶意软件事件频繁发生。这表明，物联网设备记录的
数据并不完整。除此之外，很多专家认为，如果没有人进行监视，物联网设备可以随意查看用户
登录，并继续访问其他设备。同时，如果没有人监视物联网设备，将会导致网络犯罪分子在该设
备中发起恶意攻击。这种情况很可能会给用户造成严重或永久性损失，因为黑客可以控制这类行
为并获取数据。
二、机器
在安全领域，机器是一种复杂的系统。它涉及分析数据并通过逻辑运算实现许多不同分析。
例如，数据分析涉及模拟不同场景中的不同行为，而逻辑运算则涉及创建一种新的、更复杂的算
法，从而实现不同种类的操作。这些不同的功能都需要借助更复杂的逻辑运算实现。如今，机器
已被广泛用于评估安全性问题。通过模拟人脑在处理数据时的行为与人一样，机器也需要人脑中
的学习能力以及相应的记忆能力。通常情况下，人类从经验和直觉中学习新理论或原理。但是机
器也可以学习新的概念或原理——比如，机器可以学习系统如何进行工作。例如，在机械安全领
域中，机器可以学习机器如何识别机器并避免可能导致重大事故的错误——特别是对于危险程度
较低的机器而言。此外，在安全领域，机器可以学习对危险程度较高的设备进行检测。比如大型
起重机可以学习安全领域中较高风险程度的设备如何通过碰撞检测到潜在危险。
三、传感器
在所有的安全过程中，物联网(IoT)是主要的传感器，其使用量每年约为 120 亿次，并有大
量数据存在于世界各地的所有工业设施。在安全评估中最重要的是考虑 IoT 设备可能造成的风
险。IoT 设备可以影响周围环境。因此，在设计生产过程中，应考虑对设备进行正确布局以满足
安全要求。此外, IoT 设备可以作为监视系统或监控系统。目前正在使用和推广的用于监控与其
他系统或设备相互作用的传感器可以是智能手表/手环、摄像机和 GPS。这些传感器能够提供非
常精确和安全的信息并帮助设计人员更好地理解周围环境。此外这些装置也可以用于检测各种可
能会引发事故的危险因素。智能手表或手环可能与事故隐患相关，而 GPS 则与事故隐患有关（见
图 4)。
四、网络连接和连接系统
许多技术都会产生新的连接类型。人工智能技术将有助于降低对连接系统的风险。例如，
自动驾驶汽车需要与其他车辆连接以安全驾驶。这将使网络攻击更加难以防御。从这些角度来看,
AI 的使用有助于分析网络连接的安全性和有效性，并为自动化过程提供了一种重要的安全评估
手段。然而，人工智能提供了许多新发现机制，其中包括基于训练好的算法与机器学习模型之间
的关系。对于这些机制，人工智能技术将为自动化提供一个安全的预测结果。例如算法可以根据
资源评论
