研究人员探究无人驾驶汽车人工智能的安全性，发现漏洞
人工智能是自动驾驶汽车的关键技术。它用于决策、感知、预测建模和其他任务。但这些人工智能系统有多容易受到攻击？布法罗大学正在进行的研究探讨了这个问题，结果表明恶意行为者可能会导致这些系统失效。例如，通过在车辆上策略性地放置 3D 打印物体，可以掩盖车辆的检测，从而使车辆在人工智能雷达系统面前隐形。
研究人员表示，这项研究是在受控研究环境中进行的，并不意味着现有的自动驾驶汽车不安全。尽管如此，它可能会给汽车、科技、保险和其他行业以及政府监管机构和政策制定者带来影响。
“尽管自动驾驶汽车目前仍属新奇事物，但在不久的将来，它将成为一种主流交通方式，”领导这项研究的纽约州立大学计算机科学与工程系杰出教授乔春明表示。“因此，我们需要确保为这些车辆提供动力的技术系统，尤其是人工智能模型，免受敌对行为的侵害。这是我们布法罗大学正在努力研究的事情。”
该研究在一系列可追溯到 2021 年的论文中进行了描述，其中一项研究发表在2021 年 ACM SIGSAC 计算机和通信安全会议 (CCS) 的论文集上。最近的例子包括5 月份在第 30 届年度移动计算和网络国际会议(通常称为 Mobicom) 的论文集上发表的一项研究，以及本月第 33 届 USENIX 安全研讨会上的另一项研究，可在arXiv上查阅。
毫米波探测有效，但易受攻击
过去三年来，朱毅和乔团队的其他成员一直在布法罗大学北校区对自动驾驶汽车进行测试。
朱先生于 5 月从布法罗大学计算机科学与工程系获得博士学位，最近接受了韦恩州立大学的教职。作为网络安全专家，他是上述论文的主要作者，这些论文主要研究激光雷达、雷达和摄像头的脆弱性，以及将这些传感器融合在一起的系统的脆弱性。
“在自动驾驶领域，毫米波雷达被广泛用于物体检测，因为它在雨天、雾天和光线不足的情况下比许多摄像头更可靠、更准确，”朱说。“但雷达可能会遭到黑客攻击，无论是通过数字方式还是人工方式。”
在一次测试中，研究人员使用 3D 打印机和金属箔制作出特定几何形状的物体，他们称之为“瓦片面具”。通过在车辆上放置两个瓦片面具，他们发现它们可以误导雷达探测中的人工智能模型，从而使这辆车从雷达上消失。
有关图块掩模的研究成果于 2023 年 11 月发表在2023 年 ACM SIGSAC 计算机与通信安全会议论文集上。
布法罗大学的研究人员使用 3D 打印机和金属箔制作出特定几何形状的物体，这些物体可以巧妙地放置在车辆上，使其从雷达探测中消失。图片来源：布法罗大学
攻击动机可能包括保险欺诈、AV 竞争
朱指出，虽然人工智能可以处理大量信息，但如果给予未经训练的特殊指令，它也会感到困惑并提供不正确的信息。
“假设我们有一张猫的图片，人工智能可以正确识别这是一只猫。但如果我们稍微改变图像中的几个像素，那么人工智能可能会认为这是一张狗的图像，”朱说。“这是人工智能的一个对抗性例子。近年来，研究人员已经为不同的人工智能模型发现或设计了许多对抗性例子。所以，我们问自己：是否有可能为自动驾驶汽车中的人工智能模型设计例子？”
研究人员指出，潜在的攻击者可以在驾驶员开始行程、临时停车或在红绿灯前停车之前偷偷将敌对物体粘在车辆上。他们甚至可以将物体放在行人佩戴的物品中，例如背包中，从而有效地消除对该行人的检测，朱说。
此类攻击的可能动机包括造成事故以进行保险欺诈、自动驾驶公司之间的竞争，或伤害其他车辆驾驶员或乘客的个人欲望。
研究人员表示，值得注意的是，模拟攻击假设攻击者完全了解受害者车辆的雷达物体检测系统。虽然获取这些信息是可能的，但公众获得这些信息的可能性也不大。
安全性落后于其他技术
朱说，大多数 AV 安全技术都侧重于车辆的内部，而很少有研究关注外部威胁。
他说：“安全性在某种程度上已经落后于其他技术了。”
虽然研究人员已经研究了阻止此类攻击的方法，但尚未找到明确的解决方案。
“我认为要建立万无一失的防御系统还有很长的路要走，”朱说。“未来，我们不仅要研究雷达的安全性，还要研究摄像头和运动规划等其他传感器的安全性。我们还希望开发一些防御解决方案来减轻这些攻击。”
页:
[1]