研究人员部署模糊测试工具验证自动驾驶汽车安全性

随着自动驾驶汽车持续发展，新研究强调了严格安全测试的重要性，以防范远程操作系统中故意攻击和非故意不安全指令带来的风险。

来源：Kittiping Jirasukhanot via Alamy Stock Photo

黑帽大会美国站 - 拉斯维加斯 - 8月6日（周三） - 随着自动驾驶汽车在全球主要城市街道上出现，问题随之而来：如果攻击者掌控方向盘会发生什么？

这正是Zoox产品安全工程师Zhisheng Hu在2025黑帽大会美国站会议上试图解答的问题。Zoox为其"机器人出租车"服务提供无人驾驶汽车模型，这是道路上涌现的众多无人驾驶选择之一。虽然由人工智能驱动并通过远程操作命令控制的自动驾驶汽车（人类无需坐在驾驶座即可控制车辆）正变得越来越普遍，但这些车辆需要严格的主动压力测试来满足安全和安保需求。

隐藏的恶意指令

有时，驾驶汽车的AI对其试图采取的路线不够自信，因为路径上有施工区域。或者从停车场汇入繁忙道路可能存在困难。这时汽车会向远程操作员发送消息请求新指令。虽然这些车辆请求新指令对乘客和其他道路使用者来说是好消息，但自动驾驶汽车整体仍存在风险。考虑到人类可能且确实会犯错，重要的是要问：车辆是否能够或愿意拒绝不安全指令，无论这些指令是否是故意给出的。

Hu使用模糊测试框架评估自动驾驶汽车对可能导致与其他车辆或行人碰撞的潜在有害远程操作指令的反应。模糊测试有助于创建更混乱的情境来测试软件和操作系统，以识别任何漏洞或其他安全缺陷。这项技术帮助Hu发现了更多危险的边缘情况。

“随着每个循环，模糊测试器变得更智能，最终帮助我们发现了那些隐藏的恶意指令，“他表示，并指出有些指令最初可能看起来无害，但在特定条件下会变得不安全。

前进之路

施工区域混淆是一个常见用例。然而，Hu警告说，存在几个高风险时刻，远程操作指令在出现问题之前似乎都很好。他补充说，模糊测试有助于揭示错误、分析根本原因并保留决策逻辑。在本次"弹性测试"中发现的许多问题，如果没有模糊测试器将很难发现。

研究目标是加强自动驾驶汽车的安全性，以应对即使是最微妙的风险。但让人工智能变得更智能具有挑战性。

“我们真正相信自动驾驶汽车的安全和安保必须能够扩展，“他说。“这还涉及像真实世界攻击者那样主动挑战系统。”