研究小组的演示表明,在道路上投影出人物等虚幻物体或虚幻道路路线,能导致半自主或全自主驾驶汽车出现刹车或跑偏情况。研究小组博士生本·纳西认为,这种行为可称为“幻影攻击”,利用配备有便携式投影仪的无人机或入侵互联网控制的路边数字广告牌就能实现。
纳西同时表示,远程利用无人机和数字广告牌对自主驾驶汽车实施幻影攻击,通常不会在现场留下任何证据,攻击者也不需要任何复杂的准备工作,同时实施攻击的设备价格低廉。研究小组证明,只需在路边数字广告牌上显示路线幻影125毫秒,便可让自主驾驶汽车的驾驶辅助系统信以为真。
目前汽车行业尚未考虑幻影攻击的问题。纳西认为,现在自主驾驶汽车采用的物体识别系统存在缺陷,其本质上使用特征匹配来检测视觉对象,没有接受区分真假物体的训练。研究人员还指出,实际上即使存在深度传感器,投影在道路上的无深度物体也被认为是真实的,这是汽车行业“安全胜于遗憾”政策导致的结果,它让现在汽车识别技术将可视的二维物体视为真实物体。
研究人员建议汽车制造商采取措施,确保其采用的自主驾驶技术能够识别道路上物体的真假。同时研究人员表示,他们正在开发一种神经网络,用于检查和探测物体的反射光以及其表面和背景,以确定道路上的物体是真实的还是幻影,为汽车制造商提供解决方案。