新華社北京8月13日電 一塊普通的「路面污漬」竟能迷惑智能的自動駕駛汽車,在1秒內就導致車輛失控偏離行駛車道。一項國際研究新近證實了這一可能,再度引發公眾對自動駕駛汽車安全性的關注。
自動駕駛技術有時候並沒有人們想象的那樣聰明,一些人類可輕易識別的「小把戲」卻能完全迷惑自動駕駛汽車。比如,在交通標誌上貼一些惡意貼紙或涂鴉,就有可能導致自動駕駛汽車錯誤地將停車標誌識別為限速標誌。
美國加利福尼亞大學歐文分校、美國東北大學等機構的研究人員最新研究發現,一些偽裝為路面污漬圖案的攻擊補丁可誤導自動駕駛汽車上的自動車道居中輔助系統(ALC),導致車輛偏離其行駛車道,造成嚴重交通危害。該研究成果已於北京時間12日在線發表于第30屆「USENIX Security」會議上。這是信息安全領域四大頂級學術會議之一。
隨着自動駕駛技術的普及,目前很多L2級別(部分自動駕駛)的乘用車都配備了ALC系統,可自動控制車輛方向盤使其保持在車道中心。該系統通常利用深度神經網絡的車道檢測來實現車道居中自動輔助。研究人員通過安全分析發現,深度神經網絡模型層面存在漏洞,容易受到物理世界的「對抗性攻擊」。
路面污漬在現實生活中很普遍,較難引起人類駕駛員注意。研究人員用對抗性神經網絡生成誤導性的圖案,並將其偽裝為路面污漬,使攻擊更加隱蔽,讓這種「脏路補丁」誤導ALC系統。
研究人員分別在微縮場景、自動駕駛模擬器和現實中的真車上測試了「脏路補丁」攻擊,均成功「带偏」了ALC系統,造成車輛碰撞事故。在對一款配備了ALC系統的真車進行效果驗證時,測試車輛在10次試驗中的碰撞率達到100%。
論文通訊作者、加州大學歐文分校助理教授陳齊說,ALC系統如今被廣泛應用於各種車型中。儘管方便,但該系統需要具有較高安全性:當系統做出錯誤的轉向決策時,人類駕駛員可能沒有足夠的反應時間來防止即將發生的安全隱患。
該論文的共同第一作者,加州大學歐文分校博士生佐藤貴海和沈駿傑建議,為防御此類攻擊,一些汽車廠商應把路面污漬和「脏路補丁」加入ALC系統使用手冊里現階段不可處理的場景列表中,帮助用戶提前認識到這種風險的存在。有條件的廠商還可採取集成激光雷達和攝像頭等的多傳感器融合方案,或採用車道線檢測與地圖數據融合的方式防御攻擊。(記者 彭茜)