自動駕駛是一個研究領域，裡面蘊含著複雜的單學科甚至跨學科技術。當自動駕駛被運用在汽車等交通載體，就會產生許多安全問題，這也是安全的伴生性體現。自動駕駛安全，同樣作為一個研究領域，主要涉及Safety和Security兩個方面。近年來，受到廣泛關注，包括安全頂會NDSS2022的Automotive and Autonomous Vehicle Security (AutoSec) Workshop。
自動駕駛安全是指涉及自動駕駛車輛和系統的安全性能和措施，旨在保障在無需人工干預的情況下車輛的安全行駛和乘客的安全。這包括車輛上的感測器和系統對周圍環境的感知與判斷，自主做出行駛決策和控制，以及有效應對各類交通情況和緊急事件，以確保車輛在道路上穩定、高效、安全地行駛，並最大程度地預防交通事故的發生。自動駕駛安全的實現需要先進的感測技術、高級算法和嚴格的測試驗證，同時也必須符合國家法律法規和相關安全標準，確保技術套用的穩健性和可靠性。
基本介紹
自動駕駛的Safety,ADAS功能,HAD功能,自動駕駛的Security,硬體安全性,對抗性樣本,相關參考標準,
自動駕駛的Safety
自動駕駛的safety是指確保自動駕駛車輛在各種情況下都能夠安全運行，保護乘客、行人和其他道路用戶的生命和財產免受傷害。自動駕駛系統必須能夠在各種環境和路況下做出明智的決策，防止碰撞、事故和其他危險情況的發生。實現自動駕駛的安全性需要以下幾個關鍵方面的考慮：
- 感測器和感知系統：確保感測器能夠準確地感知周圍環境，及時檢測障礙物、道路狀況和其他車輛等。
- 決策與規劃：自動駕駛系統需要能夠做出適當的決策和路徑規劃，以避免危險情況，並遵循交通法規和規定。
- 系統可靠性：確保自動駕駛系統的硬體和軟體在各種情況下都能夠可靠運行，防止系統故障或崩潰。
自動駕駛安全涵蓋了自動駕駛技術的各個階段和功能，目前主要分為ADAS（Advanced Driver-Assistance Systems，先進駕駛輔助系統）功能和HAD（Highly Automated Driving，高度自動化駕駛）功能。ADAS功能輔助駕駛員提高安全性，而HAD功能安全性仍然受到質疑。
ADAS功能
ADAS是由一系列車輛輔助功能組成，旨在幫助駕駛員提高行駛安全性並減少駕駛負擔。ADAS功能包括但不限於：
- 自適應巡航控制（Adaptive Cruise Control，ACC）：根據前方車輛的速度和距離，自動調整車輛速度，保持與前車安全距離。
- 自動緊急制動（Autonomous Emergency Braking，AEB）：當系統檢測到潛在碰撞威脅時，自動實施制動，減少碰撞的嚴重程度或避免碰撞。
- 車道保持輔助（Lane Keeping Assist，LKA）：通過控制方向盤或剎車，使車輛保持在車道內行駛，降低駕駛員疲勞或分神導致的事故風險。
- 盲區監測（Blind Spot Monitoring，BSM）：監測車輛盲區，提醒駕駛員注意潛在的側面交通威脅。
- 道路標誌識別（Traffic Sign Recognition）：該功能通過攝像頭或其他感測器，識別和讀取道路上的交通標誌，將交通限制和指示信息顯示給駕駛員。
- 自動泊車（Automatic Parking）：自動泊車功能可以幫助車輛自動尋找合適的停車位，並控制車輛完成並行或垂直泊車動作，減少停車操作中的駕駛錯誤。
- 疲勞駕駛監測（Driver Drowsiness Monitoring）：該功能通過監測駕駛員的眼睛和面部表情，識別出疲勞和分神駕駛的跡象，並提醒駕駛員休息。
- 自動避障（Automatic Obstacle Avoidance）：自動避障功能能夠在車輛前方出現障礙物時，自動避讓或繞過障礙物，確保車輛和乘客的安全。
HAD功能
HAD是指車輛在特定條件下可以實現高度自動化駕駛，即車輛可以在無需駕駛員干預的情況下完成特定任務。然而，HAD功能的安全性目前仍受到質疑，並且有以下一些挑戰：
- 複雜交通環境：在城市或擁堵路況下，道路上存在大量交通參與者和複雜的交通情況，HAD系統可能難以準確預測和處理所有情況。
- 天氣和路況：惡劣的天氣條件、道路施工以及未標記的道路可能影響HAD系統的感知和決策能力。
- 道德決策：在緊急情況下，HAD系統可能需要做出涉及人命的決策，這涉及道德和倫理問題，難以完全由技術解決。
綜上所述，自動駕駛安全涉及到不同級別的技術功能，ADAS功能能夠輔助駕駛員提高安全性，而HAD功能目前仍需要克服一系列挑戰和問題，以確保其安全性能和可靠性。
自動駕駛的Security
安全性是指保護自動駕駛系統免受惡意攻擊、黑客入侵和其他安全威脅的能力。自動駕駛車輛依賴於計算機系統和通信網路來實現自主駕駛，因此必須採取措施確保系統不會被未經授權的人員或惡意分子操控。確保自動駕駛系統的安全性需要以下幾個關鍵方面的考慮：
- 威脅分析與漏洞評估：識別潛在的安全漏洞和威脅，並採取相應的措施來減少風險。
- 數據隱私：保護車輛感測器和用戶數據的隱私，防止未經授權的訪問和使用。
- 加密與認證：使用加密技術來保護通信和數據傳輸的安全性，確保系統的身份認證和授權機制。
自動駕駛安全性主要包括兩個方面：硬體安全性和對抗性樣本（Adversarial Examples）。
硬體安全性
自動駕駛系統的硬體安全性是確保自動駕駛車輛的物理部件和組件不會受到惡意攻擊或操控的重要方面。這涉及到保護感測器、控制單元、通信模組等硬體設備，以防止黑客入侵或物理攻擊。一些關鍵考慮因素包括：
- 防止物理入侵：確保車輛的物理部件不易受到入侵或損壞，防止攻擊者通過物理手段破壞硬體設備。
- 可信任的硬體模組：使用硬體加密、安全引導等技術，確保硬體模組在啟動過程中不受篡改，防止惡意代碼的注入。
- 安全感測器：保護感測器免受干擾，以防止攻擊者通過干擾感測器數據來誤導自動駕駛系統。
對抗性樣本
對抗性樣本是一種特殊設計的輸入數據，通過微小的修改就能夠欺騙自動駕駛系統，使其做出錯誤的決策。這些修改可能對人類眼睛幾乎不可察覺，但卻足以誤導機器學習模型。對抗性樣本可能會導致自動駕駛系統在現實世界中做出不安全的行為，例如將停車信號誤解為加速信號。
對抗性樣本的特點包括：
- 不可察覺的擾動：對抗性樣本的擾動可能非常微小，對人類來說幾乎無法察覺，但卻足以改變機器學習模型的輸出。
- 跨模型攻擊：某個對抗性樣本可以攻擊多個不同的自動駕駛系統，而不僅僅是特定模型。
- 模型的脆弱性：自動駕駛系統中使用的機器學習模型可能對對抗性樣本非常脆弱，容易受到誤導。
解決對抗性樣本問題需要採用強化學習、模型魯棒性增強技術、數據增強等方法，以增強自動駕駛系統對於輸入數據的魯棒性，降低受到對抗性樣本的風險。
相關參考標準
自動駕駛系統從研發到套用，需要進行充分的功能安全和性能安全測試驗證來證明其運行安全性。“安全第一”是自動駕駛的核心理念和價值觀。自動駕駛車輛的整體系統安全設計是一項複雜的系統工程， 涉及車載自動駕駛系統的核心算法策略設計、 硬體和軟體冗餘安全設計、遠程雲代駕技術、 全流程測試驗證技術等， 並遵循功能安全（ISO 26262） 和預期功能安全（ISO/PAS 21448） 的要求和設計思路。
