本案例研究探討恩智浦（NXP）的可擴展AI 解決方案，以及Sonatus 的AI Director，如何在車輛中實現基於邊緣運算的即時決策。
儘管基於雲端的AI 採用率持續增長，但車載AI 的應用仍相當有限，主要限於先進駕駛輔助系統（ADAS）與自動駕駛領域，這為車載AI 運算技術提供了提升車輛功能的契機，其優勢包括降低延遲、減少數據傳輸成本、強化隱私保護以及智慧財產權保護等。恩智浦（NXP）的 S32 汽車平台具備異構運算與加速器功能，可實現安全且可擴展的AI 應用。
Sonatus AI Director 提供一套用於AI 模型開發、部署及遠端監控的端到端工具鏈，並與 NXP 的硬體和軟體生態系統無縫整合。
雖然基於雲端的AI 具備強大功能，但車載「邊緣AI 」對於即時且安全的應用而言，仍能提供關鍵優勢。
- 降低延遲：在地處理資料可確保即時回應，這對於無法等待雲端通訊的安全關鍵功能至關重要。
- 降低成本：這能大幅減少將大量車輛資料傳輸至雲端的費用。
- 隱私與安全性：將資料保留在車載系統中，既能保護專有演算法（智慧財產權），又能透過將資料外洩風險降至最低來強化使用者隱私。
過去，由於 MLOps 工作流程複雜，且難以針對特定硬體優化模型，導致將AI 部署至車輛的進程受阻。此聯合解決方案透過預先整合Sonatus AI Director 與 NXP 的 eIQ® Auto ML 軟體及 S32 處理平台，成功解決了此問題。
- 端到端工具鏈：提供用於模型訓練、驗證、優化及部署的統一工作流程，無需再將分散的工具拼湊在一起。
- 自動優化：該解決方案會自動針對恩智浦的特定硬體加速器（如 NPU 和 DSP）優化模型，確保無需手動調校即可高效執行。
一項將標準的 Python 模型與經 C++/eIQ® Auto ML 優化的模型進行比較之基準測試顯示，效能獲得顯著提升。
- 更快的推論速度：使用 Glow 編譯後，平均推論時間縮短了 8 倍。
- 更低的資源消耗：CPU 使用率降低了 4.25 倍，虛擬記憶體使用量更銳減 144 倍，為其他車輛功能釋放了寶貴的運算資源。
