一個共享的車載執行環境可管理哪些模型保持活躍狀態,以及哪些模型僅在運作條件需要時才會執行
隨著商用車的AI 能力不斷擴展,它們正面臨資源問題:持續運行每種模型都會對有限的運算能力和記憶體造成額外負擔,使得新功能的整合、驗證和運作變得更加困難。在架構層面上,挑戰在於如何在車輛現有資源的限制下,支援更強大的智慧功能。
每增加一個模型,都可能需要額外的 CPU 或加速器運算能力、記憶體、整合工作以及驗證程序。然而,在診斷事件或服務工作流程中所需的模型,通常沒有必要在每次行程中持續運行。即使該模型的功能並未被需要,仍將其保持在活躍狀態,會不必要地消耗執行資源。
對製造商而言,這帶來了一項設計挑戰,其影響遠超出初期生產階段。商用車的使用壽命很長,《FleetOwner》雜誌報導指出:「車隊已超過十年間未曾操作過如此老舊的設備。」出廠時預裝的運算能力與記憶體容量大多固定不變,但對其上運行之軟體及AI 的期望卻持續攀升。工程團隊必須釐清新工作負載如何與現有功能並存,以及如何在整個車隊中進行部署、更新與監控。
對於運維人員和服務團隊而言,這些限制同樣體現在數據中。儲存空間、頻寬和連線能力限制了能傳輸至雲端的遙測數據量,而收集大量數據會讓團隊在海量資料中費力尋找對診斷至關重要的事件和訊號。這種權衡難以避免:要麼將所有數據傳送至雲端並承擔相應的成本與雜訊,要麼減少傳輸量卻冒著錯過關鍵事件的風險。
這兩個問題都指向 相同的解決方案:將智慧移至車輛端,並將其視為共享的車輛基礎設施來管理,而非一組獨立且始終處於運作狀態的模型。共通的執行環境能夠管理一組模型,並根據各功能的需求分配執行資源。
將部署與執行分開
關鍵概念在於將「已部署」與「正在執行」兩者解耦。將模型保留在車輛上與執行該模型,是兩項獨立的決策。已部署的模型仍會佔用儲存空間,但其執行可依據運作需求進行管理。
這項區分使得兩類邊緣智慧得以並存。持續型智慧包含必須保持活躍狀態以支援連續性或安全關鍵功能的模型。持續型智慧的例子之一,便是 ADAS 道路物件偵測模型,該模型會在行駛過程中處理攝影機影像,以辨識車輛、行人及自行車騎士,從而避免碰撞。
按需智慧包含僅在車輛情境或運作條件需要時才會啟動的模型。按需智慧的實例之一,便是電池健康狀態評估模型:該模型會在充電或停放於車廠期間啟動,以評估電池劣化程度並標記需進行維護。要在同一套硬體上同時支援這兩項功能,就必須有某種機制來決定何時執行哪些任務,以及使用哪些資源,同時不干擾那些不可中斷的功能。
一個共享的車載執行環境能夠做出這些決策。它能夠管理部署、啟用、停用、模型版本、車輛訊號存取、輸出及監控,同時根據各功能的實際需求,分配 CPU、記憶體及其他資源。
這些決策必須符合各項功能的相關要求,包括驗證與資源可用性。按需執行並不會消除整合或驗證工作;它提供了一種管理無需同時運作的工作負載的方法。
讓車輛情境決定模型何時執行
車輛訊號、診斷事件、運作模式、地理位置、服務情境及其他模型輸出結果,皆可作為觸發模型啟動的輸入條件。當車輛狀態觸發特定條件時,平台會啟動模型;模型執行其任務後,平台會在任務完成時將其停用。模型僅在需要其功能時才會消耗資源。
由於已啟用的模型會與持久化函式爭奪相同的資源,要使這項做法切實可行,必須能掌握 CPU 和 RAM 使用狀況、儲存空間、模型佔用空間,以及並行運作的模型數量。工程與運維團隊還需要具備整個叢集範圍的部署可視性:了解已安裝哪些模型、哪些模型正在運行,以及可用資源是否足以支援所請求的工作負載。
共用協調層能夠以一致的方式管理各類應用程式,無需為每個應用程式建立獨立的架構。這些應用程式包括遠端診斷、邊緣日誌分析、配置監控、服務模式或測試模式、模型評估,以及針對性的工程工作流程,而每項應用程式的執行需求各不相同。
在地偵測,有選擇性地蒐集
車輛資料蒐集的案例,具體說明了此架構在實際應用中帶來了哪些改變。在以雲端分析為核心的工作流程中,團隊會先蒐集資料、上傳資料、搜尋異常狀況、辨識值得關注的事件、擷取相關訊號,最後進行問題診斷。
邊緣智慧型工作流程改變了這項流程順序:在本地端偵測異常、觸發針對性資料蒐集、上傳相關背景資訊,並進行診斷。關於哪些資料重要的決策,現在可以移至車載系統中進行。
Sonatus的Fastlane™ Edge 「智慧觸發器」功能便是其中一個具體範例。智慧觸發器將在車載邊緣執行環境中運行的AI 模型與 Fastlane™ Collector。邊緣端的輕量級異常偵測模型或數學函數可監控引擎行為的閾值。當偵測到異常狀況時,便會觸發一項 Fastlane Collector 政策,以擷取該事件周邊的相關引擎訊號。僅在偵測到引擎異常時,才會進行針對性的資料蒐集。
此方法可產生更具相關性的診斷資料集,並減少不必要的車對雲端資料傳輸及手動日誌搜尋。無論是提升連線效率、優化儲存空間利用率,還是縮短調查時間,皆取決於偵測品質與資料蒐集政策。
歸根結柢,這在架構層面所帶來的更廣泛啟示是:部署、執行、資源及生命週期管理必須一併考量。一輛車能夠支援日益擴增的「AI 」功能組合,而無需讓每種已安裝的模型都持續運行。當智慧功能成為車輛中受管理的功能時,邊緣「AI 」便能隨之擴展。
