跳至主要內容

Driving Innovation 播客:第 16 集

透過Sonatus AI Director 釋放車載AI的強大潛能

本集《Driving Innovation 》播客將探討車載邊緣AI 如何重塑汽車產業,並介紹Sonatus AI Director——這是一個端到端協調平台,能讓大規模AI 在車輛中的部署變得實用且具成本效益。Sonatus 的AI 產品經理Steve Stoddard將說明,AI Director如何協助汽車製造商在當今的ECU和車載硬體上,優化、部署及管理各式各樣的AI 模型,從而實現更智慧、更具適應性且個人化的駕駛體驗。

收聽純音訊版本:

集數文字稿 | 與Sonatus (AI 總監)共同探索車載AI 的強大潛能

0:00 引言:Sonatus 網站上線AI 總監

歡迎收聽《Driving Innovation 》的最新一集。本播客節目旨在探討那些正推動汽車產業邁向AI 所定義的軟體定義車輛的產品與解決方案。

今天我們為您帶來一集特別節目。我們將討論我們最新的產品——Sonatus AI Director。關於AI 與汽車產業的討論一直相當熱烈。

如今,圍繞著……的許多創新AI

一直以來都聚焦於雲端部署。試想您的聊天機器人或語音助理,然而在車載系統內直接整合「AI 」技術,仍蘊藏著巨大的潛力,能讓車輛變得更加智能、更具適應性,並為終端客戶帶來更愉悅的駕駛體驗。

而這正是車載邊緣運算(AI )的真正目的。事實上,這正是「AI 」計畫主任所致力解決的挑戰。那麼,讓我們

開始吧。

今天與我同在的是史蒂夫·斯托達德(Steve Stoddard),他是Sonatus 旗下AI 系列產品的產品經理。

史蒂夫將詳細說明「AI Director」的推出情況、其目標為何,以及該產品實際能提供哪些功能。

史蒂夫,歡迎再次做客本節目。

謝謝,

1:25 什麼是「AI 」導演

桑傑。很高興能來到這裡。

我覺得應該送你一件T恤或一個馬克杯,以感謝你連續三次蒞臨。很高興你能來,謝謝。那麼,我們就直入正題吧。什麼是「AI Director」,而我們為什麼要在此時推出這款產品呢?

當然。AI Director 是一個讓原始設備製造商(OEM)能在其車輛中開發、部署、執行及管理AI 模型的平台。而AI 現已準備好在車輛中運行,主要有三個原因。首先,終端客戶以及原始設備製造商本身,都開始要求車輛具備客製化、更個人化的功能,以及真正由AI 驅動的功能,因為如今這項技術已無所不在。

第二個原因是,隨著軟體定義車輛和數據的普及,數據無所不在;如果所有數據都要傳回雲端,以便在雲端執行AI 模型,那麼數據成本將會高得離譜。

此外還有資料安全問題。凡是從車輛傳輸出去的資料,都可能構成潛在威脅或造成資料外洩;因此,在可行情況下,直接在車內執行AI 的模型,是更安全的處理方式。第三個原因其實在於,如今各項技術正逐漸整合,真正使這一切成為可能;而就在幾年前,這類技術根本不存在,也無法像今天這樣實現。

沒錯。因此,車內搭載AI 的智慧功能還有很大的發展潛力。我認為,就像我們周遭的其他家電和裝置正變得越來越智慧化,並更能滿足我們的個人需求一樣,汽車或車輛也能做到同樣的事情。

請幫我——或者說幫我們——稍微了解一下,AI Director 究竟做了些什麼,而這些是當今市場上其他解決方案所沒有做到的。當然。

3:13 已解決的挑戰

我們觀察到的一個問題是,事實上,雖然有許多不同的工具可用於建構、開發和部署AI 模型,但這些工具都與AI 的開發歷史,以及網際網路的整體發展歷程息息相關。因此,許多基於雲端的應用程式都著重於建構將部署於資料中心的模型——在那裡幾乎擁有無限的運算資源,以便在這些模型的推論階段實際執行運算。 另一個問題在於,建構這些模型所需的数据目前仍存放在車輛中。當然,隨著如今越來越多的数据回傳至雲端,這情況正在改善,但這確實是我們在客戶實際部署模型時所面臨的挑戰之一。

第三個主要方面在於,這些模型將在車輛上運行。因此,這屬於非標準化的硬體。每輛車都有所不同。不同的

車輛中的電子控制單元(ECU)具備不同的功能,並可存取不同的資料來源。

因此,確實有必要能夠優化這些模型,使其能在車載環境中運行,同時也能從不同的電子控制單元(ECU)中,在適當的時機為這些模型提供正確的數據。

沒問題。所以您所描述的,本質上是一種工具鏈,用來管理從開發、訓練、開發優化,一直到實際將其部署到車內,並讓它在車內發揮其魔力的端到端生命週期。那麼,讓我們來談談這份「魔力」。我們預見汽車製造商會希望利用嵌入車內的AI 實現哪些應用情境呢?

是啊。完全正確。

4:41 用例範例

因此,許多不同的應用情境確實能從「AI 」中受益。其中之一便是通用的個人化功能。也就是說,所有希望針對特定使用者自訂車輛運作方式的各類功能。

另一個例子與虛擬感測器有關。當然,在當今時代,成本至關重要。而透過軟體定義車輛,便能將感測器部署到車輛中

透過這些AI 模型進行虛擬化,同時也能節省部分硬體成本。

另一個我們通常觀察到能帶來顯著效益的領域,在於車輛網路安全。正如我先前提到的,為了運行這些模型而將資料從車輛傳輸至雲端所面臨的某些挑戰,一旦能夠在車載環境中直接運行這些模型,並藉此提供更完善的保護,所有這些需求便不復存在。

隨著車輛日益電氣化,BMS 模型(即電池管理系統)也成為另一個重要領域。 這對當今的原始設備製造商(OEM)而言通常是一項挑戰,特別是在他們從內燃機車(ICE)轉型至電動車(EV)的過程中。然而,這類車輛通常也更具「軟體定義」的特質,且為了妥善管理這些電池系統、確保其高效運作並在最佳狀態下充電,需要處理大量數據。因此,這些都是讓AI 模型來驅動車輛的絕佳契機。

5:53 針對車載硬體進行最佳化

當然。我們都知道,關於運行AI 所需的龐大運算資源,這方面已經聽說過很多了。 雖然從電子系統的角度來看,車輛的效能和功能正不斷提升,但車內目前仍未配備高階的 GPU 和 NPU。請問「AI Director」是怎麼克服這些挑戰的,或是未來將如何透過「AI Director」來克服這些挑戰,讓像您所描述的「AI 」模型能夠實際部署到現世代的車輛中?

是的。完全正確。這是個非常好的問題。所以,傳統的AI 和汽車產業當然一直以來都專注於ADAS或自動駕駛。

而這是一個高度飽和且已被深入理解的領域。但正如我先前提到的,其他領域尚未達到同等程度的開發進展。我們從「AI Director」以及許多合作夥伴身上觀察到的一點是,人們正在開發各式各樣的模型,並希望將其部署到車輛上。

所以這可以

範圍涵蓋從非常簡單的物理模型(例如線性迴歸之類的模型),一直到神經網路,甚至基於大型語言模型(LLM)的模型。因此,根據模型類型以及車輛內建的硬體類型,可以針對該硬體優化這些模型,並在適當時機部署至適當位置,使正確的資料能輸入至這些模型中,從而發揮其應有的效益。

7:24 首發合作夥伴

您剛才提到了幾個應用案例,而且我記得您也提到幾家供應商。我知道我們一開始就與其中幾家建立了合作關係,而且我相信未來還會增加更多合作夥伴。但能否請您稍微談談這次推出時,我們已建立合作關係的幾家合作夥伴?

沒錯。因此,這是一個非常重要的生態系統,能夠將所有人以及這個過程中所需的所有步驟整合在一起。

我們實際上曾在雲端方面與 AWS 合作,特別是為了實作,

與我們的模型開發工作流程整合。當然,目前市面上已有許多優秀的工具,可用於訓練乾淨的資料、訓練模型,並將其準備好,最終導入我們的系統並部署至車輛中。而 AWS SageMaker Studio 正是這方面的絕佳工具,我們對此已有廣泛的應用經驗。

在矽晶片和硬體方面,我們與恩智浦(NXP)保持著非常良好的合作關係,並與他們密切合作進行優化,特別是為了讓他們更輕鬆地將這些模型優化,以便部署到恩智浦的硬體中。

8:25 模型攤商

在模型方面,我們與多家供應商保持合作。 其中一個應用案例是頭燈水平調整。歐盟即將於 2027 年起實施一項新法規,要求頭燈必須具備水平調整功能。一家名為 Compredict 的公司開發了一種虛擬感測器,能在無需額外硬體支援的情況下實現這項功能。這正是我們目前正在合作開發的一項非常酷的應用。

另一家則是在 BMS 電池管理領域的公司,名為 QNovo。

他們專注於車輛電池健康管理,以及偵測電池單元的健康狀態、運作表現,並預測故障等相關事項。這是一個他們持續研發的新模型,而我們也已與其合作推出該模型。 此外,在網路安全領域,我們還與另一家供應商 VicOne 建立了合作夥伴關係。他們擁有一套基於大型語言模型(LLM)的極具創新性的新模型,我們正與其合作將該模型部署至我們的硬體中。而我們正在展示的另一款模型,則是引擎異常檢測模型,這是我們在Sonatus 內部自主開發的。同樣地,該模型大量運用了 AWS 和 NXP 提供的各種優化工具。

恩智浦(NXP)。好的。所以合作夥伴組合相當理想,不同模型供應商的種類也相當豐富等等。這確實展現了「AI 」總監所能管理與處理的模型類型之多樣性。 我認為,將AI 模型更貼近邊緣、更貼近使用者,是一項重要的努力。此外,我們期待在未來的集數中,能針對AI Director 及其衍生解決方案進行更多討論。再次感謝您蒞臨節目,並作為三度受邀的嘉賓慷慨撥冗參與。

謝謝你。對了,恭喜你們成功推出這款產品。非常感謝你,桑傑。真的很感謝。

10:10 總結:哪裡可以找到更多詳情

本集《Driving Innovation 》就到這裡結束了。若想進一步了解AI Director,或想獲取更多關於今天討論內容的詳細資訊,請前往sonatus.com 的產品頁面,並下載更詳盡的解決方案簡報。再次感謝您收聽本集《Driving Innovation 》,我們期待日後能再次與您相見。

最新集數

相關資源

解決方案簡介

大規模部署車載邊緣 AI

Sonatus AI Director 賦能原始設備製造商(OEM)在各類車載平台上快速部署、管理及優化邊緣AI 。我們的統一平台簡化了整個AI 生命週期——從資料收集、模型訓練到部署——使車輛能直接實現即時且適應性強的效能。憑藉具運算意識的工作流程、與恩智浦(NXP)的無縫整合,以及對主要AI 合作夥伴的支持,Sonatus 能加速開發進程、降低成本,並為新一代軟體定義車輛提供更智慧、更可靠的功能。
返回頁首