The Garage 播客：第3季 第16集
車載AI：熱潮、現實與未來趨勢
與 AWS 的 Neel Mitra 一起
AWS 領導者 Neel Mitra 探討了汽車領域的演進AI ，並強調大型語言模型與具代理能力的AI 如何透過軟體定義平台，徹底改變車輛診斷與性能。此次對談特別指出，Sonatus 的創新方案，例如AI Director 和AI Technician，是擴展車載邊緣AI 並提升診斷體驗的關鍵工具。
收聽純音訊版本：
集數文字稿 | 《Vehicle》AI ：炒作、現實與未來趨勢
目錄
0:00 《Neel Mitra 與AI 大師班》簡介
今天在《The Garage 》節目中，我們的嘉賓是 AWS 數據與AI 部門的全球解決方案架構負責人 Neel Mitra。
在今天這堂人工智慧大師班中，我們將從AI 的起源開始探討。什麼是經典的AI ？什麼是大語言模型？什麼是具有代理特性的AI ？
接著我們來談談汽車產業。
AI 在當今汽車產業中扮演什麼角色？未來透過AI 與汽車產業，又有哪些機會能開創嶄新且令人驚嘆的成就？相信您一定會很享受今天的這場對談。
走吧。
歡迎收聽《The Garage 》。我是約翰·海因萊因（John Heinlein），Sonatus 的首席行銷長。今天我們邀請到來自 AWS 的尼爾·米特拉（Neel Mitra）。尼爾，歡迎來到《the garage 》。
謝謝。
尼爾，我們已經合作好幾年了。這真是太令人興奮了，我們終於能邀請你來拜訪我們，並與我們一起錄製一集節目。首先，請跟我們聊聊你自己以及你的背景吧。
是的。感謝您的邀請。能來這裡真是我的榮幸。我們一直致力於推動許多不同的計畫，如今終於迎來了這一天。我是在印度長大的，在這個行業已經有二十一年了。在此之前，我在印度完成了工程學的碩士學位，並在那裡從事了幾年的顧問工作，之後才來到美國。
然後，你知道的，從那時起，我曾與許多來自金融科技和醫療保健領域的《財星》五百強客戶合作，而且
1:26 認識尼爾·米特拉
直到 2016 年加入亞馬遜網路服務（AWS）之前，我從未想過自己會從事汽車相關的工作。
那時候嘛，你知道的，雲端技術還很新穎。我記得以前去拜訪客戶時，客戶常常會說：「嘿，你們不是賣書的嗎？對吧？你們來這裡做什麼？」
所以我會向他們說明，我們在企業領域的業務內容，接著再說明我們在基礎設施方面的作為。當時，我們在基礎設施領域的投入非常龐大。
而且正如各位所知，AWS 向來是雲端運算的先驅，而我們在基礎架構領域的地位，我想即使到了今天，依然是業界翹楚。 所以，是的，從那時算起，已經過了九年。時間過得真快。在 AWS，我們常說「每一天都是第一天」。再次感謝各位的邀請。能從各位身上學到許多，並與大家一同踏上這段汽車產業的旅程，實在是太棒了——關於這部分，我們稍後會深入探討。
非常感謝。我們總是喜歡先從一位嘉賓的有趣小軼事開始。請務必跟我們分享一個關於你自己的有趣小軼事。
2:24 瑜伽：熱與冷
這情況真棘手。好吧。
所以，你知道的，我生命中很多事情都像是毫無緣由地發生了，我認為是這樣，像是加入 AWS 並投入汽車領域的工作，我也不知道為什麼會這樣，但結果卻真的很有趣。
瑜伽進入我生命的方式也是如此。我不知道為什麼，也不知道是怎麼回事，因為我在印度長大，卻從未聽說過瑜伽，對吧？但你知道，有段時間我經常旅行，生活節奏太快，我感覺好像……總該有某種能從整體上照料我的東西，不僅是身體層面，還包括心靈、能量以及各方面。 於是我試上了一堂瑜伽課，覺得很喜歡，之後便時斷時續地練習。
我大概已經這樣做了八、九年了。但去年，又突然——我也不知道這有多隨機——我心想，我想把教瑜珈當作一項興趣。於是，我開始參加認證課程。OEMs。
這真讓人害怕。我老婆也問我：「你為什麼要那樣做？」不過，沒錯，這確實是個有趣的小知識。大概在過去這一年裡，我完成了兩百小時的瑜伽教練認證。
現在我正在攻讀碩士學位，還需要再修三百小時的學分。
所以這應該會很有趣，或許我退休後會考慮當瑜伽老師。
太棒了。那是哪種風格的瑜伽呢？
流瑜珈。
太棒了。
我的趣聞：我總是會試著為我們的來賓準備一個趣聞。我的趣聞是，好幾年前——大概十年前左右——我曾有幾年時間非常熱衷於比克拉姆瑜珈。
哦，真不錯。
如果我們的聽眾對此不熟悉的話，就是指在室溫高達一百零五度的房間裡進行的瑜伽。沒錯，就是熱瑜伽。他們稱之為「高溫瑜伽」，你走進房間後，會進行長達九十分鐘的瑜伽練習。這是一套非常特定的九十分鐘動作序列。練到最後，每個人都渾身濕透。
我在紐約也試過那種活動。我……我去了好多家瑜珈教室，最後定下來一兩家，不過，對啊，這段經歷挺有趣的。
而且瑜伽真的很棒。
當然，是力量，當然，是柔軟度，但還有那種正念和內心的平靜。對，在高溫教室裡練習九十分鐘後，你會感受到這種平靜，但總的來說，你離開時會感到非常平靜，而且我認為這能激發許多絕佳的靈感。我有些最棒的靈感，大概是在第四十五分鐘左右浮現的。
而且，你知道，從更實際的角度來看，我知道今天稍後我們會花很多時間討論「AI 」，但從更實際的角度來看，我看到如今機器已經為我們承擔了這麼多工作。對吧？沒錯。如果我們作為人類不保持覺知，並以更高的頻率運作，那將會很困難。
比如說，你還能怎麼辦呢？你寫程式，機器在執行。對吧？所以從正念的角度來看，我覺得我的瑜伽或許也能對我有所幫助。
我們走著瞧吧。
好的。那請跟我們談談你在 AWS 的職務。最近你在從事什麼工作呢？
是啊。所以，你知道的，工作內容很廣泛。就像你們都知道的，過去幾年我一直很專注於汽車領域。因此，我先是從事許多連網移動解決方案的專案，後來轉向軟體定義車輛領域，與許多全球客戶和合作夥伴合作，像是博世（Bosch）和電裝（DENSO）等。 還有許多客戶我無法具名，但其中包含寶馬（BMW）等其他廠商，這方面的工作一直讓我忙得不可開交。
但在過去這一年裡，我已將工作重心轉向更為廣泛的領域。這意味著我正與眾多汽車製造商及企業客戶合作，處理各式各樣的應用場景。這些案例與我過去幾年擔任架構師和工程師時所處理的極度小眾的汽車領域並不相同。但這段經歷非常有趣，因為你知道，隨著AI 、智能代理等技術的興起，機器學習領域正經歷著巨大的變革。
機會無窮無盡，而且我所看到的遠不止於單一產業。因此，我正努力學習更多知識。這正是我覺得在 AWS 工作最棒的地方。我感覺自己彷彿是靠著學習來領薪水。就像在大學裡讀書一樣，但卻不用付學費。你不僅能領到薪水，還能與來自全球各地的眾多才華洋溢的人共事，並為讓這個世界變得更美好而貢獻心力。
所以，是的。這就是我過去一年來的歷程，在AI 領域投入大量心力，與原始設備製造商（OEM）、機器人操作小組（RAG）以及代理式人工智慧（Agentic AI）合作，針對包括製造業和汽車產業在內的各種應用場景進行開發。
太好了。
嗯。
6:25 《人工智慧導論》（AI ）
你剛才提到了AI ，而且我們經常談論車輛和車載軟體，這部分我們稍後會再深入探討。不過在本集節目中，我們將比平時更深入地探討AI 。好，那我們先從高層次的角度來談談這個話題，因為我認為聽眾們對這類技術的了解程度可能各不相同。
是啊。而且我認為，如今大多數人聽到「AI 」這個詞時，大概會聯想到 ChatGPT，或者就是搜尋之類的功能。是啊。但那只是其中極小的一部分
關於AI 的潛力。
所以我想請問，您能否先從高層次的角度為我們概述一下？是的。關於AI 的演算法以及AI 的技術，我們可以考慮哪些範疇呢？
對啊。你知道嗎，在進入正題之前，先跟大家分享一個超有趣的小軼事：大約十五年前，我第一次看了電影《魔鬼終結者》，大概是那時候吧？對吧？當時我真的嚇壞了，像是「AI 」能對你做些什麼，還有你得如何對抗「AI 」之類的。
但後來當我真正開始著手處理這件事時，我心想：好吧，這大概還得等幾百年吧。就算真的會發生也是。我也不知道。畢竟，這只是科幻小說罷了。
對吧？我們會想出辦法的。但你說得完全正確。這個領域裡正在發生這麼多事情。
比如說，AI 這概念並非新事物。對吧？那些研究論文可是出自 1930、40 和 50 年代。
然後，你知道的，我們當時開始討論所謂的「有監督學習模型」。這意味著你要提供一些標記過的數據，試圖讓機器變得更聰明，這樣它們就能執行一些原本由人類完成的工作。
接著，隨著技術不斷演進、演進、再演進，我們便見證了無監督學習模型的問世。因此，它不再僅限於標註數據，也可以是未標註數據；可以是多模態數據，也不必僅限於文字。對吧？它可以是圖像、影片、音訊等等各種形式。
不管你信不信，就像在九〇年代，當AI 還不被認為那麼酷的時候，亞馬遜當時使用的就是AI 。
所以，如果你曾造訪過那個有史以來第一個亞馬遜網站——我沒去過，也不知道你是否去過——它以前會提供一個選項，就是說：「嘿，如果你喜歡某個特定類型……」——一個推薦系統——對，就是推薦系統。沒錯。那個網站是AI 。那是在九〇年代初期。後來 Google 也這麼做了，像是透過網路搜尋之類的功能。
Netflix 在早期，也就是當 Netflix 還會寄 DVD 給你之類的時候，就曾這樣做過。
沒錯。所以「AI 」並非新概念，這類監督式模型以及少許的非監督式模型，其實早已存在相當長一段時間了。
而且，即使回想我剛進入——就說，金融科技產業那段早期的日子，當時我們做了很多這類詐欺偵測、異常偵測的工作。這些都屬於AI 的範疇，對吧？
但後來當我進入汽車產業後，我看到的第一批AI 應用案例就像是定速巡航系統，這基本上就是，你知道的，收集所有這些多模態數據並加以分析，讓車輛保持在車道內。
有像車道偏離這類的應用案例，對吧，像是保持車輛在車道內行駛、控制車輛之類的。 這些都是傳統的機器學習模型。回到你的問題，沒錯，確實有監督學習和無監督學習，而深度學習的出現，正是為了探索如何像人類那樣思考——透過神經網路以及各種認知功能，我們開始逐步將這些技術導入車輛中。車輛開始具備定速巡航功能，而如今我們討論的則是不同等級的自動駕駛。
而且應用案例多不勝數，但隨著我們不斷演進，我認為「注意力」才是各位所需要的。我記得那篇論文的標題就是這樣。雖然我忘了確切的名稱，但那是谷歌大約在 2018 至 2019 年間發表的。對吧？「注意力」才是你們所需要的。
這就談到了自我關注機制。
如果你想想過去的「AI 」——也就是像神經網路（CNN）、卷積網路，以及反覆演算網路（RNN）這類系統——你會發現問題在於，雖然有這麼多單字，對吧？但「AI 」卻無法推斷出接下來會出現哪個單字或哪個語素。它的能力非常有限。舉例來說，如果我說：「嘿，約翰買了一輛 Rivian」，或是「尼爾買了一輛特斯拉」，或是其他任何情況，對吧？
AI 無法解析長句。它大概只能處理幾個字。
但隨著自注意力機制（self attention mechanism）的出現，以及約莫在 2018 年發明的 Transformer 架構，情況已經改變了。例如現在你可以處理成千上萬、數十萬甚至數十億個這類令牌。 透過自我注意機制，結合編碼器-解碼器架構的AI ，便能推斷出下一個詞可能出現在何處。因此，這種上下文感知能力，以及同時處理海量標記的能力，徹底改變了一切。這便是大型語言模型（LLMs）的開端——正如你所提到的，就是大家熱議的ChatGPT——但這些都是通往大型語言模型的基礎里程碑，而未來還會有更多發展。
嗯。
11:01 何謂大型語言模型（LLMs）？
既然你剛才提到了這點，我想知道這些變壓器模型的下一個層次是什麼，以及它們的關鍵創新何在——而 GPT 中的「T」正是指變壓器模型。
請告訴我們，這種 Transformer 模型——甚至更廣泛地說，大型語言模型（LLMs）——究竟如何改變遊戲規則？如今透過 Transformer 模型，我們能夠實現哪些新的可能性？
沒錯。我認為我們目前所見到的最大創新，就在於內容生成。對吧？你自己也是從事行銷工作，所以我相信你一定見證了這方面的生產力大幅提升，對吧？你可以製作 PowerPoint 簡報，也能製作各種故事、影片和音訊內容。
比如說，你可以製作一個播客，像……我記得 Google 也有一個，對吧？聽起來就像是兩個人在對話。這個可不是由AI 生成的喔！
這段內容絕對不是由AI 生成的，這絕對是真人對話。但就內容生成而言，我認為這是整個 ChatGPT 風潮中最具創新性的一項成果之一。
接著，我們開始聽到有模型是使用七十億個令牌來訓練，或是有一百億個令牌來訓練。但你提出了一個非常中肯的觀點：這對整個產業有何助益？正因如此，我們看到許多開發者生產力套件相繼問世。
舉例來說，在亞馬遜，我們有 Q Developer，或是我們最近推出的名為 Kiro 的工具——這是一款具備自主決策能力的整合開發環境（IDE），它運用大型語言模型的強大能力來做出所有這些決策。 因此，這不僅限於行銷或故事敘述的內容生成。它甚至可以生成諸如您正在編寫的程式碼這類內容，而且範圍極其廣泛。無論是 Java 或 Python 程式碼，甚至是已有五十年歷史的主機程式碼，皆可涵蓋其中。
而且，信不信由你，我們許多客戶——尤其是金融科技、醫療保健這類產業——都擁有大量大型主機系統，卻無法將其遷移，對吧？因此，如果AI 能夠解析所有這些程式碼、進行重構，並將其遷移至雲端以實現現代化，這對客戶而言將帶來巨大的投資報酬率。
是的。我認為關於大型語言模型（LLMs）這類技術，最有趣的一點在於：現在人們不再單純思考「通用型大型語言模型」，而是開始討論所謂的「通用人工智慧」（AGI）——儘管我們目前尚未達到那個階段。事實上，這些大型語言模型實際上是針對特定功能進行訓練的，例如圖像生成、音訊處理等等。因此，它們可以成為該領域的專家。
隨著時間推移，這些模型將會趨於一致。屆時將會出現一種更為整合的專家模型。沒錯。但目前，我們可以看到這些特殊的專家模型，它們確實能夠做到你所提到的那些令人驚嘆的事情。
完全正確。你說得非常對。而我認為，這正是該產業將迎來巨大變革的關鍵所在。
此外，AWS 也有一個大型語言模型（LLM）市集，對吧？因此，對於許多特定領域的功能來說，舉例來說，像預測性維護這類問題，長期以來一直是汽車產業的一大難題。還有許多時間序列預測模型，這些模型一直以來都是各種不同應用場景所需要的。
如果想想那些可能針對此類領域導向問題進行訓練的大型語言模型，這將是場革命性的變革。沒錯。正因如此，我們去年推出了一項名為「知識蒸餾」（distillation）的技術。所以重點不在於追求「大、大、大、大、大」，而是著眼於對貴公司業務真正重要的資料品質。
那可能是汽車產業。也可能是醫療保健。也可能是金融科技。但你說得完全正確。
我認為這正是業界的發展趨勢，未來將會出現琳瑯滿目的機型。屆時，客戶便能根據具體工作需求，選擇最適合的機型。
沒錯。有個例子雖然很多人都知道，但我認為對我來說特別有說服力，那就是當你思考醫療診斷時。
沒錯。
尤其是 X 光片。如果你曾經拍過 X 光片，你應該知道，拍完 X 光片後，技術人員會即時查看影像，但他們是不被允許——是不被允許告訴你的。 但他們每天要看成百上千張X光片。接著這些影像會交給醫生，而醫生每年要看數萬張X光片，然後他才會說：「哦，你的骨頭斷了」，或是「你的骨頭沒斷」，又或者「你有這個問題」或「你有那個問題」。
沒錯。但他們已利用數十、數百、數千甚至數百萬張 X 光片來訓練模型，而這些模型之所以能表現得與醫生一樣好，甚至在某些情況下比醫生更出色，正是因為它們所見過的影像數量極為龐大，而且它們能察覺到醫生無法察覺的細節。 我並非說它們會取代醫生，但它們潛在的作用在於進行篩選——也就是指出這5%的X光片值得進一步檢視。
例如，其他方面的情況就非常明確。沒錯。無論是降低成本、改善患者預後、縮短處理時間，還是其他任何方面。
重點是，這些都是新工具。沒錯。
而且它們還能以嶄新的方式加以運用。沒錯。
15:24 什麼是 AgenticAI ？
剛才你提到另一個詞，就是「agent-based」。我想，大多數人應該還不完全理解「agent-based」的含義。
這是一項非常重要的新興趨勢，但目前仍處於發展週期的早期階段。能否請您談談「代理性（agentic）」的含義？好的。關於「代理性」AI 能帶來哪些機會，同時目前又面臨哪些挑戰和限制？
沒錯，完全正確。我記得曾有句說法，稱去年或過去這幾年是「OEM 之年」，因為幾乎每週都能看到各類供應商陸續推出大型語言模型（LLM）。接著便迎來了 RAG（檢索增強生成）的時代，以及整個聊天機器人時代。如今，大家都利用這些大型語言模型來開發聊天機器人。
但據說今年是經紀人的年。為什麼說是經紀人的年呢？因為你需要採取行動。比如說，
就連身為人類，對吧，如果我們只顧著思考卻不採取任何行動，就永遠無法有所進展。
同樣地，針對所有這些原始設備製造商（OEM）和聊天機器人，您可以查詢所有這些資料，這或許是個不錯的開始。但若要基於這些資料採取行動，您需要某些功能。那麼，在傳統做法中，我們該如何做到這一點呢？我們會使用微服務。
我們使用，就是說，像，SOA 架構、REST API，還有這類東西。對吧？但在AI 的世界裡，我們談論的是代理程式，因為代理程式擁有決策權，而且可以具備自主性。那麼，自主性的程度究竟有多高呢？
這取決於具體的應用情境，而這正是我們將能學到更多知識的成長領域。舉例來說，在汽車產業中，我們討論全自動駕駛車輛已經很久了，但由於各種複雜因素，這目前仍無法實現。許多這類具有自主性的工作負載，也將面臨同樣的情況。 我們可以繼續討論由完全自主的代理處理所有事務，但當它們做出決策時，可能會面臨許多權衡取捨。
現在，你已經可以看到一些例子，像是日曆排程這種再平常不過的事，或是幫我找一趟從這裡飛到那裡的航班，要在這個時間範圍內，價格也要合理。 因此，顯而易見的是，隨著時間推移，我認為我們——無論是社會整體，還是每個個體（當然，每個人處境可能不同）——可能會更願意賦予「AI 」更多權限與自主權（此處雙關語），讓它代為處理事務。又或者，人們可以先讓系統完成工作，待執行前再確認：「這樣看起來合適嗎？」我認為上述所有情況都會出現。 但我認為關鍵在於，透過建立一個不僅僅是透過數據分析獲得答案，更包含採取實際行動、甚至可能朝著閉環方向發展的循環，我們便開始具備某種回饋循環的能力，這能提升AI 的能力與處理效率，並釋放其潛在價值。
是啊。最大的區別在於，到目前為止，我們編寫軟體的方式。對吧？這大多是基於規則的。
所以你基本上是在說，嘿，一個微服務或 API 會執行 x、y、z。而要做到這一點，它會接收輸入資料，並傳回輸出資料。你必須將這套邏輯以程式碼形式實現出來。
但就代理系統而言，由於它具備大型語言模型的強大能力，因此能夠做出許多決策。所以你或許不必時刻都明確指示，但這樣的取捨在於「思考能力」。就像我們人類一樣，對吧？如果我們一直想太多，最終只會耗盡自己的精力。
我們將會消耗大量體力。我們需要多喝點。我們需要多吃點。所以，對特工們來說也是一樣。
如果它是持續運算的，而且本質上具有某種非確定性，那麼你就會付出代價，因為這個代理程式會運行很長時間，並消耗大量記憶體、CPU 資源等等。總之，我想你應該明白，代理程式當然是未來趨勢，但如果遇到基於邏輯的工作負載——例如簡單的 if-then-else 邏輯——你還是應該選擇微服務。你仍然應該建置這些微服務。
無論他們的決策需要什麼，像是供應鏈這類的應用場景——這在當今確實是一大挑戰，對吧？尤其是面對種種關稅等因素，現階段存在著太多不確定性。
而且，如果你希望這個代理程式能處理庫存管理，就必須釐清供應商的狀態，還得處理物流與運輸等事宜。這些正是無法將大量邏輯編碼化的絕佳應用案例。代理程式或多代理協調機制需要存取不同的系統，以處理各項任務。因此，這些正是代理程式的絕佳應用場景，沒錯，這正是未來的趨勢。
不過，如果某件事可以透過基於規則的邏輯來處理，就不要試圖把所有雞蛋都放進同一個籃子裡，凡事都交給代理程式處理。
沒錯。
因此，我認為這兩種思維模式都會繼續並存——無論是決定論還是非決定論——並在適當的場合選用合適的工具。
19:56 《演化》AI
所以，如果我稍微退一步，總結你剛才所說的一切，我聽到的重點是：AI 正在發展，功能也日益強大。沒錯。但我們不該把它視為一個單一的整體，而是存在一個從較簡單的模型到較複雜的模型，再到可能更具獨立性——顯然是自主性——的連續光譜。我不想混淆這層意思，但就是指那些更具「代理性」、以行動為導向的模型。
而這些在未來都將持續發揮價值。
沒錯。
而且這種組合很可能隨著時間推移而演變。
這是一種思考方式嗎？
絕對是。若以我們的電腦、儲存裝置和資料庫來說，情況也是一樣的，一切都是這樣發展的。舉例來說，我們最初是從那些單體式大型主機的原始設備製造商（OEM）開始的，對吧？
接著，我們轉向了去中心化系統。我們開始討論 VMware 以及這類技術，現在則是容器。如今我們談論的是無伺服器函式，但那些龐大的實體伺服器依然存在。然而與此同時，無伺服器函式卻僅需 0.5 吉字節的記憶體即可執行一段程式碼。
因此，運算清單中這整套豐富的功能依然存在。資料庫。有這些龐大的單體式資料庫，對吧？但同時也有像時間序列資料庫這類的小型資料庫。
您還有其他類型的資料，也就是 NoSQL 資料庫。
因此，在AI 這個領域，由於有大量的大型語言模型（LLMs），同樣的情況也會發生。而我們正身處其中。你知道嗎？這正是我常開玩笑說的事。身為解決方案架構師，我們的職責就是從終端客戶的角度倒推，來釐清該選用什麼工具
這對您的使用情境來說是合適的，因為不要試圖把所有事情都塞進同一個籃子裡。該用什麼工具就用什麼工具，才對。
太好了。
21:24AI 汽車領域的應用
既然如此，我們就來談談汽車產業吧。Sonatus ，而我們的播客節目無疑是聚焦於車輛技術與車輛軟體的。你剛才提到了幾點，現在讓我們來探討當今車輛中如何應用AI ，接著我們再聊聊這項技術未來的發展方向。
是啊。所以，你知道的，在過去這十多年左右，我在汽車產業工作的期間，見識過許多應用案例。比如說，我的專業背景是 big data 和 IoT。除了汽車領域之外，我也曾參與許多智慧家庭類產品的開發工作。
對吧？正因如此，聯網出行與各種聯網家庭的概念其實頗為相似。你會取得大量這類遙測數據。就汽車領域而言，這些數據主要來自車載通訊系統。
而且他們負責處理所有車隊管理以及這類事務。
之後，我開始投入 OTA 領域的工作，因為我們開始討論：嘿，汽車領域也應該納入升級範疇，而不僅限於遠距醫療裝置或車載娛樂系統；而是該如何讓整個汽車系統變得更易於升級？而且這些系統必須能隨著時間推移持續升級，同時成本也不會因此折舊。
正是在這個時候，「軟體定義車輛」的概念開始浮現。而這不僅僅是關於無線更新。
各位都知道，你們在這個領域可說是中小企業（SME）和專家。 這也涉及車載架構的轉型，因為如果車上裝有數百個電子控制單元（ECU），情況真的會非常、非常棘手。因此，該如何實現ECU整合，並將其轉變為基於區域或領域的架構，進而能夠推送所有這些軟體更新，或是從車輛中收集大量數據，以打造下一代的用車體驗。
所以我認為，就AI 而言，正如我們所提到的，這項技術一直都存在。對吧？各種形式的機器學習一直都存在。幾年前，當我與我們的合作夥伴黑莓（BlackBerry）共事時，我們也曾討論過「合成感測器」的概念，也就是部署大量基於機器學習或邏輯的感測器。
而且，你們正在收集所有這些數據，並在雲端進行處理之前先在車輛上處理這些雜訊數據，因為數據的傳輸成本往往高得令人望而卻步。所以，抱歉回答得有些冗長，但我相信透過生成式AI 和智能代理，整個供應鏈將得以串聯，實現聯網移動性
或是資料的蒐集方式，以及您實際上能將多少高品質資料傳送至雲端。在採用 EE 架構與軟體定義車輛的背景下，您能在車輛本身執行多少本質上具有非確定性的作業，這將是至關重要的。
這正是你先前所提到的「選用合適的模型來完成合適的工作」這一點。
車上不需要配備那樣擁有百億個標記的模型。你們大概可以在車上搭載，你知道的，一個擁有千萬個標記的模型，這對你們想要達成的目標來說已經足夠了。而這正是你們正在開發的、專注於車載軟體的這些出色軟體，我認為將發揮極大的價值。
24:11Sonatus AI 技術人員
是的。非常感謝。真的很感激。那我們就來談談這個吧。我的意思是，我想正如我們一開始提到的，人們往往認為——而且普遍有一種觀念，認為車輛中的AI 僅限於自動駕駛、自動煞車，或是自適應車道保持功能。
這些技術確實非常了不起。我是這些技術的超級粉絲，非常喜歡它們。沒錯。但我們在「Sonatus 」所嘗試做的事情——我認為這是一個被錯失的機會，而我們正試圖提升大眾對此的認知——就是我認為這些技術還有更大的潛力可以發揮。
那麼，我來舉幾個例子。我們與 AWS 合作已有多年，我們非常珍視這份合作關係。
去年在消費電子展上，也就是一月二十五日。對，沒錯。
我們展示了一款名為「AI Technician」的新產品，該產品運行於 AWS 平台上，並運用大型語言模型。我們所展示的是，有機會透過大型語言模型與分析技術，更深入地理解車輛中的問題
然後利用像Sonatus 所提供的軟體、資料基礎架構等資源，來取得更優質、更細粒度的資料。沒錯。
為了能夠辨別，嘿。這是不是個問題？這不是個問題嗎？這是不是個緊急問題？
這是個非緊急的問題嗎？這是整個車隊都有的問題嗎？是的。這是單一車輛的問題嗎？
因此，這個「AI 技術人員」的概念已引起了極大的關注。此外，我們也運用了先前提及的「主動式」概念，即資料來源並非僅有一種。這不只是單純檢視故障代碼（DTC）——也就是診斷故障代碼——那麼簡單。我們並非僅僅檢視 DTC 代碼，然後將其輸入 RAG 或 LM 系統中。
是的。但更準確地說——這也是你稍早提到的重點——我們正在彙整來自多方來源的資料，並將這些資料整合起來，藉此獲得比任何單一來源更精準的答案。我認為這正是「AI 」所帶來的優勢。
這將擁有極其強大的威力。我同意你的看法。就像我們稱之為「輪上的資料中心」，而它確實名副其實，因為正如你所說，網路拓撲結構有這麼多種類，對吧？有 CAN、有乙太網路，還有許多其他種類。
而我們長期以來一直苦惱的，就是如何將這些不同類型的訊號反序列化為標準格式。正因如此，我們才開始著手研究 COVESA 的 VSS 規格，但並非每家車廠都會使用 VSS，對吧？ 每家都有自己的做法。那麼，現在該如何將來自各種網路拓撲結構、不同類型電子控制單元（ECU）的所有這些資料標準化呢？接著，如何在近乎即時的狀態下解析這些資料，進而提供個人化體驗，甚至實現預測性維護——例如當系統偵測到煞車來令片已磨損並需要更換時，便將相關資訊傳送至經銷商。
然後你去了經銷商那裡。經銷商說：「不，這沒問題。我們會幫你修好的。」對吧？
所以，這一切都構成了一個完整的價值鏈。我認為AI 可以解決這個問題。而不僅僅像你所說的那樣，只是個花俏的車載娛樂系統。沒錯。
例如，當 Alexa SDK 剛推出用於嵌入式裝置時，我就曾參與相關開發工作。 我至今仍記得，當時我們與恩智浦（NXP）合作進行了一場革新，並向客戶展示如何將 Alexa 嵌入系統中，對吧？像「Alexa，做什麼」這類功能。所以，我們從事這類資訊娛樂系統開發已久，機器學習（ML）技術也存在已久，但正如你所說，在當今這個「AI 」的時代，還有更多可以做的事情，因為這代表著下一個演進階段，而且它無所不在。
27:28Sonatus AI 總監：車載邊緣運算AI
正因如此，我真的很高興你這麼說。
而這最後一點，正好為我們今天在此要闡述的最後一個重點做了完美的銜接。我們非常興奮，Sonatus 剛剛推出了我們最新的AI 產品，名為「Sonatus AI Director」。 而且，我認為這甚至進一步延續了我們剛才關於AI 技術人員的討論，我們所認知的是，當今的AI 通常以 ADAS 單元為核心，一般來說，或者顯然在某些情況下，車載資訊娛樂系統（IVI）中的聊天機器人會執行諸如「最近的星巴克在哪裡」或「回家路上會遇到塞車嗎？」這類任務。沒錯。 但實際上，這僅佔車輛基礎架構中極小的一部分，也僅佔車輛子系統中極小的一部分。
因此，我們意識到，在更多車輛子系統中應用「AI 」技術，針對各類應用場景——無論是更精準的診斷、更完善的預防性維護、系統優化、效率提升，還是隨時間推移的調校等——都蘊藏著巨大的未開發潛力。 因此，AI 總監所做的是——AWS 是我們的首發合作夥伴之一，我們非常高興能有你們協助我們啟動這項計畫——展示我們如何提供基礎架構，以加速將AI 部署至車輛中，而非僅限於雲端。雲端固然重要，而且雲端將永遠重要。
沒錯。但有些應用確實必須在本地端執行，無論是因延遲問題、需傳送至雲端的資料量過大、隱私考量，還是智慧財產權保護的顧慮。我們該如何在適當的情況下，將這些模型更貼近車輛運行環境，使其在車輛基礎架構中運作，藉此解決問題、降低成本並提升效率呢？
因此，我們對最近推出這項服務感到非常興奮，也很高興能有您加入。您已經關注這類問題有一段時間了。您是否認為這在業界確實存在需求呢？
沒錯。我完全同意，因為，你知道的，數據仍是區別關鍵所在。
因為我們一直在討論「AI 」，但——請原諒我這麼說——如果資料品質不夠好，結果就是「垃圾進，垃圾出」。這正是我的信念。你知道嗎？就像你提到的，我們仍然必須極度重視資料品質、資料治理，以及各種不同的優化措施。
AI然後，無論是基於大型語言模型（LLM）的AI ，還是基於代理模型的AI ，都能為您帶來投資報酬率（ROI）。如果你只是以為，只要取得這個以網路數據訓練而成的 LLM，它就能為你的業務創造奇蹟，那是不可能的。我的意思是，這就是現實。
而這正是你們所開創的許多解決方案所在之處，我相信這些對客戶來說會非常有用。
是的。我感謝您這番話。另外，我們曾想到的一點是——我們已經驗證過這一點，而且至今仍是如此——各領域的專業知識實在非常豐富。無論是電池、動力系統、安全、輪胎，還是其他任何領域，都蘊含著大量的知識與實務經驗。
30:25 善用AI 及資料交換領域的專業知識
這類專業知識確實存在。但當前的挑戰在於，原始設備製造商（OEM）必須以高昂的整合成本，逐一將這些模型進行整合。我們該如何建立一個更具通用性的基礎架構，讓他們能以極具可擴展性的方式，從這些業界專家那裡汲取創新成果？這正是我們正在努力做的事情。到目前為止，這項舉措獲得了極其熱烈的迴響。
沒錯，這真的很令人驚嘆，因為即使你想想這些多模式的原始設備製造商（OEM），他們確實帶來了許多知識，儘管這些目前仍屬於內部數據。但越來越多不同產業領域都在運用這些數據。這就像十年前我觀察到的那樣，當時有許多客戶實際上都在參與一種稱為「資料交換」的機制。
這意味著他們擁有「交易員」——這可能是針對金融業、醫療保健或汽車產業的高品質數據——並以開源模式或商業模式（無論哪種形式）分享這些數據。而這些數據可被其他不同垂直領域所運用。我相信，這個領域也可能會出現類似的情況。當這種情況發生時，大型語言模型（LLMs）將展現出極強大的威力。
你將其作為思考的基礎，並融入所有這些最佳實踐。正如你所說，像電動車的續航焦慮，即使在今天仍是如此嚴重的問題。
沒錯。
我與許多人交談過，甚至包括原始設備製造商（OEM），他們都提到並面臨著同樣的問題。例如，電動車的續航里程焦慮，以及我們能做些什麼？而在建立起這套完整的「數據飛輪」之前——也就是從輪胎收集數據、從各處電子控制單元（ECU）收集數據，接著整合這些數據，並據此進行預測性或預防性維護，甚至實現續航里程優化——這一切都無法達到最佳化。
這看似更簡單，但實際上並非如此，因為我們也在車內整合了如此多的功能。就像我的孩子在長途駕駛時想看 Netflix 一樣，對吧？如果從系統中抽調了這麼多電池電力，卻仍期望續航里程能達到五百英里，那是不可能實現的。 那麼，該如何優化這一切呢？答案就在於數據，以及基於數據的機器學習（AI ），並透過持續學習來微調你的模型——無論是傳統模型還是大型語言模型。對吧？
而這就是所謂的 MLOps，你知道的，這是你可以做到的。
32:30 展望未來，就在今天
沒錯。你剛才提到「續航焦慮」，而造成這種焦慮的原因之一正是電池。關於車用電池技術的認知，正迅速演進。
我們的首發合作夥伴之一是名為 Qnovo 的電池管理系統及電池健康狀態領域領導者。嗯。我們很高興能邀請他們參與此次首發活動。
他們目前關注的重點在於，在電池故障偵測以及提升充電速度等方面展現了驚人的創新能力，但這一切都必須有數據作為基礎，也必須有相應的模型。因此，我們與他們合作的一項內容，就是協助利用相同的基础設施，提供一種將該模型落實的途徑。這是一個你可能未曾想到的子系統，但它能夠善用相同的基础設施。
沒錯。
此外，你提到的另一點——我認為這點非常重要——就是我們作為一個產業，以及身為技術人員，我們的使命始終是預見未來。而有時候，預見未來意味著你必須明白，未來總會有一些你所不知道的事情。
嗯。
那麼，該如何建立一套框架，以便在下一次創新出現時，能夠加以運用呢？
您可以善用這項優勢。因為在許多技術領域——尤其是汽車產業的歷史上——經常會出現這樣的狀況：設計時僅因「這是輛車，能行駛」就滿足於此，認為這就足夠了。但當出現未預見的情況時，您的車輛便會變得過時、在市場上競爭力下降，或是轉售價值降低。 我們該如何建立一套機制，讓車輛在交付後仍能隨著時間推移持續升級，以實現續航力優化、新增服務，以及導入新的安全技術？這正是我們致力於帶來的「可擴展性」優勢之一，而且我們認為業界對此有著巨大的需求。
34:04 運用雲端技術實現數位孿生
是啊，是啊，絕對沒錯。而這正是我之所以仍然相信，你知道的，雲端的力量將會變得如此重要的原因。對吧？
我雖然沒有直接參與其中一些計畫，但我的同事們確實參與了像雲端虛擬 ECU 這樣的專案。對吧？你們將許多原本可能用於車上的 NVIDIA 硬體設備移到了雲端。究竟該如何在雲端持續運行這些系統，並執行所有這些模擬呢？
尤其是當你採用那種整合了電子控制單元（ECU）的 EE 架構時，車輛便會連上雲端。接著，你會針對所有這些環節進行端到端的模擬。最終，你會試著釐清：在當下這個階段，什麼才是最合理的做法？因為汽車畢竟是截然不同的存在。
這跟耳機不同，那是一種智慧型耳機。對吧？你知道的，我不想對已經明白的人說教。就像是那些需要採取確定性行動的安全關鍵系統一樣。
安全氣囊即將展開。您必須立即採取行動。這與其他任何連網產品都不一樣。這是目前市面上最複雜的產品。
35:03 結論
所以我認為，正如你所說，這就像是持續學習的過程。我們將在雲端方面加速發展，並在邊緣端與合作夥伴攜手，但我們需要所有這些數據。此外，機器學習和原始設備製造商（OEM）也需要所有這些數據。我們需要所有這些 MLOps，也需要所有軟體開發生命週期（SDLC）的最佳實踐。這些需求不會消失，只是工具在不斷演變。
而且，我們必須因材施法，選擇合適的工具來完成合適的工作。
你說這是完美的總結，因為雖然我們剛才談了一會兒關於車輛邊緣運算，但重點其實在於你需要上述所有要素。沒錯。你需要強大的雲端運算能力，也需要強大的數據。
你需要強大的服務。沒錯。而且你需要車載數據，這兩者還必須緊密協作。這才是真正的關鍵所在。
這就是為什麼我們要與您合作。沒錯。
嗯。
正因如此，我們非常高興您能來到這裡。我們也是。能討論這個話題真是太開心了，而且能更詳細地談論「AI 」更是令人興奮。我們將在未來的集數中進一步探討「AI 」。但真的要感謝您為我們帶來這場關於所有這些技術的大師班。
謝謝你的邀請。真的很感謝你，約翰。和你聊天真是太愉快了。
如果您喜歡本集的內容，請按讚並訂閱，以觀看更多類似內容。感謝您的參與，期待很快能在下一集與您再見。
近期集數
《The Garage》播客
你能開發出一輛「天才級」的休旅車嗎？
《The Garage》播客
西方車廠（OEM）能從中國車廠學到什麼？
