99.9% 的安全係數對無人駕駛計程車來說夠好嗎？

0:00 引言：自動駕駛汽車的前景

今天在The Garage我們將以全新的視角看待自動駕駛。近年來，隨著 Waymo、Zoox 等眾多公司推出商用自動駕駛汽車，自動駕駛汽車取得了長足的進步，這令所有人興奮不已。在像我們居住的舊金山灣區聖荷西這樣的城市裡，許多人只需用手機就能叫到無人駕駛計程車，無人駕駛計程車就會出現，載著他們出行。這令人無比興奮，也取得了巨大的成功。就我個人而言，大約五年前，我曾在我的職業生涯中參與過無人駕駛出租車項目，當時這項技術還不成熟，那段經歷讓我非常沮喪。因此，看到這項技術取得如此巨大的進步，以及它在人們生活中的出色應用，真的令人鼓舞。 AI 。

話雖如此，隨著無人駕駛計程車數量的不斷增加，如何製造出性能卓越、足以大規模應用（成千上萬輛）的無人駕駛計程車，其複雜性和可行性才是更大的挑戰。還有誰比一位研究這領域三十年的真正專家更適合談論這個問題呢？我們今天的來賓是卡內基美隆大學的菲爾庫普曼教授，他剛退休，曾花三十年時間研究無人駕駛計程車和其他安全工程領域。他將與我們分享無人駕駛計程車大規模應用的優勢和挑戰。

走吧。

我是約翰·海因萊因，首席行銷官Sonatus我們非常高興今天菲爾庫普曼能來到這裡。菲爾，歡迎！ The Garage 。

謝謝邀請，很高興來到這裡。

我們倆都和卡內基美隆大學有著很深的淵源。我本科在那裡讀的，你也曾在那裡當過很久的教授。我想我們以前有過交集，那時我還是本科生，你是研究生。先介紹一下你的背景。

當然。我的背景是，我在倫斯勒理工學院獲得了電腦工程的本科學位。

之後，我加入了海軍，因為他們慷慨地資助了我本科學習。那時候就是這樣。畢業後我工作很順利，然後去了卡內基美隆大學攻讀博士學位，我們就是在那裡相遇的。我當時是硬體設計課程的助教，講的是位切片CPU，可能有些人都不知道這是什麼。不過那門課很有意思。博士畢業後，我去了哈里斯半導體公司當CPU設計師。之後我在聯合科技公司中央研究中心工作了一段時間，累積了豐富的嵌入式領域經驗，最後回到卡內基美隆大學當教授，在那裡教了近三十年書，最近才退休。

恭喜你擁有如此輝煌的職業生涯，你的背景也確實非常傑出。不過我們稍後再談。在此之前，你得先跟我們分享一個關於你的趣事。

當然。有趣的是，冷戰時期我在海軍開過潛水艇。我有一枚戰鬥勳章，但我不能告訴你我是怎麼得到的。

那真是個不可思議的故事。我喜歡潛水艇電影，像是《從海底出擊》和《獵殺紅色十月號》。故事太精彩了，我真羨慕你的經驗。

《獵殺紅色十月》確實非常出色。它非常準確地反映了我當年從事的那一類工作。

3:15 安全工程基礎

非常有趣。那麼請您談談您在卡內基美隆大學的職業生涯，特別是安全工程方面的經驗。那是您的一項重要專長。我想請您向我們的聽眾介紹安全工程的概念，以及它與傳統的工程（例如建造東西）有何不同？它又是如何與傳統工程互補的？

當然。我從事自動駕駛汽車安全方面的工作已經三十年了，也做過很多其他類型的安全工程，嵌入式系統的設計評審次數多到我都數不清了，大概有200次吧，大概15次之前就數不清了。有些方案根本行不通，但很多都是涉及各領域安全的問題。所以，我看過很多安全標準，也了解很多安全方面的問題。

如果要歸結為安全問題，關鍵在於：如果你正在建立一個系統並進行測試，工程師的職責是確保系統正常運作。他們非常擅長處理正常情況，但可能不太擅長處理異常情況。而安全工程的重點不在於如何讓系統正常運作，而是當出現問題時會發生什麼事。

具體來說，你要學習的是列出各種危險因素，也就是可能引發問題的因素。很多時候是人身傷害，但也可能是嚴重的設備損壞。可能涉及很多方面。總之，就是會發生不好的事情。

你要列出所有可能出錯的事情，以及確保這些事情不會發生或即使發生也能減輕危害的計劃。因此，安全工程就是列出危險因素，找出降低風險的方法，並確保這些安全要求納入工程要求。這意味著你必須有意識地設計安全措施，並且必須測試這些安全措施是否真的有效。舉個簡單的例子：火車上有空氣煞車。

如果一切都出了問題，車上有一個壓縮空氣罐，你按下按鈕，它就會緊急煞車。這是做什麼用的呢？嗯，火車上會發生很多事情，但大多數問題都可以透過緊急煞車來解決。這就是緊急應變計畫。

這樣描述很有意思，我覺得你說得對。身為工程師，你當然希望東西能正常運行，但你必須認真考慮所有可能的故障情況。我記得有個概念叫“安全故障”和“危險故障”，經常有人提到。我猜你的目標應該是先避免故障發生。但如果真的發生了，也要確保故障能夠優雅地解決，不會危及安全。這樣描述你覺得適合嗎？

5:37 安全故障和運作故障

是的。以前一直都是這樣，直到最近才有所改變。所以，對於傳統的化學系統，如果斷電，就是安全的。如果能讓化學過程降溫到室溫而不是過熱蒸氣狀態，那就安全多了。

所以，你想避免這個問題。你想找到一種方法，在遇到不安全的情況時，可以逐步降低風險，最終確保安全，通常這意味著消耗能量。例如，你開著車，你會把它停下來。但關鍵在於，在某些情況下，僅僅將能量消耗殆盡是不夠的。

假設你駕駛一架飛機，在35,000英尺高空發生引擎起火。關閉所有引擎是錯誤的做法，對吧？所以就有了故障安全機制，通常這意味著故障停止。

只要把所有部件都擰緊，斷電，就安全了。這在很多地方都行得通。但在某些情況下，如果涉及到高速運動，你就需要持續操作足夠長的時間才能讓所有零件停止運作。客機配備兩台引擎和兩套或多套飛行控制系統是有原因的，因為當其中一套系統發生故障時，你不僅需要停止飛行，還需要保持其他系統運作足夠長的時間，才能讓自己處於安全位置。

這同樣適用於汽車。如果你在高速公路上以每小時 60 英里的速度行駛，而你的轉向系統出現故障，那麼轉向系統就出問題了。它會失靈。

這樣行不通。

你需要讓方向盤保持工作狀態足夠長的時間，以便將汽車熄火。

沒錯。而且你甚至不能停下來，因為後面的車會直接撞上去。

所以你需要以某種優雅的方式…

你必須離開道路，離開行車道。我的意思是，或許有極少數情況下你無能為力。例如，如果引擎從車上掉下來，你也只能盡力而為。但在幾乎所有情況下，你都需要足夠的動力才能駛離行車道。所以你需要從正常操作模式切換到功能較弱、任務時間很短的恢復操作模式，但必須有備用方案。所以你必須有備用方案，否則就無法成功。

太棒了！我們今天在播客裡就能拿到安全工程學位了。

我覺得您真是個行家。您提到您從事自動駕駛領域已經三十年了，顯然，這段期間取得了巨大的進步，從最初只是人們的一個設想，到現在您可以在我辦公室門口叫到無人駕駛計程車。所以我想我們先來談談我們看到的那些令人欣喜的進展，然後再討論一些實際應用的問題。現在我們已經看到了一些實用的無人駕駛計程車，例如Waymo、Zoox等等，您可以租用它們。當然，中國也有一些解決方案，有人可能知道它們已經在某些城市、某些特定區域投入實際應用。我相信我們也會談到這些。

所以，在你從事這項工作的這段時間裡，一定有了巨大的進步。

嗯，已經過去三十年了，但已經取得了巨大的進步。所以，答案是肯定的，絕對可以。你可以叫一輛無人駕駛計程車。我坐過無人駕駛計程車，這項技術真是太棒了。

安全方面，99.9%只是一個好的開始，而不是終點。對吧？

感覺我們已經完成了99%，因為我的天哪，現在完全可以實現無人駕駛計程車了，但這確實花了三十年時間。三十年前，或者說三十一年前，卡內基美隆大學製造了一輛從華盛頓特區到聖地亞哥的汽車，98%的路程都是駕駛員雙手離開方向盤的，而我們花了這麼長時間才達到最後1.999%，不管那是多少。明白了嗎？

但這的確是一項巨大的進步，因為這是一項了不起的成就。實際上，裡面根本沒人操控。你知道，大多數時候，這些機器在行駛的時候，幕後並沒有人。這太棒了。

感覺我們離目標已經很近了，但我認為我們今天要討論的是，一旦路上有了 100 輛無人駕駛出租車，那將是多麼了不起的事情。

9:26 擴大機器人計程車車隊規模的挑戰

但從100輛無人開計程車到10萬輛無人駕駛計程車，這完全是兩回事。我常說的是，已經完成了99%，還有99%的工作要做。

我的意思是，這只是另一種說法，因為正如你提到的，在商業領域，人們常說“五個九”，也就是99.999，或者任何你想要的9的個數。關鍵在於分子是多少。對吧？如果路上只有100輛無人駕駛計程車，成功率是99.9%，可能相當不錯。但如果數量達到1000輛，甚至10000輛，就會出現一些小9的情況。

簡單除法。

請繼續。

當然。就是簡單的除法。舉個例子來說，100輛無人駕駛計程車一年才會遇到一次的問題，10,000輛無人駕駛計程車每週就會遇到兩次。

這並不是說無人駕駛計程車有什麼問題，但如果一年只發生一次，你可能根本不會注意到，但如果一週發生兩次，那就值得關注了。這並不是說無人駕駛計程車的品質變差了，而是說這是機率問題。數量越多，你就越需要注意那些以前發生頻率極低、無關緊要的事。

因此，運行100輛無人駕駛計程車的技術確實令人印象深刻，而且它已經存在，現在就可以使用。下一個挑戰是，如何處理那些過去非常罕見、無關緊要的事件，因為現在它們將大規模地變得至關重要。這才是真正的挑戰。

嗯，這真是一個令人興奮的話題。多年來，我們邀請過許多嘉賓在這裡談論過這個主題。 The Garage 換個角度來談談這個問題。

本季早些時候，Mobileye的一位高管和其他一些人談到了他們的工作。但您帶來了非常寶貴且獨特的視角。那麼，讓我們來談談您認為在自動駕駛計程車的大規模生產和大規模部署中會面臨哪些挑戰。

11:12 故障類型分類

嗯，我有四個分類箱，我想我們大概會逐一講解這四個分類箱的內容，不過先讓我預告一下。第一個分類箱是批量故障。如果只有一輛無人駕駛計程車，它停在馬路中間，那隻是一輛無人駕駛計程車的問題。但如果100輛無人駕駛計程車同時停在同一馬路中間，那就完全是另一回事了。

所以，軟體在類似情況下往往會發生故障。如果所有無人駕駛計程車都使用相同的軟體，這就是電腦的工作原理。它們往往會同時發生故障。因此，你必須為此制定應對方案。

其次，安全不僅關乎交通事故。

因此，整個行業一直在努力降低事故率，並且在這方面取得了顯著進展。但隨著無人駕駛計程車的數量從10輛增加到100輛，再到1000輛，我們意識到還有其他一些對安全至關重要的因素正在逐漸顯現。在最初階段，我可能不會說，我不會擔心這些問題，但事實證明它們確實很重要，所以我們需要從中學習。第三點是，極端情況，也就是罕見事件，最終證明它們帶來了巨大的挑戰。可以說，比任何人預想的都要大，但我知道它們會是個挑戰。業界已經制定了應對方案，但這又帶來了新的挑戰。最後一點是問責制。

隨著規模擴大，我們需要比現在更完善的問責機制。這並非自動駕駛計程車產業的錯，而是我們的法律體系尚未做好應對當前情勢的準備。

感謝您提供的分類方法，以及對我們未來發展方向的精彩展望。我認為它涵蓋了許多不同的方面，真正從不同角度進行了闡述。

12:41 #1 相關故障

那我們先從第一個問題開始，您提到了大規模故障，或者說一次故障往往會引發其他故障。請談談這個問題，它帶來的挑戰是什麼，我們該如何應對？

嗯，說到人類駕駛員，他們總是會犯錯。汽車會發生故障，各種各樣的事情都會發生。但是，100輛或1000輛車同時出現相同問題的情況很少見，因為每個駕駛員的情況都不一樣，每輛車的情況也都不一樣。

當然。有些事情會導致交通中斷或擁擠。例如停電，肯定會給所有司機帶來混亂。但如果每輛無人駕駛計程車都使用同一款電腦控制系統，而這又佔城市交通的很大一部分，那麼一旦出現故障，就會造成全城範圍的交通問題。

別跟我說計算機，尤其是大規模網路計算機，永遠不會出故障。要知道，CrowdStrike事件只是最新的典型例子。意外總是會發生。

現在中國發生了一起事故，好像在武漢，一家公司的所有無人駕駛計程車同時失靈，原因是某種通訊故障。結果，乘客被困在了高架路上。我們也看到過一些視頻，美國的無人駕駛出租車在大型聚會或停電等交通擁堵的大型活動中也會出現這種情況。你知道，這類事情確實會發生。但這並不意味著你不能使用這項技術。而是意味著你必須意識到這是不可避免的。我們不應該把所有軟體即服務（SaaS）的東西都放在同一個城市的同一個伺服器上，然後透過這種糟糕的方式為全世界提供服務。對吧？

好吧，你猜怎麼著？無人駕駛計程車也會有同樣的漏洞。你必須要有應對方案。

你提到過，當相當一部分流量來自同一家公司時，情況就不同了。顯然，這種情況目前還沒有出現。但很多人，或許是那些看好自動駕駛計程車的人，認為在未來的某個時候，自動駕駛計程車可能會取代或至少大幅減少汽車的數量。所以，當某家公司進行整合時，這確實是一個需要考慮的實際問題。我們現在暫且不談網路安全。網路安全可能是另一個完全不同的主題，我們可以以後再討論。

沒錯。你說到大規模入侵無人駕駛計程車隊，你可以想像這會讓一座城市癱瘓。所以這當然也是一個理論上的問題。但你的觀點是，即使沒有惡意行為者，僅僅因為相關故障，這種情況也可能發生。

沒錯。而且後果遠不止一堆無人駕駛計程車被困住那麼簡單。萬一發生地震，所有無人駕駛計程車都被困在地震中……我知道人類車輛在地震中也會遇到麻煩，但人類駕駛通常都能很好地避開緊急車輛。而我們已經看到很多無人駕駛計程車在這方面舉步維艱。

如果是一兩輛無人駕駛計程車，它們能自行解決。但如果數百輛無人駕駛計程車被困住，堵塞了災難現場所有緊急車輛的通行，那就麻煩了。那麼，與人類駕駛相比，這算是一個大問題嗎？這個問題很有意思。

但這些正是我們需要提出的問題。如果要將這項技術推廣到相當大比例的車輛上，就必須考慮災難應變措施。你需要考慮，嗯，好。所以，接下來我們應該要討論一下遠距協助的問題。

但是，如果你有 50 個遠端助手，而 200 輛車同時拋錨了，你知道，你的計劃是什麼？你需要一個計劃。

對。是的。類似地，我們稍後會在第三點討論一些特殊情況。但我們先想像一下，你剛才提到了地震。想像一場可怕的地震，很多道路都出現了裂縫。突然之間，你可能會遇到很多特殊情況，道路原本很好，現在卻出現了裂縫，而自動駕駛出租車卻能識別出障礙物。

你甚至不需要地震，只需要一場停電就能讓所有交通號誌失靈。

即使90%的車輛都能正確應付交通號誌燈，那10%的失誤累積起來也相當可觀，而且確實發生過這種情況。例如颶風疏散，或是其他什麼狀況？如果遇到他們沒有接受過訓練的情況，例如環境因素導致的事故，所有車輛都會同時失靈。當然，這種情況是可以改進的，所以問題不在於“我們無能為力”，而是我們是否著眼於未來？我們是在等待事情發生才做出反應，還是提前做好準備？隨著規模的擴大，我們需要做的就是提前做好準備。

好的。好的。第一個話題是……，這個話題真的非常有趣，也很可怕。第二個話題，你剛才談到了人為因素和故障轉移方法。

17:23 #2 高嚴重性極端情況和人工遠程協助

沒錯。所以，從一開始，無人駕駛計程車的技術挑戰就在於處理極端情況。也就是說，罕見事件，理論上，處理起來確實有點棘手。但想想停電這種事，停電其實很少發生，頻率也不高。當然，這取決於你住的地方。

但即便這種情況很少見，如果後果嚴重，如果你重視安全，就不能忽視它。例如行人突然走到街區中間，這種情況並非時有發生，具體情況取決於你所在的城市。

我知道有些聽眾會說，等等，他又不住在我所在的城市。但是，有人穿過馬路，或者孩子們從父母的車裡出來，穿過街區去上學。嗯，這取決於你住在哪裡，你可能從未見過這種情況，也可能每天都能看到。

所以，稀有其實是相對的。這就是問題的關鍵。你會說，這種情況不常發生。但即便不常發生，也無關緊要。

如果問題很嚴重，而且發生在你身上，你就得面對，對吧？機器學習的問題在於，它只擅長處理訓練過的事情，而且往往非常脆弱，缺乏——姑且稱之為常識吧——機器學習沒有常識。

所以，如果它遇到未經訓練的情況，就很容易過度自信。它甚至意識不到自己的無知，會做出一些在我們看來很愚蠢的事。如果這種情況非常危險，那就麻煩了。

所以，這些極端情況就是：如何處理機器學習沒有訓練過的事情？你認為這種情況是否罕見並不重要。如果它不知道，那就是不知道。說「我見過這種情況」對它沒有任何幫助。

嗯，如果沒經過培訓，那就是沒經過訓練。因此，嚴重安全事故非常罕見。即使算上醉駕，每行駛1億英里​​也只有約1人死亡。 1億英哩可不是小數目。

人們的駕駛技術非常出色，尤其是在沒有受到酒精或藥物影響的情況下。實際情況遠比這好得多。

所以你可以說，實際上只有極少數的事情才重要。人們會說，嗯，這種情況很少見，所以無關緊要。但事實並非如此。死亡事件極為罕見。

所以，事實上，真正控制安全的是那些罕見的情況。正常的工程流程是這樣的：我按下按鈕。它起作用了嗎？起作用了。

好的。明白了。安全工程雖然少見，但風險很高。而且，如果把所有可能發生的事故加起來，風險就太高了。

我們必須採取措施減輕其影響，以免即使是罕見事件也會造成重大損失。

沒錯。所以你談到了應對這些罕見事件的策略。

有哪些策略可以處理這些問題？

以前看起來確實有點絕望，因為這就像是在捕捉寶可夢，只不過寶可夢的數量是無窮無盡的。你不可能全部收集到，因為這個世界充滿了各種各樣的怪事。它真的太瘋狂了。而以前業內人士常說，只要能抓到足夠多的寶可夢，我們就願意忍受偶爾出現的怪事。

即使我們的安全係數是人類駕駛員的100倍，但如果真的發生了意外，那麼受影響的人數是人類駕駛員的100倍，他們也只會覺得，你知道，壞事總會發生，你對此無能為力。但就死亡率而言，我們的安全係數遠遠沒有人類駕駛者的100倍。我們無法確定，但肯定不可能安全100倍。

但他們最終也沒能達成目標。因此，業界基本上承認在極端情況下敗下陣來。

我們沒有能力讓人工智慧處理所有棘手的高風險情況。我們就是做不到。那他們的計劃是什麼？但他們已經在路上了。他們是怎麼做到的？他們的做法是，當機器人計程車遇到麻煩時，它會打電話回家，由真人來幫忙。

這是處理特殊情況的巧妙方法。這樣一來，你不需要接受所有情況的處理培訓，只需要接受足夠的培訓，知道「我不知道發生了什麼，我要打電話回家」。

所以，你看到的很多事件都表明，在何時打電話回家方面還有改進的空間。

但當他們打電話回家時，接線員會說，哦，是的。

我知道你因為路面反光或風吹得看不見交通號誌，相信我，兄弟，它是綠燈。好嗎？

安全方面，當他們說“綠燈”的時候，最好真的是“綠燈”，因為你知道，無人駕駛出租車有很多傳感器輸入，但遠程的人類卻像是在投票決定一切，很多時候決定著接下來會發生什麼。

很有意思。所以我覺得，顯然這個行業之前存在著一個不為人知的秘密，那就是很多公司都不願意承認自己會提供人工備用駕駛。但我認為，現在大多數公司都承認在某些情況下會這樣做。當然，這種情況可能比較少見，但他們的確會在特殊情況下提供這種服務。

這種情況其實經常發生。但這沒什麼不好，因為糾結於完全的自主性是無關緊要的。我並不在意它是否完全自主。事實上，我很高興有人在它不知所措的時候幫助它，因為另一種情況很可怕。

對吧？關鍵在於人均車輛數量。如果每人擁有100輛車，那就很划算。實際上，如果每人擁有10輛車，那麼多的話，收益就會遞減。

對吧？分子很小，除數很大。

沒錯。

你知道，10比1、20比1的比例差異其實不大。所以只要人均擁有一定數量的汽車，經濟效益（這才是關鍵）就沒問題。那麼下一個問題是，遠距協助真的安全嗎？現在業界終於承認他們有這項技術，我覺得這沒什麼問題。

我不認為這是件壞事。我認為這很現實，沒什麼問題。但這個行業至今仍未坦誠面對的是，這些人正在做出關乎安全的關鍵決策，我們需要意識到他們身處安全至關重要的職位。

業界仍在努力解決這個問題。但如果你只有10到20個遠距助手，你可以聘請最優秀的人才，也許就不會遇到太多問題。也許這根本算不上什麼大事。但如果你擁有一百萬輛無人駕駛計程車，你可能需要很多配備遠端協助的呼叫中心，而你必須管理這些中心的安全。

所以，這就是目前規模化發展面臨的剩餘挑戰。

好的。

23:31 #3 邊緣情況下的組合複雜度

還有第二點，我認為這是一個非常有趣的話題。第三點是特殊情況，我們在上一節已經稍微提過。幾個月前，我們邀請了Mobileye的一位嘉賓，我們聊到了他們的一個優勢——他們擁有世界上最大的駕駛數據庫之一——那就是他們可以積累特殊情況，並將更多特殊情況注入到客戶的訓練模型中等等。

當然，這樣做肯定是有益的。但正如我們之前討論的，我認為這種方法的挑戰在於，它只能解決你已知的問題。關鍵在於，還有很多你不知道的問題，而那些未知的未知才是最大的挑戰。我的理解對嗎？

沒錯，這就是我之前提到的無限寶可夢問題。但這裡有個很重要的細微差別。傳統上，人們想到極端情況時，會想到「哦，你看，路中間有隻斑馬，但我不知道斑馬是什麼」。他們會想到一些奇怪的物體或事件，當然，這些都算是極端情況。

但憑直覺，你或許能辨識出幾乎所有情況。更微妙、更棘手的是，有些已知事物的組合，如果你沒有接受過相關訓練，也會構成一種特殊情況。具體來說，你可能會遇到這樣一種情況：已知事物以一種與你訓練中不同的方式組合在一起。我給你舉個很簡單的例子。如果你看到一個停車標誌，我得提醒你，這是一個陷阱題。如果停車標誌立在桿子上，你會怎麼做？

你停了下來。

對吧？你停下來。好的。

然後你就走了，對吧？

沒錯。

但這是個陷阱題。如果是建築工人舉著的桿子上的停車標誌，你就得停下來，並且說「已停」。

幹得好。幹得好。

再來一個陷阱題，但我還沒說完。再來一個陷阱題。停車標誌插在桿子上，卻在某人手裡，不在他眼前，而是在他腿邊，你卻視而不見，因為那是學校交通協管員，他不會認真讓你停車。

每個人都憑直覺就知道這一點。每個人都憑直覺就知道這一點。但停車標誌其實很複雜。如果停車標誌是固定在公車上的，你是否停車取決於它是展開的還是折疊的。

因為一種情況，你會停下來並喊“停”，另一種情況，你會置之不理。所以我的觀點是，特殊情況遠不止停車標誌那麼簡單。當你接受過停車標誌的訓練時，你會說你很懂，但為什麼你的無人駕駛計程車會跑自行車公車呢？好吧，事實證明，停車標誌並沒有那麼簡單，我舉了一個大家都知道的例子。但實際情況遠比這複雜得多。

沒錯。

這真是個很有意思的例子。你知道，我去年開車的時候，一輛車突然左轉，拐進了對向車道……你根本沒見過這種情況，因為他根本不應該出現在那裡。那你會怎麼做？我當然是趕緊躲開。但問題是，你根本沒看過別人違反交通規則。所以你不僅要遵守自己的交通規則，還要想像其他駕駛人做出一些極為瘋狂的舉動。

而且在實際操作中，必須運用常識。我舉個例子，這個例子我直到最近才想到。我開車行駛在路上，一輛消防車停在我前面，消防員們正在下車。他們打開車門，發現車門內側畫著停車標誌。

所以我就想，我知道他們想要什麼。他們不想在下車的時候被撞到，所以我想我會停下來，告訴他們“停下，直到車門關上”，這就是我要做的。對吧？就是這樣，而且人們都很好。

我的意思是，我敢打賭你也會這麼做。你會根據上下文推斷這肯定更合理。明白它的意思。駕駛手冊上寫著呢。

我從未接受過這方面的訓練。我們和AI 糟糕透頂。它擅長在已知點之間進行內插。這就是它的功能。

他們說要寫日誌，意思是說我們有訓練要點，並且會在兩者之間做一些事情。但如果這個「兩者之間」的意思與其他所有相關概念都不同，那就出問題了。如果它意味著我們完全不知道該怎麼做，那也出問題了。

這太有趣了。我們光是這個話題就能展開一整場討論，因為顯然有很多關於這方面的討論。 AI 你知道，現在新聞裡都在討論我們是否已經進入通用人工智慧時代等等。但現實是，在這些特殊情況下，距離真正實現通用人工智慧還有很長的路要走。 AI 。

當然。但是，與其陷入這種爭論不休的泥潭，我們為什麼不談談安全不僅僅是關乎事故呢？這樣說如何？

我覺得很棒。我們就這麼做吧，這算是我們今天的總結。這次談話非常精彩。

28:05 #4 安全不只是車禍

好的。那麼下一個要點是，安全不僅僅是關於事故。這讓我很意外，之前並沒有特別在意這一點。我們一開始的想法是，安全能挽救生命，減少事故，而這才是最重要的。

但一旦達到同等水平，比如說，如今的無人駕駛計程車與人類駕駛員水平相當，甚至可能略勝一籌，也可能持平。事實上，就死亡人數而言，我們目前還沒有足夠的數據來真正了解最終結果。我們只能假設最終會是這樣。只要我們給予足夠的重視，就沒有理由相信這種情況不會發生。

安全遠不止這些。

更重要的是，例如，如果你停車擋住消防車或救護車，導致有人心臟病發作，救護車無法通過，這雖然不是一起交通事故，但你不能說這與安全無關。

或者你開車經過校車。校車停著，而且停車標誌已經伸出，你知道必須停車，但你的車卻呼嘯而過。你的無人駕駛計程車也呼嘯而過。這次你沒撞到孩子，但你應該停車是有原因的，因為路況混亂，沒有哪個司機技術好到能在孩子出現時全速行駛並立即停車。

你反應不過來，對吧？所以你停車是為了孩子的安全。你不能說，好吧，這次我沒撞到孩子，所以沒關係。

我的意思是，那行不通。對吧？如果不停車，那就是個安全問題。所以我們發現，有很多安全問題會讓一般民眾非常擔憂，但這與每英哩事故率（業界喜歡用的指標）毫無關係。

隨著規模擴大，我們會看到更多這類對利益相關者，特別是市政利益相關者、家長等而言至關重要的事件，這些事件關乎安全，與每英里事故率無關。因此，隨著無人駕駛計程車行業的規模擴大，他們必須應對這些問題。此外，我清單上還有一項我想確保我們能落實，那就是追究事故責任。

29:59 #5 法律問責與責任缺口

所以現在，如果你是駕駛員，違反了交通法規，收到了一張罰單，你可能會被吊銷駕照。

如果你在違法過程中傷害了他人，你可能會被起訴過失致人死亡、此類侵權行為、民事侵權行為、過失訴訟。

在許多州，無人駕駛計程車……嗯，在任何州，無人駕駛計程車都不會因侵權過失而被起訴。這屬於產品責任，完全不同。但在許多州，交通罰單的責任人並非製造商，而是車輛所有者或駕駛。

所以，如果你不去買公寓出租，而是去買10輛無人駕駛計程車，然後你把這些計程車租出去，它們收到了交通罰單，據我所知，罰單會記在你的個人駕照上，而你根本無法控制司機。所以這裡面有很多非常奇怪的事情，而這一切都是無人駕駛計程車行業遊說各州立法，把責任推卸給別人的結果。

是的。現在只有幾輛無人駕駛計程車，而且他們經營的是自己的車隊，在某些州他們甚至收不到罰單，所以罰款可以用零用錢支付，但這真的沒什麼大不了的。但是，如果你想把無人駕駛計程車的數量擴大到一百萬輛，你就必須制定應對方案。它們不可能完美無缺，肯定會發生事故。這並不意味著它們不好，但你需要問責機制，以及合理的事故處理方法，這樣才能激勵未來的安全，而不是像現在這樣一團糟。

你知道，把這兩點結合起來真的很有意思。首先，你提到的第一點是，事故並非唯一的失敗。的確，業內人士說，他們的安全係數遠低於人類的事故率。正如你所說，我們並不完全確定，但情況可能確實如此。然而，仍然有一些不安全的情況發生，只是碰巧僥倖逃脫了。

我們現在的情況大概就是這樣。

我們現在的情況大概就是這樣。業界聲稱他們的產品在碰撞事故中更安全。我們可以就此展開討論，但即便我們承認這是事實，那麼為什麼不為校車停車呢？

我知道。沒錯。我記得在卡內基美隆大學的時候，我上過一門叫「工程與公共政策」的課，那是我上過的最讓我大開眼界的課之一。他們當時在討論挑戰者號太空梭，你們當中有些人應該還記得吧。

他們在課堂上提出的觀點是，當時的美國NASA實際上是在玩俄羅斯輪盤賭。挑戰者號太空梭災難報告中有一句話：「玩俄羅斯輪盤賭時，第一發子彈安全射出並不能保證第二發子彈也會安全。」是的。所以，事實是，這些不安全的事情發生，雖然目前還沒有造成問題，但最終總會有一顆子彈射出。

我常說「運氣不好是無法複製的」。

好了。你提到的第二點是關於問責制。毫無疑問，這是一個我多次聽到的熱門話題，在這個責任問題上存在一個眾所周知卻尚未解決的缺口。因為如果這些項目要規模化，我認為需要對現有模式進行一些改革。因為目前的模式無法規模化。必須以某種方式解決這個問題，使其可行，因為目前的做法顯然行不通。這需要政治意願，而且很遺憾，可能需要一些糟糕的情況發生，才能讓人們意識到你指出的問題。我認為我們應該解決這個問題，因為我認為無人駕駛計程車是一種公共產品，它們也能造福大眾，但我們還沒有完全解決這個問題。

我希望防患於未然，避免許多人因為運氣不好而過早承擔改革體制的重擔。我寧願在無需經歷這些程序的情況下完成改革。

我完全同意，也希望政治能朝這個方向發展。菲爾，這次談話真是太棒了，我受益匪淺。希望我們的賓客們喜歡這堂關於安全工程和無人駕駛計程車的迷你課程。的確，我們取得了令人矚目的進步，這其中有許多值得高興的地方。你從事這項工作三十年了，親眼見證了它發展到今天的規模，想必非常激動。但你也向我們展示了，我們還有很多工作要做。

我認為未來前景非常光明。當然，規模化發展會面臨一些挑戰，而成功的關鍵在於整個產業正視並應對這些挑戰。只有這樣，才能實現共贏。非常感謝邀請我。真的非常感激。

非常感謝您的收看。如果您喜歡我們的節目，請按讚並訂閱，以便觀看更多類似內容。 The Garage我們期待很快能在下一集中再次見到您。