99.9% 的安全系数对无人驾驶出租车来说足够好吗？

0:00 引言：自动驾驶汽车的前景

今天在The Garage我们将以全新的视角看待自动驾驶。近年来，随着 Waymo、Zoox 等众多公司推出商用自动驾驶汽车，自动驾驶汽车取得了长足的进步，这令所有人兴奋不已。在像我们居住的旧金山湾区圣何塞这样的城市里，许多人只需用手机就能叫到无人驾驶出租车，无人驾驶出租车就会出现，载着他们出行。这令人无比兴奋，也取得了巨大的成功。就我个人而言，大约五年前，我曾在我的职业生涯中参与过无人驾驶出租车项目，当时这项技术还不成熟，那段经历让我非常沮丧。因此，看到这项技术取得如此巨大的进步，以及它在人们生活中的出色应用，真的令人鼓舞。 AI 。

话虽如此，随着无人驾驶出租车数量的不断增加，如何制造出性能卓越、足以大规模应用（成千上万辆）的无人驾驶出租车，其复杂性和可行性才是更大的挑战。还有谁比一位研究此领域三十年的真正专家更适合谈论这个问题呢？我们今天的嘉宾是卡内基梅隆大学的菲尔·库普曼教授，他刚刚退休，曾花费三十年时间研究无人驾驶出租车和其他安全工程领域。他将与我们分享无人驾驶出租车大规模应用的优势和挑战。

走吧。

我是约翰·海因莱因，首席营销官Sonatus我们非常高兴今天菲尔·库普曼能来到这里。菲尔，欢迎！ The Garage 。

谢谢邀请，很高兴来到这里。

我们俩都和卡内基梅隆大学有着很深的渊源。我本科在那里读的，你也曾在那里当过很长时间的教授。我想我们以前有过交集，那时我还是本科生，你是研究生。先介绍一下你的背景吧。

当然。我的背景是，我在伦斯勒理工学院获得了计算机工程专业的本科学位。

之后，我加入了海军，因为他们慷慨地资助了我本科学习。那时候就是这样。毕业后我工作很顺利，然后去了卡内基梅隆大学攻读博士学位，我们就是在那里相遇的。我当时是硬件设计课程的助教，讲的是位切片CPU，可能有些人都不知道这是什么。不过那门课很有意思。博士毕业后，我去了哈里斯半导体公司做CPU设计师。之后我在联合技术公司中央研究中心工作了一段时间，积累了丰富的嵌入式领域经验，最后回到卡内基梅隆大学当教授，在那里教了近三十年书，最近才退休。

恭喜你拥有如此辉煌的职业生涯，你的背景也确实非常杰出。不过我们稍后再谈。在此之前，你得先跟我们分享一个关于你的趣事。

当然。有趣的是，冷战时期我在海军开过潜艇。我有一枚战斗勋章，但我不能告诉你我是怎么得到的。

那真是个不可思议的故事。我喜欢潜艇电影，比如《从海底出击》和《猎杀红色十月》。故事太精彩了，我真羡慕你的经历。

《猎杀红色十月》确实非常出色。它非常准确地反映了我当年从事的那类工作。

3:15 安全工程基础

非常有趣。那么请您谈谈您在卡内基梅隆大学的职业生涯，特别是安全工程方面的经历。那是您的一项重要专长。我想请您向我们的听众介绍一下安全工程的概念，以及它与传统的工程（例如建造东西）有何不同？它又是如何与传统工程互补的？

当然。我从事自动驾驶汽车安全方面的工作已经三十年了，也做过很多其他类型的安全工程，嵌入式系统的设计评审次数多到我都数不清了，大概有200次吧，大概15次之前就数不清了。有些方案根本行不通，但很多都是涉及各个领域安全问题的。所以，我见过很多安全标准，也了解很多安全方面的问题。

如果要归结为安全问题，关键在于：如果你正在构建一个系统并进行测试，工程师的职责是确保系统正常运行。他们非常擅长处理正常情况，但可能不太擅长处理异常情况。而安全工程的重点不在于如何让系统正常运行，而在于当出现问题时会发生什么。

具体来说，你要学习的是列出各种危险因素，也就是可能引发问题的因素。很多时候是人身伤害，但也可能是严重的设备损坏。可能涉及很多方面。总之，就是会发生不好的事情。

你要列出所有可能出错的事情，以及确保这些事情不会发生或即使发生也能减轻危害的计划。因此，安全工程就是列出危险因素，找出降低风险的方法，并确保这些安全要求纳入工程要求。这意味着你必须有意识地设计安全措施，并且必须测试这些安全措施是否真的有效。举个简单的例子：火车上有空气制动器。

如果一切都出了问题，车上有一个压缩空气罐，你按下按钮，它就会紧急制动。这是做什么用的呢？嗯，火车上会发生很多事情，但大多数问题都可以通过紧急制动来解决。这就是应急预案。

这样描述很有意思，我觉得你说得对。作为一名工程师，你当然希望东西能正常运行，但你必须认真考虑所有可能的故障情况。我记得有个概念叫“安全故障”和“危险故障”，经常有人提到。我猜你的目标应该是首先避免故障发生。但如果真的发生了，也要确保故障能够优雅地解决，不会危及安全。这样描述你觉得合适吗？

5:37 安全故障和运行故障

是的。以前一直都是这样，直到最近才有所改变。所以，对于传统的化学系统，如果断电，就是安全的。如果能让化学过程降温到室温而不是过热蒸汽状态，那就安全多了。

所以，你想避免这个问题。你想找到一种方法，在遇到不安全的情况时，可以逐步降低风险，最终确保安全，通常这意味着消耗能量。比如，你开着车，你会把它停下来。但关键在于，在某些情况下，仅仅将能量消耗殆尽是不够的。

假设你驾驶一架飞机，在35000英尺高空发生引擎起火。关闭所有引擎是错误的做法，对吧？所以就有了故障安全机制，通常这意味着故障停止。

只要把所有部件都拧紧，断电，就安全了。这在很多地方都行得通。但在某些情况下，如果涉及到高速运动，你就需要持续操作足够长的时间才能让所有部件都停止运转。客机配备两台发动机和两套或多套飞行控制系统是有原因的，因为当其中一套系统发生故障时，你不仅需要停止飞行，还需要保持其他系统运转足够长的时间，才能让自己处于安全位置。

这同样适用于汽车。如果你在高速公路上以每小时 60 英里的速度行驶，而你的转向系统出现故障，那么转向系统就出问题了。它会失灵。

这样行不通。

你需要让方向盘保持工作状态足够长的时间，以便将汽车熄火。

没错。而且你甚至都不能停下来，因为后面的车会直接撞上来。

所以你需要以某种优雅的方式……

你必须离开道路，离开行车道。我的意思是，或许有极少数情况下你无能为力。比如，如果发动机从车上掉下来，你也只能尽力而为。但在几乎所有情况下，你都需要足够的动力才能驶离行车道。所以你需要从正常操作模式切换到功能较弱、任务时间很短的恢复操作模式，但必须有备用方案。所以你必须有备用方案，否则就无法成功。

太棒了！我们今天在播客里就能拿到安全工程学位了。

我觉得您真是个行家。您提到您从事自动驾驶领域已经三十年了，显然，这期间取得了巨大的进步，从最初只是人们的一个设想，到现在您可以在我办公室门口叫到无人驾驶出租车。所以我想我们先来谈谈我们看到的那些令人欣喜的进展，然后再讨论一些实际应用的问题。现在我们已经看到了一些实用的无人驾驶出租车，比如Waymo、Zoox等等，您可以租用它们。当然，中国也有一些解决方案，可能有人知道它们已经在某些城市、某些特定区域投入实际应用。我相信我们也会谈到这些。

所以，在你从事这项工作的这段时间里，一定取得了巨大的进步。

嗯，已经过去三十年了，但取得了巨大的进步。所以，答案是肯定的，绝对可以。你可以叫一辆无人驾驶出租车。我坐过无人驾驶出租车，这项技术真是太棒了。

安全方面，99.9%只是一个好的开始，而不是终点。对吧？

感觉我们已经完成了99%，因为我的天哪，现在完全可以实现无人驾驶出租车了，但这确实花了三十年时间。三十年前，或者说三十一年前，卡内基梅隆大学制造了一辆从华盛顿特区到圣地亚哥的汽车，98%的路程都是驾驶员双手离开方向盘的，而我们花了这么长时间才达到最后1.999%，不管那是多少。明白了吗？

但这的确是一项巨大的进步，因为这是一项了不起的成就。实际上，里面根本没人操控。你知道，大多数时候，这些机器在行驶的时候，幕后并没有人。这太棒了。

感觉我们离目标已经很近了，但我认为我们今天要讨论的是，一旦路上有了 100 辆无人驾驶出租车，那将是多么了不起的事情。

9:26 扩大机器人出租车车队规模的挑战

但从100辆无人驾驶出租车到10万辆无人驾驶出租车，这完全是两回事。我常说的是，已经完成了99%，还有99%的工作要做。

我的意思是，这只是另一种说法，因为正如你提到的，在商业领域，人们常说“五个九”，也就是99.999，或者任何你想要的9的个数。关键在于分子是多少。对吧？如果路上只有100辆无人驾驶出租车，成功率是99.9%，可能相当不错。但如果数量达到1000辆，甚至10000辆，就会出现一些小9的情况。

简单除法。

请继续。

当然。就是简单的除法。举个例子来说，100辆无人驾驶出租车一年才会遇到一次的问题，10000辆无人驾驶出租车每周就会遇到两次。

这并不是说无人驾驶出租车有什么问题，但如果一年只发生一次，你可能根本不会注意到，但如果一周发生两次，那就值得关注了。这并不是说无人驾驶出租车的质量变差了，而是说这是一个概率问题。数量越多，你就越需要注意那些以前发生频率极低、无关紧要的事情。

因此，运行100辆无人驾驶出租车的技术确实令人印象深刻，而且它已经存在，现在就可以使用。下一个挑战是，如何处理那些过去非常罕见、无关紧要的事件，因为现在它们将大规模地变得至关重要。这才是真正的挑战。

嗯，这真是一个令人兴奋的话题。多年来，我们邀请过许多嘉宾在这里谈论过这个话题。 The Garage 换个角度来谈谈这个问题。

本季早些时候，Mobileye的一位高管和其他一些人谈到了他们的工作。但您带来了非常宝贵且独特的视角。那么，我们来谈谈您认为在自动驾驶出租车的大规模生产和大规模部署中会面临哪些挑战。

11:12 故障类型分类

嗯，我有四个分类箱，我想我们大概会逐一讲解这四个分类箱的内容，不过先让我预告一下。第一个分类箱是批量故障。如果只有一辆无人驾驶出租车，它停在马路中间，那只是一辆无人驾驶出租车的问题。但如果100辆无人驾驶出租车同时停在同一条马路中间，那就完全是另一回事了。

所以，软件在类似情况下往往会发生故障。如果所有无人驾驶出租车都使用相同的软件，这就是计算机的工作原理。它们往往会同时发生故障。因此，你必须为此制定应对方案。

其次，安全不仅仅关乎交通事故。

因此，整个行业一直在努力降低事故率，并且在这方面取得了显著进展。但随着无人驾驶出租车的数量从10辆增长到100辆，再到1000辆，我们意识到还有其他一些对安全至关重要的因素正在逐渐显现。在最初阶段，我可能不会说，我不会担心这些问题，但事实证明它们确实很重要，所以我们需要从中吸取教训。第三点是，极端情况，也就是罕见事件，最终证明它们带来了巨大的挑战。可以说，比任何人预想的都要大，但我知道它们会是一个挑战。行业已经制定了应对方案，但这又带来了新的挑战。最后一点是问责制。

随着规模扩大，我们需要比现在更完善的问责机制。这并非自动驾驶出租车行业的错，而是我们的法律体系尚未做好应对当前形势的准备。

感谢您提供的分类方法，以及对我们未来发展方向的精彩展望。我认为它涵盖了许多不同的方面，真正从不同角度进行了阐述。

12:41 #1 相关故障

那么我们先从第一个问题开始，您提到了大规模故障，或者说一次故障往往会引发其他故障。请谈谈这个问题，它带来的挑战是什么，以及我们应该如何应对？

嗯，说到人类驾驶员，他们总是会犯错。汽车会发生故障，各种各样的事情都会发生。但是，100辆或1000辆车同时出现相同问题的情况很少见，因为每个驾驶员的情况都不一样，每辆车的情况也都不一样。

当然。有些事情会导致交通中断或拥堵。比如停电，肯定会给所有司机带来混乱。但如果每辆无人驾驶出租车都使用同一款电脑控制系统，而这又占城市交通的很大一部分，那么一旦出现故障，就会造成全城范围的交通问题。

别跟我说计算机，尤其是大规模网络计算机，永远不会出故障。要知道，CrowdStrike事件只是最新的一个典型例子。意外总是会发生。

现在中国发生了一起事故，好像是在武汉，一家公司的所有无人驾驶出租车同时失灵，原因是某种通信故障。结果，乘客被困在了高架路上。我们也看到过一些视频，美国的无人驾驶出租车在大型聚会或停电等交通拥堵的大型活动中也会出现这种情况。你知道，这类事情确实会发生。但这并不意味着你不能使用这项技术。而是意味着你必须意识到这是不可避免的。我们不应该把所有软件即服务（SaaS）的东西都放在同一个城市的同一个服务器上，然后通过这种糟糕的方式为全世界提供服务。对吧？

好吧，你猜怎么着？无人驾驶出租车也会有同样的漏洞。你必须要有应对方案。

你提到过，当相当一部分流量来自同一家公司时，情况就不同了。显然，这种情况目前还没有出现。但很多人，或许是那些看好自动驾驶出租车的人，认为在未来的某个时候，自动驾驶出租车可能会取代或至少大幅减少汽车的数量。所以，当某家公司进行整合时，这确实是一个需要考虑的实际问题。我们现在暂且不谈网络安全。网络安全可能是另一个完全不同的话题，我们可以以后再讨论。

没错。你说到大规模入侵无人驾驶出租车队，你可以想象这会让一座城市瘫痪。所以这当然也是一个理论上的问题。但你的观点是，即使没有恶意行为者，仅仅由于相关故障，这种情况也可能发生。

没错。而且后果远不止一堆无人驾驶出租车被困住那么简单。万一发生地震，所有无人驾驶出租车都被困在地震中……我知道人类车辆在地震中也会遇到麻烦，但人类驾驶员通常都能很好地避开紧急车辆。而我们已经看到很多无人驾驶出租车在这方面举步维艰。

如果是一两辆无人驾驶出租车，它们能自行解决。但如果数百辆无人驾驶出租车被困住，堵塞了灾难现场所有应急车辆的通行，那就麻烦了。那么，与人类驾驶员相比，这算是一个大问题吗？这个问题很有意思。

但这些正是我们需要提出的问题。如果要将这项技术推广到相当大比例的车辆上，就必须考虑灾难应对措施。你需要考虑，嗯，好吧。所以，接下来我们应该讨论一下远程协助的问题。

但是，如果你有 50 个远程助手，而 200 辆车同时抛锚了，你知道，你的计划是什么？你需要一个计划。

对。是的。类似地，我们稍后会在第三点讨论一些特殊情况。但我们先想象一下，你刚才提到了地震。想象一下一场可怕的地震，很多道路都出现了裂缝。突然之间，你可能会遇到很多特殊情况，道路原本很好，现在却出现了裂缝，而自动驾驶出租车却能识别出障碍物。

你甚至不需要地震，只需要一场停电就能让所有交通信号灯失灵。

即使90%的车辆都能正确应对交通信号灯，那10%的失误累积起来也相当可观，而且这种情况确实发生过。比如飓风疏散，或者其他什么情况？如果遇到他们没有接受过培训的情况，比如环境因素导致的事故，所有车辆都会同时失灵。当然，这种情况是可以改进的，所以问题不在于“我们无能为力”，而在于我们是否着眼未来？我们是在等着事情发生才做出反应，还是提前做好准备？随着规模的扩大，我们需要做的就是提前做好准备。

好的。好的。第一个话题是……，这个话题真的非常有趣，也很可怕。第二个话题，你刚才谈到了人为因素和故障转移方法。

17:23 #2 高严重性极端情况和人工远程协助

没错。所以，从一开始，无人驾驶出租车的技术挑战就在于处理极端情况。也就是说，罕见事件，理论上来说，处理起来确实有点棘手。但想想停电这种事，停电其实很少发生，而且频率也不高。当然，这取决于你住的地方。

但即便这种情况很少见，如果后果严重，如果你重视安全，就不能忽视它。比如行人突然走到街区中间，这种情况并非时有发生，具体情况取决于你所在的城市。

我知道有些听众会说，等等，他又不住在我所在的城市。但是，有人穿过马路，或者孩子们从父母的车里出来，穿过街区去上学。嗯，这取决于你住在哪里，你可能从未见过这种情况，也可能每天都能看到。

所以，罕见其实是相对的。这就是问题的关键所在。你会说，这种情况不常发生。但即便不常发生，也无关紧要。

如果问题很严重，而且发生在你身上，你就得面对，对吧？机器学习的问题在于，它只擅长处理训练过的事情，而且往往非常脆弱，缺乏——姑且称之为常识吧——机器学习没有常识。

所以，如果它遇到未经训练的情况，就很容易过度自信。它甚至意识不到自己的无知，会做出一些在我们看来很愚蠢的事情。如果这种情况非常危险，那就麻烦了。

所以，这些极端情况就是：如何处理机器学习没有训练过的事情？你认为这种情况是否罕见并不重要。如果它不知道，那就是不知道。说“我见过这种情况”对它没有任何帮助。

嗯，如果没经过培训，那就是没经过培训。因此，严重安全事故非常罕见。即使算上醉驾，每行驶1亿英里也只有大约1人死亡。1亿英里可不是个小数目。

人们的驾驶技术非常出色，尤其是在没有受到酒精或药物影响的情况下。实际情况远比这好得多。

所以你可以说，实际上只有极少数的事情才重要。人们会说，嗯，这种情况很少见，所以无关紧要。但事实并非如此。死亡事件极其罕见。

所以，事实上，真正控制安全的是那些罕见的情况。正常的工程流程是，我按下按钮。它起作用了吗？起作用了。

好的。明白了。安全工程虽然少见，但风险很高。而且，如果把所有可能发生的事故加起来，风险就太高了。

我们必须采取措施减轻其影响，以免即使是罕见事件也会造成重大损失。

没错。所以你谈到了应对这些罕见事件的策略。

有哪些策略可以应对这些问题？

以前看起来确实有点绝望，因为这就像是在捕捉宝可梦，只不过宝可梦的数量是无穷无尽的。你不可能全部收集到，因为这个世界充满了各种各样的怪事。它真的太疯狂了。而以前业内人士常说，只要能抓到足够多的宝可梦，我们就愿意忍受偶尔出现的怪事。

即使我们的安全系数是人类驾驶员的100倍，但如果真的发生了意外，那么受影响的人数是人类驾驶员的100倍，他们也只会觉得，你知道，坏事总会发生，你对此无能为力。但就死亡率而言，我们的安全系数远没有人类驾驶员的100倍。我们无法确定，但肯定不可能安全100倍。

但他们最终也没能实现目标。因此，业界基本上承认在极端情况下败下阵来。

我们没有能力让人工智能处理所有棘手的高危情况。我们就是做不到。那他们的计划是什么？但他们已经在路上了。他们是怎么做到的？他们的做法是，当机器人出租车遇到麻烦时，它会打电话回家，由真人来帮忙。

这是处理特殊情况的巧妙方法。这样一来，你不需要接受所有情况的处理培训，只需要接受足够的培训，知道“我不知道发生了什么，我要打电话回家”。

所以，你看到的很多事件都表明，在何时打电话回家方面还有改进的空间。

但当他们打电话回家时，接线员会说，哦，是的。

我知道你因为路面反光或者风吹得看不见交通信号灯，相信我，兄弟，它是绿灯。好吗？

安全方面，当他们说“绿灯”的时候，最好真的是“绿灯”，因为你知道，无人驾驶出租车有很多传感器输入，但远程的人类却像是在投票决定一切，很多时候决定着接下来会发生什么。

很有意思。所以我觉得，显然这个行业之前存在一个不为人知的秘密，那就是很多公司都不愿承认自己会提供人工备用驾驶员。但我认为，现在大多数公司都承认在某些情况下会这样做。当然，这种情况可能比较少见，但他们的确会在特殊情况下提供这种服务。

这种情况其实经常发生。但这没什么不好，因为纠结于完全的自主性是无关紧要的。我并不在意它是否完全自主。事实上，我很高兴有人在它不知所措的时候帮助它，因为另一种情况很可怕。

对吧？关键在于人均车辆数量。如果每人拥有100辆车，那就很划算。实际上，如果每人拥有10辆车，再​​多的话，收益就会递减。

对吧？分子很小，除数很大。

对。

你知道，10比1、20比1的比例差别其实并不大。所以只要人均拥有一定数量的汽车，经济效益（这才是关键）就没问题。那么下一个问题是，远程协助真的安全吗？现在业界终于承认他们有这项技术，我觉得这没什么问题。

我不认为这是件坏事。我认为这很现实，没什么问题。但这个行业至今仍未坦诚面对的是，这些人正在做出关乎安全的关键决策，我们需要意识到他们身处安全至关重要的岗位。

行业仍在努力解决这个问题。但如果你只有10到20个远程助手，你可以聘请最优秀的人才，也许就不会遇到太多问题。也许这根本算不上什么大事。但如果你拥有一百万辆无人驾驶出租车，你可能就需要很多配备远程协助的呼叫中心，而你必须管理这些中心的安全。

所以，这就是目前规模化发展面临的挑战。

好的。

23:31 #3 边缘情况下的组合复杂度

还有第二点，我认为这是一个非常有趣的话题。第三点是特殊情况，我们在上一节中已经稍微提到过。几个月前，我们邀请了Mobileye的一位嘉宾，我们聊到了他们的一个优势——他们拥有世界上最大的驾驶数据库之一——那就是他们可以积累特殊情况，并将更多特殊情况注入到客户的训练模型中等等。

当然，这样做肯定是有益的。但正如我们之前讨论的，我认为这种方法的挑战在于，它只能解决你已知的问题。关键在于，还有很多你不知道的问题，而那些未知的未知才是最大的挑战。我的理解对吗？

没错，这就是我之前提到的无限宝可梦问题。但这里有个很重要的细微差别。传统上，人们想到极端情况时，会想到“哦，你看，路中间有只斑马，但我不知道斑马是什么”。他们会想到一些奇奇怪怪的物体或事件，当然，这些都算是极端情况。

但凭直觉，你或许能识别出几乎所有情况。更微妙、更棘手的是，有些已知事物的组合，如果你没有接受过相关训练，也会构成一种特殊情况。具体来说，你可能会遇到这样一种情况：已知事物以一种与你训练中不同的方式组合在一起。我给你举个非常简单的例子。如果你看到一个停车标志，我得提醒你，这是一个陷阱题。如果停车标志立在杆子上，你会怎么做？

你停了下来。

对吧？你停下来。好的。

然后你就走了，对吧？

对。

但这是个陷阱题。如果是建筑工人举着的杆子上的停车标志，你就得停下来，并且说“已停”。

干得好。干得好。

再来一个陷阱题，但我还没说完。再来一个陷阱题。停车标志插在杆子上，却在某人手里，不在他眼前，而是在他腿边，你却视而不见，因为那是学校交通协管员，他不会认真让你停车。

每个人都凭直觉就知道这一点。每个人都凭直觉就知道这一点。但停车标志其实很复杂。如果停车标志是固定在公交车上的，你是否停车取决于它是展开的还是折叠的。

因为一种情况，你会停下来并喊“停”，另一种情况，你会置之不理。所以我的观点是，特殊情况远不止停车标志那么简单。当你接受过停车标志的训练时，你会说你很懂，但为什么你的无人驾驶出租车会跑自行车公交车呢？好吧，事实证明，停车标志并没有那么简单，我举了个大家都知道的例子。但实际情况远比这复杂得多。

对。

这真是个很有意思的例子。你知道，我去年开车的时候，一辆车突然左转，拐进了对向车道……你根本没见过这种情况，因为他根本不应该出现在那里。那你会怎么做？我当然是赶紧躲开。但问题是，你根本没见过别人违反交通规则。所以你不仅要遵守自己的交通规则，还要想象其他司机做出一些极其疯狂的举动。

而且在实际操作中，必须运用常识。我举个例子，这个例子我直到最近才想到。我开车行驶在路上，一辆消防车停在我前面，消防员们正在下车。他们打开车门，发现车门内侧画着一个停车标志。

所以我就想，我知道他们想要什么。他们不想在下车的时候被撞到，所以我想我会停下来，告诉他们“停下，直到车门关上”，这就是我要做的。对吧？就是这样，而且人们都很好。

我的意思是，我敢打赌你也会这么做。你会根据上下文推断出这肯定更合理。明白它的意思。驾驶手册上写着呢。

我从未接受过这方面的培训。我们和AI 糟糕透顶。它擅长在已知点之间进行插值。这就是它的功能。

他们说要写日志，意思是说我们有训练要点，并且会在两者之间做一些事情。但如果这个“两者之间”的含义与其他所有相关概念都不同，那就出问题了。如果它意味着我们完全不知道该怎么做，那也出问题了。

这太有趣了。我们光是这个话题就能展开一整场讨论，因为显然有很多关于这方面的讨论。 AI 你知道，现在新闻里都在讨论我们是否已经进入通用人工智能时代等等问题。但现实是，在这些特殊情况下，距离真正实现通用人工智能还有很长的路要走。 AI 。

当然。但是，与其陷入这种争论不休的泥潭，我们为什么不谈谈安全不仅仅关乎事故呢？这样说如何？

我觉得很棒。我们就这么做吧，这算是我们今天的总结。这次谈话非常精彩。

28:05 #4 安全不仅仅关乎车祸

好的。那么下一个要点是，安全不仅仅关乎事故。这让我很意外，之前我并没有特别在意这一点。我们一开始的想法是，安全能挽救生命，减少事故，而这才是最重要的。

但一旦达到同等水平，比如说，如今的无人驾驶出租车与人类驾驶员水平相当，甚至可能略胜一筹，也可能持平。事实上，就死亡人数而言，我们目前还没有足够的数据来真正了解最终结果。我们只能假设最终会是这样。只要我们给予足够的重视，就没有理由相信这种情况不会发生。

安全远不止这些。

更重要的是，例如，如果你停车挡住消防车或救护车，导致有人心脏病发作，救护车无法通过，这虽然不是一起交通事故，但你不能说这与安全无关。

或者你开车经过校车。校车停着，而且停车标志已经伸出，你知道必须停车，但你的车却呼啸而过。你的无人驾驶出租车也呼啸而过。这次你没撞到孩子，但你应该停车是有原因的，因为路况混乱，没有哪个司机技术好到能在孩子出现时全速行驶并立即停车。

你反应不过来，对吧？所以你停车是为了孩子的安全。你不能说，好吧，这次我没撞到孩子，所以没关系。

我的意思是，那样行不通。对吧？如果不停车，那就是个安全问题。所以我们发现，有很多安全问题会让普通民众非常担忧，但这与每英里事故率（行业喜欢用的指标）毫无关系。

随着规模扩大，我们会看到更多这类对利益相关者，特别是市政利益相关者、家长等而言至关重要的事件，这些事件关乎安全，与每英里事故率无关。因此，随着无人驾驶出租车行业的规模扩大，他们必须应对这些问题。此外，我清单上还有一项我想确保我们能落实，那就是追究事故责任。

29:59 #5 法律问责和责任缺口

所以现在，如果你是一名驾驶员，违反了交通法规，收到了一张罚单，你可能会被吊销驾照。

如果你在违法过程中伤害了他人，你可能会被起诉过失致人死亡、此类侵权行为、民事侵权行为、过失诉讼。

在许多州，无人驾驶出租车……嗯，在任何州，无人驾驶出租车都不会因侵权过失而被起诉。这属于产品责任，完全不同。但在很多州，交通罚单的责任人并非制造商，而是车辆所有者或驾驶员。

所以，如果你不去买公寓出租，而是去买10辆无人驾驶出租车，然后你把这些出租车租出去，它们收到了交通罚单，据我所知，罚单会记在你的个人驾照上，而你根本无法控制司机。所以这里面有很多非常奇怪的事情，而这一切都是无人驾驶出租车行业游说各州立法，把责任推卸给别人的结果。

是的。现在只有几辆无人驾驶出租车，而且他们运营的是自己的车队，在某些州他们甚至收不到罚单，所以罚款可以用零用钱支付，但这真的没什么大不了的。但是，如果你想把无人驾驶出租车的数量扩大到一百万辆，你就必须制定应对方案。它们不可能完美无缺，肯定会发生事故。这并不意味着它们不好，但你需要问责机制，以及合理的事故处理方法，这样才能激励未来的安全，而不是像现在这样一团糟。

你知道，把这两点结合起来真的很有意思。首先，你提到的第一点是，事故并非唯一的失败。的确，业内人士说，他们的安全系数远低于人类的事故率。正如你所说，我们并不完全确定，但情况可能确实如此。然而，仍然有一些不安全的情况发生，只是碰巧侥幸逃脱了。

我们现在的情况大概就是这样。

我们现在的情况大概就是这样。业界声称他们的产品在碰撞事故中更安全。我们可以就此展开讨论，但即便我们承认这是事实，那么为什么不为校车停车呢？

我知道。没错。我记得在卡内基梅隆大学的时候，我上过一门叫“工程与公共政策”的课，那是我上过的最让我大开眼界的课之一。他们当时在讨论挑战者号航天飞机，你们当中有些人应该还记得吧。

他们在课堂上提出的观点是，当时的NASA实际上是在玩俄罗斯轮盘赌。挑战者号航天飞机灾难报告中有一句话：“玩俄罗斯轮盘赌时，第一发子弹安全射出并不能保证第二发子弹也会安全。” 是的。所以，事实是，这些不安全的事情发生，虽然目前还没有造成问题，但最终总会有一颗子弹射出。

我常说“运气不好是无法复制的”。

好了。你提到的第二点是关于问责制。毫无疑问，这是一个我多次听到的热门话题，在这个责任问题上存在一个众所周知却尚未解决的缺口。因为如果这些项目要规模化，我认为需要对现有模式进行一些改革。因为目前的模式无法规模化。必须以某种方式解决这个问题，使其可行，因为目前的做法显然行不通。这需要政治意愿，而且很遗憾，可能需要一些糟糕的情况发生，才能让人们意识到你指出的问题。我认为我们应该解决这个问题，因为我认为无人驾驶出租车是一种公共产品，它们能够也将会造福大众，但我们还没有完全解决这个问题。

我希望防患于未然，避免很多人因为运气不好而过早地承担改革制度的重担。我宁愿在无需经历这些程序的情况下完成改革。

我完全同意，也希望政治能朝着这个方向发展。菲尔，这次谈话真是太棒了，我受益匪浅。希望我们的嘉宾们喜欢这堂关于安全工程和无人驾驶出租车的迷你课程。的确，我们取得了令人瞩目的进步，这其中有很多值得高兴的地方。你从事这项工作三十年了，亲眼见证了它发展到今天的规模，想必非常激动。但你也向我们展示了，我们还有很多工作要做。

我认为未来前景非常光明。当然，规模化发展会面临一些挑战，而成功的关键在于整个行业正视并应对这些挑战。只有这样，才能实现共赢。非常感谢邀请我。真的非常感激。

非常感谢您的收看。如果您喜欢我们的节目，请点赞并订阅，以便观看更多类似内容。 The Garage我们期待很快能在下一集中再次见到您。