《The Garage》播客:第3季 第16集
AI :炒作、现实与未来展望
与 AWS 的 Neel Mitra 一起
AWS负责人尼尔·米特拉(Neel Mitra)探讨了汽车行业的演进AI ,重点阐述了大型语言模型和智能代理AI 如何通过软件定义平台重塑车辆诊断与性能。此次对话重点介绍了Sonatus 的创新成果,例如AI Director和AI Technician,将其视为扩展车载边缘计算AI 并提升诊断体验的关键工具。
收听纯音频版本:
剧集文字稿 | 《Vehicle》第AI 集:炒作、现实与未来展望
目录
0:00 《尼尔·米特拉与“AI ”大师班》简介
今天在《The Garage》节目中,我们的嘉宾是AWS数据与AI 业务全球解决方案架构负责人尼尔·米特拉(Neel Mitra)。
在今天的人工智能大师课中,我们将从AI 的起源开始讲起。什么是经典的AI ?什么是大型语言模型?什么是具有代理性的AI ?
接下来我们来谈谈汽车行业。
AI 在当今汽车领域扮演着怎样的角色?未来,AI 与汽车领域结合将带来哪些创造新奇、令人惊叹事物的机遇?相信你会非常喜欢今天的这场对话。
走吧。
欢迎来到“The Garage”。我是约翰·海因莱因(John Heinlein),Sonatus 的首席营销官。今天我们邀请到了来自 AWS 的尼尔·米特拉(Neel Mitra)。尼尔,欢迎来到“The Garage”。
谢谢。
尼尔,我们已经合作好几年了。这真是太令人兴奋了,我们终于能邀请你来拜访我们,并和我们一起录制一集节目。首先,请跟我们聊聊你自己以及你的背景吧。
是的。感谢邀请我来。我很荣幸。我们一直在推进许多不同的项目,如今终于迎来了这一天。我是在印度长大的,在这个行业已经工作了二十一年。在此之前,我在印度完成了工程学硕士学位,在那里从事了几年咨询工作,之后才来到美国。
然后,你知道,从那以后,我曾与许多来自金融科技和医疗保健领域的《财富》500强客户合作过,而且
1:26 认识尼尔·米特拉
直到2016年加入亚马逊网络服务(AWS)之前,我从未想过自己会从事汽车行业的工作。
那时候嘛,你知道的,云计算还很新鲜。我记得以前去拜访客户时,客户常常会说:“嘿,你们不是卖书的吗?怎么跑这儿来了?”
所以我会跟他们讲讲我们在企业领域做些什么,然后再跟他们讲讲我们在基础设施领域做些什么。当时,我们在基础设施领域投入很大。
众所周知,AWS 一直是云计算领域的先驱,而且我认为,即使到了今天,我们在基础设施领域依然处于领先地位。 所以,是的,从那时算起,已经九年了。时间过得真快。在 AWS,我们常说,每一天都是“第一天”。再次感谢各位的邀请。能从各位身上学到很多,同时也与大家共同探索汽车领域的旅程,这真的很棒——接下来我们将深入探讨这一领域。
非常感谢。我们通常喜欢先分享一个关于嘉宾的有趣小故事。请您也跟我们分享一个关于您自己的有趣小故事吧。
2:24 瑜伽:热与冷
这可真棘手。好吧。
所以,你知道的,我生活中很多事情似乎都是毫无缘由地发生的,我是这么认为的,比如加入 AWS 并从事汽车领域的工作,我也不知道为什么会这样,但结果却真的很有趣。
瑜伽进入我生活的方式也是一样。我也不知道为什么、是怎么回事,因为我在印度长大,却从未听说过瑜伽,对吧?不过,你知道的,有段时间我经常旅行,生活节奏太快了,我感觉,你知道的,一定有什么东西能从整体上照顾好我,不仅包括身体,还包括心理、能量等方面,方方面面。 于是我试着上了一节瑜伽课,发现挺喜欢的,之后就断断续续地练了起来。
我大概已经坚持做这件事八、九年了。但去年,我又突然——虽然不知道这有多随机——觉得想把当瑜伽老师当作一种爱好。于是,我开始参加认证课程,是OEM的。
这真让人害怕。我老婆也问我:“你干嘛那样做?”不过,是啊,这确实是个有趣的小趣闻。大概在过去这一年里,我拿到了200小时的瑜伽教练认证。
现在我正在攻读硕士学位,还需要再修三百小时的学分。
所以这应该会很有趣,成为一名瑜伽老师大概就是我的退休计划了。
太棒了。那是什么流派的瑜伽呢?
流瑜伽。
太棒了。
我的趣事 我总是会想一个趣事分享给我们的嘉宾。我的趣事是:好几年前,大概是十年前左右,我曾有几年时间非常热衷于比克拉姆瑜伽。
哦,不错。
如果我们的听众不太了解,那就是在室温高达105度的房间里练习。没错,就是热瑜伽。他们称之为“高温瑜伽”,你走进房间,在里面练习90分钟。这是一套非常特定的90分钟动作序列。到最后,大家都会汗流浃背。
我在纽约也参加过这样的活动。我……我去过很多瑜伽馆,最后固定在其中一两家练习,不过,是啊,这确实挺有意思的。
而且瑜伽真是太棒了。
当然,有力量,当然也有柔韧性,但还有那种正念和内心的平静。是的。在高温瑜伽室里练习九十分钟后,你会感受到这种状态,但总的来说,离开时你会感到非常平和,而且我觉得这能激发很多好点子。我的一些最佳灵感,大概是在第四十五分钟左右涌现的。
而且,你知道,从更实际的角度来看,我知道今天稍后我们会花很多时间讨论“AI ”,但更实际地说,我看到如今机器已经为你承担了如此多的工作。对吧?是的。如果我们作为人类不保持警觉,不以更高的频率运作,那将会很困难。
比如,你能怎么办呢?你写代码,机器在运行。对吧?所以,从正念的角度来看,我觉得瑜伽对我来说可能也有帮助。
我们走着瞧吧。
好的。那请跟我们说说你在 AWS 的职责吧。最近你在忙些什么?
是啊。所以,你知道的,工作内容五花八门。就像你们都知道的,过去几年我一直非常专注于汽车领域。因此,我先是从互联出行入手,随后转向了软件定义汽车,与许多全球客户和合作伙伴展开合作,比如博世和电装。 还有许多客户我无法一一列举,但包括宝马等在内的多家企业,这些项目一直让我忙得不可开交。
但在过去这一年里,我调整了工作重心,转向了更广泛的领域。这意味着我正在与许多汽车制造和企业客户合作,处理各种各样的应用场景。这些与我过去几年在架构和工程岗位上从事的那些极其小众的汽车领域项目不同。但这很有趣,因为你知道,随着AI 、智能代理等技术的出现,机器学习领域正在发生巨大的变化。
机遇无穷无尽,而且我看到的不仅仅局限于某个行业。所以我正努力学习更多知识。这也是我认为在 AWS 工作最棒的一点。我觉得自己是在一边学习一边拿薪水。就像在大学里一样,但不需要付学费。你不仅能拿到薪水,还能与全球各地的众多才华横溢的人共事,并为让这个世界变得更美好贡献自己的力量。
所以,是的。这就是我过去一年来的经历,我在AI 领域与OEM厂商、RAG以及代理式AI(Agentic AI)展开了大量合作,针对包括制造业和汽车行业在内的多种应用场景。
太好了。
嗯。
6:25 人工智能导论(AI )
刚才你提到了AI ,我们经常会谈论车辆和车载软件,稍后我们会详细讨论这些内容。但本期节目中,我们将比平时更多地讨论AI 。好的。那么,让我们先从宏观层面来谈谈这个话题,因为我认为我们的听众对这类技术的了解程度可能各不相同。
是啊。而且我觉得,如今大多数人一听到“AI ”,大概都会联想到ChatGPT,或者搜索之类的功能。是啊。但这只是其中很小的一部分
AI 的潜力。
所以我想请您先从宏观层面给我们做个概述。好的。关于AI 算法和AI 技术,我们应该考虑哪些方面?
是啊。你知道吗,在进入正题之前,先跟大家分享个有趣的小趣闻:大概十五年前,我看了电影《终结者》,那应该是我第一次看吧?对吧?当时我真的吓坏了,比如AI 能对你做什么,还有你得怎么对抗AI 之类的。
但后来当我真正开始着手做这件事时,我感觉,好吧,这大概还要几百年才能实现。就算真能实现的话。我也不知道。毕竟,这只是科幻小说嘛。
对吧?我们……我们会想办法解决的。不过你说的确实没错。这个领域里正在发生太多事情了。
比如,AI 并不是什么新事物。对吧?那些研究论文可是出自20世纪30年代、40年代和50年代的。
然后,你知道的,当时我们开始讨论所谓的“监督学习模型”。这意味着你要提供一些标注过的数据。你试图让机器变得更聪明,这样它们就能完成一些原本由人类完成的工作。
随着技术不断发展、演变、再演变,我们看到了无监督模型的出现。因此,它不再仅限于标注数据,还可以是未标注数据,也可以是多模态数据,并不局限于文本。对吧?它可以是图像、视频、音频等等。
不管你信不信,就像上世纪90年代那样,当时AI 还并不被认为很酷,亚马逊当时使用的是AI 。
所以,如果你访问过亚马逊最早的那家网站——我没去过,也不知道你是否去过——它以前会提供一个选项,就是“嘿,如果你喜欢某个特定类型……”——一个推荐系统——对,就是推荐系统。没错。那个网站是AI 。那是九十年代初的事了。后来谷歌也这么做了,比如在网页搜索等方面。
Netflix在早期——也就是当时Netflix还向用户邮寄DVD之类的东西的时候——就这么做过。
没错。所以,AI 并不是什么新事物,这种监督学习模型以及一些无监督学习模型已经存在很久了。
而且,即使回想我刚进入——姑且称之为——金融科技行业的那段日子,当时我们主要做的是欺诈检测和异常检测。这些都属于AI 的范畴,对吧?
但后来当我进入汽车行业后,我看到的第一个AI 用例就是定速巡航系统——说白了,就是获取所有这些多模态数据,然后通过分析来确保车辆保持在车道内。
比如车道偏离这类应用场景,对吧,就是保持车辆在车道内行驶、控制车道之类的功能。 这些都是传统的机器学习模型。回到你的问题,是的,既有监督学习也有无监督学习,而深度学习也开始发挥作用——比如,我们如何像人类一样思考,以及神经网络和所有这些认知功能,我们开始逐步将它们融入车辆中。车辆开始具备定速巡航功能。如今,我们讨论的则是不同级别的自动驾驶。
应用场景非常多,但随着我们不断发展,我认为“注意力”正是大家所需要的。我记得那篇论文的标题就是这个。虽然具体名字我忘了,但那是谷歌在2018年或2019年左右发表的。对吧?“注意力”正是大家所需要的。
这就是关于自我关注机制的讨论。
如果你想想早期的AI ——也就是像卷积神经网络(CNN)、卷积网络以及循环神经网络(RNN)这样的网络——你会发现问题在于,虽然有这么多单词,对吧?但AI 却无法推断出接下来会出现哪个单词或哪个词元。它的能力非常有限。比如,如果我说:“嘿,约翰买了一辆Rivian”,或者“尼尔买了一辆特斯拉”,诸如此类,对吧?
AI 无法处理长句。它可能只能处理几个词。
但随着自注意力机制的出现,以及大约在2018年左右发明的Transformer架构,这种情况发生了改变。比如现在,你可以处理成千上万、数十万甚至数十亿个这样的令牌。 借助自我注意力机制,结合编码器-解码器架构的AI 模型能够推断出下一个单词可能出现在哪里。因此,这种上下文感知能力以及同时处理海量令牌的能力彻底改变了一切。这就是大型语言模型(LLMs)的开端——正如你提到的,大家都在热议的ChatGPT便是其中之一——但这些都是通向大型语言模型的奠基石,未来还将有更多突破。
嗯。
11:01 什么是大型语言模型(LLMs)?
既然你刚刚提到了这一点,我认为这些Transformer模型的下一个发展阶段以及其关键创新是什么,而GPT中的“T”正是指Transformer模型。
请向我们介绍一下这种Transformer模型——以及更广泛地讲,大型语言模型(LLMs)——是如何改变游戏规则的?如今借助Transformer模型,我们能够实现哪些新的可能性?
是啊。我觉得我们目前看到的最大创新在于内容生成。对吧?你自己也在做市场营销,所以我相信你一定看到了效率的大幅提升,对吧?你可以制作幻灯片,还可以制作各种故事、视频和音频内容。
比如,你可以制作一个播客,比如,我记得谷歌就有一个,对吧?听起来就像两个人在对话。这个可不是由AI 生成的!
这段话绝对不是由AI 生成的,绝对是真人说的。但内容生成方面,我认为这是整个ChatGPT系列中最具有创新性的地方之一。
随后,我们开始了解到,有模型是使用700亿个令牌进行训练的,也有模型是使用1000亿个令牌进行训练的。但随后你提出了一个非常有道理的问题:这对整个行业有什么帮助?正因如此,我们看到许多开发者生产力套件相继问世。
例如,在亚马逊,我们有 Q Developer,或者我们最近推出了一款名为 Kiro 的产品,这是一款利用大型语言模型能力来做出所有决策的智能 IDE。 因此,它不仅限于为营销或叙事生成的内容。它还可以生成诸如你正在编写的代码之类的内容,而这种内容可以是任何形式。无论是Java或Python代码,还是已有五十年历史的主机代码,皆可涵盖。
而且,不管你信不信,我们有很多客户——尤其是金融科技、医疗保健等行业的客户——仍大量依赖大型机,却无法将其迁移,对吧?因此,如果AI 能够解析所有这些代码,对其进行重构,将其迁移到云端并使其更加现代化,这对客户来说将带来巨大的投资回报率。
是的。而且我认为,关于大型语言模型(LLMs)本身,有趣的一点在于:现在人们不再仅仅关注通用型大型语言模型,而是更多地讨论所谓的“通用人工智能”(AGI)——不过我们目前还远未达到那个阶段。事实上,这些大型语言模型实际上是针对特定功能进行训练的,比如图像生成、音频处理等等。因此,它们可以成为该领域的专家。
随着时间的推移,这些模型会逐渐趋同。届时将会出现一种更综合的专家模型。没错。但如今,你看到的正是这些专门的专家模型,它们能够实现你所提到的那些令人惊叹的功能。
完全正确。你说得对极了。而我认为,这个行业正是在这方面将取得巨大发展。
而且,AWS 也有一个大型语言模型(LLM)市场。对吧?因此,对于许多特定领域的功能来说,比如预测性维护——这一直是汽车行业长期以来的一大难题。还有许多时间序列预测模型,这些模型一直以来都是各种不同用例所需要的。
如果你想想那些可能针对此类领域特定问题进行训练的大型语言模型,那将彻底改变游戏规则。是的。正因如此,我们去年推出了一项名为“知识蒸馏”的技术。所以,这并不是说要一味追求“大、大、大、大、大”,而是要追求对你的业务真正重要的数据质量。
这可能是汽车行业,也可能是医疗保健行业,还可能是金融科技行业。但你说得完全正确。
我认为这就是行业的发展方向,届时我们将看到琳琅满目的机型。然后,客户可以根据具体工作需求选择合适的机型。
是的。有一个例子,虽然很多人都知道,但我觉得它对我来说特别有说服力,那就是——试着想想医疗诊断领域。
没错。
尤其是X光片。如果你做过X光检查,你应该知道,拍完X光片后,技师会实时查看影像,但他们是不允许——不允许告诉你结果的。 但他们每天要看成百上千张X光片。然后片子会交给医生,而医生每年要看数万张X光片,他会说:“哦,你骨折了”,或者“你没骨折”,又或者“你有这个病”或者“你有那个病”。
没错。但它们是基于数十、数百、数千乃至数百万张X光片训练出来的模型,正因为处理了海量的图像数据,这些模型的表现能与医生媲美,甚至在某些情况下更胜一筹,而且它们能发现医生无法察觉的问题。 我并不是说它们会取代医生,但它们潜在的作用是起到筛选的作用——告诉医生,这5%的X光片才值得重点查看。
比如,其他那些就非常明确了。没错。无论是降低成本、改善患者预后、缩短周转时间,还是其他什么。
关键在于,这些是新工具。是的。
而且它们还可以以新的方式加以利用。是的。
15:24 什么是 AgenticAI ?
刚才你提到了另一个词,就是“agent-oriented”。我想,大多数人可能还不太清楚“agent-oriented”到底是什么意思。
这是一个非常重要的新兴趋势,但目前仍处于发展周期的早期阶段。你能谈谈“代理性”的含义吗?好的。代理性AI 能带来哪些机遇,同时目前又存在哪些挑战和局限性?
是的,完全正确。所以我觉得曾有这样一种说法,认为去年或过去几年是OEM厂商的年代,因为几乎每周都能看到各种供应商推出大语言模型(LLM)。随后又出现了RAG(检索增强生成),整个聊天机器人时代就此开启。现在大家都在利用这些大语言模型开发聊天机器人。
但据说今年是“代理年”。为什么是“代理”呢?因为你需要采取行动。比如,
就连作为人类,对吧,如果我们只顾着思考却不采取任何行动,就永远无法前进。
同样地,对于所有这些原始设备制造商(OEM)和聊天机器人,你可以查询所有这些数据,这或许是一个不错的开始。但要想基于这些数据采取行动,你需要某些功能。那么,按照传统做法,我们该如何实现呢?我们使用微服务。
我们使用,比如,就是说,像SOA架构、REST API之类的。对吧?但在AI 的世界里,我们讨论的是智能代理,因为智能代理拥有决策权,而且可以自主行动。那么,自主程度到底有多高呢?
这取决于具体应用场景,这也是一个正在快速发展的领域,我们将在其中学到很多东西。例如,在汽车领域,我们讨论全自动驾驶汽车已经很久了,但由于各种复杂因素,目前还无法实现。许多此类智能体工作负载也会面临同样的情况。 我们可以继续讨论全自主智能体包揽一切,但当它们做出决策时,可能会面临许多权衡取舍。
现在,你已经可以看到一些例子了,比如一些再平常不过的事情,比如日程安排,或者帮我找一趟从这里到那里的航班,要在指定时间段内,价格还要实惠。 因此,显然,随着时间的推移,我认为我们整个社会——当然,每个人的情况可能各不相同——可能会更愿意赋予“AI ”更多的权限和自主权(此处双关),让它代为处理事务。或者,其他人可能会让它先完成工作,然后在执行前确认一下:“这样看起来可以吗?”我认为上述所有情况都会出现。 但我认为关键在于,通过建立一个闭环——不仅包括通过数据分析获得答案,还包括采取实际行动,甚至可能朝着闭环闭合的方向迈进——你将开始拥有一个反馈循环,从而能够提升AI 的能力、吞吐量及其潜力。
是啊。目前为止,最大的区别在于我们编写软件的方式。对吧?这主要还是基于规则的。
所以你的意思基本上是说:某个微服务或 API 会执行 x、y、z 这些操作。要实现这些操作,它需要接收输入数据,并返回输出数据。而你必须将这一逻辑用代码实现出来。
但对于智能代理而言,由于它具备大型语言模型的强大能力,因此能够做出如此多的决策。所以你可能不必时时刻刻都明确指示,但其中的权衡在于思考能力。就像我们人类一样,对吧?如果我们一直想太多,就会把自己累垮。
我们会消耗大量能量。我们需要多喝水。我们需要多吃点。特工们也是一样。
如果它是在持续运行,而且本质上具有某种非确定性,那么你就得为此付出代价,因为代理会长时间运行,占用大量内存、CPU资源等等。总而言之,我想你应该明白,代理当然是未来的发展方向,但如果遇到基于逻辑的工作负载——比如简单的“如果-那么-否则”逻辑——你还是应该选择微服务。你仍然需要构建这些微服务。
无论他们的决策需要什么,比如供应链方面的应用场景——这在今天是一个巨大的挑战,对吧?尤其是考虑到各种关税等因素。不确定性实在太大了。
而且,如果你希望这个智能代理处理库存问题,就必须弄清楚供应商的状态,还得搞定物流和运输等事宜。这些正是智能代理大显身手的典型用例——其中许多逻辑无法通过代码固化。智能代理或多智能代理协调机制需要调用不同系统来处理各项任务。因此,这些正是智能代理大展身手的典型用例,没错,这就是未来。
不过,如果某件事可以采用基于规则的逻辑来处理,那就不要把所有鸡蛋都放在一个篮子里,试图用代理来处理所有事情。
对。
因此,在我看来,这两种世界观都会继续并存——一种更偏向确定性,另一种更偏向非确定性,而关键在于根据具体任务选用合适的工具。
19:56 《的演变》AI
所以,如果我稍微退一步,把你刚才说的话总结一下,我理解的是,AI 正在发展。它的能力越来越强。是的。但不应将其视为一个单一的整体,而应将其视为一个从简单模型到复杂模型,再到可能更加独立、显然是自主的模型的连续体。我不想混淆这个概念的含义,但说白了,就是更具代理性、更注重行动的模型。
而且,所有这些在未来仍将具有重要价值。
没错。
而且,这种组合很可能随着时间的推移而不断演变。
这是种思考方式吗?
完全正确。如果你想想我们的计算机、存储和数据库,情况也是一样的。就像我们最初是从那些单体式大型机原始设备制造商(OEM)起步的。对吧?
随后,我们转向了去中心化系统。我们开始讨论VMware等技术,如今又谈到了容器。现在,我们谈论的是无服务器函数,但那些庞大的物理服务器依然存在。与此同时,无服务器函数却只需0.5GB内存即可运行一段代码。
因此,计算列表中这些琳琅满目的功能依然保留着。数据库。你们有这些庞大的单体数据库,对吧?但也有像时间序列数据库这样的小型数据库。
您还有其他类型的数据,即 NoSQL 数据库。
因此,在AI 领域,随着大量大型语言模型(LLMs)的涌现,同样的情况也会发生。而我们正身处其中。你知道吗?我常开玩笑说,作为解决方案架构师,我们的工作就是从终端客户的需求出发,反向推导,从而确定该选用什么工具
适合您的使用场景,因为不要试图把所有事情都塞进一个篮子里。适合的工作就该用合适的工具。
太好了。
21:24AI 汽车领域的应用
那么,我们得聊聊汽车行业了。Sonatus ,我们的播客内容无疑聚焦于汽车技术和汽车软件。你刚才提到了几个方面,现在我们就来聊聊AI 目前在汽车中的具体应用,然后再探讨一下它未来的发展方向。
是的。所以,你知道,在过去的十年左右里,我在汽车行业工作期间,见过许多应用案例。比如,我的专业背景是大数据和物联网。除了汽车领域,我还参与过许多智能家居类产品的开发。
对吧?正因如此,互联出行和各种智能家居其实有相似之处。你能够获取大量这类遥测数据。在汽车领域,这些数据主要来自车载信息系统。
而且他们负责处理所有车队管理之类的工作。
随后,我开始涉足OTA领域,因为我们开始讨论:汽车领域也应该纳入升级范畴,而不仅仅是远程医疗设备或车载娱乐系统,而是如何让整个汽车系统变得更易于升级?而且这些系统必须能够随着时间推移进行升级,且成本不会因此贬值。
正是在这种背景下,“软件定义汽车”的概念开始出现。而这不仅仅是指空中升级。
正如大家所知,你们一直是该领域的中小企业和专家。 这也涉及对车载架构的转型,因为如果车内有数百个电子控制单元(ECU),那真的、真的非常棘手。因此,如何实现ECU的整合,将其转变为基于区域或基于域的架构,从而能够推送所有这些软件更新,或者从车辆中收集大量数据,以打造下一代驾乘体验。
所以,我认为对于AI 而言,正如我们之前提到的,它一直都存在。对吧?各种形式的机器学习一直都存在。几年前,当我与我们的合作伙伴黑莓(BlackBerry)合作时,我们也讨论过合成传感器,即部署大量基于机器学习或基于逻辑的传感器。
而且,你们正在收集所有这些数据,并在云端进行处理之前先对车载的噪声数据进行处理,因为数据的传输成本往往高得令人望而却步。抱歉回答得有些啰嗦,但我相信,借助生成式AI 和智能代理,整个供应链将实现互联,从而推动互联出行的发展。
或者说数据采集的情况,以及你实际上能向云端传输多少高质量的数据。在采用电气化架构(EE)和软件定义车辆(SDV)的情况下,车辆本身能够完成多少工作(这些工作本质上具有非确定性),这一点将至关重要。
这也正是你之前提到的“选用合适的模型来完成合适的任务”这一点。
车载系统不必采用那百亿个令牌的模型。你们可能只需在车上配备,比如,一千万个令牌,这对你们想要实现的目标来说已经足够了。而你们正在开发的、专注于车载软件的这些出色软件,我认为将因此具有巨大的价值。
24:11Sonatus AI 技术员
是的。非常感谢。很感激。那我们就来谈谈这个吧。我的意思是,正如我们开头提到的,我认为人们往往认为——而且普遍存在一种看法,即车辆中的AI 仅指自动驾驶、自动刹车或自适应车道保持功能。
这些技术确实非常了不起。我是这些技术的忠实拥趸,非常喜欢它们。是的。但在Sonatus ,我们正在尝试做的事情——而且我认为这里存在一个被错失的机会,我们正试图提高大家的认识——就是我认为还有更多可能性可以实现。
那么,我来举几个例子。我们与 AWS 合作已有多年。我们非常珍视与你们的合作关系。
去年在消费电子展上,也就是2025年1月20日。是的。
我们展示了一款名为“AI Technician”的新产品,该产品基于AWS运行,并采用了大型语言模型。我们展示的内容表明,利用大型语言模型和分析技术,能够更好地理解车辆存在的问题。
然后利用Sonatus 提供的软件、数据基础设施等资源,以获得更优质、更精细的数据。是的。
为了能够判断,嘿。这算是个问题吗?这不是个问题吗?这是个紧急问题吗?
这是个非紧急问题吗?是整个车队都存在的问题吗?是的。是仅有一辆车存在的问题吗?
因此,这个“AI 技术员”的概念已经引起了极大的关注。此外,我们还运用了之前提到的“代理”理念,即数据来源并非单一。这不仅仅是指,哦,我们只是查看故障代码(DTC)——诊断故障代码。我们并非仅仅查看DTC代码,然后将其输入RAG或LM系统中。
是的。但更准确地说——这也是你刚才提到的——我们正在整合来自多个来源的数据。通过整合这些数据,我们能得到比任何单一来源更准确的答案。我认为,这正是AI 所具备的优势所在。
这将极具威力。我同意你的看法。就像我们所说的“轮子上的数据中心”,它确实名副其实,因为正如你所说,网络拓扑结构种类繁多,对吧?有CAN总线,有以太网,还有许多其他类型。
而我们长期以来一直在努力解决的问题,是如何将大量不同类型的信号反序列化为某种标准格式。正因如此,我们开始研究COVESA的VSS规范,但并非所有整车制造商都使用VSS,对吧? 各家都有自己的方案。那么现在,如何将来自各种网络拓扑结构和不同类型ECU的所有数据进行标准化,并在近实时状态下对其进行解析,从而提供个性化体验,甚至实现预测性维护——比如当刹车片出现磨损需要更换时,将相关信息发送给经销商?
然后你去了经销商那里。经销商说,不,这没问题。我们会修好的。对吧?
所以,这一切构成了一个完整的价值链。我认为“AI ”可以解决这个问题。而不只是像你说的,像那种花哨的车载娱乐系统那样。没错。
比如,当Alexa SDK首次面向嵌入式设备推出时,我就参与了相关开发工作。 我还记得,当时我们与恩智浦(NXP)合作进行了一次技术革新,向客户展示了如何将Alexa嵌入系统,对吧?像“Alexa,做什么”这类功能。虽然我们从事这类车载信息娱乐系统开发已经很久了,机器学习(ML)技术也存在已久,但正如你所说,在当今这个“AI ”时代,还有更多可以探索的空间,因为这代表着下一阶段的演进,而且它无处不在。
27:28Sonatus AI 负责人:车载边缘计算AI
正因如此,我很高兴你这么说。
而最后这一点正好引出了我们今天在此想要强调的最后一点:我们非常激动地宣布,Sonatus 刚刚推出了我们最新的AI 产品——Sonatus AI Director。 而且,我认为这甚至进一步拓展了我们刚才关于AI 技术员的讨论。我们认识到,AI 目前通常集中在ADAS单元中,或者在某些情况下,显然也存在于IVI单元中的聊天机器人,用于处理诸如“最近的星巴克在哪里”或“回家路上会遇到堵车吗”这类问题。是的。 但现实情况是,这仅占车辆基础设施的极小一部分,也仅占车辆子系统的极小一部分。
因此,我们意识到,在更多车辆子系统中应用AI (车载诊断系统)还存在巨大的未开发潜力,可满足多种应用需求,无论是更精准的故障诊断、更有效的预防性维护、系统优化、效率提升,还是随时间推移的动态调校等。 因此,AI 总监所做的工作是——AWS是我们此次发布的合作伙伴之一,我们非常高兴能有你们协助我们启动这一项目——展示我们将如何提供基础设施,以加速AI 在车辆中的部署,而非在云端。云端固然重要,而且云端将始终重要。
没错。但有些应用必须在本地处理,无论是因为对延迟敏感,还是需要传输的数据量过大而无法发送到云端,抑或是出于隐私考虑,又或是涉及知识产权保护问题。我们该如何在适当的情况下,将这些模型更紧密地集成到车辆中,使其在车辆基础设施内运行,从而解决问题、降低成本并提高效率呢?
所以,我们最近推出这项服务时非常兴奋,也很高兴能有您加入。您一直都在关注这类问题。您认为这是行业中一个切实的需求吗?
是的。我完全同意,因为,你知道,数据仍然是决定成败的关键。
因为我们一直在讨论AI ,不过——请原谅我的直言——如果数据质量不过关,那结果就是“垃圾进,垃圾出”。我就是这么认为的。你知道吗?就像你提到的那样,我们仍然需要对数据质量和数据治理保持极高的重视,同时还要进行各种优化。
AI然后,无论是基于大语言模型(LLM)的AI ,还是基于智能代理的AI ,都能为您带来投资回报率(ROI)。如果你只是以为,只要拿到这个基于互联网数据训练的大语言模型,它就能为你的业务创造奇迹,那是不可能的。我的意思是,这就是现实。
而正是在这方面,你们正在开创的许多解决方案,我相信对客户来说会非常有用。
是的。非常感谢你。还有一点我们曾意识到,而且我们已经验证过这一点,目前情况依然如此:各领域的专业知识非常丰富。无论是电池、动力系统、安全、轮胎还是其他方面,都蕴含着海量的知识和专业技能。
30:25 利用AI 和数据交换方面的行业专业知识
这类专业知识确实存在。但当前面临的挑战是,OEM厂商必须分别集成这些模型,且集成成本高昂。我们如何能构建一个更通用的基础设施,让他们能够以高度可扩展的方式借鉴这些行业专家的创新成果?这正是我们正在努力做的事情。到目前为止,这一举措得到了非常、非常积极的反响。
是的,这真的很了不起,因为即使你想想这些多模式的原始设备制造商(OEM),对吧?他们实际上带来了大量知识,尽管这些知识目前仍属于内部数据。但越来越多的不同行业垂直领域正在利用这些数据。这就像十年前我看到的那样,当时有很多客户实际上都在参与一种被称为“数据交换”的活动。
这意味着他们拥有“交易员”——这或许是针对金融、医疗或汽车行业的高质量数据——并且他们正通过开源或商业模式(无论哪种)分享这些数据。其他不同垂直领域都可以利用这些数据。我相信,这一领域很可能也会出现同样的情况。而当这种情况发生时,大型语言模型(LLMs)将展现出极其强大的能力。
你把这些当作思考的依据,并借鉴所有这些最佳实践。正如你所说,比如电动汽车的续航焦虑,即使在今天仍然是一个大问题。
对。
我与许多人交谈过,甚至包括原始设备制造商(OEM),他们都提到并面临着同样的问题。比如电动汽车的续航焦虑,我们该如何应对?除非建立起这样一个完整的数据飞轮——从轮胎收集数据,从不同的电子控制单元(ECU)收集数据,然后将这些数据整合起来,从而进行预测性或预防性维护,甚至实现续航优化——否则这一问题无法得到优化。
这看起来很简单,但其实并非如此,因为我们还在车内集成了大量功能。比如,我的孩子在长途驾驶时想看 Netflix。对吧?如果你从系统中抽调了大量电池电量,却还指望续航里程能达到 500 英里,那是不可能的。 那么,如何优化这一切呢?答案在于数据,以及基于数据的AI ,你需要持续学习、不断调整模型——无论是传统模型还是大型语言模型。对吧?
这就是你可以实现的 MLOps。
32:30 展望未来,就在今天
没错。你刚才提到了“续航焦虑”。造成这种焦虑的原因之一也是电池。汽车电池技术及其相关认知正在迅速发展。
我们的首发合作伙伴之一是名为Qnovo的电池管理系统及电池健康状况监测领域的领军企业。嗯。我们很高兴他们能参与我们的首发活动。
他们目前关注的重点在于,在电池故障检测、加快充电速度等方面取得了令人惊叹的创新成果,但这一切都离不开数据,也离不开模型。因此,我们与他们合作的一项工作,就是帮助他们利用相同的基础设施,提供一种将该模型落地实施的途径。这是一个你可能从未想到的子系统,但它确实可以利用相同的基础设施。
没错。
此外,你提到的另一个观点——我认为这一点非常重要——就是我们作为整个行业以及作为技术工作者,我们的使命始终是预见未来。而有时,预见未来意味着你知道未来会有一些你目前尚不了解的事情。
嗯。
那么,该如何建立一套框架,以便在下一次创新出现时能够加以利用呢?
您可以充分利用这一点。因为很多技术——尤其是从历史上看,汽车领域更是如此——往往存在这样的情况:设计时只考虑“这是一辆车,能行驶,这就够了”。但随后会出现一些未预料到的情况,导致车辆变得过时,在市场上的竞争力下降,或者残值降低。 我们该如何建立一种能力,使车辆在交付后仍能随着时间推移不断升级,以实现续航优化、新增服务以及应用新的安全技术?这就是我们试图带来的可扩展性优势之一,而且我们认为业内对此有着巨大的需求。
34:04 利用云技术构建数字孪生
是啊,是啊,绝对没错。而正因如此,你知道,我仍然相信,云计算的力量将会变得至关重要。对吧?
虽然我没有直接参与其中一些项目,但我的同事们确实参与了像云端虚拟ECU这样的项目。对吧?你们把很多原本可能在车上使用的英伟达设备都搬到了云端。那么,如何在云端持续运行这些设备并完成所有这些仿真呢?
特别是如果你要采用那种EE架构——即整合了电子控制单元(ECU),并将车辆连接到云端。然后,你会对所有这些内容进行端到端的仿真。最终,你会弄清楚:在当前阶段,什么才是最合理的?因为汽车是截然不同的存在。
这跟耳机不一样,耳机是智能耳机。对吧?你知道的,我不想对牛弹琴。就像那些安全关键系统一样,你需要采取确定性的操作。
安全气囊正在弹出。您需要立即采取行动。这与其他联网产品截然不同。这是目前市场上最复杂的产品。
35:03 结论
所以我觉得,正如你所说,这就像是一个持续学习的过程。我们在云端将加速发展,并在边缘计算领域开展合作,但我们需要所有这些数据。此外,机器学习和原始设备制造商(OEM)也需要所有这些数据。我们需要所有的MLOps,也需要所有的软件开发生命周期(SDLC)最佳实践。这些都不会消失,只是工具在不断更新。
而且,我们需要因地制宜,选用合适的工具。
你说这总结得非常到位,因为虽然我们刚才谈了一会儿关于车载边缘计算的话题,但关键其实在于你需要上述所有要素。没错。你需要强大的云端基础设施,也需要强大的数据支持。
你需要强大的服务。没错。你还需要车载数据,而且这两者必须紧密协作。这其实就是关键所在。
这就是我们之所以与您合作的原因。没错。
嗯。
正因如此,我们非常高兴你能来到这里。我们也是。能讨论这个话题真是太令人高兴了,而且能更详细地谈谈AI 也让人非常兴奋。在未来的几期节目中,我们会进一步探讨AI 。但真的要感谢你为我们带来关于所有这些技术的精彩讲解。
谢谢你的邀请。真的非常感谢你,约翰。和你聊天真是太开心了。
如果您喜欢本期节目的内容,请点赞并订阅,以便观看更多类似内容。感谢您的收看,期待很快在下一期节目中与您再会。