跳转至主要内容
我们网站的此版本目前正在进行维护和更新。 按钮

Driving Innovation 播客:第16集

借助Sonatus ,释放车载AI 的强大功能AI 总监

本期《Driving Innovation 》播客探讨了车载边缘AI 技术如何重塑汽车行业,并介绍了Sonatus AI Director——这一端到端编排平台,使在车辆中进行大规模AI 部署变得切实可行且经济高效。Sonatus 的AI 产品经理Steve Stoddard详细阐述了AI Director如何帮助汽车制造商在当今的ECU和车辆硬件上优化、部署和管理各类AI 模型,从而实现更智能、更具适应性且个性化的驾驶体验。

收听纯音频版本:

剧集文字稿 | 与Sonatus (AI 总监)共同探索车载AI 的强大潜力

0:00 引言:Sonatus 网站上线AI 总监

欢迎收听《Driving Innovation 》的又一期节目。本播客致力于探索那些正推动汽车行业迈向支持AI 的软件定义车辆的产品与解决方案。

今天我们为您带来一期特别节目。我们将讨论我们的最新产品——Sonatus AI Director。关于AI 与汽车行业的关系,目前已有许多讨论。

如今,围绕……的许多创新AI

一直专注于基于云的实施方案。试想一下聊天机器人或语音助手,但AI 直接集成在车辆内部仍具有巨大的潜力,能够让车辆变得更加智能、更具适应性,并为终端用户带来更愉悦的驾驶体验。

而这正是车载边缘计算(AI )的真正目的。事实上,这也是AI 总监正在应对的挑战。那么,让我们

开始吧。

今天与我同在的是史蒂夫·斯托达德(Steve Stoddard),他是Sonatus 旗下AI 系列产品的产品经理。

史蒂夫将详细介绍“AI Director”的发布情况、其目标以及该产品实际提供的功能。

史蒂夫,欢迎再次做客本期播客。

谢谢,

1:25 什么是“AI ”导演?

桑杰。很高兴能来到这里。

我觉得应该送你一件T恤或者一个马克杯,以感谢你连续三次来做客。很高兴你能来。谢谢。那么,我们就直入正题吧。《AI Director》是什么?我们为什么选择现在推出这款产品?

当然。AI Director 是一个供整车制造商(OEM)在其车辆中开发、部署、运行和管理AI 模型的平台。目前,AI 已具备在车辆中运行的条件,主要有三个原因。首先,终端客户以及整车制造商本身都在要求车辆具备定制化、更个性化的功能,以及真正由AI 驱动的功能,因为如今这种体验已无处不在。

第二个原因是,随着软件定义车辆和数据的普及,数据已经无处不在,如果要把所有数据都发回云端以便在那里运行AI 模型,那么数据成本真的会变得极其高昂。

此外还有数据安全问题。所有从车辆中传出的数据都可能构成威胁或导致信息泄露,因此在条件允许的情况下,在车内运行AI 模型是一种更安全的方式。第三个原因其实是,如今各项技术正逐渐融合,真正使这一设想成为可能——而就在几年前,这种技术还根本不存在,也不可能像今天这样实现。

是的。因此,车内支持AI 的智能功能还有很大的发展潜力。我可以看到,就像我们身边的其他家电和设备正变得越来越智能、越来越能满足我们的个人需求一样,汽车或车辆也能做到这一点。

那么,请帮我(或帮我们)稍微了解一下,AI Director 究竟做了些什么,而这些是当前市场上其他解决方案所不具备的。好的。

3:13 应对的挑战

我们观察到的问题之一是,实际上,虽然有许多不同的工具可用于构建、开发和部署AI 模型,但这些工具都与AI (AI)的发展历程以及互联网的整体发展紧密相连。因此,许多基于云的应用程序专注于构建将在数据中心部署的模型——在那里,几乎拥有无限的计算资源,以便在这些模型的推理阶段实际执行计算。 另一个问题是,构建这些模型所需的数据目前仍存储在车辆中。当然,随着如今越来越多的数据回传至云端,这一情况正在改善,但这确实是我们与客户合作过程中所面临的挑战之一,也是影响其实际部署模型能力的关键因素。

第三个主要方面是,这些模型将在车辆上运行。因此,硬件并非标准化。每辆车都略有不同。不同的

车辆中的电子控制单元(ECU)具有不同的功能,并可访问不同的数据源。

因此,确实有必要优化这些模型,使其能够在车载环境中运行,同时还要从不同的电子控制单元(ECU)中,在恰当的时机向这些模型提供正确的数据。

好的。所以,你所描述的,本质上是一套工具链,用于管理从开发、训练、开发优化,一直到实际将系统部署到车辆中,并让其在车内发挥作用的端到端生命周期。那么,让我们来谈谈这种“魔力”。我们设想,汽车制造商会希望利用嵌入车内的AI 实现哪些用例呢?

是啊。没错。

4:41 用例示例

因此,许多不同的应用场景都能从AI 中获益。其中之一就是一般的个性化设置。也就是说,所有需要根据特定用户的需求来定制车辆运行方式的功能。

虚拟传感器就是另一个例子。当然,如今成本至关重要。而借助软件定义的车辆,可以将传感器部署到车辆中

通过这些AI 模型进行虚拟化,同时还能节省部分硬件成本。

另一个我们通常能看到显著效益的领域是车辆网络安全。正如我之前提到的,将数据从车辆传输到云端以运行这些模型会面临一些挑战,但一旦能够在车内直接运行这些模型,并以此提供更完善的保护,所有这些需求便不复存在。

随着车辆日益电动化,BMS(电池管理系统)模型已成为另一个重要领域。 这对当今的原始设备制造商(OEM)通常是一项挑战,特别是在他们从内燃机汽车向电动汽车转型的过程中。但电动汽车通常也是由软件定义的程度更高的车辆,为了妥善管理这些电池系统,确保其高效运行并以最佳参数进行充电,需要处理大量数据。因此,对于AI 等模型而言,这些都是驱动车辆运行的绝佳机遇。

5:53 针对车辆硬件进行优化

AI 当然。我们都知道,关于运行AI 所需的庞大计算资源,大家已经听过很多了。 虽然从电子系统角度来看,车辆的性能和能力正在大幅提升,但车内目前仍未配备高端GPU和NPU。AI Director是如何——或者说将如何——克服这些挑战,从而真正实现将您所描述的AI 模型部署到当前一代车辆中的实际应用?

是的,完全正确。这是一个非常好的问题。因此,传统的AI 和汽车行业一直专注于ADAS或自动驾驶,这当然是毋庸置疑的。

而且这是一个已经非常成熟的领域,大家对此也了如指掌。但正如我之前提到的,其他一些领域尚未达到同等的发展水平。我们发现,无论是AI Director还是我们的许多模型合作伙伴,人们都在开发各种类型的模型,并希望将其部署到车辆上。

所以这可以

范围涵盖了从非常简单的基于物理的模型(比如线性回归之类)到神经网络,甚至基于大型语言模型(LLM)的模型。因此,根据模型的类型以及车辆中搭载的硬件类型,可以针对特定硬件对这些模型进行优化,并在恰当的时间将它们部署到恰当的位置,从而确保正确的数据能够输入到这些模型中,以发挥其应有的作用。

7:24 首发合作伙伴

你刚才提到了几个应用场景,而且,我记得你还提到了几家供应商。我知道我们一开始就与其中几家建立了合作关系,而且我相信今后还会增加更多合作伙伴。不过,你能简单介绍一下我们在本次发布中已合作的部分合作伙伴吗?

是的。因此,这是一个非常重要的生态系统,它将所有相关方以及该流程中所需的各个环节都凝聚在一起。

实际上,我们在云计算方面曾与 AWS 合作,特别是为了实现,

与我们的模型开发工作流集成。当然,目前市面上已有许多优秀的工具,可用于训练干净的数据、训练模型,并最终将模型准备就绪,以便导入我们的系统并部署到车辆中。因此,AWS SageMaker Studio 是一款非常出色的工具,我们已与其进行了广泛的合作。

在硅片和硬件方面,我们与恩智浦(NXP)保持着非常良好的合作关系,并与他们紧密合作,共同致力于优化工作,特别是为了更方便地优化这些模型,以便将其部署到恩智浦的硬件中。

8:25 模型供应商

在模型方面,我们与多家供应商保持着合作。 其中一个应用场景是前大灯水平调节。欧盟即将出台一项新法规,要求从2027年起必须具备前大灯水平调节功能。一家名为Compredict的公司开发了一种虚拟传感器,无需额外硬件即可实现该功能。这是我们正在合作的一个非常酷的应用。

另一家则是在BMS电池管理领域,名为QNovo的公司。

他们专注于车辆健康状态、电池管理以及检测电池单元的健康状况、性能表现,并预测故障等情况。这是一个新模型,也是他们一直在研发、而我们也已共同推出的模型。 此外,在网络安全领域,我们还与另一家供应商VicOne建立了合作关系。他们拥有一款基于大型语言模型(LLM)的极具创新性的新模型,我们正与他们合作将其部署到我们的硬件中。另外,我们正在演示的还有一款发动机异常检测模型,这是由Sonatus 内部自主开发的。同样,该模型也大量利用了AWS和NXP提供的优化工具。

恩智浦。好的。合作伙伴组合很合理,不同型号供应商种类丰富等等。这确实体现了AI 总监能够管理和处理的模型类型的多样性。 我认为,将AI 模型推向边缘、推向用户,是一项重要的工作。我们期待在未来的节目中,就AI Director 及其衍生解决方案展开更多讨论。再次感谢您莅临节目,作为三度做客的嘉宾,您慷慨地贡献了宝贵的时间。

谢谢你。是的。祝贺你们成功发布。非常感谢,桑杰。很感激。

10:10 总结:如何获取更多详情

本期《Driving Innovation 》节目到此结束。如需进一步了解AI Director,或获取今天讨论内容的更多详情,请访问sonatus.com 上的产品页面,并下载更详细的解决方案简介。再次感谢您收看本期《Driving Innovation 》,期待未来与您再次相见。

最新剧集

Driving Innovation 播客

释放车载边缘计算的潜力AI

Driving Innovation 播客

Sonatus AI 技术员构建器

Driving Innovation 播客

商用车的发展未来在于软件定义

相关资源

解决方案简介

大规模部署车载边缘AI

Sonatus AI Director 使原始设备制造商(OEM)能够跨车辆平台快速部署、管理和优化边缘AI 。我们的统一平台简化了整个AI 生命周期——从数据采集和模型训练到部署——从而直接在车辆中实现实时、自适应的性能。凭借计算感知工作流、与恩智浦(NXP)的无缝集成以及对主要AI 合作伙伴的支持,Sonatus 可加速开发进程、降低成本,并为新一代软件定义车辆提供更智能、更可靠的功能。
返回顶部