共享的车载运行时环境可以管理哪些模型保持活跃状态，哪些模型仅在运行条件需要时才运行
随着商用车AI 能力的扩展，它们面临着资源问题：持续运行所有模型会对有限的计算和内存资源造成额外负担，从而使新功能的集成、验证和运行变得更加困难。架构上的挑战在于，如何在车辆现有资源范围内支持更强大的智能功能。
每个新增的模型都可能需要占用 CPU 或加速器资源、内存，并需要进行集成工作和验证。然而，在诊断事件或服务工作流中需要的模型，通常没有必要在每次行程中都运行。即使在不需要该模型功能时仍将其保持为活动状态，也会不必要地消耗执行资源。
对于制造商而言，这带来了一项设计挑战，其影响远不止于初期生产阶段。商用车的使用寿命很长，《FleetOwner》杂志报道称：“车队已有十多年未曾运营过如此老旧的设备了。” 虽然出厂时预装的计算能力和内存配置基本固定，但人们对运行在其上的软件和AI 的期望却在不断提升。工程团队必须确定新的工作负载如何与现有功能协同工作，以及如何在整个车队中部署、更新和监控这些工作负载。
对于运维人员和服务团队而言，数据中同样存在这些限制。存储空间、带宽和网络连接限制了可传输到云端的遥测数据量，而海量数据的采集又使得团队不得不费力地筛选出对诊断至关重要的事件和信号。这种权衡难以避免：要么将所有数据发送到云端并承担相应的成本和噪声，要么减少数据传输量，却冒着遗漏关键事件的风险。
这两个问题都指向了 同一个答案：将智能转移到车辆上，并将其作为共享的车辆基础设施进行管理，而不是作为一组独立的、始终在线的模型。一个通用的运行时环境可以管理一组模型，并根据每个功能的要求分配执行资源。
将部署与执行分离
其核心思想是将“已部署”与“正在运行”脱钩。在车辆上保留模型与执行该模型是两个独立的决策。已部署的模型仍会占用存储空间，但其执行可根据运营需求进行管理。
这种区分使得两类边缘智能能够并存。持久型智能包括那些必须保持活跃状态以支持连续运行或安全关键型功能的模型。持久型智能的一个例子是ADAS道路物体检测模型，该模型在行驶过程中处理摄像头采集的图像，以识别车辆、行人和骑行者，从而避免碰撞。
按需智能包括仅在车辆环境或运行条件需要时才会激活的模型。按需智能的一个示例是电池健康评估模型，该模型会在充电或进库期间激活，以评估电池退化情况并提示进行维护。要在同一硬件上同时支持这两者，就意味着必须有某种机制来决定运行什么、何时运行以及使用哪些资源，同时确保不会中断那些不可中断的功能。
一个共享的车载运行时环境可以做出这些决策。它能够管理部署、启用、停用、模型版本、对车辆信号的访问、输出以及监控，同时根据各功能的需求分配 CPU、内存和其他资源。
这些决策必须符合各项功能的要求，包括验证和资源可用性。按需执行并不会消除集成或验证工作；它提供了一种管理无需同时运行的工作负载的方法。
由车辆上下文决定模型何时运行
车辆信号、诊断事件、运行模式、地理位置、服务上下文以及其他模型输出均可作为激活的输入。车辆状态触发触发器，平台激活模型，模型执行其任务，任务完成后平台将其停用。模型仅在需要其功能时才消耗资源。
由于已激活的模型会与持久化函数争夺相同的资源，因此要使这一方案切实可行，需要能够掌握 CPU 和内存使用情况、存储空间、模型占用空间以及并发模型的状况。工程和运维团队还需要对整个集群的部署状况有全面了解：已安装了哪些模型、哪些模型正在运行，以及可用资源是否能够支持所请求的工作负载。
共享的编排层能够以一致的方式管理各类应用程序，而无需为每种应用程序单独构建架构。这些应用程序包括远程诊断、边缘日志分析、配置监控、服务模式或商店模式、模型评估以及针对性的工程工作流，每种应用程序都有不同的执行需求。
本地检测，有选择地采集
车辆数据采集生动地说明了该架构在实际应用中带来了哪些变化。在以云端分析为核心的工作流中，团队会收集数据、上传数据、搜索异常、识别有价值的事件、提取相关信号，然后对问题进行诊断。
基于边缘智能的工作流改变了这一流程：在本地检测异常，触发定向数据采集，上传相关背景信息，并进行诊断。关于哪些数据重要的决策，现在可以移至车辆端进行。
Sonatus’sFastlane™ Edge “智能触发器”功能便是其中一个具体示例。智能触发器将运行于车载边缘运行时中的AI 模型与 Fastlane™ Collector。位于边缘端的轻量级异常检测模型或数学函数可监控发动机行为阈值。当检测到异常状况时，它会触发一项 Fastlane Collector 策略，该策略会捕获事件发生时相关的发动机信号。只有在检测到发动机异常时，才会进行有针对性的数据采集。
这种方法可以生成更相关的诊断数据集，并减少不必要的车载至云端的数据传输以及手动日志检索工作。无论是在连接利用率、存储利用率还是调查时间方面能否得到改善，都取决于检测质量和数据采集策略。
归根结底，从更广泛的架构角度来看，部署、执行、资源和生命周期管理需要统筹考虑。一个平台可以支持日益扩大的AI 能力组合，而无需让每个已安装的模型都持续运行。当智能成为可管理的平台能力时，边缘AI 便能实现弹性扩展。