本案例研究探讨了恩智浦（NXP）可扩展的AI 解决方案以及Sonatus AI Director如何在车辆中实现基于边缘计算的实时决策。
尽管基于云的AI 应用正在增长，但车载AI 的应用仍较为有限，主要集中在ADAS和自动驾驶领域，这为车载AI 计算提供了机遇，可通过降低延迟、降低数据传输成本、增强隐私保护以及加强知识产权保护等方式提升车辆功能。恩智浦（NXP）的S32汽车平台具备异构计算和加速器功能，可支持安全且可扩展的AI 应用。
Sonatus AI Director 提供了一套用于AI 模型开发、部署和远程监控的端到端工具链，并与恩智浦（NXP）的软硬件生态系统深度集成。
虽然基于云的AI 具备强大的功能，但车载“边缘计算（EdgeAI ）”为实时和安全应用提供了关键优势。
- 降低延迟：本地处理数据可确保即时响应，这对无法等待云通信的安全关键型功能至关重要。
- 降低成本：这大大减少了将大量车辆数据传输到云端的费用。
- 隐私与安全：将数据保留在车载系统中，既能保护专有算法（知识产权），又能通过最大限度减少数据暴露来增强用户隐私保护。
此前，由于MLOps工作流复杂，且难以针对特定硬件优化模型，AI 在车辆中的部署一直受到阻碍。该联合解决方案通过将Sonatus AI Director与恩智浦（NXP）的eIQ® Auto ML软件及S32处理平台预先集成，解决了这一问题。
- 端到端工具链：该方案为模型的训练、验证、优化和部署提供统一的工作流，无需再将分散的工具拼凑在一起。
- 自动优化：该方案可针对恩智浦的特定硬件加速器（如NPU和DSP）自动优化模型，确保高效执行，无需人工调优。
一项将基于 Python 的标准模型与通过 C++/eIQ® Auto ML 优化的模型进行对比的基准测试显示，效率得到了显著提升。
- 推理速度更快：使用 Glow 编译后，平均推理时长缩短了 8 倍。
- 资源占用更低：CPU 利用率降低了 4.25 倍，虚拟内存占用量减少了 144 倍，从而为其他车辆功能释放了宝贵的计算资源。
