Beschleunigung intelligenter, sicherer Echtzeit-Entscheidungen am Netzwerkrand mit den skalierbaren „ AI “-Lösungen von NXP und dem „ Sonatus “AI Director

Während die cloudbasierte „ AI “ leistungsstarke Funktionen bietet, bietet die fahrzeuginterne „Edge- AI “ entscheidende Vorteile für Echtzeit- und Sicherheitsanwendungen.
- Geringere Latenz: Die lokale Datenverarbeitung gewährleistet sofortige Reaktionen, was für sicherheitskritische Funktionen unerlässlich ist, die nicht auf die Kommunikation mit der Cloud warten können.
- Geringere Kosten: Die Kosten für die Übertragung großer Mengen an Fahrzeugdaten in die Cloud werden erheblich reduziert.
- Datenschutz und Sicherheit: Die Speicherung der Daten im Fahrzeug schützt proprietäre Algorithmen (IP) und verbessert den Datenschutz der Nutzer, indem die Offenlegung von Daten auf ein Minimum reduziert wird.

Bisher wurde der Einsatz von „ AI “ in Fahrzeugen durch komplexe MLOps-Workflows und die Schwierigkeit, Modelle für bestimmte Hardware zu optimieren, behindert. Die gemeinsame Lösung behebt dieses Problem durch die Vorintegration von „ Sonatus “AI Director mit der eIQ® Auto ML-Software und der S32-Verarbeitungsplattform von NXP.
- End-to-End-Toolchain: Sie bietet einen einheitlichen Workflow für das Training, die Validierung, die Optimierung und die Bereitstellung von Modellen, wodurch die Notwendigkeit entfällt, unterschiedliche Tools zusammenzuflicken.
- Automatisierte Optimierung: Die Lösung optimiert Modelle automatisch für die spezifischen Hardware-Beschleuniger von NXP (wie NPUs und DSPs) und gewährleistet so eine effiziente Ausführung ohne manuelle Feinabstimmung.

Eine Benchmark-Studie, in der ein Standardmodell auf Python-Basis mit einem mit C++/eIQ® Auto ML optimierten Modell verglichen wurde, ergab enorme Effizienzsteigerungen.
- Schnellere Inferenz: Die durchschnittliche Inferenzdauer wurde bei der Kompilierung mit Glow um das 8-Fache reduziert.
- Geringerer Ressourcenverbrauch: Die CPU-Auslastung sank um das 4,25-Fache, und der Verbrauch an virtuellem Speicher wurde um das 144-Fache reduziert, wodurch wertvolle Rechenressourcen für andere Fahrzeugfunktionen freigesetzt wurden.