Das Potenzial von In-Vehicle-Edge erschließen AI

0:00 Einführung in die Innovation in der Automobilbranche

Willkommen zu einer weiteren Folge von „ Driving Innovation “, dem Podcast, der sich mit der Schnittstelle zwischen Software-Innovationen in der Automobilbranche und dem „ AI “ befasst und untersucht, wie diese die Zukunft der Mobilität vorantreiben.

Heute beschäftigen wir uns damit, wie softwaredefinierte Fahrzeugtechnologien und -lösungen durch Edge- AI s dazu beitragen können, Fahrzeuge von statischen Maschinen in intelligente, anpassungsfähige Plattformen zu verwandeln – ein Thema, das wir in unserem neuesten Whitepaper „Unlocking the Potential of In-Vehicle Edge- AI “ behandeln, das Sie auf unserer Website herunterladen können.

0:31 Herausforderungen bei cloudbasierten AI

Wir werden erläutern, warum cloudbasierte „ AI “ nicht ausreichen, was OEMs davon abhält und wie SDVs Echtzeit-Intelligenz im Fahrzeug ermöglichen – von der vorausschauenden Wartung bis zur Energieoptimierung und darüber hinaus.

Ganz gleich, ob Sie als Führungskraft die digitale Strategie Ihres Unternehmens gestalten oder als Technologe hinter den Kulissen den Wandel vorantreiben – dieser Beitrag ist genau das Richtige für Sie. Legen wir los.

1:04 Vorstellung des Gastes

Heute ist Steve Stoddard, Produktmanager hier bei Sonatus, bei mir zu Gast, um über Edge- AI s in Fahrzeugen zu sprechen. Steve, herzlich willkommen in unserem Podcast. Vielen Dank, Sanjay. Nun, dann fangen wir mal an.

Was ist derzeit in der Automobilindustrie das große Thema rund um das Edge- AI ?

Ja. Ich glaube, es gibt eine Reihe von Trends, die sich gerade sozusagen bündeln. Einer davon ist die Autonomie, die hier im Laufe der letzten zehn Jahre oder so entwickelt wurde und nun endlich wirklich Früchte trägt. Und deshalb wird darüber gerade viel gesprochen.

Hinzu kommt jedoch auch das Zusammenspiel dieser traditionellen LLM-Modelle, die sich wirklich rasant ausbreiten. Und obwohl sie größtenteils in der Cloud basieren, rückt dies „ AI “ stark in den Fokus und weckt großes Kundeninteresse sowie tatsächlich die Erwartung, bereits heute „ AI “ in ihren Fahrzeugen zu haben. Eines der Probleme ist, dass cloudbasiertes „ AI “ aufgrund der Datenkosten, die mit der Übertragung von Daten vom Fahrzeug in die Cloud verbunden sind, gewisse Grenzen hat. Außerdem gibt es immer potenzielle Verbindungsprobleme.

Ganz zu schweigen von den Bedenken hinsichtlich personenbezogener Daten – also im Grunde genommen Informationen, die eine Identifizierung der betroffenen Person ermöglichen – oder möglichen Datenlecks bei geschützten Kundendaten.

Faktoren wie die DSGVO in der EU und andere regionale Vorschriften, die einen etwas sensibleren Umgang mit personenbezogenen Daten erfordern, sprechen dafür, „ AI “-Modelle lieber im Fahrzeug als in der Cloud auszuführen.

2:24 Der Übergang von der Cloud zum Edge AI

Ich weiß, dass „ AI “ derzeit in aller Munde ist.

Was geschieht derzeit in der Automobilindustrie, das Edge- AI en besser ermöglicht, als dies vielleicht zuvor in einigen der traditionelleren, veralteten Fahrzeugarchitekturen der Fall war?

Ja, auf jeden Fall. Software-definierte Fahrzeuge – dieser SDV-Trend – spielen dabei definitiv eine große Rolle. Wenn Dinge verstärkt über Software gesteuert werden und man bestimmte Variablen ändern kann, eröffnet das natürlich zahlreiche Möglichkeiten für „ AI “-Modelle, die es zuvor vielleicht noch nicht gab.

Zudem haben sich viele dieser ML-Modelle mittlerweile wirklich etabliert. Das traditionelle ML hat also gewissermaßen den Weg für Dinge wie Empfehlungsmodelle und andere Anwendungen geebnet, die heute in der Cloud genutzt werden und nun zunehmend besser für den Einsatz auf der begrenzten Hardware im Fahrzeug optimiert werden. Gleichzeitig gibt es bei der im Fahrzeug entwickelten Hardware einen zunehmenden Trend hin zu HPCs und Rechenkapazitäten, die sich möglicherweise besser für „ AI “-Neural-Compute und GPUs eignen – insbesondere angesichts des, wie bereits erwähnt, zunehmenden Trends zur Autonomie. Der Fokus liegt zunehmend auf diesen Arten von Chips, die im Fahrzeug implementiert werden können.

Daher gibt es heute im Fahrzeug eine viel größere Auswahl an leistungsfähigen Steuergeräten, die solche Modelle tatsächlich ausführen können. Es liegt also auf der Hand, dass SDV-Technologien den Weg für den Einsatz von Edge- AI n in Fahrzeugen ebnen.

Lassen Sie uns das einmal etwas genauer betrachten.

3:52 Hindernisse für OEMs bei der Einführung von Edge- AI

Was hat die OEMs bisher daran gehindert?

Einer der wichtigsten Aspekte wird die Netzwerktopologie im Fahrzeug sein. Die eigentliche Architektur des Fahrzeugs und die Signale waren bisher eher starr und statisch ausgerichtet. Mit dem Übergang zu SDVs eröffnet diese Flexibilität natürlich deutlich mehr Möglichkeiten.

Ein weiteres Problem ist der eigentliche Datenzugriff. Bei der Implementierung v AI -Modellen im Fahrzeug muss man sich also unter anderem die Frage stellen, wie man die richtigen Daten, die als Modelleingaben benötigt werden, zum richtigen Zeitpunkt an das Modell übermittelt.

Und das ist einer der Aspekte, die durch die neueren Technologien nun zunehmend möglich werden. Zudem gibt es eine Vielzahl von cloudbasierten und MLOps-ähnlichen Tools. Diese eignen sich sehr gut für die Bereitstellung von Modellen in der Cloud, aber das ist die eher traditionelle Vorgehensweise beim maschinellen Lernen. Es stehen weniger Ressourcen zur Verfügung und es gibt weniger Tools für die Bereitstellung von Modellen auf eingebetteten Geräten wie Fahrzeugen. Und ich denke, dass Fahrzeuge im Vergleich zu vielleicht eher allgemeinen IoT-Geräten etwas strengere Anforderungen an die Sensibilität stellen, insbesondere was die Zugriffskontrolle auf Daten und Ähnliches betrifft.

4:58 Fahrzeugspezifische „ AI “-Tools

Richtig. Flexibilität und Präzision sind also offensichtlich notwendig, um „ AI “-Modelle auszuführen. Sie haben eine speziell auf die Automobilbranche zugeschnittene Toolkette für AIML-Operationen erwähnt. Lassen Sie uns das noch etwas näher betrachten. Können Sie näher erläutern, warum die allgemein verfügbaren Tools möglicherweise nicht für eine Automobilumgebung geeignet sind?

Ja, auf jeden Fall. Das ist eine knifflige Sache, denn diejenigen, die Zugriff auf die Daten aus Fahrzeugen haben, gehen beim Training und der Bereitstellung eines Modells in der Regel so vor, dass sie zunächst alle Daten sammeln und daraus das Modell erstellen – und das sind in der Regel Datenwissenschaftler oder ML-Ingenieure.

Und um es schließlich in ein Fahrzeug zu integrieren, muss man sicherstellen, dass man es mit den richtigen Datenquellen verbindet und das Modell optimiert – in der Regel durch Downsizing und die Anwendung bestimmter Techniken wie Sparsifizierung –, dann festlegen, wo im Fahrzeug es eingesetzt werden soll, und schließlich den Freigabeprozess durchlaufen, um zu bestätigen: „Ich bin mit diesem Modell einverstanden.“ Ich weiß, dass es keine anderen Prozesse im Fahrzeug beeinträchtigen wird, und ich kann fortfahren und es tatsächlich einsetzen. Wir stellen also fest, dass ML-Toolketten wirklich all diese Schlüsselaspekte abdecken müssen. Andernfalls sind sie nur ein Hindernis. Man wird nicht in der Lage sein, das Projekt umzusetzen.

Stimmt. Ja. Das ist nicht vergleichbar mit der Bereitstellung von „ AI “ auf einem großen Server. Außerdem handelt es sich um ein Gerät bzw. eine Plattform, die noch viele andere Aufgaben erfüllen muss. In erster Linie geht es ja darum, Menschen und Güter von A nach B zu befördern, für ihre Sicherheit zu sorgen und sie zu unterhalten und bei Laune zu halten.

Es gibt also eine Menge Faktoren, die dabei eine Rolle spielen. Auf jeden Fall.

Es gibt noch viele andere geschäftskritische Aspekte, die berücksichtigt werden müssen.

6:37 Infrastrukturherausforderungen für „ AI “-Modelle

Ich möchte mich noch etwas näher mit der Infrastruktur befassen. Wir haben darüber gesprochen, dass das Fahrzeug viele verschiedene, missionskritische Aufgaben erfüllen muss. Es handelt sich um eine eingeschränkte Umgebung. Es gibt zahlreiche Einschränkungen.

Welche architektonischen Entscheidungen können OEMs treffen, um den Anforderungen der „ AI “-Modelle gerecht zu werden und gleichzeitig den Hauptzweck des Fahrzeugs – nämlich Transport und Mobilität – zu erfüllen?

Einer der Aspekte beim Übergang der OEMs zu SDVs ist, dass häufig eine Umstellung von eher langsamen CAN-Netzwerken im Fahrzeug auf Ethernet-basierte Netzwerke stattfindet. Traditionell strebt man also eher ein Ethernet-Backbone an. Dabei reichen die Varianten von stärker verteilten Netzwerken mit verteilten Steuergeräten über domänenorientierte Architekturen bis hin zu Zonenarchitekturen. In all diesen Fällen stellt sich im Allgemeinen das Problem, entweder das Modell zu den Daten oder die Daten zum Modell zu bringen.

In solchen Fällen benötigt man daher die richtigen Lösungen, mit denen man das Modell tatsächlich auf diesem Edge-ECU-Knoten oder sogar einer MCU bereitstellen kann, damit es dort ausgeführt wird, wo die Daten verfügbar sind. Oder umgekehrt: Wenn man das Modell beispielsweise in ein Gateway integrieren möchte, benötigt man eine Art Agent, der die Daten von der Edge-ECU abruft und an das Gateway überträgt. Das sind also einige der entscheidenden Punkte. Generell sind wir zudem der Meinung, dass sich eine serviceorientierte Architektur besser für die Bereitstellung solcher Modelle eignet und die nötige Flexibilität bietet, um diese im Fahrzeug auszuführen und die entsprechenden Funktionen zu nutzen.

Aber auch die Notwendigkeit, diese in einer containerisierten Umgebung auszuführen. Um noch einmal auf den Aspekt der Sicherheit und der missionskritischen Funktionen zurückzukommen: Wir wollen sicherstellen, dass jedes eingesetzte Modell stets die Sicherheit des Fahrzeugs gewährleistet und nicht zu viele Ressourcen beansprucht, was andernfalls die Ausführung dieser missionskritischen Funktionen verhindern würde.

Ja. Man braucht also wirklich eine flexible Plattform, auf der man Modelle in Allzweck-Steuergeräten einsetzen kann, ohne auf bestimmte High-End-GPUs und dergleichen angewiesen zu sein.

Weil diese Steuergeräte ja auch noch andere Aufgaben übernehmen müssen, wie zum Beispiel die Steuerung des Antriebsstrangs und der Infotainment-Systeme. Absolut. Das ist wirklich interessant. Es gibt also eine Menge verschiedener Herausforderungen, die unter einen Hut gebracht werden müssen.

Ich verstehe also, dass man eine viel maßgeschneidertere Lösung braucht, um Edge- AI s in Fahrzeuge zu integrieren.

Auf jeden Fall. Und genau an dieser Stelle kommt es, wie bereits erwähnt, auf die Optimierung an. Richtig? Die Ressourcen sind begrenzt, und deshalb möchte man sicherstellen, dass die Modelle so gut wie möglich optimiert sind, ohne dabei die Genauigkeit zu beeinträchtigen, die für die Modellleistung erforderlich ist. Großartig.

Das ist also ganz klar eine Chance, aber es gibt auch Herausforderungen.

9:23 Anwendungsfälle über ADAS hinaus

Und wie Sie bereits erläutert haben, können SDV-Technologien den Weg für weitere Anwendungsfälle im Bereich Edge- AI e ebnen. Übrigens haben wir noch gar nicht wirklich über Anwendungsfälle gesprochen. Ich weiß, dass oft von ADAS und autonomem Fahren die Rede ist, und vieles davon hängt von AI ab. Welche weiteren Anwendungsfälle werden durch Edge- AI ermöglicht? Und warum sollten sich OEMs überhaupt dafür interessieren?

Ja, auf jeden Fall. Viele der unserer Meinung nach interessantesten Anwendungsfälle liegen eigentlich völlig außerhalb des ADAS-Bereichs, denn das ist ein sehr ausgetretener Pfad. Viele Leute haben in diesem Bereich bereits großartige Arbeit geleistet.

Aber durch den Einsatz von etwas traditionellerer Silizium-Hardware, also der herkömmlichen Hardware, die im Fahrzeug verfügbar ist, lassen sich unserer Meinung nach interessantere Modelle betreiben, die sich mit Personalisierung und bestimmten Funktionen befassen. Dazu kann ich einige Anwendungsbeispiele nennen. Aus Sicherheitsperspektive spielen sicherlich Reifenverschleiß und Reifenmanagement eine Rolle. Dabei kommen sowohl traditionelle physikbasierte Modelle zum Einsatz als auch Daten aus anderen Quellen.

So lassen sich bestimmte Fahrverhaltensweisen berücksichtigen, wobei man diese Modelle zur Reifenabnutzungsanalyse oder auch Modelle zum Aquaplaning sogar individuell anpassen kann, um sicherzustellen, dass man über ausreichenden Grip auf der Straße verfügt. Dabei wird sowohl dem Nutzer als auch anderen Systemen im Fahrzeug eine Frühwarnung gegeben, um beispielsweise die Traktionskontrolle anzupassen oder Ähnliches. Ein weiterer Bereich ist die Personalisierung. Dazu gehören beispielsweise Aspekte wie die Art und Weise, wie ein Nutzer tatsächlich mit einem ADAS-System interagiert. So können im Laufe der Zeit beispielsweise neue Funktionen ermöglicht werden.

Möglicherweise verfügt das Fahrzeug über bestimmte Hardware, die ein neues Modell unterstützen könnte, aber ich hatte keine Zeit dafür oder es gab diese Funktion noch nicht. Als ich das Fahrzeug in die Serienproduktion gab, wusste ich noch nichts davon. Diese Plattformen ermöglichen es, neue Modelle im Fahrzeug zu implementieren und bieten noch mehr Personalisierungsmöglichkeiten. Das könnte also zu einer individuellen Ablenkung führen.

Je nachdem, um welchen Nutzer es sich handelt, möchte ich möglicherweise die Frequenz oder die Art und Weise ändern, wie ein bestimmter Ablenkungston abgespielt wird – je nachdem, ob ich unmittelbar vor dem aktuellen Zeitpunkt häufiger abgelenkt war. Es gibt noch einige weitere Aspekte. Es werden bestimmte Vorschriften erlassen.

Bestimmte Vorschriften in der EU bezüglich der automatischen Leuchtweitenregulierung und ähnlicher Funktionen werden solche Fähigkeiten erfordern. Und Sie können darüber hinaus weitere Funktionen hinzufügen, auch wenn Sie bereits die gesetzlichen Vorgaben einer bestimmten Vorschrift erfüllen. Nun haben Sie beispielsweise die Möglichkeit, eine neue Funktion hinzuzufügen, mit der sich die Scheinwerfer sogar während der Fahrt dynamisch anpassen lassen.

Wir beobachten ja mittlerweile, dass ChatGPT oder andere Arten von LLM-basierten Modellen auch in Fahrzeugen Einzug halten. Gibt es da überhaupt Spielraum für den Einsatz solcher LLM-basierten Modelle – abgesehen davon, dass man ChatGPT fragt, wo das nächste Café ist, und sich dorthin navigieren lässt? Ja.

Ja, auf jeden Fall. Und genau das sorgt zweifellos für einen Großteil der Begeisterung in diesem Bereich. Es gibt also eine Vielzahl verschiedener LLMs und Anwendungsfälle dafür. Da sind zum einen die klassischen Chat-Assistenten, mit denen sich meiner Meinung nach viele Leute beschäftigen – sicherlich mit unterschiedlichem Erfolg und unterschiedlicher Begeisterung.

Diese stoßen häufig auf das IVI. Je nach konkretem Anwendungsfall eines LLM kann es daher sinnvoll sein, es auf einer anderen ECU im Fahrzeug auszuführen. Ein weiterer Anwendungsfall für LLMs, den wir beobachtet haben und der unserer Meinung nach besonders überzeugend ist, betrifft den Bereich der Cybersicherheit. Häufig verfügen Intrusion-Detection-Modelle über sehr detaillierte und zahlreiche Regeln für potenzielle Angriffe und erfordern die Übertragung großer Datenmengen in die Cloud sowie führen zu vielen Fehlalarmen.

Im Bereich der LLMs stellen wir fest, dass einige Modellanbieter in der Lage sind, diese Fehlalarme deutlich zu reduzieren und gleichzeitig ein wesentlich breiteres Spektrum an Bedrohungswegen – im Grunde genommen Bedrohungsvektoren – abzudecken, was sich in diesen Modellen vereinfacht darstellen lässt. Eine Sorge ist natürlich die Frage, was genau ein LLM ausmacht und ob es im Fahrzeug ausgeführt werden kann. Und genau hier kommt ein Großteil dieses Optimierungs-Know-hows ins Spiel.

Natürlich kommen ständig neue SLMs auf den Markt. SLMs stehen für „Small Language Models“ (kleine Sprachmodelle).

Ja, genau. Wo genau man diese Grenze zieht, ist meiner Meinung nach eine offene Frage.

Letztendlich denke ich jedoch, dass wir in den nächsten Jahren eine Konvergenz erleben werden, da die Rechenleistung weiter zunimmt – insbesondere im Hinblick auf neuronale Rechenkapazitäten vom Typ GPU in den Fahrzeug-Steuergeräten – und da die Modelle komprimiert werden und die Leistungsfähigkeit dieser traditionellen, grundlegenden LLMs auf immer kleinere Tools reduziert wird: Diese Tools im Fahrzeug werden dann wesentlich leistungsfähiger werden.

13:54 Die Rolle von „ Sonatus“ bei Edge-Computing im Fahrzeug AI

Ausgezeichnet. Lassen Sie uns über die Rolle von „ Sonatus “ und „ Sonatus“ bei dieser Entwicklung sprechen. Ich weiß, dass wir ein führender Anbieter von SDV-Technologien und -Lösungen sind. Inwiefern spielt das bei den Themen, die Sie angesprochen haben, eine Rolle?

Ja. „ Sonatus “ umfasst also eine Reihe verschiedener Produkte, die sich mehr oder weniger diesen verschiedenen Kategorien zuordnen lassen. Für uns beginnt alles im Wesentlichen mit unserem „Foundation“-Produkt, dessen Schwerpunkt auf der EE-Architektur im Fahrzeug liegt. Es dient im Grunde dazu, den Netzwerkverkehr zu steuern und im Idealfall Aspekte des Netzwerks dynamisch anzupassen, um es für den jeweiligen Anwendungsfall oder die Anforderungen der Fahrzeugkonfiguration zu optimieren.

Außerdem gibt es unser Produkt „Collector“, mit dem Kunden im Grunde genommen Daten aus dem Fahrzeug abrufen können – sozusagen nach Bedarf und zum gewünschten Zeitpunkt. Anstatt also entweder alles oder gar nichts zu erhalten, kann ich genau das abrufen, was ich brauche, wenn ich es brauche – und zu keinem anderen Zeitpunkt. Und genau das ist entscheidend für den Einsatz von „ AI “ im Fahrzeug sowie für den nächsten Schritt – nämlich den Moment, in dem ein Kunde im Fahrzeug tatsächlich Maßnahmen ergreifen möchte. Dazu bieten wir das Produkt „Automator“ an, mit dem sich Konfigurationen festlegen lassen: Wenn bestimmte Auslösebedingungen im Fahrzeug erfüllt sind, soll eine bestimmte Aktion ausgeführt oder ein Signal an eine andere Stelle im Fahrzeug gesendet werden, um dort verarbeitet zu werden.

Und das ist eines der Dinge, bei denen sich mit dem Einsatz von „ AI “-Modellen direkt im Fahrzeug selbst das Spektrum der möglichen Ausgänge oder Fahrzeugsignale, die man zur Kommunikation an den einen oder anderen Ort nutzen kann, erheblich erweitern lässt. Man kann also die Ausgänge eines „ AI “-Modells im Fahrzeug tatsächlich so nutzen, als wäre es ein im Fahrzeug generiertes Signal, und es an anderer Stelle verwerten oder für andere Zwecke zurück in die Cloud senden. Fast wie ein echter Agent. Richtig?

Es geht darum, das Virtuelle oder Digitale mit der physischen Welt zu verbinden. Auf jeden Fall. Ganz sicher. Und dann kann man natürlich zusätzlich mit „ AI “ in der Cloud noch weitere intelligente Funktionen nutzen.

Solche LLMs verhalten sich also in ihrer Art zu denken und zu handeln etwas menschenähnlicher. Nun fügt man diese Fähigkeit hinzu, um Vorgänge im Fahrzeug zu diagnostizieren und intelligentere Maßnahmen zu ergreifen. Ja. Das ist also die Richtung, in die es unserer Meinung nach geht.

Klar. Und dann haben wir natürlich noch „Updater“, unser eigenes OTA-System. Das spielt also eine Rolle bei der Aktualisierung der Modelle über den gesamten Lebenszyklus des Fahrzeugs hinweg.

Auf jeden Fall. Man darf sie keinesfalls außer Acht lassen – OTA-Lösungen wie Updater sind wirklich wichtig, um dieses Modell dort einzusetzen, wo es im Fahrzeug benötigt wird, und um eine containerisierte Umgebung bereitzustellen, die alle anderen ablaufenden Vorgänge schützt.

16:22 Fazit und Ausblick

Nun, das war ein sehr aufschlussreiches Gespräch, Steve. Es hat mir wirklich Spaß gemacht, mit dir zu sprechen. Nochmals vielen Dank, dass du bei unserem Podcast zu Gast warst.

Danke, Sanjay. Das weiß ich zu schätzen.

Na, da hast du's.

Wir freuen uns auf eine Zukunft, in der Fahrzeuge nicht nur Plattformen für Innovationen im Bereich Mobilität sind, sondern auch für Innovationen im Bereich „ AI “. Seien Sie gespannt auf weitere Folgen, in denen wir uns noch eingehender mit der Schnittstelle zwischen SDV-Technologien und „ AI “ befassen und erläutern, wie dies die Zukunft der Mobilität grundlegend verändern wird.