Libérer le potentiel de l'informatique de périphérie embarquée AI

0:00 Introduction à l'innovation dans le secteur automobile

Bienvenue dans ce nouvel épisode de « Driving Innovation », le podcast qui explore les liens entre l’innovation en matière de logiciels automobiles et l’ AI , ainsi que la manière dont ces avancées façonnent l’avenir de la mobilité.

Aujourd’hui, nous allons examiner comment les technologies et solutions automobiles définies par logiciel peuvent permettre à l’ AI e en périphérie de transformer les véhicules, qui ne sont plus de simples machines statiques, en plateformes intelligentes et adaptatives. C’est un sujet que nous abordons dans notre dernier livre blanc, intitulé « Libérer le potentiel de l’ AI e en périphérie embarquée », que vous pouvez télécharger sur notre site web.

0:31 Les défis liés au cloud AI

Nous allons analyser pourquoi l'AI e basée sur le cloud ne suffit pas, ce qui freine les équipementiers, et comment les véhicules à conduite autonome (SDV) permettent de bénéficier d'une intelligence embarquée en temps réel, de la maintenance prédictive à l'optimisation énergétique, et bien au-delà.

Que vous soyez un dirigeant chargé d'élaborer la stratégie numérique de votre entreprise ou un expert technique à l'origine des changements en coulisses, cet article s'adresse à vous. C'est parti.

1 h 04 : Présentation de l'invité

Je reçois aujourd’hui Steve Stoddard, chef de produit chez Sonatus, pour parler de l’ AI « edge » embarquée. Steve, bienvenue dans ce podcast. Merci, Sanjay. Bon, commençons.

Quelles sont les dernières tendances en matière d'AI s « edge » dans le secteur automobile aujourd'hui ?

Oui. Je pense qu'il y a plusieurs tendances qui convergent en ce moment. L'une d'entre elles est l'autonomie, qui s'est développée au fil des années, au cours de la dernière décennie environ, et qui commence enfin à porter véritablement ses fruits. Et ça fait donc beaucoup parler de ça.

Mais il y a aussi la convergence de ces modèles LLM traditionnels qui connaissent une expansion très rapide. Et bien qu’ils soient principalement basés sur le cloud, cela attire vraiment l’attention sur l’ AI , suscite un vif intérêt chez les clients et crée même des attentes quant à la présence d’ AI dans leurs véhicules dès aujourd’hui. L’un des problèmes est que l’ AI basée sur le cloud présente une certaine limite en raison des coûts liés à l’envoi de données du véhicule vers le cloud. Et il y a toujours des risques de problèmes de connectivité.

Sans parler des préoccupations liées aux données à caractère personnel, c'est-à-dire les informations permettant d'identifier une personne, ou aux fuites éventuelles d'informations confidentielles concernant les clients.

Des éléments tels que le RGPD dans l'UE et d'autres réglementations régionales, qui imposent une plus grande prudence en matière de contrôle des données à caractère personnel, incitent à privilégier l'exécution des modèles d'AI e directement dans le véhicule plutôt que dans le cloud.

2 h 24 : Passage du cloud à la périphérie AI

Je sais que « AI » fait fureur ces derniers temps.

Quelles sont les évolutions actuelles du secteur automobile qui favorisent l'AI , alors que cela n'était peut-être pas possible auparavant dans certaines architectures automobiles traditionnelles ?

Oui, tout à fait. Les véhicules définis par logiciel, cette tendance aux SDV, jouent sans aucun doute un rôle majeur à cet égard. Bien sûr, lorsque les systèmes sont davantage contrôlés par logiciel et qu’il est possible de modifier certaines variables, cela ouvre la voie à de nombreuses possibilités pour les modèles d’ AI s qui n’existaient peut-être pas auparavant.

De plus, bon nombre de ces modèles d’apprentissage automatique se sont véritablement imposés. Ainsi, l’apprentissage automatique traditionnel a en quelque sorte ouvert la voie à des solutions telles que les modèles de recommandation et autres technologies aujourd’hui utilisées dans le cloud, qui commencent désormais à être mieux optimisées pour fonctionner sur le matériel limité que l’on trouve dans les véhicules. Parallèlement, en ce qui concerne certains matériels développés pour les véhicules, on observe une tendance croissante vers les systèmes HPC ( AI ) et des capacités de calcul mieux adaptées au calcul neuronal à haute performance et aux GPU, notamment avec l’essor de l’autonomie dont j’ai parlé. On s’intéresse de plus en plus à ces types de puces électroniques pouvant être intégrées dans les véhicules.

Il existe donc aujourd’hui une gamme bien plus large d’unités de contrôle électronique (ECU) performantes dans les véhicules, capables de prendre en charge ce type de modèles. Il est donc évident que les technologies SDV ouvrent la voie à l’intégration de l’ AI e de pointe dans les véhicules.

Approfondissons un peu ce sujet.

3 h 52 : Les obstacles à l'adoption de l'AI e de périphérie par les équipementiers

Qu'est-ce qui a freiné les équipementiers jusqu'à présent ?

L'un des aspects majeurs sera la topologie du réseau à bord du véhicule. En effet, l'architecture même du véhicule et les signaux ont toujours été, par tradition, plutôt rigides et statiques. À mesure que nous évoluons vers les véhicules à conduite autonome (SDV), cette flexibilité offre bien sûr des possibilités bien plus étendues.

Un autre problème concerne l'accès proprement dit aux données. Ainsi, l'un des aspects à prendre en compte lors du déploiement de modèles d'AI s dans un véhicule est de savoir comment transmettre au modèle, au moment opportun, les données appropriées nécessaires à son fonctionnement.

Et c’est l’une des choses que les nouvelles technologies commencent assurément à rendre possibles. De plus, il existe de nombreux outils basés sur le cloud et relevant en quelque sorte du MLOps. Ils sont très efficaces pour déployer des modèles dans le cloud, mais il s’agit là de l’approche plus traditionnelle du ML. Il y a moins de ressources disponibles, moins d’outils pour déployer des modèles sur des appareils embarqués comme les véhicules. Et je pense que les véhicules ont des exigences un peu plus strictes en matière de confidentialité que les appareils IoT généraux, notamment en ce qui concerne le contrôle d’accès aux données et d’autres aspects de ce genre.

4 h 58 : Outils d'AI s spécifiques au secteur automobile

D'accord. La flexibilité et la précision sont donc, bien sûr, indispensables pour faire fonctionner des modèles d'AI . Vous avez évoqué une chaîne d'outils AIML plus spécifiquement adaptée au secteur automobile. Approfondissons un peu ce sujet. Pouvez-vous nous expliquer pourquoi tous les outils disponibles sur le marché ne sont pas forcément adaptés à un environnement automobile ?

Oui, tout à fait. C'est une question délicate, car pour ceux qui ont accès aux données provenant des véhicules, le processus habituel d'entraînement et de déploiement d'un modèle consiste à collecter toutes les données, puis à construire le modèle à partir de celles-ci ; ce sont généralement des data scientists ou des ingénieurs en apprentissage automatique qui s'en chargent.

Et enfin, pour l’intégrer dans un véhicule, il faut s’assurer de le connecter aux bonnes sources de données et d’optimiser le modèle, généralement en réduisant sa complexité, en mettant en œuvre certaines techniques comme la sparsification, puis en déterminant où on souhaite le déployer dans le véhicule, et enfin en passant par le processus de validation pour confirmer : « Ce modèle me convient. » Je sais qu’il ne va pas nuire à d’autres processus du véhicule, et je peux donc aller de l’avant et le déployer concrètement. Nous constatons donc que les chaînes d’outils d’apprentissage automatique doivent vraiment couvrir tous ces aspects clés. Sinon, cela ne constitue qu’un obstacle. Vous ne pourrez pas mener à bien votre projet.

C'est vrai. Oui. Ce n'est pas comme déployer AI sur un gros serveur. Et en plus, c'est un engin ou une plateforme qui doit remplir plein d'autres fonctions. Avant tout, tu sais, transporter des personnes et des marchandises d'un point A à un point B, assurer leur sécurité et veiller à ce qu'elles s'amusent et soient satisfaites.

Il y a donc beaucoup d'éléments à prendre en compte. C'est certain.

Il y a beaucoup d’autres éléments essentiels à prendre en compte.

6 h 37 : Les défis infrastructurels liés aux modèles d’ AI

J'aimerais approfondir un peu plus la question de l'infrastructure. Nous avons évoqué le fait que le véhicule doit accomplir de nombreuses tâches différentes, des tâches essentielles à la mission. C'est un environnement soumis à des contraintes. Il y a beaucoup de limitations.

Quels types de choix architecturaux les équipementiers peuvent-ils faire pour adapter l'environnement aux modèles d'AI , tout en remplissant la mission première du véhicule, à savoir le transport et la mobilité ?

Ainsi, l’une des évolutions observées lorsque les équipementiers passent aux véhicules à software-defined (SDV) est souvent le remplacement des architectures de réseau CAN à faible débit au sein du véhicule par des architectures davantage basées sur Ethernet. Traditionnellement, on s'oriente donc vers une dorsale Ethernet. On observe ensuite toute une gamme de configurations, allant des réseaux de type plus distribué avec des calculateurs (ECU) décentralisés, en passant par une architecture orientée domaine, jusqu'à une architecture zonale. Dans tous ces cas, on est généralement confronté au problème suivant : faut-il amener le modèle vers les données, ou les données vers le modèle ?

Dans ces cas-là, il faut donc disposer de solutions adaptées permettant de déployer ce modèle directement sur ce nœud ECU périphérique, voire sur un microcontrôleur (MCU), afin qu’il s’exécute là où les données sont disponibles. À l’inverse, si vous prévoyez d’intégrer le modèle dans une passerelle, par exemple, vous aurez besoin d’une sorte d’agent capable de récupérer les données de l’ECU périphérique et de les transmettre à cette passerelle. Voilà donc quelques-uns des points essentiels. De manière générale, nous pensons également qu’une architecture orientée services se prête mieux au déploiement de ce type de modèles et offre la flexibilité nécessaire pour les exécuter dans le véhicule et tirer parti de cette capacité.

Mais il faut également les exécuter dans un environnement conteneurisé. Pour en revenir à cette perspective de sécurité et de fonctions critiques, nous voulons nous assurer que tout modèle déployé garantira en permanence la sécurité du véhicule et ne consommera pas trop de ressources, ce qui pourrait autrement empêcher l’exécution de ces fonctions critiques.

Oui. Il faut donc vraiment une plateforme flexible qui permette de déployer des modèles sur des calculateurs électroniques (ECU) polyvalents, sans dépendre de GPU haut de gamme spécifiques, etc.

Parce que ces calculateurs doivent également remplir d’autres fonctions, comme la gestion de la chaîne cinématique ou celle des systèmes d’infodivertissement. Tout à fait. C’est vraiment passionnant. Il y a donc de nombreux défis différents à relever simultanément.

Je comprends donc pourquoi il faut une solution beaucoup plus adaptée pour intégrer l'AI e de périphérie dans les véhicules.

Tout à fait. Et c'est justement là, à ce stade précis, que l'optimisation prend toute son importance. N'est-ce pas ? Les ressources sont limitées, il faut donc s'assurer que les modèles sont optimisés au maximum sans pour autant sacrifier la précision nécessaire à leurs performances. Parfait.

C'est donc clairement une opportunité, mais cela comporte également des défis.

9 h 23 : Cas d'utilisation au-delà des systèmes ADAS

Et comme vous l’avez expliqué, les technologies SDV peuvent ouvrir la voie à de nouveaux cas d’utilisation de l’ AI e en périphérie. D’ailleurs, nous n’avons pas vraiment abordé la question des cas d’utilisation. Je sais que l’on parle beaucoup des systèmes ADAS et de la conduite autonome, et que tout cela repose en grande partie sur l’ AI e. Quels sont les autres cas d’utilisation rendus possibles par l’ AI e en périphérie ? Et pourquoi les équipementiers devraient-ils vraiment s’y intéresser ?

Oui, tout à fait. Nous pensons donc que bon nombre des cas d'utilisation les plus intéressants se situent en réalité totalement en dehors du domaine des systèmes d'aide à la conduite (ADAS), car c'est un terrain déjà très bien exploré. Beaucoup de gens ont réalisé un travail remarquable dans ce domaine.

Mais en utilisant une partie du silicium plus traditionnel, c'est-à-dire le matériel classique disponible dans le véhicule, nous pensons qu'il est possible d'exploiter des modèles plus intéressants qui permettront de gérer la personnalisation et certains types de fonctionnalités. Je peux donc vous donner quelques exemples de cas d'utilisation. L'usure des pneus et la gestion des pneus peuvent bien sûr entrer en jeu d'un point de vue de la sécurité. Il existe donc des modèles traditionnels basés sur la physique, mais aussi des modèles exploitant des données provenant d'autres sources.

Ainsi, certains comportements du conducteur permettent même de personnaliser ces modèles d’analyse de l’usure des pneus ou les modèles liés à l’aquaplaning, afin de garantir une adhérence suffisante sur la route. Cela permet d’envoyer une alerte précoce à l’utilisateur ou à d’autres systèmes du véhicule pour qu’ils ajustent le contrôle de traction ou d’autres paramètres similaires. Un autre domaine concerne la personnalisation. Il s’agit notamment de la manière dont un utilisateur peut interagir avec un système ADAS. Cela peut par exemple permettre d’activer de nouvelles fonctionnalités au fil du temps.

Il se peut que le véhicule soit équipé de certains composants matériels capables de prendre en charge un nouveau modèle, mais soit je n’ai pas le temps, soit ce modèle n’existait pas encore. Je n’en avais pas connaissance au moment où j’ai lancé la production du véhicule. Ces plateformes permettent de déployer de nouveaux modèles sur le véhicule et d’offrir encore plus de possibilités de personnalisation. C’est là que peut naître une distraction liée à la personnalisation.

Ainsi, selon l'utilisateur, je pourrais vouloir modifier la fréquence ou la manière dont une alerte sonore particulière est émise, en fonction du fait que j'ai été distrait ou non juste avant le moment présent. Il y en a quelques autres également. Certaines réglementations sont en passe d'être adoptées.

Certaines réglementations de l'UE concernant le réglage automatique de la hauteur des phares et d'autres aspects similaires vont exiger ce type de fonctionnalités. Et vous pouvez y ajouter des fonctionnalités supplémentaires tout en respectant à la lettre une réglementation donnée. Vous avez désormais la possibilité d'ajouter une nouvelle fonction permettant, par exemple, d'ajuster dynamiquement les phares même pendant la conduite.

On commence à voir, tu sais, que ChatGPT ou d’autres types de modèles basés sur des LLM font également leur apparition dans les véhicules. Y a-t-il une place pour ce genre de modèles basés sur des LLM, tu vois, à part, tu sais, demander à ChatGPT où se trouve le café le plus proche, tu vois, et se faire guider jusqu’à celui-ci ? Oui.

Oui, tout à fait. Et c’est sans aucun doute ce qui suscite une grande partie de l’engouement dans ce domaine. Il existe donc toute une gamme de modèles de langage à grande échelle (LLM) et de cas d’utilisation associés. Il y a les assistants de chat traditionnels, que beaucoup de gens testent, je pense, avec plus ou moins de succès et d’enthousiasme, bien sûr.

Celles-ci se heurtent souvent à l’IVI. Ainsi, selon le cas d’utilisation spécifique d’un LLM, il peut être préférable de l’exécuter sur un autre calculateur embarqué (ECU) du véhicule. Un autre cas d’utilisation des LLM que nous avons observé et qui nous semble particulièrement intéressant concerne le domaine de la cybersécurité. Souvent, les modèles de détection d’intrusion comportent des règles très précises et très nombreuses concernant les intrusions potentielles, ce qui nécessite le transfert d’une grande quantité de données vers le cloud et génère de nombreux faux positifs.

Avec les LLM, nous constatons que certains fournisseurs de modèles sont capables de réduire considérablement ces faux positifs et de couvrir un éventail bien plus large de voies d’attaque — en somme, de vecteurs de menace —, et que ces modèles peuvent être simplifiés. Une préoccupation, bien sûr, est de savoir ce qui constitue un LLM et s’il peut fonctionner dans le véhicule. C’est là qu’intervient une grande partie de ce savoir-faire en matière d’optimisation.

Bien sûr, de nouveaux SLM apparaissent sans cesse. Les SLM, c'est-à-dire les « petits modèles linguistiques ».

Oui, exactement. Quant à savoir où fixer exactement cette limite, je pense que la question reste ouverte.

Mais en fin de compte, à mesure que la puissance de calcul ne cesse d’augmenter – notamment les capacités de calcul neuronal de type GPU dans les calculateurs embarqués –, et grâce à la compression des modèles et à la réduction de la taille des grands modèles de langage (LLM) traditionnels pour en faire des outils de plus en plus compacts, je pense que nous assisterons, dans les deux prochaines années, à une convergence qui rendra ces outils embarqués bien plus performants.

13 h 54 Le rôle de « Sonatus» dans l’Edge embarqué AI

Parfait. Parlons maintenant d'Sonatus et du rôle de Sonatusdans cette évolution. Je sais que nous sommes à la pointe des technologies et des solutions SDV. En quoi cela s'inscrit-il dans ce dont vous venez de parler ?

Oui. Sonatus propose donc toute une gamme de produits qui s’inscrivent plus ou moins dans ces différentes catégories. Pour nous, tout commence vraiment avec notre produit « Foundation », qui est axé sur l’architecture EE du véhicule. Il s’agit essentiellement de contrôler le trafic réseau et, dans l’idéal, de modifier de manière dynamique certains aspects du réseau afin de l’optimiser en fonction d’un cas d’utilisation particulier ou des besoins liés à la configuration du véhicule.

Il y a également notre produit « Collector », qui permet essentiellement aux clients de collecter des données du véhicule quand et comme ils en ont besoin. Ainsi, plutôt que de devoir tout récupérer ou rien du tout, je peux obtenir exactement ce que je veux quand j’en ai besoin, et à aucun autre moment. Et ces fonctionnalités sont vraiment essentielles pour pouvoir déployer l’ AI e dans le véhicule, ainsi que pour passer à l’étape suivante, qui correspond au moment où un client souhaite effectuer une action dans le véhicule. Nous proposons donc notre produit « Automator », qui permet de configurer des règles : lorsque certaines conditions de déclenchement sont remplies dans le véhicule, je souhaite alors effectuer une action spécifique ou envoyer un signal à un autre élément du véhicule pour qu’il réagisse.

Et c'est l'un de ces aspects qui, avec l'arrivée des modèles d'AI s déployés directement dans le véhicule lui-même, permet désormais d'élargir considérablement l'éventail des sorties possibles ou des signaux du véhicule que l'on peut utiliser pour communiquer d'un endroit à un autre. On peut ainsi utiliser les sorties d'un modèle d'AI dans le véhicule comme s'il s'agissait d'un signal généré par le véhicule lui-même, et les exploiter ailleurs ou les renvoyer vers le cloud à d'autres fins. Presque comme un véritable agent. N'est-ce pas ?

Il s'agit de relier le virtuel ou le numérique au monde physique. Sans aucun doute. Absolument. Et puis, avec, vous savez, l'AI s dans le cloud, bien sûr, en plus de cela, on peut mettre en œuvre des fonctionnalités plus intelligentes.

Ces grands modèles de langage (LLM), par exemple, se comportent et réfléchissent d’une manière un peu plus proche de celle des humains. À présent, on commence à leur ajouter la capacité de diagnostiquer ce qui se passe dans le véhicule et de prendre des mesures plus intelligentes. Oui. C’est donc dans cette direction que nous voyons les choses évoluer.

Bien sûr. Et puis, bien sûr, nous avons Updater, qui est notre propre système de mise à jour à distance (OTA). Cela joue donc un rôle dans la mise à jour des modèles tout au long du cycle de vie du véhicule.

Tout à fait. Il ne faut surtout pas les négliger : les solutions OTA telles qu’Updater sont en effet essentielles pour déployer ce modèle là où il doit fonctionner dans le véhicule, mais aussi pour offrir cet environnement conteneurisé qui protège toutes les autres opérations en cours.

16 h 22 Conclusion et perspectives d'avenir

Eh bien, c'était une discussion très enrichissante, Steve. J'ai vraiment apprécié notre conversation. Merci encore d'avoir participé à ce podcast.

Merci, Sanjay. J'apprécie beaucoup.

Eh bien, voilà.

Nous nous réjouissons à l’idée d’un avenir où les véhicules ne seront pas seulement des plateformes d’innovation en matière de mobilité, mais aussi d’innovation fondée sur l’ AI. Ne manquez pas les prochains épisodes, dans lesquels nous approfondirons la question de l’intersection entre les technologies SDV et l’ AI , et la manière dont cela va véritablement transformer l’avenir de la mobilité.