AI s embarquées « edge » et « cloud » à grande échelle

Si l’ AI dans le cloud fonctionne bien pour des applications telles que les assistants conversationnels, elle s’avère insuffisante pour les fonctions automobiles critiques et évolutives en raison de coûts élevés et de limitations techniques. Le passage à l’ AI en périphérie (Edge) est motivé par :
- Coûts de transmission des données : les véhicules connectés génèrent au moins 1,5 à 2 Go de données par jour. La transmission en continu de ce volume vers le cloud à des fins d’inférence entraîne des coûts de transmission réseau élevés, qui ne sont pas viables pour les véhicules grand public.
- Latence et réactivité : les applications en temps réel, telles que la gestion de la batterie ou la détection d’intrusion, nécessitent un traitement immédiat que la latence du cloud ne peut pas prendre en charge.
- Confidentialité et sécurité : le traitement local des données protège les algorithmes propriétaires et les données sensibles des utilisateurs contre toute divulgation, tout en garantissant le fonctionnement des fonctionnalités même en l’absence de connexion Internet stable.

Les véhicules actuels comportent souvent des centaines d’ECU disparates et des chaînes d’outils MLOps fragmentées, ce qui rend difficile le déploiement d’un modèle d’ AI unique sur différentes gammes de véhicules. Sonatus AI Director répond à ce défi en servant de « chaîne d’outils et d’environnement d’exécution » unifié qui gère l’ensemble du cycle de vie de l’ AI .
- Déploiement unifié : il fournit un cadre standardisé pour déployer, gérer et faire évoluer les modèles d’ AI s sur diverses plateformes de calcul (telles que NXP S32 ou Renesas R-Car) sans avoir à réécrire les modèles pour chaque puce spécifique.
- Optimisation adaptée au matériel : il optimise les modèles pour les « accélérateurs spécifiques au silicium » du matériel cible, réduisant ainsi l’utilisation du processeur (CPU) jusqu’à 4 fois et la durée d’inférence jusqu’à 8 fois.

Contrairement à un manuel statique, l’ Sonatus AI Technician est un agent de diagnostic actif qui combine les connaissances historiques avec les données en temps réel du véhicule.
- Modèle hybride AI : il utilise une approche de « modèle hybride », exécutant des modèles légers à bord du véhicule pour les données immédiates et des modèles linguistiques de grande envergure (LLM) dans le cloud pour le raisonnement complexe.
- Diagnostics contextuels : Il utilise la génération augmentée par la recherche (RAG) pour combiner les signaux des calculateurs (ECU) en temps réel (tels que les codes d’erreur DTC et les journaux des capteurs) avec les manuels d’entretien d’usine. Cela lui permet de fournir des conseils de réparation précis et adaptés au contexte, plutôt que des recommandations génériques.
- Résolution active : il peut s’intégrer à Sonatus Automator AI non seulement pour identifier le problème, mais aussi pour déclencher des actions de suivi automatisées, telles que l’exécution d’une routine de diagnostic spécifique ou la planification d’un entretien.