AI e dei veicoli: clamore, realtà e cosa ci aspetta in futuro

Oggi, nella rubrica “ The Garage ”, il nostro ospite è Neel Mitra, responsabile globale dell’architettura delle soluzioni per i dati e l’ AI presso AWS.

Nella master class di oggi sull’intelligenza artificiale, partiremo dalle origini dell’ AI. Che cos’era l’ AI classico? Che cos’è un modello linguistico di grandi dimensioni? Che cos’è l’ AI agentico?

E poi parliamo di settore automobilistico.

Che ruolo riveste oggi l’ AI e nel settore automobilistico? E quali sono le opportunità per realizzare cose nuove e incredibili con l’ AI e e il settore automobilistico in futuro? La conversazione di oggi vi piacerà davvero molto.

Andiamo.

Benvenuti su The Garage. Sono John Heinlein, Chief Marketing Officer di Sonatus. Oggi siamo qui con Neel Mitra di AWS. Neel, benvenuto su the garage.

Grazie.

Neel, lavoriamo insieme ormai da diversi anni. È davvero emozionante, e finalmente siamo riusciti a convincerti a venire a trovarci e a registrare una puntata con noi. Inizia raccontandoci qualcosa di te e del tuo percorso.

Sì. Grazie per avermi invitato. È un piacere. Abbiamo lavorato a tantissime iniziative diverse e, finalmente, il grande giorno è arrivato. Sono cresciuto in India e lavoro in questo settore da ventuno anni. Prima di allora, ho completato i miei studi in ingegneria, conseguendo un master in India, dove ho lavorato per alcuni anni nel settore della consulenza, per poi trasferirmi negli Stati Uniti.

E poi, sai, da allora ho lavorato con molti clienti della classifica Fortune 500 nei settori del fintech e della sanità, e

Non avrei mai immaginato di lavorare nel settore automobilistico fino al 2016, quando sono entrato a far parte di Amazon Web Services.

E a quei tempi, sai, il cloud era una novità assoluta. Ricordo che andavo dai clienti e loro mi dicevano: “Ehi, voi vendete libri, no? Che ci fate qui?”.

Quindi spiegherò loro, diciamo, cosa facciamo nel settore aziendale, e poi spiegherò cosa stiamo facendo nel campo delle infrastrutture. In quel momento, siamo molto impegnati nel settore delle infrastrutture.

E come sapete, AWS è stata pioniera nel cloud computing, e noi siamo stati, diciamo, i leader nel settore delle infrastrutture, anche oggi, credo. Quindi, sì, da allora sono passati nove anni. Il tempo vola, come si suol dire. E in AWS ci piace dire che ogni giorno è il primo giorno. Quindi, ancora una volta, grazie per avermi invitato. È stato fantastico imparare così tanto da tutti voi, così come dal nostro percorso nel settore automobilistico, che approfondiremo in seguito.

Grazie mille. Ci piace sempre iniziare con un aneddoto divertente sui nostri ospiti. Devi raccontarci un aneddoto divertente su di te.

È una situazione difficile. Va bene.

Insomma, sai, molte cose nella mia vita sono successe un po’ per caso, credo, come ad esempio entrare in AWS e lavorare nel settore automobilistico: non so perché sia successo, ma alla fine si è rivelato davvero divertente.

È così che lo yoga è entrato nella mia vita. E non so perché né come, perché in India non avevo mai sentito parlare di yoga e sono cresciuta lì, no? Ma, sai, c’è stato un periodo in cui viaggiavo molto e c’erano troppe cose da fare e sentivo che, insomma, doveva esserci qualcosa che si prendesse cura di me in modo olistico, non solo a livello fisico, ma anche mentale, energetico e in ogni altro aspetto. Ho provato questa lezione di yoga e mi è piaciuta, poi l’ho praticata a fasi alterne.

Lo facevo ormai da otto o nove anni. Ma l’anno scorso, di nuovo, all’improvviso – non so quanto sia stato casuale – ho pensato che mi sarebbe piaciuto diventare insegnante di yoga per hobby. E ho iniziato a seguire un corso di certificazione. OEM.

È inquietante. Anche mia moglie mi dice: «Perché l’hai fatto?». Ma sì, è una curiosità divertente. Probabilmente nell’ultimo anno ho conseguito la certificazione di istruttore di yoga, duecento ore.

Ora sto frequentando il master, che prevede altre trecento ore.

Sarebbe divertente, probabilmente il mio progetto per la pensione è quello di diventare insegnante di yoga.

Fantastico. E che tipo di yoga?

Vinyasa.

Fantastico.

La mia curiosità: cerco sempre di pensare a una curiosità da raccontare al nostro ospite. La mia curiosità risale a parecchi anni fa, forse una decina di anni fa circa: per un paio d’anni mi sono dedicato con grande impegno al Bikram yoga.

Oh, che bello.

Cioè, per chi tra i nostri ascoltatori non lo conoscesse, si tratta di una stanza riscaldata a 105 gradi. Sì. Yoga caldo. C’è anche quello che chiamano “yoga ad alta intensità”: si entra nella stanza e si fa yoga per novanta minuti. È una sequenza molto specifica della durata di novanta minuti. E alla fine, tutti sono completamente fradici.

Ne ho fatto uno a New York. Sono stata in tantissimi centri di yoga e alla fine ne ho scelti uno o due, ma sì, è stato divertente.

E lo yoga è fantastico.

Certo, la forza, certo, la flessibilità, ma anche la consapevolezza e quel senso di calma… Sì. È quello che ti dà dopo novanta minuti in una stanza riscaldata, ma in generale esci sentendoti così… sereno, e penso che ti dia ottime idee. Alcune delle mie idee migliori mi sono venute al quarantacinquesimo minuto, forse.

E, sai, dal punto di vista pratico, so che più tardi oggi parleremo molto dell’ AI , ma dal punto di vista pratico, mi rendo conto di quanto le macchine stiano già facendo tanto lavoro al posto nostro. Giusto? Sì. Se non stiamo attenti e non operiamo a un livello di frequenza più elevato come esseri umani, sarà difficile.

Insomma, cosa ci puoi fare? Tu scrivi codice, ma sono le macchine a farlo. Giusto? Ecco, è proprio qui che penso che lo yoga possa tornarmi utile anche dal punto di vista della consapevolezza.

Vedremo come andrà.

Va bene. Allora, raccontaci del tuo ruolo in AWS. A cosa stai lavorando in questo periodo?

Sì. Insomma, è un po’ un po’ di tutto. Come sapete, negli ultimi anni mi sono concentrato molto sul settore automobilistico. Ho lavorato molto sulla mobilità connessa, per poi passare ai veicoli definiti dal software, collaborando con numerosi clienti e partner in tutto il mondo, a partire da aziende come Bosch e Denso. E ci sono molti clienti che non posso nominare, ma ci sono anche BMW e altri, con cui sono stato molto impegnato.

Ma nell’ultimo anno ho spostato la mia attenzione verso un approccio più trasversale. Ciò significa che sto lavorando con molti clienti del settore automobilistico e delle grandi aziende su un’ampia varietà di casi d’uso. Non si tratta di settori automobilistici estremamente di nicchia, come quelli di cui mi occupavo nei miei ruoli di architetto e ingegnere negli ultimi anni. Ma è stato divertente perché, come sapete, ci sono tantissimi cambiamenti in atto nel campo del machine learning, con l’ AI , gli agenti e tutto il resto.

Le opportunità sono infinite e non mi limito a un solo settore. Quindi sto cercando di approfondire le mie conoscenze. E questa è la cosa migliore che mi dà lavorare in AWS. Mi sembra di essere pagato per imparare così tanto. È come essere all’università, ma senza dover pagare. Vieni pagato e hai la possibilità di lavorare con tantissime persone di talento in tutto il mondo, contribuendo a rendere questo mondo un posto migliore.

Insomma, sì. Questo è stato il mio percorso nell’ultimo anno, durante il quale mi sono dedicato intensamente al settore dell’ AI , collaborando con OEM, RAG e IA di tipo Agentic per diversi casi d’uso, tra cui il settore manifatturiero e quello automobilistico.

Fantastico.

Sì.

Allora, hai menzionato AI e spesso parliamo di veicoli e software per veicoli, e ne parleremo un po’ più avanti. Ma in questa puntata parleremo molto di più del “ AI ” rispetto al solito. Ok. Allora cominciamo a parlarne da una prospettiva generale, perché penso che i nostri ascoltatori abbiano probabilmente un livello di familiarità variabile con questo tipo di tecnologie.

Sì. E credo che oggi, quando la maggior parte delle persone sente parlare di “ AI ”, probabilmente pensi a ChatGPT o, insomma, alla ricerca e cose del genere. Sì. Ma quella è solo una minuscola frazione

del potenziale di AI.

Mi chiedevo quindi se potessi fornirci prima una visione d’insieme a ventimila piedi di altezza. Sì. Qual è la gamma di algoritmi AI e di tecnologie AI che potremmo prendere in considerazione?

Sì. Sai, una curiosità divertente prima di addentrarmi nell’argomento: ho visto il film “Terminator” tipo quindici anni fa, probabilmente per la prima volta. Giusto? E mi ha fatto davvero paura, tipo, quello che può farti un “ AI ”, come si combatte contro l’ AI e cose del genere.

Ma poi, quando ho iniziato davvero a lavorarci, mi sono detto: «Ok, probabilmente ci vorranno ancora qualche centinaio di anni. Ammesso che succeda. Non lo so. Insomma, è fantascienza».

Giusto? Beh, ci penseremo. Ma hai assolutamente ragione. Insomma, stanno succedendo tantissime cose in questo ambito.

Insomma, “ AI ” non è una novità. Giusto? Quegli articoli di ricerca risalgono agli anni ’30, ’40 e ’50.

E poi, sai, in quel periodo abbiamo iniziato a parlare di, diciamo, modelli supervisionati. Ciò significa che si forniscono dei dati etichettati. Si cerca di rendere la macchina più intelligente in modo che possa svolgere alcune delle attività tipicamente umane.

E poi, man mano che il settore si è evoluto, si è assistito all’introduzione dei modelli non supervisionati. Quindi non si tratta solo di dati etichettati. Potrebbero essere dati non etichettati. Potrebbero essere dati multimodali. Non devono necessariamente essere solo testi. Giusto? Potrebbero essere immagini, video, file audio e chi più ne ha più ne metta.

E, che ci crediate o no, proprio come negli anni Novanta, quando “ AI ” non era considerato così “cool”, Amazon all’epoca utilizzava “ AI ”.

Quindi, se sei andato su quel primo sito di Amazon in assoluto — io non l’ho fatto, non so se tu l’abbia fatto — ti offriva un’opzione del tipo: “Ehi, se ti piace un genere specifico…” — Un sistema di raccomandazione — Sì, un sistema di raccomandazione. Esatto. E si chiamava AI. Erano i primi anni Novanta. Poi Google ha fatto lo stesso, con la ricerca sul web e cose del genere.

Netflix lo faceva ai tempi in cui ti spediva i DVD e cose del genere.

Esatto. Quindi l’ AI e non è una novità, e questo tipo di modello supervisionato, insieme a un po’ di modello non supervisionato, esiste già da parecchio tempo.

E anche se ripenso ai primi tempi in cui lavoravo, diciamo, nel settore fintech, ci si occupava molto di rilevamento delle frodi e delle anomalie. È tutto un po’ come “ AI ”, no?

Ma poi, quando sono entrato nel settore automobilistico, la prima serie di casi d’uso dell’ AI e che ho visto è stata quella del cruise control: in sostanza, si raccolgono tutti questi dati multimodali e li si analizza per mantenere l’auto nella propria corsia.

Ci sono casi d’uso legati all’uscita dalla corsia, giusto? Come mantenere la traiettoria e cose del genere. Quindi si tratta di modelli tradizionali di apprendimento automatico. Tornando alla tua domanda, sì, ci sono modelli supervisionati e non supervisionati, e il deep learning è entrato in gioco proprio per capire come pensare come gli esseri umani, con le reti neurali e tutte quelle funzioni cognitive che abbiamo iniziato a integrare gradualmente nei nostri veicoli. Il veicolo ha iniziato a utilizzare il cruise control. E oggi parliamo di diversi livelli di autonomia.

E ci sono tantissimi casi d’uso, ma man mano che andiamo avanti, penso che ciò di cui avete tutti bisogno sia l’attenzione. Credo che sia questo il titolo dell’articolo. Ho dimenticato il titolo esatto, ma è stato pubblicato da Google più o meno nel 2018-2019. Giusto? L’attenzione è ciò di cui avete bisogno.

Questo riguarda quindi il meccanismo di autoattenzione.

E se pensi alle vecchie reti neurali ( AI), ovvero le CNN (reti neurali convoluzionali) e le RNN (reti ricorrenti), vedrai che il problema era che c’erano tutte queste parole, giusto? Ma l’ AI e non riusciva a capire quale parola o quale token sarebbe venuto dopo. È molto limitata. Ad esempio, se dico: “Ehi, John ha comprato una Rivian” o “Neel ha comprato una Tesla” o qualsiasi altra cosa, giusto?

L'AI e non è riuscito a formulare una frase lunga. Probabilmente riesce a dire solo poche parole.

Ma con il meccanismo di auto-attenzione, grazie all’architettura Transformer inventata intorno al 2018, le cose sono cambiate. Adesso è possibile gestire migliaia, centinaia di migliaia e miliardi di token di questo tipo. E grazie al meccanismo di auto-attenzione, AI con l’architettura encoder-decoder è in grado di capire dove potrebbe trovarsi la parola successiva. Quindi questa consapevolezza contestuale e la capacità di elaborare insieme una quantità enorme di token hanno cambiato tutto. È questa la nascita dei modelli linguistici di grandi dimensioni (LLM), che, come hai menzionato, sono rappresentati da ChatGPT di cui tutti parlavano, ma quelle erano tutte le pietre miliari fondamentali che hanno portato agli LLM e ce ne saranno altre in futuro.

Sì.

Allora, visto che ne hai appena parlato, penso che il livello successivo e l’innovazione chiave di questi modelli Transformer sia proprio la “T” di GPT, che sta proprio per “Transformer”.

Ci spieghi in che modo questo modello Transformer, e forse i modelli di linguaggio di grandi dimensioni (LLM) in generale, stanno cambiando le regole del gioco? Quali sono alcune delle cose che ora è possibile fare con i modelli Transformer?

Sì. Credo che la più grande innovazione a cui abbiamo assistito sia la generazione di contenuti. Giusto? Tu stesso lavori nel marketing, quindi sono sicuro che hai notato un enorme aumento della produttività, vero? Puoi creare una presentazione PowerPoint, ma anche tutte queste storie, video e file audio.

Cioè, puoi creare un podcast, tipo, mi sembra che Google ne abbia uno, giusto, in cui sembra che stiano parlando due persone. Questo non è generato d AI !

Questo non è generato d AI , assolutamente no: sono persone in carne e ossa che parlano. Ma la generazione dei contenuti, credo sia una delle cose più innovative che siano emerse da tutta questa storia di ChatGPT.

E poi abbiamo iniziato a sentire parlare di settanta miliardi di token utilizzati per addestrare questo modello o di cento miliardi di token per addestrare quell’altro. Ma poi hai sollevato una questione molto valida: in che modo questo aiuta il settore nel suo complesso? È proprio in questo ambito che stiamo assistendo alla nascita di numerose suite per la produttività degli sviluppatori.

Ad esempio, con Amazon abbiamo Q Developer, oppure abbiamo recentemente lanciato un prodotto chiamato Kiro, un IDE autonomo che sfrutta la potenza dei modelli linguistici di grandi dimensioni per prendere tutte quelle decisioni. Quindi non si tratta solo di generazione di contenuti per il marketing o per lo storytelling. Potrebbe trattarsi della generazione di contenuti come il codice che state scrivendo, e questo potrebbe essere qualsiasi cosa. Potrebbe essere un codice Java o Python, oppure un codice scritto per un mainframe vecchio di cinquant’anni.

E molti dei nostri clienti, che ci crediate o no, soprattutto nei settori del fintech e della sanità, hanno una presenza così massiccia di mainframe che non riescono a liberarsene, giusto? Quindi, se AI è in grado di comprendere tutto questo codice, di rifattorizzarlo, di trasferirlo sul cloud e di renderlo più moderno, questo rappresenta un enorme ritorno sull'investimento per i clienti.

Sì. E penso che la cosa interessante riguardo agli LLM in generale sia che ora, invece di pensare a un LLM per uso generico, si parla di una sorta di AGI, ovvero intelligenza artificiale generale, a cui però non siamo ancora arrivati. In realtà, ciò che accade è che questi LLM vengono addestrati per funzioni specifiche, come la creazione di immagini, la manipolazione audio o altro. Di conseguenza, possono diventare una sorta di esperti in quella disciplina.

Col passare del tempo, quei modelli convergeranno. Si arriverà a una sorta di esperto consolidato. Sì. Ma oggi si vedono questi modelli specializzati che sono in grado di fare quelle cose incredibili di cui parlavi.

Assolutamente. Hai proprio ragione. Ed è proprio in questo ambito che, secondo me, questo settore si evolverà moltissimo.

E anche su AWS abbiamo un marketplace dedicato ai modelli LLM. Giusto? Quindi, per molte delle funzioni specifiche di settore, se pensiamo ad esempio alla manutenzione predittiva, che è stata a lungo un grosso problema nel settore automobilistico. E poi, come sapete, molti modelli di previsione delle serie temporali, che sono stati, come sapete, una necessità per molti casi d'uso diversi.

Se si pensa a modelli linguistici di grandi dimensioni che potrebbero essere addestrati proprio per affrontare quel tipo di problemi specifici di un determinato settore, si tratta di una vera e propria rivoluzione. Sì. Ed è proprio in questo contesto che l’anno scorso abbiamo lanciato una tecnica chiamata “distillazione”. Quindi non si tratta, come si suol dire, di puntare al “grande, grande, grande, grande, grande”, ma di puntare alla qualità dei dati che conta davvero per il proprio settore di attività.

E potrebbe trattarsi del settore automobilistico. Potrebbe trattarsi di quello sanitario. Potrebbe trattarsi del fintech. Ma hai proprio ragione.

Credo che sia questa la direzione che sta prendendo il settore, e vedremo una grande varietà di modelli. E poi sarà il cliente a scegliere il modello giusto per il lavoro da svolgere.

Sì. Un esempio che molti conoscono, ma che a mio avviso è davvero interessante, è quello della diagnostica medica.

Già.

I raggi X, in particolare. Se ti sei mai sottoposto a una radiografia, lo sai: ti fanno la radiografia e poi il tecnico la guarda in tempo reale, ma non gli è permesso, non gli è permesso dirtelo. Eppure loro vedono centinaia e centinaia di radiografie. Poi la radiografia passa a un medico che ne vede decine di migliaia, e lui dice: «Oh, hai un osso rotto» oppure «non hai un osso rotto» oppure «hai questo» o «hai quello».

Giusto. Ma hanno addestrato i modelli su decine, centinaia, migliaia, milioni di radiografie, e questi modelli sono in grado di ottenere risultati pari o, in alcuni casi, migliori di quelli di un medico grazie all’enorme volume di immagini che hanno visto, e riescono a individuare cose che i medici non vedono. Ora, non sto dicendo che sostituiranno i medici, ma ciò che potenzialmente possono fare è svolgere una funzione di filtraggio. In pratica indicano quale sia il cinque per cento delle radiografie da esaminare.

Gli altri sono molto chiari, per esempio. Sì. Che si tratti di ridurre i costi, migliorare gli esiti clinici dei pazienti, ridurre i tempi di elaborazione o altro.

Il punto è che si tratta di strumenti nuovi. Sì.

E possono essere utilizzati in modi nuovi. Sì.

Poco fa hai menzionato un altro termine, ovvero “agentico”. E scommetto che la maggior parte delle persone non ne comprenda ancora appieno il significato.

Si tratta di una tendenza emergente molto importante, ma è ancora nelle prime fasi del suo ciclo di vita. Puoi spiegarci cosa significa “agentic”? Sì. Quali sono alcune delle opportunità che l’ AI e “agentic” può offrire, ma anche quali sono alcune delle sfide e dei limiti attuali?

Sì, assolutamente. Credo che si dicesse che l’anno scorso, o negli ultimi anni, fosse l’anno degli OEM, perché quasi ogni settimana si vedevano modelli di linguaggio di grandi dimensioni (LLM) lanciati da tutti questi diversi fornitori. Poi è arrivata la RAG, la “Retrieval Augmented Generation”, l’era dei chatbot. Tutti stanno sviluppando chatbot utilizzando questi modelli di linguaggio di grandi dimensioni.

Ma a quanto pare quest'anno è l'anno degli agenti. E perché proprio gli agenti? Perché bisogna passare all'azione. Ad esempio,

Anche noi esseri umani, in fondo, se ci limitiamo a pensare senza mai agire, non andremo da nessuna parte.

Allo stesso modo, con tutti questi OEM e chatbot, è possibile interrogare tutti questi dati, e questo potrebbe essere un buon punto di partenza. Ma poi, per agire sulla base di quei dati, servono determinate funzioni. Ora, tradizionalmente, come si fa? Si utilizzano i microservizi.

Usiamo, tipo, insomma, architetture SOA, API REST e cose del genere. Giusto? Ma nel mondo dell’ AI , parliamo di agenti perché sono loro ad avere il potere decisionale e potrebbero essere autonomi. Ma di che livello di autonomia stiamo parlando?

Dipende dal caso d’uso, ed è un settore in crescita in cui impareremo molto di più. Ad esempio, nel settore automobilistico si parla da molto tempo di veicoli completamente autonomi, ma a causa di diverse complessità ciò non è ancora possibile. Lo stesso accadrà anche con molti di questi carichi di lavoro basati su agenti. Possiamo continuare a parlare di agenti completamente autonomi in grado di fare tutto, ma ciò potrebbe comportare molti compromessi nel momento in cui prendono le decisioni.

Già oggi si vedono esempi di cose banali come, ad esempio, la pianificazione di un calendario o la ricerca di un volo da qui a lì in un determinato lasso di tempo a un buon prezzo. E quindi, ovviamente, con il passare del tempo, penso che noi, come società, e poi, naturalmente, ogni singolo individuo – anche se in misura diversa – potremmo essere più disposti a concedere maggiore autorità, maggiore “agenzia” (gioco di parole voluto) all’ AI e affinché agisca per loro conto. Oppure altre persone potrebbero lasciare che sia l’ e a svolgere il lavoro e poi verificare: “Ti sembra tutto a posto?” prima di procedere all’esecuzione. E penso che vedremo tutte queste situazioni. Ma credo che il punto chiave sia proprio questo: creando un ciclo che non si limiti all’analisi dei dati per ottenere una risposta, ma che preveda anche l’adozione di azioni concrete, potenzialmente volte a chiudere il ciclo, si inizia ad acquisire la capacità di avere un ciclo di feedback in grado di migliorare le capacità e la produttività dell’ AI e e il suo potenziale.

Sì. La differenza principale sta nel modo in cui sviluppiamo il software al giorno d’oggi. Giusto? È per lo più basato su regole.

Quindi, in sostanza, stai dicendo: “Ehi, un microservizio o un’API deve fare x, y, z”. E per farlo, richiederà dei dati in ingresso e invierà dei dati in uscita. E devi codificare quella logica.

Ma nel caso degli agenti, grazie alla potenza dei modelli linguistici di grandi dimensioni, sono in grado di prendere tantissime decisioni. Quindi forse non è necessario essere sempre espliciti, ma il compromesso da accettare è proprio la capacità di pensare. È come per noi esseri umani, no? Se continuiamo a pensare troppo, finiamo per esaurirci.

Perderemo molta energia. Dobbiamo bere di più. Dobbiamo mangiare di più. Lo stesso vale per gli agenti.

Se è in continuo funzionamento ed è di natura non deterministica, ne paghi le conseguenze perché l’agente rimane attivo a lungo, consumando molta memoria, molte risorse della CPU e cose del genere. Insomma, come ben sai, gli agenti rappresentano il futuro, ovviamente, ma se ci sono carichi di lavoro basati sulla logica, come semplici strutture “if-then-else”, si ricorre comunque ai microservizi. Si continuano a sviluppare quei microservizi.

Qualunque fossero le loro esigenze in termini di processo decisionale, come ad esempio i casi d’uso relativi alla catena di approvvigionamento, che oggi rappresentano una grande sfida, vero? Soprattutto con tutti questi dazi e cose del genere. C’è davvero tanta incertezza.

E se vuoi che questo agente gestisca l’inventario, devi capire, ad esempio, qual è lo stato del fornitore, devi occuparti della logistica e dei trasporti. Questi sono ottimi casi d’uso in cui non è possibile codificare gran parte della logica. Gli agenti, o l’orchestrazione multi-agente, devono interagire con diversi sistemi per gestire le varie azioni. Quindi questi sono ottimi casi d’uso per gli agenti e, sì, questo è il futuro.

Ma non cercare di puntare tutto su un'unica soluzione e affidarti agli agenti per ogni cosa se, insomma, è possibile applicare una logica basata su regole.

Giusto.

Quindi, a mio avviso, entrambi questi mondi continueranno a coesistere – quello più deterministico e quello non deterministico – e si utilizzerà lo strumento giusto per ogni situazione specifica.

Quindi, se faccio un passo indietro e riassumo tutto quello che hai appena detto, quello che capisco è che l’ AI a sta crescendo. Sta diventando sempre più capace. Sì. Ma non bisogna pensarla come una cosa monolitica; c’è invece uno spettro che va dai modelli più semplici a quelli più complessi, fino a modelli potenzialmente più indipendenti, ovviamente autonomi. Non voglio confondere il significato di questo, ma si tratta di modelli più “agentici”, orientati all’azione.

E tutte queste cose continueranno ad avere valore anche in futuro.

Già.

E probabilmente questa combinazione si evolverà nel tempo.

È un modo di vedere la cosa?

Assolutamente. E lo stesso vale se pensiamo ai nostri computer, ai sistemi di archiviazione e ai database: è successo tutto proprio così. Abbiamo iniziato, diciamo, da tutti quei mainframe monolitici prodotti dagli OEM. Giusto?

E poi siamo passati ai sistemi decentralizzati. Abbiamo iniziato a parlare di VMware e di cose del genere, e ora dei container. E ora parliamo di funzioni serverless, ma tutte quelle grandi macchine fisiche esistono ancora. Allo stesso tempo, però, c’è la funzione serverless, che è un singolo pezzo di codice che gira su 0,5 gigabyte di memoria.

Quindi tutta questa vasta gamma di funzionalità nell'elenco delle risorse di elaborazione rimane ancora. Database. Ci sono tutti questi enormi database monolitici, giusto? Ma ci sono anche database di piccole dimensioni, come i database di serie temporali.

Esistono altri tipi di dati, come i database NoSQL.

Quindi succederà la stessa cosa nel settore dell’ AI , dove c’è una miriade di modelli di linguaggio di grandi dimensioni (LLM). E noi ci siamo proprio lì. Capisci? È quello che dico scherzando. Insomma, come architetti di soluzioni, è un po’ il nostro lavoro partire dal cliente finale e procedere a ritroso per capire quale strumento

è adatto al tuo caso d'uso, perché non bisogna cercare di mettere tutto nello stesso paniere. È lo strumento giusto per il lavoro giusto.

Fantastico.

Allora, dobbiamo parlare di settore automobilistico. Sonatus, e il nostro podcast verte proprio sulla tecnologia e sul software dei veicoli. Parliamone: hai accennato ad alcune cose, ma concentriamoci su alcuni modi in cui l’ AI e viene utilizzata oggi nei veicoli, per poi discutere un po’ di quali potrebbero essere le tendenze future.

Sì. Insomma, negli ultimi dieci anni circa, lavorando nel settore automobilistico, ho visto tantissimi casi d’uso. Insomma, la mia esperienza era nel campo dei big data e dell’IoT. E oltre al settore automobilistico, mi occupavo anche di molti prodotti legati alla domotica.

Giusto? Ed è per questo che la mobilità connessa e tutto il settore della casa connessa erano in un certo senso simili. Si raccoglievano molti di quei dati telemetrici. Nel settore automobilistico, questi dati provengono principalmente dall’unità telematica.

E si occupavano di tutta la gestione della flotta e cose del genere.

Poi ho iniziato a lavorare nel settore OTA perché abbiamo iniziato a discutere del fatto che, ehi, anche il settore automobilistico dovrebbe essere in grado di effettuare aggiornamenti, e non solo le unità di telemedicina o quelle di infotainment, ma come possiamo rendere l’intero settore automobilistico più aggiornabile? E deve essere aggiornato nel tempo senza che il costo si deprezzi.

Ed è proprio in quel momento che ha cominciato a prendere forma il concetto di “veicolo definito dal software”. E non si trattava solo di aggiornamenti over-the-air.

Come sapete, siete stati, diciamo, una sorta di PMI ed esperti del settore. Si tratta anche di trasformare l’architettura all’interno del veicolo, perché se ci sono centinaia di centraline (ECU), la situazione è davvero molto complessa. Quindi, come si può realizzare quel consolidamento delle centraline e passare a un’architettura più basata su zone o su domini, in modo da poter distribuire tutti questi aggiornamenti software o raccogliere una grande quantità di dati dai veicoli per offrire un’esperienza di nuova generazione?

Quindi penso che, per quanto riguarda l’ AI, sia sempre esistita, come abbiamo già detto. Giusto? Diverse forme di ML sono sempre esistite. Quando lavoravo con uno dei nostri partner, BlackBerry, qualche anno fa, parlavamo anche di sensori sintetici, in cui implementiamo molti sensori basati sull’apprendimento automatico o, in alternativa, sulla logica.

E state raccogliendo tutti questi dati, elaborando quelli rumorosi direttamente sul veicolo prima di effettuare qualsiasi operazione sul cloud, perché anche il trasferimento dei dati da e verso il cloud comporta spesso costi proibitivi. Quindi, scusate la risposta un po’ prolissa, ma credo che con l’ AI e generativa e gli agenti, l’intera catena di approvvigionamento possa connettersi, creando una mobilità connessa

o la raccolta dei dati e la quantità di dati di alta qualità che è effettivamente possibile inviare al cloud. Sarà fondamentale valutare la quantità di lavoro che si può svolgere, che per sua natura non è deterministica, direttamente sul veicolo stesso grazie all’architettura EE e al veicolo definito dal software.

Ed è proprio qui che entra in gioco la tua osservazione di poco fa sull’importanza di avere il modello giusto per svolgere il lavoro giusto.

Non è necessario che l'auto sia dotata di un modello da cento miliardi di token. Probabilmente basta un modello da dieci milioni di token, che è più che sufficiente per ciò che state cercando di fare. Ed è proprio qui che tutti questi fantastici software che state sviluppando, incentrati sul software del veicolo, credo che sarebbero di immenso valore.

Sì. Grazie mille. Lo apprezzo molto. E allora entriamo nel vivo dell’argomento. Insomma, credo che, come abbiamo accennato all’inizio, le persone tendano a pensare, e ci sia la percezione che l’ AI a nei veicoli si limiti alla guida autonoma, alla frenata automatica o al mantenimento adattivo della corsia.

E sono davvero straordinarie. Sono un grande fan di tutte queste tecnologie e le adoro. Sì. Ma quello che stiamo cercando di fare su Sonatus — e penso che ci sia un’occasione mancata su cui stiamo cercando di sensibilizzare l’opinione pubblica — è che, secondo me, le possibilità sono molte di più.

Allora vi farò un paio di esempi. Collaboriamo con AWS ormai da anni. Apprezziamo davvero la vostra collaborazione.

L'anno scorso al Consumer Electronics Show, ovvero il venticinque gennaio. Sì.

Abbiamo presentato un nuovo prodotto chiamato “ AI Technician”, che girava su AWS utilizzando modelli linguistici di grandi dimensioni (LLM). Abbiamo dimostrato che è possibile utilizzare gli LLM e l’analisi dei dati per comprendere meglio i problemi che si verificano nei veicoli.

E poi sfruttare strumenti come il software e l’infrastruttura dati fornita da Sonatus per ottenere dati migliori e più dettagliati. Sì.

Per riuscire a capire, ehi. È un problema? Non è un problema? È un problema urgente?

Si tratta di un problema non urgente? È un problema che riguarda l'intera flotta? Sì. È un problema che riguarda un solo veicolo?

Quindi questa idea del “ AI Technician” ha riscosso un enorme interesse. E abbiamo anche fatto ricorso a quell’approccio “agentico” di cui abbiamo parlato, secondo cui non si tratta di un’unica fonte di dati. Non si tratta semplicemente di, ok, limitarsi a guardare i codici di errore, i codici DTC, i codici diagnostici di errore. Non ci limitiamo a esaminare i codici DTC e a inserirli in un RAG o in LM.

Sì. Ma piuttosto — ed è proprio questo il punto che hai sottolineato prima — stiamo raccogliendo dati provenienti da molte fonti diverse. E combinando i dati provenienti da molte fonti diverse otteniamo una risposta migliore rispetto a quella che si otterrebbe da una singola fonte. E penso che sia proprio questo il valore aggiunto offerto dall’ AI .

Sarà davvero potentissimo. Sono d’accordo con te. Insomma, lo chiamiamo “data center su ruote”, ed è proprio così perché, come dicevi tu, ci sono tantissime topologie di rete, giusto? C’è il CAN, c’è l’Ethernet e ce ne sono tantissime altre in giro.

E ciò per cui abbiamo dovuto lottare a lungo, molto a lungo, è stato capire come deserializzare tutti questi diversi tipi di segnali in qualcosa di standard. Ed è per questo che abbiamo iniziato a lavorare sulle specifiche VSS della COVESA, ma non tutti gli OEM utilizzano il VSS, giusto? Ognuno ha il proprio sistema. Quindi, ora, come si fa a standardizzare tutti questi dati provenienti da tutte queste topologie di rete e da diversi tipi di centraline, giusto? E poi a dare loro un senso quasi in tempo reale per offrire quell’esperienza personalizzata o persino la manutenzione predittiva, ad esempio avvisando che le pastiglie dei freni si stanno consumando e devono essere sostituite, inviando la segnalazione alla concessionaria.

E poi vai dal concessionario. Il concessionario ti dice: «No, non è un problema. Lo sistemeremo». Giusto?

Quindi tutto questo fa parte di una catena del valore olistica. Penso che AI possa risolvere la questione. Non solo, come hai detto tu, con quel sistema di infotainment all’avanguardia. Certo.

Ad esempio, ho lavorato all’SDK di Alexa quando è stato lanciato per la prima volta per i dispositivi embedded. E ricordo ancora quando, insieme a NXP, abbiamo reinventato il concetto e abbiamo mostrato ai clienti come fosse possibile integrare, giusto? Alexa, eccetera. Quindi tutte queste cose relative all’infotainment che facevamo da tantissimo tempo e il machine learning che esisteva già da tantissimo tempo, ma c’è ancora così tanto da fare con l’ AI a dell’era odierna, come dici tu, perché rappresenta la prossima evoluzione ed è ovunque.

È per questo che sono davvero felice che tu l’abbia detto.

E quest’ultimo punto ci offre una transizione perfetta verso l’ultimo punto che vogliamo sottolineare oggi, mentre siamo qui riuniti: siamo davvero entusiasti che Sonatus abbia appena lanciato il nostro nuovissimo prodotto AI , chiamato Sonatus AI Director. E, partendo proprio da quanto abbiamo detto poco fa riguardo al tecnico AI , la nostra constatazione è che oggi l’ AI , in linea generale, tende a concentrarsi sulle unità ADAS o, ovviamente, in certi casi, sui chatbot nell’unità IVI per svolgere funzioni come: “Dov’è lo Starbucks più vicino?” o “Troverò traffico mentre torno a casa?”. Sì. Ma la realtà è che si tratta di una minuscola frazione dell’infrastruttura del veicolo. È una minuscola frazione dei sottosistemi del veicolo.

Ci siamo quindi resi conto che esiste un enorme potenziale ancora inesplorato nell’utilizzo dell’ AI e in un maggior numero di sottosistemi dei veicoli per una vasta gamma di applicazioni, che si tratti di una diagnostica più accurata, di una migliore manutenzione preventiva, di ottimizzazione, di miglioramenti dell’efficienza, di messa a punto nel tempo e così via. Quello che ha fatto il direttore dell’ AI —e, dato che AWS è uno dei nostri partner di lancio, siamo davvero felici di avervi con noi per aiutarci a dare il via a questa iniziativa—è stato mostrare come possiamo fornire un’infrastruttura per accelerare l’implementazione dell’ AI e all’interno del veicolo, non nel cloud. Il cloud è importante. Il cloud sarà sempre importante.

Esatto. Ma ci sono alcune applicazioni che devono essere eseguite localmente, sia che si tratti di operazioni sensibili alla latenza, sia che ci siano troppi dati da inviare al cloud, sia che sussistano preoccupazioni relative alla privacy o alla protezione della proprietà intellettuale. Come possiamo avvicinare questi modelli, ove opportuno, al veicolo stesso, in modo che operino all’interno dell’infrastruttura del veicolo stesso, risolvendo i problemi, riducendo i costi e garantendo efficienza?

Eravamo davvero entusiasti di averlo lanciato di recente e siamo felicissimi di averti con noi. È da un po’ che ti occupi di questo tipo di problema. Ritieni che si tratti di un’esigenza reale nel settore?

Sì, ne sono assolutamente convinto perché, sai, i dati sono ancora il fattore che fa la differenza.

Perché continuiamo a parlare di AI, ma, scusate il termine, se non si dispone di dati di qualità adeguata, il risultato sarà “garbage in, garbage out”. Ed è proprio quello che penso. Capite? Insomma, dobbiamo continuare a puntare con determinazione su un’elevata qualità dei dati, su una governance dei dati di alto livello e, come avete detto voi, su tutti questi diversi tipi di ottimizzazione.

E poi il tuo AI, che sia basato su un LLM AI o su un sistema agentico AI, ti garantirà quel ROI. Se pensi semplicemente di poter acquistare questo LLM, addestrato sui dati di Internet, e che farà miracoli per la tua attività, ti sbagli. Insomma, questa è la realtà.

Ed è proprio qui che molte delle soluzioni che, come sapete, voi state sviluppando per primi, credo sarebbero, insomma, estremamente utili per i clienti.

Sì. Ti ringrazio per questo. E una delle cose che ci è venuta in mente, che abbiamo verificato e che continua a essere vera, è che ci sono tantissime competenze settoriali. C’è tantissima conoscenza e know-how in materia di batterie, propulsione, sicurezza, pneumatici o qualsiasi altro ambito.

Che quel tipo di competenza esista là fuori. Ma la sfida odierna è che gli OEM devono integrare ciascuno di questi modelli singolarmente, con costi di integrazione elevati. Come potremmo creare un’infrastruttura più comune che consenta loro di attingere all’innovazione di questi esperti del settore in modo che sia altamente scalabile per loro? Ed è proprio questo che stiamo cercando di fare. E finora l’accoglienza è stata davvero molto positiva.

Sì, ed è fantastico perché, anche se si pensa a questi OEM multimodali… Giusto. In realtà stanno apportando molte conoscenze, sebbene si tratti ancora di dati interni. Ma sempre più spesso vengono utilizzati da diversi, sai, settori verticali. E proprio come, sai, tipo, dieci anni fa, avevo notato che molti clienti stavano effettivamente contribuendo a qualcosa chiamato “scambio di dati”.

Ciò significa che dispongono di “trader”, ovvero dati di alta qualità, magari relativi al settore finanziario, sanitario o automobilistico, e li condividono secondo un modello open source o commerciale, a seconda dei casi. E questi dati possono essere utilizzati da diversi altri settori verticali. Credo che probabilmente accadrà la stessa cosa anche in questo ambito. E quando ciò accadrà, i modelli di linguaggio di grandi dimensioni (LLM) saranno davvero potenti.

Lo usi come fonte di ispirazione e metti in pratica tutte queste buone pratiche. Come hai detto tu, l’ansia da autonomia delle auto elettriche è un problema davvero grave anche oggi.

Giusto.

Ho parlato con tantissime persone, persino con i produttori OEM, e tutti esprimono lo stesso problema. C’è l’ansia da autonomia dei veicoli elettrici: cosa possiamo fare? E questo aspetto non può essere ottimizzato finché non si dispone di un vero e proprio “flywheel” di dati, che raccolga le informazioni dagli pneumatici e dalle diverse centraline elettroniche (ECU), per poi consolidarle e consentire quella manutenzione predittiva o preventiva, nonché l’ottimizzazione dell’autonomia.

Sembra più semplice, ma non lo è, perché stiamo integrando tantissime funzionalità all’interno dell’auto. Ad esempio, mio figlio vuole guardare Netflix durante un lungo viaggio. Giusto? E se si consuma così tanta batteria del sistema e ci si aspetta comunque che l’autonomia sia di cinquecento miglia, questo non accadrà. Quindi, come si fa a ottimizzare tutto questo? La risposta sta nei dati e nell’ AI , oltre a un processo di apprendimento continuo e di messa a punto del modello, che si tratti di un modello tradizionale o di un modello linguistico di grandi dimensioni. Giusto?

Ed ecco, questo è proprio l’MLOps che, insomma, si può mettere in pratica.

Esatto. E hai parlato dell’ansia da autonomia. Una delle cause di questo fenomeno è proprio la batteria. La tecnologia delle batterie per veicoli è in rapida evoluzione.

Uno dei nostri partner per il lancio è Qnovo, azienda leader nel settore dei sistemi di gestione delle batterie e dello stato di salute delle batterie. Mhmm. E siamo stati felici di averli al nostro fianco in occasione del lancio.

E quello a cui stanno lavorando è un’innovazione incredibile nel rilevare i guasti alle batterie, nel cercare di ricaricarle più velocemente e così via, ma per farlo servono i dati. Serve il modello. E quindi una delle cose che stiamo facendo insieme a loro è aiutarli a utilizzare la stessa infrastruttura per fornire un modo per implementare quel modello. Si tratta quindi di un sottosistema a cui non avresti pensato, ma che può sfruttare la stessa infrastruttura.

Esatto.

E poi l’altro punto che hai sollevato, che ritengo davvero importante, è che noi, come settore e come tecnici, abbiamo sempre la missione di anticipare il futuro. E a volte anticipare il futuro significa sapere che ci saranno cose in futuro che non conosciamo.

Sì.

Come si fa, quindi, a mettere in atto le strutture necessarie affinché, quando arriverà la prossima innovazione, si possa sfruttarla?

È possibile trarne vantaggio. Perché troppo spesso, con molte tecnologie, ma sicuramente con i veicoli storicamente, si progetta pensando: “È un’auto, va su strada, e questo è tutto ciò che mi serve”. Ma poi si verifica qualcosa di imprevisto, e il veicolo diventa obsoleto o meno competitivo sul mercato, oppure il suo valore di rivendita diminuisce. Come possiamo mettere in atto la capacità di estendere le funzionalità dei veicoli nel tempo per ottimizzare l’autonomia, per nuovi servizi e per nuove tecnologie di sicurezza dopo la consegna? Questo è uno dei vantaggi dell’estensibilità che stiamo cercando di introdurre, e riteniamo che vi sia un’enorme esigenza in questo senso nel settore.

Sì, sì, assolutamente. Ed è proprio qui che, sai, continuo a credere che il potere del cloud sarà davvero fondamentale. Giusto?

Non ho lavorato direttamente ad alcune di queste iniziative, ma i miei colleghi sì, come nel caso dell’ECU virtuale sul cloud. Giusto? Dove avete integrato gran parte di quella tecnologia NVIDIA che probabilmente stavate già utilizzando sull’auto. Come riuscite a farle funzionare sul cloud e a eseguire tutte queste simulazioni?

E soprattutto se si passa a quell’architettura EE in cui si hanno centraline consolidate, l’auto è collegata al cloud. E poi si eseguono simulazioni end-to-end su tutto questo. E alla fine ci si chiede: cosa ha senso fare in questo momento? Perché un’auto è una cosa a sé stante.

Non è come una cuffia, che invece è una cuffia intelligente. Giusto? Insomma, non voglio predicare ai convertiti. È come nei sistemi critici per la sicurezza, in cui bisogna intraprendere azioni deterministiche.

Gli airbag si stanno attivando. Devi agire immediatamente. Questo non è come qualsiasi altro prodotto connesso. È il prodotto più complesso che esista.

Quindi penso, come hai detto tu, che si tratti di un apprendimento continuo. Accelereremo sul cloud e poi collaboreremo sul fronte dell’edge, ma abbiamo bisogno di tutti questi dati. E poi il machine learning e gli OEM hanno bisogno di tutti questi dati. Abbiamo bisogno di tutte quelle MLOps. Abbiamo bisogno di tutte le best practice dell’SDLC. Questo non cambierà. Sono solo gli strumenti a cambiare.

E dobbiamo usare lo strumento giusto per ogni lavoro.

È una sintesi perfetta, hai detto, perché anche se poco fa abbiamo parlato dell’edge dei veicoli, il punto è che in realtà servono tutti questi elementi. Esatto. Serve un cloud potente. Servono dati affidabili.

Servono servizi affidabili. Esatto. E servono dati a bordo del veicolo, e questi devono interagire strettamente tra loro. Ed è proprio questo il punto.

Ed è proprio per questo che collaboriamo con te. Sì.

Sì.

Ed è proprio per questo che siamo così felici di averti qui. Anche per noi è un vero piacere. È una gioia poter parlare di questo argomento ed è davvero emozionante approfondire “ AI ”. Parleremo ancora di “ AI ” nelle prossime puntate. Ma grazie davvero per questa vera e propria master class su tutte queste tecnologie.

Grazie per avermi invitato. Lo apprezzo davvero, John. È stato davvero divertente chiacchierare con te.

Se ti piace quello che stai vedendo in questo episodio, metti “Mi piace” e iscriviti per vedere altri contenuti simili. Ti ringraziamo per averci seguito e speriamo di rivederti molto presto in un altro episodio.