Generative AI e aziende in fuga. Addio al 30% dei progetti entro il 2025. Dopo i dubbi di Goldman Sachs ora tocca a Gartner.
I dati del Gartner Data & Analytics Summit 2024, svoltosi a Sidney lo scorso 29 luglio riportano un fatto particolarmente significativo: almeno il 30% dei progetti basati sull’intelligenza artificiale generativa potrebbero essere cessati immediatamente dopo la fase di proof of concept, entro la fine del 2025.
Tra le ragioni citate dal celebre analista vi sarebbero una serie di concause, tra cui una scarsa data quality, costi in continua crescita, poca chiarezza nei vantaggi ottenuti e scarsa capacità di valutare e gestire i rischi.
In particolare, la VP analyst Rita Sallam ha perentoriamente affermato ciò che molti in realtà pensavano da tempo, pur senza disporre dei dati di Gartner: “Dopo le enormi aspettative dell’anno scorso, gli executive sono impazienti di vedere i ritorni degli investimenti effettuati sulla generative AI, ma le aziende sono ancora in difficoltà nel generare valore, mentre l’ampliamento di portata dei progetti tenere a far crescere sempre di più l’onere finanziario legato allo sviluppo e all’implementazione dei modelli GenAI”.
La generative AI si sta in buona parte scontrando con i problemi che tutte le tecnologie emergenti incontrano nella loro prima fase di implementazione.
Chi si occupa di innovazione, ricerca e sviluppo, puntualmente fatica a giustificare gli investimenti nell’intelligenza artificiale generativa, data la naturale complessità nel correlare i benefici produttivi, spesso qualitativi, con quelli finanziari, in prevalenza quantitivi.
Generative AI, la frenata di Goldman Sachs: costosa, inaffidabile e troppo energivora
Il nemico pubblico numero uno della generative AI: la difficoltà nel valutare i costi di investimento
Secondo i dati presentati da Gartner, l’impegno da parte delle organizzazioni non manca di certo, e si assiste ad una effettiva volontà di provare a vedere come la generative AI possa offrire un contributo sostanziale nella trasformazione dei modelli di business.
Il problema non sarebbe dunque da collocare nella fiducia, ma nei costi di implementazione, dal momento che i progetti pilota degni di questo nome comportano investimenti che vanno dai 5 ai 20 milioni di dollari, nel caso in cui si scelga di creare un modello da zero o di personalizzarlo grazie al fine tuning.
Altre metodologie, come la RAG, consentono di abbattere sensibilmente i costi iniziali, ampliando la base di conoscenza generalista dei LLM con i dati specifici dell’organizzazione, ma non risolvono del tutto la personalizzazione del modello, nei casi in cui questa condizione di rende necessaria, obbligando anche in tal caso ad un consistente lavoro sui modelli open source.
Il grafico che segue illustra i costi dei progetti basati su differenti approcci di adozione delle Generative AI nel contesto aziendale.
Fonte: Gartner (July 2024)
Rita Sallam evidenzia inoltre come non sia possibile un approccio standard, che consentirebbe ad esempio un maggior controllo nella stima dei costi: “Sfortunatamente, non esiste un’unica soluzione per la GenAI e i costi sono molto più difficile da prevedere rispetto ad altre tecnologie. I casi d’uso e gli approcci di implementazione contribuiscono a determinare i costi totali. […] Esistono differenti livelli di rischio, variabilità e impatto strategico sia nel caso in cui tu sia un innovatore del mercato, che nel caso in cui scegli di assumere un approccio più conservativo, mirato nello specifico a rendere più produttivi o estendere la portate dei processi esistenti”.
Intelligenza artificiale generativa: reazioni molto favorevoli, ma rimane la difficoltà nel comprendere l’effettivo valore di business
La ricerca presentata da Gartner in occasione del Data and Analytics Summit 2024 ha inoltre rilevato come l’intelligenza artificiale generativa richieda una tolleranza molto elevata nei criteri adottati per misurare il ROI, e questo aspetto stona con il tipico approccio strategico dei CFO, restii a valutare investimenti importanti per ottenere un risultato favorevole indiretto in futuro. La preferenza è storicamente data al ritorno diretto, nel più breve tempo possibile.
Questo aspetto, secondo Gartner, costituirebbe un vero e proprio limite strategico, che potrebbe scoraggiare il proseguimento degli investimenti sull’intelligenza artificiale generativa, in quanto i risultati delle iniziative pilota, anche quando ben implementate, potrebbero non essere valutate nell’ottica dell’innovazione.
Nonostante tutto, la maggioranza dei riscontri nel caso degli early adopter della generative AI sarebbero comunque molto favorevoli.
Il survey di Gartner si è svolto nell’autunno del 2023 e ha coinvolto in totale 822 aziende, molto differenti tra loro come settore di business. In merito ai nuovi progetti basati sulla generative AI, i dirigenti intervistati hanno mediamente rilevato un aumento dei ricavi del 15,8% e una riduzione dei costi del 15,2%, con un incremento medio in termini di produttività pari al 22,6%.
Nel contesto della presentazione dei risultati al summit australiano, Rita Sallam ha inoltre precisato che: “Questi dati fungono da prezioso punto di riferimento per valutare il valore aziendale derivato dall’innovazione del modello di business grazie alla generative AI. Ma è importante riconoscere le sfide nella stima di tale valore, poiché i benefit sono molto specifici per l’azienda, il caso d’uso, il ruolo e la forza lavoro. Spesso, l’impatto potrebbe non essere immediatamente evidente e potrebbe materializzarsi nel tempo. Tuttavia, questo ritardo non diminuisce i potenziali benefici“.
Le valutazioni di Gartner completano e in buona parte confermano le considerazioni precedentemente riportate da Capgemini nello studio Turbocharging software with generative AI: How organizations can realize the full potential of generative AI for software engineering, secondo cui tre organizzazioni su cinque considera l’innovazione dei processi come il principale vantaggio ottenibile grazie alla generative AI.
Il lavoro di Capgemini si sofferma su un ulteriore aspetto, rilevando come la generative AI sarà chiamata a svolgere un ruolo essenziale nell’aumentare la forza lavoro del software, supportando oltre il 25% del lavoro di progettazione, sviluppo e test entro i prossimi due anni.
Come calcolare l’impatto della generative AI sul business: le indicazioni di Gartner
In merito alla complessità della valutazione del valore creato dai progetti basati sull’intelligenza artificiale generativa, le organizzazioni devono adottare un duplice approccio. Da un lato, rimane valido il criterio basato sulla misurazione del ROI diretto, a cui andrebbe affiancata una valutazione di impatto sul valore futuro.
Soltanto in questo modo, secondo Gartner, sarebbe possibile prendere decisione davvero informate e consapevoli in merito agli investimenti sulla generative AI, sulla base degli impatti in termini di innovazione sul modello di business aziendale.
Secondo Rita Sallam, infatti: “Se i risultati aziendali soddisfano o superano le aspettative, si creano le condizioni per aumentare gli investimenti, scalando l’innovazione e l’utilizzo dell’intelligenza artificiale generativa su una base di utenti più ampia o implementandola in ulteriori divisioni aziendali. Tuttavia, se i risultati non si rivelassero all’altezza delle aspettative, potrebbe essere necessario esplorare scenari alternativi di innovazione. Ottenere in maniera accurata queste informazioni aiuta le organizzazioni ad allocare strategicamente le risorse e a determinare il percorso più efficace da seguire“.
Per indicare in maniera più specifica i metodi di valutazione dell’impatto della generative AI, Gartner ha presentato un ulteriore report: Calculating the ROI on GenAI Business Model Innovation, riservato in maniera esclusiva ai propri clienti.
