McKinsey è riuscita a trasformare l’IA in ricavi importanti, ma il caso Lilli mostra che nemmeno chi “vende” AI enterprise è al sicuro né sul fronte cybersecurity, né su quello dei risultati per i clienti.
Cosa è successo a Lilli
- L’AI agent di CodeWall ha violato la piattaforma interna Lilli in meno di due ore, partendo da documentazione API pubblica ed endpoint non autenticati.
- Ha ottenuto accesso in lettura e scrittura al database di produzione, con 46,5 milioni di chat su strategia, M&A e progetti, 728.000 file con dati confidenziali dei clienti, 57.000 account utenti e 95 system prompt modificabili.
- In pratica, sarebbe stato possibile rubare informazioni sensibili e avvelenare le risposte del chatbot usato da decine di migliaia di consulenti.
- McKinsey ha dichiarato di aver corretto le vulnerabilità e chiuso gli endpoint coinvolti poche ore dopo la disclosure, ma il messaggio reputazionale resta pesante.
Cosa rivela questo caso
- Le prime vittime dell’IA “enterprise” sono le stesse aziende che la sviluppano e la vendono: se un leader globale non protegge adeguatamente la propria piattaforma interna, è evidente quanto sia fragile l’adozione di questi sistemi.
- La narrativa del “modello sicuro by design” si scontra con una realtà fatta di SQL injection banali ed esposizione di API: il problema è proprio insito nell’ecosistema di software e processi intorno a esso.
- Quando un chatbot interno contiene milioni di interazioni su strategie, investimenti e M&A dei clienti, la cybersecurity diventa automaticamente anche tutela della proprietà intellettuale di quei clienti.
- Allo stesso tempo, vengono esposti anche i dati proprietari del consulente (know‑how, framework, prompt ingegnerizzati), cioè il core del suo vantaggio competitivo.
Il paradosso economico dell’IA consulenziale
- Secondo il report MIT “The GenAI divide”, tra 35 e 40 miliardi di dollari investiti in GenAI hanno prodotto impatti concreti solo nel 5% dei casi; il 95% dei progetti resta in “pilot purgatory” senza effetti sul P&L.
- Un’analisi sullo stato dell’AI nelle aziende evidenzia che solo il 5% delle organizzazioni porta davvero in produzione strumenti enterprise‑grade, mentre la maggioranza li valuta, li prova e poi li abbandona.
- Un recente survey PwC su 4.454 CEO mostra che il 56% non vede né aumento di ricavi né riduzione di costi dall’AI; solo il 12% dichiara di aver centrato entrambi gli obiettivi.
- In parallelo, un altro studio riporta come l’85–80% delle aziende sbagli le previsioni sui costi infrastrutturali di AI di oltre il 25%, con erosione dei margini legata direttamente ai workload AI.
La violazione di Lilli
Cosa ci deve suonare come un warning?
Le imprese stanno pagando per piattaforme e consulenze AI che promettono efficienza in sicurezza, ma la combinazione di bassa sicurezza applicativa e scarso ROI suggerisce un rischio di vero e proprio “AI bubble as a service”.
Episodi come questo mostrano che la domanda da fare a chi vende IA, oltre a “quanto è potente il modello?”, è “come proteggete i miei dati, quali controlli di sicurezza applicativa adottate e quali risultati di business siete disposti a garantire?”.
Attenzione che non c’è solo IA per mettere un pin sulla giacca. C’è un profondissimo ed estremamente critico tema di governance: risk management, cybersecurity, protezione IP e disciplina sugli investimenti devono essere allo stesso livello di entusiasmo tecnologico e di comunicazione di marketing.