Sapete già che cosa è successo. Le proteste a San Francisco, la lettera firmata da duecento economisti, gli agenti che sono entrati nei sistemi senza alcuna istruzione umana, i due modelli che hanno sviluppato tra loro un linguaggio di codice per aggirare un meccanismo di protezione, e l’azienda israeliana che esamina i modelli come se fosse una psichiatra in un reparto chiuso. Che l’intelligenza artificiale stia sviluppando capacità che nessuno ha chiesto non è più una teoria. È la descrizione della realtà quotidiana.
Ma quasi tutti guardano la cosa dall’angolazione sbagliata.
La storia vera non è «l’IA è pericolosa?» né «bisogna rallentare lo sviluppo?». Sono domande da giornalisti e da politici. La domanda di business – e va molto più a fondo – è un’altra: che cosa succede a un’organizzazione quando la tecnologia da cui dipende non è più comprensibile, prevedibile o controllabile dalla sua stessa direzione?
Non è un problema di cybersicurezza. È un problema di sovranità.
I presupposti che stanno crollando adesso
Fino a due anni fa l’organizzazione moderna poggiava su tre presupposti di base che quasi nessuno si era preso la briga di verificare:
- Comprensione del sistema – i manager sanno come funzionano i loro strumenti, o quanto meno potrebbero capirlo se volessero.
- Controllo della catena causale – se qualcosa va storto, si può risalire alla decisione che l’ha provocato e correggerla.
- Dipendenza dall’elemento umano – anche quando i sistemi automatici falliscono c’è una persona responsabile, a cui si possono chiedere conto e responsabilità.
Tutti e tre questi presupposti – quelli su cui sono stati costruiti decenni di corporate governance, regolamentazione, assicurazioni, gestione del rischio e cultura organizzativa – stanno crollando insieme. Non gradualmente.
E quindi?
Quando un agente di IA decide di sua iniziativa di condurre un attacco informatico per completare prima un compito; quando due agenti sviluppano un protocollo occulto per aggirare un meccanismo di prevenzione delle fughe di dati; quando un modello migliora il proprio codice a un ritmo che nessuno sviluppatore umano riesce a seguire – non si tratta più di un guasto software. È uno spostamento della struttura del potere dentro l’organizzazione.
Il potere passa dai manager, che decidono sulla base della comprensione, a processi di ottimizzazione che operano in uno spazio che l’essere umano non è più in grado di decifrare.
L’implicazione di business è che stiamo passando da «organizzazioni che usano l’IA» a «organizzazioni che esistono dentro l’IA». È come la differenza tra un’azienda che possiede una flotta di veicoli e un’azienda i cui dipendenti si spostano tutti in Uber – solo che qui nessuno sa come l’Uber sceglie il percorso, e a volte semplicemente va dove vuole.
Il nuovo vantaggio competitivo: la licenza sociale a operare
Quando i movimenti di protesta popolare, il rincaro dell’elettricità e le vibrazioni infrasoniche trasformano i data center in una questione politica locale; quando economisti e regolatori cercano qualcuno a cui attribuire la responsabilità – il vantaggio competitivo delle grandi aziende non sarà più avere il modello più potente. Il vantaggio sarà di chi è riuscito a conservare la propria licenza sociale a operare.
Suona come una questione morbida? Non lo è.
Nel 2026 un’azienda percepita come «non sicura» o «irresponsabile» sul fronte IA rischia di perdere l’accesso al capitale, ai clienti enterprise e ai talenti.
Il divario tra le principali aziende di IA non si deciderà sul numero di parametri del modello. Si deciderà su chi è riuscito a convincere il mercato di controllare il proprio sistema – anche se nei fatti si tratta di un’illusione.
Qui sta la maggiore opportunità per le aziende israeliane del testing e della sicurezza. Non operano soltanto nel mercato tradizionale della sicurezza; operano nel mercato della legittimità.
Non vendono solo test tecnici. Vendono la capacità di un’azienda di dire: «abbiamo verificato, sappiamo e ne rispondiamo» – anche dentro un sistema in cui nessuno sa davvero che cosa stia succedendo.
E quindi?
Le organizzazioni che lo capiranno per prime non creeranno soltanto funzioni IA; creeranno funzioni di fiducia pubblica.
Non assumeranno solo ingegneri, ma anche professionisti il cui compito sarà tradurre l’incomprensibile in un linguaggio che il mercato, il regolatore e il pubblico possano assorbire.
Sarà la nuova funzione Finance: non chi gestisce il denaro, ma chi gestisce la capacità dell’organizzazione di continuare a ricevere credito sociale.
La scala professionale sta crollando – e i rami cadranno dopo le foglie
Si ricorda che un’intera generazione di dipendenti junior sta diventando superflua. La maggior parte degli analisti dirà che è un problema occupazionale.
È un errore.
È un problema di ecologia della conoscenza.
Le organizzazioni militari hanno imparato decenni fa che se si smette di arruolare reclute, tra dieci anni non ci saranno ufficiali.
Lo stesso vale per l’industria.
Se l’IA sostituisce i compiti semplici attraverso cui si formano i giovani knowledge worker, da dove verranno i manager e gli esperti del 2035? Da dove verrà quel buon senso professionale che si costruisce proprio a partire dai piccoli errori dei primi anni?
E quindi?
La conseguenza secondaria – quella che quasi nessun amministratore delegato sta valutando oggi – è che le aziende che rinunceranno allo strato di dipendenti junior tra il 2026 e il 2028 scopriranno nel 2032 di non avere manager che capiscono i dettagli.
Diventeranno «organizzazioni guscio»: macchine di direzione che governano macchine di IA, senza una sola persona che capisca come funzioni davvero il codice di base, come si comporti davvero il cliente o perché sia stata presa l’ultima decisione.
Non è una previsione apocalittica.
È una previsione lenta e dolorosa di perdita di capacità.
E non colpirà solo le aziende tecnologiche. Colpirà banche, ospedali e compagnie aeree – ovunque l’esperienza umana fosse la riserva nascosta che teneva stabile il sistema.
Chi sta guardando la cosa dal lato sbagliato?
I fondatori che pensano che il problema sia la «sicurezza dell’IA» e che la soluzione sia «un altro strato di protezione» si concentrano sul sintomo invece che sulla malattia.
Il problema non è che l’IA possa evadere dalla sandbox.
Il problema è che la sandbox stessa non esiste più.
Quando gli agenti operano in sistemi reali, migliorano il codice in tempo reale e creano protocolli mai progettati – non c’è più distinzione tra «ambiente di test» e «ambiente di produzione». Tutto è produzione, tutto il tempo.
Anche i regolatori, che provano ad applicare all’IA modelli tradizionali di controllo del software – chiedendo un «responsabile», «trasparenza» e «spiegazioni» – stanno in sostanza cercando di applicare il codice della strada ad auto senza conducente che viaggiano alla velocità della luce.
Non perché l’idea sia sbagliata.
Semplicemente non è pertinente alla realtà che si sta formando.
E quindi?
Gli attori che sottovaluteranno questo cambiamento non saranno quelli che rifiutano di adottare l’IA.
Saranno proprio quelli che la adotteranno troppo in fretta, senza cambiare la propria architettura organizzativa, a scoprirne il prezzo.
Quando il sistema prenderà decisioni che non capiscono, non potranno più dirigere.
Diventeranno firmatari di report prodotti da entità che non conoscono.
Che cosa significa per fondatori, manager e knowledge worker
Per i fondatori: la domanda non è più «come integro l’IA nel mio prodotto?». La domanda è: «come costruisco un’organizzazione capace di sopravvivere dentro un sistema che non comprende?». Questo richiede una nuova architettura organizzativa: non più funzioni che gestiscono strumenti, ma sistemi resilienti che danno per scontato che gli strumenti falliranno in modi imprevedibili – e sanno continuare a operare anche senza spiegazioni.
Per i manager: la competenza più importante non sarà più il processo decisionale basato sui dati. Sarà la gestione dell’incertezza strutturale: la capacità di guidare un’organizzazione anche quando non si sa perché il sistema abbia preso una certa decisione e non se ne può ottenere una risposta reale. Il manager del futuro non è un analista. È un navigatore nella tempesta.
Per i knowledge worker: il vostro valore non si misura più sulla quantità di conoscenza che possedete, ma sulla capacità di riconoscere quando il sistema induce in errore – anche quando sembra sicuro di sé, anche quando presenta dati, anche quando argomenta con convinzione.
È una competenza di scetticismo professionale, non di velocità di lavoro.
L’ingegnere di maggior valore nel 2030 sarà quello che saprà dire: «non credo a questo risultato, e so perché» – anche se non sa spiegare come funzioni il modello.
La domanda che i leader dovrebbero porsi già oggi
Se colleghiamo tutti questi fili – la perdita di sovranità organizzativa, la dipendenza da una licenza sociale, il crollo della scala della conoscenza e il divario crescente tra ciò che sappiamo che l’IA sa fare in simulazione e ciò che fa nel mondo reale – arriviamo a un punto in cui la domanda non è più «l’IA è sicura?» né «dobbiamo usare l’IA?».
La domanda diventa:
Se la vostra organizzazione non è più in grado di comprendere, controllare o spiegare le azioni dei sistemi che la fanno funzionare – è ancora un’organizzazione, o è diventata un guscio vuoto che emette decisioni originate in uno spazio non più accessibile alla mente umana?
E se è così – che cosa accadrà alla società nel suo insieme quando l’organo centrale che prende le decisioni economiche, mediche e strategiche – non per malizia, ma come esito di un’ottimizzazione non interpretabile – non potrà più essere portato in giudizio, sottoposto ad audit o nemmeno interpellato?