AI in azienda: 4 rischi che possono trasformare l’innovazione in frammentazione
AI in azienda: quattro rischi che possono trasformare l’innovazione in frammentazione organizzativa
L’Intelligenza Artificiale è già entrata nelle aziende. La vera domanda è se qualcuno la sta governando
AI in azienda: quattro rischi che possono trasformare l’innovazione in frammentazione organizzativa
“Come possiamo utilizzare l’AI?”
Rischio 1 – Shadow AI e dispersione: quando l’azienda non sa più quali strumenti vengono utilizzati
La Shadow AI diventa anche un problema GDPR
Rischio 2 – Accettazione fideistica: quando una risposta plausibile diventa una risposta vera
Dalla produttività individuale alla conoscenza aziendale
La diagnosi: frammentazione organizzativa
Il bivio: inerzia e rimozione oppure governance
AI Literacy: non basta insegnare a scrivere un buon prompt
La governance dell’AI comincia da alcune domande molto semplici
Dall’AI individuale all’AI organizzativa
Per molte organizzazioni il dibattito sull’Intelligenza Artificiale continua a essere impostato come una scelta futura: adottarla oppure no, individuare gli strumenti migliori, decidere quanto investire, capire quali processi automatizzare.
Ma questa rappresentazione rischia di essere già superata.
L’AI è entrata nelle aziende anche senza attendere una decisione formale della Direzione. Un collaboratore utilizza un chatbot per migliorare una mail. Un commerciale gli sottopone una proposta ricevuta da un cliente. Un amministrativo prova a riassumere un contratto. Un tecnico utilizza un sistema generativo per analizzare un documento. Un responsabile gli chiede di confrontare due curriculum.
Presi singolarmente, questi comportamenti possono sembrare semplici strumenti di produttività.
Considerati nel loro insieme, raccontano però qualcosa di diverso: l’organizzazione potrebbe avere già adottato l’AI senza aver realmente deciso come adottarla.
Ed è proprio qui che nasce il problema.
L’Intelligenza Artificiale può aumentare produttività, capacità di analisi e velocità operativa. Ma, se lasciata esclusivamente all’iniziativa individuale, può contemporaneamente produrre dispersione degli strumenti, perdita di controllo sulle informazioni, dipendenza dagli output, impoverimento delle competenze e frammentazione dei processi.
Per chi governa un’organizzazione, quindi, la domanda più interessante non è più soltanto:
“Come possiamo utilizzare l’AI?”
Sta diventando:
“Come possiamo evitare che decine di utilizzi individuali dell’AI trasformino silenziosamente il nostro modo di lavorare senza una governance comune?”
Da questa prospettiva emergono almeno quattro rischi.
Rischio 1 – Shadow AI e dispersione: quando l’azienda non sa più quali strumenti vengono utilizzati
La Shadow AI è l’utilizzo di strumenti di Intelligenza Artificiale da parte di dipendenti o collaboratori senza una preventiva approvazione o un’effettiva supervisione dell’organizzazione.
È l’evoluzione della più conosciuta Shadow IT, ma presenta una caratteristica particolare: adottare uno strumento di AI generativa è estremamente semplice.
Non servono installazioni complesse. Spesso bastano un browser, uno smartphone e un account personale.
Il collaboratore può quindi iniziare a utilizzare un sistema esterno in pochi minuti, magari con un obiettivo perfettamente comprensibile: lavorare meglio e più velocemente.
Il problema nasce quando all’interno dello stesso ambiente convivono strumenti autorizzati, account personali, versioni gratuite, servizi online mai valutati e modalità di utilizzo differenti.
A quel punto l’organizzazione potrebbe non sapere più quali informazioni escono dal proprio perimetro, verso quali fornitori, attraverso quali account e con quali condizioni contrattuali.
Non è un rischio soltanto teorico. Nel Cost of a Data Breach Report 2025, IBM rilevava che il 63% delle organizzazioni coinvolte nella ricerca e colpite da violazioni non disponeva ancora di una policy di governance dell’AI oppure la stava sviluppando; tra quelle dotate di policy, soltanto il 34% effettuava audit regolari sull’AI non autorizzata. IBM Italy News Room
La Shadow AI diventa anche un problema GDPR
Per un Data Controller questo scenario dovrebbe accendere immediatamente un’altra spia.
Che cosa viene inserito nei prompt?
Nominativi? E-mail? Curriculum? Informazioni sui dipendenti? Dati dei clienti? Contratti? Segnalazioni? Documentazione contenente dati personali?
Nel momento in cui informazioni aziendali vengono comunicate a un servizio esterno, non siamo più davanti alla semplice scelta individuale di uno strumento di produttività.
Occorre capire quali dati vengono trattati, da chi, per quale finalità, con quali garanzie e secondo quali istruzioni aziendali.
E non ci sono soltanto i dati personali.
Possono essere coinvolti know-how, informazioni commerciali, strategie, codice, documenti riservati e proprietà intellettuale.
La risposta organizzativa non può quindi limitarsi a:
“È vietato utilizzare ChatGPT.”
Serve qualcosa di più maturo: individuare gli strumenti ammessi, stabilire cosa può essere inserito, definire gli account utilizzabili, disciplinare i casi d’uso e formare le persone.
La prima regola della governance AI potrebbe essere molto semplice:
prima di governare l’Intelligenza Artificiale bisogna sapere dove viene utilizzata.
Rischio 2 – Accettazione fideistica: quando una risposta plausibile diventa una risposta vera
Il secondo rischio è meno visibile, ma probabilmente ancora più insidioso.
I sistemi generativi hanno raggiunto una capacità straordinaria di produrre risposte linguisticamente convincenti.
Un testo ben scritto, ordinato, sicuro nel tono e apparentemente argomentato produce naturalmente fiducia.
Ma plausibilità e correttezza non sono sinonimi.
L’utente può progressivamente smettere di domandarsi se l’output sia corretto e iniziare a utilizzarlo semplicemente perché “sembra giusto”.
È una dinamica vicina al cosiddetto automation bias: la tendenza ad attribuire un peso eccessivo alle indicazioni provenienti da sistemi automatizzati.
Una ricerca sperimentale pubblicata nel 2025 ha mostrato come partecipanti esposti a risposte AI errate ottenessero risultati significativamente peggiori rispetto al gruppo senza assistenza AI; l’introduzione di un avvertimento migliorava invece la riflessione critica, pur senza riportarla ai livelli del gruppo non assistito. ScienceDirect
In azienda questo fenomeno può assumere forme molto concrete.
Una clausola contrattuale viene interpretata dall’AI e nessuno verifica la fonte. Una normativa viene riassunta eliminando un’eccezione determinante. Un report contiene un dato inesistente. Una risposta destinata a un cliente viene considerata corretta perché formalmente impeccabile.
L’errore non consiste nell’avere utilizzato l’AI.
L’errore consiste nell’aver trasformato uno strumento di supporto in un soggetto al quale delegare implicitamente il giudizio.
La responsabilità non passa alla macchina
Questo principio dovrebbe entrare nella cultura aziendale.
L’AI può suggerire, confrontare, sintetizzare, evidenziare anomalie, formulare ipotesi e accelerare enormemente alcune attività.
Ma chi utilizza l’output deve sapere quando verificarlo e quando non può permettersi di accettarlo senza controllo.
Più aumenta la capacità dell’AI di produrre risposte convincenti, più diventa importante sviluppare la capacità umana di giudicarle.
Ed è proprio qui che l’AI Literacy assume un significato molto più interessante della semplice formazione tecnica.
Rischio 3 – Isolamento organizzativo: dieci persone efficienti non significano necessariamente un’azienda più efficiente
Esiste poi un paradosso.
L’AI può aumentare la produttività del singolo e, contemporaneamente, ridurre la capacità dell’organizzazione di lavorare come sistema.
Immaginiamo dieci collaboratori.
Ognuno sceglie il proprio strumento. Ognuno costruisce i propri prompt. Ognuno sviluppa nel tempo un metodo personale. Ognuno conserva conversazioni e procedure nel proprio account.
Dopo alcuni mesi ciascuno potrebbe essere diventato più veloce.
Ma l’azienda che cosa ha imparato?
Forse molto poco.
Le conoscenze sviluppate rimangono nelle conversazioni personali. I prompt migliori non vengono condivisi. Le procedure non vengono standardizzate. Due uffici risolvono lo stesso problema in modi completamente diversi. Quando una persona lascia l’organizzazione, una parte del metodo costruito attraverso l’AI se ne va con lei.
L’AI, invece di diventare patrimonio organizzativo, diventa una collezione di micro-competenze individuali isolate.
Dalla produttività individuale alla conoscenza aziendale
Questo è uno dei punti sui quali la governance può fare maggiore differenza.
Un’organizzazione matura dovrebbe chiedersi:
quali utilizzi dell’AI stanno funzionando particolarmente bene? Possono diventare procedure condivise? Esistono prompt o workflow che meritano di essere standardizzati? Chi deve avere accesso alle conversazioni? Quali conoscenze devono essere trasferite dall’account individuale al patrimonio aziendale?
La questione non è quindi soltanto scegliere quale AI comprare.
Occorre decidere come trasformare ciò che le persone imparano utilizzando l’AI in conoscenza dell’organizzazione.
Rischio 4 – Deskilling e overload: quando l’AI semplifica il lavoro ma indebolisce la capacità di farlo
Il quarto rischio sembra quasi contraddittorio.
L’AI nasce per alleggerire il carico cognitivo, ma può produrre contemporaneamente overload informativo e deskilling.
Da una parte abbiamo una quantità crescente di output: alternative, sintesi, suggerimenti, scenari, documenti e informazioni possono essere prodotti in pochi secondi.
Il problema diventa allora distinguere il segnale dal rumore.
Non serve necessariamente un’altra risposta.
Serve capire quale risposta merita attenzione.
Dall’altra parte esiste il rischio di perdere progressivamente alcune capacità che prima erano necessarie per svolgere il lavoro.
Se ogni prima bozza viene prodotta dall’AI, quanto ci alleniamo ancora a strutturare autonomamente un ragionamento?
Se ogni documento viene riassunto, quanto rimane della capacità di leggerlo criticamente?
Se ogni problema viene immediatamente trasformato in un prompt, continuiamo a sviluppare la capacità di formularne autonomamente una prima interpretazione?
Il deskilling non significa necessariamente diventare “meno intelligenti”.
Significa qualcosa di più concreto: smettere progressivamente di esercitare determinate competenze perché una macchina le svolge al nostro posto.
Ed è un problema soprattutto quando quelle stesse competenze servono per verificare la macchina.
La diagnosi: frammentazione organizzativa
A questo punto i quattro rischi iniziano a collegarsi.
La Shadow AI disperde strumenti e informazioni.
L’accettazione fideistica indebolisce il controllo sugli output.
L’isolamento impedisce alla conoscenza prodotta di diventare patrimonio comune.
Deskilling e overload possono ridurre progressivamente la capacità critica delle persone.
Presi separatamente sembrano problemi differenti.
Considerati insieme descrivono una possibile frammentazione organizzativa.
L’azienda continua a funzionare. Forse produce persino più velocemente.
Ma sotto la superficie possono iniziare a svilupparsi processi paralleli, strumenti non censiti, account personali, metodi differenti, conoscenze non condivise e decisioni sempre più influenzate da sistemi che nessuno ha realmente inserito in un disegno organizzativo.
Ed è qui che il problema dell’AI smette definitivamente di essere soltanto tecnologico.
Diventa un problema di governance.
Il bivio: inerzia e rimozione oppure governance
Davanti a questa trasformazione un’organizzazione può sostanzialmente seguire due strade.
La prima è inerzia e rimozione.
Significa comportarsi come se l’AI non fosse ancora entrata realmente nei processi aziendali, lasciare che ciascuno trovi autonomamente gli strumenti che preferisce e intervenire soltanto quando emerge un problema.
È apparentemente la strada più semplice perché non richiede investimenti organizzativi immediati.
Ma non significa evitare l’AI.
Significa semplicemente adottarla senza governarla.
La seconda strada è la governance.
Governare non significa necessariamente centralizzare ogni prompt, vietare qualsiasi sperimentazione o costruire procedure così rigide da annullare i benefici dell’innovazione.
Significa stabilire un perimetro.
Capire quali sistemi vengono utilizzati. Individuare i casi d’uso. Definire strumenti autorizzati e utilizzi non consentiti. Valutare i rischi. Proteggere dati personali e informazioni riservate. Stabilire quando è necessario il controllo umano. Trasformare le buone pratiche individuali in conoscenza condivisa.
E soprattutto significa formare le persone.
AI Literacy: non basta insegnare a scrivere un buon prompt
L’articolo 4 dell’AI Act porta proprio in questa direzione.
Il testo oggi applicabile richiede a provider e deployer di adottare misure per sostenere lo sviluppo dell’AI Literacy del personale e delle altre persone che utilizzano sistemi AI per loro conto, tenendo conto delle conoscenze tecniche, dell’esperienza, della formazione e del contesto di utilizzo.
La Commissione europea ha inoltre raccolto oltre 40 pratiche di AI Literacy adottate da organizzazioni pubbliche e private, chiarendo però che replicarle non determina automaticamente una presunzione di conformità. Strategia Digitale Europea
È un’indicazione interessante.
L’AI Literacy non dovrebbe trasformarsi nell’ennesimo corso standardizzato da completare e archiviare.
Dovrebbe servire a costruire comportamenti organizzativi consapevoli.
Un collaboratore dovrebbe sapere quali strumenti può utilizzare, quali informazioni non deve inserire, quando un output richiede verifica, come riconoscere i limiti del sistema e a chi rivolgersi quando vuole introdurre un nuovo utilizzo.
Un responsabile dovrebbe possedere anche competenze differenti: comprendere rischi, responsabilità, impatto sui processi e necessità di supervisione.
Il livello di alfabetizzazione, quindi, deve essere coerente con il ruolo e con il modo in cui l’AI viene realmente utilizzata.
La governance dell’AI comincia da alcune domande molto semplici
Prima ancora di acquistare nuove piattaforme o costruire complessi framework, una Direzione potrebbe iniziare ponendosi alcune domande.
Quali sistemi AI vengono già utilizzati nella nostra organizzazione?
Da chi?
Per quali attività?
Con quali account?
Quali dati e documenti vengono inseriti?
Quali decisioni vengono influenzate dagli output?
Chi verifica le risposte?
Le buone pratiche sviluppate dai singoli vengono condivise?
Abbiamo stabilito regole comprensibili?
Le persone sono state formate non soltanto a utilizzare l’AI, ma anche a riconoscerne rischi e limiti?
Le risposte potrebbero essere molto più utili di una generica domanda del tipo:
“La nostra azienda usa l’Intelligenza Artificiale?”
Perché oggi la risposta a quest’ultima domanda, in moltissime organizzazioni, potrebbe essere semplicemente: sì, anche se la Direzione ancora non lo sa completamente.
Dall’AI individuale all’AI organizzativa
L’obiettivo non dovrebbe essere rallentare l’adozione dell’Intelligenza Artificiale.
Al contrario.
Una buona governance può permettere di utilizzarla di più e meglio, riducendo proprio quelle zone grigie che spingono le persone verso strumenti personali e comportamenti non controllati.
La vera maturità arriverà quando l’AI smetterà di essere soltanto “lo strumento che usa quel collaboratore” e diventerà parte consapevole dei processi dell’organizzazione.
Questo richiede tecnologia, certamente.
Ma richiede soprattutto regole, responsabilità, competenze, condivisione e capacità critica.
Il bivio, quindi, non è realmente tra usare o non usare l’AI.
Quel bivio, per molte aziende, è già stato superato.
La scelta che rimane è molto più importante:
lasciare che l’Intelligenza Artificiale cresca nell’organizzazione in modo frammentato oppure costruire una governance capace di trasformarla in patrimonio aziendale.
Ed è probabilmente questa la differenza tra subire la trasformazione e governarla.
