Governance dell’intelligenza artificiale: i rischi dell’AI non gestita secondo l’ultimo studio Trend Micro
La diffusione dell’intelligenza artificiale sta accelerando in ogni settore, ma senza una solida governance dell’intelligenza artificiale le organizzazioni rischiano di esporsi a conseguenze legali, finanziarie e reputazionali. L’ultima ricerca di Trend Micro, “Risks of Unmanaged AI Reliance”, mostra come questi rischi aumentino soprattutto per le aziende che operano a livello globale o che utilizzano modelli AI in più aree geografiche, dove differenze culturali, normative e linguistiche possono amplificare le incoerenze dei sistemi.
Modelli AI che cambiano risposta in base al luogo
Lo studio evidenzia che i modelli linguistici di grandi dimensioni non producono risultati uniformi. Le risposte possono variare in base alla posizione geografica, alla lingua, alla progettazione del modello e ai controlli integrati. Questo significa che due prompt identici possono generare output diversi, e talvolta incoerenti, anche quando vengono ripetuti più volte sullo stesso sistema. Trend Micro ha analizzato oltre 100 modelli AI utilizzando più di 800 prompt mirati, conducendo migliaia di esperimenti e valutando più di 60 milioni di token di input e oltre 500 milioni di token di output.
I ricercatori hanno osservato differenze significative soprattutto in scenari politicamente sensibili, come territori contesi o identità nazionali. In questi casi, i modelli hanno mostrato allineamenti diversi a seconda dell’area geografica. Inoltre, in ambiti che richiedono precisione – come calcoli finanziari, informazioni aggiornate o dati sensibili al tempo – alcuni modelli hanno restituito risultati obsoleti o non coerenti.
Perché serve una governance dell’intelligenza artificiale
Secondo Marco Fanuli, Technical Director di Trend Micro Italia, molte organizzazioni continuano a considerare l’AI come un software tradizionale. Si aspettano che lo stesso input generi sempre lo stesso output. Tuttavia, Fanuli sottolinea che questa convinzione è errata. I modelli AI possono cambiare comportamento in base al contesto geografico, linguistico o regolatorio, e persino da un’interazione all’altra.
Di conseguenza, quando l’AI supporta la comunicazione con i clienti o guida decisioni di business, l’azienda rischia di perdere il controllo sulla coerenza dei messaggi, sulla compliance e sul rispetto delle norme culturali.
Lo studio mostra inoltre che i rischi aumentano per le organizzazioni globali. Un servizio che utilizza l’AI deve rispettare quadri giuridici diversi, come GDPR, AI Act europeo, normative sulla sovranità dei dati e regolamenti locali sui contenuti. Anche il settore pubblico affronta criticità: gli utenti possono interpretare un output dell’AI come una guida ufficiale, con conseguenti rischi di sovranità, accessibilità e affidabilità.
Supervisione umana e trasparenza dei fornitori
Fanuli sottolinea che l’intelligenza artificiale non funziona come uno strumento plug‑and‑play. Le organizzazioni devono definire responsabilità chiare, introdurre verifiche umane e adottare una governance strutturata. Inoltre, i fornitori di AI devono garantire trasparenza sul funzionamento dei modelli, sui dati utilizzati e sui guardrail applicati. Solo così le aziende comprendono i limiti dei sistemi e valutano come l’AI si comporta negli ambienti reali.
La governance dell’intelligenza artificiale diventa quindi un elemento strategico per innovare in sicurezza. L’AI accelera processi, migliora l’efficienza e apre nuove opportunità, ma richiede consapevolezza, controllo e una piena comprensione dei rischi.
Alessandro Trani
Direttore editoriale del network Le Roy. Coordina contenuti e progetti multimediali delle testate del gruppo. Leggi di più
