Framework di gestione del rischio AI: guida passo passo per il 2026

Un framework di gestione del rischio AI è l'insieme di passi con cui si individuano, si classificano, si controllano e si monitorano i rischi dei sistemi AI che influenzano le decisioni di business. La versione pratica ha cinque passi: censire la propria AI, classificare ogni caso d'uso per impatto, applicare controlli a quelli ad alto rischio, assegnare la governance e monitorare con un piano di gestione degli incidenti collaudato.

Questa guida è pensata per CIO, risk owner e responsabili di programmi SAP che hanno già l'AI in finanza, HR o acquisti, o stanno per averla. Mappa ogni passo sul NIST AI RMF e sull'AI Act dell'UE e fornisce un modello di registro dei rischi da cui partire.

Le decisioni automatizzate falliscono in fretta. Nel 2012 Knight Capital rilasciò un software di trading difettoso e, secondo la SEC statunitense, perse più di 460 milioni di dollari in 45 minuti perché nessuno riuscì a fermare il sistema in tempo. Non era machine learning. Era un sistema decisionale automatizzato senza un monitoraggio efficace e senza un kill switch, ed è esattamente la lacuna che oggi hanno molte implementazioni di AI.

I principi che seguono restano validi. Tre cambiamenti esterni modificano ciò su cui si pianifica.

Il NIST ha aggiunto un profilo per l'AI generativa. Il NIST AI Risk Management Framework (AI RMF 1.0, gennaio 2023) si fonda su quattro funzioni: Govern, Map, Measure, Manage. A luglio 2024 il NIST ha pubblicato il Generative AI Profile (NIST AI 600-1), che copre rischi come confabulazione, prompt injection, privacy dei dati e proprietà intellettuale. Se si usano Joule, Microsoft Copilot o propri agenti di AI generativa su dati aziendali, conviene richiamarlo nel registro dei rischi. Il NIST dichiara che il framework di base è in fase di revisione; una versione 1.1 non esiste ancora.

Il calendario dell'AI Act dell'UE si è spostato. L'AI Act è entrato in vigore il 1° agosto 2024. I divieti sulle pratiche proibite e gli obblighi di alfabetizzazione in materia di AI valgono dal 2 febbraio 2025, quelli sull'AI per finalità generali dal 2 agosto 2025. Gran parte delle regole restanti e dell'applicazione sanzionatoria vale dal 2 agosto 2026. Dopo le modifiche del Digital Omnibus adottate nel 2026, le regole per i sistemi ad alto rischio elencati nell'Allegato III (assunzioni, scoring creditizio, accesso a servizi essenziali e simili) si applicano dal 2 dicembre 2027, e quelle per l'AI ad alto rischio all'interno di prodotti regolamentati dal 2 agosto 2028. Il calendario di attuazione della Commissione è il posto dove verificare. Le sanzioni arrivano a 35 milioni di euro o al 7% del fatturato mondiale per le pratiche vietate, e a 15 milioni di euro o al 3% per la maggior parte delle altre violazioni.

Il tempo in più non è un motivo per aspettare. Documentazione tecnica, data governance, sorveglianza umana e monitoraggio successivo all'immissione sul mercato richiedono più tempo di quanto la maggior parte dei team si aspetti.

ISO/IEC 42001 ha dato alla governance dell'AI uno standard certificabile. Pubblicata a dicembre 2023, fa per la gestione dell'AI ciò che ISO 27001 ha fatto per la sicurezza delle informazioni. ISO/IEC 23894 (2023) aggiunge indicazioni specifiche sulla gestione del rischio AI. A mio avviso, qualsiasi azienda che venda software con funzioni di AI ad acquirenti di settori regolamentati deve aspettarsi che la 42001 compaia nei questionari di acquisto.

Per le organizzazioni del Golfo, la Carta per lo sviluppo e l'uso dell'AI degli Emirati Arabi Uniti (2024) e i Principi etici sull'AI della SDAIA saudita non sono legge vincolante come lo è l'AI Act dell'UE, ma le autorità di regolamentazione e gli acquirenti del settore pubblico chiedono già come li si rispetta.

Un framework adeguato attraversa l'intero ciclo di vita del modello, dalla progettazione al rilascio fino all'operatività quotidiana.

Componente	Che cosa copre	Azioni chiave
Struttura di governance	Supervisione e diritti decisionali	Istituire un comitato per il rischio AI; nominare un responsabile per ogni sistema
Individuazione dei rischi	Rischi tecnici, etici e normativi	Workshop sui rischi, threat modelling, analisi di scenario
Allineamento normativo	AI Act dell'UE, GDPR, ISO 42001, norme locali	Mappare ogni caso d'uso sulle norme che si applicano
Bias ed equità	Esiti discriminatori	Test sui bias, audit di equità, impatto per gruppo
Spiegabilità	Decisioni che le persone possono capire	Metodi di spiegabilità, documentazione dei modelli
Sicurezza e privacy	Protezione di modelli e dati	Cifrare i dati di addestramento; test avversariali
Monitoraggio continuo	Comportamento dopo il rilascio	KPI, rilevamento delle anomalie, cicli di revisione umana
Risposta agli incidenti	Malfunzionamenti e violazioni etiche	Percorsi di escalation, piani di rollback e di ripristino

Quasi tutti i framework falliscono perché stanno fuori dal flusso del progetto. La governance dell'AI deve vivere dentro il modello operativo, accanto ad audit e change control. Altrimenti i problemi emergono tardi, quando sono più difficili e più costosi da correggere.

1. 01IndividuareCensire ogni sistema AI
2. 02ClassificarePer probabilità e impatto
3. 03ControllareI controlli più severi sui sistemi ad alto rischio
4. 04GovernareUn responsabile nominato per ogni modello
5. 05MonitorareAlert e un piano di gestione degli incidenti collaudato

Revisione mensile per i sistemi critici, trimestrale per gli altri

Si parte da un inventario. Per ogni sistema AI si risponde a tre domande. Quali dati elabora? Su quali decisioni influisce? Qual è il caso peggiore se sbaglia?

Le categorie di rischio più comuni:

1. Bias ed equità. I modelli addestrati su dati storici ereditano i loro bias. Se cinque anni di decisioni di assunzione hanno favorito certi profili, il modello li ripeterà. Amazon ha abbandonato uno strumento di recruiting basato su AI dopo aver scoperto che penalizzava i CV contenenti la parola «women's», come riportò Reuters nel 2018. Era prevedibile. Un audit di base sui bias prima del rilascio l'avrebbe intercettato.
2. Sicurezza. I sistemi AI che toccano pagamenti, dati HR o contratti sono bersagli. Data poisoning, prompt injection e furto del modello sono percorsi di attacco reali.
3. Compliance. GDPR, AI Act dell'UE, ISO 42001, HIPAA e norme locali possono applicarsi tutti insieme. Le autorità di vigilanza vogliono vedere sempre più spesso il metodo dietro una decisione dell'AI, non solo il risultato.
4. Drift operativo. Un modello addestrato nel primo trimestre può comportarsi in modo diverso già nel terzo, quando cambiano i pattern dei dati. Nessuno se ne accorge finché un cliente non si lamenta o un audit non lo scopre.

Non tutti i rischi sono uguali. Si classifica per probabilità e impatto sul business.

1. Critico: AI che influenza approvazioni finanziarie, decisioni sull'occupazione o controllo degli accessi. Servono i controlli più severi, sorveglianza umana e documentazione completa.
2. Moderato: AI che formula raccomandazioni mentre la decisione finale resta a una persona. Controlli più leggeri, ma il log di audit resta richiesto.
3. Basso: strumenti interni con perimetro limitato e poco effetto sulle persone. Monitoraggio di base e revisione periodica.

Conviene usare come verifica incrociata le categorie dell'AI Act dell'UE. Assunzioni, credito e accesso ai servizi essenziali sono esplicitamente ad alto rischio.

Bias. Usare dati di addestramento rappresentativi. Verificare a scadenze regolari gli esiti per gruppo demografico. Tenere una persona nel ciclo per le decisioni sui singoli: assunzioni, prestiti, accessi. Indagare sulle differenze nei tassi di accettazione tra i gruppi.

Sicurezza. Cifrare i dati di addestramento e gli output del modello. Limitare chi può modificare i modelli. Verificare se input costruiti ad hoc riescono a manipolare il comportamento. Tenere d'occhio schemi di accesso insoliti.

Continuità operativa. Definire che cosa significa «normale» per ciascun sistema, poi impostare soglie di allerta. Quando una metrica si muove (tasso di blocco delle frodi, rapporto di accettazione nelle assunzioni, schema di approvazione dei fornitori), si vuole un alert, non una sorpresa a fine mese. E bisogna essere certi che qualcuno possa spegnere rapidamente il sistema.

La governance dell'AI richiede tre cose.

1. Responsabilità nominata. Una persona risponde degli output di ogni modello. Un comitato senza presidente non è nessuno.
2. Tracce di audit. Ogni decisione influenzata dall'AI richiede una registrazione tracciabile: i dati usati, l'output, e quando e da chi è stato rivisto.
3. Allineamento normativo. Verificare ogni sistema rispetto a ISO 42001, NIST AI RMF, AI Act dell'UE e GDPR o al suo equivalente regionale. Ripetere la verifica quando le regole cambiano, come hanno appena fatto le date dell'UE.

Se si costruisce tutto questo dentro un programma SAP, la mia guida alla governance dell'AI nelle implementazioni SAP spiega dove si collocano i controlli in S/4HANA e SuccessFactors.

Strumenti molto diffusi negli ambienti enterprise:

Strumento	Ambito principale
Fiddler AI	Monitoraggio dei modelli, spiegabilità, rilevamento dei bias
IBM watsonx.governance (include Watson OpenScale)	Governance dei modelli, monitoraggio di bias e drift, documentazione
Microsoft Responsible AI dashboard (Azure Machine Learning)	Equità, analisi degli errori, squilibrio dei dati
Arthur	Monitoraggio di prestazioni, drift ed equità
Amazon SageMaker Clarify	Rilevamento dei bias in addestramento e inferenza

Quando qualcosa va storto, i team che improvvisano peggiorano le cose. Il percorso di escalation va definito prima dell'incidente: chi riceve la chiamata, quale autorità ha per sospendere o fare il rollback del modello, e che cosa si dice ai clienti se i loro dati sono stati coinvolti.

Ho visto aziende dare per scontato che la loro AI funzionasse bene, per poi correre ai ripari quando un errore silenzioso si è trasformato in una crisi. Un piano di gestione degli incidenti scritto, collaudato e non solo archiviato, fa la differenza.

Una riga per ogni sistema AI. Va rivisto ogni mese per i sistemi critici e ogni trimestre per gli altri.

Campo	Che cosa registrare	Esempio
Sistema e responsabile	Nome, responsabile di business, responsabile tecnico	Modello di approvazione automatica delle fatture; responsabile contabilità fornitori; responsabile data science
Decisione influenzata	Che cosa decide o raccomanda	Approva fatture sotto una soglia senza revisione
Dati utilizzati	Fonti, dati personali, campi sensibili	Anagrafica fornitori, righe fattura, storico dei pagamenti
Livello di rischio	Critico / moderato / basso; categoria dell'AI Act dell'UE se pertinente	Moderato; non Allegato III
Rischi principali	Bias, sicurezza, compliance, drift	Drift al variare del mix di fornitori; frode tramite fatture manipolate
Controlli	Test, revisione umana, soglie, kill switch	Revisione a campione settimanale; tetto di importo; alert sulla variazione del tasso di approvazione
Metrica di monitoraggio	Che cosa si osserva e il livello di allerta	Tasso di approvazione automatica fuori dalla sua fascia normale
Contatto per gli incidenti	Chi può sospenderlo e con quale rapidità	Responsabile contabilità fornitori, entro un tempo di risposta concordato
Ultima revisione	Data e revisore	Mensile, a cura del comitato per il rischio AI

Per la struttura di governance che possiede questo registro, vedere la mia guida al framework di governance dell'AI. Se vuole che qualcuno dall'esterno riveda il suo registro prima che lo chieda un'autorità di vigilanza o un auditor, fa parte del mio lavoro di advisory sulla governance dell'AI.

Che cos'è un framework di gestione del rischio AI?

Un processo strutturato per individuare, valutare e gestire i rischi che nascono quando i sistemi AI influenzano le decisioni di business. Copre il ciclo di vita del modello e comprende controlli per bias, sicurezza, compliance e drift operativo.

Negli ambienti SAP si applica ai modelli usati negli acquisti (scoring dei fornitori), in HR (selezione dei candidati), in finanza (approvazione delle fatture) e nella supply chain (previsione della domanda). Questi sistemi incidono su persone, denaro e conformità.

Che cos'è il NIST AI Risk Management Framework?

Un framework volontario del National Institute of Standards and Technology degli Stati Uniti, pubblicato come AI RMF 1.0 a gennaio 2023 e costruito su quattro funzioni:

1. Govern: politiche, responsabilità e cultura
2. Map: contesto, uso previsto e possibili impatti
3. Measure: test su bias, robustezza, spiegabilità e sicurezza
4. Manage: definizione delle priorità, trattamento dei rischi e monitoraggio

A luglio 2024 il NIST ha aggiunto il Generative AI Profile (NIST AI 600-1), il riferimento statunitense più utile per governare assistenti come Joule e Copilot.

Quando si applicano le regole sull'alto rischio dell'AI Act dell'UE?

Dopo le modifiche del Digital Omnibus del 2026, le regole per i sistemi ad alto rischio elencati nell'Allegato III (come assunzioni, scoring creditizio e accesso a servizi essenziali) si applicano dal 2 dicembre 2027. L'AI ad alto rischio incorporata in prodotti coperti dalla normativa UE sulla sicurezza dei prodotti segue il 2 agosto 2028. I divieti e le regole sull'AI per finalità generali sono già in vigore.

Quali sono i rischi maggiori dell'AI in azienda?

1. Bias e discriminazione: dati storici distorti producono output distorti
2. Sicurezza: data poisoning, prompt injection e furto del modello
3. Compliance: GDPR, AI Act dell'UE, ISO 42001 e norme di settore
4. Drift operativo: l'accuratezza si degrada al cambiare dei pattern dei dati
5. Mancanza di spiegabilità: una decisione che non si sa spiegare è difficile da difendere davanti a un'autorità di vigilanza, a un cliente o all'internal audit

Che cosa deve coprire un piano di risposta agli incidenti AI?

Quattro cose, definite prima dell'incidente:

1. Percorso di escalation: chi viene avvisato per primo, chi può sospendere o fare il rollback del modello, chi parla con i clienti
2. Contenimento: come isolare il sistema senza interrompere i processi a valle
3. Comunicazione ai clienti: che cosa si dice alle persone coinvolte e quando
4. Revisione post-incidente: causa radice, riaddestramento o rollback e controlli aggiornati

Il piano va provato con un'esercitazione a tavolino almeno una volta all'anno.