Raamwerk voor AI-risicomanagement: stapsgewijze gids 2026

Een raamwerk voor AI-risicomanagement is de reeks stappen waarmee u de risico's van AI-systemen die zakelijke beslissingen beïnvloeden vindt, rangschikt, beheerst en bewaakt. De praktische versie telt vijf stappen: inventariseer uw AI, rangschik elke toepassing op impact, leg controles op de toepassingen met hoog risico, wijs governance toe en monitor met een geteste incidentaanpak.

Deze gids is voor CIO's, risico-eigenaren en SAP-programmaleiders die al AI hebben in finance, HR of inkoop, of die dat binnenkort krijgen. Elke stap wordt gekoppeld aan het NIST AI RMF en de EU AI Act, en u krijgt een sjabloon voor een risicoregister om mee te beginnen.

Geautomatiseerde beslissingen falen snel. In 2012 zette Knight Capital foutieve handelssoftware in productie en verloor, volgens de US SEC, meer dan $460 miljoen in 45 minuten, omdat niemand het systeem op tijd kon stoppen. Dat was geen machine learning. Het was een geautomatiseerd beslissysteem zonder effectieve monitoring en zonder kill switch, precies het gat dat veel organisaties met AI in productie nu hebben.

De onderstaande principes gelden nog steeds. Drie externe veranderingen wijzigen waarmee u rekening moet houden in uw planning.

NIST voegde een profiel voor generatieve AI toe. Het NIST AI Risk Management Framework (AI RMF 1.0, januari 2023) rust op vier functies: Govern, Map, Measure, Manage. In juli 2024 publiceerde NIST het Generative AI Profile (NIST AI 600-1), dat risico's behandelt zoals confabulatie, prompt injection, gegevensprivacy en intellectueel eigendom. Draait u Joule, Microsoft Copilot of uw eigen generatieve AI-agents op bedrijfsdata, verwijs er dan naar in uw risicoregister. NIST zegt dat het kernraamwerk wordt herzien. Een versie 1.1 bestaat nog niet.

De tijdlijn van de EU AI Act is verschoven. De Act trad op 1 augustus 2024 in werking. Verboden praktijken en de verplichtingen rond AI-geletterdheid golden vanaf 2 februari 2025, en de verplichtingen voor AI voor algemene doeleinden vanaf 2 augustus 2025. De meeste resterende regels en de handhaving gelden vanaf 2 augustus 2026. Na de Digital Omnibus-wijzigingen die in 2026 zijn aangenomen, gelden de regels voor hoog-risicosystemen uit Bijlage III (werving, kredietscoring, toegang tot essentiële diensten en vergelijkbare toepassingen) vanaf 2 december 2027, en voor hoog-risico-AI in gereguleerde producten vanaf 2 augustus 2028. De implementatietijdlijn van de Commissie is de plek om dit na te gaan. Boetes lopen op tot € 35 miljoen of 7% van de wereldwijde omzet voor verboden praktijken, en € 15 miljoen of 3% voor de meeste andere overtredingen.

Het extra uitstel is geen reden om te wachten. Technische documentatie, datagovernance, menselijk toezicht en monitoring na het op de markt brengen kosten meer tijd om op te bouwen dan de meeste teams verwachten.

ISO/IEC 42001 gaf AI-governance een certificeerbare norm. De norm verscheen in december 2023 en doet voor AI-management wat ISO 27001 deed voor informatiebeveiliging. ISO/IEC 23894 (2023) voegt richtlijnen toe die specifiek over AI-risicomanagement gaan. Naar mijn mening moet elk bedrijf dat software met AI levert aan gereguleerde kopers erop rekenen dat 42001 in inkoopvragenlijsten opduikt.

Voor organisaties in de Golfregio zijn het Charter for the Development and Use of AI (2024) van de VAE en de AI Ethics Principles van de SDAIA in Saoedi-Arabië niet bindend zoals de EU-wet, maar toezichthouders en publieke inkopers vragen nu al hoe u eraan voldoet.

Een goed raamwerk loopt door de hele levenscyclus van het model, van ontwerp via ingebruikname tot de dagelijkse praktijk.

Onderdeel	Wat het omvat	Kernacties
Governancestructuur	Toezicht en beslisbevoegdheden	Stel een AI-risicocomité in; benoem een eigenaar per systeem
Risico-identificatie	Technische, ethische en regelgevende risico's	Risicoworkshops, threat modelling, scenarioanalyse
Afstemming op regelgeving	EU AI Act, AVG (GDPR), ISO 42001, lokale regels	Koppel elke toepassing aan de regels die erop van toepassing zijn
Bias en eerlijkheid	Discriminerende uitkomsten	Biastests, fairness-audits, impact per groep
Verklaarbaarheid	Beslissingen die mensen kunnen begrijpen	Verklaarbaarheidsmethoden, modeldocumentatie
Beveiliging en privacy	Bescherming van model en data	Versleutel trainingsdata; adversarial testing
Continue monitoring	Gedrag na de ingebruikname	KPI's, anomaliedetectie, menselijke reviewlussen
Incidentrespons	Storingen en ethische schendingen	Escalatiepaden, rollback- en herstelplannen

De meeste raamwerken mislukken omdat ze buiten de projectstroom staan. AI-governance moet in het operationele model zitten, naast audit en wijzigingsbeheer. Anders komen problemen laat boven water, wanneer ze moeilijker en duurder op te lossen zijn.

1. 01IdentificerenInventariseer elk AI-systeem
2. 02RangschikkenOp kans en impact
3. 03BeheersenHet strengst bij systemen met hoog risico
4. 04GovernanceEen benoemde eigenaar per model
5. 05MonitorenAlerts en een geteste incidentaanpak

Maandelijks beoordelen voor kritieke systemen, driemaandelijks voor de rest

Begin met een inventaris. Beantwoord voor elk AI-systeem drie vragen. Welke data verwerkt het? Welke beslissingen beïnvloedt het? Wat is de slechtste uitkomst als het iets fout doet?

De gangbare risicocategorieën:

1. Bias en eerlijkheid. Modellen die op historische data zijn getraind, nemen de vooroordelen daarvan over. Als vijf jaar aan wervingsbeslissingen naar bepaalde profielen neigde, herhaalt het model dat. Amazon schrapte een AI-wervingstool nadat bleek dat die cv's lager waardeerde wanneer daarin het woord “women's” voorkwam, zoals Reuters in 2018 meldde. Dat was voorspelbaar. Een eenvoudige bias-audit vóór de ingebruikname had het opgespoord.
2. Beveiliging. AI-systemen die betalingen, personeelsdossiers of contracten raken, zijn doelwit. Data poisoning, prompt injection en modeldiefstal zijn reële aanvalsroutes.
3. Compliance. AVG, EU AI Act, ISO 42001, HIPAA en lokale regels kunnen allemaal tegelijk gelden. Toezichthouders willen steeds vaker de methode achter een AI-beslissing zien, niet alleen de uitkomst.
4. Operationele drift. Een model dat in Q1 is getraind, kan in Q3 anders gedrag vertonen naarmate datapatronen verschuiven. Niemand merkt het tot een klant klaagt of een audit het vindt.

Niet alle risico's zijn gelijk. Rangschik op kans en zakelijke impact.

1. Kritiek: AI die financiële goedkeuringen, personeelsbeslissingen of toegangscontrole beïnvloedt. Die vragen om de strengste controles, menselijk toezicht en volledige documentatie.
2. Gemiddeld: AI die adviseert terwijl een mens de uiteindelijke beslissing neemt. Lichtere controles, maar auditlogging blijft van toepassing.
3. Laag: interne tools met beperkte scope en weinig effect op mensen. Basismonitoring en periodieke review.

Gebruik de categorieën van de EU AI Act als controle. Werving, krediet en toegang tot essentiële diensten zijn uitdrukkelijk hoog-risico.

Bias. Gebruik representatieve trainingsdata. Audit de uitkomsten regelmatig per demografische groep. Houd bij beslissingen over individuen een mens in de keten: werving, kredietverlening, toegang. Onderzoek verschillen in acceptatiepercentages tussen groepen.

Beveiliging. Versleutel trainingsdata en modeluitvoer. Beperk wie modellen mag wijzigen. Test of speciaal samengestelde invoer het gedrag kan manipuleren. Let op ongebruikelijke toegangspatronen.

Operationele continuïteit. Bepaal per systeem wat normaal is en stel dan drempelwaarden voor alerts in. Verschuift een meetwaarde (het percentage geblokkeerde fraude, de acceptatieverhouding bij werving, het goedkeuringspatroon bij leveranciers), dan wilt u een alert en geen verrassing bij de maandafsluiting. En zorg dat iemand het systeem snel kan uitschakelen.

Governance voor AI vraagt om drie dingen.

1. Benoemd eigenaarschap. Eén persoon staat in voor de uitkomsten van elk model. Een comité zonder voorzitter is niemand.
2. Audittrails. Elke door AI beïnvloede beslissing heeft een traceerbare registratie nodig: de gebruikte data, de uitkomst, en wanneer en door wie die is beoordeeld.
3. Afstemming op regelgeving. Toets elk systeem aan ISO 42001, het NIST AI RMF, de EU AI Act en de AVG of uw regionale equivalent. Controleer opnieuw wanneer de regels veranderen, zoals de EU-data zojuist deden.

Bouwt u dit binnen een SAP-programma, dan laat mijn gids over AI-governance bij SAP-implementaties zien waar de controles in S/4HANA en SuccessFactors zitten.

Tools die veel worden gebruikt in bedrijfsomgevingen:

Tool	Primaire focus
Fiddler AI	Modelmonitoring, verklaarbaarheid, biasdetectie
IBM watsonx.governance (inclusief Watson OpenScale)	Modelgovernance, monitoring van bias en drift, documentatie
Microsoft Responsible AI dashboard (Azure Machine Learning)	Fairness, foutanalyse, onevenwichtige data
Arthur	Monitoring van prestaties, drift en fairness
Amazon SageMaker Clarify	Biasdetectie bij training en inferentie

Wanneer er iets misgaat, maken teams die improviseren het erger. Leg het escalatiepad vast vóór het incident: wie gebeld wordt, welke bevoegdheid die persoon heeft om het model te pauzeren of terug te draaien, en wat u klanten vertelt als hun gegevens zijn geraakt.

Ik heb bedrijven gezien die aannamen dat hun AI prima draaide, en in paniek raakten toen een sluipende fout uitgroeide tot een crisis. Een schriftelijk incidentplan, getest en niet alleen opgeborgen, maakt het verschil.

Eén rij per AI-systeem. Beoordeel het maandelijks voor kritieke systemen en driemaandelijks voor de rest.

Veld	Wat u vastlegt	Voorbeeld
Systeem en eigenaar	Naam, business owner, technisch eigenaar	Model voor automatische factuurgoedkeuring; crediteurenmanager; data science lead
Beïnvloede beslissing	Wat het beslist of adviseert	Keurt facturen onder een drempelbedrag goed zonder review
Gebruikte data	Bronnen, persoonsgegevens, gevoelige velden	Leveranciersstamgegevens, factuurregels, betalingshistorie
Risiconiveau	Kritiek / gemiddeld / laag; EU AI Act-categorie indien relevant	Gemiddeld; niet Bijlage III
Belangrijkste risico's	Bias, beveiliging, compliance, drift	Drift naarmate de leveranciersmix verandert; fraude via gemanipuleerde facturen
Controles	Tests, menselijke review, drempelwaarden, kill switch	Wekelijkse steekproef; waardeplafond; alert bij verandering in het goedkeuringspercentage
Monitoringmeetwaarde	Wat u bewaakt en het alertniveau	Automatisch goedkeuringspercentage buiten de normale band
Incidentcontact	Wie het kan pauzeren, en hoe snel	Crediteurenmanager, binnen een afgesproken reactietijd
Laatst beoordeeld	Datum en beoordelaar	Maandelijks, door het AI-risicocomité

Voor de governancestructuur die dit register beheert, zie mijn gids voor een AI-governanceraamwerk. Wilt u een externe beoordeling van uw register voordat een toezichthouder of auditor erom vraagt, dan maakt dat deel uit van mijn advieswerk op het gebied van AI-governance.

Wat is een raamwerk voor AI-risicomanagement?

Een gestructureerd proces om de risico's te identificeren, te beoordelen en te beheersen die ontstaan wanneer AI-systemen zakelijke beslissingen beïnvloeden. Het bestrijkt de levenscyclus van het model en omvat controles voor bias, beveiliging, compliance en operationele drift.

In SAP-omgevingen geldt het voor modellen in inkoop (leveranciersscoring), HR (screening van kandidaten), finance (factuurgoedkeuring) en supply chain (vraagvoorspelling). Deze systemen raken mensen, geld en compliance.

Wat is het NIST AI Risk Management Framework?

Een vrijwillig raamwerk van het Amerikaanse National Institute of Standards and Technology, gepubliceerd als AI RMF 1.0 in januari 2023 en gebouwd op vier functies:

1. Govern: beleid, verantwoordelijkheid en cultuur
2. Map: context, beoogd gebruik en mogelijke effecten
3. Measure: testen op bias, robuustheid, verklaarbaarheid en beveiliging
4. Manage: risico's prioriteren en behandelen, en monitoren

In juli 2024 voegde NIST het Generative AI Profile (NIST AI 600-1) toe, de nuttigste Amerikaanse referentie voor het besturen van assistenten zoals Joule en Copilot.

Wanneer gelden de hoog-risicoregels van de EU AI Act?

Na de Digital Omnibus-wijzigingen van 2026 gelden de regels voor hoog-risicosystemen uit Bijlage III (zoals werving, kredietscoring en toegang tot essentiële diensten) vanaf 2 december 2027. Hoog-risico-AI die is ingebed in producten die onder de Europese productveiligheidswetgeving vallen, volgt op 2 augustus 2028. De verboden en de regels voor AI voor algemene doeleinden gelden al.

Wat zijn de grootste risico's van AI in bedrijven?

1. Bias en discriminatie: scheve historische data leveren scheve uitkomsten op
2. Beveiliging: data poisoning, prompt injection en modeldiefstal
3. Compliance: AVG, de EU AI Act, ISO 42001 en sectorregels
4. Operationele drift: de nauwkeurigheid neemt af naarmate datapatronen veranderen
5. Gebrek aan verklaarbaarheid: een beslissing die u niet kunt uitleggen, is moeilijk te verdedigen tegenover een toezichthouder, een klant of de interne audit

Wat moet een incidentresponsplan voor AI omvatten?

Vier dingen, vastgelegd vóór het incident:

1. Escalatiepad: wie als eerste wordt ingelicht, wie het model kan pauzeren of terugdraaien, wie met klanten spreekt
2. Beheersing: hoe u het systeem isoleert zonder nageschakelde processen te breken
3. Communicatie met klanten: wat u getroffen mensen vertelt en wanneer
4. Evaluatie na het incident: oorzaakanalyse, hertrainen of terugdraaien, en bijgewerkte controles

Test het plan minstens eenmaal per jaar met een tafeloefening.