AI-governance

AI-governance is de manier waarop een organisatie haar gebruik van kunstmatige intelligentie (AI) bestuurt en beheerst. Het gaat om de regels, werkwijzen, processen en technische hulpmiddelen die ervoor moeten zorgen dat AI-toepassingen passen bij de strategie en de waarden van de organisatie, aan de wet voldoen en de ethische uitgangspunten volgen die de organisatie zelf hanteert. Het begrip hoort bij corporate governance en IT-governance en overlapt deels met het beheer van data.

AI-governance staat niet los van de regulering van kunstmatige intelligentie door overheden. Wetten zoals de Europese AI-verordening leggen organisaties plichten op, en die moeten zij binnen hun eigen organisatie invullen. Voor dat werk zijn kaders en normen ontwikkeld, waarvan het risicokader van het Amerikaanse National Institute of Standards and Technology (NIST) en de norm ISO/IEC 42001 de bekendste zijn.

Begrip

Een eenduidige definitie bestaat niet. Toen Teemu Birkstedt en drie collega's in 2023 de literatuur tussen 2010 en 2021 doorzochten, hielden zij 68 publicaties over. Daarvan gaven er maar weinig een expliciete definitie, en bijna alle waren beschouwend van aard: slechts drie waren empirisch.

Als werkdefinitie namen zij een omschrijving over uit een artikel van Matti Mäntymäki, Matti Minkkinen, Teemu Birkstedt en Mika Viljanen uit 2022. Die auteurs zien AI-governance als een stelsel van regels, werkwijzen, processen en technologische hulpmiddelen waarmee een organisatie zorgt dat haar AI-gebruik aansluit bij haar strategie, doelen en waarden, aan wettelijke eisen voldoet en de ethische principes volgt die zij onderschrijft. In hun model valt AI-governance binnen corporate governance en IT-governance. Met datagovernance is er overlap, want data zijn zowel de grondstof als de uitkomst van een AI-systeem. Goed databeheer noemen de auteurs nodig, maar niet genoeg: de modellen en algoritmen zelf vallen er meestal buiten.

In de literatuur vonden Birkstedt en collega's vier terugkerende thema's: technologie, belanghebbenden en context, regulering, en processen. Over hoe organisaties AI-governance in de praktijk invullen, was volgens hen weinig bekend. Waar het wel aan bod kwam, ging het vooral om drie instrumenten: toezicht, audits en effect- of risicobeoordelingen.

Emmanouil Papagiannidis, Patrick Mikalef en Kieran Conboy verdeelden de praktijken in 2024 in drie soorten, naar voorbeeld van onderzoek naar IT-governance. Structurele praktijken bepalen wie welke beslissingen over AI neemt, bijvoorbeeld via een AI-commissie. Procedurele praktijken gaan over de manier waarop dat gebeurt. Relationele praktijken gaan over de samenwerking binnen en buiten de organisatie en over de kennis van medewerkers.

Een breder overzicht van het vakgebied geeft The Oxford Handbook of AI Governance, met 49 hoofdstukken in negen delen.

Kaders en normen

Internationale afspraken

In mei 2019 nam de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO) principes voor AI aan, die in mei 2024 werden herzien. Eén ervan gaat over verantwoording. Wie AI ontwikkelt of gebruikt, is verantwoordelijk voor de goede werking ervan. De OESO vraagt daarbij om naspeurbaarheid en om een systematische aanpak van risico's.

De Raad van Europa stelde in september 2024 een kaderverdrag over AI, mensenrechten, democratie en de rechtsstaat open voor ondertekening. Landen die het verdrag aannemen, moeten maatregelen treffen om de risico's van AI-systemen voor mensenrechten, democratie en de rechtsstaat in kaart te brengen en te beperken. Het verdrag treedt in werking na vijf ratificaties. In november 2026 waren dat er twee.

NIST AI Risk Management Framework

Het NIST bracht in januari 2023 het AI Risk Management Framework uit. Het gebruik ervan is vrijwillig, en het kader is niet gebonden aan een sector of toepassing. Het werkt met vier functies: govern, map, measure en manage. Govern loopt door de andere drie heen. Die functie gaat over een cultuur van risicobeheer en over de vraag of dat risicobeheer past bij het beleid en de prioriteiten van de organisatie. In juli 2024 kwam er een aanvulling voor generatieve kunstmatige intelligentie, over risico's die bij die vorm van AI nieuw zijn of groter worden.

ISO-normen

De Internationale Organisatie voor Standaardisatie (ISO) en de Internationale Elektrotechnische Commissie (IEC) publiceerden drie normen die hier direct over gaan. ISO/IEC 38507 uit 2022 is geschreven voor het bestuur van een organisatie en beschrijft hoe het AI-gebruik kan mogelijk maken en besturen. ISO/IEC 23894 uit 2023 behandelt risicobeheer dat specifiek met AI te maken heeft. ISO/IEC 42001, eind 2023 verschenen, stelt eisen aan een managementsysteem voor AI: hoe een organisatie het opzet, invoert, onderhoudt en blijft verbeteren. ISO noemt het de eerste norm van die soort.

Europese AI-verordening

De AI-verordening van de Europese Unie (Verordening (EU) 2024/1689) verscheen op 12 juli 2024 en trad op 1 augustus 2024 in werking. Verboden toepassingen en de regels over AI-geletterdheid golden vanaf 2 februari 2025. Voor AI-modellen voor algemene doeleinden was dat 2 augustus 2025.

Een groot deel van de verordening raakt aan governance. Aanbieders van AI-systemen met een hoog risico moeten een systeem voor risicobeheer hebben dat de hele levensduur van het systeem beslaat, en een kwaliteitsbeheersysteem dat is vastgelegd in schriftelijk beleid, procedures en instructies. Zulke systemen moeten zo zijn gebouwd dat mensen er doeltreffend toezicht op kunnen houden. Wie een dergelijk systeem gebruikt, moet dat toezicht laten uitvoeren door mensen die daarvoor bekwaam, opgeleid en bevoegd zijn. Overheden en een aantal andere gebruikers moeten vooraf nagaan wat het systeem betekent voor grondrechten.

In juli 2026 werd de verordening aangepast met een zogeheten digitale omnibus. De regels voor AI met een hoog risico gaan daardoor later in: op 2 december 2027 voor de systemen uit bijlage III en op 2 augustus 2028 voor systemen die onder bijlage I vallen. De plicht rond AI-geletterdheid werd lichter. Organisaties moeten sindsdien maatregelen nemen die de AI-geletterdheid van hun personeel ondersteunen, zonder dat zij een bepaald niveau hoeven te garanderen.

In organisaties

Een vraag die steeds terugkomt, is wie in een organisatie eindverantwoordelijk is voor AI. De Nederlandsche Bank adviseerde financiële instellingen in 2019 om die verantwoordelijkheid bij de raad van bestuur te leggen. Om dezelfde reden richt ISO/IEC 38507 zich op het bestuursorgaan. Birkstedt en collega's stelden voor dat organisaties een aparte eenheid voor toezicht op AI oprichten, te vergelijken met de functionaris voor gegevensbescherming die de Algemene verordening gegevensbescherming voorschrijft. Zonder steun van het hoogste management en een goede aanpak van de verandering dreigt AI-governance volgens hen een kwestie van vinkjes zetten te worden.

Veel organisaties bouwen voort op bestaande modellen voor risicobeheer. Een daarvan is het three lines model van het Institute of Internal Auditors. De eerste lijn, de dagelijkse operatie, beheerst de risico's. De tweede lijn, zoals risicobeheer en compliance, ondersteunt en bewaakt dat. De derde lijn, de interne audit, geeft het bestuur onafhankelijke zekerheid. Jonas Schuett beschreef in 2023 hoe AI-bedrijven dat model kunnen gebruiken voor hun eigen risico's.

Hoe het mis kan gaan als de verantwoordelijkheid niet helder is, liet de zaak Moffatt v. Air Canada zien. Een chatbot van Air Canada gaf een reiziger verkeerde informatie over korting op tickets na een sterfgeval in de familie. De maatschappij voerde aan dat de chatbot zelf verantwoordelijk was voor wat hij zei. Het Civil Resolution Tribunal van Brits-Columbia ging daar in februari 2024 niet in mee: het bedrijf was verantwoordelijk voor alle informatie op zijn eigen website en had niet genoeg gedaan om te zorgen dat de chatbot klopte. Air Canada moest de reiziger schadevergoeding betalen.

Nederland

Overheid

Sinds december 2022 heeft de Nederlandse overheid een Algoritmeregister, waarin overheidsorganisaties beschrijven welke algoritmes zij gebruiken. In 2026 was registratie nog niet verplicht. Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties ontwikkelde daarnaast het Algoritmekader, een hulpmiddel voor overheden dat tot december 2024 als bètaversie online stond. Voor generatieve AI verscheen in 2025 een handreiking voor de hele overheid. Die raadt onder meer aan om een governancestructuur met een AI-stuurgroep op te zetten. Gemeenten kunnen gebruikmaken van een governancekader voor AI en algoritmen, dat enkele gemeenten samen met de Vereniging van Nederlandse Gemeenten maakten.

De Wetenschappelijke Raad voor het Regeringsbeleid noemde AI in 2021 een systeemtechnologie, te vergelijken met elektriciteit. Om die in te bedden onderscheidde de raad vijf opgaven: demystificatie, contextualisering, engagement, regulering en positionering.

Hoe het er bij het Rijk voor stond, onderzocht de Algemene Rekenkamer in 2024. Zeventig rijksorganisaties gaven samen 433 AI-systemen op, waarvan 167 nog experimenten waren. Bij meer dan de helft was geen afweging gemaakt tussen kansen en risico's. Dertig systemen werden als hoog risico ingeschat, maar volgens de Rekenkamer hadden organisaties er belang bij om dat niet te doen, omdat er dan minder eisen gelden. Slechts 5 procent van de systemen stond in het Algoritmeregister.

Audit

De beroepsorganisatie van IT-auditors, NOREA, publiceerde in 2021 richtlijnen voor onderzoek naar AI-systemen van organisaties. Governance is daarin een van de vijf risicocategorieën, naast ethiek, privacy, prestaties en beveiliging. De Auditdienst Rijk werkt sinds 2023 met een onderzoekskader voor algoritmes, waarin sturing en verantwoording een van de vier thema's is. In 2026 maakte de CIO Rijk bekend dat de overheid met de Auditdienst Rijk en NOREA werkte aan een normenkader voor AI waartegen getoetst kan worden. Ook gemeenteraden en lokale rekenkamers zouden daarmee het AI-beleid van hun bestuur kunnen beoordelen.

Toezicht

De Autoriteit Persoonsgegevens is sinds 1 januari 2023 de coördinerend toezichthouder op algoritmes en AI. Ze richtte daarvoor een aparte directie op, de Directie Coördinatie Algoritmes. Die brengt elk halfjaar een rapport uit over de risico's van AI en algoritmes in Nederland. In de editie van februari 2026 stond dat Nederlandse organisaties eigen kaders maken en proeven opzetten, maar dat het hun nog onduidelijk is hoe hun interne governance eruit moet zien. In april 2026 koos het kabinet ervoor het toezicht op de AI-verordening niet bij één nieuwe instantie te leggen. Tien bestaande toezichthouders kregen een rol, onder coördinatie van de Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur.

Op de achtergrond speelde de toeslagenaffaire. De Autoriteit Persoonsgegevens stelde in 2020 vast dat de Belastingdienst bij de kinderopvangtoeslag nationaliteit had gebruikt in een risicomodel, wat zij discriminerend noemde.

Financiële sector

De Nederlandsche Bank formuleerde in 2019 zes principes voor AI in de financiële sector, samen bekend als SAFEST: soundness, accountability, fairness, ethics, skills en transparency. In 2024 schreven DNB en de Autoriteit Financiële Markten samen dat bestaande regels gewoon blijven gelden als een instelling AI gebruikt. Een goede interne governance is volgens beide toezichthouders belangrijk om de risico's te beperken, en voor de uitkomsten blijven medewerkers en uiteindelijk het senior management verantwoordelijk.

Bedrijfsleven en accountancy

De NBA gaf in 2024 een leidraad uit over het beheersen van AI. In juni 2026 volgde, samen met NOREA, een tweede leidraad over AI in de accountants- en IT-auditpraktijk. Op een bijeenkomst voor commissarissen in 2025 zei Rob van Wingerden, voorzitter van de Monitoring Commissie Corporate Governance, dat AI een strategische kwestie is waarbij de hele raad van commissarissen betrokken moet zijn.

Trouw schreef in oktober 2026 over een reeks onderzoeken waaruit bleek dat AI bedrijven minder opleverde dan verwacht, onder andere van Berenschot, McKinsey en EY. Adviesbureau Arcaas kwam in een vergelijkend onderzoek naar AI-beheersing tot de conclusie dat het bedrijven vooral ontbreekt aan sturing en controle over de werkprocessen waarin AI wordt gebruikt. Aan dat onderzoek deden 452 organisaties mee; het ging uit van wat zij zelf opgaven. Volgens Hein van den Steenhoven, directeur van Arcaas, weten ook leden van raden van toezicht en raden van commissarissen vaak te weinig van AI om voorstellen en rapportages daarover kritisch te beoordelen. Leen Paape, emeritus hoogleraar aan Nyenrode, wees er in hetzelfde artikel op dat het niet alleen een kwestie van kennis is: wat de techniek gaat opleveren, weet volgens hem nog niemand.

Kritiek en knelpunten

Het vakgebied is jong en de definities lopen uiteen. Ook als er kaders zijn, worden ze niet altijd gevolgd. Bij het Rijk was voor een groot deel van de AI-systemen geen risicoafweging gemaakt, en vaak wisten organisaties niet of hun systemen deden wat ze moesten doen. De Autoriteit Persoonsgegevens waarschuwde in 2026 dat onduidelijkheid over basiszaken, zoals de indeling van AI-systemen en de eisen aan documentatie, kan leiden tot economische schade en incidenten. Het uitstel van delen van de AI-verordening werd onderbouwd met het late beschikbaar komen van normen en richtsnoeren en de vertraging bij het aanwijzen van nationale toezichthouders.

Zie ook