Artikel 14 van de EU AI Act stelt dat hoog-risico AI-systemen altijd onder effectief menselijk toezicht moeten staan. De wet is opzettelijk technologieneutraal — ze schrijft niet voor hoe je dat toezicht organiseert, maar stelt wel duidelijke eisen aan het resultaat: een mens moet de AI kunnen begrijpen, monitoren en zo nodig overschrijven.
Kerneis uit artikel 14: de mens die toezicht houdt, moet het vermogen hebben om de werking van het systeem te begrijpen, afwijkingen te herkennen, en te interveniëren. Passief "op de knop drukken" telt niet.
Wat is een menselijk toezichtprotocol?
Een menselijk toezichtprotocol is een gedocumenteerde procedure die vastlegt:
- Wie het toezicht uitoefent op een specifiek AI-systeem
- Wat die persoon beoordeelt (welke output, welke drempelwaarden)
- Wanneer het toezicht plaatsvindt (per beslissing, per batch, periodiek)
- Hoe het toezicht wordt gedocumenteerd
- Wat er gebeurt als de toezichthouder het niet eens is met de AI-aanbeveling
Het protocol is dus niet alleen een procesbeschrijving — het is ook het bewijs dat jouw organisatie actief en aantoonbaar toezicht houdt. Toezichthouders kunnen bij een inspectie om dit document vragen.
Wat valt er NIET onder menselijk toezicht?
Veelgemaakte fout: een medewerker die een AI-aanbeveling opent, leest en vervolgens automatisch accordeert, houdt géén toezicht. Toezicht vereist een actieve beoordeling — de toezichthouder moet de mogelijkheid en competentie hebben om te oordelen of de AI-uitkomst correct is.
Ook het volgende volstaat niet:
- Een log-in op het systeem zonder inhoudelijke beoordeling
- Een handtekening op een door AI gegenereerd document zonder review
- Een beoordeling door iemand die niet is getraind in de beperkingen van het systeem
Hoe stel je een protocol op? — stap voor stap
-
1
Identificeer het AI-systeem en de beslissing
Beschrijf wat het systeem doet, welke output het genereert en welke beslissing op basis van die output wordt genomen. Wees specifiek: "het ATS rankt kandidaten op basis van zes criteria en presenteert een shortlist van vijf". -
2
Wijs een toezichthouder aan
Benoem een specifieke functie (niet een afdeling). Beschrijf welke competenties vereist zijn: begrijpt deze persoon hoe het model werkt, welke beperkingen het heeft en hoe fouten eruit zien? -
3
Definieer de beoordelingscriteria
Wat controleert de toezichthouder? Zijn er drempelwaarden (bijv. een score onder X vereist altijd extra review)? Welke signalen wijzen op mogelijke bias of technische storing? -
4
Beschrijf de escalatieprocedure
Wat doet de toezichthouder als hij of zij het niet eens is met de AI-uitkomst? Wie wordt geïnformeerd? Hoe wordt de afwijking gedocumenteerd? -
5
Leg de logging-verplichting vast
Hoe wordt het toezicht geregistreerd? In welk systeem? Hoe lang worden logs bewaard? Wie heeft toegang voor een eventuele audit? -
6
Periodieke evaluatie
Hoe vaak wordt het protocol geëvalueerd? Wanneer is revisie vereist (bij een nieuwe modelversie, bij een calamiteit, bij gewijzigde wetgeving)?
Voorbeeld: menselijk toezichtprotocol voor CV-screening
Protocol: AI-ondersteunde CV-screening
Veelgestelde vragen
Moet er voor elk AI-systeem een apart protocol zijn?
Ja. Een generiek toezichtsbeleid is een goed startpunt, maar per hoog-risico AI-systeem moet er een specifiek protocol zijn dat de concrete toepassing, toezichthouder en werkwijze beschrijft.
Moet de toezichthouder altijd een senior medewerker zijn?
Niet per se qua functietitel, maar wel qua competentie. De AI Act eist dat de toezichthouder het systeem begrijpt en in staat is om bij te sturen. Dat stelt eisen aan training en ervaring.
Is een protocol ook nodig voor AI die we van een externe partij gebruiken?
Ja. Als jij als organisatie het AI-systeem inzet (deployer), ben jij verantwoordelijk voor het menselijk toezicht — ook als het systeem door een derde partij is gebouwd.
Weet welke AI-systemen in jouw organisatie een protocol nodig hebben
Doe de gratis scan en ontvang een persoonlijk risicorapport — inclusief inzicht in welke systemen als hoog-risico worden geclassificeerd.
Start de gratis scan →