Human-in-the-loop: menselijke controle bij AI

Human-in-the-loop betekent dat een mens de output van AI beoordeelt, kan corrigeren en eindverantwoordelijk blijft voor het resultaat. In de zorg is dit geen keuze: het Landelijk Kwaliteitsstatuut GGZ en de IGJ stellen menselijke controle en navolgbaarheid als voorwaarde voor verantwoord AI-gebruik.

Implementa

01 · Definitie

Wat is human-in-the-loop?

Human-in-the-loop (afgekort: HITL) is een ontwerpprincipe voor AI-systemen waarbij een mens op een beslissend moment in het proces betrokken is. Die mens beoordeelt de AI-output, kan die corrigeren of afwijzen, en draagt de eindverantwoordelijkheid voor wat er met de uitkomst gebeurt.

De term komt voort uit de automatisering, maar is actueler dan ooit nu generatieve AI breed wordt ingezet in sectoren als de zorg, het onderwijs en de overheid. Het principe staat tegenover fully automated beslissingsprocessen, waarbij een algoritme zonder menselijke tussenkomst handelt.

Human-in-the-loop is geen luxe of wens: het is een kernvereiste in meerdere wettelijke kaders die op zorgorganisaties van toepassing zijn.

02 · Waarom

Waarom is menselijke controle verplicht?

Er zijn vier concrete redenen waarom human-in-the-loop niet optioneel is voor zorgorganisaties die met AI werken.

Kwaliteit van zorg

AI maakt fouten. Een taalmodel hallucineert, mist context of interpreteert een situatie verkeerd. In de zorg kunnen die fouten directe gevolgen hebben voor patiënten. Menselijke controle is het vangnet dat voorkomt dat een fout door het systeem glijdt.

Landelijk Kwaliteitsstatuut GGZ

Het LKS GGZ stelt ondubbelzinnig dat de behandelaar of regiebehandelaar altijd eindverantwoordelijk blijft. AI ondersteunt het professionele oordeel; het vervangt dat nooit. Wie AI inzet voor verslaglegging of signaleringstaken, moet dus inrichten dat de behandelaar de output actief beoordeelt.

IGJ-oproep (februari 2025)

De Inspectie Gezondheidszorg en Jeugd riep zorgaanbieders in februari 2025 uitdrukkelijk op om zorgvuldig om te gaan met de invoering van generatieve AI. Menselijke controle en navolgbaarheid zijn leidend, aldus de IGJ-oproep van februari 2025.

AVG en geautomatiseerde besluitvorming

De Algemene Verordening Gegevensbescherming verbiedt in beginsel volledig geautomatiseerde beslissingen die mensen significant beïnvloeden. Gezondheidsgegevens zijn bijzondere persoonsgegevens (artikel 9 AVG) en vragen extra bescherming. Human-in-the-loop is daarmee ook een privacyvereiste. De Autoriteit Persoonsgegevens houdt toezicht op de naleving hiervan.

03 · Varianten

Drie vormen van menselijke betrokkenheid

Niet alle AI-systemen vragen dezelfde mate van menselijk toezicht. De literatuur onderscheidt drie varianten, van strak naar ruim.

In-the-loop

De mens keurt elke AI-uitvoer goed voordat die effect heeft. De AI doet een voorstel; de professional beoordeelt, corrigeert en slaat op. Dit is de standaard voor directe zorgbeslissingen en verslaglegging.

On-the-loop

De AI handelt of adviseert zelfstandig, maar een mens bewaakt het proces en kan op elk moment ingrijpen. Geschikt voor signalerings- of planningshulp, mits de medewerker actief monitort en duidelijke ingreep-criteria heeft.

Over-the-loop

De mens stelt kaders en toetst periodiek, maar is niet betrokken bij elke individuele handeling. Alleen verantwoord voor laag-risico taken waarbij de gevolgen van een vergissing beperkt en omkeerbaar zijn.

04 · Inrichting

Hoe richt je human-in-the-loop in?

Het inrichten van menselijke controle vraagt om meer dan een beleidsregel. Het gaat om een samenspel van technische maatregelen, werkafspraken en scholing.

Technisch

Zorg dat het systeem geen AI-gegenereerde output automatisch opslaat of verzendt. De professional moet een actieve handeling verrichten, zoals lezen, aanpassen en bevestigen. Bouw dit in als een harde stap in de workflow, niet als een optionele melding die weggeklikt kan worden.

Organisatorisch

Leg vast wie eindverantwoordelijk is voor de controle van AI-output bij elke use case. Maak werkinstructies die concreet beschrijven wat een medewerker moet beoordelen en wanneer de output niet gebruikt mag worden. Zorg voor een meldroute als een medewerker een fout of onbetrouwbare output signaleert.

Geletterdheid

Een medewerker die niet begrijpt hoe een taalmodel werkt, kan de output niet goed beoordelen. Dit raakt direct aan de AI-geletterdheidsplicht (artikel 4 EU AI Act), die van kracht is sinds 2 februari 2025. Medewerkers die met AI werken, moeten aantoonbaar weten wat AI kan en wat niet. Dat is ook de basis voor effectieve menselijke controle.

Automation bias voorkomen

Onderzoek naar menselijk gedrag bij AI laat zien dat mensen de neiging hebben AI-output kritiekloos over te nemen, zeker als die er betrouwbaar uitziet. Dit heet automation bias. Training, bewustwording en periodieke audits van hoe de controle in de praktijk verloopt, zijn nodig om dit structureel te adresseren.

05 · Praktijk

Human-in-the-loop in de GGZ: een praktijkvoorbeeld

Spraakgestuurd rapporteren is op dit moment de meest verspreide AI-toepassing in de GGZ. Een taalmodel zet een gespreksopname om naar een concept voor de behandelnotitie. Coöperatie VGZ publiceerde dat de registratietijd hiermee daalt van gemiddeld circa 30 minuten naar 8 tot 12 minuten per behandelaar per dag. De winst is reëel; de kunst is die verantwoord te verzilveren.

Verantwoord in dit geval betekent: de behandelaar leest het concept, past aan waar nodig en slaat het pas op na actieve beoordeling. Het systeem mag geen automatische opslag kennen. De behandelaar blijft de auteur van de notitie, ook als AI het concept schreef.

In een GGZ-praktijk met meerdere vestigingen heeft Implementa gezien dat dit niet vanzelf gaat. Medewerkers hebben een duidelijke werkinstructie nodig over wat ze precies moeten controleren. Ze moeten weten welke soorten fouten een taalmodel typisch maakt, zodat ze daar specifiek op letten. En er moet een veilige meldroute zijn als iets niet klopt.

Meer over hoe AI-verslaglegging verantwoord in te richten valt, leest u op de pagina AI-verslaglegging in de GGZ. De kaders van de IGJ hierover staan uitgelegd op IGJ en generatieve AI.

Veelgestelde vragen

Vragen over human-in-the-loop

Wat is human-in-the-loop precies?

Human-in-the-loop (HITL) is een werkwijze waarbij een mens de output van een AI-systeem beoordeelt en, waar nodig, corrigeert of afkeurt voordat die output effect heeft. De mens houdt eindverantwoordelijkheid; de AI ondersteunt.

Waarom is menselijke controle bij AI verplicht in de zorg?

Het Landelijk Kwaliteitsstatuut GGZ bepaalt dat de behandelaar altijd eindverantwoordelijk blijft. De IGJ riep in februari 2025 zorgaanbieders op om menselijke controle en navolgbaarheid als leidend te beschouwen bij het inzetten van generatieve AI. Bovendien vereist de AVG dat geautomatiseerde beslissingen over personen toetsbaar zijn.

Wat is het verschil tussen in-the-loop, on-the-loop en over-the-loop?

In-the-loop: de mens keurt elke AI-uitvoer goed voor gebruik. On-the-loop: AI handelt zelf, maar de mens bewaakt en kan ingrijpen. Over-the-loop: de mens stelt kaders en beoordeelt periodiek, maar grijpt niet bij elke handeling in. Voor zorgbeslissingen is in-the-loop de standaard.

Hoe richt je human-in-the-loop in bij AI-verslaglegging in de GGZ?

Zorg dat de behandelaar de AI-concepttekst altijd leest, corrigeert en actief opslaat. Maak het onmogelijk om teksten automatisch te publiceren zonder menselijke handeling. Leg in het beleid vast wie verantwoordelijk is voor de eindcontrole en hoe fouten worden gemeld.

Telt human-in-the-loop als compliance onder de EU AI Act?

Het inrichten van menselijke controle is een kernvereiste voor hoog-risico AI-systemen onder de EU AI Act. Het is echter geen losstaand vinkje: je moet ook aantonen dat de controle in de praktijk effectief werkt, gedocumenteerd is en dat medewerkers de AI-output kunnen beoordelen (zie ook de AI-geletterdheidsplicht, artikel 4).

Wat als een medewerker de AI-output altijd goedkeurt zonder te lezen?

Dan is er in de praktijk geen human-in-the-loop, ook al staat het in het beleid. Dit heet automation bias: mensen vertrouwen AI blindelings. Aantoonbare AI-geletterdheid, een goede werkinstructie en periodieke audits zijn nodig om dit te voorkomen.

Hoe helpt Implementa bij het inrichten van human-in-the-loop?

Implementa helpt zorgorganisaties bij het opstellen van AI-beleid, werkinstructies en controleprotocollen die menselijke controle borgen. Dat gaat van risicoanalyse tot praktische inrichting en training van medewerkers. Plan een gesprek via implementa.nl/contact.

Over de auteur

Arjan Woldring

oprichter Implementa

Arjan is oprichter van Implementa en begeleidt zorgorganisaties bij de verantwoorde invoering van AI. Hij schrijft en spreekt over menselijke controle, AI-beleid en de praktijk van AI in de GGZ.

Volg op LinkedIn Vakinhoudelijk gecontroleerd op Vakinhoudelijk gecontroleerd op 14 juni 2026

Verder lezen over verantwoorde AI

Deze pagina maakt deel uit van de pilaar Verantwoorde AI-implementatie. Verwante onderwerpen:

Kennisartikel

IGJ en generatieve AI

Wat zegt de Inspectie Gezondheidszorg en Jeugd over het gebruik van generatieve AI in de zorg? Lees de richtlijnen en aandachtspunten.

Lees verder

Kennisartikel

AI-verslaglegging in de GGZ

Wat kan en mag bij AI-ondersteunde verslaglegging in de GGZ? Praktische uitleg over kaders, inrichting en verantwoordelijkheid.

Lees verder

Pilaar

Verantwoorde AI-implementatie

Het overkoepelende kader voor verantwoorde AI in uw organisatie: van beleid en risico tot borging en geletterdheid.

Lees verder