Human-in-the-loop uitgelegd

Human-in-the-loop betekent dat een mens actief betrokken blijft bij een AI-proces. De mens controleert, beoordeelt of corrigeert de output van AI voordat die output wordt gebruikt voor een belangrijke vervolgstap of beslissing.

Dit artikel is onderdeel van de hub AI-besluitvorming in organisaties uitgelegd op De Wereld van AI.

Human-in-the-loop in gewone taal

Bij human-in-the-loop blijft een mens niet alleen op de achtergrond aanwezig. De mens heeft een actieve rol in het proces. Die rol kan bestaan uit controleren, aanvullen, afwijzen, corrigeren of uitleggen waarom een AI-advies wel of niet wordt gevolgd.

Dat is belangrijk omdat AI-output overtuigend kan lijken, ook wanneer die output onvolledig of verkeerd is. Een model kan patronen herkennen, maar begrijpt niet automatisch de volledige context van een klant, medewerker, patiënt, leerling of burger. Menselijke beoordeling voegt die context toe.

Human-in-the-loop is dus geen technische knop. Het is een manier om verantwoordelijkheid in een AI-proces te organiseren.

Meer dan een mens in de buurt

De term wordt soms te makkelijk gebruikt. Een medewerker die alleen op akkoord klikt zonder de output te begrijpen, biedt geen sterke menselijke controle. Dan zit er wel een mens in het proces, maar die mens heeft weinig echte invloed.

Goede human-in-the-loop vraagt dat iemand de AI-output kan beoordelen. Klopt de informatie? Ontbreekt er context? Is het advies eerlijk? Past de uitkomst bij de situatie? En kan de medewerker uitleggen waarom hij of zij het advies overneemt of juist afwijkt?

Daarom sluit dit onderwerp direct aan op Welke AI-beslissingen moet een mens altijd controleren?.

Wanneer human-in-the-loop nodig is

Human-in-the-loop is vooral belangrijk wanneer AI invloed heeft op mensen of op besluiten met duidelijke gevolgen. Denk aan werk, geld, toegang tot diensten, veiligheid, onderwijs, zorg, toezicht, klachten, fraudeonderzoek of juridische beoordeling.

Ook bij nieuwe AI-toepassingen is sterke menselijke controle verstandig. In de beginfase weet een organisatie vaak nog niet goed hoe betrouwbaar de output is, waar het systeem fouten maakt en welke situaties extra aandacht vragen.

Bij lage-impact taken kan controle lichter zijn. Denk aan het samenvatten van een intern document of het herschrijven van een concepttekst. Zodra AI richting geeft aan keuzes over mensen, rechten, geld of veiligheid, hoort menselijke beoordeling standaard in het proces.

Voor meer context over het verschil tussen lage en hoge impact bij AI-systemen kun je ook verder lezen over de EU AI Act.

Wat een mens moet kunnen doen

Een mens kan alleen goed controleren als de organisatie die rol praktisch mogelijk maakt. Dat betekent dat de medewerker genoeg informatie, tijd en bevoegdheid krijgt om het AI-advies kritisch te beoordelen.

  • De output van AI begrijpen en controleren.
  • Twijfels, fouten of ontbrekende context herkennen.
  • Extra informatie toevoegen die het systeem niet kent.
  • Afwijken van het AI-advies wanneer dat nodig is.
  • Een besluit uitleggen zonder alleen naar AI te verwijzen.
  • Escaleren wanneer de uitkomst twijfelachtig of risicovol is.
  • Feedback geven zodat het proces kan verbeteren.

Als een medewerker deze dingen niet kan doen, is human-in-the-loop vooral een papieren afspraak. Dan lijkt er controle te zijn, terwijl AI in de praktijk de richting bepaalt.

De valkuil van automation bias

Een belangrijk risico is automation bias. Dat betekent dat mensen te snel vertrouwen op een systeem omdat het resultaat er objectief, professioneel of datagedreven uitziet. Hoe netter de AI-output oogt, hoe groter de kans dat iemand minder kritisch kijkt.

Automation bias ontstaat vooral onder tijdsdruk. Als medewerkers veel dossiers moeten verwerken, kan een AI-score of advies snel de standaardroute worden. Dan nemen mensen het advies over zonder echt te controleren of het past bij de situatie.

Training helpt, maar is niet genoeg. Organisaties moeten ook zorgen voor duidelijke criteria, voldoende tijd, uitleg bij AI-output en een cultuur waarin afwijken van AI toegestaan is.

Schijncontrole herkennen

Schijncontrole ontstaat wanneer een mens formeel aanwezig is, maar weinig invloed heeft op de uitkomst. Dat gebeurt bijvoorbeeld wanneer een medewerker alleen een advies kan goedkeuren, maar geen goede uitleg krijgt en nauwelijks ruimte heeft om af te wijken.

Je herkent schijncontrole aan signalen zoals standaard akkoord klikken, weinig tijd per dossier, onduidelijke AI-scores, geen mogelijkheid tot herbeoordeling of een proces waarin afwijkingen extra uitleg vragen terwijl akkoord gaan makkelijk is.

In zulke situaties kan AI feitelijk beslissen, ook als een mens officieel nog betrokken is. Dit verschil komt ook terug in AI als adviseur versus AI als beslisser.

Drie niveaus van menselijke betrokkenheid

Menselijke controle kan op verschillende manieren worden ingericht. Het verschil zit vooral in het moment waarop de mens betrokken is. Controleert iemand vooraf elke uitkomst, houdt iemand toezicht op het proces, of handelt het systeem grotendeels zelfstandig?

1. Human-in-the-loop: de mens beoordeelt voordat het proces doorgaat

Bij human-in-the-loop pauzeert het proces totdat een medewerker de AI-output heeft bekeken. De mens kan het advies overnemen, aanpassen, afwijzen of extra informatie toevoegen. Dit past bij beslissingen met duidelijke gevolgen voor mensen, zoals selectie, beoordeling, toegang tot diensten, financiële gevolgen of veiligheid.

Deze vorm geeft de meeste controle, maar kost ook tijd. Daarom moet de organisatie goed bepalen bij welke AI-uitkomsten deze stap verplicht is. Vooral bij nieuwe AI-toepassingen of hoge-impact beslissingen is dit vaak de veiligste start.

2. Human-on-the-loop: de mens houdt toezicht op het proces

Bij human-on-the-loop controleert een mens niet elke afzonderlijke uitkomst vooraf, maar houdt iemand toezicht op het geheel. De medewerker kijkt bijvoorbeeld naar afwijkingen, klachten, steekproeven, meldingen of signalen dat het systeem minder goed werkt.

Dit kan passen bij processen met lagere impact of bij AI-toepassingen die al goed getest zijn. Wel blijven duidelijke grenzen nodig. De organisatie moet weten wanneer een mens alsnog moet ingrijpen, wanneer escalatie nodig is en hoe fouten worden opgespoord.

3. Human-out-of-the-loop: het systeem handelt zonder beoordeling per geval

Bij human-out-of-the-loop voert AI of software een stap uit zonder dat een mens elke uitkomst beoordeelt. Dat kan passend zijn bij eenvoudige, laag-risico taken met duidelijke regels en beperkte gevolgen. Denk aan sorteren, filteren of het automatisch verwerken van standaardgevallen.

Bij hoge-impact beslissingen vraagt deze vorm grote terughoudendheid. Als een systeem zonder menselijke beoordeling invloed heeft op werk, geld, toegang, veiligheid of rechten, kan de organisatie verantwoordelijkheid verliezen. Daarom hoort automatische afhandeling alleen bij processen die goed afgebakend, controleerbaar en terug te draaien zijn.

In de praktijk is het verstandig om bij twijfel te beginnen met sterke menselijke controle. Pas wanneer een AI-toepassing betrouwbaar blijkt, de risico’s duidelijk zijn en de governance op orde is, kan een organisatie bekijken of lichter toezicht verantwoord is.

Hoe organisaties human-in-the-loop goed inrichten

Goede menselijke controle vraagt om ontwerpkeuzes in het werkproces. De organisatie moet vooraf bepalen wanneer AI mag adviseren, wie controleert, welke informatie zichtbaar is en wat er gebeurt bij twijfel.

  • Leg vast bij welke AI-uitkomsten controle verplicht is.
  • Zorg dat medewerkers de gebruikte informatie kunnen zien.
  • Maak onzekerheid, risico en beperkingen zichtbaar.
  • Geef medewerkers tijd om af te wijken van het advies.
  • Leg besluiten en afwijkingen vast.
  • Maak escalatie mogelijk bij twijfel of hoge impact.
  • Evalueer regelmatig of de controle echt werkt.

Deze afspraken horen thuis binnen bredere AI-governance voor bedrijven. Zonder governance blijft human-in-the-loop vaak afhankelijk van losse medewerkers en informele werkwijzen.

Een praktische vuistregel

Gebruik human-in-the-loop wanneer een AI-uitkomst gevolgen kan hebben voor mensen, rechten, geld, toegang, veiligheid of vertrouwen. Hoe groter de impact, hoe eerder een mens actief moet beoordelen voordat het proces doorgaat.

Bij lage impact kan AI vooral ondersteuning bieden. Bij middelgrote impact hoort AI eerder in de rol van adviseur. Bij hoge impact moet de organisatie expliciet vastleggen wie controleert, waarom en met welke bevoegdheid.

Gerelateerde termen

Verder leren

Lees verder op de hoofdpagina AI-besluitvorming in organisaties uitgelegd. Een logisch vervolg is De risico’s van geautomatiseerde besluitvorming. Wil je breder begrijpen hoe organisaties AI verantwoord inzetten, ga dan naar AI-governance voor bedrijven. Voor basiskennis kun je starten met de Gratis Basiscursus AI. Begrippen vind je terug in de AI Woordenlijst. Wie liever kijkt dan leest, vindt op het YouTube kanaal De Wereld van AI rustige uitlegvideo’s over kunstmatige intelligentie in gewone taal.