Human-in-the-loop AI uitgelegd

Human-in-the-loop AI is een opzet waarin een mens op vooraf bepaalde momenten beoordeelt, goedkeurt of corrigeert wat een AI-systeem voorstelt of gaat doen. De AI doet het zoek-, reken- en voorbereidingswerk, de mens neemt de beslissingen die gevolgen hebben voor klanten, geld of afspraken. Het werkt alleen als de mens genoeg informatie krijgt om echt te oordelen, en niet zoveel verzoeken dat hij blind gaat goedkeuren.

Drie vormen

Er zijn grofweg drie manieren om een mens bij AI te betrekken.

Human-in-the-loop. De mens staat in het proces. Zonder zijn goedkeuring gebeurt de actie niet. Voorbeeld: de AI zet een correctiefactuur klaar, een medewerker keurt goed, pas dan wordt hij verstuurd.

Human-on-the-loop. De AI voert uit, de mens houdt toezicht en kan ingrijpen. Voorbeeld: betalingsherinneringen gaan automatisch, maar een medewerker ziet dagelijks een overzicht en kan een reeks stoppen.

Human-in-command. De mens bepaalt de kaders: welke taken AI mag doen, met welke rechten en tot welke grens. Dat geldt altijd, ook bij de andere twee vormen.

Voor omzettaken is de combinatie gebruikelijk: in-the-loop voor alles wat extern of onomkeerbaar is, on-the-loop voor routinewerk met kleine en herstelbare gevolgen. Het onderscheid hangt nauw samen met het verschil tussen AI recommendations en AI decisions.

Waarom een mens in de lus

Het is verleidelijk om human-in-the-loop te zien als een tijdelijke maatregel tot de AI goed genoeg is. Dat is een misverstand. Er zijn redenen die blijven, hoe goed het model ook wordt.

Informatie buiten het systeem. De accountmanager weet dat de klant vorige week telefonisch een korting kreeg toegezegd voor een leveringsprobleem. Dat staat nergens. De AI ziet een te lage factuur, de mens weet waarom.

Commerciële afweging. Een terechte correctiefactuur van EUR 400 aan een klant die net een grote verlenging overweegt, kan beter wachten. Dat is geen rekensom maar een inschatting.

Verantwoordelijkheid. Iemand moet kunnen uitleggen waarom een beslissing is genomen, aan een klant, een accountant of een directie. Een AI kan dat niet dragen.

Leren. Elke correctie van een mens is informatie over waar het systeem fout zit. Zonder mens in de lus verdwijnt die feedback.

Waar leg je de controlepunten?

Het ontwerp gaat over plaats, niet over hoeveelheid. Te veel controlepunten maken AI nutteloos, te weinig maken het riskant.

Een praktische indeling voor omzetprocessen:

De drempels in deze tabel zijn voorbeelden. Hoe je zekerheid meet om zo'n drempel te kiezen, staat in hoe je weet of een AI-aanbeveling betrouwbaar is.

Het echte risico: stempelgedrag

Human-in-the-loop faalt zelden doordat er geen mens is. Het faalt doordat de mens er formeel is en inhoudelijk niet. Wie elke dag honderd verzoeken krijgt waarvan er negentig kloppen, gaat klikken zonder te lezen. Dat heet automation bias, en het maakt de controle schijn.

Zo voorkom je het:

• Minder, maar belangrijkere verzoeken. Laat interne, herstelbare acties door zonder goedkeuring en vraag alleen goedkeuring waar het ertoe doet.
• Bewijs erbij. Elk verzoek toont de bron, de berekening en het verschil. Beoordelen wordt kijken in plaats van zoeken. Zie waarom AI-output gecontroleerd moet worden.
• Rangschikken. Hoogste impact en laagste zekerheid bovenaan.
• Afwijzen moet even makkelijk zijn als goedkeuren, en vraagt een korte reden.
• Controleer de controleur. Kijk periodiek naar een steekproef van goedgekeurde acties. Als die vaak fout waren, is de lus niet effectief.

Rekenvoorbeeld: wat een goed ontworpen lus oplevert

Rekenvoorbeeld: stel, je facturatieteam van drie mensen controleert maandelijks handmatig 400 contractfacturen tegen de contracten. Dat kost ongeveer 60 uur en er glipt nog steeds een deel door, omdat het werk eentonig is.

Een AI-systeem vergelijkt alle 400 automatisch. Het markeert 35 afwijkingen, elk met bron en berekening. Het team beoordeelt die 35, gemiddeld vijf minuten per stuk: bijna drie uur. Stel dat er 25 terecht zijn, met gemiddeld EUR 450 aan gemiste omzet per maand.

• Gevonden per maand: 25 x EUR 450 = EUR 11.250.
• Tijd: van ongeveer 60 uur naar ongeveer 3 uur plus steekproeven.
• De 10 onterechte bevindingen bereiken de klant nooit.

De mens blijft in de lus, maar doet alleen nog het deel waar menselijk oordeel iets toevoegt. De getallen zijn aannames; het patroon is algemeen. Het soort lek in dit voorbeeld staat uitgewerkt in hoe je controleert of contracten correct worden gefactureerd.

De lus werkt twee kanten op

Een mens in de lus is niet alleen een poortwachter. Elke beoordeling is ook informatie. Wie een bevinding afwijst, weet meestal waarom: de korting was mondeling afgesproken, het contract is vorige maand gewijzigd, de klant heeft een lopend geschil. Als die reden wordt vastgelegd, kan het systeem ervan leren of kan iemand de oorzaak aanpakken.

Drie soorten terugkoppeling die in omzetprocessen het meeste opleveren:

• Ontbrekende afspraak. De bevinding was onterecht omdat een afspraak buiten het systeem is gemaakt. Oplossing: de afspraak alsnog vastleggen, zodat de volgende controle hem ziet. Vaak is dit zelf een procesprobleem dat ook zonder AI omzet kost.
• Foute brondata. De bevinding was onterecht omdat een veld in het CRM of de administratie niet klopte. Oplossing: de bron corrigeren, niet alleen de bevinding wegklikken.
• Foute redenering. De data klopte, maar de conclusie niet. Oplossing: de regel of het model aanpassen.

Zonder die terugkoppeling beoordeelt je team elke maand dezelfde onterechte bevindingen opnieuw. Met die terugkoppeling daalt het aantal verzoeken en stijgt het aandeel dat terecht is. Dat is het teken dat de lus werkt.

Technisch afdwingen

Een mens in de lus moet in de software zitten, niet in een instructie aan het model:

• Scheiding van voorbereiden en uitvoeren. De AI heeft gereedschap om concepten te maken, niet om te versturen. Versturen is een aparte actie die alleen een mens kan starten.
• Goedkeuring wordt vastgelegd. Wie, wanneer, welke versie. Dat is ook je audit trail.
• Wat gebeurt er zonder reactie? Een verzoek dat niet binnen een termijn wordt beoordeeld, vervalt of escaleert. Het wordt nooit stilzwijgend uitgevoerd.
• Een noodrem. Iemand kan een agent of automatisering in één handeling pauzeren.

Hoe rechten en gereedschap die grens bepalen, staat in wat is een AI agent.

Stappenplan

1. Breng het proces in kaart en markeer elke stap die AI kan overnemen.
2. Markeer de stappen met externe, financiële of onomkeerbare gevolgen. Daar komt een goedkeuringsmoment.
3. Bepaal wie goedkeurt, per type actie, met een vervanger.
4. Ontwerp het verzoek: wat ziet de beoordelaar, en kan hij in een minuut oordelen?
5. Stel drempels in voor bedrag en zekerheid.
6. Meet hoeveel verzoeken per week, hoeveel afgewezen, hoeveel goedgekeurde acties achteraf fout bleken.
7. Stel bij. Acties die maandenlang altijd terecht waren, kunnen naar on-the-loop. Acties die vaak fout gaan, krijgen een extra controle.

In een revenue intelligence-systeem

In omzetcontrole is human-in-the-loop geen rem op AI, maar wat het bruikbaar maakt. De AI vindt in duizenden records de afwijkingen die mensen missen. De mens beslist wat ermee gebeurt. RiOS werkt volgens dat principe: automatiseringen draaien pas na goedkeuring, agents werken binnen de regels die het bedrijf stelt, met menselijke goedkeuring waar het bedrijf dat wil. Hoe dit past in de hele AI-opbouw, lees je in hoe AI binnen Revenue Intelligence werkt.

Veelgestelde vragen

Maakt human-in-the-loop AI niet traag?

Alleen als de lus slecht is ontworpen. Als goedkeuring beperkt blijft tot acties met gevolgen en het bewijs erbij staat, kost het minuten per dag. De AI doet het tijdrovende deel.

Wie moet de mens in de lus zijn?

Iemand met kennis van de klant of het proces en de bevoegdheid om te beslissen. Voor een correctiefactuur is dat vaak de facturatie of de accountmanager, voor een tariefwijziging iemand met commerciële verantwoordelijkheid.

Kan de mens in de lus ooit weg?

Voor interne, herstelbare en voorspelbare acties kan hij naar toezicht achteraf. Voor acties richting klanten of met financiële gevolgen is een mens vooraf de verstandige standaard.

Is human-in-the-loop verplicht?

Voor bepaalde toepassingen gelden wettelijke eisen aan menselijk toezicht, bijvoorbeeld bij volledig geautomatiseerde besluiten over personen. Voor de meeste B2B-omzettaken is het vooral een verstandige ontwerpkeuze. Bij twijfel over je eigen situatie is juridisch advies op zijn plaats.