AI monitoring uitgelegd

AI monitoring is het doorlopend bijhouden van wat een AI-systeem doet en of het dat nog goed doet: welke gegevens het las, welke acties het uitvoerde, hoe vaak de uitkomsten klopten, wat het kostte en wanneer het gedrag verandert. Voor AI die alleen adviseert is het een kwaliteitscontrole. Voor AI agents die in je systemen handelen, is het de enige manier om te weten wat er gebeurd is en wat je moet herstellen als het misgaat.

Waarom AI anders gemonitord moet worden dan gewone software

Gewone software doet elke keer hetzelfde. Als een factuurrun vandaag goed gaat, gaat hij morgen ook goed, tenzij iemand iets verandert. Monitoring gaat dan vooral over of het systeem draait.

AI gedraagt zich anders:

• Dezelfde vraag kan een ander antwoord geven. Taalmodellen hebben een element van variatie in hun output.
• Het model kan veranderen zonder dat jij iets doet. Aanbieders brengen nieuwe versies uit, en ook binnen een versie kan gedrag verschuiven.
• De data verandert. Een voorspellend model dat getraind is op vorig jaar, kan dit jaar minder goed presteren. Dat heet drift.
• Fouten zijn stil. Een AI-systeem crasht niet als het een verkeerde bevinding doet. Het geeft gewoon een antwoord.

Monitoring bij AI gaat dus niet alleen over of het draait, maar vooral over of het nog klopt.

Waarom AI agents zonder monitoring gevaarlijk kunnen zijn

Bij een AI agent komt daar een laag bij. Een agent handelt: hij zoekt op, werkt bij, zet klaar, verstuurt. Zonder monitoring zijn er drie risico's die elkaar versterken.

Je weet niet wat hij gedaan heeft. Als een agent een week lang CRM-records bijwerkt en je ontdekt daarna een fout, moet je weten welke records hij aanraakte, wanneer, en op basis van wat. Zonder logboek weet je alleen dat er iets mis is.

Je weet niet waarom. Een agent die door een tekst in een mail of een notitie is misleid, gedraagt zich anders dan bedoeld. Dat zie je alleen terug als je vastlegt wat hij las vlak voordat hij iets deed.

Het blijft doorgaan. Een mens die iets vreemds ziet, stopt. Een agent zonder limieten en zonder signalering doet de fout honderd keer.

Een sleutel intrekken stopt wat een agent nog gaat doen. Monitoring vertelt je wat hij al heeft gedaan.

Wat je monitort: vier lagen

1. Activiteit

Per stap vastleggen:

• Welk gereedschap werd aangeroepen, met welke parameters.
• Welke gegevens werden ingezien.
• Wat werd gewijzigd, aangemaakt of verstuurd.
• Met welke sleutel, onder welk account.
• Tijdstip.

Dit is het logboek. Het is de basis voor alles wat volgt. Hoe gereedschapsaanroepen werken, staat in wat is tool calling.

2. Kwaliteit

Klopt wat de AI zegt? Voor omzetcontrole is dat concreet te meten:

• Terechte bevindingen. Van alle gemelde afwijkingen, hoeveel blijken bij controle een echt lek?
• Gemiste bevindingen. Hoeveel lekken werden later op een andere manier gevonden die de AI had moeten zien?
• Afwijking van de bron. Komen bedragen in de output overeen met de bron?
• Voorspellingen tegen werkelijkheid. Bij predictive analytics: hoe vaak klopte de voorspelling?

3. Gedrag

Verandert het systeem? Signalen:

• Een plotselinge stijging of daling in het aantal bevindingen.
• Een agent die meer stappen nodig heeft voor dezelfde taak.
• Meer aanroepen van een bepaald gereedschap dan gebruikelijk.
• Acties buiten normale tijden of op ongebruikelijke records.

Dit is in feite anomaly detection toegepast op de AI zelf.

4. Kosten en belasting

Aantal aanroepen, verwerkte hoeveelheid tekst, doorlooptijd. Niet alleen voor het budget: een agent die in een lus terechtkomt, zie je vaak als eerste aan een piek in kosten.

Rekenvoorbeeld: de prijs van een week zonder monitoring

Rekenvoorbeeld: stel, een agent stuurt betalingsherinneringen voor openstaande facturen. Na een wijziging in de administratie worden creditnota's een week lang niet meer meegenomen in de debiteurenlijst die de agent leest. De agent stuurt in die week 60 herinneringen, waarvan 15 voor bedragen die al gecrediteerd zijn.

Zonder monitoring: het probleem komt aan het licht als klanten bellen. Iemand moet uitzoeken welke van de 60 herinneringen onterecht waren, 15 klanten excuses aanbieden en de oorzaak vinden. Stel dat dit drie dagen werk kost, plus schade aan de relatie met een paar goede klanten.

Met monitoring: een controle vergelijkt dagelijks het totaal van de herinneringen met het openstaande saldo in de administratie. Na dag één is er een afwijking. De agent wordt gepauzeerd, de oorzaak gevonden, en 2 herinneringen worden gecorrigeerd in plaats van 15.

Het verschil zit niet in de kwaliteit van de agent, maar in hoe snel je ziet dat zijn invoer veranderde. Zulke brondatafouten staan uitgewerkt in wat er gebeurt als AI verkeerde bedrijfsdata gebruikt.

Eisen aan een goed logboek

Een logboek is alleen iets waard als het aan een paar voorwaarden voldoet:

1. Volledig. Niet alleen de uitkomst, maar elke stap, inclusief wat de AI las.
2. Onveranderbaar voor de AI. Een logboek dat de agent zelf kan aanpassen of wissen, is geen bewijs. Het hoort op een plek waar hij alleen naartoe kan schrijven.
3. Lang genoeg bewaard. Veel problemen merk je pas na weken, bij de maandafsluiting of als een klant belt. Een logboek van zeven dagen is dan weg.
4. Doorzoekbaar. Je moet snel kunnen vinden: alles wat de agent deed bij klant X, of alles wat hij deed tussen dinsdag en donderdag.
5. Bewust van privacy. Logs bevatten vaak de gegevens die de AI verwerkte. Als die persoonsgegevens bevatten, gelden daar dezelfde regels voor als voor de bron. Zie hoe je persoonsgegevens beschermt in AI-systemen.

Signaleren, niet alleen vastleggen

Een logboek dat niemand leest, helpt pas achteraf. Monitoring wordt pas echt nuttig met signalen die vanzelf naar een mens gaan. Voorbeelden van regels:

• Meer dan X schrijfacties per uur: pauzeer en meld.
• Een actie op een klant die niet in de opdracht voorkwam: meld.
• Een bevinding boven een bepaald eurobedrag: altijd naar een mens.
• Het aandeel onterechte bevindingen stijgt boven een drempel: meld aan de eigenaar.
• Een gereedschapsaanroep die mislukt, meerdere keren achter elkaar: stop.

Het ontwerp van die drempels hangt samen met wanneer een mens moet ingrijpen. Dat staat in human-in-the-loop AI uitgelegd.

Stappenplan: monitoring opzetten

1. Maak een lijst van alle AI-toepassingen die met bedrijfsdata werken, inclusief losse tools die medewerkers gebruiken.
2. Bepaal per toepassing wat ze mag doen: alleen lezen, voorstellen, of zelf uitvoeren. Hoe meer ze mag, hoe strenger de monitoring.
3. Zorg dat elke stap wordt gelogd op een plek buiten bereik van de toepassing zelf.
4. Kies drie kwaliteitsmaten die je maandelijks bekijkt, zoals aandeel terechte bevindingen, afwijking van de administratie en aantal handmatige correcties.
5. Stel signaalregels in voor ongewoon gedrag, met een benoemde persoon die ze ontvangt.
6. Test de noodrem. Weet wie een agent kan pauzeren of een sleutel kan intrekken, en probeer het één keer.
7. Evalueer na elke modelwijziging of de kwaliteitsmaten gelijk bleven.

Monitoring in een revenue intelligence-systeem

In omzetcontrole heeft monitoring twee kanten. De ene is monitoring van de AI: klopt wat het systeem meldt? De andere is monitoring door de AI: het systeem houdt doorlopend in de gaten of er nieuwe lekken ontstaan. RiOS heeft voor dat laatste een module AI-monitoring, die gekoppelde metrics continu bewaakt en een signaal geeft zodra een cijfer afwijkt of een nieuw lek ontstaat. Hoe beide vormen passen in de AI-architectuur voor omzetcontrole, staat in hoe AI binnen Revenue Intelligence werkt.

Veelgestelde vragen

Is logging hetzelfde als monitoring?

Nee. Logging legt vast wat er gebeurde. Monitoring kijkt actief naar die gegevens en signaleert wanneer iets afwijkt. Je hebt het eerste nodig om het tweede te kunnen doen.

Hoe lang moet ik AI-logs bewaren?

Lang genoeg om een probleem te reconstrueren dat je pas bij de maand- of kwartaalafsluiting ontdekt. Tegelijk niet langer dan nodig als er persoonsgegevens in staan. Leg een termijn vast en onderbouw hem.

Moet ik ook monitoren als AI alleen adviseert?

Ja, maar lichter. Je wilt weten of de adviezen kloppen, anders gaan mensen ze blind volgen of juist negeren. Bij AI die zelf handelt, is volledige logging per stap noodzakelijk.

Wie in het bedrijf is verantwoordelijk voor AI monitoring?

De eigenaar van het proces waarin de AI werkt. Voor een agent in de facturatie is dat de verantwoordelijke voor facturatie, niet de IT-afdeling alleen.