Wat gebeurt er als AI verkeerde bedrijfsdata gebruikt?

Als AI verkeerde bedrijfsdata gebruikt, geeft het antwoorden die net zo overtuigend klinken als juiste antwoorden, maar gebaseerd zijn op een verouderde prijslijst, een dubbele klant of een CRM-veld dat niemand bijhoudt. Een mens die een rapport leest, twijfelt soms. Een AI-systeem twijfelt niet vanzelf, en een AI agent voert de fout direct en herhaald uit. De oplossing zit niet in een slimmer model, maar in weten welke bron leidend is, de data controleren voordat AI erop handelt, en elke uitkomst herleidbaar maken naar de bron.

Garbage in, confident out

Het oude principe "garbage in, garbage out" geldt voor AI in versterkte vorm. Een Excel-formule op foute data geeft een fout getal. Een taalmodel op foute data geeft een fout getal met een goed geschreven uitleg erbij. De vorm maakt de fout geloofwaardiger.

Er komt nog iets bij. Een taalmodel dat de juiste data niet vindt, vult soms zelf aan. Vraag naar de contractprijs van een klant waarvan geen contract is gekoppeld, en je kunt een plausibel bedrag terugkrijgen dat nergens vandaan komt. Dat heet hallucineren. Het is geen verkeerde data in de strikte zin, maar het effect is hetzelfde: een antwoord zonder bron.

Vijf manieren waarop AI verkeerde data gebruikt

1. De verkeerde bron

Het CRM zegt dat de contractwaarde EUR 120.000 is. De administratie factureert EUR 108.000. Welke is juist? Een AI-systeem dat het CRM als waarheid neemt, rapporteert een lek van EUR 12.000 dat er misschien niet is, of mist een lek dat er wel is. De vraag welke databron leidend is voor omzet moet beantwoord zijn voordat AI erop los gaat.

2. Verouderde data

Een prijslijst van vorig jaar, een contract zonder de laatste wijziging, een klantstatus die niet is bijgewerkt na opzegging. AI die met een momentopname werkt die weken oud is, maakt beslissingen op een werkelijkheid die niet meer bestaat.

3. Dubbele en inconsistente records

"Voorbeeld Installatie BV" en "Voorbeeld Installatie" als twee klanten. De omzet wordt gesplitst, de kortingsafspraak staat bij de ene, de facturen bij de andere. Een analyse per klant ziet twee halve waarheden.

4. Velden die niemand bijhoudt

Een CRM-veld "contracteinddatum" dat bij de helft van de klanten leeg is en bij een kwart een datum uit 2019 bevat. AI die daarop verlengingen voorspelt, voorspelt ruis. Waarom dat zo vaak voorkomt, staat in waarom CRM-data niet hetzelfde is als financiële data.

5. De verkeerde klant, de verkeerde regel

Een agent zoekt "Jansen" op en krijgt de eerste van vier. Een query koppelt facturen aan orders op een veld dat niet uniek is. Het resultaat is technisch correct uitgevoerd en inhoudelijk fout.

Waarom dit bij agents zwaarder weegt

Bij een AI-assistent die een rapport schrijft, leest een mens het resultaat. Bij een AI agent die handelt, is er soms geen mens meer tussen de fout en het gevolg.

Een paar scenario's:

• Een agent zet op basis van een verouderde prijslijst verlengingsoffertes klaar voor 80 klanten. Als niemand ze controleert, gaan ze de deur uit met het oude tarief.
• Een agent stuurt betalingsherinneringen op basis van een debiteurenlijst waarin creditnota's nog niet zijn verwerkt. Klanten krijgen een aanmaning voor bedragen die ze niet verschuldigd zijn.
• Een agent werkt CRM-velden bij op basis van een contract dat bij de verkeerde klant is opgeslagen. De fout verspreidt zich naar forecasts en rapportages.

Een mens maakt zulke fouten ook. Maar een mens doet er een per keer, en merkt vaak halverwege dat er iets vreemd is. Een agent doet ze allemaal, snel en consequent.

Rekenvoorbeeld: een verouderde prijslijst in een indexatieronde

Rekenvoorbeeld: stel, een agent bereidt de jaarlijkse prijsaanpassing voor van 150 onderhoudscontracten. Hij gebruikt een prijslijst die in het CRM staat, maar de werkelijke tarieven zijn halverwege vorig jaar al aangepast in de administratie. Voor 40 contracten is de basis dus te laag, gemiddeld EUR 30 per maand.

• Te lage nieuwe prijs: 40 x EUR 30 x 12 = EUR 14.400 per jaar.
• Omdat volgende indexaties op deze basis worden berekend, werkt de fout elk jaar door.
• Als de klanten de nieuwe prijs al hebben ontvangen, is terugdraaien een commercieel gesprek, geen administratieve correctie.

In het omgekeerde geval, een te hoge basis, stuur je 40 klanten een onterechte prijsverhoging. Dat kost geen omzet, maar wel vertrouwen en tijd.

De getallen zijn aannames. Het mechanisme is gewoon: twee systemen met een andere waarheid, en een AI die de verkeerde koos.

Hoe je het herkent

Signalen dat een AI-systeem op verkeerde data werkt:

• Uitkomsten die niet overeenkomen met de administratie. Een omzettotaal van de AI dat afwijkt van de grootboekrekening.
• Bevindingen die bij controle vaak onterecht blijken. Als van de tien gemelde lekken er zes geen lek zijn, zit er iets in de data of de koppeling.
• Antwoorden zonder bron. Een bedrag dat niet te herleiden is naar een record.
• Wisselende antwoorden op dezelfde vraag.
• Plotselinge verschuivingen na een systeemwijziging, migratie of nieuwe koppeling.

Hoe je het voorkomt

Bepaal per gegeven welke bron leidend is

Prijzen uit de administratie of het prijsbeheer, niet uit het CRM. Contractvoorwaarden uit het getekende contract. Gefactureerde omzet uit de administratie. Pipeline uit het CRM. Leg dat vast en laat AI alleen de leidende bron gebruiken voor elk gegeven.

Controleer de data voordat AI erop handelt

Eenvoudige controles vangen veel: zijn verplichte velden gevuld, zijn datums plausibel, zijn klantnummers uniek, sluiten totalen aan op de administratie? Zie hoe je CRM-data automatisch controleert.

Maak elke uitkomst herleidbaar

Een bevinding zonder bron is geen bevinding. Elk bedrag moet terug te voeren zijn op records in een systeem: dit contract, deze factuurregels, deze datum. Dan kan een mens het in één minuut controleren.

Laat AI niet gokken

Waar het om getallen gaat, haalt AI ze op via een query of functie, in plaats van ze zelf te schatten. Zie RAG vs database queries voor bedrijfsdata.

Laat onzekere bevindingen niet door

Een systeem dat twijfelt, moet dat zeggen, en bij te veel twijfel niets publiceren. Dat principe heet fail-closed. Hoe je zekerheid beoordeelt, staat in hoe je weet of een AI-aanbeveling betrouwbaar is.

Een mens tussen fout en gevolg

Alles wat naar een klant gaat of geld raakt, wordt door een mens gezien voordat het de deur uitgaat.

Controlelijst: klaar voor AI op je omzetdata?

1. Is per gegeven vastgelegd welk systeem leidend is?
2. Zijn klantnummers uniek en worden ze in alle systemen hetzelfde gebruikt?
3. Wanneer is de data voor het laatst ververst?
4. Sluit het omzettotaal dat de AI gebruikt aan op de administratie?
5. Is elke bevinding herleidbaar naar een record?
6. Wat gebeurt er als de AI iets niet vindt: meldt hij dat, of vult hij aan?
7. Wie ziet een actie voordat die naar een klant gaat?

De omgekeerde les

Er zit ook een positieve kant aan. Een AI-systeem dat systematisch bronnen vergelijkt, legt precies de datafouten bloot die ook buiten AI omzet kosten. Het verschil tussen CRM en administratie dat de AI in verwarring brengt, is vaak ook het verschil waardoor meerwerk niet gefactureerd wordt of een uitbreiding niet in de facturatie terechtkomt. Wie de data op orde brengt voor AI, dicht onderweg lekken. Het bredere verband staat in hoe AI binnen Revenue Intelligence werkt.

Veelgestelde vragen

Kan AI zelf herkennen dat data fout is?

Gedeeltelijk. Het kan afwijkingen opmerken, zoals een prijs die veel lager is dan bij vergelijkbare klanten. Maar het kan niet weten welk van twee tegenstrijdige systemen gelijk heeft, tenzij jij dat hebt vastgelegd.

Wie is verantwoordelijk als AI op verkeerde data handelt?

Het bedrijf dat het systeem inzet. Een AI-systeem draagt geen verantwoordelijkheid. Daarom is het belangrijk dat de keuze voor bronnen en de goedkeuring van acties bij benoemde mensen liggen.

Moet mijn data perfect zijn voordat ik AI inzet?

Nee. Maar je moet weten waar de zwakke plekken zitten en AI daar niet zelfstandig laten handelen. Lezen, vergelijken en melden kan op imperfecte data. Uitvoeren niet.

Hoe snel merk ik dat het misgaat?

Dat hangt af van je monitoring. Zonder controle merk je het pas als een klant belt of de maand niet sluit. Met controles op uitkomsten en afwijkingen zie je het veel eerder.