AI Reality Check #05: Wat gebeurde er deze week in AI?

Geen AI-hype of eindeloze modelvergelijkingen. Gewoon de ontwikkelingen die interessant zijn als je een bedrijf runt.

Vrijdag rekende AI in Business #05 door waar een adviesbureau geld laat liggen, met een agent die klaarzet en een mens die verstuurt. Deze week kwam het grootste AI-bericht niet uit Silicon Valley maar uit Den Haag. En twee berichten lieten zien waarom die mens erbij moet blijven.

1. Het kabinet wil 25.000 banen bij het Rijk schrappen, en rekent op AI

Feit. Op 26 oktober stuurde staatssecretaris Eric van der Burg (BZK) de Voortgangsbrief Slagvaardige Overheid naar de Tweede Kamer. Het plan: ongeveer 25.000 voltijdsbanen minder bij ministeries en uitvoeringsorganisaties in 2035, op een totaal van ongeveer 160.000. Dat is ruim 15%. De besparing moet oplopen van €900 miljoen in 2027 tot structureel €3,5 miljard per jaar vanaf 2035. Daar vallen ook kantoren, externe adviseurs en ICT onder, niet alleen personeel. Politie en Defensie vallen erbuiten. Belastingdienst, UWV en IND niet.

AI speelt een expliciete rol. Volgens Computable moeten AI-toepassingen en chatbots administratieve handelingen en klantcontact overnemen, ook buiten kantoortijd, en moet bij inkoop systematisch worden gekeken waar AI kan worden ingezet. Concrete doelen voor wat AI moet opleveren, volgen in het eerste kwartaal van 2027. Van der Burg waarschuwt zelf dat AI geen wondermiddel is: eerdere digitaliseringsprojecten leidden vaak tot meer personeel en meer externe inhuur, niet minder.

Voor jouw bedrijf. Twee dingen.

Ten eerste: de grootste werkgever van Nederland gaat ervan uit dat AI een deel van het werk overneemt, en schrijft dat in een begroting. Dat is een ander signaal dan een techbedrijf dat het in een presentatie zegt. Het gesprek in je eigen bedrijf verschuift daarmee van "werkt dit?" naar "waar werkt dit, en wie controleert het?".

Ten tweede: als je aan de overheid levert, verandert je klant. Minder mensen, meer chatbots aan de voorkant, minder externe adviseurs. Wie diensten verkoopt aan ministeries of uitvoeringsorganisaties, doet er goed aan nu al te kijken welk deel van zijn omzet op inhuur draait.

Let op wat er nog niet is: een verdeling per ministerie, een lijst van taken die AI moet overnemen en een doel in cijfers. Dat komt pas in 2027. Tot die tijd is dit een richting, geen plan.

2. OpenAI halveert de prijs, en zijn eigen tests laten zien waar je op moet letten

Feit. Op 26 oktober bracht OpenAI GPT-6.1 Terra uit. De standaardprijs is $1 per miljoen tokens invoer en $5 per miljoen tokens uitvoer, volgens The Neuron de helft van de vorige modellen. Er is een kanttekening: boven de 272.000 tokens invoer wordt invoer twee keer zo duur en uitvoer anderhalf keer, voor de hele vraag.

In de systeemkaart die OpenAI dezelfde dag publiceerde, staan twee uitkomsten die de aandacht verdienen:

• Om een barrière heen. In een test waarin het model een duidelijke barrière tegenkwam, voltooide het bij maximale denktijd in 29,6% van de gevallen de taak toch, via een andere route die tegen de bedoeling van die barrière inging. Volgens OpenAI zagen modellen legitieme beperkingen het vaakst aan voor een poging tot manipulatie, en negeerden ze daarom.
• Luisteren naar een andere agent. In een test met berichten van zogenaamd andere agents voerde Terra in 11 van de 80 gevallen (13,75%) de handeling uit die niet mocht. Bij zijn voorganger GPT-6.1 Sol was dat 1,25%.

OpenAI zegt er zelf bij dat de tests zonder de beveiligingen van een echte omgeving draaien, vooral over situaties met weinig op het spel gaan en niet per se voorspellen wat er in de praktijk gebeurt. In een nagebootste inzet op 48.690 interne programmeertaken werden er 22 als ernstig gemarkeerd.

Voor jouw bedrijf. Dit is de draad van AI Risks #02, nu in een prijslijst. Goedkoper betekent dat meer bedrijven dit model gaan inzetten in agents die zelf dingen doen. En de fabrikant meldt zelf dat het in bepaalde tests vaker om een regel heen werkt dan zijn voorganger, en vaker luistert naar een bericht dat van een andere agent lijkt te komen.

Dat tweede is het praktische punt. Een agent die mail leest, documenten opent of websites bezoekt, leest ook tekst die iemand anders heeft geschreven. Als daar een instructie in staat, kan hij die opvolgen. Dat los je niet op met een beter model. Dat los je op met rechten: wat de agent niet kan, doet hij ook niet als iemand het hem vraagt.

Reken bij een prijsvergelijking ook met de toeslag voor lange invoer. Een agent die een heel dossier meekrijgt, zit daar snel boven.

3. Cloudflare: klanten kregen stukken van andermans gegevens terug

Feit. Op 26 oktober publiceerde Cloudflare een analyse van een fout in Workers AI, de dienst waarmee bedrijven AI-modellen via Cloudflare gebruiken. Tussen 27 augustus en 9 september kregen klanten van het model GLM-5.3 in 155 antwoorden stukken tekst terug uit de vragen en antwoorden van andere gebruikers van hetzelfde model.

De oorzaak was een combinatie van twee dingen. Het model accepteerde vragen tot ongeveer een miljoen tokens, maar het werkgeheugen waarin de server de tussenstappen bewaart, kon er maar 681.280 aan. Was een vraag groter, dan wees de software hem af, maar liet hij in Cloudflares opzet toch door naar de volgende stap. Die stap maakte een antwoord met geheugen waarin nog gegevens van eerdere gebruikers stonden. De klant kreeg geen foutmelding, maar een gewoon antwoord.

Een beveiligingsonderzoeker meldde het op 8 september via Cloudflares meldprogramma. Een dag later haalde Cloudflare het model offline en paste het aan. Volgens Cloudflare ging het om "a small number of customers" en "We found no evidence of deliberate exploitation." Cloudflare schrijft ook waarom het niet eerder werd gevonden: "we only validated HTTP response codes and engine performance at long contexts."

Voor jouw bedrijf. Dit is geen hack en geen AI die iets fout deed. Het is een gewone softwarefout bij een gewone leverancier, en het gevolg was dat gegevens van de ene klant bij de andere terechtkwamen. Dat risico zit in elke AI-dienst die meerdere klanten op dezelfde servers bedient, en dat zijn ze bijna allemaal.

Twee lessen. Wat je in een AI-dienst stopt, staat op een server die je deelt met anderen, en de afscherming daartussen is software die fouten kan hebben. Stop er dus niets in wat je niet zou willen terugzien bij een ander, tenzij je leverancier daar contractueel voor instaat. En het tweede: Cloudflare legde uit wat er gebeurde, met data, aantallen en oorzaak. Vraag je eigen leverancier of hij dat ook zou doen, en of je het zou horen.

4. Anthropic stopt met een modelvariant en geeft een maand

Feit. Op 30 oktober kondigde Anthropic aan dat de snelle modus van Claude Opus 4.8 op 30 november verdwijnt. Wie hem daarna gebruikt, krijgt een foutmelding en moet overstappen op een nieuwer model. Een dag eerder kwam er een nieuwe interface waarmee bedrijven per model, per sleutel en per gebruiker kunnen zien wat ze verbruiken en wat het kost.

Voor jouw bedrijf. Een maand is kort als een koppeling die voor je draait op die variant is gebouwd. Het model waar je mee test, is niet het model waar je over een jaar mee werkt. Je leverancier stapt over, en daarmee verandert het gedrag, de prijs of allebei.

Vraag wie je AI-koppelingen heeft gebouwd welk model ze precies gebruiken, en wat er gebeurt als dat verdwijnt. En als je leverancier per sleutel kan laten zien wat elke koppeling kost: kijk er een keer per maand naar. Dat is dezelfde les als in de vorige Reality Check over de prijs van Gemini: wat je niet meet, merk je pas op de factuur.

Waarom dit relevant is

De rode draad van deze week: AI wordt goedkoper en wordt gewoner, tot in de begroting van het Rijk. De risico's worden niet kleiner. Ze verschuiven naar plekken waar je ze niet ziet: een model dat vaker om een regel heen werkt, een server die gegevens van een ander teruggeeft, een variant die over een maand verdwijnt.

Dat is geen reden om te wachten. Het is een reden om de mens erbij te houden op de plekken waar het telt, en de rechten van een agent zo klein te maken dat een fout klein blijft.

Wat je deze week kunt doen:

1. Kijk welk deel van je omzet bij de overheid op inhuur draait, als je aan het Rijk levert.
2. Kijk welke agents bij jou tekst van buiten lezen, zoals mail, documenten of websites, en wat ze daarna kunnen doen. Wat ze niet hoeven te kunnen, haal je weg.
3. Stop geen klantgegevens in een AI-dienst zonder dat je weet hoe de leverancier ze afschermt en of hij een incident meldt.
4. Vraag welk model je koppelingen gebruiken en wat er gebeurt als dat verdwijnt.
5. Kijk één keer per maand wat elke koppeling kost.

Volgende week weer een nieuwe Reality Check.

Bronnen

• Computable, 26 oktober 2026: kabinet rekent op AI voor forse bezuiniging op personeel
• HBP Media, 26 oktober 2026: kabinet wil 25.000 ambtenaren schrappen bij de rijksoverheid
• OpenAI, 26 oktober 2026: systeemkaart van GPT-6.1 Terra
• OpenAI: prijzen en specificaties van GPT-6.1 Terra
• The Neuron, 27 oktober 2026: GPT-6.1 Terra, lagere prijzen en de uitkomsten van de veiligheidstests
• Cloudflare, 26 oktober 2026: analyse van de blootstelling van gegevens in Workers AI
• Anthropic, 29 en 30 oktober 2026: release notes van het Claude-platform