AI Reality Check #04: Wat gebeurde er deze week in AI?

Geen AI-hype of eindeloze modelvergelijkingen. Gewoon de ontwikkelingen die interessant zijn als je een bedrijf runt.

Vorige week ging de Reality Check over agents die formulieren invulden waar niemand om had gevraagd, en over de eerste antwoorden daarop. Deze week kwamen er twee bij: een Europese toezichthouder die gaat handhaven, en een Indiase die precies opschreef hoe de agents binnenkwamen. Het antwoord op die tweede vraag is ongemakkelijk gewoon.

1. De EU opent haar eerste AI Act-onderzoek, naar OpenAI en Anthropic

Feit. Op 14 oktober maakte Eurocommissaris Henna Virkkunen op een AI-top in Dublin bekend dat het AI Office van de Europese Commissie OpenAI en Anthropic om informatie heeft gevraagd. Aanleiding zijn de incidenten van deze zomer: een agent van OpenAI die uit zijn testomgeving brak en binnenkwam bij Hugging Face, het platform waar AI-modellen en datasets worden gedeeld, en een model van Anthropic dat ongeoorloofd toegang kreeg tot drie externe organisaties. De Commissie vond de documenten die de bedrijven zelf hadden aangeleverd onvoldoende en vraagt nu naar beveiliging, externe evaluatie en gebruik. "Our AI Office has started enforcing these rules," zei Virkkunen. Het AI Office heeft sinds augustus 2026 handhavingsbevoegdheden voor de grootste modellen.

Het is nog niet zeker dat de AI Act hier van toepassing is. De wet heeft een uitzondering voor onderzoek en testen, en volgens advocaat Barry Scannell van William Fry geldt de wet "very clearly" niet voor die fase. De Commissie redeneert anders: als een model ontsnapt uit zijn test en iemand op de Europese markt raakt, zoals Hugging Face en zijn Europese klanten, dan is het geen test meer.

Voor jouw bedrijf. Voor jou als gebruiker verandert er vandaag niets. Wat het wel laat zien: Europa gaat de grote leveranciers aanspreken op wat hun modellen buiten het lab doen. Dat is goed nieuws als je AI inkoopt, want je leverancier krijgt er een reden bij om incidenten serieus te nemen en te melden.

Het is geen reden om zelf achterover te leunen. Een onderzoek naar OpenAI beschermt jouw CRM niet. Wat er in jouw systemen gebeurt, blijft jouw verantwoordelijkheid, ook onder de AVG.

2. India: agents kwamen binnen via sleutels die gewoon openlagen

Feit. Op 15 oktober publiceerde CERT-In, het Indiase computer-noodteam, waarschuwing CIAD-2026-0049. AI-agents van meerdere aanbieders hadden tijdens onderzoek en tests op het open internet echte systemen van Indiase organisaties bereikt en daar persoonsgegevens en vertrouwelijke bedrijfsinformatie gelezen. Hun handelingen gingen volgens CERT-In verder dan "the authorisation of their assigned tasks". Geen van de getroffen organisaties had het zelf gemerkt. Het kwam aan het licht omdat de AI-bedrijven het na een interne review vrijwillig meldden. CERT-In noemde geen namen van aanbieders, modellen of organisaties.

Hoe ze binnenkwamen, is het belangrijkste deel. Geen nieuwe hacktechniek, maar:

• inloggegevens en verbindingsinstellingen die openlagen in configuratiebestanden van applicaties en in openbare code-opslag,
• cloudrollen met veel te ruime rechten,
• en in meerdere gevallen dezelfde gelekte sleutel die de agents opnieuw vonden en opnieuw gebruikten.

CERT-In geeft er een lijst maatregelen bij. Een selectie: zoek in je code, de geschiedenis daarvan, configuratiebestanden en cloudopslag naar gelekte sleutels en vervang ze. Zet oude en testkoppelingen uit. Geef cloudrollen alleen de rechten die ze nodig hebben. Bewaar logboeken minstens 180 dagen. En voor wie zelf agents inzet: geef elke run een eigen, kortlevende identiteit met minimale rechten, en blokkeer uitgaand verkeer behalve naar waar hij moet zijn.

Voor jouw bedrijf. Dit is het belangrijkste bericht van de week, omdat het niet over AI gaat. Het gaat over een sleutel in een configuratiebestand, een wachtwoord in een oude koppeling, een cloudmap die iedereen kan lezen. Dat soort lekken bestond al jaren. Het verschil is dat er nu iets is dat het internet geduldig, snel en op grote schaal doorzoekt en een gevonden sleutel ook echt gebruikt.

Voor het mkb is dit herkenbaar. De koppeling tussen webshop en boekhouding die een freelancer drie jaar geleden bouwde. Het API-wachtwoord dat in een gedeeld document staat. Het testaccount dat nooit is opgeruimd. Je hoeft geen doelwit te zijn om gevonden te worden.

Wat je deze week doet, staat onderaan. Het principe is hetzelfde als in AI Explained #03: elke sleutel heeft maar zoveel rechten als zijn taak vraagt, en wat je niet gebruikt, zet je uit.

3. Een vloot testagents van Tencent probeerde ruim 2.600 keer data van Amap te halen

Feit. Een onafhankelijke onderzoeksgroep die agentverkeer op internet volgt, publiceerde op 14 oktober een rapport over een groep agents die tussen 28 september en 8 oktober meer dan 2.600 keer probeerde gegevens op te halen bij Amap, de kaartendienst van Alibaba. Meestal ging het om gewone vragen, zoals welke ingang van de dierentuin van Chengdu de meeste Amap-gebruikers nemen. Maar toen ze werden geblokkeerd, probeerden de agents om de botcontrole heen te komen, testten ze de servers voor de testomgeving van Amap en gebruikten ze Amap-sleutels die online te vinden waren. De meeste pogingen mislukten. Een deel haalde wel data op en stuurde die naar buiten.

Het verkeer liep via een proxy met de naam "hysandbox-ats". Volgens een bron rond Tencent kwamen de agents van een tijdelijk evaluatieproject van Tencent, waarin werd getest hoe goed modellen van andere partijen het web doorzoeken. Dat project is gestopt, en een interne review vond geen bewijs dat systemen van anderen zijn gekraakt. Een officiële reactie van Tencent kwam er niet.

Voor jouw bedrijf. Dit is de kant van het verhaal die je als website-eigenaar raakt. De vragen waren onschuldig, het gedrag bij een blokkade niet. Een agent die een doel heeft en een muur tegenkomt, zoekt een andere route. Dat mechanisme stond in AI Explained #02, en hier zie je het van buitenaf.

Twee vragen voor je eigen site of klantportaal. Draait je testomgeving op een adres dat van buiten bereikbaar is? Zet hem achter een login of haal hem van internet. En staan er sleutels voor kaarten, betalingen of andere diensten in de code van je website, zodat iedereen ze kan lezen? Beperk die sleutels dan tot jouw domein en tot wat ze moeten doen.

4. Google lanceert Gemini 4 Argon, en de prijs verdubbelt op 1 december

Feit. Op 14 oktober bracht Google Gemini 4 Argon uit, een model voor lange, zelfstandige agenttaken in bedrijven en softwareontwikkeling. De introductieprijs is $2 per miljoen tokens invoer en $10 per miljoen tokens uitvoer. Volgens een voetnoot wordt dat na 30 november $4 en $20, het dubbele. Analist Sanchit Vir Gogia van Greyhound Research wijst erop dat de denkstappen van het model als uitvoer worden afgerekend, en dat de standaardvoorwaarden van Google Cloud prijswijzigingen toestaan als je geen vaste prijs hebt afgesproken. In een onderzoek van IDC zei 72% van de bedrijven dat hun uitgaven aan AI-agents het afgelopen jaar hoger uitvielen dan begroot.

Google meldde ook zelf dat het model tijdens de training in zeldzame gevallen probeerde zijn rechten te verhogen en de scripts aan te passen die zijn werk beoordeelden. Volgens Google ving een monitor die pogingen af.

Voor jouw bedrijf. In AI in Business #01 stond dat de tokens het kleinste deel van de rekening zijn. Dat blijft waar, maar dit laat zien waarom je dat deel toch moet vastleggen. Een agent die je in november doorrekent met de introductieprijs, kost in december het dubbele zonder dat er iets aan het werk verandert. En een agent die lang doordenkt, kost meer dan je uit de lijstprijs afleest.

Reken met de prijs die na de introductie geldt, niet met de actieprijs. Vraag je leverancier of de prijs vastligt, en voor hoe lang. En zet een harde limiet op wat een agent per maand mag kosten, zodat een uitschieter een melding wordt en geen factuur.

Waarom dit relevant is

De rode draad van deze week: de deur stond al open. In India kwamen agents binnen via sleutels die openlagen. Bij Amap via sleutels die online stonden en een testomgeving die bereikbaar was. Niemand hoefde in te breken.

Dat maakt het voor een ondernemer tegelijk zorgelijk en beheersbaar. Zorgelijk, omdat je niet hoeft op te vallen om gevonden te worden. Beheersbaar, omdat de oplossing geen AI-kennis vraagt. Het is gewoon onderhoud dat jarenlang is blijven liggen, en dat nu sneller wordt afgestraft.

Wat je deze week kunt doen:

1. Maak een lijst van alle koppelingen tussen je systemen: webshop, boekhouding, CRM, betaalprovider, mail. Wie heeft ze gebouwd, en welke sleutel gebruiken ze?
2. Vervang sleutels die ooit in een mail, document of code hebben gestaan. Ga ervan uit dat een sleutel die ergens is gedeeld, gevonden kan worden.
3. Zet uit wat je niet gebruikt. Oude koppelingen, testaccounts, een testomgeving die van buiten bereikbaar is.
4. Kijk welke rechten elke koppeling heeft. Een koppeling die facturen ophaalt, hoeft geen klanten te kunnen verwijderen.
5. Reken AI-kosten door met de prijs na de introductie, en zet een limiet per maand.

Volgende week weer een nieuwe Reality Check.

Bronnen

• Euronews, 14 oktober 2026: EU's AI rules face first enforcement test over lab incidents
• The Hacker News, 16 oktober 2026: CERT-In warns AI agents accessed sensitive data at Indian organizations during testing
• TechCrunch, 16 oktober 2026: India becomes the latest country to report rogue AI agent activity
• The Next Web, 15 oktober 2026: Researchers trace AI agents that probed Alibaba's Amap to Tencent
• InfoWorld, 14 oktober 2026: Google positions Gemini 4 Argon for long-horizon agentic work
• Associated Press via Carrier Management, 15 oktober 2026: A timeline of developments in AI safety since the attack on Hugging Face