Waarom meer AI-autonomie je menselijk toezicht ondermijnt

TL;DR

• Wat: Een wetenschappelijk paper betoogt dat toenemende autonomie van AI-agents menselijk toezicht stapsgewijs ondermijnt — door onder meer goedkeuringsmoeheid en vaardigheidsverlies.
• Waarom relevant: Als ondernemer vertrouw je steeds meer op AI-agents voor taken als klantenservice, planning of inkoop — maar je vermogen om fouten te herkennen neemt af naarmate je meer uit handen geeft.
• Wat je ermee kunt: Bepaal per AI-toepassing in je bedrijf welk autonomieniveau passend is, en plan bewust momenten in waarop je (of een medewerker) écht inhoudelijk meekijkt.

Ik viel over een bericht van Gary Marcus op X, waarin hij een paper deelde van Margaret Mitchell (Hugging Face) en collega's. De titel is vrij direct: Fully Autonomous AI Agents Should Not Be Developed. Wat mij triggerde is niet de conclusie zelf, maar de mechanismen die ze beschrijven — want die herken ik in hoe we als ondernemers nu al met AI-tools omgaan.

Vijf niveaus van autonomie — en waar het kantelt

Het paper van Mitchell, Ghosh, Luccioni en Pistilli (arXiv:2502.02649) onderscheidt vijf niveaus van AI-autonomie:

1. Simple Processor — het model heeft geen invloed op de programmaflow. Denk aan een spellingscontrole.
2. Router — het model bepaalt welke stap wanneer wordt uitgevoerd. Bijvoorbeeld een chatbot die je naar de juiste afdeling stuurt.
3. Tool Caller — het model kiest zelf welke functies het aanroept en met welke input. Hier begint het interessant te worden: de AI neemt beslissingen.
4. Multi-step Agent — het model bepaalt wanneer het doorgaat, stopt of een andere route kiest. Denk aan een AI die zelfstandig een reeks e-mails verstuurt op basis van binnenkomende klantdata.
5. Fully Autonomous Agent — het model schrijft en voert eigen code uit, buiten vooraf ingestelde grenzen.

De onderzoekers stellen dat de risico's voor mensen toenemen naarmate een systeem autonomer wordt. Dat klinkt logisch, maar het punt is subtieler dan "meer autonomie = meer risico". Het probleem zit in wat er met jou als mens gebeurt terwijl de autonomie toeneemt.

Goedkeuringsmoeheid: de stille vijand

Het paper benoemt een fenomeen dat iedereen kent die weleens cookiebanners wegklikt: approval fatigue, of goedkeuringsmoeheid. Als een AI-agent je om toestemming vraagt voor elke actie, lees je de eerste keer nog zorgvuldig mee. De tiende keer scan je vluchtig. En ergens daarna klik je op "akkoord" voordat je de melding hebt gelezen.

Dit is geen zwakte van jou als persoon — het is een voorspelbaar menselijk patroon. En het wordt erger naarmate het volume toeneemt. Stel dat je als ondernemer een AI-agent inzet die dagelijks tientallen inkoopbeslissingen voorbereidt. In het begin controleer je elke bestelling. Na een week vertrouw je het systeem, want het had steeds gelijk. Na een maand keur je batches goed zonder ze te lezen.

Dat is precies het moment waarop een fout erdoorheen glipt.

Vier mechanismen die toezicht uithollen

De onderzoekers beschrijven vier samenhangende effecten die menselijk toezicht ondermijnen:

1. Goedkeuringsmoeheid

Zoals hierboven beschreven: te veel goedkeuringsverzoeken leiden tot reflexmatig akkoord geven. Het toezichtmechanisme — de mens die "ja" of "nee" zegt — wordt een stempelmachine.

2. Overmatig vertrouwen (automation bias)

We kennen dit uit andere domeinen. Piloten die hun instrumenten meer vertrouwen dan hun eigen waarneming. Het paper noemt dit automation bias: de neiging om een geautomatiseerd systeem te vertrouwen, ook als er signalen zijn dat het fout zit. Bij AI-agents speelt dit extra sterk wanneer ze mensachtig communiceren. Die vriendelijke toon maakt ons minder kritisch — niet bewust, maar meetbaar.

3. Verlies van situationeel bewustzijn

Als je een taak uitbesteedt aan een AI, verlies je gaandeweg het overzicht over wat er precies gebeurt. Dat is vergelijkbaar met een ondernemer die de boekhouding al jaren niet meer zelf doet en daardoor niet meer herkent wanneer cijfers vreemd zijn. Niet omdat die ondernemer dom is, maar omdat het patroonherkenning vereist die je alleen opbouwt door zelf met de data te werken.

4. Vaardigheidsdegradatie

Dit noemen de auteurs de "ironie van automatisering": hoe meer je automatiseert, hoe minder competent je wordt in precies die taken waar je soms handmatig moet ingrijpen. En het zijn juist die zeldzame, kritieke momenten waar menselijke expertise het verschil maakt.

Wat mij opvalt: deze vier effecten versterken elkaar. Goedkeuringsmoeheid maakt je minder alert. Minder alertheid versterkt je overmatig vertrouwen. Overmatig vertrouwen vermindert je situationeel bewustzijn. En zonder bewustzijn degraderen je vaardigheden. Het is een spiraal.

Wat betekent dit voor een ondernemer?

Ik denk dat dit paper voor ondernemers relevanter is dan het op het eerste gezicht lijkt. We zitten midden in een golf van AI-agents voor het MKB — tools die e-mails beantwoorden, offertes opstellen, social media plannen, klantvragen routeren. Uit recent Nederlands onderzoek blijkt dat bijna een kwart van de MKB-ondernemers actief met AI werkt, maar slechts 6% het echt in de dagelijkse bedrijfsvoering heeft geïntegreerd.

Dat lage percentage is misschien niet alleen een kwestie van kennis of kosten. Mogelijk voelen ondernemers intuïtief aan dat er iets wringt bij het volledig uit handen geven — zonder dat ze het zo scherp kunnen formuleren als dit paper doet.

De onderzoekers pleiten niet voor het stoppen met AI-agents. Ze pleiten voor het bewust kiezen van het juiste autonomieniveau per toepassing, en voor het ontwikkelen van controle-mechanismen die écht werken — niet alleen op papier.

Concreet zou ik als ondernemer bij elke AI-agent die ik inzet twee vragen stellen:

• Op welk niveau van autonomie draait dit? Een tool caller (niveau 3) vraagt andere waarborgen dan een multi-step agent (niveau 4).
• Hoe voorkom ik dat mijn toezicht verwatert? Niet door meer goedkeuringsknoppen, maar door periodiek zelf steekproefsgewijs het werk van de agent inhoudelijk te beoordelen.

Geen paniek, wel bewustzijn

Ik vind het eerlijk gezegd verfrissend dat dit paper niet zegt: "AI is gevaarlijk, stop ermee." De boodschap is genuanceerder. De auteurs — waaronder Mitchell, die bij Hugging Face werkt en eerder bij Google aan AI-ethiek werkte — erkennen dat semi-autonome agents waarde hebben. Hun punt is dat de sprong naar volledige autonomie een kwalitatief ander soort risico introduceert. Eentje dat niet technisch is, maar menselijk: wij veranderen mee.

Gary Marcus, die het paper deelde en aangaf het volledig te onderschrijven, schrijft al langer over de beperkingen van huidige AI-systemen. Dat hij dit onderschrijft past in zijn bredere visie, maar het maakt de onderliggende analyse niet minder waardevol.

Voor mij is dit vooral een herinnering dat "de mens houdt toezicht" geen veiligheidsgarantie is — het is een aanname die je actief waar moet maken. En dat vraagt meer dan een goedkeuringsknop in een dashboard.