Pentagon stuurde troepen op pad na fout AI-rapport over Chinees schip

TL;DR

• Wat: Een AI-chatbot vertelde het Amerikaanse leger dat een Chinees vrachtschip nucleaire onderdelen vervoerde — het schip bleek tarwe te vervoeren.
• Waarom relevant: als AI-output zonder controle tot grote beslissingen leidt bij het Pentagon, kan dat ook in jouw bedrijf gebeuren.
• Wat je ermee kunt: bouw een vast verificatiemoment in vóórdat je op AI-gegenereerde analyses handelt.

Ik las gisteren een bericht dat me echt even stil maakte. Een analist van het Amerikaanse leger voerde open bronnen door een AI-chatbot, en die chatbot concludeerde dat een Chinees vrachtschip nucleaire wapenonderdelen aan boord had. Gewapende boardingteams waren al in de lucht voordat iemand de uitkomst controleerde. Het schip bleek tarwe te vervoeren — en doet dat al jaren.

Wat er precies is gebeurd

Volgens een exclusief CNN-rapport speelde dit incident zich af in het voorjaar van 2026, tijdens de militaire operaties rond Iran. Een special-operations-analist bij het US Special Operations Command Pacific in Hawaï wilde meer weten over de lading van een Chinees schip in het Midden-Oosten.

De analist voerde informatie over het scheepsmanifest — een soort vrachtbrief — in bij een AI-chatbot. Die chatbot combineerde openbaar beschikbare informatie met geheime signalinlichtingen uit overheidsdatabases. De conclusie: het schip zou onderdelen van een nucleair wapenprogramma vervoeren.

Vervolgens gebruikte de analist opnieuw AI om die bevinding te verpakken in een inlichtingenrapport. Dat rapport werd breed verspreid binnen het leger. Gewapende militairen maakten zich klaar om het schip te enteren, en vliegtuigen waren al opgestegen.

Pas vlak voordat de operatie daadwerkelijk zou beginnen, controleerden analisten bij het Pentagon de informatie. Het rapport bleek, in de woorden van een bron, "entirely false" — volledig onjuist. De missie werd afgeblazen. Niemand ging aan boord.

Een betrokkene zei volgens Rolling Stone: het had "bijna een oorlog gestart."

Wat hier misging: de keten van ongecontroleerd vertrouwen

Wat mij opvalt, is niet zozeer dat de chatbot er naast zat. AI-hallucinaties — momenten waarop een taalmodel zelfverzekerd iets presenteert dat feitelijk niet klopt — komen voor. Dat is een bekend risico.

Wat mij wél treft, is de keten van gebeurtenissen daarna:

1. De analist stelde een vraag aan een chatbot.
2. De chatbot gaf een overtuigend maar fout antwoord.
3. De analist gebruikte wéér AI om dat antwoord in een officieel rapport te gieten.
4. Het rapport werd verspreid zonder menselijke verificatie.
5. Op basis van dat rapport werden troepen gemobiliseerd.

Elke stap in die keten miste een controlepunt. Niet één persoon keek tussentijds of de conclusie klopte met de werkelijkheid — totdat het bijna te laat was.

Het is overigens niet duidelijk of de gebruikte chatbot een commercieel product was of een intern overheidsmodel. Die informatie ontbreekt in de bronnen.

Waarom dit ook voor ondernemers relevant is

Ik hoor je denken: dit gaat over het Pentagon, niet over mijn bedrijf. Dat klopt — de schaal is anders. Maar het mechanisme is precies hetzelfde.

Stel dat je als ondernemer een AI-tool gebruikt om een marktanalyse te maken voor een grote investering. Of om juridische documenten samen te vatten. Of om financiële data te interpreteren. Als je op die output handelt zonder te controleren, neem je een risico dat je misschien niet eens doorhebt.

De cijfers zijn er inmiddels. Volgens onderzoek van Deloitte heeft 47 procent van de zakelijke AI-gebruikers minstens één grote beslissing genomen op basis van door AI verzonnen informatie. En de gemiddelde hallucinatiegraad bij commerciële taalmodellen ligt rond de 20 procent — één op de vijf antwoorden bevat een fout.

Dat betekent niet dat AI waardeloos is. Het betekent wel dat AI-output een tussenstap is, geen eindoordeel.

De kosten van niet-controleren

Wat ik eerlijk gezegd interessant vind aan dit verhaal, is dat de kosten van wél controleren relatief laag waren. Iemand had het scheepsmanifest kunnen opvragen. Iemand had de handelsgeschiedenis van het schip kunnen checken — het vervoerde al jaren tarwe. Dat was geen complexe verificatie geweest.

Toch gebeurde het pas op het allerlaatste moment.

Voor bedrijven geldt iets vergelijkbaars. Uit recent onderzoek blijkt dat kenniswerkers gemiddeld 4,3 uur per week besteden aan het controleren van AI-output. Dat klinkt als veel, maar de alternatieve kosten zijn hoger. De EY Responsible AI Survey uit 2025 liet zien dat 99 procent van de ondervraagde organisaties financieel verlies leed door AI-gerelateerde fouten, met een gemiddelde schade van 4,4 miljoen dollar per getroffen bedrijf.

Kun je je voorstellen wat het betekent als een onjuiste AI-analyse leidt tot een verkeerde inkoop, een fout contract, of een compliance-overtreding? Onder de EU AI Act, die sinds 2026 volledig van kracht is, kunnen boetes oplopen tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet.

Wat dit ons leert over de rol van AI

Ik denk dat dit voorval een helder beeld geeft van waar we nu staan met AI. De technologie is krachtig genoeg om overtuigende analyses te produceren. Zo overtuigend dat zelfs getrainde militaire analisten er niet doorheen prikten.

Maar "overtuigend" en "juist" zijn twee verschillende dingen.

Voor mij zit de les niet in het afwijzen van AI. De les zit in het inrichten van je proces. Elke keer dat je AI-output gebruikt voor een beslissing die er toe doet — financieel, juridisch, strategisch — moet er een menselijk controlepunt tussen zitten. Niet als luxe, maar als standaardstap.

Het Pentagon had bijna een internationaal incident veroorzaakt omdat dat controlepunt ontbrak. In het bedrijfsleven zijn de gevolgen meestal kleiner, maar het principe is identiek: vertrouw niet blindelings op wat een model je vertelt, hoe professioneel de output er ook uitziet.

Voor mij is dit vooral een signaal dat de vraag niet meer is óf je AI gebruikt, maar hoe je het inbedt in je besluitvorming — met welke waarborgen, welke controles, en welke gezonde portie scepsis.