Chinese legereenheden gebruikten Amerikaanse AI-modellen

TL;DR

• Wat: Reuters onthult dat Chinese militaire onderzoekers AI-modellen van OpenAI en Anthropic gebruikten om eigen defensiesystemen te trainen.
• Waarom relevant: als je als ondernemer met AI-tools werkt, raakt dit direct aan de betrouwbaarheid en toekomstbestendigheid van de modellen die je inzet.
• Wat je ermee kunt: controleer of je AI-leverancier transparant is over gebruiksvoorwaarden en denk na over afhankelijkheid van één aanbieder.

Ik stuitte vanochtend op een tweet van @Osint613 die verwees naar een uitgebreid Reuters-onderzoek. De conclusie: minstens twee Chinese instellingen met banden met het leger hebben Amerikaanse AI-modellen ingezet om eigen systemen op te bouwen. Dat vond ik het uitpluizen waard — niet alleen als techverhaal, maar omdat het iets zegt over de tools die wij als ondernemers dagelijks gebruiken.

Wat er precies aan de hand is

Reuters heeft meer dan 80 Chinese academische papers en patenten doorgespit. Daaruit blijkt dat onder andere de North University of China — een universiteit met nauwe banden met de Chinese wapenindustrie — Anthropic's Claude 3 Haiku heeft gebruikt om synthetische trainingsdata te genereren. Die data diende vervolgens om een eigen model te trainen voor socialemediamonitoring en contentmoderatie.

Maar het gaat verder dan één universiteit. Ook eenheden van het Chinese Volksbevrijdingsleger (PLA) komen in de documenten voor, waaronder Unit 96941 — een eenheid die volgens Reuters gelinkt is aan inlichtingen- en cyberoperaties. Naast Anthropic's Claude werd ook OpenAI's GPT-3.5 ingezet. De toepassingen variëren van het verwerken van gevoelige militaire broncode tot beeldherkenning voor drones en navigatie voor onbemande onderzeeërs.

De techniek: modeldistillatie

De rode draad in dit verhaal is een techniek die modeldistillatie heet. Ik vind het een slim maar ook verontrustend concept. Het werkt als volgt: je laat een groot, krachtig AI-model — zoals Claude of GPT — vragen beantwoorden of data genereren. Die output gebruik je vervolgens als trainingsmateriaal voor een kleiner, gespecialiseerd model. Dat kleinere model kun je lokaal draaien, zonder de enorme rekenkracht die nodig is om een groot model vanaf nul te bouwen.

Vergelijk het met een student die een topexpert eindeloos vragen stelt, alle antwoorden opschrijft en er vervolgens een eigen handboek van maakt. De student heeft niet de jarenlange ervaring van de expert, maar beschikt nu wel over een geconcentreerde versie van diens kennis.

Wat mij hier opvalt: Anthropic heeft zelf aangegeven dat gedistilleerde modellen de veiligheidswaarborgen van het oorspronkelijke model kunnen verliezen. Dat betekent dat gevoelige capaciteiten kunnen worden overgeheveld naar systemen waar de oorspronkelijke ontwikkelaar geen enkel zicht meer op heeft.

Hoe reageren de AI-bedrijven?

Anthropics reactie is helder: het bedrijf zegt geen commerciële toegang tot Claude te bieden in China of aan door Beijing gecontroleerde organisaties, en het heeft monitoringsystemen om schendingen van het beleid te detecteren. Eerder dit jaar meldde Anthropic al dat het grootschalige distillatiecampagnes had ontdekt waarbij zo'n 24.000 frauduleuze accounts meer dan 16 miljoen conversaties genereerden.

OpenAI heeft volgens Reuters niet gereageerd op verzoeken om commentaar.

Ik vind het eerlijk gezegd opvallend dat ondanks deze monitoringsystemen de output tóch op grote schaal bruikbaar bleek voor militair onderzoek. Het roept de vraag op hoe effectief zulke beveiligingen in de praktijk zijn wanneer de drempel om een API te gebruiken via omwegen relatief laag is.

Wat dit voor jou als ondernemer betekent

Je denkt misschien: dit gaat over geopolitiek en defensie, wat heb ik daar als MKB-ondernemer mee te maken? Meer dan je op het eerste gezicht zou verwachten.

Afhankelijkheid en beschikbaarheid

Dit soort incidenten versnelt de politieke druk om AI-modellen strenger te reguleren. In de VS wordt al gesproken over een foreign direct product rule die ook modeloutput onder exportcontroles kan brengen. Stel dat je als Nederlands bedrijf een workflow hebt gebouwd op een Amerikaans AI-model — dan is het niet ondenkbaar dat toekomstige regelgeving de beschikbaarheid of de functionaliteit van die tools beïnvloedt. Dat is geen voorspelling, maar een scenario waar je rekening mee kunt houden.

Reputatie en vertrouwen

Als de modellen die jij gebruikt in het nieuws komen vanwege militair misbruik, kan dat indirect het vertrouwen van jouw klanten in AI-toepassingen raken. Kun je je voorstellen dat je een klant uitlegt dat je een AI-tool inzet voor klantenservice, en diezelfde klant leest dat diezelfde technologie elders wordt gebruikt voor dronenavigatie? Dat is geen reden om te stoppen met AI, maar wel om bewust te kiezen welke leverancier je vertrouwt en hoe je dat naar klanten communiceert.

Diversificatie

Ik denk dat dit verhaal — los van de geopolitieke lading — opnieuw laat zien waarom het verstandig is om niet volledig afhankelijk te zijn van één AI-leverancier. Niet alleen vanwege technische risico's, maar ook vanwege regelgeving die snel kan verschuiven. Europese alternatieven zijn er steeds meer, al zijn ze vaak (nog) minder krachtig voor bepaalde taken.

De bredere context

Volgens Reuters wordt modeldistillatie een "major flashpoint" — een belangrijk spanningspunt — in de aankomende AI-gesprekken tussen de VS en China. De Jamestown Foundation, een Amerikaanse denktank, heeft in een eigen analyse meer dan 60 van deze papers bevestigd. Het is dus niet één incident of één paper — het gaat om een patroon.

Wat mij betreft is het meest opmerkelijke niet dát dit gebeurt — bij elke technologie zoeken staten naar militaire toepassingen. Het opmerkelijke is de schaal en de openheid: veel van deze papers zijn gewoon gepubliceerd in academische tijdschriften. De onderzoekers maakten er in sommige gevallen geen geheim van welke modellen ze gebruikten.

Voor mij is dit vooral een signaal dat de AI-wereld in een fase zit waarin de spelregels nog worden geschreven. Als ondernemer is het verstandig om die ontwikkelingen te volgen — niet om er bang van te worden, maar om weloverwogen keuzes te maken over de tools waar je je bedrijf op bouwt.