Chinese AI-censuur in Qwen — en waarom open source het zelf oplost

TL;DR

• Wat: Onderzoekers ontdekten dat Alibaba's AI-model Qwen politieke censuur bevat die past bij het Chinese overheidsstandpunt. Een Israëlisch bedrijf verwijderde die censuur en publiceert een 'gewesterniseerde' versie.
• Waarom relevant: Qwen is meer dan 3 miljard keer gedownload en wordt gebruikt door bedrijven als Airbnb en Uber Eats — mogelijk ook door tools die jij als ondernemer inzet.
• Wat je ermee kunt: Controleer welke AI-modellen onder de motorkap van jouw software zitten, en of die keuze gevolgen heeft voor de antwoorden die jouw klanten krijgen.

Ik stuitte op een tweet van Arnaud Bertrand die wees op een CBS News-artikel over censuur in het Chinese AI-model Qwen. Zijn punt: CBS opent met een alarmerende kop, maar vertelt vervolgens zelf dat een startup die censuur eruit heeft gehaald — juist omdát het model open source is. Ik vind dat een interessante spanning die het waard is om even uit te pakken.

Wat er aan de hand is met Qwen

Qwen is een AI-model van Alibaba, de Chinese techgigant. Het model is gratis beschikbaar als open-source (of preciezer: open-weight — dat betekent dat je de digitale bouwstenen van het model kunt downloaden en aanpassen). Volgens CBS News is Qwen inmiddels meer dan 3 miljard keer gedownload wereldwijd. Grote namen als Airbnb en Uber Eats gebruiken het in hun diensten, van klantenservice-chatbots tot zoekfuncties.

Maar onderzoekers van het Israëlische bedrijf Hirundo ontdekten dat Qwen op politiek gevoelige onderwerpen consistent het standpunt van de Chinese overheid volgt. Het model weigert de gewelddadige onderdrukking van protesten op het Tiananmenplein in 1989 te erkennen. Het noemt Falun Gong — een door de Chinese overheid verboden beweging — een "gevaarlijke sekte". En het wil niet praten over Winnie de Pooh, vermoedelijk omdat dissidenten het beertje hebben vergeleken met president Xi Jinping.

Hirundo testte Qwen op 500 prompts over 15 onderwerpen. Resultaat: op politiek gevoelige vragen vertoonde het originele model in 89,8% van de gevallen censuur, propaganda-achtige framing of politieke bias. Dat is niet een beetje — dat is bijna negen op de tien keer.

De ironie die open source blootlegt

En hier wordt het interessant, en precies hier zit de ironie die Arnaud Bertrand opmerkte. CBS opent met een kop die klinkt als een waarschuwing: er zit censuur in deze populaire AI. Maar datzelfde artikel laat zien dat Hirundo die censuur kon verwijderen — juist omdat Qwen open source is.

Hirundo noemt hun aanpak "AI-hersenoperatie". Ze passen de modelgewichten aan — zeg maar de digitale neuronen van het model — in plaats van er simpelweg een filter bovenop te plakken. Het resultaat: hun aangepaste versie toont nog maar in 2,8% van de gevallen bias op dezelfde gevoelige vragen. En volgens Hirundo blijven de overige capaciteiten — redeneren, code schrijven, instructies volgen, wiskunde — gewoon intact.

Kun je je voorstellen dat dit met een gesloten model zou kunnen? Bij een dienst waar je alleen een chatvenster krijgt en verder niets kunt aanpassen? Dan zou die censuur er gewoon in zitten, en je zou het misschien niet eens merken.

Ik vind dit eerlijk gezegd een van de sterkste argumenten vóór open-source AI die ik in een tijdje heb gezien. Niet omdat open source per definitie beter is, maar omdat het je de mogelijkheid geeft om te kijken wat er onder de motorkap zit — en om het aan te passen.

Wat dit betekent voor de betrouwbaarheid van AI-tools

Nu denk je misschien: ik gebruik toch geen Qwen? Dat kan kloppen, maar het punt is breder. Volgens CBS News groeiden Chinese open-weight modellen van minder dan 2% van het wereldwijde gebruik eind 2024 naar meer dan 45% in juni 2026. Dat is een enorme verschuiving.

Veel softwarebedrijven bouwen hun producten op open-source modellen zonder dat jij als eindgebruiker weet welk model eronder zit. Jouw klantenservice-chatbot, je vertaaltool, je AI-assistent voor e-mails — het is niet altijd duidelijk welk fundament daaronder ligt.

En het gaat niet alleen om Chinese censuur. Het CBS-artikel verwijst ook naar bevindingen van Booz Allen Hamilton, dat meldde dat code die Qwen genereerde voor projecten van de Amerikaanse overheid 130% meer beveiligingsproblemen bevatte. CrowdStrike vond dat DeepSeek — een ander Chinees model — code produceerde met 50% meer kwetsbaarheden wanneer het werd ingezet door partijen die China als tegenstanders beschouwt.

Ik wil hier voorzichtig zijn: dit soort cijfers klinken alarmerend, maar ik heb de onderliggende methodologie niet kunnen verifiëren via onafhankelijke bronnen. Neem ze als signaal, niet als definitief bewijs.

Wat kan een ondernemer hier praktisch mee?

Stel dat je als ondernemer een AI-tool inzet voor klantcontact, interne kennissystemen of contentcreatie. Dan zijn er een paar vragen die het stellen waard zijn:

Weet je welk model je gebruikt?

Veel SaaS-producten gebruiken modellen van OpenAI, Anthropic, Google of Alibaba als basis, maar communiceren dat niet altijd. Het is redelijk om je leverancier te vragen welk model er draait en of dat model aanpassingen heeft ondergaan.

Heb je gevoelige onderwerpen getest?

Als je een chatbot inzet die vragen beantwoordt namens jouw bedrijf, is het slim om te testen hoe die reageert op gevoelige of politiek geladen onderwerpen. Niet omdat je verwacht dat klanten ernaar vragen, maar omdat het iets zegt over de onderliggende betrouwbaarheid.

Is open source een risico of een kans?

De reflex is misschien: open source klinkt onveilig, want iedereen kan erbij. Maar dit verhaal illustreert het tegenovergestelde. Juist omdat Qwen open is, kon Hirundo de censuur identificeren én verwijderen. Bij een gesloten model had niemand het geweten — of gekund.

Een groter patroon

Wat mij opvalt is dat dit past in een breder patroon: AI-modellen zijn niet neutraal. Ze dragen de voorkeuren, blinde vlekken en soms de politieke agenda's mee van de partijen die ze trainen. Dat geldt niet alleen voor Chinese modellen. Amerikaanse modellen hebben hun eigen bias — denk aan culturele aannames, taalvoorkeuren, of hoe ze omgaan met onderwerpen als wapenbezit of gezondheidszorg.

Het verschil zit 'm in transparantie. Open-source modellen geven je in principe de gereedschappen om die bias te vinden en aan te pakken. Gesloten modellen vragen je om te vertrouwen dat de maker dat al heeft gedaan.

Voor mij is dit vooral een signaal dat je als ondernemer niet blind kunt vertrouwen op de AI-tools die je inzet — ongeacht waar ze vandaan komen. Het is geen reden voor paniek, maar wel voor nieuwsgierigheid. En misschien voor dat ene gesprek met je softwareleverancier dat je steeds uitstelt.