AI-modellen raden medicijnen op naam, niet op kennis

TL;DR

• Wat: Onderzoekers ontdekten dat AI-taalmodellen medicijninformatie genereren op basis van woorddelen (zoals '-cillin') in plaats van echte farmacologische kennis — ook voor verzonnen medicijnen.
• Waarom relevant: Als jij of je medewerkers AI gebruiken voor gezondheidsgerelateerde vragen, kan het model overtuigend klinken terwijl het feitelijk gokt.
• Wat je ermee kunt: Behandel AI-antwoorden over medicatie of gezondheid nooit als betrouwbare bron — controleer altijd via een erkende medische database.

Ik stuitte op een onderzoek dat me even stil liet staan. Onderzoekers van de University of Texas at Austin, Northeastern University en MD Anderson Cancer Center hebben uitgezocht hoe AI-taalmodellen omgaan met medicijnnamen. Hun conclusie: modellen klinken alsof ze een medicijn kennen, maar leunen in werkelijkheid vaak op de naam van het middel — niet op daadwerkelijke kennis erover. Dat vind ik een belangrijk inzicht, zeker nu steeds meer ondernemers AI inzetten voor uiteenlopende vragen.

Wat de onderzoekers precies deden

Het onderzoeksteam, geleid door Kaijie Mo en collega's, testte negen verschillende taalmodellen. Ze gebruikten 653 echte medicijnen uit de lijst van de American Medical Association. Maar het slimme zat in hun aanpak: ze bedachten ook fictieve medicijnnamen.

Neem het voorbeeld 'wugcillin'. Dat medicijn bestaat niet. Maar het eindigt op '-cillin', net als penicilline en amoxicilline. Wat bleek? De AI-modellen behandelden wugcillin alsof het een antibioticum was. Ze genereerden keurig farmacologische informatie — werkingsmechanismen, toepassingen, bijwerkingen — voor een middel dat nergens ter wereld bestaat.

Hetzelfde gebeurde met andere verzonnen namen: 'dimicillin' werd een antibioticum, 'tablecillin' (letterlijk het woord 'table' met '-cillin' erachter) werd door het model geherinterpreteerd als een medicijn. Ik vind dat eerlijk gezegd fascinerend én verontrustend tegelijk.

Waarom modellen dit doen

Om te begrijpen waarom dit gebeurt, gebruikten de onderzoekers het open model OLMo van AI2 (Allen Institute for AI). Omdat OLMo volledig open is — inclusief tussentijdse checkpoints van het trainingsproces — konden ze letterlijk in het model kijken.

Met een techniek genaamd 'activation patching' (een manier om te traceren welke lagen in het neurale netwerk welke informatie verwerken) ontdekten ze een tweefasig mechanisme:

• In de vroege tot middelste lagen (ruwweg laag 2 tot 10) wordt de affix-informatie — dus dat stukje '-cillin' of '-statine' — geïntegreerd in hoe het model het woord begrijpt.
• In de latere lagen wordt die informatie doorgestuurd naar het uiteindelijke antwoord.

Wat mij hier opvalt: de onderzoekers vonden dat de affix-informatie alleen al het grootste deel van het causale effect verklaarde. Met andere woorden: het model had de rest van de naam nauwelijks nodig. Eén enkele richting in het netwerk was verantwoordelijk voor circa 85% van het effect.

Medicijnen die het model écht kent vs. medicijnen die het raadt

Niet alle medicijnen worden op dezelfde manier behandeld. Het team onderscheidde drie categorieën:

• Holistisch signaal: het model kent het medicijn echt (88,2% nauwkeurigheid bij meerkeuzevragen).
• Affix-afhankelijk: het model leunt op de naam (86,6% nauwkeurigheid — hoog genoeg om betrouwbaar te lijken).
• Geen signaal: het model weet het niet en scoort slecht (23,8%).

Dat tweede getal vind ik het meest veelzeggend. Bij affix-afhankelijke medicijnen scoort het model bijna net zo hoog als bij medicijnen die het echt kent. Je ziet als gebruiker het verschil niet. Het model geeft geen enkele waarschuwing dat het eigenlijk op de naam afgaat.

Grotere modellen, groter risico

Een opvallend detail: grotere modellen (70 miljard parameters) lieten sterkere generalisatie zien dan kleinere modellen (7 miljard). En medisch gespecialiseerde modellen — modellen die specifiek getraind zijn op medische teksten — vertoonden de sterkste "overgeneralisatie". Ze gingen het verst mee in de affix-truc.

Dat is tegenintuïtief. Je zou verwachten dat een medisch gespecialiseerd model voorzichtiger is. Maar het lijkt erop dat juist die extra blootstelling aan medische teksten het patroon versterkt. Alsof de modellen steeds beter worden in het herkennen van naampatronen, maar niet per se in het feitelijk kennen van de middelen.

Wat betekent dit voor jou als ondernemer?

Je denkt misschien: ik ben geen arts, dit gaat mij niet aan. Maar denk even door. Kun je je voorstellen dat een medewerker ChatGPT of een ander AI-model raadpleegt over een medicijn — voor zichzelf, voor een familielid, of omdat een klant ernaar vraagt? In sectoren als voeding, sport, cosmetica of dierenverzorging liggen gezondheidsgerelateerde vragen op de loer.

Bovendien illustreert dit onderzoek een breder punt dat voor élke ondernemer relevant is: AI-modellen zijn beter in klinken alsof ze iets weten dan in daadwerkelijk iets weten. Ze herkennen patronen in taal, niet feiten in de wereld. Dat geldt niet alleen voor medicijnen, maar potentieel ook voor juridische termen, financiële producten of technische specificaties.

Daarnaast wordt per 2 augustus 2026 de EU AI-verordening breder van toepassing, met onder andere transparantieverplichtingen voor AI die met mensen communiceert. Voor bedrijven die AI-tools inzetten — ook intern — is het goed om te weten dat dit soort beperkingen bestaan. Niet omdat je er direct iets mee hoeft te doen, maar omdat het je helpt de juiste verwachtingen te stellen.

Het bredere patroon

Dit onderzoek past in een groeiend besef dat AI-modellen op een fundamenteel andere manier 'weten' dan mensen. Een model dat het woord '-cillin' herkent, doet iets vergelijkbaars met een student die een tentamen maakt door alleen de woordstructuur te lezen — zonder het leerboek ooit open te slaan. Het antwoord kan kloppen, maar de onderbouwing ontbreekt.

Wat ik waardevol vind aan dit specifieke onderzoek is dat het niet bij een waarschuwing blijft. Door het open model OLMo te gebruiken, konden de onderzoekers precies aanwijzen waar in het model dit gedrag ontstaat. Dat opent de deur naar gerichte oplossingen — interventies in specifieke modellagen die de affix-afhankelijkheid verminderen.

Voor mij is dit vooral een helder voorbeeld van waarom 'het klinkt goed' niet hetzelfde is als 'het klopt'. Zeker in domeinen waar fouten consequenties hebben — gezondheid, recht, financiën — blijft menselijke verificatie onmisbaar. En dat is geen zwakte van AI, maar een eigenschap die je als gebruiker simpelweg moet kennen.