Kennis van GPT en Claude overzetten naar open-source modellen

TL;DR

• Wat: Onderzoekers presenteren een methode (MAPD) om kennis uit dure, gesloten AI-modellen over te zetten naar open-source modellen — zonder directe toegang tot het interne rekenwerk van die modellen.
• Waarom relevant: Open-source modellen worden hierdoor sneller bruikbaar als goedkoper alternatief voor commerciële AI-diensten.
• Wat je ermee kunt: Houd open-source modellen zoals Qwen in de gaten als je AI-kosten wilt drukken — de kwaliteitskloof wordt meetbaar kleiner.

Ik stuitte op een paper die me aan het denken zette: onderzoekers van onder andere de Beijing Institute of Technology en Tsinghua University hebben een manier gevonden om de "kennis" van gesloten AI-modellen — denk aan GPT en Claude — over te hevelen naar open-source modellen. Niet door simpelweg antwoorden te kopiëren, maar door de denkstrategie te vertalen naar een gestructureerd tussenformaat. Ik vind dat een interessante ontwikkeling, zeker voor ondernemers die hun AI-kosten in de hand willen houden.

Wat is het probleem eigenlijk?

Als je vandaag AI inzet voor je bedrijf, gebruik je waarschijnlijk een commercieel model via een API — GPT van OpenAI, Claude van Anthropic, of Gemini van Google. Die modellen zijn krachtig, maar je betaalt per gebruik. Voor een klein team kan dat oplopen tot honderden of zelfs duizenden euro's per maand.

Open-source modellen zijn gratis te gebruiken en kun je zelfs op eigen hardware draaien. Maar ze presteren doorgaans minder goed, vooral bij complexere taken zoals het doorzoeken van meerdere bronnen en het combineren van informatie — wat onderzoekers "agentic search" noemen.

De voor de hand liggende oplossing: laat een open-source model leren van de output van een groot commercieel model. Dat heet "knowledge distillation" — kennisoverdracht, als je wilt. Maar hier loop je tegen twee problemen aan:

1. Technische mismatch. De modellen werken intern heel anders. Ze gebruiken verschillende tokenizers (de manier waarop tekst wordt opgedeeld) en je hebt geen toegang tot de interne berekeningen van het commerciële model.
2. Stijlbesmetting. Als een klein model simpelweg de antwoorden van GPT nabootst, kopieert het ook de schrijfstijl en eigenaardigheden — zonder de onderliggende redenering echt te begrijpen. Dat leidt tot zogenaamde "hallucinaties": het model verzint dingen die overtuigend klinken maar feitelijk onjuist zijn.

Hoe MAPD dit aanpakt

De onderzoekers introduceren Multi-Agent Protocol Distillation, afgekort MAPD. Het idee: zet de denkstrategie van het grote model om in een gestructureerd JSON-protocol — een soort genormaliseerd recept dat beschrijft hoe je een vraag aanpakt, los van de woordkeuze of stijl.

Stel je het zo voor: in plaats van dat een leerling-kok precies het gerecht van een sterrenkok nabootst (inclusief diens persoonlijke garnering), krijgt de leerling een helder recept met stappen, ingrediënten en technieken. De leerling kookt vervolgens op eigen wijze, maar met dezelfde structuur.

Concreet werkt het in drie stappen:

Stap 1: Meerdere AI-agents werken samen

Een team van AI-agents ontleedt een complexe zoekvraag in deeltaken. Eén agent coördineert, anderen genereren het protocol en controleren de kwaliteit.

Stap 2: Gestructureerd protocol als tussenvorm

Het resultaat is een stijlneutraal protocol dat beschrijft welk type taak het is, welke redeneerstappen nodig zijn en welke feiten relevant zijn. Dit protocol dient als "bevoorrechte informatie" voor het kleinere model.

Stap 3: Training met twee methoden

Het open-source model wordt getraind met een combinatie van token-level begeleiding (Online Policy Self-Distillation) en beloningssignalen op basis van de einduitkomst (GRPO). Zo leert het model niet alleen wat het moet zeggen, maar ook hoe het moet redeneren.

De resultaten

De onderzoekers testten hun aanpak op Qwen3-modellen — een open-source modelreeks — en evalueerden op zeven vraag-en-antwoord-benchmarks, waaronder bekende datasets als HotpotQA en MuSiQue.

De cijfers:

• Qwen3-1.7B behaalde een slagingspercentage van 39,4%
• Qwen3-4B kwam uit op 44,4%
• Dat zijn relatieve verbeteringen van 4,8 tot 7,9% ten opzichte van bestaande methoden, vooral bij taken waar informatie uit meerdere bronnen moet worden gecombineerd

Wat ik hier opvallend vind: de methode werkt met verschillende "lerarmodellen". Of je nu Claude, GPT-5.5 of Gemini als bron gebruikt, het protocol-formaat zorgt ervoor dat de kennisoverdracht robuust blijft — zonder dat je het hele trainingsproces opnieuw hoeft af te stemmen.

Nu moet ik eerlijk zijn: een slagingspercentage van 44% klinkt misschien niet indrukwekkend. Maar bedenk dat dit gaat om modellen die een fractie van de omvang hebben van hun commerciële tegenhangers. Een model van 4 miljard parameters dat bijna de helft van complexe meerstaps-zoekvragen correct beantwoordt, is iets om in de gaten te houden.

Wat betekent dit voor je bedrijf?

Op dit moment is MAPD nog onderzoek, geen kant-en-klaar product. Maar de richting is relevant.

De kosten van AI-gebruik zijn voor veel MKB-bedrijven een reëel aandachtspunt. Commerciële modellen kosten ruwweg €3 tot €4 per miljoen tokens, terwijl open-source alternatieven uitkomen op €0,15 tot €1,30 — een besparing van 70 tot 98%, volgens recente vergelijkingen. Stel dat je als ondernemer een vijfkoppig team hebt dat dagelijks AI gebruikt voor klantvragen, onderzoek of contentproductie. Dan tikt dat verschil snel aan.

Tegelijkertijd is er een kwaliteitskloof. Voor eenvoudige taken — samenvattingen, vertalingen, standaard klantvragen — presteren open-source modellen al prima. Maar voor complexere taken waar betrouwbaar redeneren cruciaal is, hebben commerciële modellen nog een voorsprong. Wat mij betreft laat dit onderzoek zien dat die kloof niet statisch is. Methoden zoals MAPD maken het mogelijk om de sterke punten van dure modellen systematisch over te dragen.

Een praktische overweging: veel bedrijven zullen waarschijnlijk uitkomen bij een gemengde aanpak. Goedkopere open-source modellen voor routinetaken, commerciële modellen voor de momenten waar precisie er echt toe doet. Kun je je voorstellen hoeveel je bespaart als 80% van je AI-gebruik op een goedkoper model draait?

Wat ik hieraan opmerkelijk vind

Er zijn twee dingen die mij opvallen. Ten eerste: het feit dat je de denkstrategie kunt loskoppelen van de schrijfstijl. Dat klinkt logisch, maar het is technisch niet triviaal — en het voorkomt een veelvoorkomend probleem waarbij kleine modellen de schijn van intelligentie overnemen zonder de inhoud.

Ten tweede: de overdraagbaarheid tussen verschillende commerciële modellen. Dat het protocol werkt ongeacht of je Claude, GPT of Gemini als bron gebruikt, maakt de methode minder afhankelijk van één leverancier. Voor ondernemers die strategisch nadenken over vendor lock-in is dat een interessant gegeven.

Ik denk dat we in 2026 steeds vaker dit soort onderzoek gaan zien: niet het bouwen van nóg grotere modellen, maar het slimmer maken van kleinere. Voor mij is dit vooral een signaal dat de AI-markt volwassener wordt — en dat de keuze tussen commercieel en open-source steeds minder een kwestie wordt van kwaliteit, en steeds meer van strategie.