Zelfde AI-model, 79% minder tokens: wat post-training betekent

Zelfde AI-model, 79% minder tokens: wat post-training betekent

TL;DR

  • Wat: H Company bracht Holo4-27B uit — hetzelfde basismodel als Qwen3.8-27B, maar na extra training voor computergebruik 65% minder stappen en 79% minder tokens nodig voor dezelfde taak.
  • Waarom relevant: minder tokens betekent direct lagere kosten en minder menselijk toezicht als je AI-agents inzet voor bedrijfsprocessen.
  • Wat je ermee kunt: bij het kiezen van een AI-agent niet alleen kijken naar wat het model kan, maar ook naar hoe efficiënt het dat doet.

Ik kwam deze week een vergelijking tegen die me aan het denken zette. Twee AI-modellen krijgen precies dezelfde opdracht: bouw een speelbaar Pac-Man-spel in de game-engine Godot. Het ene model heeft er 197 stappen en 11,4 miljoen tokens voor nodig. Het andere doet het in 68 stappen en 2,4 miljoen tokens. Het bijzondere: beide modellen zijn gebouwd op exact dezelfde basis.

Wat is hier precies gebeurd?

H Company, een AI-bedrijf dat zich richt op zogenaamde agentic models — modellen die zelfstandig taken uitvoeren op een computer — heeft Holo4-27B uitgebracht. Dit model is gebaseerd op Qwen3.8-27B, een open-source taalmodel van het Chinese Alibaba. Qwen3.8-27B is op zichzelf al een capabel model. Maar H Company heeft er extra training bovenop gelegd, specifiek gericht op computergebruik: klikken, typen, code schrijven en uitvoeren, en werken met API's en tools.

Die extra trainingsfase heet post-training. Denk aan het verschil tussen iemand die net zijn rijbewijs heeft en iemand die daarna nog een chauffeursopleiding heeft gevolgd. Dezelfde basiskennis, maar de tweede persoon is veel efficiënter in het uitvoeren van de taak.

De vergelijking met het Pac-Man-spel komt uit materiaal van H Company zelf. Het is eerlijk om te vermelden dat dit een enkel voorbeeld is, gekozen door de maker — geen onafhankelijke benchmark. Maar de richting van de cijfers is wel opvallend.

Waarom efficiëntie minstens zo belangrijk is als intelligentie

Wat mij hier opvalt, is dat we het in de AI-wereld vaak hebben over hoe slim een model is. Kan het goede code schrijven? Begrijpt het complexe vragen? Maar als je een AI-model daadwerkelijk werk laat doen — als agent, dus zelfstandig taken uitvoerend — wordt een heel andere eigenschap belangrijk: efficiëntie.

Een AI-agent die code schrijft, moet vervolgens ook het resultaat bekijken, beoordelen of het werkt, en als dat niet zo is, de juiste correctie maken. Als een model daar 197 pogingen voor nodig heeft in plaats van 68, dan is dat niet alleen langzamer. Het kost ook meer geld.

Want bij de meeste AI-diensten betaal je per token — ruwweg per woord dat het model verwerkt. Het verschil tussen 11,4 miljoen en 2,4 miljoen tokens is in de praktijk een flink verschil op je factuur. Volgens recente schattingen liggen de operationele kosten van AI-agents voor een gemiddeld MKB-bedrijf tussen de 22 en 145 euro per maand, afhankelijk van het datavolume. Als je die kosten met bijna 80% kunt verlagen door een efficiënter model te kiezen, is dat relevant.

Hoe H Company dit voor elkaar kreeg

De technische aanpak is interessant. H Company trainde Holo4-27B op 127 miljard tokens aan data, specifiek afkomstig uit agentscenario's: desktopomgevingen, webapplicaties, mobiele interfaces, en interacties met API's en MCP-servers (een protocol waarmee AI-modellen tools kunnen aansturen).

Daarnaast gebruikten ze een slimme aanpak met reinforcement learning. Ze trainden twee aparte "experts" — één voor scherm- en webinteractie, één voor code, terminal en API-gebruik — en voegden die vervolgens samen tot één model. Het resultaat is een model dat niet groter is dan het origineel (27 miljard parameters), maar dat veel doelgerichter te werk gaat.

Lokaal draaien

Wat ik ook opvallend vind: Holo4-27B is beschikbaar als GGUF-bestand van 16,9 GB. Dat betekent dat je het in principe lokaal kunt draaien op een fatsoenlijke computer met een goede videokaart. Voor ondernemers die hun data liever niet naar een externe cloud sturen, is dat een interessant gegeven.

De vraag die overblijft

Minder stappen en minder tokens klinkt goed. Maar de eerlijke vraag is: levert het eindresultaat ook dezelfde kwaliteit? Een model dat snel klaar is maar een half werkend spel oplevert, schiet zijn doel voorbij.

De tweetauteur @Oluwaphilemon1 stelt precies die vraag. En ik denk dat die vraag voor ondernemers minstens zo relevant is. Stel dat je een AI-agent inzet om klantmails te beantwoorden, offertes op te stellen, of data te verwerken. Dan wil je niet alleen weten hoeveel tokens het kost. Je wilt weten: hoeveel van die antwoorden moet ik achteraf corrigeren?

Op de OSWorld 2.0-benchmark — een test die meet hoe goed modellen echte computertaken uitvoeren — scoort Holo4-27B 61,7%. Dat is beter dan het basismodel Qwen3.8-27B, maar het staat nog op afstand van de sterkste gesloten modellen. H Company erkent dit zelf ook: op langere workflows lopen ze achter bij de absolute top.

Wat dit betekent voor ondernemen met AI

Kun je je voorstellen wat dit verschil betekent als je tientallen of honderden agenttaken per dag draait? Het verschil tussen een efficiënt en een inefficiënt model is dan geen technisch detail meer — het is een kostenpost.

Ik denk dat we hier iets zien verschuiven in hoe AI-modellen worden beoordeeld. Tot nu toe ging het vooral om: kan het model deze taak überhaupt? De volgende vraag wordt steeds vaker: kan het model deze taak efficiënt en betrouwbaar? Dat zijn twee heel verschillende dingen.

Voor mij is dit vooral een signaal dat de keuze voor een AI-model steeds meer lijkt op het kiezen van een medewerker. Het gaat niet alleen om wat iemand kan, maar om hoe zelfstandig en zuinig diegene werkt. En dat de buitenkant — dezelfde modelgrootte, dezelfde architectuur — weinig zegt over wat er na de extra training is veranderd. De echte test is niet hoeveel een model kan produceren, maar hoeveel bruikbaar werk het aflevert voordat jij moet ingrijpen.

80% van de AI-projecten haalt productie nooit.

Ik bouw de 20% — van prototype naar draaiend systeem, binnen weken.