NeoHorse-1: een klein AI-model dat zichzelf beter maakt

TL;DR

• Wat: NeoHorse-1 is een set open-source AI-modellen (4B en 9B parameters) die zichzelf verbeteren door taken slim te verdelen over grotere modellen en daarvan te leren.
• Waarom relevant: Kleinere, goedkopere modellen die zelfstandig taken uitvoeren worden steeds beter — dat maakt AI-agents haalbaarder voor het MKB.
• Wat je ermee kunt: Volg of kleine open-source agent-modellen inmiddels geschikt zijn voor jouw bedrijfsprocessen, zonder dat je dure cloud-API's nodig hebt.

Een paar dagen geleden verscheen er een paper op arXiv over NeoHorse-1, een project van een groep genaamd TokenRhythm. Ik viel erover omdat het raakt aan een vraag die ik steeds vaker tegenkom: kunnen kleine AI-modellen straks zelfstandig taken uitvoeren voor je bedrijf, zonder dat je daar een groot budget voor nodig hebt? Dit onderzoek geeft een interessant tussenantwoord.

Wat is NeoHorse-1 precies?

NeoHorse-1 bestaat uit twee AI-modellen: eentje met 4 miljard parameters en eentje met 9 miljard parameters. Ter vergelijking: GPT-4 heeft naar schatting meer dan een biljoen parameters. We hebben het hier dus over relatief kleine modellen.

Beide modellen zijn gebouwd op Qwen3.5 als basis en zijn vrijgegeven onder een Apache 2.0-licentie. Dat betekent dat ze open-source zijn en je ze vrij mag gebruiken, ook commercieel. Ze draaien op consumentenhardware — je hebt geen dure serverinfrastructuur nodig.

Wat ze bijzonder maakt, is niet hun omvang maar de manier waarop ze getraind zijn. De onderzoekers noemen het agentic post-training: het natrainen van een model zodat het beter wordt in het zelfstandig uitvoeren van taken, zoals het aanroepen van tools, het opvolgen van instructies en het uitvoeren van meerdere stappen achter elkaar.

Hoe verbetert een model zichzelf?

De titel van de paper spreekt over recursive self-improvement — recursieve zelfverbetering. Dat klinkt als science fiction, maar het mechanisme is nuchterder dan het lijkt.

Het werkt in drie stappen:

1. Verdelen: Een routeringslaag stuurt binnenkomende taken naar verschillende modellen van verschillende groottes. Sommige taken gaan naar een groot model, andere naar een klein model.
2. Opnemen: Bij elke taak wordt vastgelegd welk model de taak kreeg, hoe moeilijk de taak was, en hoe goed het resultaat was. Die gegevens — inclusief het redeneerproces en eventuele toolgebruik — worden opgeslagen als trainingsvoorbeelden.
3. Terugvoeren: De beste voorbeelden worden gefilterd op kwaliteit en vervolgens gebruikt om het kleinere model opnieuw te trainen.

Stel je het voor als een soort stagestructuur: een junior medewerker kijkt mee met hoe een senior een complexe klus aanpakt, en leert daarvan. Het verschil is dat dit geautomatiseerd gebeurt, in een continue cyclus.

De onderzoekers noemen dit routing-guided distillation — het destilleren van kennis uit grotere modellen, gestuurd door de routeringssignalen. Er is geen nieuwe pretraining nodig; het hele proces is een natrainingsstap.

Wat leveren de resultaten op?

De verbeteringen zijn meetbaar over elf benchmarks, waaronder taken rond toolgebruik, codering en het opvolgen van instructies:

• Het 4B-model ging van een gemiddelde score van 58,94 naar 64,87.
• Het 9B-model steeg van 65,60 naar 69,04, met een opvallende score van 90,82 op de tau2-Bench (een benchmark voor agent-taken).

Zijn dat spectaculaire cijfers? Dat hangt af van je perspectief. Een sprong van bijna zes punten op een 4B-model is behoorlijk, zeker als je bedenkt dat het model niet groter is geworden maar alleen beter getraind. Het laat zien dat je met slimme trainingsmethoden meer uit een klein model kunt halen dan je op basis van de omvang zou verwachten.

Wat ik ook opvallend vind: het verschil tussen het 4B- en het 9B-model wordt kleiner. Dat suggereert dat de trainingsmethode het meest oplevert bij modellen die het hardst nodig hebben — de kleinere.

Een kanttekening

De onderzoekers beschrijven NeoHorse-1 zelf als een initial prototype. De feedback-cyclus — waarin het model zichzelf herhaaldelijk verbetert — is nog niet volledig gesloten. Het is dus eerder een veelbelovende richting dan een afgerond product. Dat is belangrijk om te benoemen, want de term "recursieve zelfverbetering" wekt grotere verwachtingen dan wat er nu concreet is aangetoond.

Wat betekent dit voor ondernemers?

Als MKB-ondernemer hoef je morgen niets met NeoHorse-1 te doen. Maar ik denk dat de richting relevant is om in de gaten te houden, en wel om twee redenen.

Kleinere modellen worden bruikbaarder

De trend is helder: je hebt steeds minder rekenkracht nodig voor bruikbare AI-agents. Een 4B-model dat op een gewone computer draait en toch redelijk scoort op agent-taken — dat was een jaar geleden ondenkbaar. Voor ondernemers die om privacyredenen of kosten hun data niet naar een cloud-API willen sturen, wordt lokaal draaien steeds realistischer.

De kosten van AI-agents dalen

Als kleine modellen door slimme training het werk kunnen doen dat nu alleen grote modellen aankunnen, dan dalen de kosten per taak. Kun je je voorstellen wat het betekent als een AI-agent die nu vijf cent per aanvraag kost, straks een fractie daarvan kost omdat hij op een kleiner model draait? Voor bedrijven die duizenden klantvragen per maand verwerken, kan dat substantieel schelen.

Beide modellen zijn bovendien compatibel met gangbare tools als vLLM, Ollama en llama.cpp, wat de drempel voor experimenteren verlaagt.

Hoe betrouwbaar is dit onderzoek?

Het paper is geschreven door meer dan 36 onderzoekers en is beschikbaar op arXiv, maar het is — voor zover ik kan nagaan — nog niet peer-reviewed. De modellen staan open op Hugging Face en GitHub, wat betekent dat anderen de resultaten kunnen verifiëren. Dat is een goed teken: openheid maakt controle mogelijk.

Over TokenRhythm, de organisatie achter het project, is nog niet heel veel bekend. De naam duikt voor het eerst op in verband met dit paper. Dat hoeft niets te betekenen — veel AI-onderzoek komt van nieuwe groepen — maar het is goed om dat in gedachten te houden bij het wegen van de claims.

Tot slot

Wat mij betreft is NeoHorse-1 op zichzelf geen reden om je bedrijfsvoering aan te passen. Maar het past in een patroon dat ik steeds duidelijker zie worden: kleine, open AI-modellen worden stap voor stap capabeler, goedkoper en toegankelijker. De vraag is niet meer óf ze bruikbaar worden voor het MKB, maar wanneer — en voor welke taken het eerst. Voor mij is dit vooral weer een signaal dat die verschuiving sneller gaat dan de meeste ondernemers in de gaten hebben.