Klein AI-model scoort hoog op logica — en draait op je laptop

TL;DR

• Wat: TwIL-LM3-Pro, een open-source AI-model van 3,66 miljard parameters, haalt volgens een tweet van Santiago Valdarrama 95,4% op de logica-subset van BIG-Bench Hard.
• Waarom relevant: kleine, gespecialiseerde modellen kunnen op gewone hardware draaien — zonder cloudabonnement en zonder dat bedrijfsdata je kantoor verlaat.
• Wat je ermee kunt: nagaan of er binnen jouw bedrijfsprocessen taken zijn (contractanalyse, logische checks, gestructureerde output) waarvoor een gespecialiseerd klein model voldoende zou zijn.

Ik stuitte op een bericht van Santiago Valdarrama — beter bekend als @svpino op X — over een klein open-source taalmodel dat op logicabenchmarks bijzonder goed zou scoren. Wat mij direct opviel: het model zou klein genoeg zijn om op een gewone laptop te draaien. Dat is het soort nieuws waar ik als ondernemer even bij stil wil staan.

Wat is TwIL-LM3-Pro?

TwIL-LM3-Pro is een model uit de TwIL-LM-familie van webAI, een bedrijf dat zich richt op compacte AI-modellen voor formele logica. De naam staat voor "Thinking webAI Intelligence Lab Language Model." De eerdere versie, TwIL-LM3, werd in augustus 2026 uitgebracht als een model van rond de 3 miljard parameters, gebouwd bovenop SmolLM3-3B via gerichte fine-tuning.

De "Pro"-variant die Valdarrama noemt, zou 3,66 miljard parameters hebben. Ik moet hier eerlijk zijn: in de bronnen die ik kon vinden — waaronder de officiële webAI-blogpost, de Hugging Face-modelkaart en de PR Newswire-aankondiging — kon ik het exacte getal van 95,4% op BIG-Bench Hard en de naam "TwIL-LM3-Pro" met 3,66 miljard parameters niet onafhankelijk bevestigen. Het is mogelijk dat dit een nieuwere release betreft die nog niet breed gedocumenteerd is. De claim komt uit de tweet van Valdarrama.

Wat ik wél kan bevestigen: de eerdere TwIL-LM3 (3B) verscoort OpenAI's gpt-oss-120b — een model dat veertig keer zo groot is — op vier van de vijf benchmarks in webAI's eigen formele-logicasuite. Dat is op zichzelf al opmerkelijk.

Waarom kleine modellen interessant zijn voor ondernemers

Ik vind het eerlijk gezegd fascinerend dat we op een punt zijn beland waar een model van een paar miljard parameters — iets dat op een laptop past — op specifieke taken kan meekomen met modellen die tientallen keren groter zijn. Maar laat me even uitleggen wat dat in de praktijk betekent.

Een "parameter" kun je zien als een stukje geleerde kennis in het brein van een AI-model. Grote modellen zoals GPT-4 hebben honderden miljarden van die parameters. TwIL-LM3-Pro zou er volgens de tweet 3,66 miljard hebben. Dat is het verschil tussen een complete encyclopedie en een gespecialiseerd handboek. Het handboek weet minder over het leven in het algemeen, maar kan op zijn vakgebied verrassend goed presteren.

Voor een ondernemer zie ik hier drie concrete voordelen:

Geen cloudabonnement nodig

Als een model op je eigen laptop of server draait, betaal je geen maandelijkse API-kosten. Na een eenmalige investering in hardware — volgens bronnen over lokale AI in het MKB zo'n 3.000 tot 15.000 euro voor GPU-capaciteit, afhankelijk van je behoeften — zijn de doorlopende kosten beperkt tot stroom en onderhoud.

Data blijft binnenshuis

Dit is wat mij betreft het sterkste argument. Als je bedrijfsgevoelige informatie — contracten, klantgegevens, financiële documenten — door een AI-model wilt laten analyseren, is het een wezenlijk verschil of die data naar een server in de VS gaat of op je eigen kantoorlaptop verwerkt wordt. Zeker met de eisen die de EU AI Act stelt, is dat een overweging die steeds zwaarder weegt.

Snelheid op specifieke taken

De eerdere TwIL-LM3 beantwoordde vragen 2,6 keer sneller dan het veel grotere gpt-oss-120b van OpenAI: 32,9 antwoorden per seconde tegenover 12,6. Voor taken waar snelheid telt — denk aan het verwerken van grote hoeveelheden documenten — is dat een relevant verschil.

Wat is gespecialiseerde post-training?

Valdarrama noemt in zijn tweet dat "specialized post-training" de sleutel is. Wat betekent dat?

Stel je een pas afgestudeerde voor die een brede opleiding heeft gehad — dat is het basismodel. Post-training is de stageperiode daarna, waarin die persoon zich specifiek bekwaamt in één vak. In het geval van TwIL-LM is dat formele logica: het vertalen van gewone taal naar logische uitspraken en controleren of conclusies kloppen.

webAI gebruikte hiervoor een combinatie van technieken: LoRA-fine-tuning (een manier om een model bij te schaven zonder het volledig opnieuw te trainen), checkpoint fusion, en reinforcement learning. De fine-tune kwam voort uit een relatief kleine adapter van 289 MB — zo'n 72 miljoen extra parameters bovenop het basismodel.

Ik vind dit een belangrijk inzicht: je hoeft niet het grootste model te bouwen om goed te presteren. Je kunt een klein model nemen en het heel gericht trainen op wat jij nodig hebt. Dat is een principe dat ook buiten de AI-wereld herkenbaar is — specialisatie loont.

Wat betekent dit concreet voor het MKB?

Kun je je voorstellen wat dit zou betekenen als je als MKB-ondernemer regelmatig contracten moet beoordelen op logische consistentie? Of als je gestructureerde data uit ongestructureerde teksten moet halen?

Ik denk dat we hier naar een trend kijken die de komende jaren steeds relevanter wordt. In plaats van één groot, duur AI-model dat alles een beetje kan, krijg je een verzameling kleine modellen die elk één ding goed doen. Vergelijk het met gereedschap: een Zwitsers zakmes is handig, maar als je elke dag schroeven moet draaien, koop je een goede schroevendraaier.

Er zijn wel kanttekeningen. Ten eerste: het TwIL-LM-model is beschikbaar onder een niet-commerciële licentie. Dat betekent dat je het — althans de huidige versie — niet zomaar in een commercieel product kunt inzetten zonder toestemming van webAI. Ten tweede: de benchmarkscores die ik tegenkwam zijn deels afkomstig uit webAI's eigen testsuite. Onafhankelijke analyses hebben de 40x-claim onderzocht, en het is altijd verstandig om benchmarks met een kritisch oog te bekijken.

De bredere trend is er niet minder interessant om. Volgens een overzicht van AI-trends voor het Nederlandse MKB leveren kleine taalmodellen voor afgebakende taken vergelijkbare prestaties tegen een fractie van de rekenkracht. Een compact model van enkele miljarden parameters kan inmiddels een groot taalmodel van een generatie eerder evenaren, met tot 98% minder rekenkracht.

Waar dit naartoe gaat

Voor mij is dit vooral een signaal dat de AI-markt aan het differentiëren is. De fase waarin iedereen achter het grootste, krachtigste model aan rende, maakt langzaam plaats voor een fase waarin specialisatie en efficiëntie centraal staan. Dat is goed nieuws voor ondernemers die niet het budget van een techgigant hebben, maar wel specifieke problemen willen oplossen.

Of TwIL-LM3-Pro nu precies 95,4% scoort op die ene benchmark — dat kan ik op basis van de beschikbare bronnen niet met zekerheid zeggen. Maar het grotere plaatje is helder: kleine, gerichte modellen worden steeds capabeler, en ze worden steeds toegankelijker om zelf te draaien. Dat is een ontwikkeling die ik met interesse blijf volgen.