MiniCPM5-2B: een klein AI-model dat grotere concurrenten bijhoudt

TL;DR

• Wat: OpenBMB bracht MiniCPM5-2B uit, een open-source taalmodel met 2,5 miljard parameters dat op je eigen laptop of telefoon draait.
• Waarom relevant: het model presteert volgens de maker beter dan modellen met dubbel zoveel parameters — dat maakt lokale AI-toepassingen haalbaarder voor kleinere bedrijven.
• Wat je ermee kunt: bekijk of processen die je nu via een cloud-API afhandelt (denk aan coderen, data-analyse, klantvragen beantwoorden) lokaal op eigen hardware kunnen draaien, zonder maandelijkse API-kosten.

Begin september verscheen MiniCPM5-2B, een open taalmodel van het Chinese onderzoekslab OpenBMB. Wat mij opviel: de makers claimen dat dit model van 2,5 miljard parameters beter scoort dan Qwen3.5-4B, een model met bijna het dubbele aantal parameters. Ik wilde uitzoeken wat daar van klopt en wat het voor ondernemers kan betekenen.

Wat is MiniCPM5-2B precies?

MiniCPM5-2B is een zogeheten dense language model — een taalmodel dat puur op tekst werkt en ontworpen is om lokaal te draaien. Denk aan je laptop, een telefoon, of een enkele GPU op kantoor. Het model heeft 2,52 miljard parameters en een contextvenster van 131.072 tokens. Dat laatste betekent ruwweg dat het in één keer een boek van zo'n 200 pagina's kan verwerken.

Het model is uitgebracht onder de Apache 2.0-licentie, wat inhoudt dat je het ook commercieel mag gebruiken zonder licentiekosten. OpenBMB levert het in meerdere formaten: BF16, GGUF, MLX en 4-bit GPTQ. Volgens een reviewer heb je ongeveer 4 GB aan werkgeheugen (VRAM) nodig om het te draaien. Dat is minder dan wat de meeste moderne laptops aan boord hebben.

Ik vind het interessant dat OpenBMB ook de trainingsdata meeleverde bij de release. Dat is niet standaard en maakt het voor ontwikkelaars makkelijker om te begrijpen wat het model wel en niet geleerd heeft.

De benchmarkscores: indrukwekkend, maar met kanttekeningen

De prestaties die OpenBMB rapporteert zijn opvallend. Het model scoort gemiddeld 53,9 over 34 benchmarks. Ter vergelijking: Qwen3.5-4B — een model met bijna twee keer zoveel parameters — haalt 51,1 op dezelfde set. Andere modellen in de buurt, zoals Granite 4.2-3B (42,7) en LFM2.5-2.6B (33,2), blijven verder achter.

Sterke punten

De sterkste scores zitten bij coderen en wiskunde. Op LiveCodeBench v6 scoort het 69,1, op MATH-500 zelfs 94,6. Op SWE-bench Verified — een test waarbij het model daadwerkelijk softwarebuggen moet oplossen — haalt het 46,4. Dat zijn scores die je eerder verwacht van modellen met tientallen miljarden parameters.

Ook bij zogenaamd tool use — het vermogen om externe tools aan te sturen, zoals een zoekmachine of database — valt het model op. Het scoort 97,1 op τ²-Bench Telecom en 66,6 op BFCL v4.

Zwakkere kanten

Maar het beeld is niet overal rooskleurig. Op kennistests als GPQA Diamond en MMLU-Pro verliest MiniCPM5-2B bijna 7 punten ten opzichte van Qwen3.5-4B. Dat suggereert dat het model minder brede feitenkennis heeft — begrijpelijk voor een kleiner model, maar wel iets om rekening mee te houden als je het wilt inzetten voor taken waar feitelijke nauwkeurigheid cruciaal is.

En hier komt een belangrijk punt: al deze scores zijn door OpenBMB zelf gerapporteerd. Ik heb in meerdere bronnen gezocht naar onafhankelijke verificatie, maar die is er nog niet. Artificial Analysis plaatst het model op een score van 14 in hun Intelligence Index v4.3, wat het op hetzelfde niveau zet als Gemma 4 12B — een model dat vijf keer zo groot is. Maar ook dat is één datapunt. Ik zou zeggen: de richting is veelbelovend, maar neem de exacte cijfers met een korrel zout totdat meer onafhankelijke tests beschikbaar zijn.

Wat betekent "on-device" voor een ondernemer?

Dit is wat mij betreft het interessantste deel van het verhaal. "On-device" betekent dat het model draait op hardware die je zelf bezit — je laptop, je kantoorserver, of zelfs een telefoon. Geen data die naar een externe server gaat, geen maandelijkse API-kosten, geen afhankelijkheid van een cloudprovider.

Kun je je voorstellen wat dat betekent als je bijvoorbeeld gevoelige klantgegevens verwerkt? Of als je een klein softwarebedrijf runt en je ontwikkelaars een AI-codeerassistent wilt geven zonder dat elke aanvraag via OpenAI of Google loopt?

Stel dat je als ondernemer nu €200 per maand betaalt aan API-kosten voor een taalmodel dat klantvragen classificeert of samenvattingen maakt. Een model als MiniCPM5-2B zou dat in theorie kunnen overnemen op een machine die je al hebt staan. Geen terugkerende kosten, volledige controle over je data.

Ik zeg bewust "in theorie", want de praktijk is weerbarstiger. Je hebt technische kennis nodig om zo'n model te installeren en te onderhouden. En de zwakkere scores op kennistests betekenen dat het niet voor elke toepassing geschikt is. Maar de richting is duidelijk: lokale AI wordt steeds haalbaarder.

De bredere trend: kleiner wordt krachtiger

MiniCPM5-2B past in een trend die ik al een tijd met interesse volg. Modellen worden niet alleen groter — ze worden ook kleiner en efficiënter. In mei 2026 bracht OpenBMB al MiniCPM5-1B uit, en nu volgt de 2B-variant. Microsoft heeft met Phi een vergelijkbare lijn. Google doet het met Gemma.

Wat mij opvalt is dat de prestatieverschillen tussen kleine en grote modellen op specifieke taken steeds kleiner worden. Een model van 2,5 miljard parameters dat op coderen een 4B-model verslaat — dat was twee jaar geleden ondenkbaar.

Voor ondernemers is dit relevant omdat het de drempel verlaagt. Je hoeft geen dure GPU-clusters te huren om AI in te zetten. Een laptop met een degelijke grafische kaart kan voldoende zijn voor veel praktische toepassingen.

Wat ik nog niet weet

Er zijn een paar dingen waar ik graag meer over zou willen weten. Ten eerste: hoe presteert het model in het Nederlands? De benchmarks richten zich op Engelse taken, en er zijn aanwijzingen dat het model sterk is in het Japans, maar over Nederlandse taalondersteuning heb ik niets kunnen vinden.

Ten tweede: een reviewer merkte op dat het model soms "bloated" output geeft — antwoorden die langer zijn dan nodig — en dat het interne redeneerproces soms zichtbaar lekt in het uiteindelijke antwoord. Dat zijn geen showstoppers, maar het zijn wel dingen die je moet weten voordat je het in een klantgerichte toepassing zet.

En ten derde: de claim van een uitgebreid contextvenster van 512K tokens is door OpenBMB nog niet geverifieerd. De betrouwbare grens lijkt 131K tokens te zijn.

Afsluiting

Voor mij is MiniCPM5-2B vooral een signaal dat de AI-markt niet alleen draait om steeds grotere modellen. De interessantste ontwikkelingen zitten misschien juist in het kleiner en toegankelijker maken van wat er al bestaat. Een model dat op je eigen laptop draait, onder een open licentie, en dat op bepaalde taken modellen verslaat die twee keer zo groot zijn — dat is geen hype, dat is een verschuiving in wat technisch mogelijk is voor bedrijven zonder groot IT-budget. Of de specifieke benchmarkclaims standhouden moet nog blijken, maar de richting lijkt me helder.