IBM brengt Granite 4.2 uit: open AI-modellen voor lokaal gebruik

TL;DR

• Wat: IBM heeft Granite 4.2 uitgebracht — drie open AI-modellen (3B, 8B en 30B parameters) die lokaal kunnen draaien, onder een Apache 2.0-licentie.
• Waarom relevant: Je kunt hiermee AI inzetten zonder bedrijfsdata naar een externe cloud te sturen, en zonder licentiekosten.
• Wat je ermee kunt: Bekijk of het 8B-model op je huidige hardware past (circa 5 GB werkgeheugen op de videokaart) voor taken als tekstverwerking, code-ondersteuning of klantvragen.

IBM heeft op 25 augustus 2026 een nieuwe serie AI-modellen gepresenteerd onder de naam Granite 4.2. Wat mij opviel toen ik het bericht van Ars Technica las, is dat IBM hier nadrukkelijk mikt op lokaal gebruik — modellen die je op je eigen hardware draait, in plaats van via een externe dienst. Voor ondernemers die hun data liever binnenshuis houden, is dat een interessante ontwikkeling.

Wat zijn de Granite 4.2-modellen precies?

Granite 4.2 bestaat uit drie modellen van verschillende grootte: 3B, 8B en 30B parameters. Die "B" staat voor miljard — hoe meer parameters, hoe krachtiger het model, maar ook hoe meer rekenkracht je nodig hebt.

Een handige manier om het te zien: het 3B-model is als een compacte stadsauto die op je laptop past. Het 8B-model is een degelijke middenklasser die een moderne videokaart of een recente Mac nodig heeft. En het 30B-model is de vrachtwagen — krachtig, maar je hebt er serieuze serverhardware voor nodig.

Alle drie de modellen zijn uitgebracht onder een Apache 2.0-licentie. Dat betekent in de praktijk: je mag ze gratis downloaden, aanpassen en gebruiken — ook commercieel. Er zijn geen licentiekosten en geen beperkende gebruiksvoorwaarden zoals bij sommige concurrenten.

Wat kunnen ze?

De modellen hebben een aantal opvallende eigenschappen:

• Schakelbaar denkvermogen: je kunt per vraag kiezen of het model eerst een redeneerproces doorloopt ("thinking mode") of direct antwoord geeft. Voor eenvoudige vragen is dat sneller, voor complexe vragen grondiger.
• Tool-gebruik: de modellen kunnen zelfstandig externe hulpmiddelen aanroepen, zoals een zoekopdracht uitvoeren of een berekening maken. Dit werkt in het OpenAI-functieformaat, wat integratie met bestaande software vergemakkelijkt.
• Lange context: het model kan tot 512.000 tokens verwerken — dat komt ruwweg neer op een document van zo'n 750 pagina's in één keer.

Hoe presteren ze ten opzichte van de concurrentie?

IBM deelt benchmarkresultaten die er op papier sterk uitzien. Het 30B-model scoort bijvoorbeeld 89,17% op de AIME25-wiskundetest en 57% op SWE-Bench Verified, een test voor het oplossen van echte softwareproblemen.

Ik moet hier wel een kanttekening bij plaatsen: IBM vergelijkt in de eigen publicatie vooral met eigen eerdere modellen. Onafhankelijke vergelijkingen met directe concurrenten zoals Meta's Llama, Googles Gemma of Alibaba's Qwen zijn op dit moment beperkt. Uit eerdere tests van de voorganger Granite 4.1 bleek dat IBM's 8B-model goed presteerde op codetaken — met een HumanEval-score van 87,2%, vergelijkbaar met modellen die vier keer zo groot zijn. Of die voorsprong bij de 4.2-versie standhoudt tegenover de nieuwste concurrenten, moet nog blijken uit onafhankelijke tests.

Wat ik wel interessant vind: IBM publiceert het volledige trainingsrecept, inclusief de datamix en hyperparameters. Dat is ongebruikelijk. De meeste aanbieders van open modellen geven je de gewichten, maar houden het recept achter de hand. Dit maakt het voor technische teams makkelijker om het model te beoordelen en eventueel aan te passen.

Wat betekent "lokaal draaien" voor een ondernemer?

Dit is wat mij betreft het meest relevante punt. "Lokaal draaien" betekent dat het AI-model op je eigen computer of server werkt, zonder dat je gegevens naar een externe dienst stuurt.

Stel dat je als ondernemer klantgesprekken wilt samenvatten, offertes wilt laten controleren op fouten, of interne documenten wilt doorzoeken. Met een model als ChatGPT of Claude gaan die gegevens naar een server van OpenAI of Anthropic. Met een lokaal model als Granite 4.2 blijven ze op je eigen machine.

Dat is niet alleen relevant vanuit privacyoverwegingen. Het kan ook kostenvoordelen hebben. Bij een clouddienst betaal je per gebruik — per token, per API-aanroep. Bij een lokaal model betaal je alleen voor de hardware, en die heb je in veel gevallen al.

De drempel is lager dan je denkt

Het 8B-model heeft circa 5 GB aan videogeheugen nodig. Een moderne laptop met een Apple M-chip of een pc met een middenklasse NVIDIA-videokaart kan dat aan. IBM biedt het model aan in geoptimaliseerde formaten (GGUF, FP8, NVFP4) die je via tools als Ollama of LM Studio met een paar klikken kunt installeren. Kun je je voorstellen dat je vijf jaar geleden een volledig AI-taalmodel op een laptop had kunnen draaien?

Het 3B-model is nog compacter en past zelfs op oudere hardware, al lever je dan in op kwaliteit bij complexe taken.

De bredere trend: AI wordt infrastructuur

Granite 4.2 staat niet op zichzelf. Het past in een duidelijke trend: steeds meer bedrijven — van techgiganten tot startups — brengen krachtige AI-modellen uit die je zelf kunt hosten. Meta doet het met Llama, Google met Gemma, Alibaba met Qwen. IBM voegt zich daar nu nadrukkelijker bij.

Ik denk dat dit voor het MKB betekent dat AI steeds meer lijkt op andere bedrijfssoftware. Niet een magische dienst waarvoor je afhankelijk bent van één leverancier, maar iets dat je kunt kiezen, installeren en beheren — net als je boekhoudsoftware of je e-mailserver.

Dat klinkt mooi, maar ik wil ook eerlijk zijn: lokaal AI draaien vraagt wel technische kennis. Je moet het model installeren, onderhouden, en weten wanneer het wel en niet betrouwbare output levert. Voor een ondernemer zonder technische achtergrond is dat vandaag nog geen kwestie van "aanzetten en klaar". Maar de drempel daalt met elke nieuwe release.

IBM's positie in de markt

Wat mij opvalt is dat IBM met deze release een duidelijke keuze maakt. Waar het bedrijf jarenlang vooral bekend stond om enterprise-oplossingen met hoge prijskaartjes (denk aan Watson), kiest het nu voor een volledig open model zonder licentiekosten. De Apache 2.0-licentie is zo permissief als het maar kan.

Ik vermoed dat IBM hiermee ontwikkelaars en kleinere bedrijven wil aantrekken die nu vooral naar Meta's Llama of de Qwen-modellen kijken. Of dat lukt, hangt af van de werkelijke prestaties in de praktijk — en van de community die eromheen ontstaat.

Voor mij is dit vooral een signaal dat de markt voor open AI-modellen steeds competitiever wordt. En dat is goed nieuws voor ondernemers: meer concurrentie betekent betere modellen, lagere drempels en meer keuzevrijheid.