Waarom AI-snelheid nu een wedloop is tussen de grote spelers

TL;DR

• Wat: OpenAI, Google en Nvidia lanceerden in augustus 2026 elk AI-modellen die sterk inzetten op inferentiesnelheid — tot 750 tokens per seconde.
• Waarom relevant: snellere AI-modellen maken real-time toepassingen mogelijk die voorheen te traag waren, van klantenservice tot geautomatiseerde workflows.
• Wat je ermee kunt: kijk bij je huidige AI-toepassingen of snelheid een bottleneck is — de prijzen en beschikbaarheid van deze snelle modellen worden de komende maanden duidelijker.

Afgelopen week viel mij een patroon op dat ik niet meer kan negeren. Binnen een paar dagen brachten drie van de grootste namen in AI — OpenAI, Google en Nvidia — elk een nieuw model of een nieuwe modus uit, en bij alledrie draaide de boodschap om hetzelfde: snelheid. Niet een beetje sneller, maar ordes van grootte. Ik vind dat opvallend genoeg om er even bij stil te staan.

Wat er precies is aangekondigd

Laten we de feiten op een rij zetten, want er vlogen drie aankondigingen bijna tegelijk voorbij.

OpenAI en Cerebras: GPT-5.6 Sol Ultrafast

OpenAI lanceerde een nieuwe API-tier genaamd Ultrafast, aangedreven door de hardware van Cerebras Systems. Hun GPT-5.6 Sol-model draait hierop met tot 750 tokens per seconde — volgens OpenAI zo'n veertien keer sneller dan de standaardverwerking. Ter vergelijking: bij normaal leestempo verwerk je als mens zo'n vier tot vijf woorden per seconde. Dit model produceert er in die tijd honderden. De snelheid komt doordat Cerebras zogenaamde wafer-scale chips gebruikt, waarbij het volledige model op de chip zelf staat in plaats van dat data heen en weer gestuurd wordt vanuit extern geheugen. De Ultrafast-tier is voorlopig een beperkte preview voor geselecteerde klanten. Prijzen zijn nog niet bekendgemaakt.

Google: Gemini 3.7 Flash

Google bracht Gemini 3.7 Flash uit, een model dat specifiek is ontworpen voor codering en zogenaamde agent-workflows — toepassingen waarbij AI meerdere stappen zelfstandig uitvoert. Volgens metingen van Artificial Analysis haalt het model zo'n 340 tokens per seconde, waarmee het bovenaan staat in een ranking van 186 modellen op outputsnelheid. De introductieprijs is 0,75 dollar per miljoen input-tokens, wat het tot een van de goedkoopste opties maakt in het hogere segment.

Nvidia: Nemotron 3.5 Lightning

Nvidia kwam met Nemotron 3.5 Lightning, een compacter model van 31,6 miljard parameters dat werkt als een mixture-of-experts — een architectuur waarbij slechts 3,6 miljard parameters actief zijn per taak. Nvidia claimt dat het model tienduizend taken dertig procent sneller afrondt dan vergelijkbare modellen. Het is open-source beschikbaar en kan op één enkele GPU draaien, wat betekent dat je er in theorie een gewone krachtige pc voor kunt gebruiken.

Waarom snelheid ineens het speelveld bepaalt

Wat mij hier opvalt: tot voor kort ging de AI-wedloop vooral over intelligentie. Welk model scoort het hoogst op benchmarks? Welk model kan de moeilijkste wiskundige problemen oplossen? Die race is niet voorbij, maar er is een tweede dimensie bijgekomen die voor de praktijk misschien wel belangrijker is.

Denk er zo over na. Als een AI-model twee minuten nodig heeft om een antwoord te genereren, kun je het inzetten voor een batchproces — bijvoorbeeld het samenvatten van contracten die 's nachts verwerkt worden. Maar als datzelfde model in een fractie van een seconde reageert, kun je het ín een gesprek met een klant laten meedraaien. Of in een webshop die in real-time productaanbevelingen doet. Of in een interne tool waar medewerkers direct een antwoord krijgen in plaats van te wachten.

Het verschil tussen twee seconden en tweehonderd milliseconden klinkt klein, maar het is het verschil tussen een AI die op de achtergrond draait en een AI die onderdeel wordt van de directe klantervaring.

Wat betekent dit voor een ondernemer?

Ik denk dat dit voor veel ondernemers nog abstract voelt, en dat begrijp ik. Maar laat me een denkbare situatie schetsen.

Stel dat je een klantenserviceteam hebt dat dagelijks honderden vragen verwerkt. Met een trager model kun je misschien een samenvatting laten maken van elk gesprek achteraf. Met een model dat 340 of 750 tokens per seconde haalt, wordt het mogelijk om diezelfde AI live mee te laten luisteren en suggesties te geven terwijl het gesprek gaande is. Dat is een fundamenteel andere toepassing.

Of stel dat je een adviesbureau runt. Een snellere AI maakt het verschil tussen een rapport dat je na een uur terugkrijgt en een concept dat binnen seconden klaarstaat terwijl je met je klant aan tafel zit.

De AI-inferentiemarkt — dat is de markt voor het daadwerkelijk draaien van AI-modellen, niet het trainen ervan — groeit volgens analisten met zo'n 46 procent per jaar richting 2030. Die groei wordt niet gedreven door onderzoekslabs, maar door bedrijven die real-time toepassingen willen.

De kostenvraag is nog open

Hier past wel een kanttekening. OpenAI heeft nog geen prijs bekendgemaakt voor de Ultrafast-tier. En bij dit soort snelheden is het de vraag of het betaalbaar is voor een gemiddeld MKB-bedrijf, of dat het voorlopig voorbehouden blijft aan grote enterprises. Google's Gemini 3.7 Flash lijkt met de introductieprijs van 0,75 dollar per miljoen tokens voorlopig de meest toegankelijke optie. Nvidia's aanpak — een kleiner open-source model dat op één GPU draait — biedt een andere route: zelf draaien, zonder afhankelijkheid van een cloudleverancier.

Open-source versus gesloten snelheid

Wat ik interessant vind aan deze drie aankondigingen samen, is dat ze drie verschillende strategieën vertegenwoordigen.

OpenAI kiest voor een gesloten model op gespecialiseerde hardware — maximale snelheid, maar je bent afhankelijk van hun API en hun prijsstelling. Google kiest voor een eigen model op eigen infrastructuur met een agressieve introductieprijs. Nvidia kiest voor open weights: je downloadt het model en draait het zelf.

Voor een ondernemer die nadenkt over AI-strategie is dat relevant. Wil je maximale prestaties en ben je bereid daarvoor te betalen? Dan is de OpenAI-route logisch. Wil je lage kosten en schaalbaarheid? Dan is Google's Flash-lijn het bekijken waard. Wil je controle over je data en onafhankelijkheid? Dan is een open model als Nemotron een optie — mits je de technische kennis in huis hebt of inhuurt.

Kun je je voorstellen dat je over twee jaar tegen deze keuze aanloopt, net zoals je nu kiest tussen cloudproviders voor je hosting?

Waar het naartoe gaat

Ik zou zelf willen weten wat de prijsmodellen worden zodra OpenAI's Ultrafast uit preview komt. Want de snelheid is indrukwekkend, maar snelheid zonder betaalbare toegang is voor de meeste ondernemers een mooie demo en niet meer dan dat.

Wat mij betreft is de rode draad helder: de grote AI-bedrijven investeren nu serieus in het bruikbaar maken van hun modellen voor real-time toepassingen. Dat is een verschuiving van "kijk hoe slim het is" naar "kijk hoe snel het werkt in de praktijk." En die verschuiving is voor ondernemers relevanter dan welke benchmarkscore dan ook.

Voor mij is dit vooral een signaal dat AI steeds minder iets is dat op de achtergrond draait, en steeds meer iets dat direct in je bedrijfsprocessen kan zitten — als de prijs en de toegankelijkheid volgen.