IBM en Together AI bouwen inferentiecluster van 240 miljoen dollar

TL;DR

• Wat: IBM en Together AI sluiten een meerjarige deal van 240 miljoen dollar voor een grootschalig AI-inferentiecluster op IBM Cloud, gebouwd met NVIDIA B300-systemen.
• Waarom relevant: open-source AI-modellen worden steeds krachtiger én toegankelijker — dat verandert de kostenstructuur voor bedrijven die AI willen inzetten.
• Wat je ermee kunt: onderzoek of open-source modellen (via platforms als Together AI) voor jouw bedrijfsprocessen een goedkoper alternatief zijn dan gesloten API's van grote aanbieders.

Vandaag las ik dat IBM een deal van 240 miljoen dollar heeft gesloten met Together AI — een bedrijf dat open-source AI-modellen draait voor andere bedrijven. Ik vind het een opvallende stap, want het raakt direct aan een vraag die ik steeds vaker tegenkom: moet je als ondernemer vasthouden aan de grote gesloten AI-aanbieders, of zijn er inmiddels serieuze alternatieven?

Wat is er precies afgesproken?

IBM gaat op zijn cloudplatform een groot cluster bouwen met NVIDIA HGX B300-systemen — dat zijn servers met de nieuwste Blackwell-chips van NVIDIA, gekoppeld via Spectrum-X Ethernet-netwerkapparatuur. Dat klinkt technisch, maar het komt hierop neer: IBM bouwt een enorme rekenfabriek die specifiek is ingericht om AI-modellen razendsnel antwoorden te laten genereren.

Together AI wordt de eerste grote gebruiker van dat cluster. Het bedrijf draait open-source modellen zoals DeepSeek, MiniMax en Kimi, en biedt die aan via een API — een koppeling waarmee andere bedrijven die modellen in hun eigen software kunnen inbouwen. Volgens IBM is dit het eerste dedicated inferentiecluster van deze schaal op IBM Cloud met B300-hardware. De verwachte beschikbaarheid is het eerste kwartaal van 2027.

Wat mij opvalt: de deal is specifiek gericht op inference, niet op training. Dat is een belangrijk onderscheid. Training is het proces waarmee een AI-model wordt gebouwd — dat kost maanden en enorme hoeveelheden rekenkracht. Inference is het moment dat het model daadwerkelijk wordt gebruikt: als jij een vraag stelt aan een chatbot, als een systeem een factuur classificeert, als software een vertaling maakt. Voor ondernemers is inference dus het deel dat je direct raakt.

Together AI: van startup naar 400 biljoen tokens per maand

Together AI is een bedrijf uit San Francisco dat in relatief korte tijd flink is gegroeid. In juli 2026 werd het gewaardeerd op 8,3 miljard dollar. Maar wat mij nog meer zegt dan die waardering, is het gebruiksvolume: het platform verwerkt inmiddels meer dan 400 biljoen tokens per maand. Een jaar geleden was dat nog zo'n 30 miljard — een groei van ruwweg 13.000 keer.

Om dat in perspectief te plaatsen: een "token" is een stukje tekst, ongeveer driekwart van een woord. 400 biljoen tokens per maand betekent dat er dagelijks meer dan een biljoen tokens door Together AI's systemen stromen. Dat is een onvoorstelbare hoeveelheid tekst die wordt gegenereerd, samengevat, vertaald of geanalyseerd door bedrijven wereldwijd.

Ik vind het eerlijk gezegd indrukwekkend dat een platform dat zich richt op open-source modellen zo snel groeit. Het laat zien dat er serieuze marktvraag is naar alternatieven voor de gesloten systemen van partijen als OpenAI en Google.

Waarom open-source modellen interessant zijn voor ondernemers

De kern van Together AI's propositie is eenvoudig: bedrijven willen krachtige AI-modellen gebruiken zonder de hoge kosten van gesloten API's, én met meer controle over hun data en processen.

Stel dat je als ondernemer een klantenservice-chatbot wilt bouwen. Bij een gesloten aanbieder betaal je per API-aanroep en heb je beperkte invloed op hoe het model werkt. Met een open-source model kun je het model finetunen op jouw specifieke domein — bijvoorbeeld je productcatalogus of veelgestelde vragen — en het draaien op infrastructuur waar je zelf voor kiest.

Dat klinkt misschien als iets voor grote bedrijven, maar platforms als Together AI maken het toegankelijker. Je hoeft zelf geen GPU-servers te kopen of te beheren. Je betaalt per gebruik, net als bij een gesloten API, maar hebt meer keuzevrijheid in welk model je draait en hoe je het aanpast.

De kostenkant

Wat mij betreft is de kostenvergelijking het meest concrete argument. Open-source modellen bieden vaak vergelijkbare prestaties als gesloten alternatieven, maar tegen een fractie van de prijs. Voor een MKB-bedrijf dat AI inzet voor bijvoorbeeld documentverwerking, vertaling of klantenservice kan dat een behoorlijk verschil maken op de jaarrekening.

De controlevraag

Daarnaast speelt er een controlevraag. Als je volledig afhankelijk bent van één gesloten AI-aanbieder, loop je het risico dat prijzen stijgen, voorwaarden veranderen of het model wordt aangepast op manieren die niet bij jouw toepassing passen. Met open-source modellen heb je meer keuzevrijheid — al moet je eerlijk zijn dat je dan ook meer technische kennis nodig hebt, of een partner die dat voor je regelt.

Wat dit zegt over IBM's cloudstrategie

IBM Cloud is niet de eerste naam die opkomt als je aan AI-infrastructuur denkt — dat zijn eerder AWS, Azure of Google Cloud. Maar IBM lijkt bewust te kiezen voor een niche: AI-infrastructuur voor bedrijven die waarde hechten aan compliance, regelgeving en datasouvereiniteit.

Dat past bij wat ik in mei 2026 zag toen IBM Red Hat AI Inference lanceerde op IBM Cloud, met governancefuncties specifiek voor bedrijven die open-source modellen willen draaien binnen strenge regels. De deal met Together AI is een logische volgende stap in die richting.

Voor Nederlandse ondernemers is dat relevant. In Europa worden de regels rond AI steeds strenger — denk aan de AI Act. Als je AI-modellen wilt draaien op infrastructuur die is ingericht op compliance, dan wordt het aanbod langzaam breder. Dat is goed nieuws, ongeacht of je IBM Cloud gebruikt of niet: meer concurrentie op dit vlak drukt de prijs en verhoogt de kwaliteit.

Wat betekent dit concreet voor het MKB?

Laat ik eerlijk zijn: een deal van 240 miljoen dollar tussen twee techbedrijven is niet iets waar je als MKB-ondernemer morgen direct iets mee doet. Maar het signaal erachter is wel degelijk relevant.

De markt voor AI-inference groeit explosief. Steeds meer bedrijven gebruiken AI niet om modellen te bouwen, maar om ze te gebruiken — en dat gebruik schaalt hard. Dat betekent dat de infrastructuur en prijsmodellen de komende jaren flink gaan verschuiven.

Kun je je voorstellen wat het betekent als de kosten voor AI-inference over twee jaar nog maar een kwart zijn van wat ze nu zijn? Dan worden toepassingen die nu te duur zijn voor een gemiddeld MKB-bedrijf ineens haalbaar. Denk aan realtime vertaling van klantgesprekken, automatische analyse van contracten, of een AI-assistent die je boekhouding voorsorteert.

In Nederland zien we bovendien eigen initiatieven rond open-source AI, zoals het GPT-NL-project van TNO en SURF. Die ontwikkelingen staan los van deze deal, maar passen in hetzelfde bredere plaatje: open-source AI wordt volwassen, en de infrastructuur om het te draaien wordt steeds toegankelijker.

Een markt die in beweging is

Voor mij is dit vooral een signaal dat de AI-markt aan het kantelen is van modelontwikkeling naar modelgebruik. De modellen zijn er — en ze worden steeds beter en goedkoper. De volgende slag gaat over wie de beste, snelste en veiligste infrastructuur biedt om die modellen te draaien. Dat IBM daar 240 miljoen dollar op inzet, zegt genoeg over waar de groei zit. En voor ondernemers die AI willen inzetten: het wordt langzaam makkelijker én betaalbaarder. Dat is misschien wel het belangrijkste om te onthouden.