OpenAI onthult eigen AI-chip Jalapeño met sterke benchmarks

TL;DR

• Wat: OpenAI heeft de eerste benchmarks gepubliceerd van Jalapeño, een eigen chip voor AI-inference die zuiniger en sneller scoort dan Nvidia's huidige topmodellen.
• Waarom relevant: als AI-diensten straks op efficiëntere chips draaien, dalen op termijn de kosten per AI-verzoek — en dat raakt elke ondernemer die AI-tools inzet.
• Wat je ermee kunt: houd rekening met dalende AI-kosten in je planningen voor 2027, maar maak er nu nog geen investeringsbeslissingen op.

OpenAI heeft gisteren de eerste prestatiemetingen gepubliceerd van Jalapeño, een zelfontworpen chip voor het draaien van AI-modellen. De cijfers laten zien dat de chip tot 1,9 keer meer werk per watt levert dan Nvidia's huidige systemen. Ik vind dit een interessant moment om bij stil te staan, niet zozeer vanwege de technische details, maar vanwege wat het zegt over de richting van de AI-markt.

Wat is Jalapeño precies?

Jalapeño is een zogeheten ASIC — een chip die specifiek voor één taak is ontworpen, in dit geval inference. Inference is het moment waarop een AI-model daadwerkelijk antwoorden genereert: jij stelt een vraag aan ChatGPT, en de chip rekent het antwoord uit. Dat is iets anders dan training, het proces waarbij een model leert van data. Voor training blijft Nvidia voorlopig de standaard.

OpenAI heeft de chip samen met Broadcom ontwikkeld. Wat mij opvalt: het bedrijf zegt dat eigen AI-modellen hebben meegeholpen bij het ontwerp, en dat het hele traject van ontwerp tot tape-out — het moment waarop het chipdesign naar de fabriek gaat — negen maanden heeft geduurd. Ter vergelijking: traditionele chiptrajecten duren doorgaans twee tot drie jaar.

De chip heeft een vermogensbudget (TDP) van 700 watt, maar draait in de praktijk rond de 550 watt bij standaard werkbelasting. Nvidia's GB300, waarmee wordt vergeleken, zit op zo'n 1.400 watt. Dat verschil in stroomverbruik is een belangrijk deel van het verhaal.

De benchmarks: wat zeggen de cijfers?

De tests zijn uitgevoerd op het InferenceX-platform van SemiAnalysis, een gerespecteerd analysebedrijf in de chipwereld. Er zijn drie open AI-modellen gebruikt als meetlat: GPT-OSS 120B, DeepSeek R1 (670 miljard parameters) en Kimi K2.5 van Moonshot AI (1 biljoen parameters).

De resultaten in het kort:

• Doorvoer per watt: 1,5 tot 1,9 keer meer werk per kilowatt dan Nvidia's GB200- en GB300-systemen bij piekbelasting.
• Latentie: antwoordtijden zijn 1,7 tot 3,6 keer lager — oftewel, de chip levert sneller een antwoord.
• Interactieve taken: bij real-time werkbelasting, zoals AI-agents die snel moeten reageren, loopt het verschil op tot 2,1 à 4,1 keer.

Richard Ho, hoofd hardware bij OpenAI, zei hierover: "Jalapeño can serve more AI work per unit of power, while also returning responses more quickly."

Kanttekeningen bij de cijfers

Er zijn een paar dingen die ik belangrijk vind om te benoemen. Ten eerste: dit zijn benchmarks die OpenAI zelf publiceert, over een eigen chip. Onafhankelijke verificatie door derden is er nog niet. De keuze voor het SemiAnalysis-platform geeft wel enige geloofwaardigheid, maar het blijft een eerste publicatie.

Ten tweede: Jalapeño is niet getest tegen Nvidia's nieuwere Vera Rubin-generatie, die later dit jaar wordt verwacht. Ho erkende zelf dat de concurrentie niet stilzit. En ten derde: de chip doet geen training. Het is puur een inference-chip. Voor het trainen van grote modellen blijft OpenAI afhankelijk van Nvidia.

Waarom maakt OpenAI een eigen chip?

Dit is wat mij betreft de interessantste vraag. OpenAI is een van Nvidia's grootste klanten. Waarom zou je dan zelf chips gaan maken?

Het korte antwoord: kosten en controle. AI-inference is de werkbelasting die het hardst groeit. Elke keer dat iemand ChatGPT gebruikt, een API-aanroep doet of een AI-agent een taak laat uitvoeren, draait er ergens een inference-berekening. En dat kost stroom — veel stroom. Een chip die hetzelfde werk doet met de helft van het energieverbruik bespaart op termijn enorme bedragen aan elektriciteitskosten.

Daarnaast wil OpenAI een zogeheten full-stack benadering: eigen modellen, eigen chips, eigen geheugenarchitectuur. Ho noemde Jalapeño een "multigenerationeel platform", wat suggereert dat dit pas het begin is.

Stel dat je als ondernemer een winkelketen runt en merkt dat je steeds meer uitgeeft aan bezorgdiensten. Op een gegeven moment ga je nadenken: kan ik dit niet zelf organiseren? Dat is in essentie wat OpenAI hier doet, maar dan met chips in plaats van busjes.

Wat betekent dit voor ondernemers?

Laat ik eerlijk zijn: als MKB-ondernemer ga je geen Jalapeño-chip bestellen. Dat is niet hoe dit werkt. Maar indirect raakt het je wel degelijk.

Lagere kosten per AI-verzoek

Als OpenAI zijn eigen inference efficiënter kan draaien, dalen de operationele kosten. Die besparingen worden historisch gezien — in ieder geval deels — doorberekend in lagere API-prijzen. We hebben dat het afgelopen jaar al gezien: de prijs per token is bij de grote aanbieders flink gedaald. Een efficiëntere chip versnelt die trend.

Snellere AI-reacties

Voor toepassingen waarbij snelheid ertoe doet — denk aan een klantenservice-chatbot die in real-time antwoordt, of een AI-assistent die meerdere taken tegelijk uitvoert — is lagere latentie direct merkbaar. Als Jalapeño inderdaad 2 tot 4 keer sneller reageert bij interactieve taken, maakt dat AI-toepassingen bruikbaarder in situaties waar nu nog vertraging irritant is.

Meer concurrentie in de chipmarkt

OpenAI is niet het enige bedrijf dat eigen chips maakt. Google heeft zijn TPU's, Amazon heeft Trainium en Inferentia, en Microsoft werkt aan Maia. Kun je je voorstellen wat het betekent als al deze bedrijven met eigen, efficiëntere chips komen? De concurrentiedruk op Nvidia neemt toe, en dat is over het algemeen goed nieuws voor eindgebruikers.

Wanneer wordt dit concreet?

Ho gaf aan dat Jalapeño eind 2026 in "zeer kleine volumes" wordt uitgerold in OpenAI's eigen datacenters. Significantere inzet wordt verwacht in 2027. Dat betekent dat het effect op prijzen en prestaties van OpenAI's diensten niet morgen zichtbaar wordt, maar waarschijnlijk wel in de loop van volgend jaar.

Ik vind het eerlijk gezegd fascinerend dat AI-modellen hebben meegeholpen bij het ontwerpen van de chip waarop ze straks zelf draaien. Dat is een soort bootstrapping die je niet vaak ziet — alsof een architect een gebouw ontwerpt waarin hij vervolgens zelf gaat wonen, met hulp van een eerdere versie van zichzelf.

Voor mij is dit vooral een signaal dat de AI-infrastructuurlaag in een nieuwe fase zit. Het draait niet meer alleen om wie het beste model maakt, maar ook om wie het het goedkoopst en snelst kan laten draaien. En dat is uiteindelijk de wedstrijd die bepaalt hoe toegankelijk AI wordt voor gewone bedrijven.