DeepSeek V4 Flash draait nu op een gewone Mac

TL;DR

• Wat: DeepSeek V4 Flash — een AI-model met 284 miljard parameters — draait lokaal op een Mac M5 Pro met 5,71 tokens per seconde.
• Waarom relevant: als ondernemer kun je steeds krachtigere AI inzetten zonder klantdata naar een externe cloud te sturen.
• Wat je ermee kunt: inventariseer of je huidige of toekomstige hardware geschikt is om AI-taken lokaal af te handelen in plaats van via een API-abonnement.

Ik stuitte op een bericht van Santiago Valdarrama (@svpino) waarin hij laat zien dat DeepSeek V4 Flash op een Mac M5 Pro draait — gewoon op een laptop, zonder externe GPU. Dat vind ik opvallend genoeg om er bij stil te staan, want dit raakt direct aan kosten, privacy en onafhankelijkheid voor ondernemers.

Wat is DeepSeek V4 Flash precies?

DeepSeek V4 Flash is een AI-taalmodel van het Chinese bedrijf DeepSeek. Het heeft in totaal 284 miljard parameters, maar gebruikt er per gegenereerd woord slechts 13 miljard. Dat klinkt misschien abstract, dus laat me het vergelijken: stel je een kantoorgebouw voor met 284 kamers, maar je hebt voor elke taak maar 13 kamers nodig. De rest blijft dicht. Dat is het principe van een zogeheten Mixture-of-Experts-architectuur — het model is groot, maar het activeert alleen het stukje dat op dat moment relevant is.

Het model ondersteunt een contextvenster van een miljoen tokens. Dat betekent ruwweg dat je er een document van enkele honderden pagina's in kunt voeren en er vragen over kunt stellen. Het is uitgebracht onder een MIT-licentie — dat wil zeggen: je mag het vrij gebruiken, ook commercieel. De algemene beschikbaarheid volgde op 31 juli 2026.

Hoe draait dit op een laptop?

De sleutel zit in twee dingen: de Mixture-of-Experts-architectuur die ik net noemde, en slimme compressie. Door het model te quantiseren — een techniek waarbij de precisie van berekeningen wordt verlaagd zonder dat de kwaliteit dramatisch daalt — past het in het werkgeheugen van een laptop met 128 GB unified memory.

Een belangrijk hulpmiddel daarbij is ds4, een inference-engine gebouwd door Salvatore Sanfilippo, beter bekend als de maker van Redis. Die engine is specifiek geoptimaliseerd voor DeepSeek V4 Flash op Apple Silicon. Op een MacBook Pro met M3 Max en 128 GB haalt het model volgens tests zo'n 26 tokens per seconde. De 5,71 tokens per seconde die in het bericht van Valdarrama wordt genoemd, is lager — mogelijk door een andere configuratie of quantisatieniveau. Maar zelfs dat tempo is bruikbaar voor veel taken: e-mails samenvatten, documenten analyseren, conceptteksten opstellen.

Wat ik hier eerlijk gezegd bijzonder vind: een jaar geleden had je voor dit type model een server met meerdere GPU's nodig die duizenden euro's kostten. Nu draait het op hardware die je bij de Apple Store kunt kopen.

Wat betekent dit voor een ondernemer?

Ik denk dat er drie dingen zijn die dit relevant maken als je een bedrijf runt.

Privacy en controle over data

Als je AI via een cloud-API gebruikt — denk aan ChatGPT, Claude of een ander platform — verlaat je data per definitie je eigen omgeving. Voor veel toepassingen is dat prima, maar als je werkt met klantgegevens, contracten, financiële data of medische informatie, dan is dat een overweging. Lokaal draaien betekent: je data verlaat je netwerk niet. Geen datalekrisico via een externe partij.

Kosten op langere termijn

DeepSeek V4 Flash is via de API beschikbaar voor $0,22 per miljoen input-tokens en $0,66 per miljoen output-tokens. Dat is goedkoop, maar als je AI structureel inzet — stel, duizenden documenten per maand verwerken — lopen die kosten op. Een MacBook met 128 GB kost eenmalig een flink bedrag, maar daarna betaal je alleen stroom. Kun je je voorstellen wat dat betekent als je dagelijks honderden klantvragen automatisch wilt voorsorteren?

Minder afhankelijkheid

Cloud-diensten kunnen prijzen verhogen, voorwaarden wijzigen, of tijdelijk onbereikbaar zijn. Een lokaal model draait altijd, zolang je laptop aan staat. Dat klinkt triviaal, maar voor bedrijfsprocessen die je op AI bouwt, is beschikbaarheid geen luxe.

Kanttekeningen die erbij horen

Ik wil wel een paar dingen benoemen die ik belangrijk vind.

Ten eerste: je hebt 128 GB werkgeheugen nodig. Een standaard MacBook Pro met 16 of 32 GB is niet genoeg. De configuratie met 128 GB unified memory is op dit moment een investering van ruim vijfduizend euro. Dat is niet niks voor een kleine ondernemer.

Ten tweede: quantisatie — die compressietechniek — gaat gepaard met enig kwaliteitsverlies. Het model wordt kleiner en sneller, maar de output kan in sommige gevallen minder nauwkeurig zijn dan de volledige versie. Voor veel zakelijke taken is dat verschil verwaarloosbaar, maar voor hele precieze analyses is het iets om in de gaten te houden.

Ten derde: een lokaal model moet je zelf installeren, configureren en onderhouden. Er is geen klantenservice die je belt als iets vastloopt. Tools als ds4 maken het makkelijker, maar het vraagt wel technische basiskennis of iemand in je netwerk die dit kan opzetten.

De bredere trend

Wat mij opvalt is niet zozeer dit ene model op deze ene laptop. Het is het patroon. Een jaar geleden was het al opvallend dat je een model van 7 miljard parameters lokaal kon draaien. Nu zitten we bij 284 miljard. De trend van steeds krachtigere modellen op consumentenhardware versnelt.

Voor mij is dit vooral een signaal dat de drempel voor AI-gebruik door het MKB structureel aan het dalen is. Niet morgen, niet volgend jaar — nu. De vraag is niet meer óf je als ondernemer AI kunt inzetten zonder grote cloudbudgetten, maar wanneer de hardware die je toch al overweegt krachtig genoeg is om het te doen. En op basis van wat ik nu zie, is dat moment voor steeds meer toepassingen al aangebroken.