Perplexity maakt beslismodel open source op basis van Qwen

Liever nieuwe posts als video? Abonneer op het aiMattie YouTube-kanaal — of bekijk alle video's in de playlist.

TL;DR

  • Wat: Perplexity heeft pplx-decider-v1-27b uitgebracht, een open-source model dat getraind is op Alibaba's Qwen3.8-27B en gespecialiseerd is in classificatie- en beslissingstaken.
  • Waarom relevant: Het model kan routinetaken automatiseren — denk aan het sorteren van klantvragen of het beoordelen van documenten — voor een fractie van de kosten van grote taalmodellen.
  • Wat je ermee kunt: Bekijk of je een classificatieproces hebt (supporttickets, factuurverwerking, leadkwalificatie) dat je via de Decisions API of zelf-gehost zou kunnen automatiseren.

Ik kwam dit bericht tegen via een retweet van het Perplexity-ontwikkelaarsteam: ze hebben een nieuw AI-model gepubliceerd dat specifiek bedoeld is om beslissingen te nemen. Niet om tekst te schrijven of code te genereren, maar om te kiezen, sorteren en classificeren. Dat vind ik interessant genoeg om uit te zoeken wat dit voor ondernemers kan betekenen.

Wat is pplx-decider-v1-27b precies?

Het model is gebouwd op Qwen3.8-27B, een open-source taalmodel van het Chinese technologiebedrijf Alibaba dat in augustus 2026 werd uitgebracht. Perplexity heeft dit basismodel verfijnd — in AI-termen heet dat fine-tuning — zodat het specifiek goed wordt in één ding: classificatie.

Concreet betekent dat: je geeft het model een stuk tekst (of zelfs een afbeelding), stelt er een vraag bij, en het model geeft je een antwoord in de vorm van een kans. Niet een lap tekst, maar een getal. "Is dit een klacht? 94% waarschijnlijk." Of: "Welke afdeling moet dit behandelen? Sales: 78%, Support: 19%, Overig: 3%."

Het model heeft 26 miljard parameters en een contextvenster van 250.000 tokens. Dat contextvenster — zeg maar het werkgeheugen van het model — is groot genoeg om flinke documenten in één keer te verwerken. Een gemiddeld boek van 300 pagina's past daar ruim in.

Open source onder Apache 2.0

Wat ik hier opvallend aan vind: Perplexity publiceert de volledige modelgewichten op Hugging Face onder een Apache 2.0-licentie. Dat betekent dat je het model mag downloaden, aanpassen en commercieel gebruiken. Voor een bedrijf dat voornamelijk geld verdient met zijn eigen zoekproduct, is dat een bewuste keuze om de ontwikkelaarsgemeenschap aan te trekken.

Hoe presteert het model?

Perplexity rapporteert resultaten over elf verschillende benchmarks. Het verfijnde model scoort gemiddeld 85,71% nauwkeurigheid, tegenover 74,76% voor het onbewerkte basismodel van Alibaba. Dat is een sprong van bijna elf procentpunten — puur door fine-tuning, zonder het model groter te maken.

Een paar opvallende scores:

  • RAGTruth (beoordelen of gegenereerde antwoorden kloppen): 88,80%
  • TabFact (feitcontrole op basis van tabellen): 90,60%
  • FinancialPhraseBank (sentiment in financiële teksten): 84,18%

Ik vind het eerlijk gezegd indrukwekkend dat een relatief compact model — 27 miljard parameters is groot voor een laptop, maar klein vergeleken met de modellen van honderden miljarden parameters die de grote labs draaien — zulke scores haalt op taken die specifiek met betrouwbaarheid en feitelijkheid te maken hebben.

Wat kun je er als ondernemer mee?

Dit model is geen chatbot. Het schrijft geen e-mails, maakt geen samenvattingen en voert geen gesprekken. Het is een beslisser. En juist dat maakt het relevant voor bedrijfsprocessen.

Stel dat je als ondernemer dagelijks tientallen of honderden klantvragen binnenkrijgt via e-mail of een contactformulier. Nu leest iemand elke vraag en stuurt die door naar de juiste afdeling. Met een model als dit kun je die eerste sortering automatiseren. Het model leest de vraag, beoordeelt de inhoud en geeft per categorie een waarschijnlijkheid. Je systeem handelt vervolgens op basis van die score.

Perplexity biedt dit ook aan via hun Decisions API, met een prijsmodel dat opvalt: $0,04 per miljoen invoertokens, en de uitvoertokens zijn gratis. Ter vergelijking: bij de meeste AI-aanbieders betaal je voor zowel invoer als uitvoer, en dan al snel tientallen keren meer.

Zelf draaien is ook een optie

Omdat het model open source is, kun je het ook op eigen hardware draaien. Dat kost wel wat: je hebt een GPU nodig met ongeveer 49 gigabyte werkgeheugen. Dat is niet iets wat je op een standaard kantoorlaptop doet. Maar het past wel op hardware zoals de NVIDIA DGX Spark — een compacte AI-computer die Perplexity zelf gebruikt voor hun Portable Computer-platform.

Voor bedrijven die gevoelige data verwerken — denk aan financiële documenten, medische dossiers of juridische stukken — is lokaal draaien een serieus argument. Je data verlaat je eigen netwerk niet.

Hoe past dit in Perplexity's strategie?

Dit model staat niet op zichzelf. Perplexity heeft eerder al DeepSeek R1 verfijnd tot een eigen versie (R1-1776), en recent ook het Chinese GLM 5.2-model gepost-traind om als agentenmodel te functioneren. Volgens Decrypt behaalt dat grotere model prestaties vergelijkbaar met Claude Opus 4.8 — tegen een derde van de kosten.

Wat mij hier opvalt is het patroon: Perplexity bouwt niet eigen basismodellen vanaf nul, maar pakt bestaande open-source modellen en specialiseert ze. Dat is een strategie die je als ondernemer zou kunnen herkennen: niet alles zelf uitvinden, maar slim voortbouwen op wat er al is.

CEO Aravind Srinivas heeft eerder gezegd dat Perplexity "uniek gepositioneerd" is om dit te doen, omdat hun infrastructuur al meer dan negentien modellen tegelijk orkestreert. Het beslismodel past daar logisch in: het bepaalt welke vragen eenvoudig genoeg zijn om lokaal af te handelen en welke vragen doorgestuurd moeten worden naar een groter, duurder model in de cloud.

De bredere trend: specialisatie boven schaalgrootte

Ik denk dat dit bericht past in een bredere beweging die ik al een tijdje volg. De eerste golf van AI draaide om steeds grotere modellen die alles konden. De huidige fase draait steeds meer om kleinere, gespecialiseerde modellen die één ding heel goed doen — en die je als bedrijf betaalbaar kunt inzetten.

Een model van 27 miljard parameters dat met hoge nauwkeurigheid documenten kan classificeren en sorteren is voor veel bedrijfsprocessen nuttiger dan een model van 700 miljard parameters dat ook gedichten kan schrijven en wiskundeproblemen kan oplossen.

Kun je je voorstellen wat dit betekent als je een bedrijf runt met duizenden binnenkomende berichten per dag? De kosten van handmatig sorteren tegenover een API-call van fracties van een cent — dat is een rekensom die steeds vaker in het voordeel van automatisering uitvalt.

Voor mij is dit vooral een signaal dat de gereedschapskist voor AI-toepassingen in het bedrijfsleven steeds specifieker en toegankelijker wordt. Niet elk probleem vraagt om het grootste en duurste model. Soms is een gespecialiseerde beslisser precies wat je nodig hebt.

80% van de AI-projecten haalt productie nooit.

Ik bouw de 20% — van prototype naar draaiend systeem, binnen weken.