Perplexity draait nu lokaal op Windows met NVIDIA RTX

Er is een nieuwere video over dit onderwerp: Perplexity Computer wordt standaard meegeleverd op HP ZBook Ultra

Liever nieuwe posts als video? Abonneer op het aiMattie YouTube-kanaal — of bekijk alle video's in de playlist.

TL;DR

  • Wat: Perplexity lanceert Portable Computer op Windows — een AI-agent die volledig lokaal draait op pc's met NVIDIA RTX-gpu's (minimaal 24 GB VRAM).
  • Waarom relevant: gevoelige bedrijfsbestanden verlaten je pc niet, en lokale taken kosten geen cloud-credits.
  • Wat je ermee kunt: nagaan of je huidige hardware geschikt is en of lokale AI-agents passen bij werkprocessen waarin privacy of kosten een rol spelen.

Perplexity heeft vandaag aangekondigd dat Portable Computer beschikbaar is voor Windows-pc's met NVIDIA RTX-gpu's. Wat mij hier opvalt, is niet zozeer de technologie zelf — lokale AI-modellen bestaan al langer — maar het feit dat Perplexity het als compleet pakket aanbiedt: model, agent, planner en sandbox in één app. Ik wilde uitzoeken wat dit praktisch betekent voor ondernemers die met gevoelige data werken.

Wat is Portable Computer precies?

Perplexity is vooral bekend als AI-zoekmachine: je stelt een vraag, het systeem doorzoekt het web en geeft een samengevat antwoord met bronnen. Portable Computer gaat een stap verder. Het is een AI-agent die meerstaps-taken kan uitvoeren — denk aan het analyseren van een reeks documenten, het samenvatten van e-mailconversaties, of het doorlopen van financiële gegevens.

Het verschil met de reguliere clouddienst van Perplexity: alles draait op je eigen pc. Het model, de bestanden die je erin stopt, de tussenresultaten — niets verlaat je apparaat, tenzij je daar expliciet voor kiest.

De app wordt geleverd met Qwen 3.8 27B, een open model dat Perplexity specifiek heeft aangepast en geoptimaliseerd voor RTX-gpu's. Je hoeft als gebruiker dus niet zelf een model te downloaden, te configureren of drivers te installeren. Dat is een bewuste keuze: de complexiteit die normaal komt kijken bij lokale AI wordt weggeabstraheerd.

De hardware-drempel

En nu het eerlijke verhaal: om Portable Computer te draaien heb je een NVIDIA RTX-gpu nodig met minimaal 24 GB VRAM. Dat betekent in de praktijk een GeForce RTX 3090 of nieuwer, of een RTX PRO workstation-kaart.

Voor context: de meeste zakelijke laptops en kantoor-pc's hebben 4 tot 8 GB aan grafisch geheugen, soms 16 GB. Een kaart met 24 GB zit in het segment van de krachtigere desktops en workstations. Kun je je voorstellen dat je hier een aparte machine voor aanschaft? Voor een enkel bedrijf is dat een investering van ruwweg duizend tot enkele duizenden euro's, afhankelijk van de kaart.

Ik vind het belangrijk om dit te benoemen, want in de aankondiging klinkt het toegankelijk — "download de app uit de Microsoft Store" — maar de hardware-eis filtert een groot deel van het MKB uit. Wie al een krachtige werkplek heeft voor videoproductie, 3D-ontwerp of data-analyse, zit mogelijk al in de goede range. Voor de gemiddelde ondernemer met een standaard kantoorlaptop is dit voorlopig geen optie.

Privacy als verkoopargument

Wat mij het meest aanspreekt aan dit concept, is de privacykant. Perplexity beschrijft een aantal maatregelen die ik de moeite waard vind om te benoemen:

  • Alles blijft lokaal: bestanden, prompts en resultaten verlaten je pc niet bij lokale taken.
  • Sandbox-omgeving: de agent draait in een afgesloten omgeving (Perplexity noemt dit "SPACE sandbox"). Als die sandbox niet beschikbaar is, weigert het systeem te starten.
  • PII-filter bij cloud-escalatie: wanneer je wél kiest om een complexere taak naar een cloudmodel te sturen, scant een filter eerst op persoonsgegevens voordat er iets verstuurd wordt. Het cloudmodel krijgt volgens Perplexity alleen tekstinstructies terug — geen toegang tot je lokale bestanden.

Dat klinkt doordacht. Tegelijkertijd is het goed om te beseffen dat dit claims zijn van Perplexity zelf. Onafhankelijke beveiligingsaudits of certificeringen worden in de bronnen die ik heb kunnen vinden niet genoemd. Voor ondernemers die werken met echt gevoelige gegevens — medische dossiers, juridische stukken, financiële data — is "de fabrikant zegt dat het veilig is" meestal niet voldoende. Ik zou zelf willen weten of er een onafhankelijke toetsing is geweest voordat ik hier vertrouwelijke bedrijfsinformatie in stop.

Wat kun je er concreet mee?

De integraties geven een aardig beeld van waar Perplexity aan denkt. Portable Computer kan koppelen met:

  • Microsoft-apps: Outlook, OneDrive, Word
  • Google-diensten: Gmail, Google Drive
  • Overig: Slack, GitHub

Stel dat je als ondernemer een map vol facturen hebt staan op OneDrive. In theorie zou je Portable Computer kunnen vragen om die facturen te analyseren, bedragen op te tellen, afwijkingen te signaleren — zonder dat die factuurdata naar een externe server gaat.

Of denk aan een situatie waarin je een reeks klantmails in Outlook wilt samenvatten en de belangrijkste actiepunten wilt extraheren. Dat zijn taken die je nu al kunt doen met cloud-AI, maar dan stuur je die e-mails wél naar een externe dienst.

Ik vind het eerlijk gezegd interessant dat Perplexity hier een hybride model kiest: simpele taken draai je lokaal (zonder extra kosten), en wanneer je echt zware rekenkracht nodig hebt, kun je opschalen naar een cloudmodel. Dat geeft flexibiliteit zonder dat je voor elke kleine taak credits verbrandt.

Beperkingen om rekening mee te houden

Een lokaal model met 27 miljard parameters is knap, maar het presteert niet op hetzelfde niveau als de grootste cloudmodellen bij complexe redeneertaken. Volgens VentureBeat zijn er merkbare prestatieverschillen bij ingewikkeldere opdrachten. Voor standaard samenvattingen en analyses is dat waarschijnlijk geen probleem, maar voor taken die diep redeneren vereisen, zul je mogelijk alsnog naar de cloud moeten.

Daarnaast: er is op dit moment geen ondersteuning voor Apple Silicon. Wie op een Mac werkt, kan Portable Computer niet gebruiken.

Beschikbaarheid en kosten

Portable Computer is beschikbaar voor bestaande Perplexity-abonnees met een Pro-, Max-, Enterprise Pro- of Enterprise Max-plan. De lokale verwerking kost geen extra credits — je betaalt alleen je bestaande abonnement. De app is te downloaden via de Microsoft Store.

Wat de abonnementskosten zelf zijn, verschilt per plan. Het is dus niet "gratis" in absolute zin — je hebt een betaald Perplexity-abonnement nodig plus de juiste hardware.

Waar dit op wijst

Voor mij is dit vooral een signaal dat de AI-industrie steeds serieuzer nadenkt over lokale verwerking. De afgelopen jaren draaide vrijwel alles in de cloud, met alle privacy- en kostenvraagstukken die daarbij horen. Dat een bedrijf als Perplexity nu bewust investeert in een lokale variant — inclusief privacy-filters en sandbox — laat zien dat er vraag is naar AI die je data niet de deur uit stuurt.

Of de hardware-drempel snel genoeg daalt om dit voor het brede MKB relevant te maken, is een andere vraag. Maar de richting vind ik veelzeggend.

80% van de AI-projecten haalt productie nooit.

Ik bouw de 20% — van prototype naar draaiend systeem, binnen weken.