Proton bouwt AI zonder encryptie — en dat is opvallend

TL;DR

• Wat: Proton-CEO Andy Yen lanceert AI-chatbot Lumo zonder volledige end-to-end-encryptie, ondanks Protons reputatie als privacykampioen.
• Waarom relevant: als zelfs het meest privacybewuste techbedrijf AI niet volledig kan versleutelen, is dat een signaal voor iedere ondernemer die AI-tools inzet.
• Wat je ermee kunt: controleer bij je huidige AI-tooling of data in de cloud wordt verwerkt en onder welke privacyvoorwaarden — een belofte is geen garantie.

Ik viel vandaag over een artikel van WIRED dat een vraag stelt die ik zelf ook al een tijdje heb: kan AI überhaupt samengaan met privacy? De aanleiding is Andy Yen, oprichter van Proton — het Zwitserse bedrijf dat bekend staat om versleutelde e-mail, opslag en agenda's. Diezelfde Yen lanceert nu een AI-chatbot genaamd Lumo, en geeft toe dat die niet dezelfde wiskundige privacygarantie biedt als de rest van Proton. Dat vond ik opvallend genoeg om er iets over te schrijven.

Wie is Andy Yen en waarom doet dit ertoe?

Andy Yen is een voormalig deeltjesfysicus van CERN die Proton in 2014 oprichtte, geïnspireerd door de onthullingen van Edward Snowden over massasurveillance. Sindsdien heeft hij een privacyimperium opgebouwd met inmiddels meer dan honderd miljoen gebruikers. Proton biedt versleutelde alternatieven voor vrijwel alles wat Google doet: e-mail, documenten, agenda, videobellen.

Het bijzondere aan Proton is de bedrijfsstructuur. Het bedrijf wordt bestuurd door een non-profitstichting met als missie "democratie, privacy, veiligheid en vrijheid". Dat voorkomt — in theorie — dat aandeelhouders de privacybelofte uithollen voor winstmaximalisatie. Vergelijk het met een voetbalclub die in handen is van de leden in plaats van een investeerder: de prioriteiten liggen anders.

Waarom dit ertoe doet? Omdat als Yen zegt dat AI en volledige encryptie vandaag niet samengaan, dat niet komt uit onwil. Het komt van iemand die zijn hele bedrijf op encryptie heeft gebouwd.

Het probleem: AI en encryptie bijten elkaar

End-to-end-encryptie werkt doordat alleen jij en de ontvanger de sleutel hebben. Niemand ertussenin — ook de aanbieder niet — kan meelezen. Dat is precies wat Proton Mail zo aantrekkelijk maakt.

Maar AI moet je data verwerken om er iets nuttigs mee te doen. Een taalmodel kan je e-mail niet samenvatten als het die e-mail niet kan lezen. Dat is het fundamentele spanningsveld: versleuteling maakt data onleesbaar, AI vereist leesbare data.

Yen erkent dit openlijk. Lumo draait op wat hij een "promise-based privacy model" noemt — een privacymodel op basis van beloftes in plaats van wiskundige garanties. In zijn eigen woorden: "A promise is not as good as a mathematical guarantee, but a promise made by the right people is still actually quite substantial."

Ik vind het eerlijk gezegd verfrissend dat hij dit zo direct zegt. Veel techbedrijven zouden het in marketingtaal verpakken. Yen zegt in feite: we kunnen het nu niet perfect, maar we vinden het belangrijk genoeg om het tóch te proberen.

Hoe Lumo het aanpakt — en wat er nog komt

Lumo gebruikt wel degelijk meerdere privacylagen, ook al is het geen volledige end-to-end-encryptie. Berichten worden versleuteld met een symmetrische AES-sleutel, die zelf weer wordt versleuteld met de PGP-publieke sleutel van het taalmodel. De verwerking gebeurt op Europese servers, beschermd door Zwitserse privacywetgeving. Er worden geen logboeken bijgehouden en je gesprekken worden niet gebruikt om het model te trainen. Er is zelfs een "ghost mode" waarbij gesprekken verdwijnen zodra je het venster sluit.

Voor de nabije toekomst belooft Yen een upgrade naar volledige versleutelde AI-verwerking binnen één tot twee jaar. De technologie die dat mogelijk moet maken: Trusted Platform Modules (TPMs) en beveiligde uitvoeringsomgevingen, waar onder andere Nvidia aan werkt. Daarmee zou de verwerking op GPU's plaatsvinden in een afgeschermde omgeving die niemand — ook Proton niet — kan inzien.

Of dat lukt binnen die tijdlijn? Dat is nog onzeker. Maar het is in elk geval een concreet technisch pad, geen vage belofte.

Wat betekent dit voor jou als ondernemer?

Kun je je voorstellen wat dit spanningsveld betekent als je als MKB'er dagelijks met AI-tools werkt? Denk aan e-mailsorteerders, chatbots voor klantenservice, of AI die je boekhouding analyseert. Al die tools verwerken bedrijfsdata — en vaak gebeurt dat in de cloud, op servers van Amerikaanse techbedrijven.

De situatie bij Proton legt iets bloot dat voor veel ondernemers nog abstract voelt: de privacybelofte van je AI-tooling hangt af van het beleid van de aanbieder, niet van technische onmogelijkheid om mee te lezen. Dat is een belangrijk verschil. Bij end-to-end-encryptie kan de aanbieder niet meelezen. Bij een promise-based model belooft de aanbieder het niet te doen.

Dat is niet per se slecht — maar het is goed om te weten welk model je gebruikt. Zeker nu de EU AI Act vanaf augustus 2026 verplichtingen oplegt rondom transparantie en menselijk toezicht bij AI-systemen. In Nederland moet er dit jaar nog een AI-sandbox beschikbaar komen waarin bedrijven kunnen experimenteren onder toezicht van de toezichthouder.

Een praktische overweging: kijk eens in de privacyvoorwaarden van de AI-tools die je gebruikt. Wordt je data gebruikt voor training? Waar staan de servers? Is er een optie voor lokale verwerking? Dat laatste wordt steeds haalbaarder — kleinere taalmodellen draaien inmiddels op een gewone laptop en leveren voor afgebakende taken vergelijkbare prestaties als hun grotere broers.

De bredere vraag: vertrouwen als businessmodel

Wat mij het meest opvalt aan dit verhaal is niet de techniek, maar het vertrouwensvraagstuk. Yen benoemt zelf het risico van surveillancecreep met een quote die bleef hangen: "You have nothing to hide as long as you agree with the current definition of what is 'illegal.'"

Dat raakt ook aan de Europese discussie over Chat Control 2.0 — wetgeving die zou verplichten om versleutelde berichten aan de clientzijde te scannen. Yen is daar fel tegen en stelt dat Europa's concurrentievoordeel juist ligt in democratie, vrijheid en privacy. Als die waarden worden uitgehold door surveillancewetgeving, verliest Europa volgens hem het enige voordeel dat het heeft in de techsector.

Ik denk dat hij daar een punt heeft, los van of je het met zijn hele analyse eens bent. Voor Europese ondernemers is privacy niet alleen een compliance-kwestie — het kan ook een onderscheidend vermogen zijn. Klanten kiezen steeds bewuster voor diensten die hun data respecteren.

Voor mij is dit vooral een signaal dat de spanning tussen AI en privacy niet snel verdwijnt. Zelfs het bedrijf dat privacy tot kernwaarde heeft verheven, worstelt ermee. Dat is geen reden tot paniek, maar wel een reden om als ondernemer bewust te kiezen welke AI-tools je binnenlaat — en op welke voorwaarden.