Terence Tao waarschuwt: AI bedreigt open wetenschap

TL;DR

• Wat: Wiskundige Terence Tao waarschuwt dat AI-labs onderzoekers prikkelen om veelbelovend werk geheim te houden, uit angst dat het wordt 'platgewalst' voordat het af is.
• Waarom relevant: Als geheimhouding de norm wordt in wetenschap, raakt dat op termijn ook de innovatie en kennis waar ondernemers op bouwen.
• Wat je ermee kunt: Denk na over hoe jij omgaat met openheid versus bescherming van ideeën — ook in je eigen bedrijf en sector.

Ik stuitte deze week op een bericht van Sridhar Vembu — oprichter van Zoho — waarin hij een citaat deelde van wiskundige Terence Tao. Tao is een Fields Medal-winnaar, wat in de wiskunde ongeveer het equivalent is van een Nobelprijs, en hij is zelf een fervent AI-gebruiker. Zijn waarschuwing is daardoor des te opvallender.

Wat zegt Tao precies?

Tao stelt dat zelfs het gerucht dat iemand aan een probleem werkt, tegenwoordig een enorme AI-gestuurde inspanning kan triggeren om dat probleem sneller op te lossen dan de oorspronkelijke onderzoeker. In zijn woorden:

"The incentives may now be pointing in the direction of no longer sharing any promising research directions with the broader community, which would reverse centuries of traditions of open science and do serious long-term damage to the future of the field."

Wat hij hier beschrijft, is een verschuiving van waarde. Niet het oplossen van een probleem is nog het schaarse goed — AI kan dat steeds beter — maar het identificeren van het juiste probleem om aan te werken. En als je bang moet zijn dat iemand anders jouw richting oppikt en er met AI-kracht overheen walst, dan ga je die richting niet meer delen.

Ik vind dat een zorgwekkende dynamiek. Het is een soort tragedy of the commons, maar dan voor kennis: individueel is het rationeel om je mond te houden, maar collectief verliest iedereen.

De aanleiding: een wiskundig dispuut rond OpenAI

Tao's waarschuwing staat niet op zichzelf. Ze komt in de context van een concreet en veelbesproken conflict. Wiskundige Tristan Buckmaster (NYU) beschuldigt OpenAI ervan zijn werk te hebben gebruikt — of er op zijn minst van te hebben geprofiteerd — bij het claimen van een oplossing voor de Navier-Stokes-vergelijkingen, een van de zeven beroemde Millennium-problemen in de wiskunde.

De tijdlijn volgens meerdere bronnen, waaronder Fortune en MIT Technology Review:

• Buckmaster en collega Levent Alpöge (in dienst bij Anthropic) werkten maandenlang aan een verwante wiskundige doorbraak. Ze testten concepten via OpenAI-producten, waaronder Codex.
• Op 15 augustus bewezen zij dat de Euler-vergelijkingen — een vereenvoudigde variant van Navier-Stokes — kunnen 'exploderen', een belangrijk tussenresultaat.
• Volgens Buckmaster bereikte het gerucht over hun werk OpenAI. Binnen enkele dagen produceerde een team onder leiding van Sébastien Bubeck een bewijs dat de stap naar de volledige Navier-Stokes-vergelijkingen maakte.
• OpenAI stelt dat het op 1 september zelfstandig begon na het horen van een "gerucht" en het bewijs op 6 september afrondde.

De gevoelige details

OpenAI ontkent directe toegang tot Buckmasters privéwerk, maar gaf in een blogpost toe dat het "niet kan uitsluiten" dat geanonimiseerde data afgeleid van zijn gebruik van hun producten de modellen heeft verbeterd. Dat is een opmerkelijke formulering.

Daarnaast zou OpenAI Buckmaster twee opties hebben voorgelegd: óf hij publiceert zijn eigen werk en OpenAI volgt de dag erna met hun Navier-Stokes-bewijs, óf hij werkt mee aan een gezamenlijk paper — maar dan zonder co-auteur Alpöge, vanwege diens banden met concurrent Anthropic.

Ik wil hier benadrukken dat dit de lezing van Buckmaster is. OpenAI-CEO Sam Altman heeft zijn team verdedigd en gesteld dat zij "met integriteit en vrijgevigheid" hebben gehandeld. Het volledige plaatje is nog niet helder, en het is mogelijk dat de werkelijkheid genuanceerder ligt dan beide kanten nu presenteren.

Waarom dit verder reikt dan wiskunde

Je zou kunnen denken: dit gaat over wiskundigen en Millennium-problemen, wat heb ik daar als ondernemer mee te maken? Ik denk: meer dan je op het eerste gezicht verwacht.

Het mechanisme dat Tao beschrijft — openheid wordt bestraft, geheimhouding wordt beloond — is niet uniek voor de wetenschap. Stel dat je als ondernemer een innovatief idee deelt op een conferentie, in een branchevereniging of zelfs in een LinkedIn-post. In een wereld waar AI-tools razendsnel concepten kunnen uitwerken, prototypen kunnen bouwen en marktanalyses kunnen draaien, wordt de drempel om andermans idee te kopiëren en sneller uit te voeren steeds lager.

Dat betekent niet dat je nooit meer iets moet delen. Maar het betekent wel dat de balans tussen openheid en bescherming verschuift. En dat is iets om bewust over na te denken.

De waarde verschuift van uitvoering naar richting

Wat mij het meest treft in Tao's analyse, is zijn observatie dat het identificeren van het juiste probleem nu de schaarse hulpbron is — niet het oplossen ervan. Vertaald naar het bedrijfsleven: als AI steeds meer van de uitvoering kan overnemen, dan zit de echte waarde in het stellen van de juiste vraag, het zien van de juiste kans, het kiezen van de juiste richting.

Kun je je voorstellen wat dit betekent als je een R&D-afdeling hebt, of als je samenwerkt met externe partners aan productontwikkeling? De vraag "met wie deel ik wat, en wanneer" wordt strategischer dan ooit.

Wat dit zegt over vertrouwen in AI-platforms

Er zit nog een laag in dit verhaal die ik belangrijk vind voor ondernemers. Buckmaster gebruikte OpenAI-producten om zijn werk te testen. De vraag die hij nu stelt — of zijn invoer op welke manier dan ook is meegenomen in de modellen of het werk van OpenAI — raakt aan een breder punt: wat gebeurt er met de data die je invoert in AI-tools?

De meeste grote AI-aanbieders hebben inmiddels beleid over dataverwerking, maar de formulering van OpenAI in deze zaak — "we kunnen het niet uitsluiten" — laat zien dat er grijze gebieden bestaan. Voor ondernemers die bedrijfsgevoelige informatie invoeren in AI-tools is dat relevant. Het is verstandig om te weten welk beleid je AI-aanbieder hanteert, en om bewuste keuzes te maken over wat je wel en niet deelt met deze systemen.

Een verschuiving om in de gaten te houden

Voor mij is dit vooral een signaal dat de spelregels rondom kennis en openheid aan het verschuiven zijn. Niet alleen in de wetenschap, maar potentieel in elke sector waar ideeën en uitvoering dichter bij elkaar komen te liggen dankzij AI. Het feit dat iemand als Terence Tao — die zelf AI omarmt en er dagelijks mee werkt — deze waarschuwing uitspreekt, geeft het extra gewicht. Hij is geen tegenstander van de technologie. Hij maakt zich zorgen over de prikkels die eromheen ontstaan. Dat onderscheid vind ik waardevol om te onthouden.