Anthropic-CEO wil AI-ontwikkeling vertragen: wat betekent dat?

TL;DR

• Wat: Anthropic-CEO Dario Amodei stelt in een essay voor om AI-ontwikkeling bewust te vertragen via onafhankelijke toezichthouders, samenwerking tussen bedrijven en internationale afspraken.
• Waarom relevant: Als grote AI-bedrijven hun tempo aanpassen, verandert dat het speelveld voor iedereen die AI-tools inzet — van beschikbaarheid tot betrouwbaarheid.
• Wat je ermee kunt: Houd in de gaten welke AI-aanbieders zich aansluiten bij dit soort veiligheidsafspraken — dat zegt iets over de betrouwbaarheid van de tools waar je op leunt.

Afgelopen week publiceerde Dario Amodei, de CEO van Anthropic (het bedrijf achter Claude), een essay met de titel "We Must Pace the Frontier". Daarin pleit hij ervoor om de snelheid waarmee AI-modellen krachtiger worden bewust te vertragen. Ik vind dit opvallend, omdat het voorstel komt van iemand die zelf aan de top van die ontwikkeling staat — en het kwam precies een week nadat een van zijn eigen onderzoekers met een flinke waarschuwing opstapte.

Wat eraan voorafging: een onderzoeker stapt op

Op 8 september 2026 nam Jacob Coxon, een 27-jarige onderzoeker bij Anthropic, ontslag. In een bericht op Slack aan zijn collega's schreef hij dat superintelligente AI "een risico vormt op het veroorzaken van het uitsterven van de mensheid." Op X voegde hij daaraan toe: "Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives."

Dat bericht werd volgens meerdere bronnen meer dan 70 miljoen keer bekeken. Het raakte een zenuw. Verschillende AI-onderzoekers spraken zich publiekelijk uit en bevestigden dat Coxons zorgen herkenbaar zijn binnen de grote AI-bedrijven.

Wat mij hier opvalt: Coxon werkte niet bij een willekeurig techbedrijf. Hij werkte bij Anthropic — een bedrijf dat zichzelf nadrukkelijk positioneert als het veiligheidsbewuste alternatief. Als zelfs dáár een onderzoeker zegt dat het niet veilig genoeg gaat, dan is dat op z'n minst het signaal om goed op te letten.

Het driestappenplan van Amodei

Vier dagen na Coxons vertrek kwam Amodei's essay. De kern: de snelheid waarmee AI-modellen beter worden moet omlaag, zodat veiligheidsmaatregelen de tijd krijgen om bij te benen. Dat betekent niet dat de ontwikkeling stopt — maar dat er bewust pauzes worden ingebouwd.

Amodei stelt drie concrete stappen voor:

1. Onafhankelijke toezichthouders ín het bedrijf

Het eerste voorstel is dat AI-bedrijven externe beoordelaars — van organisaties zoals METR — toegang geven alsof ze medewerkers zijn. Denk aan een eigen badge, laptop en toegang tot interne systemen. Deze mensen controleren of een bedrijf zich daadwerkelijk aan zijn eigen veiligheidsbeloftes houdt en rapporteren incidenten. Anthropic zegt dit zelf al te gaan doen. Sam Altman van OpenAI reageerde met: "I agree with Dario that we need to pace the frontier."

Stel je het zo voor: het is alsof je als ondernemer een externe accountant niet alleen je jaarcijfers laat zien, maar hem een bureau op kantoor geeft en toegang tot je boekhoudsoftware. Dat is een ander niveau van transparantie.

2. Samenwerking tussen AI-bedrijven in democratische landen

De tweede stap is dat de grote AI-bedrijven in democratische landen gezamenlijke veiligheidsnormen afspreken én limieten stellen aan hoe snel ze hun modellen verbeteren. Amodei erkent dat dit mededingingsrechtelijk gevoelig ligt en stelt voor dat de Amerikaanse overheid zo'n gesprek faciliteert zonder er direct aan tafel te zitten. Hij pleit ook voor het beperken van de verkoop van krachtige chips aan China.

3. Internationale coördinatie

De derde stap — en Amodei geeft toe dat die het meest theoretisch is — betreft mondiale afspraken, ook met autoritaire regimes. Al was het maar om af te spreken dat AI niet wordt ingezet voor de ontwikkeling van biologische wapens.

Wat mij betreft is het eerlijk om te zeggen: stap één is concreet, stap twee is ambitieus, en stap drie is op dit moment vooral een wens.

De kritiek: wie stelt hier de regels op?

Niet iedereen is enthousiast. Critici wijzen erop dat dit voorstel riekt naar regulatory capture — een situatie waarin de bedrijven die gereguleerd zouden moeten worden, zelf de regels vormgeven. The Register kopte bijvoorbeeld onomwonden: "Big AI sets out its terms for regulatory capture." En TechPolicy.Press publiceerde een analyse met als titel: "Who Should Pace the Frontier? Not Dario Amodei."

Ik vind die kritiek begrijpelijk. Als de drie grootste spelers samen de veiligheidsstandaarden bepalen, is het niet ondenkbaar dat die standaarden precies zo uitvallen dat nieuwkomers het moeilijker krijgen. Tegelijkertijd: als je wacht tot overheden zelf met regels komen — en dat duurt in de praktijk jaren — loop je het risico dat er ondertussen iets misgaat waar niemand op voorbereid was.

Het is een beetje het dilemma van de slager die zijn eigen vlees keurt, maar dan in een situatie waarin er nog geen keuringsinstantie bestaat. Niet ideaal, maar misschien beter dan helemaal geen keuring.

Wat betekent dit voor jou als ondernemer?

Je denkt misschien: mooi verhaal, maar ik bouw geen AI-modellen. Klopt. Maar je gebruikt ze waarschijnlijk wel, of je overweegt het. En dan is het goed om te begrijpen wat hier speelt.

Als grote AI-bedrijven hun ontwikkeltempo bewust verlagen, kan dat betekenen dat nieuwe functies en verbeteringen minder snel beschikbaar komen. Dat klinkt als een nadeel, maar het kan ook betekenen dat de modellen die je wél krijgt, beter getest en betrouwbaarder zijn.

Kun je je voorstellen wat het betekent als een AI-tool die je dagelijks gebruikt — voor klantenservice, voor het schrijven van offertes, voor data-analyse — plotseling onvoorspelbaar gedrag vertoont? Juist dat soort scenario's probeert Amodei te voorkomen door meer tijd in te bouwen voor testen en afstemming.

Een praktische overweging: als je kiest tussen AI-aanbieders, kijk dan niet alleen naar functies en prijs. Kijk ook naar hoe transparant een bedrijf is over veiligheid. Bedrijven die zich openstellen voor externe evaluatie — zoals Anthropic nu voorstelt — geven je als klant in ieder geval meer zicht op wat er onder de motorkap gebeurt.

Een zeldzaam moment van consensus

Wat ik eerlijk gezegd bijzonder vind aan deze situatie, is dat rivalen het even met elkaar eens lijken te zijn. Sam Altman van OpenAI zei dat hij het eens is met Amodei. Zelfs Elon Musk — niet bepaald iemand die snel instemt met concurrenten — postte simpelweg: "Dario is right."

Dat is zeldzaam in deze sector. Tegelijkertijd is het goed om nuchter te blijven: het is makkelijk om het eens te zijn met een principe. De echte test zit in de uitvoering — en in de vraag of bedrijven bereid zijn om omzet op te geven als de veiligheid dat vraagt.

Voor mij is dit vooral een signaal dat de AI-industrie op een kantelpunt zit. De fase van puur zo snel mogelijk bouwen lijkt langzaam plaats te maken voor de vraag: hoe bouwen we dit op een manier die houdbaar is? Die verschuiving, als ze echt doorzet, raakt uiteindelijk iedereen die met deze technologie werkt.