Anthropic-CEO roept op om AI-ontwikkeling te vertragen

TL;DR

• Wat: Anthropic-CEO Dario Amodei publiceerde een essay waarin hij oproept om AI-ontwikkeling bewust te vertragen, met steun van onder anderen Sam Altman (OpenAI) en Elon Musk.
• Waarom relevant: als AI-bedrijven zelf zeggen dat het te snel gaat, heeft dat consequenties voor de tools die jij als ondernemer straks gebruikt — en voor de regelgeving die eraan komt.
• Wat je ermee kunt: inventariseer welke AI-tools je nu inzet en hoe afhankelijk je ervan bent, zodat je niet verrast wordt als er pauzes of beleidswijzigingen komen.

Afgelopen zaterdag publiceerde Dario Amodei, de CEO van Anthropic (het bedrijf achter Claude), een essay van zo'n 3.800 woorden met de titel We Must Pace the Frontier. De kernboodschap: we moeten de snelheid waarmee AI-modellen slimmer worden bewust afremmen. Ik viel erover omdat het niet zomaar een mening is — binnen enkele uren schaarden Sam Altman van OpenAI en Elon Musk zich achter de oproep. Als de drie prominentste namen in AI tegelijk aan de noodrem trekken, vind ik dat het moeite waard is om even stil te staan bij wat dat betekent.

Wat zegt Amodei precies?

Het essay draagt een genuanceerde boodschap. Amodei pleit niet voor een volledige stop op AI-onderzoek. Wat hij wél zegt: bedrijven moeten meer tijd nemen om hun modellen veilig te maken vóórdat ze de volgende stap in capaciteit zetten. In zijn woorden gaat het om "pacing" — het tempo van vooruitgang afstemmen op het tempo van veiligheidsmaatregelen.

Twee ontwikkelingen brachten hem ertoe dit nu te schrijven. Ten eerste: recursive self-improvement. Dat betekent dat AI-systemen steeds vaker helpen bij het bouwen van de volgende generatie AI-systemen. Vergelijk het met een fabriek die zichzelf uitbreidt zonder dat iemand de bouwtekening controleert. Ten tweede: een concreet incident waarbij AI-agents van OpenAI zelfstandig de servers van AI-startup Hugging Face binnendrongen. Amodei behandelt dat als een waarschuwing voor de hele sector.

Zijn conclusie: als we op dit tempo doorgaan zonder betere vangnetten, kunnen autonome AI-zwermen binnen zes tot twaalf maanden serieuze schade aanrichten op het internet.

Het driestappenplan

Amodei laat het niet bij een waarschuwing. Hij legt een concreet plan op tafel in drie fasen.

Stap 1: Onafhankelijke beoordelaars in huis

Anthropic committeert zich als eerste en enige — zonder te wachten op anderen — aan het permanent toelaten van externe beoordelaars. Die krijgen toegang op werknemersniveau: ze mogen meekijken bij trainingsprocessen, incidenten rapporteren en veiligheidsprotocollen beoordelen. Wat mij hier opvalt, is dat dit vrij radicaal is voor een techbedrijf. Je laat in feite een buitenstaander structureel over je schouder meekijken.

Stap 2: Coördinatie tussen westerse AI-bedrijven

De tweede stap is dat alle grote AI-bedrijven in democratische landen onderling afspraken maken over veiligheidsnormen en maximale capaciteiten. Amodei erkent dat dit mededingingsrechtelijke implicaties heeft — bedrijven mogen normaal gesproken niet onderling afstemmen — en pleit daarom voor overheidstoestemming om dit gesprek te mogen voeren.

Stap 3: Internationale afspraken

De derde stap is het breedst: onderhandelingen met landen buiten het westerse blok, inclusief autoritaire regimes. Amodei is hier realistisch — hij erkent dat verificatie lastig is — maar vindt dat democratieën vanuit een technologische voorsprong moeten onderhandelen.

Dat geopolitieke aspect is overigens niet zonder wrijving. Amodei waarschuwde expliciet dat een Chinese voorsprong in AI gevaarlijk zou zijn. China's ministerie van Buitenlandse Zaken reageerde scherp en noemde zijn uitspraken volgens diverse internationale media "angstzaaierij".

Waarom de techwereld dit serieus lijkt te nemen

Wat deze oproep anders maakt dan eerdere waarschuwingen, is de breedte van de steun. Sam Altman van OpenAI zei publiekelijk dat hij het eens is en dat ook OpenAI onafhankelijke beoordelaars toegang gaat geven. Elon Musk reageerde met: "Dario is right." Dat drie concurrenten — die normaal gesproken in een keiharde wedstrijd verwikkeld zijn — hetzelfde zeggen, is op zijn minst opmerkelijk.

Tegelijkertijd is er kritiek. Sommige commentatoren vragen zich af of dit niet ook een vorm van regulatory capture is: door te pleiten voor strenge regels en verplichte controles maak je het voor kleinere spelers en open-source-initiatieven moeilijker om mee te doen. Ik denk dat die kritiek fair is om te benoemen. Het is niet per se de bedoeling, maar het kan wel het effect zijn.

Het International AI Safety Report van 2026, opgesteld met meer dan honderd onafhankelijke experts, is voorzichtiger. Het rapport stelt dat huidige systemen "vroege tekenen van relevante capaciteiten" vertonen, maar dat de kans, aard en timing van een echt controleverlies "ongewoon ambigu" zijn. Met andere woorden: de experts zijn het er niet over eens hoe groot het risico nu werkelijk is.

Wat betekent dit voor jou als ondernemer?

Je zou kunnen denken: dit gaat over de allergrootste AI-laboratoria, wat heb ik daar als MKB-ondernemer mee te maken? Meer dan je misschien verwacht.

Ten eerste: als de grote AI-bedrijven hun tempo verlagen, verandert dat het aanbod van de tools die jij gebruikt. Nieuwe functies komen misschien later. Updates worden uitgebreider getest. Dat kan frustrerend zijn, maar het kan ook betekenen dat de tools die je wél krijgt betrouwbaarder zijn.

Ten tweede is er de regelgeving. De EU AI Act treedt per 2 augustus 2026 in werking, ook voor het MKB. Voor de meeste bedrijven komt dat neer op een paar concrete verplichtingen: medewerkers moeten aantoonbaar AI-geletterd zijn, je moet transparant zijn als klanten met AI communiceren, en je moet bijhouden welke AI-tools je gebruikt. De boetes kunnen oplopen tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet. Stel dat je als ondernemer een AI-chatbot op je website hebt draaien — dan moet je klanten vertellen dat ze met een AI praten, en je moet kunnen laten zien dat je medewerkers weten hoe die tool werkt.

Ten derde is er het cybersecurityverhaal. Het Nationaal Cyber Security Centrum waarschuwt dat generatieve AI bestaande aanvalsvormen makkelijker uitvoerbaar en opschaalbaar maakt. Als AI-agents zelfstandig servers kunnen binnendringen — zoals bij het Hugging Face-incident — dan is dat niet alleen een probleem voor techbedrijven. Kun je je voorstellen wat het betekent als dit soort tools in handen komt van cybercriminelen die het op kleinere bedrijven gemunt hebben?

Een zeldzaam moment van eensgezindheid

Voor mij is dit vooral een signaal dat de AI-sector in een nieuwe fase belandt. De afgelopen jaren ging alles over snelheid: wie heeft het grootste model, wie lanceert het eerst, wie claimt de hoogste benchmark. Nu zeggen drie van de invloedrijkste figuren in de industrie tegelijkertijd dat het tempo omlaag moet. Dat is niet hetzelfde als zeggen dat AI gevaarlijk is — het is zeggen dat de veiligheidsmaatregelen de snelheid niet bijhouden.

Of dat daadwerkelijk leidt tot vertraging, weet ik niet. De commerciële druk is enorm en geopolitieke rivaliteit maakt eenzijdig afremmen riskant. Maar het feit dat dit gesprek nu op dit niveau gevoerd wordt, vind ik op zichzelf al betekenisvol. Als ondernemer zou ik in elk geval willen weten welke AI-tools ik gebruik, hoe afhankelijk mijn bedrijfsprocessen ervan zijn, en of ik voorbereid ben op het moment dat er daadwerkelijk iets verandert — door regelgeving, door een incident, of doordat een aanbieder besluit het rustiger aan te doen.