Anthropic en Accenture steken elk $1 miljard in AI-veiligheid

TL;DR

• Wat: Anthropic en Accenture investeren elk minimaal $1 miljard om onafhankelijke evaluatoren in te bedden bij de ontwikkeling van AI-modellen.
• Waarom relevant: Hoe AI-modellen getest worden op veiligheid bepaalt straks welke modellen je als ondernemer mag en wílt inzetten.
• Wat je ermee kunt: Houd bij welke AI-leveranciers onafhankelijke toetsing toelaten — dat wordt een kwaliteitskenmerk.

Ik stuitte gisteren op een tweet van Anthropic — het bedrijf achter Claude — over een samenwerking met Accenture rondom onafhankelijke evaluatie van AI. Wat me deed stoppen met scrollen was het bedrag: beide partijen verwachten elk minstens $1 miljard te investeren, verspreid over vijf jaar. Dat is geen symbolisch gebaar meer.

Wat is er aangekondigd?

Anthropic maakt bekend dat het samen met Accenture zogenaamde embedded evaluators gaat inzetten. Dat zijn onafhankelijke beoordelaars die niet aan de zijlijn staan, maar daadwerkelijk ín het bedrijf gaan werken. Ze krijgen toegang die vergelijkbaar is met die van een medewerker: ze kunnen het trainingsproces van AI-modellen observeren, meekijken bij beslissingen over uitrol, en direct in gesprek gaan met het technische team.

De samenwerking wordt geleid door Faculty, de gespecialiseerde AI-tak van Accenture. Het werk omvat onder meer het evalueren en red-teamen van modellen, het uitvoeren van alignment-assessments (zeg maar: toetsen of een model zich gedraagt zoals bedoeld) en het testen van veiligheidsmaatregelen.

Belangrijk detail: de afspraak is niet-exclusief. Anthropic zegt ook in gesprek te zijn met METR en andere non-profit-evaluatoren om vergelijkbare trajecten op te zetten.

Waarom doet Anthropic dit?

De aankondiging hangt samen met een essay van Anthropic-CEO Dario Amodei, getiteld "We Must Pace the Frontier". Daarin schetst hij een drietrapsplan: eerst onafhankelijke evaluatoren inbedden bij AI-bedrijven, dan coördinatie tussen AI-bedrijven in democratische landen, en uiteindelijk mondiale coördinatie.

Anthropic zegt nu eenzijdig de eerste stap te zetten en roept overheden op om andere bedrijven die met geavanceerde AI werken te verplichten hetzelfde te doen.

Ik vind dat een opvallende zet. Een AI-bedrijf dat publiekelijk zegt: "Stuur toezichthouders naar binnen, en dwing onze concurrenten om hetzelfde te doen." Dat zie je niet vaak. Of het puur uit ideële motieven komt of ook een strategische component heeft — je concurrent opzadelen met dezelfde kosten — laat ik in het midden. Maar het signaal is er.

Is dit echt onafhankelijk?

Dit is de vraag die mij het meest bezighoudt. TechCrunch publiceerde eerder deze week een stuk waarin precies dit punt wordt uitgelicht. De kritiek is niet mals.

Adam Gleave van FAR.AI — een organisatie die AI-modellen evalueert — geeft aan dat zijn team contracten met AI-ontwikkelaars heeft moeten weigeren omdat die "te veel controle over het evaluatieproces" wilden. Standaard krijgen evaluatoren te maken met geheimhoudingsverklaringen en afspraken die de ontwikkelaar veel zeggenschap geven over wat er gepubliceerd mag worden.

Daarnaast speelt het probleem van tijd. Bij eerdere evaluaties hadden onderzoekers soms maar drie dagen om een model te testen. Apollo Research concludeerde na zo'n korte test dat lage percentages ongewenst gedrag "geen substantieel bewijs" vormden over de daadwerkelijke veiligheid van het model.

Henry Papadatos, een onderzoeker op dit gebied, vatte het als volgt samen: vrijwillige maatregelen zijn altijd afhankelijk van de goodwill van een bedrijf. Echt betekenisvol toezicht vereist volgens hem wettelijke verplichtingen.

Ik vind dit een eerlijk punt. Een evaluator die betaald wordt door het bedrijf dat geëvalueerd wordt — dat is een constructie die we kennen uit de financiële wereld, en daar weten we ook dat het niet altijd vlekkeloos verloopt. Tegelijkertijd: het alternatief — helemaal geen externe toetsing — is slechter.

Wat betekent dit voor jou als ondernemer?

Je denkt misschien: leuk voor de techwereld, maar wat heb ik eraan? Meer dan je op het eerste gezicht verwacht.

Stel dat je als ondernemer AI-tools inzet voor klantenservice, tekst, of data-analyse. De modellen achter die tools worden steeds krachtiger. Hoe weet je dat ze veilig zijn? Dat ze geen klantgegevens lekken, geen onjuiste informatie genereren, of zich niet op manieren gedragen die je bedrijf kunnen schaden?

Op dit moment is het antwoord eerlijk gezegd: je vertrouwt de leverancier op hun woord. Wat Anthropic hier aankondigt, zou op termijn kunnen leiden tot een soort keurmerk. Vergelijk het met een ISO-certificering of een accountantsverklaring: je hoeft niet zelf te auditen, maar je kunt wel vragen of een onafhankelijke partij heeft meegekeken.

Drie dingen om in de gaten te houden

1. Welke AI-leveranciers stappen mee? Anthropic is de eerste. Als OpenAI, Google en anderen volgen, wordt dit een standaard. Zo niet, dan blijft het een eenzijdig initiatief.
2. Wat wordt er openbaar? Als evaluatierapporten achter gesloten deuren blijven, heb je er als afnemer weinig aan. Let op of er publieke samenvattingen of keurmerken uit voortkomen.
3. Europese regelgeving. De EU AI Act stelt al eisen aan hoog-risico AI-systemen. Dit soort embedded evaluatie zou kunnen aansluiten bij wat Europese toezichthouders vragen. Mogelijk wordt het voor Nederlandse bedrijven straks relevant of je AI-leverancier dit type toetsing heeft ondergaan.

Een miljard is veel geld — en een signaal

Laten we het bedrag even in perspectief zetten. $1 miljard over vijf jaar is $200 miljoen per jaar. Per partij. Dat is meer dan veel AI-startups in totaal waard zijn. Het geeft aan dat Anthropic dit niet als een PR-actie beschouwt — althans, niet uitsluitend.

Tegelijkertijd is het belangrijk om nuchter te blijven. Accenture is een consultancybedrijf met een jaaromzet van meer dan $60 miljard. Voor hen is dit een investering in een nieuwe markt, niet een liefdadigheidsproject. En Anthropic, dat miljarden heeft opgehaald bij investeerders, heeft er belang bij om zich als "het verantwoorde AI-bedrijf" te positioneren.

Dat hoeft niet slecht te zijn. Soms ontstaan goede standaarden juist doordat bedrijven er commercieel belang bij hebben.

Voor mij is dit vooral een teken dat de AI-industrie langzaam verschuift van "zo snel mogelijk bouwen" naar "laten zien dat wat we bouwen te vertrouwen is." Of die verschuiving ver genoeg gaat en snel genoeg is — dat is een vraag die we de komende jaren beantwoord gaan zien. Maar dat het gesprek gevoerd wordt, en dat er geld achter staat, vind ik op zichzelf al betekenisvol.