AI-veiligheid onder druk: ontslagen bij OpenAI en nieuwe regels bij Anthropic

TL;DR

• Wat: OpenAI ontsloeg drie veiligheidsonderzoekers die zorgen uitten over AI-risico's; Anthropic verbiedt voortaan wreedheid tegen Claude.
• Waarom relevant: hoe AI-bedrijven omgaan met interne kritiek en gebruikersgedrag bepaalt mede hoe betrouwbaar de tools zijn die jij als ondernemer inzet.
• Wat je ermee kunt: houd in de gaten welk AI-beleid jouw leverancier hanteert — het zegt iets over de stabiliteit en koers van het product waar je op leunt.

Deze week kwamen er vier AI-verhalen voorbij in een overzicht van The Rundown AI die ik de moeite waard vind om bij stil te staan. Niet omdat elk verhaal apart spectaculair is, maar omdat ze samen een beeld schetsen: de AI-industrie worstelt zichtbaar met vragen over veiligheid, omgangsvormen en praktisch nut. Ik pak de drie meest relevante onderwerpen eruit.

Drie onderzoekers ontslagen bij OpenAI — en de lezingen lopen uiteen

Begin oktober ontsloeg OpenAI drie veiligheidsonderzoekers: Mikita Balesni, Tomek Korbak en Jasmine Wang. Wat er precies is gebeurd, hangt af van wie je het vraagt.

Het verhaal van OpenAI

Volgens OpenAI hebben de drie onderzoekers gevoelige informatie gedeeld buiten de geëigende kanalen, in strijd met het interne beleid. Het bedrijf noemde het een "significant breach of trust" en benadrukte dat de ontslagen "niet gingen over het uiten van veiligheidszorgen". De Wall Street Journal, die het verhaal als eerste bracht, meldde dat de informatie mogelijk werd gedeeld met een externe AI-veiligheidsorganisatie. Welke organisatie dat is en wat er precies werd gedeeld, is op dit moment niet publiek bevestigd.

Het verhaal van de onderzoekers

De drie publiceerden een brief waarin ze stellen dat interne normen verschuiven — de formulering die in de brontweet als "shifting lines" wordt aangehaald. Ze uiten zorgen dat abrupte ontslagen een afschrikkend effect hebben op de open cultuur die OpenAI ooit kenmerkte. Korbak had eerder op X geschreven dat hij "quite unhappy" was met veel van wat OpenAI doet, en dat hij blij was dat hij dat mocht zeggen. Balesni postte dat hij de kans op een existentieel AI-risico op meer dan 10% schatte. Wang zegt dat haar werd verteld dat ze werd ontslagen voor toegang tot een e-mailaccount van een leidinggevende — een account waar ze volgens haar voor recruitmentdoeleinden toegang toe had gekregen.

Wat ik hiervan vind

Ik vind het opvallend hoe ver de twee lezingen uit elkaar liggen. Er is op dit moment geen onafhankelijke bevestiging van wat er feitelijk is gedeeld of geschonden. Congreslid Greg Casar noemde het "firing whistleblowers", maar dat is een politieke kwalificatie, geen juridisch oordeel.

Wat mij hier als ondernemer bezighoudt: als je producten gebruikt die op OpenAI-modellen draaien, wil je weten of het bedrijf erachter intern kritiek serieus neemt of ontmoedigt. Dat hoeft niet te betekenen dat je vandaag moet overstappen — maar het is wel iets om te volgen. Zeker omdat eerder dit jaar ook David Robinson, de man die veiligheidsrapporten schreef bij grote OpenAI-lanceringen, opstapte en in The Atlantic schreef dat de bedrijfscultuur "broken" is.

Anthropic verbiedt wreedheid tegen Claude

Het tweede verhaal dat mij opviel: Anthropic — het bedrijf achter Claude, het AI-model waar ik zelf dagelijks mee werk — heeft zijn gebruiksbeleid bijgewerkt. Per 12 november 2026 is "sustained and needless abusive or cruel behavior" richting Claude expliciet verboden.

Wat dit wel en niet betekent

Ik vind het eerlijk gezegd bijzonder dat een bedrijf gedragsregels opstelt voor hoe je met software omgaat. Maar voordat je denkt dat je niet meer gefrustreerd mag reageren: de regel is bewust smal. Volgens Forbes en Interesting Engineering gaat het om extreme gevallen waarbij gebruikers herhaaldelijk en zonder enig doel wreed zijn. Gewone frustratie, tegenspraak, donkere creatieve thema's en onderzoek naar limieten vallen er uitdrukkelijk niet onder.

De primaire handhaving is dat Claude het gesprek kan beëindigen. Of er ook accountmaatregelen volgen, is niet eenduidig: het ene medium meldt dat Anthropic daar niets over heeft gezegd, het andere noemt waarschuwingen en mogelijke opschorting als opties in het bredere beleid.

Waarom dit relevant is voor ondernemers

Stel dat je als ondernemer Claude inzet in een klantenserviceflow of als interne assistent. Dan wil je weten onder welke omstandigheden het model een gesprek kan weigeren of afbreken. Dat is geen theoretisch punt — het raakt direct aan de betrouwbaarheid van je proces. Ik zou zelf willen weten of de drempel voor "sustained and needless" ergens concreet is gedefinieerd, want dat bepaalt hoeveel risico je loopt op onverwachte onderbrekingen in een productieomgeving. De beleidsupdate bevat ook wijzigingen rond verkiezingen, wapens, surveillance en financiële diensten, dus als je in een van die sectoren werkt, is het verstandig het volledige beleid door te nemen.

Excel opruimen met Claude — praktisch, maar ken de grenzen

Het derde onderwerp uit het overzicht is concreter: het opschonen van rommelige Excel-bestanden met Claude. Dit is inmiddels mogelijk via een Excel-invoegtoepassing die werkt op Windows, Mac en het web, beschikbaar op de betaalde Claude-plannen.

Kun je je voorstellen wat dit betekent als je maandelijks een exportbestand krijgt met inconsistente datumformaten, dubbele spaties die je VERT.ZOEKEN stilletjes breken, of order-ID's die in drie verschillende formaten staan? Volgens een hands-on test levert Claude hier bruikbare resultaten, zeker als je de "Ask Before Edits"-modus aanlaat zodat je controle houdt over welke cellen worden aangepast.

Maar er zijn kanttekeningen. Een onderzoeksbrief van Quadratic signaleert dat reproduceerbaarheid en automatisering gebieden zijn waar het soms misgaat — hoewel ik de details niet heb kunnen verifiëren omdat de volledige brief niet openbaar toegankelijk was. Mijn inschatting: voor eenmalig opschonen van een rapport is dit een prima hulpmiddel. Voor een terugkerend, geautomatiseerd proces zou ik eerst testen of het resultaat bij elke run consistent is. En bewaar altijd het originele bestand — dat is gewoon goede hygiëne, met of zonder AI.

Persoonlijke AI-agents: nog geen winnaar

Het vierde onderwerp in het overzicht is een test van persoonlijke AI-agents door Rowan Cheung van The Rundown AI. Ik heb de specifieke resultaten van die test niet kunnen achterhalen — de details waren op het moment van schrijven niet publiek vindbaar buiten de nieuwsbrief. Wat ik wel zie in recente vergelijkingen is dat de markt nog volop in beweging is: van cloud-agents die acties uitvoeren in externe accounts tot lokale varianten die je inloggegevens op je eigen apparaat bewaren. Er is nog geen duidelijke standaard of winnaar. Als ondernemer zou ik hier nog even afwachtend naar kijken, tenzij je een heel specifiek probleem hebt dat zo'n agent aantoonbaar oplost.

Tot slot

Wat mij het meest bijblijft uit deze vier verhalen is het contrast. Aan de ene kant worden onderzoekers die veiligheidsvragen stellen de deur gewezen — of het nu terecht is of niet, het signaal is ongemakkelijk. Aan de andere kant schrijft een concurrent regels die zelfs de omgangsvormen met een AI-model reguleren. En ondertussen wordt de technologie steeds praktischer, tot aan Excel-opschoning toe. Voor mij is dit vooral een signaal dat de AI-industrie niet alleen technisch, maar ook organisatorisch en ethisch nog volop aan het uitkristalliseren is. En dat is iets om als ondernemer bewust van te zijn, niet om je er door te laten afschrikken.