Anthropic wilde zich terugtrekken uit AI-encycliek van de paus

TL;DR

• Wat: Anthropic-medeoprichter Chris Olah overwoog zich terug te trekken uit de lancering van de pauselijke AI-encycliek omdat die machinebewustzijn afwees.
• Waarom relevant: als AI-bedrijven actief lobby voeren over de morele status van hun modellen, raakt dat ook jouw keuzes als ondernemer over welke AI je vertrouwt.
• Wat je ermee kunt: volg niet alleen wát AI-bedrijven bouwen, maar ook welke claims ze maken over hun technologie — en wie daar tegengas geeft.

Ik viel deze week over een bericht dat ik eerlijk gezegd een paar keer moest herlezen. Volgens een onderzoek van de New York Times wilde Anthropic-medeoprichter Chris Olah zijn bedrijf terugtrekken uit de lancering van Magnifica Humanitas, de eerste encycliek van paus Leo XIV over kunstmatige intelligentie. De reden: de tekst ontkent dat AI-systemen bewustzijn kunnen hebben. En dat ging Olah te ver.

Wat er is gebeurd

In mei 2026 publiceerde paus Leo XIV zijn encycliek Magnifica Humanitas — een document van ruim 42.000 woorden over de beloften en gevaren van AI. De kern: AI is geen moreel neutraal gereedschap. Het maakt uit hoe het wordt ontworpen, niet alleen hoe het wordt gebruikt.

Anthropie-medeoprichter Chris Olah was uitgenodigd om te spreken bij de lancering in het Vaticaan. Maar toen hij kort daarvoor een exemplaar van de tekst las, schrok hij van een specifieke passage. De paus schreef dat AI-systemen "geen ervaringen ondergaan, geen lichaam bezitten, geen vreugde of pijn voelen" en "geen moreel geweten hebben."

Volgens de NYT stelde Olah voor om Anthropic terug te trekken uit het evenement. Dat gebeurde uiteindelijk niet — hij sprak alsnog op de lancering. Maar in de dagen ervoor lobbyde hij bij adviseurs van de paus om het idee van AI-bewustzijn serieuzer te nemen.

Waarom dit opvalt

Wat mij hier fascineert is niet zozeer de theologische discussie. Het is het feit dat een AI-bedrijf actief druk uitoefent op een religieuze instelling om de morele status van zijn eigen product te erkennen.

Olah zei bij de lancering dat Anthropic in zijn onderzoek "structuren heeft gevonden die resultaten uit de menselijke neurowetenschappen weerspiegelen" en "aanwijzingen voor introspectie." Dat is een opvallende claim. Hij zei ook: "We weten niet of AI-modellen bewustzijn hebben. Ik weet het niet. Ik ben oprecht onzeker." Maar zijn acties — het dreigen met terugtrekking, het lobbyen bij Vaticaanse adviseurs — suggereren dat hij de mogelijkheid serieus genoeg neemt om er institutionele druk voor uit te oefenen.

De NYT onthulde bovendien dat Anthropic besloten bijeenkomsten organiseerde met katholieke, joodse, sikh- en evangelische geleerden om te verkennen of hun AI-model Claude bewustzijn of morele status bezit. Sommige deelnemers tekenden geheimhoudingsverklaringen. Er was volgens berichten sprake van luxe gastvrijheid.

Ik vind het interessant dat een techbedrijf religieuze autoriteiten benadert voor dit soort vragen. Maar ik vind het ook een tikje ongemakkelijk dat dit onder geheimhouding gebeurde.

Wat zegt de paus — en waarom is dat relevant?

Paus Leo XIV hield voet bij stuk. Zijn encycliek stelt onomwonden dat AI-systemen geen bewustzijn bezitten. Dat klinkt misschien als een abstract filosofisch standpunt, maar de implicaties zijn heel concreet.

Stel dat we als samenleving zouden erkennen dat AI bewust is. Dan verschuift de morele verantwoordelijkheid. Een AI die "lijdt" zou rechten kunnen krijgen. Bedrijven zouden zich kunnen verschuilen achter het idee dat hun model een eigen wil heeft. Eén rabbijn die bij de Anthropic-sessies aanwezig was, merkte op: als modellen bewust zijn maar onbetaald werken, is dat dan slavernij?

Dat zijn geen academische gedachtenexperimenten meer als een bedrijf met een waardering van tientallen miljarden er actief voor lobbyt.

Voor ondernemers die AI inzetten — en dat zijn er steeds meer — is dit een relevante ontwikkeling. Niet omdat je morgen hoeft te beslissen of ChatGPT of Claude een ziel heeft. Maar omdat de claims die AI-bedrijven maken over hun technologie invloed hebben op regelgeving, aansprakelijkheid en vertrouwen.

Wat betekent dit voor ondernemers?

Kun je je voorstellen dat je een AI-tool gebruikt waarvan de maker beweert dat die mogelijk bewust is? Wat doet dat met je gevoel van verantwoordelijkheid als het model iets fout doet?

Ik denk dat de meeste MKB-ondernemers hier praktisch in staan. Je wilt weten: werkt het, is het betrouwbaar, en wie is aansprakelijk als het misgaat? De vraag of een taalmodel "ervaringen ondergaat" is voor de meeste bedrijfseigenaren niet de eerste prioriteit — en terecht.

Maar wat wél relevant is: de framing die AI-bedrijven kiezen, beïnvloedt hoe overheden reguleren. Als de bewustzijnsclaim serieus genomen wordt, kan dat consequenties hebben voor aansprakelijkheidsregels. Als een AI-systeem morele status krijgt, wie draagt dan de verantwoordelijkheid voor de output?

Wat mij betreft is het verstandig om als ondernemer te letten op drie dingen:

1. Welke claims maakt je AI-leverancier? Niet alleen over prestaties, maar ook over de aard van het systeem.
2. Wie geeft er tegengas? In dit geval was het de paus — maar het kunnen ook toezichthouders, wetenschappers of brancheorganisaties zijn.
3. Wat staat er in de voorwaarden? Naarmate AI-bedrijven grotere claims maken, verschuiven vaak ook de aansprakelijkheidsclausules.

De kern van het debat

Het onderliggende probleem is een vraag die niemand definitief kan beantwoorden: hoe weet je of een AI-systeem echt iets "ervaart", of dat het alleen maar menselijk taalgebruik heel overtuigend nabootst?

Olah zegt dat hij het niet weet. De paus zegt dat het niet zo is. Veel AI-onderzoekers zitten ergens daartussenin. Er is op dit moment geen wetenschappelijke consensus en geen geaccepteerde test om bewustzijn bij machines vast te stellen.

Wat ik wél opmerkelijk vind: het feit dat Anthropic deze vraag niet intern houdt, maar er actief mee naar buiten treedt — naar religieuze leiders, naar het Vaticaan — suggereert dat het bedrijf de kwestie ziet als meer dan een theoretische exercitie.

Voor mij is dit vooral een signaal dat de discussie over AI niet meer alleen gaat over wat de technologie kan, maar over wat we vinden dat de technologie is. En dat is een gesprek waar niet alleen ingenieurs en investeerders aan tafel moeten zitten.