King Charles nodigt AI-topbestuurders uit voor top in Schotland

TL;DR

• Wat: King Charles ontving CEO's van Nvidia, Google DeepMind en OpenAI op zijn landgoed in Schotland om te praten over AI-veiligheid en gedeelde principes.
• Waarom relevant: Het VK positioneert zich nadrukkelijk als speler in AI-beleid — en wat daar besloten wordt, raakt ook Europese bedrijven die met Britse partijen samenwerken.
• Wat je ermee kunt: Houd in de gaten hoe het Britse AI-beleid zich ontwikkelt naast de EU AI Act, vooral als je Britse klanten of leveranciers hebt.

Ik viel over dit bericht omdat het een ongebruikelijke combinatie is: een koning, een handvol techbedrijven die samen meer waard zijn dan sommige landen, en een landgoed in Schotland. King Charles bracht afgelopen donderdag de topbestuurders van Nvidia, Google DeepMind en OpenAI samen op Dumfries House om over AI-veiligheid te praten. Geen bindende afspraken, wel een opvallend signaal.

Wie zaten er aan tafel?

De gastenlijst leest als een who's who van de AI-wereld. Nvidia-CEO Jensen Huang was er, net als Demis Hassabis — oprichter van Google DeepMind en Nobelprijswinnaar. OpenAI stuurde CFO Sarah Friar. Daarnaast was Kanishka Narayan aanwezig, de Britse minister voor kunstmatige intelligentie, en Paolo Benatti, een adviseur van de paus op het gebied van AI.

Wat mij hier opvalt: Anthropic wordt ook genoemd als aanwezige partij, maar wie hen precies vertegenwoordigde is in de berichtgeving niet helemaal duidelijk. Interessant is ook dat Sam Altman (CEO van OpenAI) en Dario Amodei (CEO van Anthropic) niet zelf aanwezig lijken te zijn geweest, maar wel eerder uitspraken deden die bij het thema passen. Altman zei eerder dat het vertragen van AI-ontwikkeling "de kosten waard" is, en Amodei pleitte voor een gecoördineerde internationale vertraging.

Wat zei King Charles?

Charles was niet mis te verstaan. Hij noemde de ontwikkeling van AI "intrigerend en diep zorgwekkend in gelijke mate" en waarschuwde voor wat hij "existentiële gevaren" noemt als de technologie in verkeerde handen valt. Zijn letterlijke woorden: "Surely, we need sufficient means of control before it is all too late?"

Dat is stevige taal vanuit een staatshoofd dat doorgaans geen beleidslijnen uitzet. In het Verenigd Koninkrijk heeft de monarch immers een ceremoniële rol. Maar juist daardoor is dit interessant: Charles gebruikt zijn positie om het gesprek een moreel kader te geven. Hij sprak over technologie die "stevig in dienst van de mensheid, de gemeenschap en de natuur" zou moeten staan, met "veiligheid als kern".

Ik vind het eerlijk gezegd opvallend dat een koning dit soort taal bezigt in een kamer vol techbestuurders. Het is geen regelgeving, geen wetsvoorstel — het is een oproep tot principes. En dat is precies wat het volgens de berichtgeving ook was: het doel was om te werken aan "een gedeelde set principes" voor de ontwikkeling van AI.

Geen bindende afspraken — wat heeft het dan voor zin?

Dat is een terechte vraag. Er kwamen geen concrete toezeggingen uit. Geen verdragen, geen handtekeningen. Critici zullen zeggen: weer een praatclub.

Toch denk ik dat het te makkelijk is om dit af te doen als symboolpolitiek. Het VK positioneert zich al langer als een serieuze speler in het AI-veiligheidslandschap. Het land heeft een eigen AI Security Institute dat internationaal goed aangeschreven staat, en het levert een onevenredig groot aantal vooraanstaande AI-onderzoekers. De aanwezigheid van de Britse AI-minister Kanishka Narayan onderstreept dat de overheid dit niet als een theekransje beschouwt.

Jensen Huang van Nvidia zei tijdens de top dat individuele bedrijven AI veilig moeten ontwikkelen en hun producten moeten "tegenhouden" als ze niet veilig genoeg zijn. Dat klinkt logisch, maar het is opvallend dat hij dat in dit gezelschap hardop uitspreekt. Of bedrijven zich er ook daadwerkelijk aan houden als de concurrentiedruk toeneemt, is een andere vraag.

Wat betekent dit voor Nederlandse ondernemers?

Op het eerste gezicht lijkt een Britse koninklijke AI-top ver van je bed. Maar als je als Nederlandse ondernemer werkt met Britse klanten, leveranciers of softwarepartijen, is het relevant om te begrijpen hoe het VK met AI-beleid omgaat.

Het Verenigd Koninkrijk kiest een andere route dan de EU. Waar de Europese Unie met de AI Act een uitgebreid wetgevingskader heeft opgetuigd — met verplichtingen voor hoog-risico AI-systemen die grotendeels vanaf december 2027 van kracht worden — hanteert het VK een zogenaamd "principles-based" model. Dat betekent: geen overkoepelende AI-wet, maar bestaande toezichthouders die AI-regels toepassen binnen hun eigen sector.

Voor een MKB-ondernemer in Nederland die AI-tools inzet, is het plaatje nu dus tweeledig:

EU AI Act

De EU AI Act is van toepassing op bedrijven die AI-systemen aanbieden of gebruiken binnen de EU. De deadline voor volledige compliance op hoog-risico systemen is verschoven naar 2 december 2027. In Nederland houdt het Nederlands Normalisatie-instituut (NEN) zich bezig met de standaardisering die hierbij hoort.

Brits AI-beleid

Het VK gaat vooralsnog een minder prescriptieve weg, maar de richting kan verschuiven — zeker als bijeenkomsten als deze tot concrete principes leiden die Britse toezichthouders overnemen. Werk je met een Brits AI-bedrijf? Dan kan het lonen om te volgen welke normen daar gehanteerd worden, naast de EU-verplichtingen die je sowieso al hebt.

Kun je je voorstellen dat je een AI-tool gebruikt van een Britse leverancier, en dat die tool straks aan andere veiligheidsnormen moet voldoen dan wat de EU vraagt? Dat is geen hypothetisch scenario — het is precies de complexiteit die ontstaat als twee grote markten elk hun eigen koers varen.

Een moreel kompas naast wetgeving

Wat mij aan deze top het meest bijblijft, is de rol die King Charles hier kiest. Hij heeft geen wetgevende macht, geen regulerend mandaat. Maar hij stelt een vraag die wetgevers en techbedrijven vaak overslaan: niet "hoe maken we AI krachtiger?" of zelfs "hoe maken we AI veiliger?", maar "staat deze technologie in dienst van de mens, of is het andersom?"

Ik denk dat die vraag relevanter wordt naarmate AI-systemen meer beslissingen nemen die mensen direct raken — van kredietbeoordelingen tot sollicitatieprocedures. Of een koninklijke top in Schotland daar het verschil in maakt, weet ik niet. Maar het feit dat de CEO's van de invloedrijkste AI-bedrijven ter wereld er wel naartoe kwamen, zegt wat mij betreft iets over hoe serieus dit soort gesprekken inmiddels genomen wordt.

Voor mij is dit vooral een signaal dat AI-beleid niet meer alleen een technisch of juridisch dossier is. Het is een maatschappelijk gesprek geworden — en als ondernemer kun je je niet veroorloven om daar helemaal buiten te staan.