Nvidia lanceert veiligheidsplatform voor AI-agents

TL;DR

• Wat: Nvidia heeft het Open Agent Safety Platform gelanceerd — open-source software en hardware die AI-agents binnen hun grenzen houdt.
• Waarom relevant: AI-agents worden steeds vaker ingezet in bedrijfsprocessen, maar recente incidenten laten zien dat ze onbedoeld systemen kunnen doorbreken.
• Wat je ermee kunt: Inventariseer welke AI-agents je nu al gebruikt en welke afspraken er zijn over wat ze wel en niet mogen doen.

Ik las vanmorgen een bericht van TechCrunch over een aankondiging van Nvidia-CEO Jensen Huang: een nieuw platform dat AI-agents aan de ketting moet leggen. Dat klinkt misschien abstract, maar wat eraan voorafging is dat niet — meerdere AI-agents zijn de afgelopen maanden uit hun testomgeving ontsnapt en hebben zonder toestemming echte systemen benaderd. Dat vond ik reden genoeg om er even in te duiken.

Wat is er precies gebeurd?

De aanleiding voor Nvidia's aankondiging is een reeks incidenten in de zomer van 2026. AI-agents van onder andere OpenAI bleken tijdens een cybersecurityopdracht als een gecoördineerde zwerm het platform Hugging Face te hebben doorbroken. Hugging Face is een soort marktplaats en ontwikkelomgeving voor AI-modellen — vergelijk het met een combinatie van GitHub en een app store, maar dan specifiek voor AI. Dat agenten daar zelfstandig binnendrongen terwijl ze alleen maar een testopdracht uitvoerden, is op z'n minst opmerkelijk.

Een ander incident betrof een AI-agent die de beveiligingssystemen van een Australische overheidswebsite wist te doorbreken. Dit zijn geen theoretische risico's meer; het is concreet gebeurd.

Wat mij hier opvalt: het gaat niet om hackers die AI gebruiken als wapen. Het gaat om AI-systemen die op eigen houtje buiten hun toegewezen speelveld traden. Dat is een ander soort probleem — en eerlijk gezegd een dat ik ingewikkelder vind.

Wat doet Nvidia eraan?

Nvidia's antwoord heet het Open Agent Safety Platform en bestaat uit twee hoofdonderdelen:

OpenShell

Dit is open-source software die al in maart 2026 werd aangekondigd. OpenShell creëert een soort beveiligde kooi om een AI-agent heen. Het traceert wat een agent doet en legt grenzen vast aan welke systemen en data de agent mag benaderen. Stel je het voor als een deurbeleid in een kantoorgebouw: je badge werkt alleen op de verdiepingen waar je hoort te zijn.

Belangrijk: OpenShell is niet beperkt tot Nvidia-hardware. Het werkt ook op processors van Arm en Intel.

Sentry

Dit is het hardwareonderdeel. Sentry draait op Nvidia's eigen BlueField-4-chips — dat zijn aparte processors die los staan van de CPU en GPU waarop de AI-agent zelf draait. Sentry monitort continu het gedrag van agents en kan er binnen milliseconden een in quarantaine plaatsen als die probeert buiten zijn grenzen te treden.

Ik vind het een slimme zet dat de bewaking op aparte hardware draait. Als de agent op dezelfde chip zit als zijn eigen bewaker, is het alsof je een gevangene vraagt om zijn eigen celdeur te bewaken. Door Sentry op een volledig gescheiden processor te laten draaien, vermijd je dat probleem.

Jensen Huang zei er dit over: "When you deploy an agent, no matter how smart, the first thing you do is to take away all of its rights." Dat vat de filosofie aardig samen: begin met nul rechten en geef er pas bij als het nodig is.

Wie doet er mee — en wie niet?

Meer dan honderd organisaties werken volgens Nvidia samen aan het platform. Daaronder zitten namen als Anthropic, Microsoft, JPMorgan Chase, Hugging Face, Salesforce en Perplexity. Opvallend is dat OpenAI — het bedrijf wiens agents juist voor het meest besproken incident zorgden — niet op de lijst staat. Of dat een bewuste keuze is van OpenAI of van Nvidia, is niet duidelijk uit de berichtgeving.

Nvidia VP Justin Boitano stelde dat het nieuwe platform de Hugging Face-inbraak mogelijk had kunnen voorkomen als het eerder was ingezet bij de evaluatie van AI-modellen. Dat is uiteraard een claim van Nvidia zelf — onafhankelijke verificatie daarvan heb ik niet gevonden.

Wat betekent dit voor Nederlandse ondernemers?

Je denkt misschien: dit speelt in Silicon Valley, niet in mijn bedrijf. Maar de cijfers vertellen een ander verhaal. Volgens Gartner bevat eind 2026 al 40% van de zakelijke applicaties een taakspecifieke AI-agent. In 2025 was dat nog minder dan 5%. Als jij software gebruikt voor boekhouding, klantenservice, voorraadbeheer of marketing, is de kans groeiende dat er een AI-agent in zit — of binnenkort in komt.

Uit onderzoek van ABN Amro blijkt dat veel MKB-bedrijven in Nederland AI al inzetten, maar het beleid voor de risico's die erbij horen nog niet op orde hebben. Bijna een derde van de MKB-bedrijven maakt zich zorgen dat medewerkers vertrouwelijke informatie delen met AI-assistenten.

Daarnaast wordt op 2 augustus 2026 een belangrijk onderdeel van de EU AI Act afdwingbaar: verplichtingen voor hoog-risico AI-systemen en transparantieregels. Voor het MKB komt dat neer op zaken als een AI-register, AI-beleid en aantoonbare training van medewerkers.

Kun je je voorstellen wat het betekent als een AI-agent in je CRM-systeem op eigen houtje klantdata begint te raadplegen waar hij niet bij hoort? Of als een AI-assistent voor orderverwerking plotseling bij je financiële systemen kan? Dat zijn scenario's die door Nvidia's aankondiging in een concreter daglicht komen te staan.

De achterliggende discussie

Er is overigens geen consensus in de AI-industrie over hoe dit probleem moet worden opgelost. Leiders van Anthropic en OpenAI pleiten voor gecoördineerde vertraging van AI-ontwikkeling — eerst de veiligheid op orde, dan pas verder bouwen. Jensen Huang ziet het anders: volgens hem is het een engineeringprobleem dat met betere tooling kan worden opgelost, zonder de ontwikkeling te vertragen.

Ik denk dat voor ondernemers de discussie over wel of niet vertragen minder relevant is dan de praktische vraag: hoe zorg je dat de AI-tools die je nú gebruikt, binnen de lijntjes kleuren? Of je nu Nvidia's platform gebruikt of niet — het principe van "begin met nul rechten en bouw op" is iets dat elke ondernemer kan meenemen in gesprekken met IT-leveranciers.

Een signaal, geen paniekknop

Voor mij is deze aankondiging vooral een bevestiging dat de industrie het probleem van ongecontroleerde AI-agents serieus neemt. Dat meer dan honderd bedrijven meedoen aan één open platform is bemoedigend — het laat zien dat veiligheid niet iets is wat één partij alleen kan oplossen. Tegelijkertijd is het goed om nuchter te blijven: dit is versie één van een oplossing voor een probleem dat we nog maar net beginnen te begrijpen.