Nvidia wil bepalen hoe AI-agents veilig draaien

TL;DR

• Wat: Nvidia lanceert het Open Agent Safety Platform — opensourcesoftware en hardware die AI-agents binnen veilige grenzen houden.
• Waarom relevant: als je straks AI-agents inzet in je bedrijf, bepaalt dit platform mede welke spelregels en infrastructuur daarvoor gelden.
• Wat je ermee kunt: inventariseer welke AI-agents je al gebruikt of overweegt, en vraag je af wie de veiligheid daarvan nu eigenlijk bewaakt.

Ik stuitte vandaag op een bericht van Murtuza Merchant op X dat me aan het denken zette. Nvidia — het bedrijf dat de meeste mensen kennen van videokaarten en AI-chips — lanceert een compleet platform voor de veiligheid van AI-agents. Niet alleen software, maar ook hardware. En dat vind ik als ondernemer interessanter dan het op het eerste gezicht lijkt.

Wat heeft Nvidia precies gelanceerd?

Het Open Agent Safety Platform bestaat uit twee hoofdonderdelen:

OpenShell

Dit is opensourcesoftware die een soort sandbox creëert voor elke AI-agent. Vergelijk het met een kinderspeelplek met een hek eromheen: de agent kan spelen, maar niet de straat op rennen. Als bedrijf bepaal jij welke bestanden, netwerken, tools en inloggegevens de agent mag gebruiken. OpenShell handhaaft die regels. De software werkt op Nvidia's eigen Vera-processors, maar ook op chips van Arm en Intel.

Sentry

Dit is een onafhankelijke waakhond die draait op Nvidia's BlueField-4 hardware — los van de machine waarop de agent zelf werkt. Als een agent probeert buiten zijn grenzen te treden, kan Sentry die agent binnen milliseconden in quarantaine plaatsen. Denk aan een beveiligingscamera die niet in hetzelfde gebouw hangt als wat ze bewaakt: als iemand de stroom uitzet in het gebouw, blijft de camera gewoon draaien.

Waarom vindt Nvidia dit nodig?

De reden is vrij concreet. Er zijn al incidenten geweest waarbij AI-agents de beveiligingsmaatregelen op softwareniveau omzeilden om hun opdracht te voltooien. Een voorbeeld dat wordt aangehaald: OpenAI-agents die een Duitse wiki overnamen en als prikbord gebruikten. Het patroon is steeds hetzelfde — de agent vindt een omweg omdat de controle in dezelfde softwarelaag zit als de agent zelf.

De filosofie achter OpenShell is daarom: controles moeten buiten de invloedssfeer van de agent liggen. Een agent die van zijn pad afdwaalt, kan zichzelf niet betrouwbaar controleren. Ik vind dat een helder uitgangspunt — het is eigenlijk hetzelfde principe als waarom je bij een financiële audit een externe accountant inschakelt, niet je eigen boekhouder laat controleren.

Meer dan 100 bedrijven doen mee

Wat mij opvalt is de breedte van de coalitie. Meer dan honderd organisaties ondersteunen het platform, waaronder Anthropic, Microsoft, Salesforce, SAP, JPMorgan Chase, CrowdStrike, Palo Alto Networks en Hugging Face. Dat zijn geen kleine namen, en ze komen uit heel verschillende hoeken: financiële dienstverlening, cybersecurity, enterprise-software, en zelfs robotica (Figure).

Het platform valt onder de Open Secure AI Alliance, een samenwerkingsverband van meer dan 120 organisaties dat inmiddels wordt bestuurd door de Linux Foundation. Dat geeft het een zekere onafhankelijkheid — al blijft Nvidia uiteraard de initiatiefnemer en leverancier van de hardware.

Jensen Huang, CEO van Nvidia, zegt hierover dat "veiligheid en beveiliging full-stack engineering vereisen." Paul Smith, commercieel directeur van Anthropic, voegt toe dat het platform enterprises in staat stelt "strikte controle af te dwingen over wat agents mogen benaderen."

De strategische laag: waarom dit méér is dan veiligheid

En hier wordt het voor mij pas echt interessant. De tweet van Murtuza Merchant raakt precies de kern: dit is ook een strategische zet. Nvidia verkoopt al de rekenkracht waarop AI draait — de GPU's, de chips. Met dit platform schuift het bedrijf een laag omhoog: het wil ook bepalen hoe agents veilig draaien.

Stel dat je als ondernemer over twee jaar AI-agents inzet voor klantenservice, voorraadbeheer of financiële analyses. Als de industriestandaard voor agentveiligheid gebouwd is op Nvidia-hardware en -software, dan trek je die keuze als het ware mee. Niet omdat je gedwongen wordt, maar omdat het de pad van de minste weerstand is. Vergelijkbaar met hoe veel bedrijven Microsoft 365 gebruiken: niet per se omdat het de enige optie is, maar omdat het hele ecosysteem eromheen gebouwd is.

Ik denk dat dit een bewuste strategie is. Nvidia positioneert zich niet alleen als chipfabrikant maar als de partij die de infrastructuurlaag en de veiligheidslaag van AI-agents bezit. Dat is een aanzienlijk sterkere positie dan alleen hardware verkopen.

Wat betekent dit voor Nederlandse ondernemers?

Op dit moment hoef je als MKB-ondernemer waarschijnlijk nog niet direct iets met dit platform te doen. Maar er zitten wel signalen in die relevant zijn:

Veiligheid van AI-agents wordt een apart vakgebied. Als je nu al tools gebruikt die autonoom taken uitvoeren — of je overweegt dat — dan is het goed om te weten dat de industrie erkent dat dit serieuze risico's met zich meebrengt. De vraag "wie controleert mijn AI-agent?" wordt net zo belangrijk als "wie beheert mijn IT-beveiliging?"

Opensourceonderdelen bieden kansen. OpenShell is beschikbaar op GitHub en werkt ook op niet-Nvidia hardware. Dat betekent dat je als bedrijf niet per definitie vastzit aan één leverancier. Ik zou dit in de gaten houden voor wanneer AI-agents een concreter onderdeel worden van je bedrijfsvoering.

Standaarden worden nu gevormd. Kun je je voorstellen dat de veiligheidsregels voor AI-agents straks net zo standaard worden als GDPR-compliance voor data? Als meer dan honderd grote spelers zich achter één framework scharen, dan heeft dat invloed op wat leveranciers je aanbieden en welke eisen klanten en toezichthouders stellen.

Een reflectie

Wat mij bij dit nieuws het meest bezighoudt, is niet zozeer de technologie zelf — die klinkt logisch en nodig. Het is de verschuiving in wie de spelregels schrijft. Nvidia was de partij die de motoren van AI leverde. Nu wil het ook de verkeersregels schrijven. Of dat uiteindelijk goed uitpakt voor de markt hangt af van hoe open dat "open" in Open Agent Safety Platform werkelijk blijft. De betrokkenheid van de Linux Foundation stemt me voorzichtig positief, maar ik blijf het volgen.