AI-labs willen gas terugnemen, maar AI vindt nu al duizenden lekken

TL;DR

• Wat: Grote AI-labs als Anthropic en OpenAI overwegen vrijwillig de ontwikkeling van de krachtigste AI-modellen te vertragen, terwijl breed beschikbare AI-tools nu al in hoog tempo softwarelekken ontdekken.
• Waarom relevant: Als ondernemer krijg je te maken met beide kanten — strengere AI-regulering én een stijgend aantal ontdekte kwetsbaarheden in software die jij mogelijk gebruikt.
• Wat je ermee kunt: Breng in kaart welke software in je bedrijf draait, vraag je leverancier hoe zij omgaan met het stijgende aantal beveiligingsupdates, en check of je een patchbeleid hebt.

Ik viel deze week over een bericht van WIRED dat twee ogenschijnlijk tegenstrijdige ontwikkelingen naast elkaar zet: AI-labs die praten over gas terugnemen, en diezelfde AI die ondertussen een stortvloed aan beveiligingsfouten blootlegt. Dat contrast vind ik fascinerend, want het raakt direct aan de vraag die ik mezelf als ondernemer stel: wat betekent dit voor mijn bedrijf en mijn software?

De voorgestelde vertraging: wat is "Pace the Frontier"?

Op 12 september publiceerde Dario Amodei, de CEO van Anthropic, een essay met de titel "We Must Pace the Frontier". Zijn voorstel: de labs die de krachtigste AI-modellen bouwen, moeten bewust de snelheid van hun capaciteitsontwikkeling verlagen. Niet stoppen — vertragen.

Het plan rust op drie pijlers:

1. Onafhankelijke beoordelaars ín het lab. Organisaties zoals de non-profit METR zouden permanent toegang krijgen tot de werkplekken van AI-labs, zodat ze in realtime kunnen meekijken in plaats van achteraf te beoordelen.
2. Gedeelde veiligheidsnormen. AI-bedrijven in democratische landen zouden onderling afspraken maken over grenzen aan ontwikkeling. Mogelijk met overheidssteun, want onderlinge afspraken tussen concurrenten raken al snel aan mededingingsregels.
3. Internationale afspraken. De VS en bondgenoten zouden met landen als China moeten onderhandelen over het beperken van de gevaarlijkste toepassingen.

Sam Altman van OpenAI reageerde positief: "I agree with Dario that we need to pace the frontier." Elon Musk hield het kort: "Dario is right."

Niet iedereen is het eens

Mark Zuckerberg van Meta ziet het anders. Volgens hem zijn een bestaande concurrentiedruk en wettelijke aansprakelijkheid al voldoende om labs veilig te laten werken. Een formeel pact is in zijn ogen onnodig. Palantir-CEO Alex Karp waarschuwde dat een vrijwillige vertraging vooral ruimte geeft aan geopolitieke rivalen die zich er niet aan zullen houden — China heeft volgens hem juist plannen om AI-ontwikkeling te versnellen.

Wat mij opvalt: het blijven tot nu toe vrijwillige toezeggingen zonder afdwingmechanisme. Dat is een belangrijk detail.

De andere kant: AI als kwetsbaarheidsjager

Terwijl de discussie over vertraging woedt, doen breed beschikbare AI-tools precies het tegenovergestelde van stilzitten. Ze worden ingezet om softwarefouten te vinden — en ze vinden er veel.

Volgens het Forum of Incident Response and Security Teams (FIRST) koerst 2026 af op zo'n 66.000 CVE's. Een CVE is een officieel geregistreerde kwetsbaarheid in software — vergelijk het met een terugroepactie voor auto's, maar dan voor code. Dat aantal is fors hoger dan begin dit jaar werd verwacht, en de stijging wordt grotendeels gedreven door AI-tools die automatisch op zoek gaan naar fouten.

Twee voorbeelden die opvallen:

• Anthropic's Mythos, onderdeel van Project Glasswing, jaagt op verouderde bugs in bestaande software. Mozilla meldde dat AI-analyse 271 bugs vond voor de Firefox 150-release.
• OpenAI's GPT-5.4-Cyber versnelt het opsporen van kwetsbaarheden en het genereren van exploits — de code waarmee je een lek daadwerkelijk kunt misbruiken.

Meer meldingen, niet per se meer paniek

Een belangrijke nuance: meer ontdekte kwetsbaarheden betekent niet automatisch meer actief misbruik. Volgens Help Net Security blijft het aantal kritieke kwetsbaarheden dat daadwerkelijk in het wild wordt uitgebuit relatief stabiel. De uitdaging verschuift naar filteren: welke van die 66.000 meldingen zijn écht urgent voor jouw situatie?

Ik vind dat een relevante kanttekening. Het is niet zo dat de digitale wereld ineens onveiliger is geworden. Het is meer alsof je een beter vergrootglas hebt gekregen — je ziet nu wat er altijd al was.

Wat betekent dit voor Nederlandse ondernemers?

Hier wordt het concreet. ABN AMRO publiceerde dit jaar een rapport waaruit blijkt dat 78 procent van de Nederlandse bedrijven met een omzet tot 25 miljoen euro AI in enige mate gebruikt, maar dat slechts 9 procent formeel beleid heeft voor het gebruik van externe AI-oplossingen. Bij grote bedrijven is dat 32 procent.

Ondertussen investeert het Nederlandse MKB gemiddeld €23.210 per jaar in cyberweerbaarheid — het laagste van tien onderzochte landen. Internationaal ligt dat gemiddelde op circa €44.700. Eén op de zeven Nederlandse MKB-bedrijven investeert momenteel helemaal niets.

Kun je je voorstellen wat het betekent als het aantal ontdekte kwetsbaarheden richting 66.000 per jaar gaat, en je geen proces hebt om je software up-to-date te houden? Die kwetsbaarheden zitten niet alleen in grote systemen. Ze zitten in de webshopsoftware, het CRM-systeem, de boekhoudsoftware, de WordPress-plugin die je twee jaar geleden installeerde en sindsdien niet meer hebt aangeraakt.

Twee dingen om over na te denken

Ik denk dat het voor ondernemers nu op twee fronten tegelijk beweegt:

1. Meer patches, vaker. Als AI-tools sneller lekken vinden, worden softwareleveranciers gedwongen sneller updates uit te brengen. Dat betekent dat jij (of je IT-partner) vaker moet updaten. Heb je daar een werkwijze voor?
2. AI-beleid is niet optioneel. Als bijna acht op de tien MKB-bedrijven AI gebruiken maar minder dan één op de tien er beleid voor heeft, is er een gat tussen gebruik en beheersing. Dat gat is een risico.

De paradox in dit verhaal

Wat ik het meest boeiend vind aan dit verhaal is de spanning. Dezelfde technologie die labs willen vertragen, wordt tegelijkertijd ingezet om de digitale wereld veiliger te maken. AI vindt lekken die menselijke beveiligingsonderzoekers over het hoofd zien of simpelweg niet snel genoeg kunnen vinden.

Dat is geen argument vóór of tegen vertraging. Het is een observatie: de geest is al uit de fles. Of AI-labs nu afspraken maken of niet, de tools die bugs vinden zijn al breed beschikbaar. De vraag is niet meer of AI invloed heeft op cybersecurity, maar hoe je als ondernemer omgaat met de gevolgen.

Wat mij betreft is de kernvraag voor ondernemers niet of Dario Amodei gelijk heeft, of Mark Zuckerberg. De kernvraag is praktischer: is mijn software bijgewerkt, weet ik welke AI-tools mijn medewerkers gebruiken, en heb ik iemand die dit in de gaten houdt?

Tot slot

Voor mij is dit vooral een signaal dat twee werelden die lang gescheiden leken — de AI-race en cybersecurity — nu door elkaar lopen. Als ondernemer hoef je geen mening te hebben over geopolitieke AI-afspraken. Maar weten dat het aantal ontdekte softwarelekken fors stijgt, en dat jouw leveranciers daar direct mee te maken krijgen — dat is iets om dit kwartaal nog eens te bespreken met je IT-verantwoordelijke.