Patronen die AI-camera's misleiden: wat betekent dat voor beveiliging?

TL;DR

• Wat: Een beveiligingsonderzoeker heeft een algoritme ontwikkeld dat visuele patronen genereert waarmee personen en voertuigen onzichtbaar worden voor AI-bewakingscamera's.
• Waarom relevant: Als je als ondernemer investeert in slimme camerabewaking, wil je weten hoe kwetsbaar die technologie eigenlijk is.
• Wat je ermee kunt: Vraag je cameraleverancier hoe het systeem omgaat met zogenoemde adversarial attacks — en vertrouw niet blindelings op één detectiemethode.

Ik viel over een bericht dat TechCrunch deelde: een beveiligingsonderzoeker heeft een algoritme gemaakt dat computerpatronen genereert die mensen, gezichten én voertuigen kunnen verbergen voor bewakingscamera's. Dat klinkt als science fiction, maar het is gebaseerd op een bestaande en groeiende tak van onderzoek. En het raakt direct aan iets waar steeds meer ondernemers mee te maken hebben: AI-gestuurde beveiliging.

Wat is hier precies aan de hand?

Het principe heet adversarial machine learning. Dat is een techniek waarbij je visuele patronen maakt — denk aan een soort abstracte, kleurrijke afbeeldingen — die ervoor zorgen dat een AI-systeem in de war raakt. De camera zelf filmt je gewoon, maar de software erachter herkent je niet meer als mens of voertuig.

Stel het je zo voor: je hebt een systeem dat getraind is om te herkennen wat een persoon is en wat een lantaarnpaal is. Deze patronen zorgen ervoor dat het systeem denkt dat een persoon een willekeurig object is, of helemaal niets ziet. Het beeld is er nog steeds, maar de automatische detectie faalt.

Dit is niet helemaal nieuw. Al in 2019 publiceerden onderzoekers Simen Thys, Wiebe Van Ranst en Toon Goedemé van de KU Leuven een paper waarin ze lieten zien dat je met geprinte patronen op kleding een AI-persoondetector kon misleiden. En al in 2010 startte onderzoeker Adam Harvey het CV Dazzle-project, waarbij opvallende make-uppatronen gezichtsherkenning konden verstoren. Wat mij hier opvalt, is dat deze lijn van onderzoek nu steeds verder opschuift: van gezichten naar volledige personen, en nu ook naar voertuigen.

Van laboratorium naar kledingwinkel

Wat ik bijzonder vind, is dat dit soort onderzoek niet meer alleen in academische papers blijft hangen. Het Italiaanse modelabel Cap_able maakt inmiddels kleding met ingebreide patronen die speciaal ontworpen zijn om AI-detectiesystemen te misleiden. Oprichter Rachele Didero presenteerde het concept in 2024 bij MIT. De kleding is dubbelzijdig: je kiest 's ochtends of je wel of niet detecteerbaar wilt zijn.

Cap_able richt zich specifiek op het YOLO-objectdetectiesysteem — een veelgebruikt AI-model voor camerabewaking. Volgens het bedrijf herkent het systeem de drager soms als een dier of een klein object in plaats van als persoon.

Ik denk dat dit een interessant signaal is. Het betekent dat de markt voor anti-surveillance producten groeit, van niche-onderzoek naar consumentenproducten. Dat heeft consequenties voor iedereen die afhankelijk is van dit soort detectie.

Wat betekent dit voor je camerasysteem?

Steeds meer Nederlandse bedrijven gebruiken AI-camerabewaking. Systemen die automatisch detecteren of er iemand op je terrein loopt, of een voertuig je parkeerplaats oprijdt. Dat is handig, en de technologie is de afgelopen jaren flink verbeterd.

Maar hier zit een kwetsbaarheid. Een patroon dat één specifiek AI-model misleidt, hoeft niet te werken bij een ander model of onder andere omstandigheden. Wisselend licht, een andere camerahoek, een software-update — het kan allemaal verschil maken. Dat is een beperking van de aanvalstechniek, maar tegelijk ook van het verdedigingssysteem. Want als je beveiligingssysteem op één enkel AI-model leunt, dan is het in principe kwetsbaar voor dit soort aanvallen.

Kun je je voorstellen wat dit betekent als je een bedrijfsterrein hebt met alleen automatische detectie en geen menselijke controle? Iemand met het juiste patroon op een jas of voertuig zou in theorie onopgemerkt kunnen blijven.

Wat kun je als ondernemer checken?

• Vraag je leverancier hoe het camerasysteem omgaat met adversarial attacks. Als ze niet weten waar je het over hebt, is dat op zich al informatief.
• Gebruik meerdere detectielagen. Combineer AI-detectie met bewegingssensoren, menselijke controle of andere technieken. Eén laag is kwetsbaar; meerdere lagen samen veel minder.
• Weet wat je koopt. Een camera die "AI-detectie" belooft, kan draaien op een model dat gevoelig is voor precies dit soort patronen. Specificaties vragen is geen overbodige luxe.

De andere kant: privacy en regelgeving

Er zit ook een andere kant aan dit verhaal, en die vind ik minstens zo interessant. In Nederland is het gebruik van gezichtsherkenning via camera's bijna altijd verboden onder de AVG — een gezichtsafbeelding is een biometrisch persoonsgegeven en valt onder het strengste regime. Zelfs een DPIA (Data Protection Impact Assessment) is in veel gevallen verplicht zodra je een parkeerterrein of bedrijventerrein filmt.

Privacy-onderzoekers en -voorvechters wijzen erop dat de groei van AI-surveillance een risico vormt: het ongecontroleerd verzamelen en indexeren van gezichten kan het dagelijks leven omvormen tot een doorzoekbaar biometrisch archief. Vanuit dat perspectief zijn deze adversarial patronen niet zozeer een bedreiging, maar eerder een tegenwicht.

Ik vind het eerlijk gezegd een lastig spanningsveld. Als ondernemer wil je dat je camerasysteem werkt. Maar als burger wil je ook niet dat elke camera in de openbare ruimte je automatisch identificeert. Deze technologie legt dat spanningsveld heel concreet bloot.

De wapenwedloop in beveiliging

Wat mij hier het meest treft, is het patroon dat erachter zit — en dan bedoel ik niet het patroon op de jas. Het is een klassieke wapenwedloop: betere detectie leidt tot betere ontwijking, wat weer leidt tot betere detectie. Dat zien we in cybersecurity al decennia, en nu speelt hetzelfde in de fysieke wereld van camerabewaking.

Voor een ondernemer is de les niet dat AI-camerabewaking waardeloos is. Dat zou overdreven zijn. De les is dat geen enkel beveiligingssysteem onfeilbaar is, en dat geldt ook voor de nieuwste AI-systemen. Het helpt om dat te weten, zodat je je verwachtingen kunt afstemmen en je beveiliging kunt inrichten met meerdere lagen.

Voor mij is dit vooral een herinnering dat technologie — hoe geavanceerd ook — altijd onderdeel is van een groter geheel. De camera is een hulpmiddel, geen eindoplossing. En wie dat begrijpt, maakt betere keuzes bij de beveiliging van het bedrijf.