Meta liet maandenlang honderden AI-misbruikadvertenties draaien

TL;DR

• Wat: Onderzoeksorganisatie Tech Transparency Project ontdekte dat Meta meer dan 350 advertenties met AI-gegenereerd kindermisbruikmateriaal goedkeurde en vertoonde, van november 2025 tot augustus 2026.
• Waarom relevant: Als je adverteert op Facebook of Instagram, draait jouw merk op hetzelfde platform dat dit soort advertenties negen maanden lang niet wist te stoppen.
• Wat je ermee kunt: Controleer je brand-safety-instellingen in Meta Ads Manager en volg de ontwikkelingen rond advertentiebeleid — verscherpte regels kunnen ook jouw campagnes raken.

Ik las vanochtend een bericht van WIRED dat me echt stil maakte. Niet vanwege de technologie erachter, maar vanwege de schaal en de duur: Meta heeft negen maanden lang honderden advertenties laten draaien die AI-gegenereerd kindermisbruikmateriaal bevatten. Ik schrijf hier normaal over AI-toepassingen voor ondernemers, maar dit raakt aan iets waar elke adverteerder op Meta mee te maken heeft: het platform waarop je investeert.

Wat er precies is gevonden

De Amerikaanse onderzoeksorganisatie Tech Transparency Project (TTP) ontdekte meer dan 350 videoadvertenties met AI-gegenereerd seksueel misbruikmateriaal van kinderen in Meta's eigen advertentiebibliotheek. Die advertenties draaiden op Facebook, Instagram, Messenger en Threads — van november 2025 tot augustus 2026.

Wat mij hier extra raakt: het ging niet alleen om volledig door AI gegenereerde beelden. Onderzoekers identificeerden vier echte minderjarigen wier foto's werden misbruikt. Twee Amerikaanse tienerinfluencers met openbare accounts, een kind dat als model op een stockfoto-site stond, en een minderjarig lid van een Europese koninklijke familie. Een officiële foto van dat kind werd omgezet in een video met expliciet misbruik.

De advertenties promootten ongeveer vijftig zogeheten "nudify"-apps — AI-tools die kleding van foto's verwijderen of expliciete beelden genereren op basis van een gewone foto. Veel van die apps bleken afkomstig van Chinese ontwikkelaars en waren beschikbaar in de appstores van Apple en Google.

De cijfers en het bereik

Volgens gegevens uit Meta's eigen Ad Library bereikten de advertenties meer dan 29.000 accounts in EU-landen en meer dan 7.000 in het Verenigd Koninkrijk. Over het bereik in de VS, Australië en India publiceert Meta geen gedetailleerde cijfers, maar TTP vermoedt dat het om duizenden extra accounts gaat.

Meta reageerde door te stellen dat het bedrijf "geen nudify-apps of enige vorm van kinderuitbuiting tolereert, of het nu echt of AI-gegenereerd is." Een woordvoerder zei dat de meeste advertenties minder dan 200 vertoningen hadden en dat Meta in totaal minder dan 5.000 dollar aan advertentie-inkomsten ontving.

Ik vind die reactie opvallend. Het minimumaantal vertoningen doet er weinig toe als het systeem negen maanden lang niet in staat was om dit soort content te detecteren. En er is een veelzeggend detail: toen onderzoekers één specifieke advertentie met een tiener meldden bij Meta, had die slechts vier Europese accounts bereikt. Toch duurde het dagen voordat Meta de advertentie verwijderde — tegen die tijd had die al meer dan 330 gebruikers bereikt.

Politieke reacties en onderzoeken

Meerdere Amerikaanse politici en toezichthouders hebben aangekondigd actie te ondernemen. De Amerikaanse senator Mark Warner stuurde Meta-CEO Mark Zuckerberg een brief waarin hij het "teleurstellend" noemde dat Meta dit soort advertenties blijft draaien. Volgens zijn kantoor is er nog geen reactie ontvangen.

De procureur-generaal van Michigan noemt de situatie "uiterst verontrustend" en onderzoekt de zaak. De procureur-generaal van Florida kondigde op X aan een onderzoek te starten. In Australië heeft de eSafety-toezichthouder Meta om informatie gevraagd op senior niveau.

Katie Paul, directeur van Tech Transparency Project, benadrukte dat Meta een van de financieel en technologisch best uitgeruste bedrijven ter wereld is. Haar punt: als er één organisatie is die dit zou moeten kunnen detecteren, is het Meta zelf.

Wat dit betekent als je adverteert op Meta

Je denkt misschien: dit gaat over criminele adverteerders, niet over mij. Dat klopt. Maar er zit een bredere les in voor iedereen die Meta als advertentieplatform gebruikt.

Ten eerste: brand safety. Jouw advertenties draaien op hetzelfde platform en soms in dezelfde feeds als dit soort content. Meta's advertentiesysteem bleek negen maanden lang niet in staat om expliciet kindermisbruikmateriaal te herkennen en te blokkeren. Kun je je voorstellen wat dat betekent voor het vertrouwen in hun bredere moderatiesystemen?

Ten tweede: dit past in een patroon. De Consumentenbond toonde eerder dit jaar al aan dat Meta nauwelijks optreedt tegen frauduleuze advertenties van nepwebshops. Van de 535 door de politie offline gehaalde nepwebshops adverteerden er 273 actief op Meta-platforms. Meta's eigen systeem grijpt pas in bij 95 procent zekerheid — bij twijfel mag de adverteerder doorgaan, tegen een hoger tarief. Dat levert Meta meer inkomsten op, maar het laat ook meer rommel door.

Mogelijke gevolgen voor adverteerders

Als toezichthouders in de VS, Australië en mogelijk Europa strengere eisen gaan stellen aan Meta's advertentiegoedkeuring, kan dat doorwerken naar alle adverteerders. Denk aan langere goedkeuringstijden, strengere verificatie-eisen, of beperktere targetingopties. Dat is niet per se slecht — maar het is goed om er rekening mee te houden als je campagnes plant.

Stel dat je als ondernemer een campagne draait die afbeeldingen van minderjarigen bevat — bijvoorbeeld voor een kinderkledingmerk of een sportclub. Het is denkbaar dat zulke advertenties strenger worden beoordeeld of tijdelijk worden geblokkeerd als Meta zijn systemen aanscherpt.

De AI-kant van het verhaal

Wat mij als AI-volger opvalt: de technologie achter deze advertenties is niet bijzonder geavanceerd. Nudify-apps bestaan al een paar jaar en gebruiken relatief standaard beeldgeneratiemodellen. Het probleem zit niet in een technologische doorbraak, maar in het feit dat een platform met de middelen van Meta dit niet kon detecteren.

Ik denk dat dit incident het debat over AI-regulering in Europa verder zal aanwakkeren. De AI Act is inmiddels in werking, en dit soort gevallen versterkt het argument dat platformen aansprakelijk moeten zijn voor AI-gegenereerde content die via hun systemen wordt verspreid — zeker wanneer ze daar advertentie-inkomsten uit halen.

Voor mij is dit vooral een ontnuchterend voorbeeld van hoe AI-tools die voor onschuldige doeleinden zijn ontworpen — of in ieder geval zo worden gepresenteerd — kunnen worden ingezet op manieren die je als ondernemer niet wilt associëren met je merk of je platform. Het feit dat Meta hier negen maanden voor nodig had, stemt niet gerust over de bredere betrouwbaarheid van hun advertentiesysteem.