Echte kinderfoto's gebruikt in nudify-app-advertenties op Meta

TL;DR

• Wat: Onderzoeksorganisatie Tech Transparency Project vond meer dan 300 advertenties op Facebook en Instagram die echte foto's van kinderen gebruikten in promotie voor AI-nudify-apps.
• Waarom relevant: Als je als ondernemer adverteert op Meta-platforms, draait jouw campagne in hetzelfde advertentie-ecosysteem — met mogelijke reputatie- en beleidsrisico's.
• Wat je ermee kunt: Controleer of je eigen advertenties niet naast dit type content verschijnen en verdiep je in de advertentietransparantie-eisen van de DSA.

Ik viel vandaag over een bericht van Ars Technica dat me eerlijk gezegd stil maakte. Echte foto's van jonge meisjes — van peuters tot tieners — zijn gebruikt in betaalde advertenties op Facebook en Instagram om zogenaamde "nudify-apps" te promoten. Dat zijn AI-tools die van gewone foto's naaktbeelden genereren. Ik schrijf hier niet graag over, maar ik denk dat het belangrijk is dat ondernemers die op deze platforms adverteren weten wat er in dat ecosysteem speelt.

Wat er precies is gevonden

De non-profitorganisatie Tech Transparency Project (TTP) publiceerde op 8 september 2026 een onderzoek naar advertenties op Meta's platforms. De bevindingen zijn alarmerend: meer dan 300 betaalde advertenties bevatten vermoedelijk materiaal van seksueel kindermisbruik, gegenereerd met AI-technologie. De foto's van de kinderen waren niet verzonnen — het waren echte foto's, afkomstig van sociale media en openbare websites, die vervolgens met AI werden gemanipuleerd.

De advertenties bereikten volgens het rapport gezamenlijk meer dan 29.000 mensen. Ongeveer 150 van die advertenties waren nog zichtbaar in Meta's eigen advertentiebibliotheek toen TTP het onderzoek deelde. Eén specifiek geval betrof een officieel vrijgegeven foto van een minderjarig lid van een Europees koninklijk huis, die was omgezet in expliciet materiaal en gericht werd getoond aan volwassen mannelijke gebruikers.

Ik vind het bijzonder verontrustend dat dit niet gaat om obscure hoekjes van het internet, maar om betaalde, goedgekeurde advertenties op platforms waar miljoenen Nederlandse ondernemers dagelijks hun eigen campagnes draaien.

De rol van GatherOne en Meta's advertentieketen

Het TTP-onderzoek wijst naar het Chinese bedrijf GatherOne (officieel Beijing Juzhi Chuangxiang Technology) als een centrale schakel. GatherOne is — of was — een geautoriseerde advertentie-reseller van Meta. Dat betekent dat het bedrijf namens adverteerders campagnes mag plaatsen op Facebook en Instagram.

De cijfers die TTP rapporteert over GatherOne zijn fors:

• 210 Facebook-pagina's gekoppeld aan het bedrijf
• Circa 30.800 advertenties voor face-swap- en AI-apps
• Meer dan 7.600 advertenties specifiek voor nudify-apps
• 160 pagina's die advertenties toonden met expliciet seksueel beeldmateriaal
• 85% van die pagina's had advertenties die later door Meta werden verwijderd wegens beleidsschendingen

Wat mij hier opvalt: Meta heeft GatherOne niet direct geblokkeerd na de eerste signalen. Het bedrijf bleef actief als reseller. China vertegenwoordigt naar schatting 18,35 miljard dollar aan Meta's jaaromzet in 2024. Ik wil daar geen directe conclusie aan verbinden, maar het roept vragen op over hoe financiële belangen en handhaving zich tot elkaar verhouden.

Meta's reactie

Meta verklaart een "zero tolerance"-beleid te hanteren voor nudify-apps en elke vorm van kinderuitbuiting, "of het nu echt of AI-gegenereerd is". Na het delen van de TTP-bevindingen verwijderde Meta ongeveer 150 nog actieve advertenties en herclassificeerde meer dan 100 eerder verwijderde advertenties als schendingen van het kinderuitbuitingsbeleid — in plaats van het mildere "volwassen content"-label dat ze eerder hadden gekregen.

Dat laatste punt vind ik veelzeggend. Het suggereert dat Meta's eigen detectiesystemen dit type materiaal niet correct categoriseerden. TTP stelt dan ook dat Meta mogelijk het aantal gevallen van seksuele uitbuiting van kinderen ondertelt, vooral wanneer het AI-gegenereerd of gemanipuleerd beeldmateriaal betreft.

Wat dit betekent voor het advertentie-ecosysteem

Kun je je voorstellen dat jouw bedrijfsadvertentie in dezelfde advertentieruimte draait als dit soort materiaal? Dat is geen theoretisch scenario. Meta's advertentieplatform werkt als een gedeeld ecosysteem: jouw campagne wordt geserveerd door dezelfde infrastructuur die deze advertenties heeft goedgekeurd.

Voor ondernemers die adverteren op Facebook en Instagram zijn er een paar concrete punten om over na te denken:

• Brand safety: De meeste MKB-ondernemers besteden weinig aandacht aan waar hun advertenties naast verschijnen. Dit soort incidenten laat zien dat het platform zelf niet altijd voldoende filtert.
• Advertentietransparantie onder de DSA: De Europese Digital Services Act verplicht grote platforms om een openbare advertentiebibliotheek bij te houden. Dat betekent dat iedereen kan zien welke advertenties draaien, door wie betaald, en op wie gericht. Meta moet hieraan voldoen. Als ondernemer kun je die bibliotheek ook gebruiken om te checken wat er in jouw markt gebeurt.
• Vertrouwen van je klanten: Als jouw doelgroep — terecht — geschokt is over dit nieuws en vervolgens minder tijd op Meta-platforms doorbrengt, heeft dat direct invloed op het bereik van jouw campagnes.

De bredere juridische context

Er beweegt het nodige op wetgevingsgebied. In de VS is in mei 2025 de TAKE IT DOWN Act aangenomen, die platforms verplicht om niet-consensueel intiem beeldmateriaal binnen 48 uur te verwijderen. In Europa biedt de DSA al een kader, en de AI-verordening classificeert het genereren van niet-consensuele expliciete deepfakes als een verboden AI-praktijk.

In Nederland is er vooralsnog geen specifieke wetgeving tegen deepfakes, zo bleek eerder uit berichtgeving van Netkwesties. Wel vallen dergelijke zaken onder bestaande strafbaarstellingen rond kinderpornografie en niet-consensueel beeldmateriaal. De Tweede Kamer heeft in het vergaderjaar 2025-2026 aandacht besteed aan de juridische lacunes rondom deepfakes.

Voor ondernemers is het relevant om te weten dat de DSA niet alleen geldt voor de allergrootste platforms. Ook Nederlandse diensten als Marktplaats en Bol.com moeten aan bepaalde verplichtingen voldoen. De regelgeving wordt breder, niet smaller.

Een ongemakkelijke realiteit

Ik denk dat dit verhaal iets blootlegt waar we als ondernemers liever niet bij stilstaan. De platforms waar we dagelijks ons marketingbudget aan besteden, hebben moeite om de basisveiligheid van hun advertentie-ecosysteem te waarborgen. Niet in een obscuur hoekje, maar in het kernproduct: betaalde advertenties.

Dat Meta pas na extern onderzoek advertenties correct herclassificeerde als kinderuitbuitingsmateriaal — en niet uit eigen detectie — is wat mij betreft het meest verontrustende detail uit dit hele rapport. Het gaat niet alleen om het bestaan van kwaadwillende adverteerders; die zullen er altijd zijn. Het gaat om de vraag of de systemen die advertenties goedkeuren robuust genoeg zijn.

Voor mij is dit vooral een signaal dat blind vertrouwen op platformveiligheid geen optie meer is — niet als consument, en niet als adverteerder.