Deepfake-modellen op Hugging Face: wat het onderzoek laat zien

TL;DR

• Wat: Onderzoekers ontdekten dat populaire beeldbewerkingsmodellen op Hugging Face eenvoudig te misbruiken zijn voor het maken van expliciete deepfakes — een analyse van duizenden modellen en prompts bevestigt dat.
• Waarom relevant: Vanaf 2 augustus 2026 geldt de AI-verordening en wordt je als bedrijf medeverantwoordelijk voor hoe je AI-gegenereerde beelden inzet en labelt.
• Wat je ermee kunt: Controleer of jouw organisatie AI-beeldtools gebruikt en of die voldoen aan de transparantieverplichtingen uit de AI-verordening.

Ik viel vandaag over een artikel van WIRED met de kop "Hugging Face Has a Deepfake Nudes Problem". Onderzoekers testten de populairste beeldbewerkingsmodellen op het platform en concludeerden dat het verrassend eenvoudig is om expliciete deepfakes te genereren. Wat mij hier triggerde is niet alleen het technische verhaal — het is vooral de timing, want over een paar dagen treedt de Europese AI-verordening in werking.

Wat de onderzoekers precies vonden

Het onderzoek, dat eerder verscheen onder de titel "Deepfakes on Demand", richtte zich op twee veelgebruikte modelfamilies: Stable Diffusion en Flux. De onderzoekers keken naar hoe deze modellen beschikbaar worden gesteld op twee grote open platforms: Civitai en Hugging Face.

De cijfers zijn stevig. Op Civitai troffen ze bijna 35.000 deepfake-modelvarianten aan met de tag "Celebrity", goed voor zo'n 15 miljoen downloads sinds november 2022. Op Hugging Face waren het er aanzienlijk minder — rond de 200 — maar het probleem is daar niet minder relevant.

Wat mij opvalt: 96% van deze modellen richt zich op vrouwen. Bij de honderd meest gedownloade modellen op Civitai waren er 97 gericht op identificeerbare vrouwen. Dat is geen technisch detail meer — dat is een patroon.

Een ander punt dat ik eerlijk gezegd nogal verontrustend vind: zo'n deepfake-model kun je maken met slechts 20 foto's, 24 GB aan grafisch geheugen en een kwartier tijd. Dat is minder moeite dan het opzetten van een eenvoudige webshop.

Hoe Hugging Face reageerde

Volgens de berichtgeving van zowel WIRED als Transformer News verwijderde Hugging Face een deel van de aangekaarte modellen nadat journalisten de URL's hadden doorgestuurd. Maar — en dit is belangrijk — niet alle modellen werden verwijderd. Meerdere bleven toegankelijk, waaronder volgens Transformer News een videomodel dat verwees naar een actrice toen zij 15 was.

Hugging Face positioneert zichzelf als een voorloper op het gebied van ethische AI. Het bedrijf heeft beleid dat seksuele content "zonder expliciete toestemming" verbiedt, evenals seksuele content met minderjarigen. Toch bleek dat beleid in de praktijk niet proactief te worden gehandhaafd. De communicatieafdeling gaf aan te werken aan het identificeren van content die het beleid schendt, en moedigde gebruikers aan om overtredingen te melden.

Ik denk dat hier een spanning zichtbaar wordt die we bij meer open platforms gaan zien: het verschil tussen beleid hebben en beleid handhaven. Voor een platform met duizenden modellen is dat geen eenvoudige opgave, maar het is wel de opgave die je op je neemt als je een open ecosysteem runt.

Wat de promptanalyse onthult

Naast de modellen zelf analyseerden de onderzoekers ook hoe mensen deze tools daadwerkelijk gebruiken. Uit een dataset van beeldbewerkingsprompts bleek dat een aanzienlijk deel gericht was op het genereren van seksueel expliciete beelden. Ongeveer 14,5% van de Celebrity-getagde modellen bevatte tags als "sexy", en bijna 9% was specifiek gericht op personen uit de entertainmentindustrie voor volwassenen.

Kun je je voorstellen wat dit betekent als je het combineert met de drempel van 20 foto's en een kwartier? De technologie is niet langer voorbehouden aan specialisten. Iedereen met een gemiddelde laptop en een beetje motivatie kan dit.

Wat dit voor Nederlandse ondernemers betekent

Je denkt misschien: dit gaat over deepfake-porno, dat heeft niets met mijn bedrijf te maken. Ik snap die reactie, maar ik zou toch even stilstaan bij twee dingen.

De AI-verordening treedt in werking

Vanaf 2 augustus 2026 — letterlijk over een paar dagen — is de Europese AI-verordening van toepassing. Daarin staat een specifieke definitie van deepfakes: "door AI gegenereerd of gemanipuleerd beeld-, audio- of videomateriaal dat een gelijkenis vertoont met bestaande personen." Wie een AI-systeem inzet dat zulke content genereert, is verplicht om kenbaar te maken dat het om kunstmatig gegenereerde of gemanipuleerde content gaat.

Stel dat je als ondernemer een marketingtool gebruikt die AI-beeldbewerking aanbiedt — denk aan het aanpassen van productfoto's, het genereren van modelfoto's, of het bewerken van gezichten voor campagnes. Dan val je mogelijk onder deze transparantieplicht. Niet omdat je kwade bedoelingen hebt, maar omdat de verordening breed is geformuleerd.

Portretrecht en aansprakelijkheid

In Nederland is er daarnaast een initiatiefvoorstel in de maak dat iedereen het recht geeft om het maken, gebruiken en verspreiden van deepfakes van hun stem of uiterlijk toe te staan of te verbieden. Dat is een soort naburig recht, vergelijkbaar met hoe muzikanten rechten hebben op hun uitvoeringen. Concreet: als jouw bedrijf AI-beelden gebruikt waarin herkenbare personen voorkomen, loop je een juridisch risico — ook als die beelden niet seksueel van aard zijn.

Wat mij betreft is de les hier niet dat je direct iets moet stoppen, maar dat je moet weten welke AI-beeldtools je organisatie gebruikt en wat die tools precies kunnen. Als je een tool inzet die op Hugging Face-modellen draait — en dat is bij meer tools het geval dan je zou denken — dan is het slim om te begrijpen wat de onderliggende technologie is.

De bredere vraag

Dit verhaal raakt aan een fundamenteel spanningsveld in de AI-wereld: open toegang versus verantwoordelijkheid. Open platforms zoals Hugging Face hebben enorm bijgedragen aan de democratisering van AI. Onderzoekers, ontwikkelaars en kleine bedrijven hebben er baat bij dat modellen vrij beschikbaar zijn. Maar diezelfde openheid maakt misbruik laagdrempelig.

De onderzoekers bevelen onder meer aan dat platforms proactief hun gebruiksvoorwaarden handhaven, bewijs van toestemming vereisen voordat persoonsgebonden modellen worden gehost, en dat regelgevers het maken van niet-consensuele deepfakes strafbaar stellen — niet alleen het verspreiden.

Voor mij is dit vooral een signaal dat de grens tussen "open AI-tools gebruiken" en "juridisch risico lopen" smaller wordt. Niet over vijf jaar, maar nu — deze week, als de AI-verordening ingaat.