Terroristische propaganda via AI-memes: wat is 'Slop Jihad'?

TL;DR

• Wat: Jonge aanhangers van ISIS en al-Qaida gebruiken generatieve AI om memes, cartoons en fan-edits te maken die extremistisch gedachtegoed verspreiden — een trend die 'Slop Jihad' wordt genoemd.
• Waarom relevant: Als ondernemer adverteer je op platforms waar dit soort content opduikt; je merknaam kan naast extremistische content verschijnen zonder dat je het doorhebt.
• Wat je ermee kunt: Controleer bij je marketingbureau of advertentieplatform welke brand-safety-instellingen actief zijn en of AI-gegenereerde content wordt gefilterd.

Ik stuitte op een artikel van WIRED over een rapport van het Institute for Strategic Dialogue (ISD) dat beschrijft hoe jonge sympathisanten van ISIS en al-Qaida generatieve AI-tools inzetten om propagandacontent te produceren. De onderzoekers noemen de trend 'Slop Jihad'. Wat mij deed stilstaan is niet zozeer de techniek — maar het feit dat deze content op platforms als TikTok terechtkomt, tussen de gewone video's.

Wat het ISD-rapport beschrijft

Het rapport, exclusief gedeeld met WIRED, documenteert hoe jonge aanhangers van terreurgroepen AI-tools gebruiken om fan-edits, cartoons en memes te maken. Geen professionele propagandavideo's zoals we die kennen van het 'oude' ISIS-mediakanaal, maar content die eruitziet als internethumor. Een concreet voorbeeld dat wordt genoemd: een SpongeBob SquarePants-parodie die een ISIS-executievideo nabootst, gedeeld op TikTok.

Adam Hadley, directeur van Tech Against Terrorism (een door de VN gesteunde organisatie), spreekt over "de groeiende omvang en diversiteit van materiaal." Zijn zorg: gestileerde AI-content maakt gewelddadig extremistisch materiaal toegankelijker voor jongere doelgroepen, terwijl het de herkenbaarheid van traditioneel terreurmateriaal vermindert. Gebruikers kunnen onbedoeld op verheerlijking van daders stuiten via entertainment-achtige formats — waarna het algoritme vergelijkbare, vaak explicietere propaganda aanbeveelt.

Ik vind dat een verontrustend mechanisme. Het is in feite een soort trechter: je begint bij een meme, en het algoritme duwt je richting steeds extremere content.

Waarom dit anders is dan eerdere propaganda

Terroristische organisaties produceren al jaren online propaganda. Wat hier nieuw is, is de combinatie van drie dingen: schaal, snelheid en camouflage.

De term 'slopaganda' — een samentrekking van 'slop' (brei, rommel) en 'propaganda' — werd in 2025 bedacht door Michał Klincewicz, computationeel cognitiewetenschapper aan de Universiteit van Tilburg. Hij beschrijft drie kenmerken die AI-propaganda onderscheiden van de klassieke variant: schaal (grote hoeveelheden content voor lage kosten), scope (gepersonaliseerde boodschappen voor specifieke doelgroepen) en snelheid (verspreid via sociale netwerken voordat moderatie kan ingrijpen).

Wat ik hier interessant vind: het gaat niet per se om deepfakes of overtuigende nepnieuwsartikelen. Het gaat om memes. Laagdrempelig, snel te maken, en precies het type content dat mensen delen zonder er lang over na te denken. Dat maakt het in mijn ogen lastiger te bestrijden dan een duidelijk herkenbare propagandavideo.

Uit onderzoek van The Conversation blijkt overigens dat ISIS en al-Qaida AI op verschillende manieren benaderen. ISIS behandelt AI als een direct inzetbaar gereedschap — snel, praktisch, gericht op zichtbaar effect. Al-Qaida is filosofischer en publiceert analyses over of AI "de aard van oorlog fundamenteel verandert." Beide groepen experimenteren met AI voor vertaling, beeldgeneratie en het maken van nieuwsuitzendingen met AI-gegenereerde presentatoren.

Wat betekent dit voor platforms — en voor jou als ondernemer?

Als je een webshop of MKB-bedrijf runt, denk je misschien: dit gaat mij niet aan, dit is een probleem voor TikTok en Meta. Dat klopt deels. Maar er zijn twee raakvlakken die ik wil benoemen.

Brand safety bij adverteren

Als je adverteert op sociale platforms — en dat doen veel MKB-ondernemers — dan bepalen algoritmes naast welke content jouw advertentie verschijnt. Als AI-gegenereerde extremistische memes eruitzien als reguliere internethumor, worden ze minder snel gefilterd. Dat betekent dat jouw bedrijfsadvertentie theoretisch naast dit soort content kan opduiken.

Ik zeg niet dat dit morgen bij jou gebeurt. Maar ik denk dat het verstandig is om bij je advertentieplatform of marketingbureau te vragen welke brand-safety-instellingen er actief zijn, en of die rekening houden met AI-gegenereerde content.

De DSA en je eigen platform

Als je een eigen platform beheert — een community, een forum, een marktplaats met gebruikersreviews — dan heb je onder de Digital Services Act (DSA) een verantwoordelijkheid om illegale content te modereren. De DSA vereist dat je transparant bent over welke moderatiesystemen je gebruikt, inclusief eventuele AI-tools. Als je na een melding niet tijdig handelt, kun je onder nationaal recht aansprakelijk worden gesteld.

Dit is geen theoretisch risico. De DSA is actief, de EU AI Act krijgt op 2 augustus 2026 aanvullende verplichtingen voor hoog-risicosystemen, en de combinatie van beide wetten raakt ook kleinere platforms.

De paradox van AI-moderatie

Wat ik eerlijk gezegd fascinerend vind aan dit verhaal, is de paradox. Dezelfde technologie die het probleem veroorzaakt — generatieve AI — wordt ook ingezet als oplossing. Platforms gebruiken AI om content te detecteren en te verwijderen. Maar als de propaganda zelf door AI is gemaakt en niet lijkt op traditioneel terreurmateriaal, wordt detectie moeilijker.

Stel dat je als ondernemer een AI-moderatietool inzet op je platform. Die tool is getraind op bekende patronen: vlaggen, logo's, bekende uitspraken. Maar een SpongeBob-meme met een verborgen gewelddadige boodschap? Dat past niet in het patroon. Het is een kat-en-muisspel, en de muis heeft net dezelfde technologie gekregen als de kat.

Reflectie

Voor mij is dit vooral een signaal dat de impact van generatieve AI breder is dan productiviteit en efficiëntie — de onderwerpen waar ik doorgaans over schrijf. AI verlaagt drempels, en dat geldt niet alleen voor ondernemers die sneller een nieuwsbrief willen schrijven. Het geldt ook voor mensen met slechte bedoelingen.

Dat betekent niet dat we AI moeten vrezen. Maar het betekent wel dat we als ondernemers bewust moeten zijn van de omgeving waarin we opereren. De platforms waarop we adverteren veranderen. De content die onze klanten tegenkomen verandert. En de regelgeving rondom onze eigen digitale omgevingen verandert mee. Dat vraagt, wat mij betreft, om aandacht — niet om paniek.