VS en EU willen AI-chatbots voor kinderen aan banden leggen

TL;DR

• Wat: Zowel in de VS als de EU liggen wetsvoorstellen op tafel die AI-chatbots als ChatGPT, Character.ai en Snapchat My AI streng willen reguleren voor minderjarigen.
• Waarom relevant: Als je een product of dienst aanbiedt met een AI-chatbot, kunnen deze regels straks ook voor jou gelden — zeker als minderjarigen toegang hebben.
• Wat je ermee kunt: Inventariseer of jouw chatbot of AI-toepassing door minderjarigen gebruikt kan worden en bereid je voor op leeftijdsverificatie en ouderlijke toestemming.

Ik las een bericht van WIRED over nieuwe Amerikaanse wetgeving die AI-chatbots voor kinderen ingrijpend wil beperken. Dat trok mijn aandacht, want vrijwel tegelijkertijd kwam de Europese Commissie met een vergelijkbaar voorstel. Twee continenten, dezelfde conclusie: AI-chatbots en kinderen — dat moet anders.

Wat er op tafel ligt in de VS

In de Verenigde Staten zijn meerdere wetsvoorstellen in omloop die AI-chatbots voor minderjarigen willen reguleren. Het meest omvattende is de KIDS Act, die het Huis van Afgevaardigden al is gepasseerd. Dit pakket bundelt onder meer de SAFE BOTs Act, onderdelen van de Kids Online Safety Act en COPPA 2.0.

Concreet zou de wet onder meer het volgende vereisen:

• Chatbotaanbieders moeten aan minderjarige gebruikers duidelijk melden dat ze met een AI praten, niet met een mens.
• Bij gesprekken over zelfbeschadiging moet de chatbot automatisch doorverwijzen naar een crisishotline.
• Gerichte advertenties op basis van data van minderjarigen worden verboden.
• Modellen mogen niet getraind worden op persoonlijke gegevens van kinderen.

Daarnaast is er de GUARD Act van senatoren Hawley en Blumenthal, die leeftijdsverificatie verplicht wil stellen en minderjarigen wil blokkeren van zogeheten 'AI companion'-functies. En dan is er nog de CHATBOT Act van eind april 2026, die verplichte 'Family Accounts' voorstelt voor kinderen onder de 13, met standaard ingeschakelde veiligheidsinstellingen.

Ik vind het opvallend dat er niet één maar minstens drie parallelle wetsvoorstellen lopen. Dat zegt iets over de urgentie die Amerikaanse politici voelen — of in elk geval willen uitstralen.

Waarom juist deze drie platforms in beeld zijn

De namen die steeds terugkomen zijn ChatGPT, Character.ai en Snapchat My AI. Dat is niet toevallig.

Character.ai heeft te maken met meerdere rechtszaken van ouders. Het platform liet minderjarigen open gesprekken voeren met AI-personages, zonder noemenswaardige beperkingen. Het bedrijf heeft inmiddels aangekondigd dat het onder-18-gebruikers wil weren van 'open-ended' conversaties.

Snapchat's My AI kwam in het nieuws toen testers ontdekten dat de chatbot aan een vermeende 13-jarige advies gaf over het verbergen van alcohollucht en over seksueel getinte onderwerpen. Dat is precies het soort incident dat wetgevers nodig hebben om vaart te maken.

OpenAI heeft inmiddels een aangepaste versie van ChatGPT gelanceerd voor tieners van 13 tot 17 jaar, met strengere veiligheidsregels. Maar of dat voldoende is onder de nieuwe voorstellen, is de vraag.

Wat mij hier opvalt: de functies die deze chatbots populair maken — persoonlijkheid, emotionele betrokkenheid, het gevoel dat je met 'iemand' praat — zijn precies de functies die de wetgever problematisch vindt voor kinderen. Dat is een fundamenteel spanningsveld.

De EU doet hetzelfde, maar anders

Vrijwel gelijktijdig presenteerde de Europese Commissie de EU Kids Act. Dit voorstel gaat op sommige punten nog verder dan de Amerikaanse plannen:

• Kinderen onder de 13 krijgen geen toegang tot sociale media, AI-chatbots en online games.
• Voor 13- en 14-jarigen geldt een limiet van één uur per dag.
• AI-chatbots worden standaard uitgeschakeld voor minderjarigen.
• Chatbots mogen geen emotionele afhankelijkheid creëren.
• Platforms moeten leeftijd verifiëren bij het aanmaken van een account.

Het voorstel moet nog door het Europees Parlement en de lidstaten, dus het is nog geen wet. Maar de richting is duidelijk.

Voor Nederland komt dit bovenop bestaande regels: onder de AVG (de Europese privacywet) is ouderlijke toestemming al vereist voor kinderen onder de 16. De EU Kids Act zou daar een laag bovenop leggen, specifiek gericht op het ontwerp en de functionaliteit van platforms.

Wat betekent dit voor Nederlandse ondernemers?

Kun je je voorstellen dat je een webshop, leerplatform of klantenservice hebt met een AI-chatbot? Dan is dit relevant, ook als je geen techbedrijf bent.

Een paar scenario's om over na te denken:

Leeftijdsverificatie wordt een vereiste

Als de EU Kids Act doorgaat, moeten platforms leeftijd verifiëren. Brussel heeft lidstaten gevraagd om eind 2026 een privacyvriendelijk Europees leeftijdsverificatiesysteem beschikbaar te hebben. Stel dat je een chatbot op je website hebt die ook door minderjarigen gebruikt kan worden — dan moet je nadenken over hoe je dat gaat afvangen.

Emotioneel ontwerp onder de loep

De EU-regels richten zich expliciet op het voorkomen van 'emotionele afhankelijkheid'. Dat klinkt abstract, maar stel dat je een AI-assistent aanbiedt die bewust vriendelijk en persoonlijk communiceert — waar ligt dan de grens? Ik denk dat veel ondernemers hier nog niet over hebben nagedacht, simpelweg omdat het nog niet aan de orde was.

Dataverwerking van minderjarigen

Zowel de Amerikaanse als Europese voorstellen verbieden of beperken het trainen van AI-modellen op data van minderjarigen. Als je een chatbot gebruikt die leert van klantinteracties, en een deel van die klanten is onder de 18, dan heb je een probleem dat je nu al kunt zien aankomen.

Twee continenten, één trend

Wat ik interessant vind aan deze ontwikkeling is de gelijktijdigheid. De VS en de EU komen zelden tegelijk tot dezelfde conclusie over techregulering. Dat ze dat nu wel doen, zegt iets over hoe breed de consensus is dat AI-chatbots en minderjarigen een combinatie vormen die zonder regels niet goed gaat.

Tegelijkertijd is de uitvoering een open vraag. Leeftijdsverificatie klinkt logisch, maar is in de praktijk lastig zonder privacy te schenden. En de definitie van 'emotionele afhankelijkheid' bij een chatbot — hoe meet je dat? Ik zou zelf willen weten hoe de handhaving eruitziet voordat ik als ondernemer grote aanpassingen doe.

Voor mij is dit vooral een signaal om nu alvast te inventariseren: heeft jouw AI-toepassing een minderjarig publiek, en zo ja, welke functionaliteiten bied je aan? De wetgeving is nog in beweging, maar de richting staat vast. En als zowel Washington als Brussel dezelfde kant op beweegt, is de kans klein dat het bij voorstellen blijft.