Meta, OpenAI in vizier door nieuwe EU Kids Act

De Europese Commissie gaat de EU Kids Act voorstellen, een digitale veiligheidswet die de toegang tot sociale media voor kinderen onder de 13 jaar zou verbieden en ouderlijk toezicht verplicht zou stellen voor gebruikers van 13 tot 15 jaar. Het conceptvoorstel richt zich op platforms zoals sociale netwerken, videoplatforms, online games en AI-chatbots. Commissievoorzitter Ursula von der Leyen onthulde het plan gisteren officieel tijdens haar State of the European Union-toespraak.

Het voorstel komt er onder druk van EU-lidstaten, waaronder Frankrijk, Denemarken en Spanje, die nationale verboden op sociale media doorvoeren of overwegen. De wet volgt ook op de beslissing van Australië om sociale media te verbieden voor jongeren onder de 16 jaar, wat een wereldwijde trend naar strengere digitale bescherming van minderjarigen weerspiegelt.

Techgiganten als Meta, OpenAI en Anthropic krijgen te maken met aanzienlijke nalevingskosten onder de wet – en boetes tot 6% van hun omzet bij overtreding – met name voor AI-chatbots en functies op sociale media. De toezichtsvergoeding en mogelijke boetes zouden platforms ertoe kunnen dwingen hun diensten voor minderjarigen anders in te richten, waarbij velen naar verwachting hun leeftijdscontrolesystemen en contentmoderatie zullen herzien.

Leeftijdsgebonden toegangsniveaus en beperkingen

De EU Kids Act introduceert een gefaseerde aanpak van digitale toegang, de zogenoemde 'digitale leeftijdsladder.' Kinderen onder de 3 jaar krijgen helemaal geen toegang tot risicovolle diensten. Voor kinderen van 3 tot 13 jaar is toegang beperkt tot zorgvuldig samengestelde, kindvriendelijke diensten onder volledig ouderlijk toezicht. Gebruikers van 13 tot 14 jaar mogen 'introductie-accounts' openen op mainstream platforms, maar alleen met uitdrukkelijke toestemming van de ouders, dagelijkse schermtijdlimieten en beperkte functies, zoals beperkt contact met vreemden.

Minderjarigen van 15 jaar en ouder krijgen toegang tot 'veilig-ontworpen' versies van sociale media, videoplatforms, games en AI-chatbotdiensten, zonder ouderlijk toezicht. Het kader sluit uitdrukkelijk educatieve tools, openbare diensten en AI-systemen voor kantoor- of industrieel gebruik uit.

Veiligheid door ontwerp en verbod op verslavende functies

Platforms moeten standaarden voor veiligheid door ontwerp toepassen om schade aan minderjarigen te minimaliseren. Dit houdt onder meer een verbod in op oneindig scrollen, automatisch afspelende video's, pushmeldingen die aanzetten tot gebruik, en op beloning gerichte mechanismen zoals 'streaks' of 'likes'. Aanbevelingssystemen mogen gebruikers niet in 'konijnenholen' laten belanden en moeten voorrang geven aan niet-gepersonaliseerde content om algoritmische versterking van schadelijk materiaal te voorkomen.

Accounts van kinderen moeten standaard privé staan, en onbekende gebruikers mogen geen contact opnemen met minderjarigen. De wet verplicht platforms ook om risicovolle instellingen standaard uit te schakelen en leeftijdsgeschikte ouderlijke controletools aan te bieden. Deze maatregelen bouwen voort op de aanbevelingen van het EU-expertpanel, dat aandrong op het verleggen van de bewijslast naar techbedrijven om naleving aan te tonen.

Verplichte leeftijdsverificatie

De wet verplicht leeftijdsverificatie bij het aanmaken van een account voor sociale media en videoplatforms, en vóór het downloaden van games. De EU is van plan een officiële opensource-app voor leeftijdsverificatie in te zetten die gebruikmaakt van zero-knowledge cryptografische bewijzen, waarmee gebruikers hun leeftijd kunnen bevestigen zonder hun identiteit of exacte geboortedatum prijs te geven.

Juridisch experts waarschuwen echter voor omzeilingsrisico's, zoals tieners die inloggegevens van broers of zussen gebruiken. Platforms die onder de Digital Services Act als 'zeer grote onlineplatforms' zijn geclassificeerd, moeten nalevingsplannen indienen ter goedkeuring door de Commissie, 30 dagen voordat ze nieuwe functies lanceren die kinderen raken. Niet-naleving kan boetes opleveren tot 6% van de wereldwijde jaaromzet, met een toezichtsvergoeding van maximaal 0,03% van de wereldwijde omzet om handhaving te financieren.

Beperkingen voor AI-chatbots

De EU Kids Act breidt de regels voor kinderbescherming uitdrukkelijk uit naar AI-chatbots en -companions, die worden behandeld als risicovolle diensten naast sociale media en games. Platforms moeten ervoor zorgen dat AI-systemen geen ontwerpen bevatten die ongezonde emotionele gehechtheid of verslavend gedrag in de hand werken. De wet verplicht AI-chatbots dezelfde leeftijdsbeperkingen, veiligheid-door-ontwerp-principes en ouderlijke controlevereisten te volgen als andere onder de wet vallende diensten.

Dit is de eerste keer dat de EU consumenten-AI opneemt in een uniform kinderbeschermingskader, wat wijst op een bredere regelgevende verschuiving. Het voorstel sluit aan bij de AI Act en de Digital Services Act, waarmee een gelaagd handhavingskader ontstaat.

Een precedent scheppen

Het conceptvoorstel moet nog worden onderhandeld tussen het Europees Parlement en de Raad, en de definitieve vorm zal waarschijnlijk nog veranderen. Juridische en technische uitdagingen blijven bestaan, waaronder de haalbaarheid van leeftijdsverificatie en het risico op omzeiling. Het voorstel van de Commissie geeft vorm aan de ambitie van de EU om wereldwijd een precedent te scheppen op het gebied van digitale kinderbescherming, maar het succes ervan hangt af van het overwinnen van deze hindernissen.