EU onderzoekt Grok AI van Musk om illegale content

De Europese Commissie heeft een formeel onderzoek ingesteld naar de Grok AI-chatbot van Elon Musk om na te gaan of deze illegale inhoud verspreidt binnen de EU, zoals gemanipuleerde seksueel getinte afbeeldingen van vrouwen en kinderen. De Commissie heeft vandaag de start van dit onderzoek aangekondigd.

Het onderzoek zal uitwijzen of het moederbedrijf van Grok, X (voorheen Twitter), de risico's die aan de functionaliteiten van Grok verbonden zijn, naar behoren heeft beoordeeld en beperkt. Henna Virkkunen, hoofd technologie van de EU, verklaarde: "Seksuele deepfakes van vrouwen en kinderen zijn een gewelddadige, onaanvaardbare vorm van vernedering. Met dit onderzoek zullen we vaststellen of X heeft voldaan aan zijn wettelijke verplichtingen uit hoofde van de wet inzake digitale diensten, of dat het de rechten van Europese burgers – waaronder die van vrouwen en kinderen – heeft behandeld als bijkomende schade van zijn dienstverlening."

Reikwijdte van het onderzoek tegen Grok

Het onderzoek van de EU zal zich richten op de vraag of X de systeemrisico's in verband met de functionaliteiten van Grok, waaronder de mogelijke verspreiding van illegale inhoud, zoals gemanipuleerde seksueel expliciete afbeeldingen en materiaal over seksueel misbruik van kinderen, zorgvuldig heeft beoordeeld en beperkt.

Het onderzoek zal ook nagaan of X zijn verplichtingen uit hoofde van de Digital Services Act (DSA) nakomt. De DSA verplicht grote technologiebedrijven zich te houden aan specifieke regels met betrekking tot privacy, transparantie en sociale veiligheid binnen de Europese Unie.

Om aan de DSA te voldoen, moet X een ad-hocrisicobeoordelingsrapport over de functionaliteiten van Grok opstellen en indienen, en de risico's in verband met zijn aanbevelingssystemen naar behoren beoordelen en beperken. Deze uitgebreide beoordeling heeft tot doel ervoor te zorgen dat X adequate maatregelen neemt om Europese burgers te beschermen tegen schadelijke inhoud die via zijn platform wordt gegenereerd en verspreid.

Dit onderzoek vormt een aanvulling op een eerder onderzoek dat op 18 december 2023 werd gestart en dat zich richtte op het meldings- en actiemechanisme van X, maatregelen ter beperking van illegale inhoud en de risico's die verbonden zijn aan zijn aanbevelingssystemen. Bovendien heeft de Commissie op 5 december 2025 X een boete van 120 miljoen euro opgelegd wegens misleidend ontwerp, onvoldoende transparantie in de reclame en onvoldoende toegang tot gegevens voor onderzoekers. Bedrijven die de EU-wet inzake digitale diensten overtreden, riskeren boetes tot 6 % van hun wereldwijde jaaromzet. De EU heeft ook aangegeven dat X met voorlopige maatregelen te maken kan krijgen als het geen betekenisvolle aanpassingen aan zijn dienstverlening doorvoert.

Reactie van X

Op 14 januari 2026 verklaarde X dat xAI, de ontwikkelaar van Grok, het bewerken van afbeeldingen voor gebruikers van Grok AI had beperkt en gebruikers in rechtsgebieden waar het illegaal is, had geblokkeerd voor het genereren van afbeeldingen van mensen in onthullende kleding. Deze maatregelen zouden zijn genomen naar aanleiding van bezorgdheid die was geuit nadat Grok seksueel getinte afbeeldingen van vrouwen en minderjarigen had geproduceerd. Het huidige onderzoek valt onder dit kader, dat ervoor zorgt dat grote technologiebedrijven zich houden aan regelgeving die is bedoeld om gebruikers te beschermen tegen schadelijke inhoud.

Het harde optreden van de EU tegen Big Tech, waarvan dit onderzoek een voorbeeld is, heeft geleid tot kritiek en zelfs dreigingen met Amerikaanse invoerheffingen, waardoor de regering van de voormalige Amerikaanse president Donald Trump mogelijk tegen zich in het harnas wordt gejaagd. De Britse mediaregulator Ofcom heeft eerder deze maand ook een eigen onderzoek ingesteld naar de vraag of X heeft voldaan aan zijn verplichtingen uit hoofde van de Britse Online Safety Act. Deze parallelle onderzoeken onderstrepen de groeiende wereldwijde bezorgdheid over de regulering van online-inhoud en de verantwoordelijkheid van sociale-mediaplatforms om hun gebruikers te beschermen.