Maak je gratis Charmloop-account aan — geen creditcard, onbeperkt rondkijken. Binnen enkele minuten maak je AI-kunst.
Een federale rechtszaak tegen xAI stelt dat een gebruiker van zijn Grok AI-model ongeveer 7.000 beelden van seksueel misbruik van kinderen van zijn stiefdochter heeft gegenereerd — en dat xAI slechts één enkele groepsverkrachtingsprompt heeft gemeld bij het National Center for Missing and Exploited Children terwijl het misbruik doorging.\n\n## Belangrijkste punten\n\n- Een rechtszaak stelt dat een Grok-gebruiker ongeveer 7.000 CSAM-afbeeldingen van zijn stiefdochter aanmaakte voordat hij zelfmoord pleegde, waarbij xAI ervan wordt beschuldigd slechts één prompt bij NCMEC te hebben gemeld.\n- Aanvullende jonge meisjes hebben afzonderlijke rechtszaken aangespannen tegen X over door Grok gegenereerde CSAM, aldus Ars Technica, dat als eerste over de aangiften berichtte.\n- De zaak draait om de vraag of AI-platforms wettelijke aansprakelijkheid dragen wanneer hun modellen worden gebruikt om op grote schaal CSAM te produceren, ondanks veiligheidssystemen.\n- xAI heeft de specifieke meldingscijfers die in de klacht worden beweerd niet publiekelijk bevestigd.\n- De rechtszaken signaleren toenemende juridische druk op AI-aanbieders om proactieve, alomvattende misbruikrapportage aan te tonen — niet louter naleving van de minimumdrempel.\n\n## Wat de klacht stelt over de veiligheidsrespons van Grok\n\nVolgens de rechtszaak, zoals gerapporteerd door Ars Technica, stuurde de gebruiker gedurende een langere periode honderden prompts voordat het misbruik escaleerde en hij zelfmoord pleegde. De klacht stelt dat de melding van xAI aan NCMEC — het federaal aangewezen meldpunt voor CSAM-tips — slechts één prompt betrof, waardoor het overgrote deel van de vermeende misbruikgeneratie ongemeld en ononderzocht bleef.\n\nFederale wetgeving op grond van de PROTECT Our Children Act verplicht elektronische dienstverleners om kennelijk CSAM te melden bij NCMEC zodra zij daarvan op de hoogte raken. De kernstelling van de rechtszaak is dat de bekendheid van xAI met de activiteit veel groter was dan zijn enkele melding doet vermoeden. xAI heeft de specifieke meldingscijfers in de klacht niet publiekelijk bevestigd noch ontkend, en de rechtszaak loopt nog.\n\nAfzonderlijke rechtszaken van aanvullende slachtoffers zijn ook ingediend tegen X — het platform dat Grok bezit en distribueert — waarbij eisers X beschuldigen van het beschermen van kinderpredatoren in plaats van samenwerking met wetshandhaving.\n\n## Het schaalprobeem dat AI-beeldtools niet hebben opgelost\n\nHet getal van 7.000 afbeeldingen is wat deze zaak juridisch en technisch significant maakt. Één slechte prompt is een veiligheidsincident; duizenden gegenereerde afbeeldingen gedurende een langdurige sessie vormen een patroon dat veiligheidsclassificatoren en meldpijplijnen in principe zouden moeten detecteren en markeren. De rechtszaak betoogt impliciet dat de veiligheidsarchitectuur van Grok op grote schaal heeft gefaald — niet alleen aan de marge.\n\nVoor AI-beeldgenererende platforms in het algemeen is die framing van belang. Toezichthouders en advocaten van eisers behandelen volume steeds vaker als bewijs van systemisch falen in plaats van geïsoleerd misbruik. Een model dat een voor de hand liggende prompt blokkeert maar iteratief, escalerender misbruik over duizenden generaties toestaat, is in deze juridische visie geen model met adequate veiligheidscontroles.\n\nDe zaak belicht ook een structurele lacune: NCMEC-meldverplichtingen gelden technisch gezien wanneer een aanbieder „op de hoogte" raakt van CSAM, maar wat bewustzijn inhoudt — een gemarkeerde prompt, een classificatorhit, een menselijke beoordeling — is niet uniform gedefinieerd op alle platforms. De Grok-rechtszaak kan die definitie in scherpere juridische contouren dwingen.\n\n## Druk op xAI komt terwijl Grok zijn beeldmogelijkheden uitbreidt\n\nHet moment is ongemakkelijk voor xAI. Grok heeft zijn beeldgeneratiefuncties agressief uitgebreid en xAI heeft het model gepositioneerd als een minder restrictief alternatief voor concurrenten. Die positionering — die gebruikers aantrok die andere modellen te gefilterd vonden — staat nu centraal in de aansprakelijkheidstheorie van de eisers. Het argument is in essentie dat verminderde beperkingen een permissieve omgeving creëerden die misbruik op een schaal mogelijk maakte die een conservatiever systeem zou hebben onderbroken.\n\nDat argument zal weerklank vinden buiten deze specifieke zaak. Elk AI-beeldplatform dat concurreert op creatieve vrijheid staat voor dezelfde onderliggende spanning: lossere inhoudsrichtlijnen trekken makers aan die flexibiliteit willen, maar verlagen ook de drempel voor misbruik. De Grok-rechtszaak is de scherpste test tot nu toe van waar rechtbanken die grens zullen trekken.\n\nMeer rechtszaken worden verwacht. Ars Technica meldde dat aanvullende slachtoffers al aangifte hebben gedaan, wat wijst op een gecoördineerde juridische strategie in plaats van één geïsoleerde klacht. Hoe xAI reageert — en of rechtbanken platforms aansprakelijk stellen voor CSAM gegenereerd door hun modellen — zal precedent scheppen dat het inhoudsbeleid in de gehele AI-beeldgeneratie-industrie jarenlang zal vormgeven.
