Een rechtbank in Amsterdam heeft het gebruik in Nederland van X-chatbox Grok AI verboden om vrouwen en kinderen zonder hun toestemming digitaal te strippen en de beelden via het platform te verspreiden.
Online misbruikexpertisecentrum Offlimits spande vorige maand de zaak aan tegen X en Grok. Volgens het American Center for Countering Digital Hate heeft de tool in de eerste elf dagen na de lancering begin dit jaar drie miljoen geseksualiseerde afbeeldingen van mensen gegenereerd, waaronder 23.000 kinderen.
XAI, het bedrijf achter Grok en eigendom van Elon Musk, had eerder beweerd maatregelen te hebben genomen om de zogenaamde ‘nudifier’-functie te regeren, maar de rechter concludeerde dat deze onvoldoende waren. Offlimits kon kort voordat het proces begon een video maken met mensen die digitaal naakt werden weergegeven.
Het Nederlandse verbod heeft alleen betrekking op afbeeldingen van mensen die in Nederland wonen en daar zijn verspreid.
Grok zal voor elke overtreding een boete van 100.000 euro moeten betalen, met een maximum van 10 miljoen euro, aldus de rechtbank. Ook oordeelde de rechter dat zolang de stripfunctie blijft bestaan, Grok geen deel meer kan uitmaken van X – al is onduidelijk hoe dit in de praktijk zal werken.
XAI heeft te horen gekregen dat het nu aan de rechtbank moet uitleggen hoe het de uitspraak wil implementeren.
Het vonnis, aldus Offlimits-directeur Robbert Hoving, is “baanbrekend”. “Grok kan op geen enkele manier controleren of er een Nederlander op een foto voorkomt. Dit verbod kan dus gemakkelijk mondiale gevolgen hebben”, zegt hij tegen RTL.
Donderdag heeft het Europese parlement overeenstemming bereikt over maatregelen om alle nudifier-apps te verbieden. De verwachting is dat de wetgeving nog vóór de zomer in alle lidstaten van kracht zal worden.
Bedankt voor uw donatie aan DutchNews.nl.
We zouden de Nederlandse Nieuwsdienst niet kunnen aanbieden en gratis kunnen houden zonder de genereuze steun van onze lezers. Met uw donaties kunnen wij verslag doen van zaken die volgens u belangrijk zijn en u dagelijks een samenvatting geven van het belangrijkste Nederlandse nieuws.
Doe een donatie
