Het Europees Parlement heeft opgeroepen tot een verbod op AI-apps die het mogelijk maken naakt of seksueel expliciet audiovisueel materiaal te creëren op basis van de foto van een echt persoon, zonder toestemming.
De leden van het Europees Parlement hebben donderdag vóór een voorstel van de Commissie gestemd om de toepassing van bepaalde regels voor kunstmatige intelligentie te vereenvoudigen en uit te stellen.
Het amendement volgt op de controverse rond Grok, de AI-assistent van X, die begin dit jaar de massaproductie en verspreiding van nep-naaktbeelden op basis van foto’s van echte mensen mogelijk maakte.
Een Nederlandse rechter heeft zojuist geoordeeld dat de app in Nederland uitgeschakeld moet worden. Het genereren van seksuele afbeeldingen van minderjarigen valt onder de Nederlandse wetgeving inzake online seksueel misbruik.
Het Center for Countering Digital Hate, een Brits-Amerikaanse non-profitorganisatie, schat dat er in minder dan twee weken drie miljoen geseksualiseerde afbeeldingen zijn gegenereerd, waaronder die van minderjarigen.
“Dit verbod op ‘nudifier-apps’ is een enorme overwinning voor de vrouwenrechten en de kinderbescherming”, zei Groen Europarlementariër Kim van Sparrentak na de stemming.
“Elke dag worden vrouwen in de hele EU het doelwit van diepnaakte AI-instrumenten die hen hun waardigheid ontnemen, hen online intimideren en hen kwetsbaar maken voor chantage en misbruik. We treden eindelijk op tegen de nachtmerrie van iedereen”, voegde ze eraan toe.
De leden van het Europees Parlement waren het ook eens over een voorstel van de Commissie om de EU-regels die AI-systemen classificeren op basis van risico te vereenvoudigen, van minimaal naar verboden, en om bepaalde regels voor systemen met een hoog risico uit te stellen, zodat er begeleiding wordt geboden en bedrijven klaar zijn om deze toe te passen.
EP-leden zeiden dat bedrijven vanaf 2 november 2026, in plaats van 2 februari 2027 zoals voorgesteld door de commissie, bedrijven door AI gemaakte audio-, beeld-, video- of tekstinhoud van een watermerk zullen moeten voorzien om de oorsprong ervan aan te geven.
Op 2 december 2027 zullen nieuwe regels van kracht worden voor AI-systemen met een hoog risico op het gebied van biometrie, kritieke infrastructuur, onderwijs, werkgelegenheid, essentiële diensten, wetshandhaving, justitie en grensbeheer.
Het rapport werd aangenomen met 569 stemmen voor, 45 tegen en 23 onthoudingen. Het parlement en de raad, die de EU-regeringen vertegenwoordigen, moeten nu overeenstemming bereiken over de definitieve tekst.
