Europese Commissie, Interpol en 100 andere organisaties vragen om verbod op AI-nudificatie tools

Europese Commissie, Interpol en meer dan 100 anderen roepen op tot verbod op AI-nudificatie-tools

Een aantal grote wereldorganisaties, waaronder Amnesty International en de Europese Commissie, heeft aangedrongen op een verbod op AI-nudificatie-tools.

Meer dan 100 belangrijke humanitaire en kinderbeschermingsorganisaties vragen om dringende actie tegen AI-nudificatie-apps en -tools. De coalitie omvat Amnesty International, de Europese Commissie, Interpol, Safe Online, Save the Children en andere experts op het gebied van kinderbescherming en mensenrechten.

Deze beweging komt na de terugslag tegen de Grok-nudificatie, waarbij gebruikers aan Elon Musk’s AI-chatbot Grok vroegen om kleding van digitale foto’s van vrouwen te verwijderen. Dit begon met de trend “zet haar in een bikini”, die foto’s veranderde om vrouwen in bikini’s te tonen, maar snel veranderde in steeds seksualer getinte afbeeldingen.

Deze niet-consensuele en nepproducties werden vervolgens openbaar gedeeld op het sociale mediaplatform X, waar miljoenen mensen ze konden bekijken. Tot nu toe wordt geschat dat Grok ongeveer drie miljoen niet-consensuele naaktfoto’s heeft gegenereerd.

In verschillende gevallen zijn foto’s die zijn gemaakt door AI-nudificatie-tools steeds vaker verbonden met afpersing, dwang en kinderporno, waarbij de meeste slachtoffers vrouwen en kinderen zijn.

Serieuze bedreiging voor de veiligheid van kinderen en menselijke waardigheid

De wereldwijde coalitie heeft benadrukt dat deze nudificatie-apps en -tools een significante en onaanvaardbare bedreiging vormen voor de veiligheid van kinderen en de menselijke waardigheid. “Nudificatie-tools hebben een ongekende bedreiging voor onze kinderen gecreëerd. AI – de technologie die het menselijke potentieel zou moeten uitbreiden, wordt tegen kinderen gebruikt,” zei Marija Manojlovic, hoofd van Safe Online, in een verklaring.

“We minimaliseren de schade door het ‘online’ te noemen, alsof het minder ernstig is dan wat er in de fysieke wereld gebeurt, maar het trauma is echt,” voegde ze eraan toe.

Ondanks dat ze vaak worden gepromoot als “volwassen” applicaties, worden ze steeds vaker gebruikt om illegale seksuele afbeeldingen van kinderen te genereren zonder enige vorm van toestemming, effectieve barrières of aansprakelijkheid.

“Techbedrijven hebben de mogelijkheid om nudificatie-inhoud van kinderen te detecteren en te blokkeren. De verspreiding van kinderporno is in elke jurisdictie illegaal en techplatforms moeten in lijn worden gebracht met andere creatie- en distributiekanalen,” zei Manojlovic.

“Het is eerlijk gezegd schokkend dat deze platforms worden gemonetariseerd en niet verplicht zijn om overtreders te melden, of samen te werken met industriepartners om betalingsstromen te stoppen – dit zijn beschermingsmiddelen die in de echte wereld worden gebruikt en moeten worden toegepast op online platforms.”

Er is steeds meer druk om AI-nudificatie technologieën te verbieden, waarbij voorstanders beweren dat ze geen goed doel dienen. Daarom dringt de coalitie aan op een blokkade van deze technologieën, waarbij ontwikkelaars en platforms verantwoordelijk worden gehouden.