Amsterdam roept op tot wereldwijd verbod op nudify-tools

In dit artikel:

Amsterdam en het expertisebureau Offlimits steunen een internationale oproep om zogenoemde nudify-tools te verbieden: AI-toepassingen die van gewone foto’s zonder toestemming realistisch ogende naaktbeelden maken. De technologie wordt volgens Offlimits steeds vaker ingezet voor seksuele chantage, online pesten en misbruik van minderjarigen, en daarom vragen meer dan honderd organisaties het kabinet en de Europese Unie om een expliciet verbod. Daarnaast roepen zij platforms, appstores en hostingdiensten op zulke toepassingen van hun diensten te weren. De actie sluit aan bij Safer Internet Day, waarop de online veiligheid van kinderen centraal staat.

Onderzoek wijst op zorgwekkende patronen: een tv-onderzoek onder meer dan zestig middelbare scholen laat zien dat 24 procent berichten van pesten met AI-gegenereerde naaktbeelden herkent; bij 10 procent gebeurt dat meer dan vijf keer per jaar. Ondanks dat het maken en verspreiden van deepfake-naaktbeelden in Nederland strafbaar is, zijn nudify-websites makkelijk te vinden en ontbreekt vaak elke leeftijdscontrole of toestemming.

Tot de ondertekenaars behoren onder meer de Nationaal Rapporteur Mensenhandel en Seksueel Geweld tegen Kinderen, INHOPE, Interpol en Child Helpline International. Wethouder Alexander Scholtes benadrukt: “wat legaal is maar aantoonbaar schade veroorzaakt, moeten we durven verbieden.”