Meer dan honderd organisaties wereldwijd hebben een manifest ondertekend waarin zij oproepen tot een verbod op apps die met behulp van AI naaktbeelden van mensen kunnen genereren. Vanuit Nederland hebben onder andere de gemeente Amsterdam en expertisebureau Offlimits zich aangesloten. De zogenoemde nudifying tools worden gezien als een ernstige bedreiging.

Grote risico’s en groeiend misbruik
Volgens de ondertekenaars worden deze technologieën steeds vaker ingezet voor intimidatie, chantage en seksuele uitbuiting. De beelden zijn nauwelijks nog van echt te onderscheiden en veroorzaken grote psychische schade bij slachtoffers. De risico’s werden recent extra zichtbaar toen socialemediaplatform X onder vuur kwam te liggen, nadat bleek dat chatbot Grok ook dergelijke nepnaaktbeelden kon maken.

Oproep tot wereldwijde wetgeving
Het manifest roept overheden op om binnen twee jaar wetgeving in te voeren die het gebruik, de handel en de verspreiding van deze toepassingen verbiedt. Daarnaast worden technologiebedrijven aangespoord om misbruik van hun systemen actief tegen te gaan en wordt het publiek gevraagd om alert te zijn en meldingen te doen.

Zorgen over grensoverschrijdend effect
Offlimits - bestuurder Robbert Hoving, die op 2 april deelneemt aan de AI-kennisbijeenkomst
AI in het veiligheidsdomein, benadrukt dat nationale wetgeving niet voldoende is. Hij stelt dat veel toepassingen in Nederland al verboden zijn, maar stopt de wetgeving bij de grens. Offlimits ziet het aantal meldingen bij de hulplijn snel stijgen: het afgelopen jaar ging het om een toename van 260 procent. Dat maakt internationale samenwerking, preventie en structurele voorlichting volgens Hoving onmisbaar.