Kunstmatige intelligentie wordt steeds vaker gebruikt om realistische beelden en video’s te maken. Een zorgelijke toepassing is het maken van nep-pornografisch materiaal, ook wel deepfake-porno genoemd. Met deze technologie kan het gezicht van iemand digitaal worden geplaatst op expliciete beelden. Voor anderen lijkt het echt, terwijl de persoon zelf hier nooit toestemming voor heeft gegeven.

Steeds meer slachtoffers

Het aantal mensen dat slachtoffer wordt van digitaal gemanipuleerd beeldmateriaal groeit snel. Uit cijfers van expertisecentrum Offlimits blijkt dat het aantal meldingen in één jaar is gestegen van 9 naar 59. Deskundigen noemen deepfake-naaktbeelden een van de snelst toenemende vormen van online misbruik. Het materiaal wordt vaak razendsnel verspreid, waardoor het moeilijk te stoppen is.

Grote impact op slachtoffers

De gevolgen voor slachtoffers zijn ingrijpend. Veel mensen ervaren schaamte, stress en angst wanneer zij zonder toestemming in nepbeelden verschijnen. Vooral vrouwen worden getroffen. Onderzoeker Goudsmit Samaritter legt uit dat veel apps en websites die deepfake-porno maken, specifiek zijn ontwikkeld voor vrouwen. De onderliggende AI-systemen zijn vooral getraind met beelden van vrouwenlichamen, waardoor het bij mannen vaak niet of nauwelijks werkt. Dit verklaart waarom het grootste deel van de slachtoffers vrouw is.

Handhaving loopt vast

Hoewel er regels bestaan tegen misbruik, blijkt het in de praktijk lastig om deze goed toe te passen. Het grootste probleem is niet zozeer de wetgeving zelf, maar de handhaving ervan. Dat blijkt ook uit onderzoeken van het Wetenschappelijk Onderzoek- en Datacentrum (WODC). Door de enorme hoeveelheid gemanipuleerd materiaal die online verschijnt, wordt opsporing steeds moeilijker. Experts verwachten dat dit probleem zal toenemen, omdat deepfakes steeds beter en moeilijker te herkennen worden.

Kritisch kijken wordt steeds belangrijker

Omdat nepbeelden steeds overtuigender worden, is het belangrijk om niet alles te geloven wat je ziet. Onnatuurlijke bewegingen, vreemde details of een onduidelijke bron kunnen wijzen op gemanipuleerd beeldmateriaal. Bewust omgaan met online content helpt om verdere verspreiding van misleidende beelden te voorkomen.