Geloof niet alles wat je ziet

Man ontwerpt app die automatisch kleren van vrouwen wegshopt

Siem van Woerkom 998 0
Wanneer deepfakes te ver gaan: Nudeapp. Waar trekken we de lijn?

Nudeapp

Wat gebeurt er als de technieken van Deep learning en Deepfakes commercieel beschikbaar worden? Dan krijg je iets als Nudeapp. Een programmeur creëerde een applicatie die Deep Learning AI gebruikte om kleding te verwijderen van afbeeldingen van vrouwen, waardoor ze er realistisch naakt uitzagen. 

'Dit is absoluut angstaanjagend", aldus Katelyn Bowden, oprichter en CEO van wraakactie voor porno-activisme Badass. "Nu zou iedereen een slachtoffer van wraakporno kunnen worden, zonder ooit een naaktfoto te hebben genomen. Deze technologie zou niet beschikbaar moeten zijn voor het publiek.' (Quote: Motherboard, Vice). 

Deepfakes worden makkelijker

Om aan te tonen hoe makkelijk het is om een Deepfake te maken, had het team achter Corridor Crew (Youtube) enkele dagen geleden een video online gezet waarin ze het laten lijken alsof ze Tom Cruise in hun studio mogen verwelkomen. 

In werkelijkheid betrof het een look a like van de acteur die in te huren is voor een dag. Hierdoor waren de afmetingen, het haar, de lichaamshouding en spraak al vrijwel hetzelfde als de echte Tom Cruise en hoefde ze alleen nog maar het gezicht digitaal te bewerken en de computers een paar uur laten renderen. Presto! Een mooie nepvideo. 

Implicaties deepnudes

Mensen hebben uiteraard problemen met de app. 'Dit is een 'invasie van seksuele privacy', vertelde Danielle Citron, hoogleraar in de rechten aan de University of Maryland Carey School of Law, die recentelijk het Congres heeft ingelicht over de dreiging van deepfakes, tegen Motherboard, Vice.

'Ja, het is niet je eigenlijke vagina die in een foto wordt geshopt, maar ... anderen denken dat ze je naakt zien," zei ze. "Zoals een slachtoffer zei: het voelde alsof duizenden haar naakt zagen, ze voelde dat haar lichaam niet meer van haar was.'

Voor mensen die niet weten dat de foto niet echt is (zeker nu dat moeilijker en moeilijker te spotten is) kan het een echt horrorverhaal worden. Waar jonge mensen nu al vaak gepest of onder druk gezet worden door (gestolen) naaktselfies, wordt dit probleem natuurlijk vele malen erger wanneer het mogelijk word om deze simpelweg te maken uit niets. 

App opgeheven

Dat de app niet lang zou blijven bestaan hadden veel mensen al wel verwacht. Al is het niet om de redenen die je misschien zou verwachten. Dat de app gebruikt kan worden om celebrity's of mensen om je heen naakt te laten lijken is namelijk geen enkel probleem. Ook de naam Nudeapp mocht gebruikt worden en de bewerkingen van de app gaan niet tegen algemene richtlijnen in. Het probleem lag hem in de servers die volledig overrompeld waren en het verkeer van alle gebruikers niet meer aan konden.

Ook gaf de maker van de app aan dat het ook lastig was om alle kritiek elke dag aan te moeten horen. Tja..

afbeelding van Siem van Woerkom

Siem van Woerkom | Redacteur

Bekijk alle artikelen van Siem