In Zuid-Korea zijn foto’s van duizenden vrouwelijke studenten en scholieren gebruikt om nep-porno mee te maken op de app Telegram, gegenereerd door AI. Door de grote schaal waarop dit gebeurde, spreken media van een ‘deepfake pornocrisis’.
“Je foto’s en persoonlijke informatie zijn gelekt.” Dat was het bericht dat de Zuid-Koreaanse studente Heejin afgelopen weekend ontving op Telegram, vertelt ze aan de BBC. Er volgde een foto van haar eigen gezicht. En toen, diezelfde foto van haar gezicht, maar op een neplichaam geplakt dat een seksuele handeling uitvoerde.
De berichten met deepfakes — foto’s die gemaakt worden door AI en daarbij afbeeldingen van een echt persoon combineren met neppe (soms seksuele) aspecten — bleven binnenkomen bij Heejin.
En bij vele andere studentes, zo ontdekte de Zuid-Koreaanse krant Hankyoreh in augustus. Journaliste Ko Narin vond tientallen groepschats op Telegram waar normale foto’s in werden gedeeld van meisjes en vrouwen, met de opdracht aan een AI-tool om daar seksuele deepfakes van te maken. Voor meerdere universiteiten en scholen bleken deepfakepornonetwerken te bestaan.
De slachtoffers waren studentes, maar ook middelbare scholieren en veel meisjes onder de 16.
In totaal werden door de Zuid-Koreaanse journaliste en andere online activisten meer dan 500 scholen en universiteiten geïdentificeerd waarop leerlingen slachtoffer waren geworden van deze deepfake-porno.
