Deepfake-video’s op TikTok kunnen leuk zijn. Ze kunnen ook kwaadaardig zijn.

0
12


Facebook, Twitter, YouTube en TikTok hebben deepfakes verboden, dit zijn realistische maar verzonnen of gemanipuleerde voorstellingen, vaak van publieke figuren. Toch ging een TikTok-video waarin een nep Tom Cruise een serenade brengt aan het echte Paris Hilton viraal. Die video is een van de tientallen van het account @DeepTomCruise.

Het account heeft bijna 4 miljoen volgers verzameld met zijn digitale simulaties van de beroemde acteur die op een iets te intense manier zingt, golft en natuurlijk lacht.

Meghan McCarty Carino van Marketplace spreekt met Anjana Susarla, hoogleraar verantwoordelijke kunstmatige intelligentie aan het Broad College of Business van de Michigan State University. Ze zei dat we het algoritme van TikTok kunnen bedanken voor het levend houden van deepfakes. Het volgende is een bewerkte transcriptie van hun gesprek.

Anjana Susarla: Omdat we allemaal dol zijn op content van beroemdheden zoals deepfake Tom Cruise en deepfake Keanu Reeves en dat soort dingen. En ik denk dat er enige speelruimte is als een persoon een video plaatst die Tom Cruise is gewijzigd, maar het is duidelijk voor satire, dan heeft de maker misschien wat speelruimte. Maar dan is de vraag, wat als mensen dit met kwade bedoelingen gebruiken?

Meghan McCarty Carino: Zijn algoritmen of de andere manieren waarop platforms hun verbod op deepfakes afdwingen – kunnen ze een onderscheid maken tussen verschillende soorten inhoud: komedie versus wat zijn enkele van de zeer voor de hand liggende kwaadaardige toepassingen van deepfake?

Susanna: Nee, ik zou zeggen dat je eigenlijk veel menselijke intelligentie nodig hebt. Heeft TikTok geïnvesteerd in deze mechanismen waar er naast algoritmen ook mensen zijn die al deze nieuwsfeeds beheren die de gebruikers zien? We hebben geen antwoorden. Ze hebben niet genoeg beleid voor het modereren van inhoud ingevoerd, of ze zijn in ieder geval niet transparant geweest. Dus wij als gebruikers hebben heel weinig idee wat ze aan het doen zijn.

McCarty Carino: En hoe zit het wanneer deepfakes worden gebruikt, misschien zelfs op komische manieren, maar gebruikt in commerciële advertenties, zoals we zien toenemen?

Susanna: Ja. En dat is ook een gevaar, want wat als de rivalen deepfakes van hun concurrenten kunnen gebruiken? Wat is het standpunt dat de rechtbanken zullen innemen bij de handhaving van deze bepalingen? Volgens mij zijn dat allemaal open vragen.

McCarty Carino: Denk je dat we de juridische instrumenten hebben die we op dit moment nodig hebben om een ​​deel van de schade te beperken die dit alles zou kunnen veroorzaken?

Susanna: Dus laten we dit voorbeeld van wraakporno nemen. Het wordt nog steeds niet goed genoeg begrepen. Dus deepfakes, in combinatie met dat soort dingen, zouden heel, heel, heel schadelijk zijn. En ik denk dat de juridische infrastructuur misschien niet echt – we zijn ons niet echt genoeg bewust geweest van al die schade die zich kan verspreiden.

The Wall Street Journal berichtte onlangs over de golf van advertenties met deepfakes, waaronder het verschijnen van een nep-Bruce Willis die een bom onschadelijk maakt in een Russische telefoonreclame en een zeer nep-Elon Musk die uitleg geeft over een startup in onroerend goed in de stijl van Margot Robbie in de bubbelbadscène uit ‘The Big Short’. Eerlijk gezegd is het net zo raar en griezelig als het klinkt.

Zoals het artikel uitlegt, hebben publieke figuren een vrij duidelijke juridische zaak als het gaat om ongeoorloofd gebruik van hun beeltenis, maar het enorme gemak waarmee deze inhoud kan worden gegenereerd, zou kunnen leiden tot wat een expert beschreef als de dood door duizend sneden. Rechtszaken zullen gewoon niet in staat zijn om elke instantie van een deepfake-advertentie bij te houden.

Susarla uitte haar bezorgdheid over hoe deepfakes ook zouden kunnen worden gebruikt in wraakporno. Vorig jaar meldde MIT Technology Review dat hoewel bijna alle staten de verspreiding van pornografisch materiaal zonder wederzijds goedvinden verbieden, slechts twee – Californië en Virginia – het gebruik van deepfakes in die verboden opnemen.

LAAT EEN REACTIE ACHTER

Vul alstublieft uw commentaar in!
Vul hier uw naam in