Pocket-lint wordt ondersteund door zijn lezers. Wanneer u via links op onze site koopt, kunnen we een aangesloten commissie verdienen. Kom meer te weten

Deze pagina is vertaald met behulp van AI en machine learning.

(Pocket-lint) - Deepfake-videos worden steeds gewoner en sinister.

Je hebt ze misschien onlangs zien opduiken in nieuwsverhalen over beroemde politici , beroemdheden , de koningin op Channel 4 in 2020 voor de alternatieve kersttoespraak van de omroepen en zelfs technische leidinggevenden.

Als dat zo is, vraag je je waarschijnlijk af hoe ze zijn gemaakt en door wie en of ze de nepnieuws-epidemie nog erger zullen maken. We begrijpen uw bezorgdheid.

Deepfakes hebben het potentieel om echt storend te zijn, en je hebt gelijk als je er nu alles over leert.

Wat zijn deepfakes?

Alsof het uit een sci-fi-film komt, omvat deepfake-technologie kunstmatige intelligentie en machine learning-modellen die video kunnen manipuleren. In zijn eenvoudigste vorm is een deepfake een gepromoveerde video die laat zien dat iemand iets doet of zegt dat nooit is gebeurd. Deze mogelijkheid is niet beperkt tot Hollywood of inlichtingendiensten; iedereen kan online software gebruiken of apps downloaden waarmee ze overtuigende deepfake-videos kunnen maken.

Een van de meest populaire doelen voor deepfakes is Donald Trump geweest. Dat komt gedeeltelijk omdat er een schat aan gegevens over hem is: duizenden audioclips, videos en fotos waarop hij op dezelfde manier spreekt en gebaart. Iedereen die toegang heeft tot deepfake-software, kan deze gegevens gebruiken om hyperrealistische videos te maken waarin hij iets doet of zegt. Ze kunnen zelfs zijn gezicht op een ander onderwerp veranderen, zoals Richard Nixon .

Hoe worden deepfakes gemaakt?

Er zijn verschillende manieren om deepfake-videos te maken, maar ze hebben allemaal gegevens nodig om machine learning-modellen te voeden die uw nep-inhoud genereren. Momenteel maakt iedereen, van onderzoekers tot kwaadwillende mensen, deepfakes. De meest overtuigende vereisen krachtige computerplatforms en diepe datasets met veel audio, video of afbeeldingen voor het onderwerp van je deepfake.

Social media-apps zoals Snapchat gebruiken ook face-morphing-technologie die op dezelfde manier kan worden gebruikt. Er zijn zelfs geavanceerde tools zoals FakeApp. Gemaakt door een anonieme ontwikkelaar met behulp van open-source software geschreven door Google, hiermee kun je realistisch face-swaps genereren, zonder dat er weinig aanwijzingen zijn dat je video is gemanipuleerd. FakeApp is gratis, en als je een beetje nerd bent, is het relatief eenvoudig te gebruiken.

Meer voorbeelden van deepfake-videos

Er zijn tonnen deepfakes van hoge kwaliteit online - zelfs degenen met gezichten en stemmen van beroemdheden die zijn geruild in films voor volwassenen. Hieronder staan echter meer gezinsvriendelijke voorbeelden. Zoek gewoon snel op YouTube als je meer wilt zien.

Bill Hader

De onderstaande video begint als tientallen anderen op YouTube: we zien voormalig Saturday Night Live-ster Bill Hader zijn beste celebrity-impressie doen van de voormalige gouverneur van Californië, Arnold Schwarzenegger. Ongeveer 10 seconden na het begin van de video verandert Haders gezicht in het gezicht van Schwarzenegger. Dit voorbeeld, dat meer dan zes miljoen keer is bekeken, is een van de meest bekeken deepfake-videos van YouTube geworden.

Mona Lisa

Een ander voorbeeld komt van onderzoekers van Samsung AI Center , die deepfake-technologie hebben ontwikkeld waarmee klassieke fotos en kunstwerken tot leven kunnen komen. In hun video kunnen we Albert Einstein en de Mona Lisa zien bewegen en praten. Om de Mona Lisa-compositie te maken, gebruikten ze specifiek drie bronvideos, die elk verschillende en soms vreemde resultaten opleverden.

Mark Zuckerberg

Een recenter voorbeeld toont hoe Facebook-CEO Mark Zuckerberg zijn trouw beloofde aan Spectre, de kwaadaardige organisatie uit de James Bond-franchise. Deze specifieke deepfake manipuleert de audio om Zuckerberg als een psychopaat te laten klinken. De artiesten achter deze deepfake, Bill Posters en Daniel Howe, maakten in samenwerking met reclamebureau Canny ook een deepfake met reality-tv-ster Kim Kardashian West.

Moet u zich zorgen maken?

Hoewel de meeste deepfakes grappig en onschuldig zijn, hebben ze het potentieel om schandelijk te zijn. Een deepfake-video kan bijvoorbeeld een politieke kandidaat laten zien die iets vreselijks zegt of doet - misschien iets dat zo onvergeeflijk is dat het, indien correct getimed, een verkiezing kan beïnvloeden voordat er tijd is voor het publiek om de echte waarheid te leren. Iedereen zou in een compromitterende situatie terecht kunnen komen.

Er zijn al beroemdheden die niet willen dat hun gelijkenis voorkomt in nepporno. Sommigen hebben deze situatie vergeleken met wraakporno. Een deepfake-maker heeft immers alleen een serie fotos van de beroemdheid nodig, die snel kunnen worden gehaald uit hun feeds op sociale media, of audio en video, waarvan er genoeg zouden moeten zijn. En ze moeten weten hoe ze deepfake-software moeten gebruiken.

Besteed een minuut aan het zoeken en je zult diep in de les zitten in tutorials over hoe je een deepfake-maker kunt worden. Met een dergelijke toegankelijkheid zal deepfake-technologie alleen maar wijdverspreider worden en ongetwijfeld worden gebruikt voor pesten en intimidatie.

Zijn deepfakes illegaal?

ONS

Regelgevers en wetgevers beginnen net met deze kwestie te worstelen. Sommigen beweren dat deepfakes moeten worden beschermd door het eerste amendement of de vrijheid van meningsuiting . Anderen, zoals Rep. Adam Schiff, hebben echter gewaarschuwd. Tijdens een hoorzitting van de House Intelligence Committee over nationale en verkiezingsveiligheidsrisicos, zei Schiff dat deepfakes een negatief effect kunnen hebben op de verkiezingen van 2020.

De House Intelligence Committee heeft een panel van experts bijeengeroepen die de taak hebben om een deepfake-strategie en mogelijke nieuwe beperkingen van de overheid of platforms te bedenken, maar momenteel circuleert er in het Congres wetgeving die bedoeld is om de dreiging van nepmedia aan te pakken. Senator Ben Sasse stelde bijvoorbeeld voor het onwettig te maken om "kwaadwillig" deepfakes te maken en te verspreiden.

Geschreven door Maggie Tillman. Bewerken door Stuart Miles. Oorspronkelijk gepubliceerd op 13 juni 2019.