Pocket-lint stöds av sina läsare. När du köper via länkar på vår webbplats kan vi tjäna en affiliate provision. Läs mer

Denna sida har översatts med AI och maskininlärning.

(Pocket-lint) - Deepfake-videor blir vanligare och mer olycksbådande.

Du kanske har sett dem dyka upp i nyhetsberättelser som nyligen involverade berömda politiker , kändisar , drottningen på Channel 4 år 2020 för sändarna alternativa jultal och till och med tekniska chefer.

Om så är fallet undrar du förmodligen hur de är gjorda och av vem och om de kommer att göra falska nyhetsepidemin ännu värre. Vi förstår din oro.

Deepfakes har potential att vara riktigt störande, och du har rätt att lära dig allt du kan om dem nu.

Vad är deepfakes?

Som om det var från en sci-fi-film involverar deepfake-teknik artificiell intelligens och maskininlärningsmodeller som kan manipulera video. I sin enklaste form är en deepfake en doktrerad video som visar att någon gör eller säger något som aldrig hände. Denna förmåga är inte begränsad till Hollywood eller underrättelsetjänster; vem som helst kan använda programvara online eller ladda ner appar som låter dem göra övertygande djupa falska videor.

Ett av de mest populära målen för deepfakes har varit Donald Trump. Det beror delvis på att det finns en skattkista med data om honom - tusentals ljudklipp, videor och foton av honom som talar och gester på samma sätt. Den som har tillgång till deepfake-programvara kan använda dessa data för att skapa hyperrealistiska videor om honom gör eller säger något. De kan till och med förvandla hans ansikte till ett annat ämne, som Richard Nixon .

Hur görs djupa förfalskningar?

Det finns flera olika sätt att skapa djupa falska videor, men de kräver alla data för att mata maskininlärningsmodeller som genererar ditt falska innehåll. För närvarande gör alla, från forskare till de med skadlig avsikt, djupa förfalskningar. De mest övertygande kräver kraftfulla datorer och djupa datauppsättningar med massor av ljud, video eller bilder för djupfaken.

Sociala medieappar som Snapchat använder också ansiktsmorf teknologi som kan användas på samma sätt. Det finns till och med avancerade verktyg som FakeApp. Tillverkad av en anonym utvecklare som använder programvara med öppen källkod skriven av Google, och låter dig realistiskt skapa ansiktsbyten, med liten indikation på att din video har manipulerats. FakeApp är gratis, och om du är lite nördig är det relativt enkelt att använda.

Fler exempel på deepfake-videor

Det finns massor av högkvalitativa deepfakes online - även sådana med kändisers ansikten och röster bytte till vuxenfilmer. Mer familjevänliga exempel är dock nedan. Gör bara en snabb sökning på YouTube om du vill se mer.

Bill Hader

Videon nedan börjar som dussintals andra på YouTube: Vi ser den tidigare Saturday Night Live-stjärnan Bill Hader gör sitt bästa kändisintryck av före detta Kaliforniens guvernör Arnold Schwarzenegger. Cirka 10 sekunder in i videon, förvandlas Haders ansikte till Schwarzeneggers ansikte. Detta exempel, som har över sex miljoner visningar, har blivit en av YouTubes mest tittade djupa falska videor.

Mona Lisa

Ett annat exempel kommer från forskare vid Samsung AI Center , som utvecklade deepfake-teknik som kan göra klassiska foton och konstverk levande. I deras video kan vi se Albert Einstein och Mona Lisa rör sig och pratar. För att skapa Mona Lisa-kompositen använde de specifikt tre källvideor, som alla gav olika och ibland udda resultat.

Mark Zuckerberg

Ett nyare exempel visar Facebook-vd Mark Zuckerberg som lovar sin trohet mot Spectre, den onda organisationen från James Bond-franchisen. Denna speciella djupfake manipulerar ljudet för att få Zuckerberg att låta som en psykopat. Konstnärerna bakom denna djupfake, Bill Poster och Daniel Howe, i partnerskap med reklamföretaget Canny, gjorde också en djupfake med reality-TV-stjärnan Kim Kardashian West.

Ska du vara orolig?

Även om de flesta djupa förfalskningar är roliga och oskyldiga, har de potential att vara onödiga. Till exempel kan en djupt falsk video visa en politisk kandidat som säger eller gör något hemskt - kanske något så oförlåtligt att det, om det stämmer korrekt, kan leda ett val innan det finns tid för allmänheten att lära sig den verkliga sanningen. Vem som helst kan läggas över i en kompromissande situation.

Det finns redan kändisar som inte vill att deras likhet ska visas i djupt falsk pornografi. Vissa har jämfört denna situation med hämndporr. När allt kommer omkring behöver en djupfake-skapare bara en serie bilder av kändisar, som snabbt kan tas bort från deras sociala medier, eller ljud och video av dem, som det borde finnas gott om. Och de behöver veta hur man använder deepfake-programvara.

Tillbringa en minutsökning och du kommer att vara knä-djup i handledning om hur du blir en djupfake-skapare. Med sådan tillgänglighet kommer deepfake-teknik bara att bli mer utbredd, och den kommer utan tvekan att användas för mobbning och trakasserier.

Är deepfakes olagliga?

USA

Tillsynsmyndigheter och lagstiftare har just börjat ta itu med denna fråga. Vissa hävdar att djupa förfalskningar bör skyddas av den första ändringen, eller yttrandefriheten . Andra har emellertid, till exempel rep. Adam Schiff, utfärdat varningar. Under en House Intelligence Committee som hörde om nationella och valets säkerhetsrisker, sade Schiff att djupa förfalskningar kan ha en negativ effekt på valet 2020.

Husets underrättelsetjänst sammankallade en expertpanel som har till uppgift att komma med en djupfalsstrategi och eventuella nya begränsningar från antingen regeringen eller plattformar, men för närvarande finns det en cirkulerande lagstiftning i kongressen som är avsedd att ta itu med hotet om falska medier. Till exempel föreslog senator Ben Sasse att det skulle vara olagligt att "illvilligt" skapa och distribuera djupa förfalskningar.

Skriva av Maggie Tillman. Redigering av Stuart Miles. Ursprungligen publicerad den 13 Juni 2019.