Sådan Spot en Deep Fake Face-swapped Video
For nylig har Reddit lavet nyheder med en subreddit, hvor folk bruger et maskinindlæringsværktøj kaldet "Deep Fake" for automatisk at erstatte en persons ansigt med en anden i en video. Selvfølgelig, da dette er internettet, bruger folk det til to ting: falsk berømthedsporno og indsætter Nicolas Cage i tilfældige film.
Mens du bytter andens ansigt på et fotografi, har det altid været forholdsvis nemt at bytte andens ansigt i en video, der plejede at være tidskrævende og svært. Indtil nu er det først og fremmest blevet udført af VFX-studios til store budget Hollywood-film, hvor en skuespiller ansigt byttes på deres stunt-dobbelt. Men nu med Deep Fake kan enhver med en computer gøre det hurtigt og automatisk.
Før du går videre, skal du vide, hvad en Deep Fake ser ud. Tjek SFW-videoen nedenfor, som er en samling af forskellige berømtheds-swaps, der hovedsagelig involverer Nic Cage.
Deep Fake-softwaren virker ved hjælp af maskinindlæring. Det er først trænet med et målflade. Forvrængede billeder af målet køres gennem algoritmen, og det lærer hvordan man retter dem, så de ligner det uændrede målflade. Når algoritmen derefter fodres billeder af en anden person, antages det, at de er forvrængede billeder af målet, og forsøger at rette op på dem. For at få video, fungerer Deep Fake-softwaren på hver enkelt ramme individuelt.
Grunden til at Deep Fakes har stort set involveret skuespillere er, at der er mange billeder af dem tilgængelige fra forskellige vinkler, der gør træningen mere effektiv (Nicolas Cage har 91 skuespil på IMDB). Men i betragtning af mængden af billeder og videofolk, der postes online, og at du virkelig kun har brug for ca. 500 billeder til at træne algoritmen, er der ingen grund til, at almindelige mennesker ikke kan målrettes, selvom sandsynligvis med lidt mindre succes.
Sådan Spot en Deep Fake
Lige nu er Deep Fakes ret let at få øje på, men det bliver hårdere, da teknologien bliver bedre. Her er nogle af giveawaysne.
Weird Looking Faces. I mange Deep Fakes ser ansigterne bare underligt ud. Funktionerne passer ikke perfekt op, og alt ser bare lidt voksagtig ud som i billedet nedenfor. Hvis alt andet ser normalt ud, men ansigtet ser underligt ud, er det nok en Deep Fake.
Blinkende. Et fælles træk ved dårlige Deep Fake videoer er ansigtet der ser ud til at flimre, og de originale træk ind imellem springer ind i visningen. Det er normalt mere indlysende på kanterne af ansigtet eller når noget passerer foran det. Hvis det er underligt flimrende, ser du på en Deep Fake.
Forskellige organer. Deep Fakes er kun ansigt swaps. De fleste mennesker forsøger at få en god kropsmatch, men det er ikke altid muligt. Hvis personen synes at være mærkbart tungere, lettere, højere, kortere eller har tatoveringer, som de ikke har i virkeligheden (eller ikke har tatoveringer, som de har i det virkelige liv), er der en god chance for at det er falsk. Du kan se et virkelig indlysende eksempel nedenfor, hvor Patrick Stewarts ansigt er blevet byttet med J.K. Simmons i en scene fra filmen Whiplash. Simmons er signifikant mindre end Stewart, så det ser bare ud mærkeligt ud.
Korte klip. Lige nu, selvom Deep Fake-softwaren fungerer perfekt og skaber en næsten uadskillelig ansigtsbytte, kan den kun gøre det i kort tid. Før for lang tid begynder et af problemerne ovenfor. Derfor er de fleste Deep Fake klip, som folk deler, kun få sekunder lange, resten af optagelserne er ubrugelige. Hvis du er vist et meget kort klip af en berømthed gør noget, og der er ingen god grund, er det så kort, det er en anelse om, at det er en Deep Fake.
Ingen lyd eller dårlig lipsynkronisering. Deep Fake-softwaren justerer kun ansigtsegenskaber; det gør ikke magisk en person lyd som en anden. Hvis der ikke er nogen lyd med klipet, og der ikke er grund til at de ikke er lydige, er det en anden anelse, du kigger på en Deep Fake. På samme måde, selvom der er lyd, hvis de talte ord ikke stemmer overens med de bevægelige læber (eller læberne ser underlige ud, mens personen snakker som i klipet nedenfor), har du måske en Deep Fake.
Utrolige klip. Denne ene slags siger sig selv, men hvis du får vist et virkelig utroligt klip, er der en god chance for, at du ikke bør tro på det. Nicolas Cage har aldrig spillet som Loki i en Marvel-film. Det ville dog være cool.
Dubious Kilder. Ligesom med falske billeder, hvor videoen angiveligt kommer fra, er ofte en stor anelse om dens ægthed. Hvis New York Times kører en historie om det, er det langt mere sandsynligt at være sandt, at noget du opdager i et tilfældigt hjørne af Reddit.
For øjeblikket er Deep Fakes mere af en forfærdelig nysgerrighed end et stort problem. Resultaterne er nemme at få øje på, og mens det er umuligt at acceptere, hvad der gøres, forsøger ingen at forsyne Deep Fakes som ægte videoer.
Da teknologien bliver bedre, er de sandsynligvis et meget større problem. For eksempel kan overbevisende falsk optagelser af Kim Jong Un, der erklærer krig mod USA, forårsage en stor panik.
