Søk

Online.no

Meny

Manipulert Tom Cruise-video setter «deepfake» på dagsorden

Bilde: YouTube / Buzzfeed (skjermdump)

Dette bør du vite om de falske videoene som er uhyre virkelighetstro – og potensielt svært farlige.

En video av komiker og skuespiller Bill Hader vekker stor oppsikt i sosiale medier tradisjonelle medier.

Videoen er fra et intervju Hader gjorde med talkshowverten David Letterman i 2008. Grunnen til at den ble møtt med frykt og uro er det som skjer når Hader gjenforteller hans møte med Tom Cruise under innspillingen av filmen Tropic Thunder:

La du merke til hva som skjedde?

Når Hader går inn i rollen som Tom Cruise (og skuespilleren Seth Rogen), blir ansiktet hans endret til Cruises. Skaperen av videoen sier til The Guardian at han lager såkalte «deepfake»-videoer for å øke bevisstheten rundt påvirkningskraften til manipulerte videoer.

Nettopp derfor du bør vite hva deepfake er for noe.

Deepfake

  • En sammenstilling av «deep learning» og «fake»
  • Begrepet dukket opp i 2017 da en bruker (som kalte seg Deepfakes) på nettsamfunnet Reddit manipulerte ansiktene til kjente skuespillere inn i pornofilmer
  • Kunstig intelligens gjør det mulig å bytte ansiktene til personer i bilder og videoer – som et avansert Snapchat-filter
  • Ved å mate programvaren med et stort antall bilde og videoer av en person, blir resultatet stadig bedre og mer virkelighetstro
  • Programmet FakeApp, lansert i januar 2018, gjorde det enklere for de fleste å manipulere videoer

    Kilder: NRK, Wikipedia

Pornofilm med Star Wars-skuespiller

Deepfake fungerer som et uhyre troverdig Snapchat-filter som benytter seg av avansert maskinlæring. Men i stedet for å gjøre mann til kvinne eller kvinne til mann, bytter deepfake-teknologien ut et helt ansikt med et annet.

Et enormt bildemateriale av en person mates inn i programvaren som analyserer og lærer seg ansiktstrekk, uttrykk og hodebevegelser. Når algoritmene har lært personen å kjenne, kan et ansikt «limes oppå» andre ansiktet til andre personer.

Begrepet er en sammenstilling av «deep learning», en læreprosess innenfor maskinlæring, og «fake». Begrepet deepfake dukket opp i 2017 og stammer fra nettsamfunnet Reddit. En bruker, som gikk under navnet «deepfakes», la ut en rekke manipulerte videoer. Det kan være uskyldig moro, som for eksempel å bytte ut Harrison Ford med Nicolas Cage i Indiana Jones-filmen Raiders of the Lost Ark.

Men deepfakes kan også være av en mer alvorlig art: 

Mye oppmerksomhet ble nemlig viet til videoer der ansiktene til kjente skuespillere ble manipulert inn i pornofilmer. Gal «Wonder Woman» Gadot, Daisy Ridley, kjent som Rey fra Star Wars, og Harry Potter-skuespiller Emma Watson var blant de tidlige ofrene for pornografisk deepfake-videoer.

I sommer fikk appen DeepNude også mye omtale. Ifølge Vice Motherboard tok appen et bilde av en påkledd person, «fjernet» klærne til vedkommende og erstattet dem med synlig vulva og nakne bryster. Etter massiv medieomtale ble appen fjernet fra nettet.

Stadig mer tilgjengelig teknologi

Etter hvert har det dukket opp flere ulike deepfake-teknologier, og mange av dem er basert på åpen kildekode som ligger gratis ute på nett. Dermed blir det stadig enklere å manipulere videoer – selv for de uten altfor inngående teknisk kompetanse eller tilgang kraftige datamaskiner. 

I desember 2017 skrev nettstedet Vice Motherboard (som også først omtalte DeepNude) om programmet FaceApp som gjorde det enkelt for hvem som helst å lage sine egne deepfake-videoer. NRK testet ut programmet, og etter et døgn med trening klarte det å lage ganske overbevisende klipp der Jon Almaas var byttet ut med Bjarte Tjøstheim i komiserien Side om Side:

Resultatet er ikke helt perfekt, men gir et godt inntrykk av hva som er mulig og hvor enkelt det kan være så fremt man har tilgang til tilstrekkelig med bildemateriale. 

NRK-videoen har riktignok ikke lyd, men med en dyktig imitator (som Bill Hader i klippet øverst i saken) kan det dekkes over. Utviklingen innenfor falske stemmer er også kommet langt på vei. Tidligere i år skrev The Verge om en teknologi som, på skremmende nøyaktig vis, klarte å klone stemmen til den populære podkasteren Joe Rogan.

Trussel mot demokratiet?

Den skremmende nøyaktigheten til slikt medieinnhold gjør at mange frykter konsekvensene av spredningen av deepfakes. I ytterste konsekvens kan det gjøre at vi ikke lenger kan stole på det videoer vi ser på nettet.

Et eksperiment utført av nettstedet Buzzfeed og komikeren og regissøren Jordan Peele, illustrere dette:

– Problemet er ikke at man kan lage videoer hvor folk sier ting de aldri har sagt. Problemet er at det snart er umulig å vite om det man ser er ekte, skriver Sondre Ulvund Solstad i sin spalte i Dagbladet. Solstad er doktorstipendiat ved Princeton University og forsker på politiske konsekvenser av og årsaker til ny teknologi. 

Til Aftenposten spår han at deepfake-teknologien bare vil tilta i tiden som kommer:

– Det er ingen grunn til å tro at denne utviklingen vil bremse. Datamaskinene blir bedre og de får mer data å øve på, sier Solstad til Aftenposten (for abonnenter).

Foruten misbruk av enkeltpersoner, frykter eksperter at falske videoer kan bli brukt for i politisk påvirkning. NRK skriver at flere amerikanske politikere ser på deepfakes som en mulig trussel mot presidentvalget i 2020. 

– Etterretningsmiljøet er ekstremt bekymret for fremveksten av denne teknologien. Vi sliter allerede med å spore og bekjempe andre ondsinnede aktiviteter på sosiale medier, og eksplosjonen av deepfake-videoer vil gjøre det enda vanskeligere, sier demokraten Mark Warner i Senatets etterretningskomité, ifølge NRK.

Solstad sier til Aftenposten at dette også kan bli et problem i Norge.

«Det er 100 mennesker som jobber med å forfalske videoer for hver person som jobber med å avsløre dem.»

Hva kan gjøres?

Både offentlige og private aktører jobber på spreng for å utvikle teknologi for å bekjempe manipulerte videoer. Håpet er at programvare skal kunne avdekke hvorvidt en video er tuklet med. 

Dessverre utvikler forfalskerne seg raskere enn det de som jobber med å motkjempe deepfakes. De som lager falske videoer kan nemlig bruke nye avsløringsløsninger til å trene opp sitt program til å unngå å bli avslørt. I dette kappløpet blir de som jobber for å avdekke falske videoer hengende etter:

– Det er 100 mennesker som jobber med å forfalske videoer for hver person som jobber med å avsløre dem, sier dataforsker ved Universitet i Berkley, Hany Farid til Washington Post, gjengitt av Aftenposten.

Ifølge Sondre Ulvund Solstad finnes det ingen perfekt løsning for å bekjempe falske videoer. Likevel forsøker han å skissere et forslag der det er ulovlig å legge ut videoer hvor man forfalsker utseende eller stemme, og særlig streng straff hvis videoen har klart politisk potensial. I tillegg skriver Solstad at de som anklager en video for å være falsk også bør straffes, dersom den viser seg å være ekte.

Vær skeptisk

For privatpersoner vil et generelt tips være å alltid møte innhold du finner på nettet med en god dose skepsis. Nettvett.no satt opp en liste over spørsmål du børs stille deg selv hvis du mistenker at du kommer over falske nyheter. Disse kan også være verdt å ha i bakhodet når det gjelder deepfake-videoer.

Ctrl Shift Face, skaperen av Bill Hader-videoen, oppsummerer det kort og godt i beskrivelsen av sin YouTube-profil:

– Ikke tro på alt du ser på internett, ok?