Sannheten sies å være første offer i enhver krig. Og i krigen mellom Russland og Ukraina har begge land brukt den manipulerende dypfalskneriteknologien til å spre feilinformasjon om hverandre.
Nylig dukket det opp en falsk video med Ukrainas president Volodymyr Zelenskyj. Her er det brukt dypmanipulasjon slik at det ser ut som om presidenten oppfordrer ukrainerne til å overgi seg.
Den manipulerte videoen av president Zelenskyj er fjernet fra YouTube, i likhet med alle nye kopier. Her er en bearbeidet utgave fra The Telegraph.
Tidligere har Ukraina selv produsert en noe mer satirisk dypfalsknerivideo av Russlands president Vladimir Putin som sier at han er verdens mest hatede mann og oppfordrer alle til å støtte Ukraina.
Dypfalskneri med AI-motor
Riktignok framstår ikke disse videoene særlig raffinerte for en rutinert mediebruker. Men det kan komme senere.
For dypfalskneriteknologien har med AI som manipuleringsmotor blitt stadig flinkere til å få for eksempel kjente personer til å framstå som avsendere av tvilsomme budskap.
Grunnprinsippet med å skape et falskt menneske med samme utseende og stemme som et kjent offer bygger på at man fôrer AI-en med enorme mengder fotografier og videoklipp av offeret.
Så øver systemet opp mønstergjenkjenningen sin på blant annet ansiktsdimensjoner og bevegelser.
Deretter lages det en ny video – nå med den falske personens ansikt og bevegelser.
Den nye videoen får offerets gjenkjennelige trekk fra AI-en, som med menneskelige preferanser styrer hvordan den endelige dypfalsknerivideoen veves sammen.
Når først bevegelsene til kropp, øyne og munn er på plass, kan stemmen gjenskapes med datahjelp.
Alt etter dyktighet kan dypfalsknere treffe like nøyaktig som da en tysk direktør i 2019 tapte halvannen million kroner til kriminelle som først hadde kopiert direktørens stemme og deretter i telefonen fått en kollega til overføre beløpet til en ungarsk leverandør.
Skuespilleren Tom Cruise har blitt kopiert i en hel rekke dypfalsknerivideoer, blant annet som falsk amerikansk presidentkandidat i 2020.
Slik avslører du dypfalskneri
I tillegg til tekniske triks virker dypfalskneri i samspill med din oppfatning av lyd og bilde og ikke minst din egen hukommelse, som kan spille deg et puss.
Tidligere britisk-amerikanske studier har vist at opp mot 85 prosent av læring og erkjennelse stammer fra hva vi opplever og har opplevd gjennom synsinntrykkene våre.
Det er imidlertid bare 20 prosent av synsinntrykkene våre som lages i øynene. Resten er det hjernen vår som står for, og særlig tinninglappen, der minnene våre er oppbevart.
Synet vårt er altså ikke bare inntrykk fra øynene, men er framfor alt en kombinasjon av hva vi ser, hva vi tidligere har sett, og hva vi tror vi ser.
Vi er altså mye mer tilbøyelige til ukritisk å tro på visuell informasjon som bekrefter vår allerede eksisterende oppfatning av verden eller støtter fordommer og forventninger.
Denne såkalte bekreftelsesskjevheten gjør oss til enkle ofre for dypfalsknerier.
TEST DEG SELV:
Kan du finne tekniske feil i dette klippet med dypfalskneri-Tom Cruise fra begynnelsen av 2022?