Pre čitateľov, poslucháčov či divákov je čoraz náročnejšie rozlíšiť pravdivosť prijatej informácie. Čo je deepfake a prečo je nebezpečný?

Internet nám dáva možnosť získať informácie kedykoľvek, kdekoľvek a odkiaľkoľvek. Práve posledná možnosť získavania informácií je pomerne nebezpečná z hľadiska ich pravosti.

Deepfake videá sú pomerne novou technológiou. Z anglického názvu vyplýva, že ide o neautentické mediálne výstupy, ktoré najčastejšie zobrazujú celebrity a politikov. Okrem poškodenia dobrého mena dotknutej osoby ovplyvňujú jednotlivcov aj masy ľudí. Bežný človek často nedokáže rozoznať, či je video pravé alebo nie. Preto ľahko uverí tomu, čo vidí a počuje. Najnebezpečnejšie je, ak sa technológia deepfake videí používa na propagandu alebo predvolebné anti-kampane rôznych politických strán. Jej využite však môže byť oveľa širšie.

Medzi kvalitne vytvorené videá by sa mohol zaradiť deepfake, ktorého sa stal obeťou Mark Zuckerberg, zakladateľ sociálnej siete Facebook. “Rád by som vám povedal, že naším cieľom je spájať ľudí, ale nie je tomu tak. Chceme predvídať vaše správanie. Pozorovanie mi ukázalo, ako vami manipulovať vďaka vaším osobným údajom a vašimi najbližšími, ktoré poskytujete zadarmo. Čím viac sa prejavujete, tým viac vás vlastníme.”

Video je doslova živnou pôdou pre konšpiračné weby a takzvané alternatívne médiá pomocou, ktorých by bolo možné poškodiť dobré meno spoločnosti, ale aj samotného Marka. Sledovanie videa na nás zanechalo pocit strachu a nedôverčivosti, čo môže ovplyvniť naše budúce správanie sa na sociálnych sieťach.

Čo je deepfake a ako funguje?

Pojem deepfake vychádza z anglického výrazu deep learning technology. Ide o technológiu, ktorá využíva mechanické alebo strojové učenie založené na umelej inteligencii. Tá zbiera a spracováva dáta o jednotlivých povrchových zakriveniach a uhloch tváre, ktoré môže aplikovať na iný objekt – tvár. Obrovský pokrok dosiahla pri použití takzvaných generatívnych protikladných sietí (generative adversarial networrks – GANS), kedy oproti sebe vystupujú dve umelé inteligencie. Jedna vytvára falzifikát, druhá hodnotí výsledok a učí sa vyrábať lepšie falzifikáty.

Vytvorenie deepfake-u je dnes veľmi jednoduché. Pomocou aplikácií, ako napríklad Fakeapp či DeepFaceLab, ktoré obsahujú vcelku bohaté možnosti tvorby videí, môže takýto mediálny výstup vytvoriť aj úplný laik.

Ako veľmi sú nebezpečné?

Senátor americkej Floridy, Marc Rubio, porovnával deepfake videá s nukleárnymi zbraňami: „Keď chcel niekto v minulosti ohrozovať Spojené štáty americké, potreboval 10 lietadlových lodí, jadrové zbrane a rakety s dlhým doletom. Dnes je všetko, čo potrebujete prístup k internetu, bankovému systému, elektrickej rozvodnej sieti, infraštruktúre a hlavne schopnosť vytvárať veľmi realistické video-podvrhy, ktoré by mohli ovplyvniť naše voľby, čo by nás uviedlo do krízy a vnútorne nás veľmi oslabilo.“

Povedané inými slovami, ak v minulosti mal niekto záujem uškodiť hocakej krajine, potreboval na to dostatok schopných ľudí a desiatky či stovky miliónov dolárov, no v dnešnej dobe nám stačí niekoľko počítačov, prístup k internetu a  “počítačovo zdatní personál”.

Na internete sa už čoraz viac objavujú videá politikov, známych osobností či celebrít, ktorým bola upravená mimika tváre a hlas prostredníctvom softvéru na výrobu deepfake videí. Veľmi vydareným falzifikátom je aj verejné vyhlásenie bývalého prezidenta USA, Baracka Obamu. Na prvý pohľad pôsobí autenticky, avšak približne v polovici videa divák zistí, že je to podvrh, ktorý nadaboval profesionálny herec Jordan Peele. V tomto prípade nebola Obamova tvár zneužitá na politické účely, ale mala skôr poučiť diváka, aby neveril všetkému na internete.