Co znamená nástup takzvaných deepfakes

Když nemůžete věřit vlastním očím

Co znamená nástup takzvaných deepfakes
Když nemůžete věřit vlastním očím

Obsah dostupný jen pro předplatitele.
Přihlásit se můžete zde.

Pokud nemáte předplatné, nebo vám vypršelo, objednat si ho můžete zde.

Obsah dostupný jen pro předplatitele.
Předplatné můžete objednat zde.

Pokud nemáte předplatné, nebo vám vypršelo, objednat si ho můžete zde.

Konec hollywoodského trháku Rychle a zběsile 7. Jedna ze dvou hlavních postav, Brian O’Conner, se rozhodla, že už má dost dobrodružného života a usadí se se svou rodinou. Brian proto ve sporťáku dohoní svého nejlepšího kamaráda a druhého hlavního představitele Dominica Toretta, který se potichu vypařil z poslední sešlosti všech hrdinů, neboť nezvládá emoce. Brian zastaví vedle Dominica na křižovatce a křikne na něj: „Myslel sis, že odjedeš, aniž by ses rozloučil?“ Chlapáčtí hrdinové na sebe uznale kývnou, Brian pak odbočí na cestu rodinného života, zatímco Dominic vyráží k dalším dobrodružstvím. Na této scéně teoreticky není nic divného. Jde o typický, lehce kýčovitý, hollywoodský happy end. Jenže ve chvíli, kdy se tyto scény točily, Paul Walker, představitel Briana, byl již po smrti. Tragicky zahynul při automobilové nehodě krátce před dokončením filmu. Poslední scéna byla natočena až poté jako důstojné rozloučení s postavou i hercem. Walker byl v závěru vytvořen digitálně.

Není to jediný případ v posledních letech (Rychle a zběsile 7 je z roku 2015), kdy byly do filmu dodány digitální postavy. Příběh dalšího dílu Hvězdných válek, Rogue One z roku 2016, se odehrává ve stejné době jako původní film, který běžel v kinech v roce 1977. Mezitím herci zestárli či zemřeli, přesto ve filmu vystupují v původních, digitálně dotvořených, podobách. Klauzule o využívání digitálních tváří se stávají běžnou součástí kontraktů filmových hvězd.

Vytváření digitálních podob však přestává být doménou Hollywoodu. Koncem roku 2017 se na sociální síti Reddit, která slouží v podstatě jako velké diskusní fórum, objevilo vlákno s názvem Deepfakes (volně přeloženo „hluboký podvod“), ve kterém se začala objevovat pornografická videa, do nichž byly vloženy známé světové celebrity. (A videa s Nicolasem Cagem vložená do náhodných filmů.) Reddit, který má jinak dost liberální pravidla ohledně explicitního obsahu, to vyhodnotil jako nedobrovolné porno a vlákno zakázal. Reddit následovaly velké světové pornoservery.

Vytváření digitálních podob už přestává být doménou Hollywoodu. - Foto: Shutterstock

Zbraň do voleb i osobních vztahů

Experti však začali bít na poplach. Zatím se deepfakes omezují pouze na porno či na jasně parodická videa s politiky, ale brzy se mohou objevit záběry, které budou nerozeznatelné od reality. Komukoli bude možné vložit do úst cokoli. Bude to nový stupeň v dezinformační válce. Nikdo si nebude moci být jist, která videa jsou pravá a která falešná. Díky lži bude možno zlikvidovat politickou kariéru či vyvolat konflikt. „Vše, co potřebujete, je schopnost vyrobit velmi realistické falešné video, které může podkopat naše volby a tím uvalit na naši zemi obrovskou vnitřní krizi,“ varoval americký senátor Marco Rubio. Server CNN v článku o deepfakes publikoval záběry z holocaustu, z přistání na Měsíci, z 11. září. Nad nimi je titulek: „Co se stane, až nebudeme moci déle věřit našim očím a uším?“ Deepfakes mohou zasáhnout i do osobních vztahů, hrozí, že vytváření falešných záznamů například nevěry se stane běžnou záležitostí.

Naštěstí technologie ještě tak daleko nepostoupila. Technologický novinář Kevin Rose pro New York Times vyzkoušel vytvořit vlastní deepfake video. Svou tvář nahrál na několik známých herců. Použil k tomu aplikaci FakeApp, která se objevila na internetu někdy v lednu 2018 a stala se nejpoužívanějším prostředkem k vytváření těchto videí. FakeApp používá software, který byl publikován k volnému používání Googlem. Jde o umělou inteligenci, která se dokáže sama učit a zdokonalovat v daném úkolu, třeba v tom, jak vytvořit realistickou tvář. I tak používání FakeApp není úplně jednoduché, i když ne nedostupné. Základem je nahrání několika stovek až tisíců fotografií původní tváře i té, kterou má překrýt. Následně je počítač skloubí. Teoreticky to zvládne i domácí notebook, ale nejspíš mu to bude trvat několik dní. I tak ale výsledek bude značně nedokonalý. Na Roseových videích je vidět, jak tvář nedoléhá, občas problikne původní vizáž; šance, že někoho zmate, je dost malá.

Existují postupy, jak odhalit i zdařilejší nahrávky. Deepfake videa – s výjimkou porna, kde uživatelům jde o něco jiného než o naprostou realističnost – bývají krátká a snímaná z jednoho úhlu, obojí zmenšuje možnost, že se něco pokazí. Dobře je to vidět na již zmiňované scéně z Rychle a zběsile 7. Čas, kdy je vidět digitálně zrekonstruovaná tvář Paula Walkera, je relativně krátký, maximálně desítky sekund. Většinou je snímán zdálky, v nedokončených scénách Paula zastoupili jeho bratři Cody a Caleb. Když pronese svoji větu, je snímán zezadu. Když konečně kamera spočine na jeho tváři, i tak působí nepřirozeně. Experti dále při odhalování deepfakes doporučují soustředit se na mrkání, často se na něj při tvorbě zapomíná, a na stíny, které nemusejí odpovídat směru světla.

Zdařilejší deepfake předvedl režisér a komik Jordan Peele, který natočil video, na němž Barack Obama sprostě nadává. V půlce odhalí, že jde o deepfake. V závěru varuje před rozšiřováním dezinformačních videí. Obama i v této nahrávce působí nepřirozeně, má zastřený, strnulý pohled. Pozorné sledování nejspíš nikoho neošálí. Pokud by však kvalita videa byla naschvál zhoršená, nedokonalosti by se daly lehce zamaskovat.

Herec Paul Walker tragicky zahynul před dokončením Rychle a zběsile 7. Do finálních scén byl proto dodán digitálně týmž studiem, které vytvořilo Gluma v Pánovi prstenů. - Foto: archiv

Mona Lisa vypravuje

Ještě dokonalejší deepfake představili koncem května vědci z laboratoří Samsungu. Pomocí pár fotografií se jim podařilo realisticky rozhýbat slavné obrazy a fotografie. Mona Lisa začne něco nadšeně vyprávět, Marilyn Monroe flirtuje, Albert Einstein zamyšleně vykládá. Průlom je nejen v tom, že videa působí mnohem realističtěji, ale na rozdíl od FakeApp nepotřebují stovky fotografií. Na rozhýbaní jednoho snímku potřebovali asi osm fotografií dalších lidí, které počítač naučily se snímkem hýbat. Technologie zatím není dokonalá. Samsung přiznává, že neumí synchronizovat pohyb úst se zvukem, všechny příklady jsou proto němé. Počítač také děla chyby, například při rozhýbání Marilyn Monroe jí zmizelo její slavné znamínko krásy. Nicméně i tak se dá předpokládat, že příchod falešných videí, která jsou k nerozeznání od těch pravých, je maximálně za pár let.

Boj proti deepfakes už začal. Nejde jen o pornostránky, které je mažou, a americké legislativce, kteří chystají zákaz jejich „škodlivého“ využívání. Elitní laboratoř amerického ministerstva obrany, známá jako DARPA, začala vyvíjet umělou inteligenci, která by dokázala rozpoznat i dokonalé deepfakes. Problém je, že technologie, na které jsou deepfakes založeny, se umí zdokonalovat tak, aby ošálila i počítače. Podle některých vědců je tak zápas s falešnými videi závod, který nelze vyhrát. I pokud by se podařilo, je velmi pravděpodobné, že falešné video se dokáže bleskově rozšířit, než bude moci být ověřeno. Navíc strach okolo deepfakes nereflektuje, že falešná videa už dávno existují a nepotřebují k tomu žádné složité technologie. Někdy stačí jen umně vystřižená pasáž.

Příkladem může být incident z ledna, kdy se na sítích objevilo video, na kterém se zdá, že se partička studentů z katolické školy v Covingtonu s trumpovskými čepicemi na hlavách vysmívá indiánovi, který je zároveň veteránem vietnamské války. Video rozpoutalo skandál, progresivisté tvrdili, že vysmívající se mladíci jsou „pravá tvář Trumpovy Ameriky“, a požadovali jejich vyloučení. Záhy poté vyšlo najevo, že celý incident se odehrál jinak. Studenti reagovali na provokace nejen indiána, ale i podivné sekty černých rasistů známých jako Black Hebrew Israelites.

Druhý příklad, který zahýbal Spojenými státy, je pár dní starý. Na Facebooku někdo umístil upravené video s předsedkyní Sněmovny reprezentantů Nancy Pelosiovou. Video je nepatrně zpomalené, takže se zdá, že Pelosiová špatně artikuluje, zadrhává a působí opile. Levice označila video za „fake news“ a požádala Facebook, aby ho stáhl. Facebook kontroval, že to je nevinný vtip, což neodporuje jeho pravidlům.

Případ ukazuje na zásadní problém. I kdyby totiž byly přijaty zákony proti „škodlivému“ využívání deepfakes, v některých případech půjde jen velmi obtížně rozlišit, kdy jde o špatný vtip a kdy o snahu škodit.

Když v roce 1977 Carrie Fisherová poprvé hrála princeznu Leiu, bylo jí 19 let. V roce 2016 již byla raději nahrazena digitální dvojnicí. - Foto: archiv

„Zeman“ a čínská žebračka

Svůj skandál s falešným videem má za sebou už i Česká republika. Koncem května se Pražský hrad ocitl v podivné situaci, když musel dementovat, že prezident Miloš Zeman vykonal dobrý skutek. Reagoval tak na video, údajně ze Zemanovy čínské cesty, které jako první publikoval server Seznam Zprávy. Na videu člověk připomínající prezidenta, zabíraný zdálky a převážně zezadu, kráčí od kolony aut k žebračce na chodníku. Stařenku se snaží čínský policista odehnat. „Zeman“ prohlásí hlasem, který je k nerozeznání od hlasu pravého prezidenta: „Nechte tu nebohou ženu na pokoji.“ Poté žebračce daruje svoji hůl a obří krabici s neznámým obsahem.

Tento poslední příklad, který na rozdíl od předchozích uvedených byl celý nahraný, nejen upravený, ukazuje cestu, jak se bude muset společnost s falešnými videi vypořádat. Veřejnost si bude muset zvyknout, že videozáznam, stejně jako fotografie poté, co se rozšířil Photoshop, není sám o sobě dostatečným důkazem. Budou se muset ověřovat okolnosti, detaily a souvislosti. Podle prezidentova mluvčího Jiřího Ovčáčka na videu z Číny nesedí minimálně dvě věci. Ulice, na které se scéna odehrává, nebyla nikde poblíž prezidentského programu. Velkou nesrovnalostí podle Ovčáčka je i nepřítomnost jeho samého. V podobných situacích je prý vždy po boku prezidenta. Skeptik by mohl dodat, že navíc celá situace neodpovídá Zemanovu jednání běžně prezentovanému na veřejnosti.

Nakonec asi nejlepší obranou proti deepfakes je včasné varování před nimi. Jeden z nejoblíbenějších internetových vtipů je údajný citát Abrahama Lincolna (v českých podmínkách je také připisován Masarykovi): „Ne vše, co si přečtete na internetu, je pravda.“ Nadešel čas tuto definici rozšířit i na videoobsah.