Co je deepfake a proč je pro diváka tak přesvědčivý
Deepfake je video, v němž je pomocí umělé inteligence upraven obličej, hlas nebo celé vystupování člověka tak, aby působil autenticky. Nejčastěji jde o výměnu tváře ve videu, kdy algoritmus „přilepí“ jinou podobu na původní záznam, nebo o generování zcela nového záběru na základě textového zadání. V praxi se využívají především neuronové sítě, zejména modely typu GAN, tedy generativní adversariální sítě, které proti sobě staví dva systémy: jeden vytváří obraz, druhý ho kontroluje a hledá chyby. Díky tomuto souboji se výstupy postupně zdokonalují.
Výsledek může být znepokojivě věrný. U běžného uživatele rozhoduje několik sekund sledování, a pokud video neobsahuje výrazný pohyb, rychlé střihy nebo špatné světlo, podvrh často projde bez povšimnutí. Výzkumy z posledních let ukazují, že i při velmi kvalitních deepfake videích se lidé mýlí poměrně často, zejména pokud sledují záznam na mobilu a ne v detailu. Podle řady testů se lidská schopnost rozpoznat podvrh pohybuje jen kolem poloviny případů, tedy na úrovni náhody. To je jeden z důvodů, proč se pozornost přesouvá k softwarové detekci.
Jak deepfake vzniká krok za krokem
Vytvoření deepfake videa obvykle začíná sběrem dat. Čím více kvalitních fotografií a videí cílové osoby má útočník k dispozici, tím lépe. Algoritmus si z nich vytváří model obličeje, učí se typické rysy, mimiku, úhly pohledu i způsob pohybu rtů. Následuje trénování na výpočetně náročném hardwaru, které dříve vyžadovalo specializované grafické karty a zkušenějšího uživatele, dnes však zvládnou i běžně dostupné aplikace a cloudové služby.
U jednodušších podvrhů stačí výměna obličeje a dodatečné sladění světla, stínu a barvy pleti. Sofistikovanější systémy dokážou generovat i hlas, takzvaný voice cloning. Podle společnosti Deepgram a dalších firem z oboru lze přesvědčivý syntetický hlas vytvořit z několika minut nahrávky, někdy dokonce i z kratší vzorku. To je zásadní problém například pro banky a call centra, kde se hlas používá k ověřování identity.
Deepfake nemusí být jen falešné „video celebrity“. V praxi se objevují i zneužití v politice, vydírání, podvodných investičních schématech nebo při napodobování firemních manažerů. V roce 2024 například svět obletěl případ z Hongkongu, kde pracovník firmy podlehl videokonferenci s deepfake verzí kolegů a převedl podvodníkům přibližně 25 milionů dolarů. Šlo o kombinaci falešného videa, hlasu i sociálního inženýrství.
Co prozradí podvrh: pixely, pohyb i metadata
Odhalování deepfake videí je závod mezi zlepšujícími se generátory a stále citlivějšími detektory. Software hledá především nesrovnalosti, které lidské oko často přehlédne. Jde například o nepřirozené blikání, špatně vykreslené zuby, asymetrii obličeje, podivné stínování kolem čelistí nebo nesoulad mezi pohybem rtů a zvukem. V některých případech algoritmy odhalují i jemné chyby v odrazech světla v očích nebo v texturách kůže.
Dalším zdrojem informací jsou metadata souboru: kdy a čím byl videozáznam vytvořen, jak byl komprimován nebo zda prošel úpravou v grafickém programu. Pokud někdo video několikrát exportuje, může se v souboru objevit stopa po kompresních artefaktech nebo podezřelá změna kodeku. To ale není neprůstřelný důkaz. Metadata lze odstranit, změnit nebo ztratit při dalším sdílení na sociálních sítích.
Moderní detektory proto pracují i s časovou konzistencí snímků. Sledují, zda se tvář mění přirozeně mezi jednotlivými framy, jestli se neporušuje geometrie hlavy při pohybu nebo zda se ve videu neopakuje stejný šum a struktura pozadí. U zvuku je důležitá analýza frekvenčního spektra, pauz a intonace. Syntetický hlas bývá velmi čistý, ale právě až příliš hladký průběh může být podezřelý.
Které softwarové nástroje se dnes používají
Na trhu existuje několik skupin nástrojů. Některé jsou určeny pro novináře a fact-checkery, jiné pro bezpečnostní týmy firem nebo technologické platformy. Patří mezi ně například Reality Defender, Sensity AI, Hive Moderation, Microsoft Video Authenticator a také výzkumné nástroje vyvíjené univerzitami a laboratořemi.
Reality Defender se zaměřuje na detekci syntetického obsahu v obrázcích, videích i audiu. Podle firmy pracuje v reálném čase a snaží se vyhodnocovat více typů manipulace najednou. To je důležité právě u útoků, kde se kombinuje falešný obraz s falešným hlasem.
Sensity AI se dlouhodobě profiluje jako nástroj pro monitorování deepfake videí na internetu. Upozorňuje na zneužití v oblasti pornografie, vydírání i dezinformací. Firmy a instituce jej využívají ke sledování veřejného prostoru a k včasnému zachycení podezřelého obsahu.
Hive Moderation nabízí rozhraní pro automatické rozpoznávání synteticky vytvořeného média. Jde o řešení, které lze napojit na platformy zpracovávající velké množství obsahu. Výhodou je rychlost, nevýhodou stejně jako u jiných systémů riziko falešně pozitivních výsledků.
Microsoft Video Authenticator byl představen jako nástroj, který dokáže při analýze videa vyhodnocovat pravděpodobnost manipulace. Microsoft ale zároveň upozornil, že detekce je jen část problému a že stále důležitější je ověřování původu obsahu už při jeho vzniku.
Kromě komerčních řešení se používají i open-source nebo akademické modely, například detektory založené na učení z velkých databází deepfake videí. Ty dokážou velmi dobře fungovat na datech, na kterých byly trénovány, ale jejich přesnost často klesá u nových generativních modelů. To je zásadní slabina: jakmile útočník změní techniku, detektor se může zpožďovat o několik měsíců.
Proč je detekce tak obtížná a kde software selhává
Největším problémem je, že deepfake se vyvíjí rychleji než obranné nástroje. Generátory dnes umějí lépe pracovat s mimikou, pohybem vlasů i s drobnými detaily v pozadí. Zároveň se zvyšuje rozlišení a kvalita komprese, takže mizí dřívější nápadné artefakty. Co bylo před třemi lety zjevně falešné, může dnes na první pohled vypadat věrohodně i při přehrávání na velké obrazovce.
Další slabinou je prostředí sociálních sítí. Video se často znovu komprimuje, ořezává nebo přehrává v nižší kvalitě, což ztěžuje analýzu. Detektor pak pracuje s horším vstupem a může přehlédnout jemné stopy manipulace. Naopak u některých běžných úprav, například prudkého přechodu světla nebo neostrosti, může software označit video jako falešné, i když jde o skutečný záznam.
Právě falešně pozitivní výsledky jsou pro redakce i firmy citlivé téma. Jedna mylná detekce může poškodit důvěru v legitimní obsah, například v autentické videozprávy, záznamy z demonstrací nebo krizové komunikace. Proto se v praxi doporučuje kombinovat automatickou analýzu s ručním ověřením zdroje, datem vzniku, kontextem a případně i s nezávislým potvrzením z dalšího kanálu.
Jak se proti deepfake chrání média, firmy i běžní uživatelé
Redakce, banky i technologické firmy dnes čím dál častěji zavádějí vícevrstvé ověřování. Nejde jen o detekci hotového podvrhu, ale i o prevenci. U videí z důležitých událostí se sleduje původ souboru, řetězec předání a často i takzvané content credentials, tedy digitální podpisy a metadata potvrzující, kdo obsah vytvořil a zda byl po cestě upraven. Význam má také standard C2PA, na němž pracují velké technologické firmy i média.
Běžný uživatel může využít několik jednoduchých pravidel: kontrolovat zdroj videa, sledovat, zda jej zveřejnil důvěryhodný účet, porovnat ho s dalšími záznamy stejné události a být opatrný u obsahu, který vyvolává silnou emoční reakci nebo tlačí na rychlé rozhodnutí. U hlasových podvodů se doporučuje zavést domluvené ověřovací fráze nebo zpětné volání na známé číslo. V podnikovém prostředí se stále častěji prosazuje zásada, že žádný převod peněz nebo změna instrukcí nesmí proběhnout jen na základě jednoho hovoru či videa.
Deepfake video se tak stalo nejen technickým problémem, ale i otázkou důvěry v digitální obsah. Software na jeho odhalování umí zachytit řadu stop, ale stoprocentní jistotu zatím nedává žádný nástroj. V době, kdy lze během několika minut vytvořit přesvědčivý podvrh, má proto stále větší cenu kombinace techniky, ověřování zdrojů a opatrnosti při sdílení čehokoli, co se tváří jako bezchybný důkaz.
