Fenomén deepfake

Člověk minimálně čtyři pětiny informací z okolního světa přijímá prostřednictvím zraku. Právě zrak nám umožňuje rychle a efektivně zpracovávat velké množství informací, což je klíčové pro naši orientaci a přežití. Co vidíme na vlastní oči, tomu zpravidla i věříme. Respektive nemáme důvod nevěřit. I proto je například videoobsah vůbec nejdůvěryhodnějším mediálním a komunikačním formátem.

Jenže, co když je video falešné a osobnost v něm dělá nebo sděluje něco, co ve skutečnosti nikdy neudělala a neřekla? Co když jde o takřka dokonalou digitální kopii člověka, která s vámi dokáže v reálném čase i komunikovat, dokonce svým hlasem, a vy nic nepoznáte?

Technologie deepfake videí je fascinující, ale zároveň nejspíš největší internetovou výzvou, před kterou dosud lidstvo stálo. Podle odborníků nastupuje fenomén, který bude pro velkou většinu lidí zcela nepochopitelný, uvrhne je do zmatku, rozklíží jejich důvěru v cokoliv. A také je učiní zranitelnými vůči různým podvodníkům a šmejdům.

Deepfake využívá pokročilé algoritmy umělé inteligence a strojového učení k vytváření neuvěřitelně realistických, ale falešných videí a audionahrávek. Umí manipulovat s obličeji, gesty a hlasy. Deepfaky se obvykle vytvářejí pomocí techniky zvané „generativní adversariální sítě“, která umožňuje trénování modelů na základě obrovského množství audiovizuálních dat.

Tato technologie, která dokáže zcela falešná prohlášení politiků předkládat tak věrohodně, že nejsou de facto rozeznatelná od reality, dokáže snadno měnit veřejné mínění, způsobovat politické krize, šířit nenávist a v důsledku i ovlivňovat demokratické volby. Deepfake dokáže vytvářet pornografický materiál s aktéry, kteří o tom ani nevědí, což může mít devastující dopad na pověst a osobní život obětí. Zároveň je to mimořádná příležitost ke kyberšikaně a vydírání.

Jsme teprve na začátku, ale co se týče podvodů, už dnes se ve světě dějí věci naprosto nepředstavitelné.

Například CNN v únoru 2024 popsala případ zaměstnance nadnárodní firmy z Hongkongu, který převedl 25 milionů dolarů podvodníkům, protože mu k tomu při videomeetingu dal pokyn finanční ředitel společnosti. Propracovaný podvod spočíval v tom, že muž se na základě falešné výzvy připojil na briefing se svým nadřízeným a kolegy, ale všechny, které na monitoru viděl, a s nimiž komunikoval, vytvořila umělá inteligence.

Muž měl sice určité pochybnosti o neobvyklém požadavku ředitele, kterého neznal a který byl z londýnské centrály společnosti, ale vždyť přece ostatní účastníci videokonference vypadali a zněli jako jeho kolegové, které poznával.

O rafinovanosti podvodů pomocí deepfake videí hovoří i případ společnosti GymBeam, kdy po svém kolegovi při videohovoru požadoval bankovní údaje výkonný ředitel firmy. Právě jeho podobu včetně hlasu vytvořila umělá inteligence. Většinu hovoru moderoval externí právník, rozumějme podvodník, kterého ředitel v úvodu schůzky představil.

Většina Čechů neví, co to je deepfake

S tímto zjištěním přišli výzkumníci z projektu CEDMO v březnu 2024. Z tří tisíc lidí, kterých se zeptali, co to deepfake je, jich správně odpovědělo jen 41 procent.

41 %

5 %

Zdánlivě reálný, umělou

inteligencí vytvořený obraz,

video nebo zvuk něčeho,

co se nezakládá na pravdě

Chatbot (tzv. komunikující robot),

který vytváří u lidí falešnou

představu, že mluví s někým jiným

2 %

Systém postavený na umělé

inteligenci, který zaznamenává

a chrání informace v online prostředí

51 %

2 %

Nevím

Počítačový program, který se

tváří, jako by lidé používali

internet z jiného místa

41 %

51 %

Zdánlivě reálný, umělou inteligencí vytvořený obraz, video nebo zvuk něčeho, co se nezakládá na pravdě

Nevím

2 %

Systém postavený na umělé inteligenci, který zaznamenává a chrání informace v online prostředí

2 %

Počítačový program, který se tváří, jako by lidé používali internet z jiného místa

5 %

Chatbot (tzv. komunikující robot), který vytváří u lidí falešnou představu, že mluví s někým jiným

Zdroj: CEDMO Trends

Vše prasklo ve chvíli, kdy falešný ředitel uvedl, že bude mít dva týdny dovolenou. A to se jeho podřízenému zdálo podezřelé, protože se ten den oba potkali v práci. Šéfovi tedy okamžitě napsal zprávu. „Ten den jsem ho potkal v kanceláři, a proto mi v průběhu hovoru napsal na firemním Slacku. Okamžitě jsem mu řekl, že na žádném videohovoru nejsem,“ popisoval výkonný ředitel na síti LinkedIn.

S důvěřivostí lidí však pracují i mnohem méně propracované podvody. Zpravidla se snaží nalákat oběti na investování peněz do falešných investičních portálů či kryptoměn. A známe je i z Česka.

V dubnu 2023 médii proběhla zpráva o podvodnících, kteří na portálu YouTube lákali lidi pomocí deepfake videí s prezidentem Petrem Pavlem či premiérem Petrem Fialou k výhodnému investování. Pro větší důvěryhodnost pak známá jména politiků šejdíři zkombinovali s firmou ČEZ.

„Naletěli jsme, byli jsme důvěřiví. Ale ty metody… Oni se umí vloudit, zmanipulovat, dá se říct i zhypnotizovat, že uděláte úplné hlouposti a dojdete až k úplnému finančnímu vyčerpání. Nejsme hloupí, ale řeknu upřímně: Stydíme se,“ svěřil se muž redakci Seznam Zprávy, který s manželkou na falešnou reklamu naletěl. Pár do podvodného investování vložil přes milion korun výměnou za bezcennou fiktivní kryptoměnu. Podle policie nebyli jediní, kteří těmto konkrétním podvodníkům naletěli.

Že podobných podvodů a počet okradených bude se zdokonalováním a stále větší kvalitou a dostupností technologie deepfake přibývat, není pochyb.

Deepfake videa zkrátka představují vážnou hrozbu pro důvěryhodnost informací a soukromí jednotlivců. Je potřeba, aby technologické firmy vyvinuly co možná nejúčinnější nástroje pro jejich detekci a prevenci. A zároveň je nezbytné, aby co nejvíce lidí vědělo o jejich existenci a nebezpečích, která s sebou přinášejí. I proto redakce Aktuálně.cz spolu se společností Gen připravila tento materiál.

Nebezpečí deepfake videí v bodech

Politici budou pomocí deepfake očerňovat své konkurenty, bojí se tři čtvrtiny Čechů

Skoro tři čtvrtiny Čechů si myslí, že politici a politické strany začnou využívat deepfake k očernění svých politických konkurentů. Dvě třetiny lidí se dále domnívají, že deepfake budou používat také majitelé médií, a to k tendenčnímu prezentování informací. Vyplývá to z průzkumu agentury Median pro institut CEDMO z května 2024.

Lidé u médií případné využívání deepfake očekávají o trochu méně než u politiků. I tak se ale dvě třetiny lidí domnívají, že majitelé médií deepfake využívat budou. Pouze šestina lidí si myslí, že tomu tak nebude. I v tomto případě s tím nejméně souhlasí ti, kterým je 16 až 24 let.