"Z investice několika tisíců korun až tři čtvrtě milionu měsíčně na účtě." Alespoň to slibovali v tzv. deepfake videu (označení pro realistickou úpravu videa - pozn. red.) na sociální síti Facebook prezident Petr Pavel a moderátor Michal Půr občanům, pokud začnou používat speciální investiční aplikaci. Než bylo video ze sítě staženo, získalo přes 400 tisíc zhlédnutí, a stalo se tak jedním z nejúspěšnějších podvodných videí českého internetu.
"Bylo velmi uvěřitelné. I pro mě byla technická stránka videa už tak dokonalá, že to šlo jen velmi těžko rozpoznat," upozorňuje Svoboda na to, že falešná videa jsou čím dál víc propracovaná. Ve volně dostupných a uživatelsky přátelských programech je dnes dokáže vyrobit prakticky každý za téměř nulové náklady.
"Je to až směšně jednoduché. Do online aplikací lze video nahrát, změnit text. Aplikace dneska už dokáže odstranit původní hlas z videa, člověk si tam může nahrát vlastní text, který se pak syntetizuje hlasem mluvčího i se zachováním intonace," popisuje proces odborník, podle kterého se ti, kteří chtějí podvod rozpoznat, mají raději soustředit na jeho nerealistický obsah, a nikoliv formu.
Svoboda upozorňuje, že lze jen těžko hledat nástroje, jak falešná videa ve veřejném prostoru odhalit pomocí technologie. Dokonce i samotný Facebook nechal mnohokrát nahlášený deepfake dlouho bez odezvy. "Je to vždycky taková hra, kdo bude o ten krok napřed, a obávám se, že to nemá řešení. Nemyslím si, že někdy budeme mít dostatečně silný nástroj pro to, abychom vždy poznali, jestli to je, nebo není fake," vysvětluje.
