Boty, kteří jsou na Telegramu k dispozici, může použít v podstatě kdokoliv, ani k tomu nemusí mít žádné technické znalosti. Stačí jen nahrát fotku ženy a chvíli počkat, než ji program zbaví oblečení. "Je to tak jednoduché jako odeslat a přijmout obrázek," popisuje technologický server The Verge.
Některá omezení ale program má - ženy na fotografiích obvykle svleče jen částečně nebo na hotový snímek umístí vodoznak. Pokud mají uživatelé zájem o zcela nahou fotografii, musí zaplatit. Sedmidenní balíček stovky fotografií vyjde v přepočtu na necelých třicet korun.
Měsíčně tyto boty využívají tisíce lidí a k dalším tisícům se fotografie následně dostanou - program totiž do skupiny o zhruba 25 tisících členů pravidelně zasílá galerii obrázků, které nechali jiní uživatelé upravit. Muže ale nesvléká, doplňuje časopis Wired.
Ilustraci toho, jak takový "svlékající bot" funguje, najdete v přiloženém tweetu.
This is a serious problem for people on platforms like Telegram, WhatsApp, etc. Because a picture of yourself is shared easily, not being aware it can become the basis of a deepfake.
— Jeffrey (@jebbery) October 21, 2020
Automating Image Abuse: deepfake bots on Telegram - Sensity https://t.co/xwvbce6bwf pic.twitter.com/ALFemljZmu
Do letošního července boti na Telegramu "svlékli" přinejmenším 104 tisíc žen, celkové číslo bude ale pravděpodobně vyšší. Nová studie společnosti Sensity, která se zaměřuje na hledání podobně upravených fotografií a videí, vycházela pouze z fotografií, které byly veřejně publikovány. Uživatelé ale mohou zvolit i možnost, aby program fotografie upravil pouze soukromě.
"Zřejmě poprvé toto pozorujeme v tak masivním měřítku," popisuje závažnost problému Giorgio Patrini, ředitel společnosti Sensity.
Deepfake ve videích i fotkách
Některé fotografie nejsou vyrobené moc kvalitně a lze na nich poznat, že jsou falešné. Jiné jsou ale podle odborníků poměrně uvěřitelné. Technologie, kterou program využívá, se nazývá deepfake a funguje na bázi umělé inteligence. Ta se nejprve naučí, jak nahé ženské tělo vypadá, a následně je schopná ho do obrázku dosadit.
Technologie vznikla před třemi lety, kdy byla používaná hlavně na pornostránkách k tvorbě videí. V drtivé většině případů se ženami, které k tomu nikdy nesvolily.
Software v tomto případě umí dosadit obličej dané ženy na tělo jiné, často pornoherečky. Na internetu se tak objevila falešná videa s celebritami, jako je Gal Gadotová nebo Emma Watsonová. Takových videí existovalo loni v červenci podle údajů Sensity necelých 15 tisíc, letos je jejich počet více než trojnásobný a dosahuje ke 49 tisícům.
Podobnou aplikaci jako boty na Telegramu pak uživatelé najdou i v obchodě Google Play, který používají chytré telefony s operačním systémem Android, píše Wired. Ta dokáže danou fotografii rozpixelovat, takže postava na ní vypadá nahá. Software využívá i řada webových stránek s placeným členstvím. Kód, ze kterého programátoři mohou aplikaci sami vyrobit, je navíc zcela přístupný na specializovaném serveru GitHub.
Podle Patriniho je však nejproblematičtější právě levný a jednoduchý nástroj na Telegramu. "Klíčový rozdíl je v dostupnosti této technologie," říká.
Kdo a proč to dělá?
Kdo jsou ale lidé, kteří takoví software využívají? Jedna ze skupin, která tyto uživatele sdružuje, si sama udělala průzkum. Loni v červenci zveřejnila výsledky, podle nichž 70 procent uživatelů pochází z Ruska, Ukrajiny, Běloruska, Kazachstánu a dalších zemí bývalého Sovětského svazu. O programu se mnoho z nich dozvědělo na sociální síti VKontakte, v podstatě ruském Facebooku.
Dvě třetiny dotázaných také odpověděly, že především chtějí svléct na fotografiích "své známé z reálného světa". Až na nižších příčkách byly celebrity nebo cizí ženy zveřejňující své fotografie například na Instagramu. "Většinou je zájem o soukromé jedince," potvrzuje Patrini.
Experti v souvislosti s tím varují, že falešné fotografie mohou být použity i k vydírání nebo obtěžování. Někdo si například nechá vyrobit nahou fotografii konkrétní ženy a bude jí vyhrožovat, že ji zveřejní, pokud nesplní jeho požadavky.
Společnost Sensity se zároveň domnívá, že na některých zpracovaných fotografiích jsou nezletilé dívky. Možné porušení zákona ohlásila na policii i provozovateli Telegramu, k zablokování botů však nedošlo.
Spojila se dokonce i s programátorem, který je vytvořil, ten však jakoukoliv odpovědnost odmítl. "Všechno je volně přístupné. Pokud se rozhodnete použít zábavnou aplikaci pro sobecké účely, pak jste za to odpovědní vy," napsal v odpovědi.
"Jde o skličující potvrzení všech obav, které jsme měli hned od začátku, co jsme se o této technologii (deepfake) doslechli," říká ke kauze Mary Anne Franksová, profesorka práv na americké Univerzitě v Miami. "Nezáleží, jestli jste někdy pózovali nazí nebo s někým sdíleli jakákoliv intimní data. Všechno, co jim stačí, je fotografie vašeho obličeje," dodává.
