Stačí nahrát fotografii známé a čekat. Nebezpečný program "svlékl" už sto tisíc žen

Jana Václavíková Jana Václavíková
7. 11. 2020 20:40
Aplikace na posílání zpráv Telegram je známá díky šifrované komunikaci, která nabízí uživatelům větší soukromí. Zároveň na ní fungují tzv. boti, automatizované účty s různým účelem. Jak se ale v posledních měsících ukázalo, někteří z nich dokážou na přání odstranit z fotografií žen jejich oblečení a dokreslit nahá těla.
Telegram - ruská komunikační služba
Telegram - ruská komunikační služba | Foto: Reuters

Boty, kteří jsou na Telegramu k dispozici, může použít v podstatě kdokoliv, ani k tomu nemusí mít žádné technické znalosti. Stačí jen nahrát fotku ženy a chvíli počkat, než ji program zbaví oblečení. "Je to tak jednoduché jako odeslat a přijmout obrázek," popisuje technologický server The Verge.

Některá omezení ale program má - ženy na fotografiích obvykle svleče jen částečně nebo na hotový snímek umístí vodoznak. Pokud mají uživatelé zájem o zcela nahou fotografii, musí zaplatit. Sedmidenní balíček stovky fotografií vyjde v přepočtu na necelých třicet korun. 

Měsíčně tyto boty využívají tisíce lidí a k dalším tisícům se fotografie následně dostanou - program totiž do skupiny o zhruba 25 tisících členů pravidelně zasílá galerii obrázků, které nechali jiní uživatelé upravit. Muže ale nesvléká, doplňuje časopis Wired.

Ilustraci toho, jak takový "svlékající bot" funguje, najdete v přiloženém tweetu.

Do letošního července boti na Telegramu "svlékli" přinejmenším 104 tisíc žen, celkové číslo bude ale pravděpodobně vyšší. Nová studie společnosti Sensity, která se zaměřuje na hledání podobně upravených fotografií a videí, vycházela pouze z fotografií, které byly veřejně publikovány. Uživatelé ale mohou zvolit i možnost, aby program fotografie upravil pouze soukromě. 

"Zřejmě poprvé toto pozorujeme v tak masivním měřítku," popisuje závažnost problému Giorgio Patrini, ředitel společnosti Sensity. 

Deepfake ve videích i fotkách

Některé fotografie nejsou vyrobené moc kvalitně a lze na nich poznat, že jsou falešné. Jiné jsou ale podle odborníků poměrně uvěřitelné. Technologie, kterou program využívá, se nazývá deepfake a funguje na bázi umělé inteligence. Ta se nejprve naučí, jak nahé ženské tělo vypadá, a následně je schopná ho do obrázku dosadit. 

Technologie vznikla před třemi lety, kdy byla používaná hlavně na pornostránkách k tvorbě videí. V drtivé většině případů se ženami, které k tomu nikdy nesvolily.

Software v tomto případě umí dosadit obličej dané ženy na tělo jiné, často pornoherečky. Na internetu se tak objevila falešná videa s celebritami, jako je Gal Gadotová nebo Emma Watsonová. Takových videí existovalo loni v červenci podle údajů Sensity necelých 15 tisíc, letos je jejich počet více než trojnásobný a dosahuje ke 49 tisícům. 

Podobnou aplikaci jako boty na Telegramu pak uživatelé najdou i v obchodě Google Play, který používají chytré telefony s operačním systémem Android, píše Wired. Ta dokáže danou fotografii rozpixelovat, takže postava na ní vypadá nahá. Software využívá i řada webových stránek s placeným členstvím. Kód, ze kterého programátoři mohou aplikaci sami vyrobit, je navíc zcela přístupný na specializovaném serveru GitHub.

Podle Patriniho je však nejproblematičtější právě levný a jednoduchý nástroj na Telegramu. "Klíčový rozdíl je v dostupnosti této technologie," říká.

Kdo a proč to dělá?

Kdo jsou ale lidé, kteří takoví software využívají? Jedna ze skupin, která tyto uživatele sdružuje, si sama udělala průzkum. Loni v červenci zveřejnila výsledky, podle nichž 70 procent uživatelů pochází z Ruska, Ukrajiny, Běloruska, Kazachstánu a dalších zemí bývalého Sovětského svazu. O programu se mnoho z nich dozvědělo na sociální síti VKontakte, v podstatě ruském Facebooku.

Dvě třetiny dotázaných také odpověděly, že především chtějí svléct na fotografiích "své známé z reálného světa". Až na nižších příčkách byly celebrity nebo cizí ženy zveřejňující své fotografie například na Instagramu. "Většinou je zájem o soukromé jedince," potvrzuje Patrini.

Experti v souvislosti s tím varují, že falešné fotografie mohou být použity i k vydírání nebo obtěžování. Někdo si například nechá vyrobit nahou fotografii konkrétní ženy a bude jí vyhrožovat, že ji zveřejní, pokud nesplní jeho požadavky.

Společnost Sensity se zároveň domnívá, že na některých zpracovaných fotografiích jsou nezletilé dívky. Možné porušení zákona ohlásila na policii i provozovateli Telegramu, k zablokování botů však nedošlo.

Spojila se dokonce i s programátorem, který je vytvořil, ten však jakoukoliv odpovědnost odmítl. "Všechno je volně přístupné. Pokud se rozhodnete použít zábavnou aplikaci pro sobecké účely, pak jste za to odpovědní vy," napsal v odpovědi.

"Jde o skličující potvrzení všech obav, které jsme měli hned od začátku, co jsme se o této technologii (deepfake) doslechli," říká ke kauze Mary Anne Franksová, profesorka práv na americké Univerzitě v Miami. "Nezáleží, jestli jste někdy pózovali nazí nebo s někým sdíleli jakákoliv intimní data. Všechno, co jim stačí, je fotografie vašeho obličeje," dodává. 

Video: Nebezpečná zábava: Populární aplikace nahrává videomontážím deepfake

Asociál: DeepFakes | Video: Jan Hrušovský, Jakub Zuzánek
 

Právě se děje

před 19 minutami

Japonská sonda se vzorky z asteroidu přistane příští týden

Kapsle se vzorky odebranými loni z asteroidu Rjugu japonskou sondou Hajabusa 2 se dostane na Zemi už koncem příštího týdne. V neděli 6. prosince časně ráno místního času přistane v jihoaustralské písečné poušti, napsal zpravodajský server ScienceAlert.

Hajabusa 2 se vydala na cestu k planetce ze základny na jihu Japonska začátkem prosince před šesti lety. Ke svému cíli dorazila v polovině roku 2018, po letu vesmírem trvajícím tři a půl roku. Na podzim téhož roku pak zahájila plnění záměru celého projektu - hledat stopy původu Sluneční soustavy.

Vědci podle webu ScienceAlert předpokládají, že kapsle se 100 miligramy materiálu z planetky přistane v poušti státu Jižní Austrálie mezi 03:30 a 04:30 místního času (17:30 a 18:30 SEČ). Na základně australského královského letectva ve městě Woomera se už více než týden na tento okamžik pilně připravují, především na pátrání po kapsli a na její následnou přepravu do Japonska.

Zdroj: ČTK
Další zprávy