Konec soukromí, jak ho známe. Aplikace umí odhalit identitu i náhodného kolemjdoucího

Helena Truchlá Helena Truchlá
24. 1. 2020 6:31
Australský vývojář Hoan Ton-That před lety vymyslel oblíbenou aplikaci, která umožňovala na fotku jakéhokoliv člověka přidat typické světlé vlasy, jaké má americký prezident Donald Trump. Nyní tento programátor přišel s nástrojem na odhalování identity, který může znamenat konec soukromí, jak jsme jej doteď chápali.
Musíme to na chvíli stopnout, varují technologičtí experti.
Musíme to na chvíli stopnout, varují technologičtí experti. | Foto: Reuters

Jeho firma Clearview AI vyvinula aplikaci schopnou rozeznávat obličejové rysy natolik účinně, že na ni spoléhají američtí policisté i tamní ministerstvo vnitřní bezpečnosti. "Dospěl jsem k závěru, že jelikož informací bude neustále přibývat, nikdy nebudeme mít soukromí," řekl listu New York Times David Scalzo, jeden z investorů, kteří aplikaci podpořili. 

Nový program funguje na jednoduchém principu. Fotku libovolné osoby srovná s databází asi tří miliard veřejně přístupných snímků z Facebooku, Instagramu, Twitteru, YouTube a milionů dalších stránek. Vlastníkům aplikace pak zobrazí ty snímky, na kterých vyhledávanou osobu odhalí. Jejich prostřednictvím pak často lze dohledat i její jméno a další citlivé údaje.

Australský vývojář Hoan Ton-That.
Australský vývojář Hoan Ton-That. | Foto: HOAN TON-THAT

Podobnou aplikaci již před čtyřmi lety vyvinuli dva ruští programátoři. Takzvaná FindFace je veřejně dostupná, čerpá ale jen z ruské sociální sítě VKontakte. Na podobné technologii pracuje i většina velkých firem, jako je Google, Facebook nebo Microsoft.

Co dělá Clearview výjimečným, je ale právě třímiliardový zdroj fotografií. Je mnohem obsáhlejší než milionové databáze policistů, výzkumných institutů nebo soukromých společností, před kterými již v minulosti varovali aktivisté.

Americké úřady aplikaci Clearview podle deníku The New York Times používají například k vyšetřování krádeží, vražd, ale také případů sexuálního vykořisťování dětí. "Můžete použít fotky, které nejsou perfektní. Dotyčný na sobě může mít i čepici nebo brýle, být vyfocený z profilu nebo jenom částečně," pochvaluje si program jeden z policistů.

Jen on sám díky Clearview údajně odhalil více než tři desítky podezřelých. Za roční licenci jeho oddělení zaplatilo 10 tisíc dolarů (asi 227 tisíc korun). Nyní ji testují detektivové z FBI i kanadské úřady. 

Zastavme to

Americký list však upozornil, že aplikace umožňuje vývojářům propojit ji i s takzvanými chytrými brýlemi. Osobu, jejíž identitu chce uživatel odhalit, ať už objekt milostného zájmu ve veřejné dopravě, nebo třeba účastníka demonstrace, by tak uživatel hypoteticky nemusel ani fotit, ale jen se na ni přes tyto brýle podívat. 

"Způsobů, jakými se z toho může stát zbraň, je nekonečně mnoho," vyjádřil znepokojení Eric Goldman z Institutu pro právo pokročilých technologií na univerzitě v americké Santa Claře. "Představte si policistu, který chce pronásledovat potenciální partnerky, nebo cizí vládu, která zjišťuje tajnosti o lidech, aby je mohla vydírat nebo zatknout," upozorňuje. 

"Myslím, že musíme tu technologii na chvíli zastavit," je přesvědčená také Meredith Whittakerová z newyorského institutu AI Now. Podle ní musí státy získat čas, aby přijaly potřebné nové zákony. 

Redaktorka New York Times Kashmir Hillová, která fungování aplikace pro tento deník popsala, požádala policisty, aby její snímek s databází Clearview porovnali. "Brzy jim zavolali zástupci firmy a ptali se, jestli mluví s médii. Je to jasná ukázka toho, že ta firma dokáže a také má zájem na tom sledovat, koho bezpečnostní složky vyhledávají," popisuje Hillová. Společnost Clearview to posléze vysvětlila snahou odhalovat "nevhodná vyhledávání". 

S rozšířením aplikace jejímu vývojáři Hoan Ton-Thatovi pomohl Richard Schwartz, někdejší poradce Rudolpha Giulianiho, bývalého starosty New Yorku a současného člena týmu amerického prezidenta Donalda Trumpa. Schwartz, který později pracoval jako vlivný novinář, slíbil, že pro aplikaci získá zákazníky. V roce 2019 podle serveru Pitchbook celý start-up získal zhruba sedm milionů dolarů, tedy asi 158 milionů korun. 

Že aplikace může mít dalekosáhlé dopady, připouští i její podporovatelé. "Zákony musí určit, co je legální. Možná to povede k dystopické budoucnosti nebo něčemu takovému, ale technologii není možné zakázat," je přesvědčený investor David Scalzo, který aplikaci podpořil. 

Raději jen interně

Právě s návrhem na zákaz programu v minulých dnech přišla Evropská komise. Ta chce zastavit uplatňování rozeznávání obličeje na veřejných místech na příští tři až pět let. Podobný zákaz již vydalo například americké San Francisco, ve školách technologii nechtějí Francie a Švédsko. 

Před dvěma lety pak EU zpřísnila pravidla, jaká uživatelská data mohou stránky jako například Facebook shromažďovat. Sociální síť nyní řeší, zda je princip fungování Clearview vůbec legální. Pravidla Facebooku oficiálně zakazují i hromadné stahování fotografií uživatelů. 

Evropské zákonodárce podpořil mimo jiné Sundar Pichai, výkonný ředitel Googlu. Tento technologický gigant by patrně byl schopen vyvinout podobný program jako Clearview. 

Zástupci Googlu se pro opatrné zacházení s touto technologií vyslovují opakovaně. Využívat ji nemohou například ani programátoři a firmy, kterým poskytuje internetové úložiště, takzvaný Google Cloud. Pouze pro interní použití si svou vlastní aplikaci pro rozpoznání tváře schraňuje také Facebook. 

Nesouhlasně současný návrh komise zhodnotil zástupce Microsoftu. "Je jen jeden způsob, jak technologii udělat lepší - a to je ji používat," nechal se slyšet Bradford Smith.

Byl to právě Smith, kdo již dříve vyzval americké zákonodárce, aby na technologii dohlíželi. Vláda Spojených států letos v lednu předpisy omezující využití umělé inteligence zveřejnila a vyzvala Evropu, aby se rovněž zdržela "agresivního přístupu".

Rasismus?

Podle autora programu Ton-Thata aplikace dokáže k nahranému snímku najít odpovídající obsah ve třech čtvrtinách případů a policisté oslovení listem The New York Times si její fungování pochvalují. Experti ale varují, že přesnost odhalení by museli otestovat nezávislí výzkumníci.

Spolehlivost je problém, se kterým se rozpoznávání obličeje potýká dlouhodobě. Technologie víc chybuje například u lidí tmavé pleti nebo u Asijců, méně přesná je u žen.

Ve snaze tento nedostatek vylepšit už v minulosti společnost Google musela vysvětlovat, proč kvůli zlepšení své vlastní technologie na rozeznávání obličeje fotografovala Afroameričany bez domova v americké Atlantě. Později vyšlo najevo, že firmou najatí sběratelé dat si tím nejspíš usnadňovali hledání dobrovolníků tmavé pleti. 

Naopak čínský režim rozpoznávací technologii záměrně využívá k rasovému rozřazování a útlaku muslimské ujgurské menšiny, která v zemi žije. K vylepšování technologie Čína využívá rozsáhlou síť bezpečnostních kamer v ulicích.  

Video: Kamery rozpoznávající obličeje i v Praze? Za pár let by to šlo, říká expert

Dovedu si představit situaci, kdy dojde k nějakému incidentu a policie potřebuje rychle najít konkrétní osobu, říká Martin Urban. | Video: Martin Veselovský
 

Pokud jste v článku zaznamenali chybu nebo překlep, dejte nám, prosím, vědět prostřednictvím kontaktního formuláře. Děkujeme!

Právě se děje

Aktualizováno před 3 hodinami

V Burkině Faso vojáci svrhli prezidenta. O půlnoci se uzavřou hranice a bude rozpuštěna vláda

V Burkině Faso v pátek vojáci svrhli prezidenta Paula-Henriho Damibu, který se v lednu dostal k moci rovněž převratem. Vojáci to oznámili v televizním projevu poté, co obsadili státní televizi a zablokovali přístup k úřadům. O půlnoci se uzavřou pozemní i vzdušné hranice země, přestane platit ústava a bude rozpuštěna vláda, oznámili pučisté podle agentury AFP. Novou hlavou státu je podle vojáků Ibrahim Traoré, uvedla AP.

Z hlavní vojenské základny a v několika obytných čtvrtích v hlavním městě Ouagadougou se dnes rozléhala těžká střelba, v blízkosti prezidentského paláce byl slyšet silný výbuch, uvedla s odkazem na své reportéry na místě agentura Reuters. Několik ozbrojených vojáků v metropoli zaujalo pozice podél třídy vedoucí k sídlu prezidenta. Vojáci podle reportérů také zablokovali přístup k významným budovám, včetně parlamentu, rezidence premiéra a státní televize, která krátce přerušila vysílání.

Vláda během odpoledne na sociálních sítích vyzvala spoluobčany ke klidu a uvedla, že probíhají jednání, napsala agentura AP. "Probíhají jednání o opětovném nastolení klidu," stojí ve vládním prohlášení. "Nepřítel, který útočí na naši zemi, chce pouze rozdělit obyvatele Burkiny Faso," cituje agentura AP příspěvek, který rovněž uvádí, že žádný člen současné vlády nebyl zatčen.

Zdroj: ČTK
Aktualizováno před 5 hodinami

Při výbuchu ve škole v Kábulu zahynulo nejméně 20 lidí

Sebevražedný pumový útok ve škole v šíitské části afghánského Kábulu si v pátek vyžádal nejméně 20 mrtvých a 27 zraněných. S odvoláním na policii o tom informovala agentura Reuters, která snížila předchozí uváděnou bilanci 29 zraněných. Podle Asistenční mise OSN v Afghánistánu (UNAMA) má útok nejméně 24 obětí a 36 raněných, uvedla agentura AFP. Většina obětí jsou dívky, k útoku se zatím nikdo nepřihlásil.

Policejní mluvčí Chálid Zadrán uvedl, že výbuch nastal ve vzdělávacím centru v západní části města, kterou obývají převážně šíitští Hazárové. Tato etnická skupina se v minulosti stávala terčem útoků radikální organizace Islámský stát (IS).

Útok se stal v době, kdy se ve škole konaly přijímací zkoušky. Školy jsou v muslimském Afghánistánu v pátek obvykle zavřené.

Podle očitého svědka útoku jsou oběťmi většinou dívky. Ve třídě sedělo asi 600 studentů, chlapci v zadních řadách a dívky vepředu, tedy blíže dveřím, kterými vešel útočník, uvedla AFP. Chlapec, který byl rovněž ve třídě, uvedl, že nejprve slyšel střelbu. Sebevražedný útočník podle něj nejdřív zastřelil stráže a pak vešel do učebny.

"Ozval se hlasitý výbuch a pak nastal chaos, mnoho studentů, chlapců i dívek, se snažilo z budovy utéct. Byla to strašná scéna. Všichni se strašně báli," řekl agentuře AFP prodavač ze zasažené čtvrti.

Zdroj: ČTK
Aktualizováno před 5 hodinami

Na jihovýchodě Íránu zemřelo při střetech protestujících s armádou 19 lidí

Na jihovýchodě Íránu v provincii Sístán a Balúčestán zemřelo v pátek při střetech protestujících s armádou 19 lidí. Je mezi nimi i provinční zpravodajský důstojník íránských revolučních gard, informovala agentura AFP s odvoláním na státní televizi. Protivládní demonstrace, které se po celém Íránu konají dva týdny, si vyžádaly přes osm desítek obětí.

"Provinční zpravodajský důstojník islámských revolučních gard, plukovník Alí Musáví byl zabit," uvedla státní televize. Podle regionálních úřadů zemřelo při střetech ve městě Záhedán 19 lidí a další dvě desítky utrpěly zranění. Podle agentury AFP státní média předtím informovala o šesti desítkám mrtvých při protivládních protestech, jež trvají od 17. září. Vypukly po úmrtí mladé Íránky kurdského původu Mahsy Amíníové, kterou zatkla mravnostní policie a která na policejní stanici upadla do kómatu a posléze zemřela v nemocnici. Místní úřady tvrdí, že zemřela na infarkt, podle rodiny ji policie zbila.

Íránská média v pátek také informovala, že kvůli protivládním protestům bylo v zemi zatčeno i devět cizinců. Pocházejí mimo jiné z Německa, Polska, Itálie, Francie, Nizozemska a Švédska, podle íránské vlády byli zadrženi během demonstrací či jinde, ale protesty proti vládě podporovali.

Oznámení o zatčení cizinců přišlo den poté, co německá ministryně zahraničí Annalena Baerbocková uvedla, že bude prosazovat sankce EU kvůli zásahům íránských bezpečnostních složek vůči demonstrantům. Brutalitu zásahů tento týden kritizovala například i španělská či francouzská diplomacie nebo lidskoprávní organizace Amnesty International. Rovněž generální tajemník OSN António Guterres vzkázal íránskému režimu, aby se armáda zdržela "nepřiměřeného použití síly", a vyzval k nezávislému vyšetření úmrtí Amíníové.

Zdroj: ČTK
Další zprávy