Jeho firma Clearview AI vyvinula aplikaci schopnou rozeznávat obličejové rysy natolik účinně, že na ni spoléhají američtí policisté i tamní ministerstvo vnitřní bezpečnosti. "Dospěl jsem k závěru, že jelikož informací bude neustále přibývat, nikdy nebudeme mít soukromí," řekl listu New York Times David Scalzo, jeden z investorů, kteří aplikaci podpořili.
Nový program funguje na jednoduchém principu. Fotku libovolné osoby srovná s databází asi tří miliard veřejně přístupných snímků z Facebooku, Instagramu, Twitteru, YouTube a milionů dalších stránek. Vlastníkům aplikace pak zobrazí ty snímky, na kterých vyhledávanou osobu odhalí. Jejich prostřednictvím pak často lze dohledat i její jméno a další citlivé údaje.
Podobnou aplikaci již před čtyřmi lety vyvinuli dva ruští programátoři. Takzvaná FindFace je veřejně dostupná, čerpá ale jen z ruské sociální sítě VKontakte. Na podobné technologii pracuje i většina velkých firem, jako je Google, Facebook nebo Microsoft.
Co dělá Clearview výjimečným, je ale právě třímiliardový zdroj fotografií. Je mnohem obsáhlejší než milionové databáze policistů, výzkumných institutů nebo soukromých společností, před kterými již v minulosti varovali aktivisté.
Americké úřady aplikaci Clearview podle deníku The New York Times používají například k vyšetřování krádeží, vražd, ale také případů sexuálního vykořisťování dětí. "Můžete použít fotky, které nejsou perfektní. Dotyčný na sobě může mít i čepici nebo brýle, být vyfocený z profilu nebo jenom částečně," pochvaluje si program jeden z policistů.
Jen on sám díky Clearview údajně odhalil více než tři desítky podezřelých. Za roční licenci jeho oddělení zaplatilo 10 tisíc dolarů (asi 227 tisíc korun). Nyní ji testují detektivové z FBI i kanadské úřady.
Zastavme to
Americký list však upozornil, že aplikace umožňuje vývojářům propojit ji i s takzvanými chytrými brýlemi. Osobu, jejíž identitu chce uživatel odhalit, ať už objekt milostného zájmu ve veřejné dopravě, nebo třeba účastníka demonstrace, by tak uživatel hypoteticky nemusel ani fotit, ale jen se na ni přes tyto brýle podívat.
"Způsobů, jakými se z toho může stát zbraň, je nekonečně mnoho," vyjádřil znepokojení Eric Goldman z Institutu pro právo pokročilých technologií na univerzitě v americké Santa Claře. "Představte si policistu, který chce pronásledovat potenciální partnerky, nebo cizí vládu, která zjišťuje tajnosti o lidech, aby je mohla vydírat nebo zatknout," upozorňuje.
"Myslím, že musíme tu technologii na chvíli zastavit," je přesvědčená také Meredith Whittakerová z newyorského institutu AI Now. Podle ní musí státy získat čas, aby přijaly potřebné nové zákony.
Redaktorka New York Times Kashmir Hillová, která fungování aplikace pro tento deník popsala, požádala policisty, aby její snímek s databází Clearview porovnali. "Brzy jim zavolali zástupci firmy a ptali se, jestli mluví s médii. Je to jasná ukázka toho, že ta firma dokáže a také má zájem na tom sledovat, koho bezpečnostní složky vyhledávají," popisuje Hillová. Společnost Clearview to posléze vysvětlila snahou odhalovat "nevhodná vyhledávání".
The first app that allows users to upload a photo of nearly anyone and almost instantly get an ID isn’t from Facebook or Google. It’s from a tiny startup called Clearview AI. pic.twitter.com/uqHcfTcsmw
— Jacob Schulman (@jacobschulman) January 18, 2020
S rozšířením aplikace jejímu vývojáři Hoan Ton-Thatovi pomohl Richard Schwartz, někdejší poradce Rudolpha Giulianiho, bývalého starosty New Yorku a současného člena týmu amerického prezidenta Donalda Trumpa. Schwartz, který později pracoval jako vlivný novinář, slíbil, že pro aplikaci získá zákazníky. V roce 2019 podle serveru Pitchbook celý start-up získal zhruba sedm milionů dolarů, tedy asi 158 milionů korun.
Že aplikace může mít dalekosáhlé dopady, připouští i její podporovatelé. "Zákony musí určit, co je legální. Možná to povede k dystopické budoucnosti nebo něčemu takovému, ale technologii není možné zakázat," je přesvědčený investor David Scalzo, který aplikaci podpořil.
Raději jen interně
Právě s návrhem na zákaz programu v minulých dnech přišla Evropská komise. Ta chce zastavit uplatňování rozeznávání obličeje na veřejných místech na příští tři až pět let. Podobný zákaz již vydalo například americké San Francisco, ve školách technologii nechtějí Francie a Švédsko.
Před dvěma lety pak EU zpřísnila pravidla, jaká uživatelská data mohou stránky jako například Facebook shromažďovat. Sociální síť nyní řeší, zda je princip fungování Clearview vůbec legální. Pravidla Facebooku oficiálně zakazují i hromadné stahování fotografií uživatelů.
Evropské zákonodárce podpořil mimo jiné Sundar Pichai, výkonný ředitel Googlu. Tento technologický gigant by patrně byl schopen vyvinout podobný program jako Clearview.
Zástupci Googlu se pro opatrné zacházení s touto technologií vyslovují opakovaně. Využívat ji nemohou například ani programátoři a firmy, kterým poskytuje internetové úložiště, takzvaný Google Cloud. Pouze pro interní použití si svou vlastní aplikaci pro rozpoznání tváře schraňuje také Facebook.
Nesouhlasně současný návrh komise zhodnotil zástupce Microsoftu. "Je jen jeden způsob, jak technologii udělat lepší - a to je ji používat," nechal se slyšet Bradford Smith.
Byl to právě Smith, kdo již dříve vyzval americké zákonodárce, aby na technologii dohlíželi. Vláda Spojených států letos v lednu předpisy omezující využití umělé inteligence zveřejnila a vyzvala Evropu, aby se rovněž zdržela "agresivního přístupu".
Rasismus?
Podle autora programu Ton-Thata aplikace dokáže k nahranému snímku najít odpovídající obsah ve třech čtvrtinách případů a policisté oslovení listem The New York Times si její fungování pochvalují. Experti ale varují, že přesnost odhalení by museli otestovat nezávislí výzkumníci.
Spolehlivost je problém, se kterým se rozpoznávání obličeje potýká dlouhodobě. Technologie víc chybuje například u lidí tmavé pleti nebo u Asijců, méně přesná je u žen.
Ve snaze tento nedostatek vylepšit už v minulosti společnost Google musela vysvětlovat, proč kvůli zlepšení své vlastní technologie na rozeznávání obličeje fotografovala Afroameričany bez domova v americké Atlantě. Později vyšlo najevo, že firmou najatí sběratelé dat si tím nejspíš usnadňovali hledání dobrovolníků tmavé pleti.
Naopak čínský režim rozpoznávací technologii záměrně využívá k rasovému rozřazování a útlaku muslimské ujgurské menšiny, která v zemi žije. K vylepšování technologie Čína využívá rozsáhlou síť bezpečnostních kamer v ulicích.
