Čínský režim podle informací listu The New York Times operuje s rozsáhlým tajným systémem pro pokročilé rozpoznávání obličejů. Počítačová technologie, která je zabudovaná v síti pouličních kamer, rozlišuje, jestli je daný člověk Ujgur, nebo ne. Podle amerického deníku jde o vůbec první důkaz, že nějaký stát využívá umělou inteligenci k rasovému profilování.
Americký list získal přístup k některým spisům čínské policie a také dokumentům týkajícím se státních zakázek na dodání zmiňované technologie. Prošel také reklamní materiály společností, které systém vytváří. A především mluvil s pěti lidmi, kteří důvěrně znají fungování čínského systému umělé inteligence. Kvůli obavám o bezpečnost si však přáli zůstat v utajení.
Fakt, že si čínský režim v represi vůči muslimské menšině Ujgurů vypomáhá kromě převýchovných táborů také technologiemi, není novinka. Čína shromažďuje v rozsáhlých databázích jejich vzorky DNA nebo jiné osobní údaje.
Dosud ale nebylo jasné, v jak rozsáhlé míře se Peking uchýlil i k použití umělé inteligence. Americký deník navíc zjistil, že ji využívá nejen v autonomní oblasti Sin-ťiang, kde většina Ujgurů žije.
Policie používá technologii na rozpoznávání obličeje i na východě země, namátkou ve městech Chang-čou nebo Wen-čou. Podle policejních databází, ke kterým se The New York Times dostal, jde celkem o více než dvacet policejních oddělení v Číně, a to v šestnácti různých provinciích a regionech.
Například v městské prefektuře San-men-sia použili nástroj pro pokročilé rozpoznávání obličeje více než pětsetkrát za měsíc.
Systém ještě není dokonalý
"Když vytvoříte technologii, která dokáže klasifikovat lidi podle etnické příslušnosti, najde se někdo, kdo to zneužije k utiskování daného etnika," je přesvědčená Clare Garvieová, která pracuje v bezpečnostním oddělení na americké Georgetownské univerzitě.
Ujguři se většinou vzhledově liší od od většinové čínské populace Chanů. To umělé inteligenci jen usnadňuje určit, jestli daná osoba patří k tomuto turkickému etniku.
Dva nejmenované zdroje nicméně uvedly, že systém v praxi stále pokulhává. Podle nich hodně záleží na tom, v jakém úhlu se zrovna nachází kamera nebo jak silné světlo v danou chvíli venku panuje.
Existenciální hrozba pro demokracii
Na umělé inteligenci, která pomáhá odhalovat Ujgury, se podílí start-upové firmy Megvii, SenseTime, Yitu a CloudWalk. Poslední dvě zmiňované společnosti se k novému zjištění odmítly vyjádřit. Firma Megvii uvedla, že systém je komerční, a nikoliv politickou záležitostí a jeho cílem je bezpečnost každého obyvatele. Start-up SenseTime si pak není vědom toho, že by se jeho umělá inteligence používala k profilování lidí.
Minimálně firma Yitu by však se svým podnikáním v budoucnu ráda prorazila i v zahraničí. "Nemyslím si, že je to zveličování, když to označíme za existenciální hrozbu pro demokracii," varuje v souvislosti s tím Jonathan Frankle, který se v americkém Massachusettském technologickém institutu (MIT) zabývá umělou inteligencí.
Deník The New York Times připomíná v souvislosti s kauzou také "přešlap" americké společnosti Amazon. Ta chtěla vybírat nové zaměstnance pomocí umělé inteligence. Posléze se ale ukázalo, že systém nedokázal rozpoznat ženy a lidi s tmavou barvou pleti, a tak jejich životopisy často "vyškrtl".
Jennifer Lynchová z neziskové organizace Electronic Frontier Foundation, která se zabývá mimo jiné právy spotřebitelů na internetu, ale upozorňuje, že se tento případ stále nedá srovnávat s Čínou. V USA podle ní sice může jít o projev zakořeněného rasismu. "Neexistuje tu ale žádný systém, který by měl například identifikovat Afroameričany," upozorňuje Lynchová.
