Umělá inteligence jako zbraň. Čína utlačuje muslimské Ujgury díky novým technologiím

Adéla Očenášková Adéla Očenášková
24. 4. 2019 8:45
Čínské technologické giganty budují ve spolupráci s vládou v Pekingu takzvaný automatizovaný rasismus. S tímto zjištěním přišel americký deník The New York Times, podle něhož Čína používá umělou inteligenci k tomu, aby rozpoznala, který obyvatel země je příslušníkem muslimské menšiny Ujgurů.
Ujguři, kteří utekli z Číny do Turecka, protestují proti čínskému režimu. V rukách mají vlajku Východního Turkestánu, kterým se dnes rozumí Ujgurská autonomní oblast Sin-ťiang.
Ujguři, kteří utekli z Číny do Turecka, protestují proti čínskému režimu. V rukách mají vlajku Východního Turkestánu, kterým se dnes rozumí Ujgurská autonomní oblast Sin-ťiang. | Foto: Reuters

Čínský režim podle informací listu The New York Times operuje s rozsáhlým tajným systémem pro pokročilé rozpoznávání obličejů. Počítačová technologie, která je zabudovaná v síti pouličních kamer, rozlišuje, jestli je daný člověk Ujgur, nebo ne. Podle amerického deníku jde o vůbec první důkaz, že nějaký stát využívá umělou inteligenci k rasovému profilování.

Americký list získal přístup k některým spisům čínské policie a také dokumentům týkajícím se státních zakázek na dodání zmiňované technologie. Prošel také reklamní materiály společností, které systém vytváří. A především mluvil s pěti lidmi, kteří důvěrně znají fungování čínského systému umělé inteligence. Kvůli obavám o bezpečnost si však přáli zůstat v utajení. 

Fakt, že si čínský režim v represi vůči muslimské menšině Ujgurů vypomáhá kromě převýchovných táborů také technologiemi, není novinka. Čína shromažďuje v rozsáhlých databázích jejich vzorky DNA nebo jiné osobní údaje.

Dosud ale nebylo jasné, v jak rozsáhlé míře se Peking uchýlil i k použití umělé inteligence. Americký deník navíc zjistil, že ji využívá nejen v autonomní oblasti Sin-ťiang, kde většina Ujgurů žije.

Policie používá technologii na rozpoznávání obličeje i na východě země, namátkou ve městech Chang-čou nebo Wen-čou. Podle policejních databází, ke kterým se The New York Times dostal, jde celkem o více než dvacet policejních oddělení v Číně, a to v šestnácti různých provinciích a regionech.

Například v městské prefektuře San-men-sia použili nástroj pro pokročilé rozpoznávání obličeje více než pětsetkrát za měsíc.

Systém ještě není dokonalý

"Když vytvoříte technologii, která dokáže klasifikovat lidi podle etnické příslušnosti, najde se někdo, kdo to zneužije k utiskování daného etnika," je přesvědčená Clare Garvieová, která pracuje v bezpečnostním oddělení na americké Georgetownské univerzitě. 

Ujguři se většinou vzhledově liší od od většinové čínské populace Chanů. To umělé inteligenci jen usnadňuje určit, jestli daná osoba patří k tomuto turkickému etniku. 

Dva nejmenované zdroje nicméně uvedly, že systém v praxi stále pokulhává. Podle nich hodně záleží na tom, v jakém úhlu se zrovna nachází kamera nebo jak silné světlo v danou chvíli venku panuje.

Existenciální hrozba pro demokracii

Na umělé inteligenci, která pomáhá odhalovat Ujgury, se podílí start-upové firmy Megvii, SenseTime, Yitu a CloudWalk. Poslední dvě zmiňované společnosti se k novému zjištění odmítly vyjádřit. Firma Megvii uvedla, že systém je komerční, a nikoliv politickou záležitostí a jeho cílem je bezpečnost každého obyvatele. Start-up SenseTime si pak není vědom toho, že by se jeho umělá inteligence používala k profilování lidí.

Minimálně firma Yitu by však se svým podnikáním v budoucnu ráda prorazila i v zahraničí. "Nemyslím si, že je to zveličování, když to označíme za existenciální hrozbu pro demokracii," varuje v souvislosti s tím Jonathan Frankle, který se v americkém Massachusettském technologickém institutu (MIT) zabývá umělou inteligencí. 

Deník The New York Times připomíná v souvislosti s kauzou také "přešlap" americké společnosti Amazon. Ta chtěla vybírat nové zaměstnance pomocí umělé inteligence. Posléze se ale ukázalo, že systém nedokázal rozpoznat ženy a lidi s tmavou barvou pleti, a tak jejich životopisy často "vyškrtl".

Jennifer Lynchová z neziskové organizace Electronic Frontier Foundation, která se zabývá mimo jiné právy spotřebitelů na internetu, ale upozorňuje, že se tento případ stále nedá srovnávat s Čínou. V USA podle ní sice může jít o projev zakořeněného rasismu. "Neexistuje tu ale žádný systém, který by měl například identifikovat Afroameričany," upozorňuje Lynchová. 

Video: Čína je jako sci-fi, mají neuvěřitelné technologie na špehování lidí, je to největší bratr, říká Přibáň

V Číně se potvrzují nejhorší noční můry, jsou tam tábory, do kterých vás strčí a nikdo nezjistí, co se stalo. Podle odhadů je tam až milion lidí | Video: Emma Smetana
 

Právě se děje

Další zprávy