Zakladatel start-upu na vývoj umělé inteligence Megvii před lety i rovnou popsal, jak by systém mohl fungovat: technologie by analyzovala velké množství videí z bezpečnostních kamer a hledala by opakující se vzorce chování. Pokud by vyhodnotila, že se někdo chová zvláštně, označila by ho za podezřelého a upozornila policii.
Šlo by o případy, kdy by například někdo trávil hodně času na nádraží a hrozilo by, že je ve skutečnosti kapsář. Policie by pak vyhodnotila, jestli má dotyčného vyšetřovat.
"Kdyby za těmi kamerami seděl člověk, bylo by to děsivé. Ale sedět tam bude systém. Je to jako vyhledávač, který každý den používáme na internetu - je velmi neutrální," vysvětloval Jin Čchi. S takovou technologií by se podle něj "zločinci neměli kam schovat".
Svůj plán, připomínající zápletku sci-fi knihy a filmu Minority Report, po letech proměnil v realitu. V popisu jednoho z produktů společnosti Megvii stojí, že mnohorozměrná databáze ukládá obličeje, fotografie, auta nebo záznamy o nehodách a software je následně analyzuje, aby "našel obyčejné lidi, kteří vypadají nevinně", a tak "potlačil nelegální činy už v zárodku".
S informací, že software používá už čínská policie, nyní přišel americký deník New York Times, který za poslední rok prozkoumal více než 100 tisíc dokumentů. V nich byly například požadavky čínských místních vlád nebo policejních složek, které sháněly technologické firmy, jež by jim vytvořily počítačový program k zajištění bezpečnosti. Město Čung-šan například chtělo software, který by analyzoval zvuky a hlasy zachycené bezpečnostními kamerami s mikrofony a dosahem minimálně 90 metrů. Systém pak měl být schopný přiřadit jednotlivé hlasy k danému člověku.
Sledování duševně nemocných i disidentů
Systému je těžké uniknout. Bezpečnostní kamery jsou kromě ulic také v obchodních centrech, dopravních prostředcích nebo hotelech. Odborníci oslovení New York Times se domnívají, že z miliardy kamer, které na světě jsou, je jich více než polovina v Číně.
Bezpečnostní složky kontrolují také pohyb mobilních telefonů, skenují duhovky nebo odebírají vzorky DNA, a to i od Číňanů, kteří nemají žádnou trestnou minulost. Na sbírání dat policie nepotřebuje žádné povolení.
The New York Times studied China’s surveillance capabilities by examining more than 100,000 government bidding documents.
— The New York Times (@nytimes) June 21, 2022
China’s ambition to collect personal data is more expansive and invasive than previously known, our investigation found.https://t.co/I56kVq7n4p
Systém od firmy Megvii navíc zdaleka není jediný. Řada z nich umí široce pracovat s daty a vzájemně je propojovat. Pokud je tak u někoho uvedeno, že trpí duševní nemocí, a zároveň se takový člověk přiblíží ke škole, policie může dostat varování na podezřelé chování. To samé se týká i lidí, kteří se v minulosti zúčastnili protivládní demonstrace.
Jedním z vytipovaných "potížistů" se stal třeba čtyřiasedmdesátiletý Čang Jü-čchiao, který většinu svého života žádá pomocí petic o odškodnění za mučení, jemuž byli během Kulturní revoluce v minulém století vystaveni jeho rodiče. Dříve mu prý stačilo, když se vyhnul hlavním silnicím, a tudíž i kamerám, a dostal se do hlavního města. Teď musí vypínat mobilní telefon, platit všude v hotovosti nebo si najímat soukromé řidiče, kteří vědí, jak se vyhnout policejním kontrolám.
A pokaždé, když si mobilní telefon vypne, ho podle jeho slov policie přijde zkontrolovat.
Přímo na petičníky míří technologie další čínské firmy Hikvision, kterou používá město Tchien-ťin sousedící s Pekingem. Program sbírá informace o vztazích lidí, co petici už někdy podali, zkoumá jejich bývalé cesty po Číně a analyzuje, jaká je jejich situace v soukromí. Policisté například mohou zanést data o náladě dotyčného - že působí popudlivě nebo paranoidně. Systém má pak za úkol předvídat vznik demonstrací, kterým se především Peking chce vyhnout.
Hlídají cizince i lidi s HIV
Mluvčí firmy Megvii říkají, že cílem jejich programu je udělat život bezpečnější a pohodlnější. Zároveň odmítli, že by šlo o "monitorování určité skupiny nebo jedinců". To však analýza amerického listu vyvrací. Právě produkt této firmy monitoruje rovnou několik jasně vymezených skupin - zmíněné lidi s duševními problémy, ale také osoby s kriminální minulostí nebo s historií užívání drog.
Pak existují i ještě užší seznamy zaměřené nejen na konkrétní disidenty, ale také etnické menšiny, cizince nebo lidi s HIV. Anebo skupiny přesně opačné: takové, které mají programy ignorovat.
"Lidé, kteří potřebují ochranu soukromí nebo VIP ochranu", píše se v jednom z analyzovaných dokumentů. V jiném se přímo uvádí, že má jít o vládní představitele.
"Úřady ve skutečnosti neřeší problémy, ale udělají cokoliv pro to, aby umlčely ty, kdo o problémech mluví. Je to velký krok zpátky ve společnosti," myslí si petičník Čang.
Neviditelná klec
Jenže co když se umělá inteligence mýlí? A jak to lze poznat, když vlastně jen předpovídá? Maya Wangová z lidskoprávní organizace Human Rights Watch se domnívá, že ačkoliv to zjistit nejde, bude mít systém na Číňany stejný účinek, jako kdy byl zcela účinný. Množství nepokojů a stejně tak zločinů může kvůli strachu obyvatel klesnout. "Jde o neviditelnou technologickou klec," hodnotí.
S tím souhlasí i Noam Yuchtman, který se Číně a tamnímu sledování obyvatel věnuje. Podle něj to může velmi dobře fungovat jako nástroj k zastrašování. "Prostor pro disent, už dříve omezený, rychle mizí," uzavírá deník New York Times.
