"Počítač se spletl." Policie zatkla špatného muže kvůli technologii na poznání tváře

Jana Václavíková Jana Václavíková
11. 7. 2020 8:56
Letos v lednu přijela policie v americkém Detroitu k domu Roberta Williamse, Afroameričana, o kterém byla přesvědčena, že před 15 měsíci ukradl několik hodinek v hodnotě tisíců dolarů. Důkazy pocházely od technologie na rozpoznávání obličejů. Jak se však o několik hodin později ukázalo, muž byl nevinný. Stal se tak prvním člověkem mylně zatčeným kvůli chybě této technologie.
Ilustrační foto z Číny.
Ilustrační foto z Číny. | Foto: China Daily via REUTERS

Williamsově zatčení přihlížely jeho žena a dcery ve věku dvou a pěti let. Přestože jim slíbil, že se za chvíli vrátí, strávil v cele třicet hodin.

Policisté ho vyfotografovali, vzali mu otisky prstů a vzorek DNA. Po této proceduře a noci strávené za mřížemi se s ním dva detektivové posadili do výslechové místnosti a položili před něj tři fotografie, které na místě činu zachytila bezpečnostní kamera a na kterých měl podle technologie na rozpoznávání obličejů být on. 

Williams, který měl za dva dny oslavit dvaačtyřicáté narozeniny, na fotografii viděl velkého černocha, který se mu podobal pouze postavou, popisuje americký časopis Wired. "Myslíte si, že všichni černoši vypadají stejně?" zeptal se vyšetřovatelů. "Zřejmě se počítač spletl," zněla jejich odpověď. 

Na konci června Williams podal stížnost na detroitskou policii. "Nikdy jsem si nemyslel, že budu muset svým dcerám vysvětlovat, proč jejich tátu zatkli," cituje ho ve své tiskové zprávě Americký svaz pro občanské svobody (ACLU), právnická firma, která ho zastupuje. "Jak někdo vysvětlí dvěma malým dívkám, že se počítač spletl, a policie ho přesto poslechla?"

Rodiče zatím nevědí, jak velký dopad měla příhoda na jejich dcery. Každopádně se mírně proměnily jejich hry. Dívky si prý například hrály na zatýkání - říkaly, že jim otec ukradl věci, a zavřely ho do obývacího pokoje jako do vězení.

Policie tehdy měla proti Williamsovi ještě jeden důkaz. Výpověď bezpečnostní zaměstnankyně vykradeného obchodu, která se jen podívala na předložené fotografie. Na místě činu přitom nebyla.

Naopak policisté nevyšetřovali ani mužovo alibi, polohu jeho mobilního telefonu v době zločinu nebo zda vůbec vlastní oblečení, ve kterém byl zloděj vyfocen. "Důkazy o opaku (jejich verze) - tedy například, že Robert nevypadá jako podezřelý nebo že se v době loupeže vracel z práce 40 minut vzdálené od Detroitu - byly zamítnuty nebo nikdy neprošetřovány," říkají právníci zadrženého Victoria Burton-Harrisová a Phil Mayor.

Bělochovi by se to nestalo

Robert Williams se tak stal prvním potvrzeným člověkem, kterého v USA zatkli na základě chybného identifikování pomocí technologie na rozpoznávání obličejů. "Široký rozsah používání této technologie americkou policií znamená, že i jiní lidé určitě byli - a budou i nadále - špatně identifikováni, pokud ne přímo zatčeni a obviněni ze zločinů, které nespáchali," domnívá se Clare Garvieová, právnička z Centra soukromí a technologií při univerzitě v Georgetownu. 

Odborníci však na nespolehlivost technologie, kterou používá jedno ze čtyř policejních oddělení ve Spojených státech, upozorňují už roky. Studie provedené Massachusettským technologickým institutem (MIT) a Národním institutem standardů a technologie ukázaly, že systém dokáže téměř bez chyby rozpoznat muže bílé pleti. V případě Afroameričanů a Asijců se ale systém splete desetkrát až stokrát častěji. Velké problémy má i s rozpoznáním tváří původních obyvatel Ameriky, píše časopis The Atlantic

V přiloženém tweetu se můžete podívat, jaké chyby systém dělá.

Využívání této technologie proto některá americká města už zakázala. Prvním bylo loni kalifornské San Francisco a následovaly Cambridge a Boston ve státě Massachusetts.

Chybovosti si je vědoma i policie státu Michigan, pod kterou ta detroitská spadá. Sama uvádí, že výsledky této metody nejsou "pozitivním rozpoznáním", a tím pádem nemohou být důvodem k zatčení. "Když přidáte rasistickou a nefunkční technologii do rasistického a nefunkčního právního systému, dostanete rasistické a nefunkční výsledky," doplňují Williamsovi právníci. 

Williams spolu s ACLU nyní požadují, aby se technologie přestala u policie používat. Stejně tak chtějí smazat mužovy údaje a fotografii z databáze, kterou systém spravuje. Williams se tam dostal stejně jako dalších 49 milionů Američanů, aniž by s tím souhlasil. Fotografie si systém bere z databáze řidičských průkazů, sociálních sítí nebo ze záběrů z demonstrací.

Jak píše americký deník New York Times, Williamsův případ měl už přece jen dopad. Mluvčí detroitské policie uvedla, že sbor přehodnotí typy případů, u kterých technologii využívá. Zaměří se jen na podezřelé z násilných trestných činů.

Policie už technologii nedostane

Po protestech, které vyvolala smrt Afroameričana George Floyda, oznámily firmy Amazon a Microsoft, že dočasně přestanou prodávat technologie na rozpoznávání obličejů americké policii. Společnosti už ale neuvedly, zda to platí i pro vyšetřovací orgány, jako je Federální úřad pro vyšetřování (FBI) a Úřad pro potírání drog (DEA). 

Natrvalo chce od prodeje upustit i technologická společnost IBM. Deník New York Times však uvádí, že jde spíše o symbolické gesto, protože firmy nemají největší podíl na trhu. Nejčastěji technologie na rozpoznávání obličejů pochází od firem jako Cognitec, NEC nebo Clearview AI.

Video: Trump je rasista. Bílá Amerika ať je ráda, že černoši chtějí jen rovnoprávnost, říká Pivec

Bílá Amerika se po Afroameričanech od nepaměti vozí. Trump nastolil dojem, že je v pořádku projevovat se xenofobně, míní hudebník žijící v New Yorku. | Video: Emma Smetana
 

Právě se děje

před 2 hodinami

Polský prezident Duda řekl, že navrhne mírnější znění protipotratového zákona

Polský prezident Andrzej Duda navrhne parlamentu mírnější znění nového návrhu protipotratového zákona, který se má zpřísnit po verdiktu ústavního soudu. Ten rozhodl, že přerušení těhotenství v případě poškození plodu odporuje ústavě, podle Dudy by ale měly mít na interrupci právo ženy, jejichž nenarozené dítě má závažné vývojové vady.

Duda se snahou o mírnější postup v případě interrupcí odchýlil od stanoviska konzervativního vedení katolické země. Prezident chce prosadit, aby ženy mohly podstoupit potrat v případě, kdy lékařská vyšetření ukážou tak závažné poškození plodu, že by se dítě narodí mrtvé nebo zemře krátce po porodu. "Doufám, že v této věci nastane politický konsensus," uvedl Duda.

Minulý týden ústavní soud, složený převážně ze soudců nominovaných vládnoucí stranou Právo a spravedlnost (PiS), shledal, že přerušení těhotenství z důvodu poškození plodu odporuje ústavě. Na tyto případy podle statistik připadalo 98 procent legálních potratů v minulých letech. Povoleny zůstávají interrupce v případě ohrožení života či zdraví matky, anebo pokud je těhotenství důsledkem znásilnění či incestu.

Zdroj: ČTK
Další zprávy