Williamsově zatčení přihlížely jeho žena a dcery ve věku dvou a pěti let. Přestože jim slíbil, že se za chvíli vrátí, strávil v cele třicet hodin.
Policisté ho vyfotografovali, vzali mu otisky prstů a vzorek DNA. Po této proceduře a noci strávené za mřížemi se s ním dva detektivové posadili do výslechové místnosti a položili před něj tři fotografie, které na místě činu zachytila bezpečnostní kamera a na kterých měl podle technologie na rozpoznávání obličejů být on.
Williams, který měl za dva dny oslavit dvaačtyřicáté narozeniny, na fotografii viděl velkého černocha, který se mu podobal pouze postavou, popisuje americký časopis Wired. "Myslíte si, že všichni černoši vypadají stejně?" zeptal se vyšetřovatelů. "Zřejmě se počítač spletl," zněla jejich odpověď.
Robert Williams was handcuffed and hauled away by Detroit police in front of his wife and young girls because of a false face recognition match. Facial recognition is inherently racist technology that has no place in our communities. https://t.co/POYBFMDRMB pic.twitter.com/LYMMCgUPJt
— ACLU of Louisiana (@ACLUofLouisiana) July 1, 2020
Na konci června Williams podal stížnost na detroitskou policii. "Nikdy jsem si nemyslel, že budu muset svým dcerám vysvětlovat, proč jejich tátu zatkli," cituje ho ve své tiskové zprávě Americký svaz pro občanské svobody (ACLU), právnická firma, která ho zastupuje. "Jak někdo vysvětlí dvěma malým dívkám, že se počítač spletl, a policie ho přesto poslechla?"
Rodiče zatím nevědí, jak velký dopad měla příhoda na jejich dcery. Každopádně se mírně proměnily jejich hry. Dívky si prý například hrály na zatýkání - říkaly, že jim otec ukradl věci, a zavřely ho do obývacího pokoje jako do vězení.
Policie tehdy měla proti Williamsovi ještě jeden důkaz. Výpověď bezpečnostní zaměstnankyně vykradeného obchodu, která se jen podívala na předložené fotografie. Na místě činu přitom nebyla.
Naopak policisté nevyšetřovali ani mužovo alibi, polohu jeho mobilního telefonu v době zločinu nebo zda vůbec vlastní oblečení, ve kterém byl zloděj vyfocen. "Důkazy o opaku (jejich verze) - tedy například, že Robert nevypadá jako podezřelý nebo že se v době loupeže vracel z práce 40 minut vzdálené od Detroitu - byly zamítnuty nebo nikdy neprošetřovány," říkají právníci zadrženého Victoria Burton-Harrisová a Phil Mayor.
Bělochovi by se to nestalo
Robert Williams se tak stal prvním potvrzeným člověkem, kterého v USA zatkli na základě chybného identifikování pomocí technologie na rozpoznávání obličejů. "Široký rozsah používání této technologie americkou policií znamená, že i jiní lidé určitě byli - a budou i nadále - špatně identifikováni, pokud ne přímo zatčeni a obviněni ze zločinů, které nespáchali," domnívá se Clare Garvieová, právnička z Centra soukromí a technologií při univerzitě v Georgetownu.
Odborníci však na nespolehlivost technologie, kterou používá jedno ze čtyř policejních oddělení ve Spojených státech, upozorňují už roky. Studie provedené Massachusettským technologickým institutem (MIT) a Národním institutem standardů a technologie ukázaly, že systém dokáže téměř bez chyby rozpoznat muže bílé pleti. V případě Afroameričanů a Asijců se ale systém splete desetkrát až stokrát častěji. Velké problémy má i s rozpoznáním tváří původních obyvatel Ameriky, píše časopis The Atlantic.
V přiloženém tweetu se můžete podívat, jaké chyby systém dělá.
Is artificial intelligence racially biased?
— Channel 4 News (@Channel4News) May 17, 2019
MIT computer scientist Joy Buolamwini says the data used to programme facial recognition software are predominantly white and male - meaning the technology can fail to distinguish the features of predominantly black women. pic.twitter.com/hdRceQt0Bu
Využívání této technologie proto některá americká města už zakázala. Prvním bylo loni kalifornské San Francisco a následovaly Cambridge a Boston ve státě Massachusetts.
Chybovosti si je vědoma i policie státu Michigan, pod kterou ta detroitská spadá. Sama uvádí, že výsledky této metody nejsou "pozitivním rozpoznáním", a tím pádem nemohou být důvodem k zatčení. "Když přidáte rasistickou a nefunkční technologii do rasistického a nefunkčního právního systému, dostanete rasistické a nefunkční výsledky," doplňují Williamsovi právníci.
Williams spolu s ACLU nyní požadují, aby se technologie přestala u policie používat. Stejně tak chtějí smazat mužovy údaje a fotografii z databáze, kterou systém spravuje. Williams se tam dostal stejně jako dalších 49 milionů Američanů, aniž by s tím souhlasil. Fotografie si systém bere z databáze řidičských průkazů, sociálních sítí nebo ze záběrů z demonstrací.
Jak píše americký deník New York Times, Williamsův případ měl už přece jen dopad. Mluvčí detroitské policie uvedla, že sbor přehodnotí typy případů, u kterých technologii využívá. Zaměří se jen na podezřelé z násilných trestných činů.
Policie už technologii nedostane
Po protestech, které vyvolala smrt Afroameričana George Floyda, oznámily firmy Amazon a Microsoft, že dočasně přestanou prodávat technologie na rozpoznávání obličejů americké policii. Společnosti už ale neuvedly, zda to platí i pro vyšetřovací orgány, jako je Federální úřad pro vyšetřování (FBI) a Úřad pro potírání drog (DEA).
Natrvalo chce od prodeje upustit i technologická společnost IBM. Deník New York Times však uvádí, že jde spíše o symbolické gesto, protože firmy nemají největší podíl na trhu. Nejčastěji technologie na rozpoznávání obličejů pochází od firem jako Cognitec, NEC nebo Clearview AI.
