Pokročilé asistenční systémy, které by jednou měly nahradit živé řidiče, zatím nejsou spolehlivé. Učí se z okolního provozu, a tak logicky nejlépe zvládají manévry, které se opakují často. Čím méně obvyklá situace, tím je to slabší.
Srážku s chodkyní ze 3. října v San Francisku si umělá inteligence skutečně neměla jak natrénovat. Ženu totiž nejdříve nabralo jiné auto řízené nepozorným člověkem a náraz ji vymrštil do vedlejšího pruhu. Tam právě přijíždělo autonomní vozidlo firmy Cruise.
Pohyb chodkyně se zcela vymykal všemu, co se mohou počítače naučit z běžného provozu, a reakční čas byl mimořádně krátký. Dalšímu nárazu nejspíše nešlo předejít a nikdo z něj nemůže vinit systém firmy Cruise.
Jenže tím to neskončilo. Když vůz ženu přejel předním kolem, počítač pochopil, že je něco špatně, a zareagoval tak, jak ho kdysi naprogramovali. Před zastavením navedl auto ke straně vozovky, aby nepřekáželo provozu. Ženu namačkanou pod podlahou táhlo dalších šest metrů a najelo na ni ještě zadním kolem, zpod něhož ji vyprostili až hasiči.
Nehoda v centru města, kvůli níž policie uzavřela celou ulici, se ihned dostala na obrazovky televizí a firma Cruise nasadila obvyklé postupy k udržení dobrého jména. "O nehodě jsme hned informovali úřady a předali jim všechny podklady včetně videa z palubní kamery," tvrdili zástupci.
Jenže to nebyla pravda. Manažer odpovědný za vztahy s úřady nehodu oznámil kalifornské komisi pro dopravu a komunikace. Tvrdil však, že auto po srážce s chodkyní neprodleně zastavilo. Také video z kamery vydal Cruise úřadům až po dvou týdnech, a to až na jejich přímou výzvu.
Záznam z palubní kamery Cruise promítl i několika zástupcům médií. Pustil jim však pouze ukázku, která skončila okamžikem srážky. Nešlo posoudit, co se dělo potom. Nedal jim také oprávnění video zveřejnit ani šířit.
V listopadu firma veškerý provoz autonomních i vzdáleně řízených vozidel ve Spojených státech zastavila a ze svých míst odstoupili dva nejdůležitější lidé: ředitel Kyle Vogt a technický manažer Daniel Kan. Minulý týden úřady předvolaly zástupce Cruise na slyšení a zveřejnily dokument, podle něhož firma zamlčela důležité okolnosti nehody a vydávala zavádějící veřejná prohlášení.
Reputační následky dopadají i na koncern General Motors, který start-up Cruise před sedmi lety koupil a nyní ho provozuje. Ve firmě teď proběhla čistka, při níž vyletělo dalších sedm manažerů.
Je to u ní už druhá negativní událost. Už loni jedno z bezpilotních aut havarovalo v křižovatce. Vjelo do cesty vozu, který nečekaně pokračoval rovně z odbočovacího pruhu a navíc jel nepřiměřeně rychle. Zatímco živý člověk by strhl řízení ke straně a srážce se nejspíše vyhnul, elektromobil Cruise zůstal uprostřed křižovatky stát.
Oba příklady ukazují, že problematika řízení auta je mnohem složitější než prosté přečtení značek, ovládnutí předpisů a udržování bezpečného odstupu. Ostatní účastníci předpisy nedodržují a vyvolávají situace, v nichž počítač nemá dost času na reakci.
A pak je tu špatně vyhodnocené dilema, zda je důležitější vysvobodit chodkyni pod autem, nebo zajet ke straně vozovky. Což je typická ukázka situace, na kterou počítač vůbec není připraven a nemá podle čeho se rozhodnout.
Konkurenční firma Waymo, která v několika městech provozuje dálkově řízené taxíky, se dosud do podobných potíží nedostala a chlubí se dvěma miliony kilometrů bez vážných nehod. Může jít ovšem o shodu náhod, protože auta Cruise ani jednu z nehod nezavinila sama.
Popsané potíže jistě nezastaví vývoj samořiditelných aut. Povedou však nejspíše k důkladnějšímu dozoru nad jejich chováním v reálném provozu. K čemuž směřují americké autority obecně, jak naznačuje současný požadavek federálního úřadu NHTSA, aby Tesla i v režimu asistované jízdy lépe zajistila trvalou pozornost řidiče.
