Auto nemůže rozhodovat, koho v mezní situaci zabije. Vznikl první etický kodex pro vozy bez řidiče

Ondřej Běhal
30. 6. 2017 13:36
Pokud se autonomně řízený vůz nemůže vyhnout srážce s lidmi a teoreticky by si mohl vybrat, koho konkrétně srazí, nesmí to udělat. Bude jen intenzivně brzdit. Člověku musí zůstat možnost autopilota vypnout a to i v takových případech, kdy bude po jeho deaktivaci větší pravděpodobnost nehody než při autonomní jízdě. Takové jsou některé ze zásad prvního etického kodexu pro autonomní řízení, které vznikly z práce komise vytvořené na popud německé vlády.
Autonomní řízení. Ilustrační foto.
Autonomní řízení. Ilustrační foto. | Foto: Volvo

Auta, která nás dovezou z bodu A do bodu B, aniž bychom se dotkli volantu, by se měla podle nejnovějších prognóz automobilek poprvé objevit na silnicích po roce 2020. Podle Deutsche Bank ale ještě v roce 2040 nebude tato technologie ani na německých silnicích převládat. Přesto je potřeba se na ni připravit a to i po stránce zákonů a předpisů, v čemž jsou Němci mistři.

Není tedy divu, že na popud německé vlády vznikla komise, která byla podle ministra dopravy Alexandra Dobrindta světovým průkopníkem v přípravě legislativy pro autonomní řízení. Čtrnáctičlenný orgán zahrnoval odborníky s různými typy povolání, která mají k tématu co říci. Šlo o inženýry, právníky, obhájce práv spotřebitelů, teology a filozofy. Členové komise strávili diskuzemi deset měsíců, během nichž také zkoušeli vozy s autonomním řízením. Výsledkem snažení bylo sepsání dvaceti etických směrnic, jimiž by se měla v budoucnu řídit autonomní auta a jejich výrobci.

Nejpalčivějším a mediálně nejzajímavějším tématem samozřejmě je, jak by se měly vozy zachovat v mezních situacích vedoucích ke zranění nebo smrti účastníků provozu. Představme si například neodvratnou kolizi s jedním ze dvou chodců, kteří se nečekaně objevili před vozidlem. To už nemůže bezpečně zabrzdit, ale může si "vybrat", jestli srazí dítě, nebo starce. Jak by se podle komise mělo zachovat?

"Autonomní vozy by neměly přijímat rozhodnutí založená na věku, stáří nebo pohlaví ohrožených osob," objasňuje jeden z členů komise, profesor Christoph Lütge, který se na Technické univerzitě v Minichově zabývá etikou byznysu. "Lidská důstojnost je nedotknutelná," pokračuje Lütge. "Každý lidský život má stejnou hodnotu," doplňuje ho předseda komise, bývalý ústavní soudce Udo di Fabio. Vůz v automatickém režimu by se tak neměl zachovat jako lidský řidič, ale pouze se pokusit co nejintenzivněji brzdit.

Podobné je to u dilematu, zda se by se měl automobil bez řidiče snažit vyhýbat dítěti, které vběhne do úzké silnice, a přitom riskovat, že spadne i s pasažérem do hlubokého srázu nalevo, nebo narazí do skály napravo. "Auto nemůže obětovat řidiče nebo svou posádku. Jediná možnost bude brzdit co nejsilněji, aby následky srážky zmírnilo," tvrdí Lütge.

Je to podobné jako u lidí, jsou situace, které někteří řidiči nezvládnou, a stejně tak jsou situace, které nezvládne ani současná technologie, tvrdí Tomáš Svoboda. Otázkou je podle něj míra rizika.
17:00
Je to podobné jako u lidí, jsou situace, které někteří řidiči nezvládnou, a stejně tak jsou situace, které nezvládne ani současná technologie, tvrdí Tomáš Svoboda. Otázkou je podle něj míra rizika. | Video: Martin Veselovský

Podle komise bude nutné jasně rozlišit, ve kterých situacích leží zodpovědnost za případné škody na "řidiči" a v kterých na vozidle, tedy jeho výrobci případně provozovateli. Vzhledem k tomu, že se tato míra zodpovědnosti může v průběhu cesty měnit, bude nutné podle členů komise dokumentovat každou jízdu a materiál ukládat do černé skříňky jako v letadle kvůli důkazům při vyšetřování.

Členové komise se také nakonec shodli na tom, že technologie v žádném případě nemůže převzít kontrolu nad vozidlem proti vůli řidiče. A to i přes argumenty inženýrů, že lidské intervence sníží bezpečnost jízdy. "Lidé mají základní právo - nejsou povinováni podřídit se strojům. Jinými slovy, vždy musí zůstat zachována možnost autonomní řízení deaktivovat," uvádí profesor Lütge.

 

Právě se děje

Další zprávy