Americká automobilka Tesla zažívá perné týdny. Její vůz se zapnutým asistenčním systémem Autopilot měl nedávno první fatální nehodu. Okamžitě se rozpoutala pro Teslu značně nepříjemná mediální bouře. Někteří američtí právníci už si na případ brousí zuby.

Podle nich totiž fakt, že Tesla před spuštěním Autopilota upozorňuje řidiče, že mají dávat vždy pozor a mít ruce neustále na volantu, u amerických soudů neuspěje. Myslí si totiž, že když něco nazvete "Autopilot", automaticky to evokuje možnost sundat ruce z volantu.

Případ je ale celkově mnohem složitější. Nehoda se udála v okamžiku, kdy vozu Tesla přes cestu kolmo přejížděl kamion s dlouhým bílým návěsem. Právě i nepříliš dobře řešená dopravní křižovatka může být jednou mnoha spolupříčin nehody.

Dlouhý návěs s bílou plachtou senzory vozu nerozpoznaly a nevšiml si ho ani Joshua D. Brown sedící za volantem. Řidič měl samozřejmě dávat pozor, ale podle některých informací sledoval film ze série Harry Potter. Auto do návěsu narazilo a řidič, známý nadšenec pro vozy Tesla, zemřel.

Problematický název

Případ vyvolává množství otázek. Především, zda bylo od Tesly moudré pojmenovat svůj asistenční systém řízení "Autopilot", když zjevně zatím nejde o takovou technologii, která by zvládla řídit auto v každé situaci úplně sama. Přiznává to ostatně bez okolků sama Tesla a nazývá Autopilot "asistenčním systémem".

Její šéf Elon Musk po nehodě slíbit Autopilot vylepšit. Jenže to nestačí a na Teslu se snáší nové a nové nepříjemné zprávy. Objevují se další případy nehod, naštěstí už ne smrtelných, za které je viněn Autopilot. Tesla dělá co může, aby svůj systém obhájila.

Celé to ale trochu připomíná hon na čarodějnice. Jako kdyby mnozí (chtěně či nechtěně) zapomněli, že a) v autě stále byl řidič, který měl povinnost neustále dávat pozor, a b) každý den zemře v autech i bez Autopilota nebo jiného asistenčního systému obrovské množství lidí.

Smrt jako úspěch

Případ první smrtelné nehody systému Tesla Autopilot tak lze vnímat vlastně i jako úspěch. Šlo totiž o první smrtelnou nehodu po 208 milionech kilometrů, které vozy Tesla se zapnutým Autopilotem najely. V USA se přitom smrtelná autonehoda stane průměrně po každých 150 milionech kilometrů a celosvětově je to asi po 100 milionech km.

Zároveň jde ale o předzvěst velkých otázek, které bude třeba u robotických aut vyřešit. Až budou na trhu skutečná robotická auta zvládající samostatně cestu z bodu A do bodu B, kdo bude zodpovědný za případné nehody nebo dokonce úmrtí?

Výrobci takových vozů samozřejmě říkají, že hlavní výhodou robotických aut je právě vyšší bezpečnost a schopnost se smrtelným nehodám zcela vyhnout. Například švédské Volvo oznámilo, že chce během několika let dosáhnout takové stavu, kdy auta této značky nebudou účastníky žádných fatálních dopravních nehod. A podobný cíl mají i další automobilky.

Lidský faktor jako největší hrozba

Plně robotická auta k tomu mají velmi dobré předpoklady. Počítač, který auto řídí, totiž dokáže na případný problém reagovat mnohem rychleji a lépe, než člověk. Schopnosti takového systému úměrně stoupají se stoupajícím počtem dalších robotických vozů na silnici a klesajícím počtem vozů řízených lidmi. Právě lidský element je totiž vždy nevyzpytatelný a de-facto představuje největší hrozbu.

Jenže lidé ze silnic nezmizí. Vždy se může stát, že robotické auto potká během cesty chodce, cyklistu, dítě, rodinu, skupinu. Co když pak nastane taková situace, kdy se auto bude muset "rozhodovat" mezi záchranou života posádky vozidla a ušetřením životů kolemjdoucích? Jak bude v takovém případě jednat?

Na tvůrce budoucích systémů robotického řízení aut čekají opravdu těžké morální, etické a právnické otázky. Vzhledem k tomu, jaké výhody mohou robotická auta přinést, včetně řádově vyšší bezpečnost, ale nelze čekat, že by se na nich jejich vývoj zabrzdil. Spíše přinesou zcela novou perspektivu v mnoha aspektech týkajících se bezpečnosti provozu, zodpovědnosti a počítačové bezpečnosti.

Autor je šéfredaktor www.hybrid.cz.