Autopilot Tesly bude rozhodovat o tom, kdo zemře

Opilý spolujezdec, střízlivý Autopilot

Osobně jsem velkým příznivcem rozvoje umělé inteligence, která zvládá sama řídit auto. Představa, že si sednu do auta na zadní sedadlo třeba v podnapilém stavu a auto mě doveze domů, je skvělá. Stejně tak jako idea, že ranní rozvozy potomků do škol a školek budou zajišťovat pokročilé algoritmy, takže rodič s volnou pracovní dobou si bude moci přispat a nebude vázán na začátek první vyučovací hodiny. Samozřejmě bych velmi horoval za to, aby zůstala možnost kdykoliv řízení převzít a povodit si auto po zakroucené okresce pěkně po svém. Věřím ale tomu, že kdyby byla možnost svěřit řízení velmi pokročilému počítači, majorita majitelů aut by si na to velmi ráda zvykla, protože drtivá většina vozů skutečně slouží jen pro přepravu a ne pro radost z řízení.

Kdo to odskáče?

Jakkoliv zní tahle idea naprosto fantasticky, nepochybně jednou skutečně dospějeme do bodu, kdy ale bude muset AI dělat velmi složitá a těžká rozhodnutí. Abych nastínil situaci, která reálně může nastat - vlivem technické závady, poruchy, vnějších okolností, porušením pravidel provozu jeho ostatními účastníky nebo kombinacích některých těchto faktorů se může jedoucí vůz reálně dostat do situace, která nebude mít hezké řešení. Následkem bude vždy nehoda. Teoreticky i prakticky při nehodě dojde ke zranění někoho, eventuálně bude jedna nebo i více obětí na životech.

Dnešní auta už zvládnou nehodu víceméně předvídat a učinit opatření ke zmírnění jejích následků pro posádku. Od dočasného zvýšení brzdného účinku, přes přitažení bezpečnostních pásů, až po samočinně fungující přivolání složek IZS na místo. Jenže řízení je pořád víceméně na řidiči, který je schopen ovlivnit, kam auto narazí.

Také čtěte

2 min. čtení

Tesla Cybetruck je špatně slícovaný mastodont

10. 4. 2024 Jakub Mokříš Aktuality

Pudové jednání

Lidský mozek má tendence řešení promýšlet, ale to první zvolené je vždy na úrovni těch nejnižších pudů a instinktů. Pak postupuje dál a bere v potaz vše ostatní jako morálku, výchovu, zkušenosti nebo třeba „co by tomu řekli sousedi“ a další a další konsekvence z rozhodnutí vyplývající. Má-li mozek málo času učinit rozhodnutí, podlehne tomu nejzákladnějšímu instinktu - přežít. Řidič auta tedy možná přežije, protože strhne řízení, aby se vyhnul kamionu v protisměru, ale za cenu toho, že to odskáče třeba někdo jiný, kupříkladu chodec na chodníku.

AI spočítá, kdo zemře

Umělá inteligence panice ani emocím nepodléhá a rozhoduje se čistě na základě vyhodnocení vstupních dat. Vždy se pokusí zvolit optimální řešení, což je to, které znamená nejméně škod na zdraví i majetku. Jenže co když (a takové nehody už se staly) si musí vybrat? Zabije posádku auta, nebo paní s kočárkem na přechodě? A co když v kočárku není dítě, ale staré železo a paní není maminka, ale drogově závislá? Jak se umělá inteligence rozhodne pak? Bude brát v potaz věk? Zkusí odhadnout přínos daného jedince společnosti? Nebo zabije toho, kdo je podle ní viníkem nehody, která se v příští sekundě stane? Je zde i trochu alibistická varianta, že auto žádný manévr aktivně nepodnikne a pojede prostě rovně za cenu větších škod na životech.

Kdo ji to naučí?

V nejbližších letech, maximálně dekádách, nás čeká neuvěřitelně složitý úkol. Budeme muset nějak nadefinovat, co se bude dít, když všechna řešení budou špatná. Jak to může vypadat v praxi si můžete vyzkoušet sami na webu moralmachine, kde máte učinit řadu morálních rozhodnutí. Schválně si to zkuste! Není totiž vůbec snadné rozhodnout se, jestli je lepší srazit dva kriminálníky, bezdomovce a lékaře, nebo nechat zahynout psa, kočku a dva pasažéry k tomu. Nejblíže těmto dilematům je zatím Tesla. A tuším, že Elon Musk bude mít zase jednou těžké spaní.