nahoru

Etika samořídicích aut: Jak by měl správně zabíjet robot?

30. března 2018 • 17:00
Jak se mají chovat roboti, řešíme už od 16. století u Golema.
Jak se mají chovat roboti, řešíme už od 16. století u Golema.
• foto: 

V tištěném Reflexu najdete rozhovor s naším předním etikem, doktorem Davidem Černým, který se zabývá i etikou automatů – robotů. Rozhovor je podnětný a znepokojující a nastoluje takové otázky, jako koho má samořídicí auto v případě nehody zabít. Můj názor je jednoduchý.

Pan doktor Černý v rozhovoru nastoluje témata, ale nedává jasné odpovědi – ty odpovědi totiž nejsou ještě naší vědě a naší etice známy, musíme je najít, vydiskutovat a pak nějak horko těžko akceptovat. Ta diskuse bude dlouhá, bude plná emocí a gest, ale jednou k nějakému řešení dojít musíme. Totiž v případě, že opravdu chceme samořídicí auta.

Podle doktora Černého se nehodovost po jejich zavedení do provozu sníží o devadesát procent. Robot bude samozřejmě dělat řádově méně chyb. Ale i když pomineme možnost, že udělá chybu samořídicí auto samo, tak bude docházet k nehodám způsobeným chodci. Ti totiž chybují mnohem častěji než robot. A tak v reálném provozu bude dříve nebo později robot muset řešit Sofiinu volbu.

Koho zabít

Modelová situace je jednoduchá. Na dvouproudé silnici s hustým provozem jede samořídicí vůz. Provoz je hustý v obou směrech, nelze přejet do protisměru, protože tam jedou auta. V tu chvíli se robot přiblíží ke kandelábru, který stojí u silnice. A zpoza kandelábru mu přímo pod chladič vyběhne chodec. Počítač řídící robota má volbu: Buď zabije toho chodce – je rozjetý a smrt je jistá, nebo to píchne do onoho kandelábru a zabije svého řidiče. Jak budou stroje takováto dilemata řešit?

Kaliforňané napadají autonomní vozidla bez řidičů. Přibývá i napadení dalších robotů

Doktor Černý v rozhovoru hovoří o možných strategiích, které může auto vykonat. Buď se může řídit účelovým rozhodováním – to jest zachová se tak, aby zabilo co nejmenší počet obětí bez ohledu na jejich zavinění nehody. Nebo se naopak bude chovat jako tank a bude ze všech sil chránit svou posádku bez ohledu na škody a úmrtí, která nastanou vně vozu. Jak se ale opravdu má to auto zachovat, to zatím v podstatě nevíme, o tom diskutují etici i marketéři těchto přicházejících strojů.

Etických teorií je hodně, ale jak o rozhovoru s panem doktorem přemýšlím – je to už nějaký čas, co jsme ho pořizovali – tak se nemohu rozhodnout pro žádnou. Nejspravedlivější mi přijde strategie „poslední spravedlivý“ – to jest, že by měl zahynout v podobné situaci, jakou jsem modelově popsal, ten, který porušil předpisy. Zdá se, že by takové „superetické“ auto stranilo tomu, kdo se zachová správně, tak, jak se má.

Vážným problémem bude robotizace, řada lidí se neuplatní, říká kandidát na prezidenta …

V praxi má tato teorie ovšem jednu závažnou slabinu, a to zvlášť pro lidi jako já, kteří jsou výhradně chodci a auto (ani samořídicí) neřídí. V případě, že by robot rozhodl zabít toho, kdo porušil dopravní předpisy, byl by mrtvý prakticky vždy chodec, protože robot předpisy dodržuje. Takže by v podstatě automaticky při nastíněné modelové situaci umíral chodec. Což se mi moc nelíbí.

A co los?

A tak mně jako asi nejsprávnější, nejspravedlivější a především nerozdílné od reality, kdy neřídí roboti, ale lidé, připadá řešení losem. Že by podobně jako v situaci, kdy řídí živý člověk, převzala rozhodující roli bohyně Náhoda. Podobně jako v realitě nikdy nevíte, jestli když vám někdo vběhne pod chladič, volant strhnete do kandelábru a zahynete, nebo pojedete dál a zahyne chodec. Přes veškerou iracionalitu takového řešení mi ale los připadá jako nejsprávnější řešení podobné krizové situace

Rozhovor s doktorem Davidem Černým si přečtěte v tištěném Reflexu č. 13, který vyšel ve čtvrtek 29. března.

Reflex 13/2018

Sexuálním robotům se nevyhneme: Čeká nás umělá prostituce i prázdninové resorty se…
Ekonom Vladimír Pikora: Budeme světová špička – v likvidaci profesí





Diskuse ke článku

 

Kurzy měn
25,960
22,760
29,200
Nejčtenější komentáře
INFO.CZ
E15
Nejčtenější