Měl by autonomní vůz zabít v rámci scénáře o „vyšším dobru“ lidi uvnitř, nebo venku? Odborníci přichází s překvapivým názorem

Představte si situaci, kdy jste v autě s autopilotem a zrovna odbočíte za roh. Jenže zjistíte, že nevyhnutelně míříte ke kolizi se skupinou lidí uprostřed ulice.

i Zdroj fotografie: Pxhere
                   

Ve středu ulice je skupina asi 10 lidí a kolem jen zdi, není tedy kudy ujet a srážce se vyhnout. Nastává základní dilema – má to auto „říznout“ na stranu a najet do zdi, přičemž vás vážně zraní nebo zabije, aby zachránilo onu skupinu? Nebo má naopak ze všech sil zkusit zastavit, i když nevyhnutelně narazí do lidí na ulici, zatímco vy budete v bezpečí? Existuje vůbec v této situaci nějaké „správné řešení“? Problém rozebere tým Jeana-Francoise Bonnefona.

Společenské dilema autonomního vozu

Jde o morální a etické dilema, které v nové studii rozebral tým vědců z Toulouse School of Economics. Trefně podotkli, že nehody tohoto typu jsou u samořídících aut někdy nevyhnutelné. Z toho plyne, že naprogramování vozidla bude hrát klíčovou roli při adaptaci veřejnosti na tento způsob dopravy. Lidé budou zkrátka vědět, co mají očekávat. Pro vědce jde o impozantní výzvu, která určí algoritmy, kterými se autonomní vozy budou řídit.

iZdroj fotografie: Pxhere

Během studie spolupracovali badatelé se stovkami lidí na online diskusním fóru Amazon´s Mechanical Turk, kde jim postupně představili celou řadu scénářů, včetně zmíněného. Stejně tak měnili počet lidí na ulici i uvnitř vozu, jejich věk, zahrnuli děti a tak dále. Výsledky nejspíš nejsou úplně překvapivé, obecně měli lidi tendenci obětovat sami sebe, aby zachránili ostatní. Většina ovšem tuto možnost preferovala tehdy, pokud by nebyli na místě řidiče.

Spíše tendence k sebeobětování

Na stupnici od -50 (tedy zachránit řidiče za všech okolností) do +50 (tedy zachránit co nejvíc lidí) se průběžný výsledek pohyboval na hodnotě +24. Výsledky naznačují, že lidé by preferovali vozidlo, kterému by program velel minimalizovat počty mrtvých během takových nehod. Ovšem právní problémy v této oblasti zůstávají stále jakousi šedou zónou. Budou zavedeny nové předpisy, tedy že auto musí uhnout a vykonat „vyšší dobro“?

iZdroj fotografie: Pxhere

Nebo bude mít vůz tohoto typu různé úrovně morálky? A pokud si kupující bude moct tuto úroveň zvolit, bude nakonec odpovědný za děsivé následky rozhodnutí programu? Tohle všechno jsou další otázky badatelského týmu. Technici ovšem dodávají, že samořídící vozy jsou už z podstaty bezpečnější než lidští řidiči. Což přináší nové dilema – pokud bude mít menšina samořídící vůz, bude umírat víc lidí kvůli nehodám běžných vozů.

Samořídící budoucnost

Existuje jen málo pochybností o tom, že auta řízená počítačem, kde člověk bude jen cestujícím, jsou logickou budoucností pro jakoukoli veřejnou dopravu. Jsou celkově příslibem totální revoluce globální dopravy. Jenže jak zmíněná studie správně poukazuje, je stále potřeba překonat velmi výrazné výzvy, které potřebují mít jasné rozhodnutí. Vývoj etické autonomie vozu je jedním z nejtrnitějších problémů v oblasti umělé inteligence.

iZdroj fotografie: Pxhere

A protože jsme připraveni do těchto technologií investovat miliony, právě tato oblast jejich rozhodovacích příkazů se ukazuje jako zvláště palčivá. Nezdá se totiž, že by v plánu byla možnost z filmu Demolition man, kdy bylo možné prostým příkazem přepnout mezi autopilotem a manuální obsluhou. Tehdy došlo k nafouknutí volantu a převzetí obsluhy člověkem. Ten film toho vůbec předpověděl obrovské množství.

Napadá vás nějaké další řešení?

Zdroj: IFLScience

Diskuze Vstoupit do diskuze
110 lidí právě čte
Tomáš Vaculík
Autor článku

Tomáš Vaculík

Zobrazit další články