Кого убьет беспилотный автомобиль? Машина, спаси как можно больше людей, но больше всего спаси меня!

Bí ipò kan bá ṣẹlẹ̀ níbi tí ètò ìdánilẹ́kọ̀ọ́ ti ọkọ̀ ayọ́kẹ́lẹ́ kan ní láti yára yan ẹni tí yóò fi rúbọ nínú ìṣẹ̀lẹ̀ ìjàǹbá tí ó sún mọ́lé, báwo ló ṣe yẹ kí ó ṣe? Ṣe irubọ awọn arinrin-ajo lati fipamọ awọn ẹlẹsẹ-ẹsẹ? Ti o ba jẹ dandan, pa ẹlẹsẹ kan lati da, fun apẹẹrẹ, ẹbi ti mẹrin ti nrin ninu ọkọ ayọkẹlẹ kan? Tabi boya o yẹ ki o nigbagbogbo dabobo ara re akọkọ?

В то время как только в Калифорнии более шестидесяти компаний уже получили разрешение на личное тестирование, трудно сказать, что отрасль готовится столкнуться с этическими дилеммами. На данный момент он борется с более базовыми проблемами — работой и навигационной эффективностью систем и просто предотвращением столкновений и непредвиденных событий. В таких ситуациях, как недавнее убийство пешехода в Аризоне или последующие аварии (1), пока речь шла просто о системных сбоях, а не о каком-то «этическом выборе» машины.

Gba awọn ọlọrọ ati ọdọ

Kwestie podejmowania na drodze tego rodzaju decyzji nie są abstrakcyjnymi problemami. Może to poświadczyć każdy doświadczony kierowca. Naukowcy z MIT Media Lab przeanalizowali w ubiegłym roku ponad czterdzieści milionów odpowiedzi respondentów z całego świata, które zebrali w trakcie badań zainaugurowanych jeszcze w 2014 r. System ankietujący nazwany przez nich «Maszyną Etyczną», wykazał, że w różnych miejscach świata na podobne pytania padają różne odpowiedzi.

Самые общие выводы предсказуемы. В экстремальных ситуациях люди предпочитают спасать людей заботе о животных, стремясь сохранить как можно больше жизней, и, как правило, моложе, чем пожилые люди (2). Есть также некоторые, но не столь явные предпочтения, когда речь идет о спасении женщин перед мужчинами, людей с более высоким статусом перед более бедными и пешеходов, а не пассажиров автомобилей..

2. Кого должна спасти машина?

Níwọ̀n bí ó ti fẹ́rẹ̀ẹ́ tó ìdajì mílíọ̀nù àwọn olùbánisọ̀rọ̀ kún àwọn ìwé ìbéèrè ìbílẹ̀, ó ṣeé ṣe láti ṣàtúnṣe àwọn ohun tí wọ́n fẹ́ràn pẹ̀lú ọjọ́ orí, akọ tàbí abo àti àwọn ìgbàgbọ́ ẹ̀sìn. Awọn oniwadi pinnu pe awọn iyatọ wọnyi ko "ni ipa pataki" awọn ipinnu eniyan, ṣugbọn ṣe akiyesi diẹ ninu awọn ipa aṣa. Faranse, fun apẹẹrẹ, nifẹ lati ṣe iwọn awọn ipinnu lori ipilẹ nọmba ti a pinnu ti awọn iku, lakoko ti o wa ni Japan tẹnumọ ti o kere julọ. Bibẹẹkọ, ni Ilẹ ti Ila-oorun Iwọ-oorun, igbesi aye awọn agbalagba ni idiyele pupọ diẹ sii ju ti Iwọ-oorun lọ.

“Ṣaaju ki a to gba awọn ọkọ ayọkẹlẹ wa laaye lati ṣe awọn ipinnu ihuwasi tiwọn, a nilo lati ni ariyanjiyan kariaye nipa eyi. Nigbati awọn ile-iṣẹ ti n ṣiṣẹ lori awọn eto adase kọ ẹkọ nipa awọn ayanfẹ wa, lẹhinna wọn yoo ṣe agbekalẹ awọn algoridimu ihuwasi ninu awọn ẹrọ ti o da lori wọn, ati pe awọn oloselu le bẹrẹ lati ṣafihan awọn ipese ofin to pe, ”awọn onimọ-jinlẹ kowe ni Oṣu Kẹwa Ọdun 2018 ni Iseda.

Один из исследователей, участвовавших в эксперименте «Моральная машина», Жан-Франсуа Боннефон, счел тревожным предпочтение спасения людей с более высоким статусом (например, руководителей, а не бездомных). По его мнению, это очень сильно связано с уровень экономического неравенства в данной стране. Там, где неравенство было больше, предпочтение отдавалось принесению в жертву бедных и бездомных.

Одно из предыдущих исследований показало, в частности, что, по мнению респондентов, автономный автомобиль должен защищать как можно больше людей, даже если это означает потерю пассажиров. При этом, однако, респонденты заявляли, что не стали бы покупать запрограммированный таким образом автомобиль. Исследователи объяснили, что хотя люди считают более этичным спасать больше людей, они также руководствуются собственными интересами, что может быть сигналом для производителей о том, что клиенты будут неохотно покупать автомобили, оснащенные альтруистическими системами.. Некоторое время назад представители компании Mercedes-Benz заявили, что если бы их система спасала только одного человека, то они бы выбрали водителя, а не пешехода. Волна общественного протеста вынудила компанию отозвать свою декларацию. Но исследование ясно показывает, что в этом святом негодовании было много лицемерия.

В некоторых странах это уже происходит первые попытки правового регулирования в поле. В Германии принят закон, который требует, чтобы автомобили без водителя любой ценой избегали травм или смерти. В законе также говорится, что алгоритмы никогда не могут принимать решения на основе таких характеристик, как возраст, пол, здоровье или пешеходы.

Audi gba agbara

Конструктор не в состоянии предугадать все последствия эксплуатации автомобиля. Реальность всегда может предоставить комбинацию переменных, которые никогда раньше не проверялись. Это подрывает нашу веру в возможность «этичного программирования» машины вообще. Нам кажется, что в ситуациях, когда возникает ошибка и происходит трагедия «по вине автомобиля», ответственность должен нести производитель и разработчик системы.

Возможно, это рассуждение правильно, но, возможно, не потому, что оно было ошибочным. Скорее потому, что было разрешено движение, которое не было на 2019% свободно от возможности его совершения. Похоже, именно в этом и причина, и от общей ответственности не уклоняется компания, недавно заявившая о том, что возьмет на себя ответственность за аварии с участием A8 3 года при использовании в ней автоматической системы Traffic Jam Pilot (XNUMX).

3. Интерфейс Audi Traffic Jam Pilot

С другой стороны, есть миллионы людей, которые водят машины и тоже совершают ошибки. Так почему же машины, которые по статистике совершают гораздо меньше ошибок, чем люди, что подтверждается многочисленными ошибками, должны подвергаться дискриминации в этом отношении?

Ti ẹnikẹni ba ro pe awọn atayanyan ti iṣe ati ojuse ni agbaye ti awọn ọkọ ayọkẹlẹ adase jẹ rọrun, tẹsiwaju ni ironu…