Kas bus nužudytas nuo savaeigio automobilio? Mašina, išgelbėk kuo daugiau žmonių, bet svarbiausia – išgelbėk mane!

Jei susiklosto situacija, kai automobilio autonominė sistema turi greitai pasirinkti, ką paaukoti gresiančios avarijos atveju, kaip ji turėtų reaguoti? Aukojate keleivius, kad išgelbėtumėte pėsčiuosius? Jei reikia, nužudyti pėsčiąjį, pavyzdžiui, keturių asmenų šeimą, keliaujančią automobiliu? O gal jis visada turėtų pirmiausia apsisaugoti?

Nors daugiau nei šešiasdešimt įmonių jau gavo leidimus atlikti asmeninius bandymus vien Kalifornijoje, sunku pasakyti, kad pramonė yra pasirengusi susidurti su etinėmis dilemomis. Šiuo metu jis kovoja su elementaresnėmis problemomis – sistemų veikimo ir navigacijos efektyvumu bei tiesiog susidūrimų ir nenumatytų įvykių išvengimu. Tokiose situacijose, kaip neseniai įvykęs pėsčiojo nužudymas Arizonoje ar vėlesnės avarijos (1), iki šiol buvo kalbama tik apie sistemos gedimus, o ne apie kažkokį „etišką automobilio pasirinkimą“.

Gelbėk turtingus ir jaunus

Tokių sprendimų priėmimo klausimai nėra abstrakčios problemos. Bet kuris patyręs vairuotojas gali tai patvirtinti. Praėjusiais metais MIT Media Lab mokslininkai išanalizavo daugiau nei keturiasdešimt milijonų atsakymų iš respondentų iš viso pasaulio, kuriuos surinko 2014 m. pradėto tyrimo metu. Apklausų sistema, kurią jie vadina „etine mašina“, parodė, kad įvairiose vietose aplink pasaulyje, į panašius klausimus užduodami skirtingi atsakymai.

Bendriausios išvados yra nuspėjamos. Ekstremaliose situacijose žmonės teikia pirmenybę žmonių gelbėjimui, o ne gyvūnų priežiūrai, siekia išgelbėti kuo daugiau gyvybių ir yra jaunesni nei pagyvenę žmonės (2). Taip pat yra tam tikrų, bet ne tokių akivaizdžių pirmenybių, kai kalbama apie moterų gelbėjimą, o ne vyrus, aukštesnio statuso žmones, o ne vargingesnius žmones ir pėsčiuosius, o ne automobilių keleivius..

2. Ką automobilis turėtų išgelbėti?

Kadangi beveik pusė milijono respondentų užpildė demografines anketas, jų pageidavimus buvo galima susieti su amžiumi, lytimi ir religiniais įsitikinimais. Tyrėjai padarė išvadą, kad šie skirtumai „neturi didelės įtakos“ žmonių sprendimams, tačiau pastebėjo tam tikrą kultūrinę įtaką. Pavyzdžiui, prancūzai buvo linkę pasverti sprendimus remdamiesi apskaičiuotu mirčių skaičiumi, o Japonijoje dėmesys buvo skiriamas mažiausiai. Tačiau Tekančios saulės šalyje pagyvenusių žmonių gyvenimas vertinamas daug labiau nei Vakaruose.

„Prieš leisdami savo automobiliams patiems priimti etinius sprendimus, turime surengti pasaulines diskusijas šiuo klausimu. Kai įmonės, dirbančios su autonominėmis sistemomis, sužinos apie mūsų pageidavimus, jos remdamosi mašinose sukurs etinius algoritmus, o politikai galės pradėti diegti adekvačias teisines nuostatas“, – 2018 metų spalį žurnale „Nature“ rašė mokslininkai.

Vienas iš tyrėjų, dalyvavusių eksperimente „Moral Machine“, Jeanas-Francois Bonnefontas, mano, kad pirmenybė gelbėti aukštesnio statuso žmones (pavyzdžiui, vadovus, o ne benamius) kelia nerimą. Jo nuomone, tai labai susiję su ekonominės nelygybės lygis tam tikroje šalyje. Ten, kur nelygybė buvo didesnė, pirmenybė buvo teikiama vargšų ir benamių aukojimui.

Vienas iš ankstesnių tyrimų ypač parodė, kad, anot respondentų, autonominis automobilis turėtų apsaugoti kuo daugiau žmonių, net jei tai reikštų keleivių praradimą. Tačiau tuo pačiu respondentai teigė taip užprogramuoto automobilio nepirksiantys. Tyrėjai tai paaiškino nors žmonės mano, kad etiškiau gelbėti daugiau žmonių, jie taip pat yra suinteresuoti, o tai gali būti signalas gamintojams, kad klientai nenoriai pirks automobilius su altruistinėmis sistemomis.. Prieš kurį laiką „Mercedes-Benz“ kompanijos atstovai teigė, kad jei jų sistema išgelbėtų tik vieną žmogų, rinktųsi vairuotoją, o ne pėsčiąjį. Visuomenės protesto banga privertė bendrovę atšaukti deklaraciją. Tačiau tyrimai aiškiai rodo, kad šiame šventame pasipiktinime buvo daug veidmainystės.

Tai jau vyksta kai kuriose šalyse. pirmieji teisinio reguliavimo bandymai lauke. Vokietija priėmė įstatymą, reikalaujantį, kad automobiliai be vairuotojo bet kokia kaina išvengtų sužalojimų ar mirties. Įstatyme taip pat teigiama, kad algoritmai niekada negali priimti sprendimų remdamiesi tokiomis savybėmis kaip amžius, lytis, sveikata ar pėstieji.

Audi prisiima atsakomybę

Visų automobilio eksploatavimo pasekmių dizaineris negali numatyti. Realybė visada gali pateikti kintamųjų derinį, kuris dar niekada nebuvo išbandytas. Tai pakerta mūsų tikėjimą galimybe „etiškai užprogramuoti“ mašiną. Mums atrodo, kad situacijose, kai „dėl automobilio kaltės“ įvyksta klaida ir įvyksta tragedija, atsakomybę turėtų prisiimti sistemos gamintojas ir kūrėjas.

Galbūt šis samprotavimas yra teisingas, bet galbūt ne todėl, kad jis buvo neteisingas. Greičiau todėl, kad buvo leistas judėjimas, kuris nebuvo 2019% laisvas nuo galimybės jį padaryti. Atrodo, kad tai yra priežastis, o bendros atsakomybės nesikrato bendrovė, neseniai paskelbusi, kad prisiims atsakomybę už 8 metų senumo A3 avarijas, kai jame naudojama automatinė eismo kamščių piloto (XNUMX) sistema.

3. Audi Traffic Jam Pilot sąsaja

Kita vertus, yra milijonai žmonių, kurie vairuoja automobilius ir taip pat daro klaidas. Taigi kodėl mašinos, kurios statistiškai daro daug mažiau klaidų nei žmonės, kaip rodo daugybė klaidų, turėtų būti diskriminuojamos šiuo atžvilgiu?

Jei kas nors mano, kad etikos ir atsakomybės dilemos autonominių transporto priemonių pasaulyje yra paprastos, galvokite...