Šajā emuāra ierakstā mēs izpētīsim pašbraucošo automašīnu ētiskās dilemmas un to, kā mēs varam noteikt to atbildību un tehniskos ierobežojumus.
Dzīvē mēs saskaramies ar daudziem konfliktiem. Mēs strīdamies ar cilvēkiem, lai noskaidrotu, kura viedoklis ir pareizs, un mēs domājam, vai mūsu rīcība ir ētiski pareiza. Turklāt mēs apšaubām, kāpēc mums vispār būtu jādara tas, kas ir “ētiski pareizi” un kas ir “pareizi”. Citiem vārdiem sakot, mēs visi ilgojamies zināt, kas mūsu dzīvē ir “pareizi” vai “labi”. Tātad, kas ir ētisks? Mēs varētu sniegt garu un sarežģītu definīciju, bet padomāsim par to kā par kaut ko tādu, ko no mums kā cilvēkiem sagaida, un atcerēsimies iepriekšējo apgalvojumu. Savā dzīvē mēs saskaramies ar daudziem “ētiskiem konfliktiem”.
Pastāv daudz dažādu ētisku konfliktu, ar kuriem mēs saskaramies, taču šajā emuāra ierakstā mēs pievērsīsimies ētikas jautājumiem, kas saistīti ar zinātni un tehnoloģijām. Ar zinātni un tehnoloģijām ir saistīti daudzi ētikas jautājumi. Tomēr ar zinātni un tehnoloģijām saistītie ētikas jautājumi bieži vien koncentrējas uz atbildības jautājumu: "Kurš ir atbildīgs?" Kad tiek izstrādāta tehnoloģija un kāds tās rezultātā cieš, vienmēr ir bijušas debates par to, kurš ir atbildīgs par nodarīto kaitējumu, īpaši, ja tas ir saistīts ar cilvēku, kas vada vai vada mašīnu, vainu var piedēvēt konkrētai grupai vai personai, taču debates turpinās, ja vaina ir neskaidra, piemēram, ja tas ir saistīts ar mākslīgo intelektu.
Kā jau minēts iepriekš, atbildība var būt neskaidra, ja mašīna pieņem autonomus lēmumus un darbības, nevis to vada cilvēks. Pašbraucošas automašīnas ir īpaši izplatīta parādība mūsu ikdienas dzīvē, taču vidusmēra cilvēkam bieži vien nav iespējas dziļi pārdomāt savus ierobežojumus vai ētiskos jautājumus. Tāpēc mēs esam izvēlējušies pašbraucošas automašīnas kā šī raksta tēmu.
Tātad, kādi ir ētiskie jautājumi saistībā ar autonomajām automašīnām? Autonomā automašīna ir automašīna, kas brauc pati bez vadītāja nepieciešamības. Ar autonomajām automašīnām saistītie ētiskie jautājumi kļūst vēl izteiktāki, ja rodas konkrēts kaitējums, piemēram, kāds gūst traumas vai cieš finansiālus zaudējumus. Piemērojot šo jautājumu pašbraucošām automašīnām, rodas jautājums: "Kam būtu jāuzņemas atbildība par pašbraucošu automašīnu nodarīto kaitējumu?"
Pirms šīs tēmas apspriešanas mums jāņem vērā, ka ētiskās atbildības subjekts ir ētiskais aģents. Citiem vārdiem sakot, ētisks aģents izmanto racionālu spriedumu, lai pārdomātu, vai viņa vai viņas rīcība ir pareiza. Ja, neskatoties uz pietiekamu racionālu spriedumu, tiek pieļauta ētiski nosodāma rīcība, persona tiek saukta pie atbildības. Tāpēc mums jāpārbauda, vai autonomos transportlīdzekļus var definēt kā ētiskus aģentus.
Tradicionālajās diskusijās par robotu ētiku tiek pieņemts, ka roboti ir ētiski aģenti, kas darbojas, pamatojoties uz saviem ētikas principiem. Tomēr ir grūti pieņemt, ka autonomie transportlīdzekļi darbojas, pamatojoties uz saviem ētikas principiem un racionālu spriedumu. Tāpēc autonomajiem transportlīdzekļiem ir divas galvenās ētiskās atbildības jomas. Pirmā attiecas uz to, kā pašbraucošas automašīnas var tikt projektētas tā, lai tās pieņemtu lēmumus negadījuma gadījumā. Šī ir klasiska "ētiskā dilemma", piemēram, kura drošībai pašbraucošajai automašīnai vajadzētu dot priekšroku, ja ir neizbēgami, ka kāds gūs traumas – gājējam vai pasažierim? Otrā ir saistīta ar tehniskiem defektiem: kam jāuzņemas atbildība, ja pasažieris vai gājējs gūst traumas ražošanas procesa defekta dēļ?
Apspriežot pašbraucošu automašīnu ētikas jautājumus, pirmais jautājums ir galvenais, tāpēc šajā rakstā uzmanība tiks pievērsta tikai pirmajam jautājumam. Pirmajā jautājumā mēs varam nošķirt divus gadījumus: ⓐ starp braucējiem un gājējiem un ⓑ starp gājējiem. ⓐ problēmu var ilustrēt ar klints gadījumu. Ja autonoms transportlīdzeklis atrodas uz šaura tilta un gatavojas sadurties ar autobusu, kas brauc no pretējā virziena, transportlīdzeklis saskaras ar dilemmu: vai tam turpināt braukt un sadurties ar autobusu, vai arī tam jānobrauc no tilta un jānogalina pasažieri? ⓑ gadījumu var raksturot kā tramvaja dilemmu. Pa sliedēm brauc tramvaja vilciens ar salūzušām bremzēm, un uz sliedēm atrodas pieci strādnieki. Ja vilciens turpina braukt, pieci strādnieki iet bojā. Vilciena vadītājs var pārslēgt sliežu ceļu uz citu sliedi, uz kuras strādā viens strādnieks. Rodas dilemma par to, vai pārslēgt sliedes vai nē: dažu cilvēku upurēšanās daudzu labā vai daudzu cilvēku upurēšanās, lai glābtu dažus.
Tātad, kāds ētikas algoritms pašbraucošām automašīnām jāizvēlas šādā dilemmā? Pastāv trīs galvenās pieejas ētikai mākslīgā intelekta (MI) un robotikas, kā arī autonomo transportlīdzekļu jomā. Tās ir pieeja no augšas uz leju, pieeja no apakšas uz augšu un hibrīda pieeja.
Augšupvērstā pieeja ietver konkrētas ētikas teorijas izvēli un pēc tam skaitļošanas sistēmas prasību analīzi, lai izstrādātu algoritmus un apakšsistēmas, kas var ieviest šo teoriju. Citiem vārdiem sakot, algoritmi tiek ieviesti, pamatojoties uz ētikas teoriju sistēmu, piemēram, Bentama un Milla utilitārismu vai Kanta deontoloģiju. Šajā rakstā mēs aplūkosim utilitārismu un deontoloģiju — divas ētikas teorijas, kas pārstāv lejupvērsto pieeju.
Vispirms aplūkosim utilitārismu. Domājot par utilitārismu, mēs bieži iedomājamies frāzi "lielākā laime lielākajam skaitam". Citiem vārdiem sakot, utilitārā pieeja ņem vērā visu grupas locekļu lietderību. Ja domājam par utilitārismu kā vienu lielu algoritmu, tam var būt daudz apakšalgoritmu. Piemēram, ir apakšalgoritms, kuram lietderības vērtībām jāpiešķir prioritāte. Piemērojot to iepriekš minētajam klints piemēram, autobusā ir vairāk cilvēku nekā pašbraucošajā automašīnā. Tāpēc sadursmes gadījumā ar autobusu pašbraucošā automašīna nokritīs no klints, jo būs jākompensē vairāk medicīnisko izdevumu.
Tomēr reālās pasaules sadursmes situācijā utilitārs algoritms izmantotu apakšalgoritmu, lai izlemtu, kuru sist. Šis upuru "atlases" process var radīt dažādas problēmas, tostarp iespēju pārkāpt 11. grozījumā ietverto vienlīdzības principu. Utilitārismam ir pozitīvs aspekts, jo pašu augšējo algoritmu "lielākā laime lielākajam skaitam" ir viegli datorizēt, taču nav skaidrs, kā aprēķināt katra indivīda lietderību konflikta situācijā, un tas rada fundamentālus jautājumus par cilvēku dzīvību skaitīšanu kā lietderības mēru.
Otrais ir deontoloģiskais aspekts. Deontoloģija apgalvo, ka darbības morālo novērtējumu nosaka tās atbilstība universāli noteiktam “deontiskam imperatīvam” neatkarīgi no tās sekām. Deontiskos imperatīvus var apkopot kā universāluma imperatīvu: “Rīkojieties tā, lai jūsu gribas attiecība vienmēr un vienlaikus būtu universāls likumdošanas princips” un cilvēcības imperatīvu: “Rīkojieties tā, lai cilvēcība, vai nu sevī, vai citos, vienmēr un vienlaikus būtu mērķis un nekad līdzeklis.” Deontoloģiska pieeja iepriekšminētajam klints gadījumam sekotu deontoloģiskajam imperatīvam “nekad neuztveriet cilvēci kā līdzekli mērķa sasniegšanai”. Šajā gadījumā pašbraucoša automašīna neuzskatītu vadītāju vai autobusa pasažierus par “līdzekli”, tāpēc tā censtos pēc iespējas izvairīties no sadursmes, nenovērtējot viņu dzīvību. Ētiskos algoritmus, kuru pamatā ir deontoloģiska pieeja, var uztvert pozitīvi, jo tos var izstrādāt tā, lai noteiktās situācijās tiktu respektēta cilvēka dzīvība.
Tomēr arī deontoloģiskajai pieejai ir daži ierobežojumi. Pirmkārt un galvenokārt, pastāv ierobežojumi, kas izriet no deontoloģisko imperatīvu praktiskas piemērošanas. Piemēram, tā piedāvā "universālus likumdošanas principus", kas rada jautājumu par to, vai pastāv universāli principi, ko var piemērot visās situācijās. Arī universālo principu definēšanas kritēriji var būt subjektīvi. Visbeidzot, ja cilvēka dzīvība tiek uzskatīta par prioritāti visās situācijās, var būt grūti pieņemt ētiskus spriedumus par citiem kaitējumiem.
Papildus līdz šim apspriestajām lejupvērstajām pieejām pastāv arī augšupēja pieeja un hibrīdpieejas. Augšupvērstas pieejas ietver algoritmu izstrādi, kuru pamatā ir empīriski apmācības dati. Tam ir potenciāls labāk darboties reālās situācijās nekā lejupvērstai pieejai, jo algoritms ir veidots tā, lai atspoguļotu empīriskus gadījumus, mācoties no datiem. Savukārt hibrīdpieeja apvieno gan lejupvērstu, gan augšupvērstu pieeju stiprās puses, lai izstrādātu algoritmus, kas pēc savas būtības ir utilitāri, tiecas pēc maksimālas lietderības, un deontoloģiski, ievērojot universālus ētikas principus.
Šajā rakstā aplūkotie autonomo transportlīdzekļu ētiskie jautājumi, visticamāk, kļūs arvien izteiktāki, tehnoloģijām attīstoties, un mums vajadzētu koncentrēt savus centienus uz dažādu pieeju izpēti ētisko dilemmu risināšanai, ar kurām saskarsies autonomie transportlīdzekļi, un uz to ieviešanu praksē.
