Vem ska vara den självkörande bilens moraliska kompass?

VISA ALLA BILDER I GALLERI

Det är ingen tvekan om att självkörande bilar kommer att bli verklighet en dag, och jag skulle hävda att de redan är här i vissa avseenden. Liksom all ny banbrytande teknik kommer självkörande bilar inte bara att orsaka osynliga konsekvenser - som att kanske minska antalet organdonatorer genom att drastiskt minska antalet dödsolyckor - utan också orsaka lagliga och lagstadgade krav.

Kommer det att vara okej för en berusad person att använda en självkörande bil för att komma hem från en fest? Kan föräldrar skicka sina barn till skolan varje dag i ett autonomt fordon, som de gör med en mänskeldriven buss? Och naturligtvis vem kommer att ha fel när en självkörande bil kraschar?

Dessa är alla frågor som så småningom kommer att besvaras - och juridiska forskare och andra arbetar redan med dem. Men självkörande bilar kommer också att erbjuda moraliska dilemma som "vagnsproblemet", en filosofisk fråga som har diskuterats i årtionden och har fått förnyad uppmärksamhet nu när maskiner som självkörande bilar kommer att bli ombedda att fatta moraliska beslut. Enkelt uttryckt ifrågasätter det huruvida det är motiverat att offra en persons liv så att många andra kan leva.

Det filosofiska salongspelet får sitt namn från ett scenario där en person måste bestämma sig för att dra en spak vid en Y-korsning och avleda en vagn till ett spår som en person är bunden för att rädda fem personer som är bundna till andra spår. I det verkliga livet kan det gälla klibbiga frågor såsom huruvida tortyr är berättigat för att rädda den större befolkningen från terrorattacker. Men det kan bli ett verkligt problem för inte bara tillverkare av självkörande bilar och lagstiftare, utan också för passagerare.

VISA ALLA BILDER I GALLERI

Robotbloggen Robohub tog Trolley-problemet och använde det på självkörande bilar i form av tunnelproblemet. En autonom bil på en ensidig bergsväg håller på att gå in i en tunnel när ett barn passerar precis innanför ingången reser och faller. Fortsätter bilen rakt och springer över barnet, eller svänger den och träffar endera sidan av tunnelentrén?

Robohub undersökte sina läsare inte bara om hur bilen ska reagera i detta scenario, utan också vem som borde bestämma hur bilen ska reagera. Medan undersökningen endast inkluderade 113 deltagare (20 kvinnor och 93 män och 43 procent var mellan 25 och 34 år), var svaren intressanta. Och i vissa fall överraskande.

De flesta av deltagarna (64 procent) bestämde sig för att bilen skulle fortsätta köra rakt och träffa barnet, medan 36 procent sa att bilen borde svänga och träffa ingången till tunneln istället. Och medan 24 procent sa att det var ett svårt beslut och 28 procent sa att det var måttligt svårt, såg nästan hälften (48 procent) det som ett enkelt val. Robohub skrev att detta indikerar att de svarande var "ganska säkra på att fatta ett beslut om detta oavsett om de tror att bilen borde" träffa barnet eller tunnelväggen.

Undersökningen frågade också läsarna som borde avgöra vad en självkörande bil gör i ett tunnelproblem: tillverkaren, lagstiftarna eller vem som är i bilen då. Majoriteten av deltagarna (44 procent) svarade att en passagerare borde fatta beslutet, medan 33 procent sade att lagstiftare borde välja hur bilen svarar på sådana scenarier. Och bara 12 procent sa att tillverkarna borde besluta (11 procent sa "andra").

Även om detta är ett relativt litet urval av åsikter, tyder det på att företag som gör självkörande bilar - oavsett om det är en biltillverkare eller Google - naturligtvis kommer att behöva engagera sig med statliga tillsynsmyndigheter, men också ta hänsyn till passagerarnas åsikter när de står inför en tunnel eller vagnsproblem. Och eventuellt inkludera vad Wired kallade en "etisk inställning" i en självkörande bil.

Om du tar bort eventuella ansvars- och lagkrav, skulle du vilja fatta beslut som passagerare i en självkörning i Tunnel Problem-scenarier, till exempel om du ska träffa en SUV på ena sidan eller kompaktbilen på den andra, om en semi stoppades framför dig? Eller föredrar du att fordonstillverkaren eller politikerna gör det åt dig?

Självkörande bilar kommer och svar på sådana frågor är också.

VISA ALLA BILDER I GALLERI