Dilemmaet med att lära etik till självkörande bilar | doug newcomb

Det tog inte lång tid att köra i Googles självkörande bil förra veckan för att inse att tekniken inte bara är klar för vägen, utan i vissa fall fattar bättre beslut än mänskliga förare - till exempel långsamma och avkastande för cyklister.

Men för att göra mer än bara krypa längs stadsgatorna måste autonom teknik fatta den typen av kritiska beslut som är andra naturen för erfarna mänskliga förare. Och det kan behöva förhandla om etiska dilemma så mycket som knepiga körsituationer.

Som exempel lägger självkörande teknik till en ny vändning till det århundrade gamla filosofiska dilemmaet känt som "vagnsproblemet." I det här scenariot måste en person bestämma sig för att dra en spak i en Y-korsning och köra över en person som är bunden till spåret för att rädda fem personer bundna till det angränsande spåret.

För självkörande bilar har detta omarbetats som "tunnelproblemet." Föreställ dig att ett autonomt fordon reser på en ensidig bergsväg och håller på att gå in i en tunnel, när ett barn oavsiktligt korsar in på sin väg precis innanför ingången så att bilen måste fatta ett sekunders beslut. Fortsätter det rakt och slår barnet? Eller svänger den och träffar tunneln, skadar eller dödar bilens passagerare?

Dagen efter att ha tagit en tur i Googles självkörande bil i Mountain View, Kalifornien, deltog jag på ett evenemang på Mercedes-Benz nordamerikanska FoU-anläggning i närheten av Sunnyvale. Bland flera ämnen som behandlats under dagen gav Stanford-professor och chef för universitetets Revs-program Chris Gerdes en presentation som undersöktes i ämnet etik och autonoma bilar.

Gerdes avslöjade att Revs har samarbetat med Stanfords filosofiavdelning om etiska frågor som involverar autonoma fordon, medan universitetet också har börjat genomföra en serie tester för att avgöra vilken typ av beslut en robotbil kan fatta i kritiska situationer.

När filosofin tar hjulet

Som en del av sin presentation gjorde Gerdes en anledning till varför vi behöver filosofer för att studera dessa frågor. Han påpekade att etiska problem med självkörande bilar är ett rörligt mål och "har inga gränser", även om det är upp till ingenjörer att "binda problemet."

För att göra detta och flytta självkörningstekniken etik utöver en bara akademisk diskussion, kör Revs experiment med Stanfords x1 testfordon genom att placera hinder i vägen. Han noterade att att placera olika prioriteringar inom fordonets program har lett till "mycket olika beteenden."

Gerdes hävdade att denna framväxande etikbaserad programmering av självkörande programvara kan bli ett "grundläggande krav" för tekniken - och inte något som bara diskuteras i elfenbenstorn. Och han tillade att etik inte är något som biltillverkare kan hämta från en "Tier 1" -leverantör som till exempel en bränslepump eller skärm i instrumentbrädan. Den senaste VW Dieselgate-skandalen har visat det.

Erfarna mänskliga förare har programmerats i flera år för att hantera beslut av en sekund - och de gör fortfarande inte alltid rätt. Men efter att ha sett hur Googles självkörande fordon reagerar på vardagliga beslut och hört talas om det arbete som Stanford Revs och skolans filosofiska avdelning bedriver, satsar jag på att bilarna i slutändan kommer att fatta smartare beslut.