Är autonoma fordonstester en allmän fara? | doug newcomb

Kunde någon ha förväntat sig trolling och cybermobbling i början av Internet - och att en framtida POTUS skulle engagera sig med nationen 140 karaktärer vid den tiden? Det kan vara svårt att förutse nackdelarna med revolutionerande ny teknik.

Bland de potentiella nackdelarna med autonoma fordon - inklusive enorma arbetsförluster bland kommersiella förare och eventuellt ännu mer trafik från robotaxor - är det som kallas "vagnsproblemet." Detta hänvisar till etiska beslut som en självkörande bil kommer att behöva fatta när man konfronteras med situationer utan vinst, till exempel om man ska köra över en person som dartar in på sin väg på en smal trångt stadsgata eller svänger till endera sidan och plogar in i fotgängare på trottoaren.

Trots att California Polytechnic State University filosofiprofessor Patrick Lin har genomfört verkliga tester på detta dilemma i samarbete med Center for Automotive Research i Stanford, han erkänner att "något känns oärligt om den moraliska paniken över självkörande bilar" och vagnsproblemet eftersom scenariot är så långtgående. Men som Lin påpekar, till skillnad från andra tekniker, testning av autonoma fordon på allmän väg kan ha en omedelbar negativ inverkan på samhället.

Det blir komplicerat

Lin hävdar att även om teknikutvecklare vanligtvis betatestar nya produkter och funktioner med få begränsningar och lagar, "blir det komplicerat när deras programvara interagerar direkt med den större fysiska världen" - i det här fallet när man kontrollerar en multitonsmaskin offentligt. Lin hävdar att när det gäller autonoma fordonstester på allmänna vägar, "påverkar produkterna inte bara användare ensam, som är fallet med de flesta andra prylar och tjänster."

Som ett exempel pekar Lin på publiken med navigeringsappen Waze. Det är "som ger upphov till klagomål om" flockande "beteende: svärmar av bilar som skickas med dess algoritmer genom tysta stadsdelar som inte är utformade för tung trafik, " säger han.

Detta "kan öka risken för barn som leker på dessa gator, sänka fastighetsvärdena om vägbuller är högre och skapa andra externa effekter. Detta innebär att navigationsappar fattar riskbeslut som användare kanske inte är medvetna om men som de borde vara."

Självkörande bilar på liknande sätt "kommer att behöva välja autonomt sina rutter… och det finns ofta inte bara ett rätt sätt att gå, " tillägger Lin. Men han tror att det större problemet är att bestämma vem som kommer att hållas ansvariga för den negativa inverkan på trafik eller allmän säkerhet som navigationsappar som Waze orsakar - och i förlängningen självkörande bilar som testar på allmänna vägar.

"Det är en tragedi för allmänheten: Ingen sitter i förarsätet om hur navigationsalgoritmer ska harmoniseras med samhället, " säger han. "Så om det påverkar trafiken eller allmän säkerhet negativt är det svårt att fastställa ansvaret för dessa effekter."

Frågan om vem som kommer att vara ansvarig i en självkörande bilolycka - biltillverkaren, programvaruutvecklaren, sensorn eller kartan - är ett av problemen som håller tillbaka teknikens utbredda antagande, även om lösningar utvecklas. Med tanke på att självkörande biltest redan genomförs på allmänna vägar, anser Lin att det han kallar "forskning om mänskligt ämne" borde få förhandsgodkännande av en etiknämnd.

Städer har börjat svara genom att beteckna vägar som "inga turister" -zoner som endast är tillgängliga för invånare och kräver Waze att utse dem som gränser för förbipasserande bilister. Några arga och initiativtagande invånare går till och med oseriösa och hackar nav-appar som Waze med fantom vrak för att avleda trafiken från sina grannskap.

Lin betonar att hans syfte inte är att skapa "ett argument mot teknik, utan bara att på allvar reflektera över dess växande kraft och implikationer, när testfall rör sig genom domstolarna i lag och allmän opinion" - och som mer självkörande bilar ta till allmänna vägar.