Ubers självkörande bilolycka: misslyckades ai oss?

Den 12 mars körde MIT Technology Review en berättelse som började så här: "Det är året 2023, och självkörande bilar navigerar äntligen våra stadsgator. För första gången har en av dem slagit och dödat en fotgängare med stor mediatäckning. En högprofilad process är sannolikt, men vilka lagar bör gälla?"

Allt om förutsägelsen var rätt, förutom datumet. Exakt en vecka efter att artikeln publicerades, slog en självkörande Uber och dödade en fotgängare i Tempe, Arizona, medan han fungerade i autonomt läge.

Även om händelsen fortfarande undersöks är upproppen som följde en indikation på hur långt vi är från att lyckas integrera konstgjord intelligens i våra kritiska uppgifter och beslut.

I många fall är problemet inte med AI utan med våra förväntningar och förståelse för det. Enligt Wired dog nästan 40 000 människor i vägolyckor förra året bara i USA - varav 6 000 var fotgängare. Men mycket få (om några) gjorde rubriker som Uber-händelsen gjorde.

En av anledningarna till att Uber-kraschen orsakade en sådan uppror är att vi i allmänhet har höga förväntningar på ny teknik, även när de fortfarande är under utveckling. Under illusionen att ren matematik driver AI-algoritmer tenderar vi att lita på deras beslut och är chockade när de gör misstag.

Även säkerhetsförarna bakom rattet på självkörande bilar släpper sina vakter. Film från Uber-incidenten visade att föraren var distraherad och tittade ner sekunder innan kraschen inträffade.

År 2016 dog föraren av en Tesla S-modell som körde i Autopilot-läge efter att fordonet kraschade in i en lastbil. En undersökning fann att föraren kan ha sett en Harry Potter-film vid kollisionen.

Förväntningarna på perfektion är stora och besvikelserna är kraftfulla. Kritikerna var snabba med att ifrågasätta Ubers hela självkörande bilprojekt efter händelsen; företaget har tillfälligt avbrutit självkörande biltestning i efterhand.

AI är inte mänsklig

Bland kritiken som följde efter kraschen var att en mänsklig förare lätt skulle ha undvikit händelsen.

"Hoppade inte ur buskarna. Hon hade gjort tydliga framsteg över flera trafikbanor, vilket borde ha varit i systemets syfte att plocka upp, " sa en expert till CNN.

Hon har rätt. En erfaren mänsklig förare skulle troligtvis ha sett henne. Men AI-algoritmer är inte mänskliga.

Djupa inlärningsalgoritmer som finns i självkörande bilar använder många exempel för att "lära sig" reglerna för deras domän. När de tillbringar tid på vägen klassificerar de informationen de samlar in och lär sig att hantera olika situationer. Men detta betyder inte nödvändigtvis att de använder samma beslutsprocess som mänskliga förare. Det är därför de kan prestera bättre än människor i vissa situationer och misslyckas i de som verkar triviala för människor.

Ett perfekt exempel är bildklassificeringsalgoritmen, som lär sig att känna igen bilder genom att analysera miljoner märkta foton. Under åren har bildklassificering blivit supereffektiv och överträffar människor i många inställningar. Detta betyder dock inte att algoritmerna förstår bilderna på samma sätt som människor gör.

Till exempel fann forskning från experter vid Microsoft och Stanford University att en djup inlärningsalgoritm tränad med bilder av vita katter tros med en hög grad av övertygelse att ett foto av en vit hund representerade en katt, ett misstag ett mänskligt barn lätt kunde undvika. Och i ett ökänt fall klassificerade Googles algoritm för bildklassificering felaktigt personer med mörk hudfärg som gorillor.

Dessa kallas "kantfall", situationer som AI-algoritmer inte har utbildats för att hantera, vanligtvis på grund av brist på data. Uber-olyckan är fortfarande under utredning, men vissa AI-experter föreslår att det kan vara ett annat fallfall.

Djupt lärande har många utmaningar att övervinna innan det kan tillämpas i kritiska situationer. Men dess misslyckanden bör inte avskräcka oss. Vi måste anpassa våra uppfattningar och förväntningar och omfatta verkligheten som alla stora tekniker misslyckas under dess utveckling. AI är inte annorlunda.