Otillbörlig fördel: förvänta dig inte att ai ska spela som en människa

DeepMinds senaste utvärderingar när det gäller att utveckla konstgjord intelligens som kan besegra spelare i världsklass på StarCraft II orsakade mycket rörelse. Medan DeepMind kallade det ett stort genombrott, hävdade andra att det var fusk, orättvist och övermänskligt.

Men vad hela debatten indikerar är att vi kanske måste ändra det sammanhang där vi diskuterar och utvärderar AI: s kapacitet - och sluta jämföra dess spel med vår egen.

AlphaStar, DeepMinds StarCraft-spelande bot, använder djup inlärning, ett populärt AI-fält där programmerare utvecklar beteendet hos sina AI-modeller genom att ge dem ett galen antal exempel. AlphaStar tränade först i en stor databas med mänskliga speldata som släppts av Blizzard och spelade miljoner spel mot sig själv för att lära sig och behärska reglerna för StarCraft. Den drogs sedan mot människor och svepte DeepMinds egna amatörspelare innan de fortsatte mot världsmästare.

När AlphaStar slog TLO och MaNa, två av världens bästa spelare, fanns det anledning att tro att den konstgjorda intelligensindustrin hade passerat en milstolpe. I ett blogginlägg kallade DeepMind AlphaStar "ett steg framåt i vårt uppdrag att skapa intelligenta system som en dag kommer att hjälpa oss att låsa upp nya lösningar på några av världens viktigaste och grundläggande vetenskapliga problem."

Men sedan kom kritiken.

En orättvis fördel

Kritiker hävdar att AlphaStar har flera egenskaper som gör det till en orättvis motståndare mot människor.

Först glider AlphaStar snabbt. DeepMind-ingenjörer säger att de handikappade AlphaStar för att förhindra den från att utföra fler åtgärder än en människa kunde utföra. Men mänskliga spelare gör en hel del skräpplikning eller impulsiva åtgärder som inte har något värde eller tänkande bakom sig.

Till exempel när spelare vill beställa sina enheter att flytta till en plats eller attackera en fiende, klickar de ofta upprepade gånger på samma plats eller på en bana mot destinationen, eftersom det ger en falsk känsla att klickning påskyndar den åtgärden. I verkligheten kör enheterna bara det senaste kommandot och kommer att ignorera tidigare. Däremot är AlphaStar varje drag exakt.

Kritiker hävdar att missanpassningen låter AlphaStar mikromanera spelet på ett övermänskligt sätt. Till exempel, i en stor strid där många enheter är inblandade, kan AlphaStar ge individuella kommandon till var och en av dess enheter med hastighet och precision som skulle vara omöjligt för dess mänskliga motståndare. I en analys av AlphaStars prestanda beskrev ArsTechnicas Timothy B. Lee några scenarier där AlphaStars hastighet och precision skulle ge det en orättvis fördel.

Andra analytiker har påpekat att AlphaStar får mer information än mänskliga spelare. Den version av bot som slog MaNa och TLO hade tillgång till hela kartan, i motsats till att se en bildskärms värde av slagfältutrymmet som en mänsklig spelare. Men det var fortfarande begränsat av "dimma av krig", vilket betyder att den inte kunde hämta information från områdena där den inte hade aktiva enheter.

Ännu andra kritiserade AlphaStar: s gränser: Det kunde bara spela som Protoss, en av de tre tävlingarna i StarCraft, och endast på en av de många kartorna i spelet. Med en ny race och karta skulle AlphaStar förmodligen förlora mot amatörmänskliga motståndare eftersom det från AI: s perspektiv skulle det vara som att spela ett helt annat spel.

Vad är rättvis spel?

DeepMind har fortfarande inte släppt tekniska detaljer, men vissa misstänker att istället för att behöva bearbeta råa pixlar som människor gör, kan AlphaStar ha haft tillgång till råspeldata via API: er (gränssnitt för applikationsprogrammering).

tack! men det säger inte om den specifika programvaran som vann mot experter använde pixlar eller förinställda APi-grejer, som båda är tillgängliga men väldigt olika

- Gary Marcus (@GaryMarcus) 31 januari 2019

Ars 'Timothy B. Lee kommer till denna slutsats: "Det ultimata sättet att jämna ut spelplanen skulle vara att få AlphaStar att använda exakt samma användargränssnitt som mänskliga spelare." Detta betyder att AI, som en mänsklig spelare som stirrar på en datorskärm, bara skulle ha åtkomst till spelets grafik och måste simulera tangenttryckningar, musklick och rullningar istället för att interagera med spelet genom API-samtal.

Detta skulle vara en rättvis punkt om vi förväntade oss att AI skulle replikera den mänskliga hjärnan och sinnena exakt. Men djup inlärning och neurala nätverk, som fortfarande är banbrytaren för AI, har distinkta gränser som hindrar dem från att återge några av de mest grundläggande mänskliga funktionerna.

Djupt lärande är smal AI, vilket innebär att det är mycket bra att utföra specifika uppgifter som att märka bilder eller känna igen tal, men det är hemskt att generalisera uppgifter eller överföra kunskap till andra domäner. Ju mer du utvidgar problemområdet, desto mer begränsad blir AI: s kapacitet och desto mer utbildning behöver den. Det är därför AlphaStar inte kan spela ett annat RTS-spel, till exempel Warcraft 3 eller Company of Heroes.

Det tog också AlphaStar 200-åriga spel för att behärska Protoss på en enda nivå. Det skulle förmodligen ta lika mycket att lära sig att spela Terran eller Zerg, de två andra tävlingarna i StarCraft. Däremot kan en mänsklig spelare snabbt hamna över den kunskap de fick från ett spel till ett nytt.

Vi är fortfarande decennier borta (åtminstone) från allmän AI, den typ som kan matcha människors kognitiva förmågor. Vissa forskare tror att vi aldrig kommer att lyckas reproducera den mänskliga hjärnan.

Men smal AI är mycket bra på att bearbeta stora mängder information till mycket snabba priser. Det är därför AlphaStar kan hantera hela kartan över StarCraft på samma gång. Designarna av StarCraft kunde ha ändrat spelet för att ge spelare en fullständig bild av spelkarta, men det skulle förmodligen förvirra spelarna snarare än att hjälpa dem. Människor kan också få tillgång till rå speldata, men det skulle inte vara till någon hjälp.

Människor är långsamma med att bearbeta data men har sunt förnuft och abstrakt-tänkande funktioner som gör det möjligt för dem att planera och fatta beslut utan fullständig information. Det är därför de föredrar att ha en begränsad bild av kartan och fokusera på en enda del av slagfältet; samtidigt har de en känsla av vad som händer i andra delar av spelet och kan utveckla en allmän spelplan.

Är AlphaStar fusk?

Med tanke på skillnaderna mellan AI och den mänskliga hjärnan är det rimligt att säga att kritikerna hade rätt i sin bedömning: DeepMind riggade tävlingen till förmån för AlphaStar genom att begränsa den till en enda karta och en enda ras. Men debatten om AlphaStar kan föra oss till några mycket viktiga slutsatser.

Först bör spelets huvudsakliga punkt inte vara att kontrollera om AI kan klicka och bläddra som en människa. Istället bör vi fokusera på hur AI presterar i ett spel som ger ofullständig information och kräver realtidsbeslut. I detta avseende gjorde AlphaStar ett ganska bra jobb.

• Vad skulle göra att du litar på en AI-assistent? Vad sägs om ett ansikte? Vad skulle göra att du litar på en AI-assistent? Vad sägs om ett ansikte?
• AI-industrins år för etisk räkning AI-industrins år för etisk räkning
• Denna AI är för kraftfull för att släppa till allmänheten Denna AI är för kraftfull att släppa till allmänheten

För det andra är StarCraft kanske inte den bästa platsen för att testa AI: s strategier och planering. Som en analytiker påpekade, "StarCraft II är ett spel som kan brytas av mekanisk perfektion." Detta innebär att AI kan kompensera för sina dåliga strategikunskaper med sin övermänskliga hastighet och kirurgiska precision.

Slutligen är AI och mänsklig intelligens så olika att det förmodligen skulle vara omöjligt att skapa lika villkor mellan de två. De minsta ändringarna av reglerna skulle snabbt luta spelet till förmån för den ena eller den andra sidan till en grad som skulle göra tävlingen orättvis.

Vi bör leta efter miljöer och inställningar där vi kan släppa loss och testa AI till dess fulla potential istället för att bromsa ner det med konstgjorda mänskliga begränsningar. Vad kan människor och AI uppnå när de samarbetar istället för att tävla?