Video: Robot Hand Unexpectedly Learns Human Behaviour! - Open AI (September 2024)
Garry Kasparov var ett av de första offren för AI-automationsrevolutionen. Hans förlust till IBMs Deep Blue gjorde honom till den första mänskliga schackmästaren som tappade en match till en dator. Men Kasparov är inte trasslad; hans bok, Deep Thinking , utforskar hur AI faktiskt kan hjälpa oss att bli mer mänskliga.
Dan Costa: Efter en karriär som spelade schack och kämpat med Deep Blue har du sedan dess blivit en slags schack AI-expert. Hur vill du att människor ska förstå konstgjord intelligens?
Garry Kasparov: Jag måste erkänna att jag vet gränserna för min okunnighet. Det är därför jag är glad att prata om saker där jag är övertygad om min egen expertis, och jag tror att jag har viss kunskap om relationer mellan människor och maskiner, och jag kunde prata med viss auktoritet om framtida resultat.
Jag tror också att vi fortfarande är i en mycket tidig ålder av AI, och att vi borde diskutera till och med vissa termer. Det handlar om semantik, det handlar om filosofi, och jag säger alltid att folk tror att vi är i Windows 10-era, medan vi fortfarande är alla på MS-DOS.
Just nu är det mycket viktigt att faktiskt förstå, "Vad är AI? När vi säger AI, vad menar vi?" För om du frågar 10 experter om AI, jag slår vad om att du får 11 eller 12 svar. Det finns fortfarande en oenighet.
Det finns fortfarande detaljer, men jag tror i allmänhet att vi känner igen okej, det finns en grupp människor som vi kommer att kalla optimister, inför den stora folkmassan av domare. På något sätt är offentligheten mer villig att acceptera dommarsäsarscenarier, jag tror att det är vår instinkt att frukta framtiden, vilket också är intressant eftersom när du går tillbaka till 50- och 60-talet var sci-fi mycket optimistisk. Det handlade om oss, bara arbeta med maskiner.
Nu när du tittar på 70-, 80-, 90-talet skiftas det till dystopisk syn. Det handlar om terminatorer. Det handlar om Matrix, och nu är sci-fi-genren nästan död för det handlar mer om fantasi, det handlar om magi. Folk är verkligen rädda för att prata om framtiden för vi är inte säkra på vad som kommer att hända där. Jag tror att vi helt enkelt borde inse att AI inte är en trollstav, men det är inte en terminator. Det är inte en föregångare av utopi eller dystopi. Det är ett verktyg. Det är något vi borde hitta ett sätt att ta itu med.
Det öppnar inte helvetes portar, men det är inte ett paradis. Det är inte en lösning för allt. Det är inte en frälsning. Låt oss titta på jordens problem och min största oro idag handlar inte om mördarerobotar eller någon form av den virtuella verkligheten som kan förstöra vår känsla av verklighet, men det handlar om dåliga skådespelare. Det handlar om terrorister. Det handlar om stenutrymme som använder denna teknik för att skada oss. Jag säger alltid att människor… har onda monopol. Det är där vi borde, tror jag koncentrera mig, men det borde också erkänna att AI skulle kunna göra så många fantastiska saker för oss eftersom vad folk kommer att säga, "Åh, AI skapar nya utmaningar. AI kan ta bort många jobb." Exakt. Det är vad som hände med jobb inom jordbruk, jobb inom tillverkning. Störande teknik förstör alltid branscher men skapar samtidigt nya jobb.
Jag säger att teknik är det främsta skälet till att så många människor fortfarande lever för att klaga på teknik eftersom vi bara inte känner igen den genomsnittliga livslängden ökade, tror jag 45, 47 i början av 1900-talet till nu 75, tack vare tekniken. Vi vill ha förmåner, vi vill ha bekvämlighet och vi ser inte på priset. Folk köper Alexa eller laddar ner en ansiktsigenkänningsapp och klagar sedan över integriteten. Det är dags för oss att förstå vad vi förväntar oss av dessa tekniker, så hur vi vill hantera dem? Hur de kan förbättra våra liv och samtidigt inse att vi inte bör debattera om spilld mjölk. Det kommer att hända.
Vi bör inte fråga om vi vill ha det eller inte, det händer. Varje försök att förlänga ångesten och att bromsa processen tror jag bara är kontraproduktiv eftersom jobb som är dömda inte kan sparas. Men vi måste tänka på nya branscher. Hur kan vi skapa några nya jobb som hjälper oss att skapa… en ekonomisk kudde för att ta hand om dem som blev kvar?
Dan Costa: Det var en av punkterna du gör i Deep Thinking . AI ger en möjlighet för oss att vara mänskligare. Jag tror att vi måste kasta ut det och få människor att känna och förstå.
Garry Kasparov: McKinsey-rapporten om den amerikanska arbetsmarknaden 2016 var en tydlig demonstration. Hur lite kreativitet har använts?
Många jobb vi gör upprepade jobb, råa jobb. Intellektuella jobb kan också vara repetitiva. De kan också enkelt utföras av maskinerna mycket mer effektivt. Här kommer du till det som vad vi har lärt oss från spelen… av schack, från golf, från alla andra spel, så länge vi har den ram som skapats av människor, och vi vet vad vi gör, maskiner kommer att göra bättre.
Vi borde bara inse att maskiner i alla stängda system är överlägsna. Förresten, vi behöver inte förstå hur de gör det. Det är ytterligare ett misstag. Vi vill ha förklarbarhet. Maskiner kan göra det på ett väldigt besvärligt sätt från våra standarder. Flygplanen flyger snabbt, och fågeln föll med vingarna. Det är därför att tänka på att maskiner kommer att överträffa oss även i intellektfel genom att göra något du förstår är fel. Vi bör leta efter resultaten, och det är det andra problemet för företag eftersom det finns så många förordningar som kräver att de förklarar vad de gör, men förklarbarheten kanske inte finns där om du vill leta efter effektivitet och produktivitet.
Dan Costa: Du tog upp saken på scenen om Go, och det som gjorde Go AI så mycket effektivare är när det lär sig att spela spelet. Det hade inte mänskliga regler.
Garry Kasparov: Det är samma som schack nu. Återigen, det är framtiden för mänskliga uppdragsrelationer kommer att vara mycket på egna människor som agerar som herdar eftersom vi måste hitta ett sätt att skapa dessa coola system, områdena med smal intelligens, där maskiner kommer att göra jobbet mycket bättre än någon människa. Sedan, för att se hur de ansluter. Dessa områden med smal intelligens till allmänt fält, till öppet system. Återigen låter det lätt, men jag tycker att det är en stor utmaning eftersom rummet för människor och deras relationer med maskiner kan krympa mindre och mindre. Till och med kanske de senaste decimalerna, men det spelar ingen roll. Det kan vara mycket mer effektivt eftersom det finns så mycket kraft. Att kanalisera den eller ändra riktningen för 0, 1 procent av en grad av denna vinkel kan ha en massiv, massiv skillnad, ett mål en mil bort.
Dan Costa: En av de saker som oroar mig för AI är att bra AI-system drivs av massor av data och riktigt bra algoritmer. Om du tittar på vars flesta uppgifter finns i det här utrymmet just nu är det big tech, det är statliga regeringar. Hur ser du individens roll i denna AI-revolution? Eftersom det verkar finnas en viss asymmetri av tillgången till denna nya teknik och olika motiv.
Garry Kasparov: Ja. Jag kunde inte hålla mer med. Vi har detta problem och jag tror att allmänheten erkänner detta problem, men det är fortfarande inte tillräckligt med press från regeringarna att faktiskt införa mycket strikta regler och mycket bestraffande åtgärder för de företag som kränker integriteten.
En av mina farhågor som ordförande för Human Rights Foundation är att regler skiljer sig från demokratisk värld till fri värld. Jag tycker att det är mycket oroande att dessa multinationella jättar - som Google, Apple, Microsoft, Facebook - de tillämpar mycket olika regler på sina kunder i Amerika eller Europa, och för de som inte var så lyckliga att vara födda i den fria världen och bo i Kina, Ryssland, Turkiet - där frisläppandet av uppgifterna från den sociala verksamheten bokstavligen kan vara en fråga om liv och död. Jag tror att det är steg nummer ett, men vi borde också inse om data som produceras kommer att samlas in.
Jag är säker på att det finns många sätt som regeringarna kan begränsa användningen av denna information. Jag tror också att det är bonusen från den offentliga sidan eftersom efter Mark Zuckerbergs vittnesmål i den amerikanska senaten, som jag tyckte… var en fantastisk uppvisning av okunnighet från USA: s lagstiftare. De kunde inte ställa goda frågor på fem timmar; de hade honom i en varm plats och det var slöseri. Jag såg inte allmän upprörelse. En så stor möjlighet har missats.
Det enkla rådet, "Låt oss dela dem." Det är inte standardolja. Om du bara börjar dela - och jag hatar monopol - men då har du många, många Googles med data spridda runt. Vi borde hitta ett sätt att stärka individer. Jag känner inte blockchain-teknologier, men förmodligen är detta sättet att faktiskt hjälpa människor att kontrollera sina egna data och sin egen framtid. Jag tror att det fortfarande finns ett ögonblick där det är det ursprungliga begreppet internet, sociala nätverk. Nu är det plötsligt sociala medier. Folk känner inte igen. Det är inte en semantisk skillnad.
Dan Costa: Det är monetiserat på ett helt annat sätt.
Garry Kasparov: Det handlar om att ansluta människor. Det handlar om hela idén var hur man förena oss. Hur man pantar individen, får tillgång till data och producerar något som kan gynna honom eller henne och bara vara en del av detta globala system. Sociala medier är annorlunda, du är målet. Du är nu… målet för stora företag. Hur går vi tillbaka till detta sociala nätverkskoncept? Jag har inga lösningar, jag erkänner min okunnighet här om tekniska lösningar, men jag vet att det här är exakt den filosofi som är rätt fråga som ska ställas. Jag tror att allmänheten inte förstår allvarligheten i denna utmaning.
Dan Costa: Du är en rysk medborgare...
Garry Kasparov: Även en kroatisk medborgare, jag har ett E-pass, det är så jag reser.
Dan Costa:… bor i USA, men du har skrivit mycket om propaganda, dess effekter och dess makter, och hur den används av den ryska regeringen. Här i USA har vi nu ett Facebook-, Twitter-, Google-medieunivers som nästan är som en privat propagandamaskin som kan nås av regeringar, av enskilda företag. Återigen, som någon som har hanterat och förstår dessa frågor, vilka råd har du för USA? När vi flyttar in i det här systemet där vi inte kan tro det vi ser online längre.
Garry Kasparov: Se, jag har mött uppkomsten av falska nyhetsindustrin och trollfabriker i Putins Ryssland från början av detta århundrade. Ungefär omkring 2004–2005, Putins propagandaexperter, KGB-killarna, fattade de ett troget beslut att inte följa Kina av brandväggar. Men snarare att skapa falska internetwebbplatser som innehåller mycket verklig information om dessa giftiga bitar. Istället för att ha en förstasida på en ordentlig tidning, berättelsen som alla måste följa, partilinjen, kan du sprida den i många delar, i dussintals bitar. Lägg den i ett paket inslaget i många riktiga historier.
Det är inte så enkelt som att säga, Garry Kasparov är en fiende till staten. Nej, någon säger att Garry Kasparov är en fiende till staten, men sedan kommer någon annan att säga nej, men han var en stor schackspelare, men antagligen infiltrerades han av röst och propaganda. Någon kommer att säga, nej, nej, nej, han är en bra kille. Så hela sidan med kommentarer kan vara falsk.
Dan Costa: Botsna argumenterar med bots.
Garry Kasparov: Bots och de är väldigt bra på detta, så det var därför en dag när Putin attackerade amerikanska val i USA, hade han verkligen mer än tio års erfarenhet av dessa branscher. Arbetar i Ryssland, i grannländer med stora ryska samhällen i Östeuropa, i Västeuropa.
I min bok, Vinter kommer: Varför Vladimir Putin och fiendernas fiender måste stoppas , 2015, sa jag att det bara var en tidsfråga. Det är inte om, men när och var han skulle attackera. För igen har de redan byggt den här maskinen och den är relativt billig. Det är fortfarande miljarder dollar investeringar, men jämfört med öppen militär intervention, konfrontation… är det relativt billigt. Och det passade Putins KGB-mentalitet, hans KGB-bakgrund, spioneringsbakgrund. Så istället för öppen konfrontation letar han alltid efter en möjlighet att infiltrera. Det är klassiska Judo-metoder, du använder din motståndares styrkor mot honom. För Putin var det lysande eftersom det var västerländsk teknologi och den fria världen, och du kan använda den för att undergräva själva grunden för den fria världen.
Dan Costa: Har du några råd för hur du kan komma ur denna situation? Eftersom det verkar som om det händer har det inte riktigt slutat.
Garry Kasparov: Nej, och det kommer inte att sluta. För alla som har obegränsad expertis är svaret uppenbart. Försvar är ett förlorande förslag. När det gäller cybersäkerhet kan du bygga försvar, men i slutet av dagen är det enda svaret avskräckande. Det är som det kalla kriget, gillar det eller gillar det inte, det är ett cyber kalla krig. Vi är under ständiga attacker av Putin eller andra fiender från den fria världen. Oavsett om det är stater som Iran eller Nordkorea eller Kina eller kvasistatliga organisationer som också använder samma metoder.
Endast avskräckning kunde faktiskt stoppa dessa attacker eller begränsa dem. Eftersom de kommer att förstå konsekvenserna av att vara över aggressiva. För att skydda våra svaga platser här och där är det viktigt att vi bygger några försvar. Det är viktigt att vi ökar medvetenheten om allmänheten om hot, men det kommer inte att fungera. När det gäller falska nyhetsindustrin finns det många utmaningar i vårt fria samhälle, vilket möjliggjorde den falska nyhetsindustrin. Det handlar om en rädsla för partisans, det handlar om frånvaron av en dialog mellan människor med olika ideologiska åsikter som hjälpte Putin och andra fiender från den fria världen att använda de falska nyheterna för att uppsluka detta gap.
Dan Costa: Så du arbetar med Avast nu, ett företag som PCMag-läsarna är mycket bekanta med. Vilka råd ger du till konsumenterna för att höja deras försvarsnivå?
Garry Kasparov: När det gäller individuell försvarsnivå är det mycket enkelt. Det första meddelandet är till ägarna av smarta hem. Jag blev lite chockad för att även i detta South by Southwest, jag pratade med många människor, människor med bra expertis förstår inte hur sårbara smarta hem är idag.
39 miljoner amerikanska hushåll har minst en sårbar enhet. Folk förstår inte att en sårbar enhet gör hela smarta hem sårbart. Eftersom styrkorna i din försvarspyramid beror på den svagaste länken. Ett dåligt äpple får hela förpackningen att ruttna.
De flesta av problemen skapas av tillverkare av traditionella hushållsmaskiner - tvättmaskiner, kaffemaskiner - eftersom det inte finns någon expertis inom att bygga digitala system. Men de måste göra det nu. Till en mycket låg kostnad, eftersom det är en priskonkurrens, men de vill vara en del av systemet. De flesta av systemen har bara inte tillräckliga försvar. Jag tror att vi behöver… regeringsövervakning, vi måste sätta press för att tvinga att uppfylla vissa normer.
Men också för att behöva tillhandahålla separata manualer, eftersom ingen läser 100-sidars manual. På sidan 85 läser du något om detta digitala grejer, folk läser inte det. De flesta använder standardläge, vilket naturligtvis är en öppen inbjudan för en hacker. Jag tror att det är mycket viktigt att människor börjar göra det jag kallar digital hygien, eftersom vi tvättar händerna, borstar tänderna, gör vi det automatiskt. Det räddar oss inte från några allvarliga sjukdomar men 90 procent av problemen kan undvikas. Samma med våra mobila anslutna enheter, vi borde fortfarande skydda oss mot virus, men många saker kan göras genom att visa att vi bryr oss om det eftersom det är lika viktigt som vår hälsa.
Dan Costa: Så jag vill ställa er de tre frågorna jag ställer alla som kommer på showen. Finns det en teknologetrend som berör dig och som håller dig uppe på natten?
Garry Kasparov: Nej, jag är en okorrigerbar optimist. Jag oroar mig för dåliga människor, inte för dålig teknik eftersom varje teknik har dubbelt bruk. Du kan bygga en kärnreaktor men innan tyvärr bygger du en kärnbombe. Det är ganska olyckligt att förstörelse är enklare än konstruktion. Det är därför vi i historien alltid vet att en ny, störande teknik har testats för någon slags skada.
Dan Costa: Är du inte orolig för att samma sak kommer att hända med AI? Jag kommer att användas för att förstöra innan det vänjer sig att skapa?
Garry Kasparov: Återigen handlar det inte om mördarerobotar. Det handlar om skurkar, dåliga skådespelare bakom det. Folk säger åh, vi borde tänka på etisk AI. AI kunde inte vara mer etisk än skaparna. Jag förstår inte vad det betyder, som etisk elektricitet. Om vi har partiskhet i vårt samhälle följer AI det. Det ser en skillnad, vare sig det är ras, det är kön eller en inkomstskillnad. Det tar hänsyn till det; AI är en algoritm baserad på odds. Så på något sätt är det att klaga på etisk AI som att klaga på en spegel eftersom vi inte gillar det vi ser där.
Dan Costa: Finns det en teknik som du använder varje dag som fortfarande inspirerar undrar?
Garry Kasparov: Nej. För mig är världens verkliga underverk tillgång till information. Eftersom jag kan samla in data gör det lättare. Jag växte upp i Sovjetunionen, och informationen var knapp, det fanns inte många böcker. Faktum är att jag kan tända… det får mig att må bra. Det finns så mycket teknologi som omger oss nu som hjälper oss att bli bättre. Vad är också fantastiskt, folk klagar hela tiden, o vad kan vi göra? Det finns inget nytt som kan uppfinnas… och jag säger vänta en sekund. Du tittar på den här enheten i fickan, låt oss gå bakåt 1976 eller 1977, Cray-superdatorn var som ett mirakel. Vad är den här enheten? Tiotusen gånger kraftigare?
- AI är (också) en kraft för bra AI är (också) en styrka för bra
- Denna AI är för kraftfull för att släppa till allmänheten Denna AI är för kraftfull att släppa till allmänheten
- Denna AI förutsäger trolling online innan det händer Denna AI förutsäger online trolling innan det händer
Dan Costa: Starkare än rymdfärjan.
Garry Kasparov: Exakt. Vi har så mycket makt, och… Jag vill att vi börjar drömma stort igen. Eftersom vi har dessa möjligheter nu. Jag känner mig så ledsen över rymdloppet, vi slutade utforskning av rymden, utforskning av djupa hav. Låt oss gå tillbaka, låt oss försöka göra stora saker. För fyra år sedan höll jag ett börjanstal vid Saint Louis University i Missouri. När jag talade till doktoranderna sa jag, se, du måste återuppliva utforskningsandan, särskilt för att St. Louis är porten i väster, och idag är det säkrare att flyga till Mars än för Columbus att korsa Atlanten. Eftersom vi åtminstone vet avståndet och vi har kartan. Jag hoppas att våra barn, våra barnbarn… kommer att vara mer aggressiva i sina drömmar genom att använda denna fenomenala teknik för att driva oss framåt, för jag tror, låt oss erkänna, låt oss erkänna detta viktiga faktum; vår generation har avtagit i vår strävan efter att upptäcka underverken i världen, rymden eller hav.
