Teknik: innovation, ai och etik

Några av mina favorit sessioner på Techonomy-konferensen tidigare denna månad handlade om etik, värderingar, innovation och hur artificiell intelligens har spelat in på dessa områden.

Mänskliga värden för en teknologisk ålder

Teknologis grundare David Kirkpatrick inledde konferensen med ett föredrag om fokus på tekniska mänskliga värderingar. Den första stora konversationen handlade om "mänskliga värderingar" med Julie Hanna, verkställande ordförande för Kiva, som talade om teknik som en demokratiserande kraft, och noterade att en stor del av världen lever på mindre än $ 2 om dagen. Hon sa att den "största formen av rättvisa är rättvis tillgång."

Pastor Michael C. McFarland, kassör, ​​USA Northeast Province of the Society of Jesus, sade att vi måste fråga oss var det är rättvisan, när det gäller hur tekniken används och att tänka på de antaganden som är inbäddade i tekniken. Han oroar sig för att arbetsplatstekniken, som kan ge högre effektivitet och produktivitet, ofta används utan att tänka på effekterna på arbetarna, som ibland får förödande effekter. Han uppmanade publiken att börja med att tänka på arbetarens upplevelse.

Erica Kochi, verkställande direktör för innovation och medgrundare av UNICEF Innovation, konstaterade att för sju år sedan fanns det ingen god tekniklösning riktad mot de fattigaste av de fattiga, och den enda gemensamma nämnaren var textmeddelandet. Hennes grupp har fokuserat på att bygga egna lösningar med hjälp av textmeddelanden och noterat att även om det finns mycket billiga Android-telefoner, byggdes operativsystemet för personer med en dataplan, inte för dem som lever på mindre än $ 2 per dag. "Om vi ​​ska bygga produkter och tjänster för människor som inte är oss, måste vi tänka på det ur deras synvinkel, " sa hon.

Hanna talade om det "falska valet mellan syfte och vinst, mellan uppdrag och produkt", och sa att uppdragsdrivna kulturer är bättre platser att arbeta, skapa större lojalitet och hjälpa till att bygga varaktiga företag. Kochi sa att du kan göra båda, och sa att kärnverksamhetsmodellen måste vara i linje med socialt ansvar, vilket inte borde vara något som görs på sidan.

McFarland talade om att inte bara fokusera på aktieägare, utan på alla intressenter i ett företag och använde ett exempel på AT & T: s Bell Labs före företagets uppdelning. Han är orolig för misslyckandet med investeringar i långsiktig FoU och sade "vi måste förändra kulturen för hur vi tänker på affärer och vad det betyder att lyckas."

Bibliotek

Jag blev imponerad av ett senare föredrag av Tony Marx, ordförande för New York Public Library, som sa att, i motsats till antagandet som vissa har att bibliotek försvinner, såg han ny teknik som erbjuder den största möjligheten i historien för vilka bibliotek har alltid stått för - hjälpa människor att få tillgång till information.

Han konstaterade att biblioteken tidigare hölls kvar av de fysiska och ekonomiska begränsningarna för att få människor till samlingarna, men sa att detta förändras.

Bibliotek kan påverka på tre stora sätt, sade han. Den första är bara genom att ansluta människor, och han noterade att en tredjedel av amerikanerna inte har internetuppkoppling hemma, men bibliotek kan också tjäna till att utbilda människor i hur man använder datorer och hur man kodar.

Han sa att även om dagens sökmotorer är "otroliga", har de begränsningar och noterade att mycket av den grundläggande kvalitetsinformation som produceras av tusentals ansträngningar fortfarande inte finns tillgänglig. Han sa att hans vision är att erbjuda beskyddare av biblioteket "varje bok, varje bild, varje dokument och alla arkiv var som helst i världen gratis."

Det hela kommer tillbaka till den gammaldags uppfattningen om ett bibliotek som en stiftelse, sa Marx, och uppmanade oss att föreställa oss om alla talanger i världen hade förmågan att lära sig, skapa och förnya hur som helst de valde. "Vi har verktygen för att göra det ostoppbart, " sade han. "Vi gör det."

Gudar i lådor: Allsmäktiga algoritmer och dolda värden

Oren Boiman, medgrundare och VD för Magisto, som använder AI för att redigera videor, sa att "datorer blir mer och mer svarta rutor", med algoritmer skapade av neurala nätverk som slår de bästa algoritmerna designade av programmerare. Även om dessa algoritmer kan fatta beslut mycket bättre än människor, förstår ingen riktigt hur de gör det.

Vivienne Ming, medgrundare och verkställande ordförande för Socos, som säljer programvara som hjälper barn att lära sig genom att skicka en rekommendation om dagen till sina föräldrar, talade om att skapa intelligenta algoritmer. Hon sa att mycket av arbetet med djupa neurala nätverk beror på träningssatser och pratade om en ansiktsigenkänningsalgoritm som inte känner igen svarta ansikten på grund av en inneboende partiskhet i utbildningen. "Datorer är precis som människor", sa hon. "Det beror på hur du höjer dem."

Yahoo Chief Scientist Ron Brachman, sa att även om vi använder antropomorfiserade termer för att beskriva maskiner, finns det fortfarande en grundläggande skillnad mellan människor och datorer just nu. Människor fattar beslut baserat på deras behov och önskningar, vilket är mycket annorlunda än hur beräkningssystem fattar beslut idag.

Boiman förklarade hur i de flesta av dessa "svarta lådor" allt är anslutet, och små förändringar i input kan göra stora och ibland kaotiska skillnader i resultat, till exempel när videor blir virala. Han sa att detta gör saker oförutsägbara, och det är svårt att spåra saker tillbaka till vad som hände initialt. Brachman noterade precis som om vi inte har något sätt att kontrollera vad barn lär sig, detsamma gäller för beräkningsmekanismer.

Intelligenta affärsmaskiner

Diskussionen om AI och de etiska frågor som uppstår fortsatte i en annan panel med ledarna för några mer specialiserade mjukvaruföretag. Babak Hodjat, grundare och chefforskare för maskininlärningsföretaget Sentient Technologies, sa att frågan om etik är lite av en distraktion när det gäller AI, och att etik också påverkar alla möjliga andra tekniker, allt från smartphones till FICO-poäng.

George John, ordförande och grundare av det programmatiska reklamföretaget Rocket Fuel, noterade fördelarna med teknik och sa "Om AI verkligen fungerar, borde folk komma hem tidigare." Han berättade om behovet av nya ledaregenskaper och hantera både människor och smarta maskiner. Han pratade också om att leta efter applikationer av AI som inte bara passar stora företag, men som också skulle kunna gynna individer.

Jag Duggal, SVP för produktledning för publikmätningsföretag Quantcast, sa att det här är verktyg som är utformade för att göra oss mer produktiva, få fler saker gjort och öka vår kapacitet. Han sa att det finns en myriad av innovation och produktivitet som kan komma ut ur detta, och sa att även om det finns rädsla för att tekniken blir för bra, är han mycket mer bekymrad över teknikgränserna.

Han var särskilt bekymrad över incitament, och vad som händer när maskininlärningsalgoritmer hamnar efter fel incitament. Till exempel noterade han hur onlinemarknadsförsäljare på marknaden för onlineannonser gav kredit till den sista annonsen som en person såg innan han beställde. Detta resulterar i att fler annonser riktas efter att en person redan har besökt en e-handelswebbplats, och ofta efter att någon har beslutat att köpa; med andra ord när annonsen kan slösas bort. Quantcast försöker sätta bättre exempel, sade han.

Jon Stein, grundare och VD för det AI-baserade investeringsföretaget Betterment, berättade om det goda som tekniken kan göra och enades om att det var viktigt att sätta tydliga incitament. Han talade om att följa tillsynsstandarder, som att agera i kundens bästa intresse, och sa att transparens har en stor roll att spela, så att människor kan förstå var konflikter kan uppstå.

Stein sa att teknik kommer att göra det svårare att bli kriminell över tid, men Duggal sa att han är mer skeptisk, eftersom skurkar också har teknik. Ändå är han imponerad av teknikens potential och citerade ett exempel på ett projekt från Google där en AI kan identifiera cancer i mullvader på hud. Han sa att han är orolig för en "felramning" av frågan av teknikmotståndare.