Teknik: hur man fixar vad som är fel med Google och Facebook

Det kanske mest överraskande temat vid årets teknik var hur upprörda många talare är med Facebook, Google och Twitter, med kritik inriktad på deras inställning till integritet och särskilt på den möjliga roll de spelade för att möjliggöra ryska hacking i valet 2016.

Ett brett spektrum av talare pressade på olika typer av reglering av dessa "Internet Giants", och ingen från något av de ovannämnda företagen var på konferensen för att ge en alternativ synvinkel. Detta skilde sig mycket från förra årets konferens, när Facebook-vd Mark Zuckerberg sa att idén att falska nyheter på Facebook påverkade valet var "en ganska galen idé."

Sedan dess, som Techone-grundare Simone Ross noterade, har vi lärt oss att "teknik gör det lika enkelt att dela oss som att föra oss samman." Konferensmedstiftare David Kirkpatrick (ovan) satte tonen för konferensen och sa att "teknik är en kraft för gott, men bara om bra är ditt mål" och fortsatte med att säga att han trodde att de stora teknikföretagen behöver en "proaktiv korsning "med regeringen, oavsett om det kallas reglering eller inte.

Myndighet i en nätverkad, artificiellt intelligent värld

Den välkända investeraren Roger McNamee från Elevation Partners, en tidig investerare i både Facebook och Google, var kanske den mest negativa av alla talare. McNamee sa att dessa företag "började rädda världen", men att detta ändrades när reklam blev deras affärsmodell. Han sa att smarttelefonen, i kombination med personlig information, har gjort det möjligt att "skapa en nivå av hjärnhackning som aldrig har sett tidigare i media."

McNamee sa att han trodde att Zuckerberg var uppriktig när han sa att han inte trodde att sådan hacking var möjlig för ett år sedan, men sa att den roll som Google och Facebook nu spelar inte kan överskattas. Han kommenterade, "det måste vara svårt att vara dem nu och inse att du har förstört den västra civilisationen."

danah boyd, Data & Society; Roger McNamee, Elevation Partners; Marc Rotenberg, Electronic Privacy Information Center (EPIC); Stratford Sherman, Accompli

Denna diskussion kom upp i en del av en panel om "Authority in a Networked, Artificually Intelligent World" som också inkluderade danah boyd, en socialvetare med Data & Society och Microsoft Research; Marc Rotenberg, ordförande för Electronic Privacy Information Center (EPIC); och moderator Stratford Sherman från Accompli. Sherman sa att medan Facebook och Google började som forum för offentligt tal är de "radikalt oreglerade." Med AI som i grunden kan påverka människors ras i horisonten, sa Sherman att han är orolig för de oavsiktliga konsekvenserna av den tekniska utvecklingen vi redan har sett.

Rotenberg sa att även om han förblir orolig för traditionella integritetsproblem när han spåras och profileras, är han lika bekymrad över bristen på konkurrens, brist på innovation och risken för demokratiska institutioner. Han sa att internetjättarna har enorm makt, och de uppgifter de har skapar en äkta barriär för inträde, så det finns ingen meningsfull konkurrens. Rotenberg sa att han har varit i Washington sedan Reagan-administrationen, och för första gången "det senaste årets val kändes inte bekant."

I en tidigare session talade boyd, som skrev en bok som heter It's Complicated , om svårigheten att konfrontera manipulation på Internet.

Hon berättade om en eskalerande process av manipulation under de senaste 20 åren, som började med barn som trollade Oprah och fortsatte till "rickrolls" och saker som att ändra sökresultaten för namnet "Santorum." Senare, med Gamergate, har en större roll av karaktärer blivit spelare, inklusive statliga skådespelare. boyd sa att Internetföretagen tror att AI kan skydda dem, men grupperna som försöker manipulera resultat experimenterar redan med naturlig språkbehandling, och viktigast av allt, att manipulera med datakällor. Att till exempel injicera dåliga data i ett system är enligt hennes åsikt en ny sårbarhet. Fortfarande sa Boyd att det enda svaret kommer att vara att "bygga tekniska antikroppar i vår bransch."

Under denna session sa Boyd att teknikföretagen räknar med manipulation på flera fronter och noterade att medan alla tittar på Ryssland finns det många andra stater som driver liknande åtgärder. Till exempel försöker kinesiska företag se till att de kommer att kontrollera AI, och hon sa att detta utgör en annan utmaning eftersom det inte handlar om industrikonkurrens utan konkurrera med en stat.

På frågan av Sherman om detta är ett krig, sa Boyd att hon tror att det är det, medan McNamee sa att det är klassiskt geriljakrig i att våra fiender har använt vår teknik mot oss. McNamee sa att problemet inte är sociala nätverk eller sökning, utan reklammodellen. Han sade i striden för människors uppmärksamhet, substans begravdes av sensation och citerade den gamla ordspråket att "om det blöder, leder det."

Sherman noterade att rädsla och ilska är mycket mer magnetisk och därmed mycket billigare. Han sa att även om organiska meddelanden användes för att nå mer än 125 miljoner människor, var målet med ansträngningen att annonser skulle dela upp människor i grupper baserade på delade intressen.

Rotenberg sa att han är för att göra algoritmerna transparenta och reklamen reglerad, men sade att vi måste respektera individens rätt att tala online. Men McNamee sa att "det första ändringsförslaget har vapenats", och att onlineutrymmen skiljer sig väsentligt från torget.

boyd beskrev vad hon kallar "boomerang-effekten", eller med andra ord idén att provocera media att rapportera om upprörande saker är poängen, eftersom detta förstärker det ursprungliga meddelandet till den del av publiken som misstroder media. Som exempel talade boyd om Pizzagate. Hon noterade att media innan internet ofta använde "strategisk tystnad" för att undvika att täcka saker som självmord och Klan-möten för att undvika att publicera dem.

Rotenberg enades om att mycket av denna tradition av noggrannhet och övervakning har gått förlorad, och sade att saker som avsnitt 230 (som säger att internetföretag inte är ansvariga för saker som inlägg av användare) har gjort det svårare för traditionella nyheter att konkurrera.

På frågan om lösningar sa McNamee att Facebook är en kult och att det måste sluta förneka problemet och hantera det, liksom börja ta itu med "avprogrammering" genom att nå ut till var och en av sina användare. Rotenberg främjade idén om reglering. Och boyd föreslog att vi måste investera pengar i samhället, för att "åternäta" Amerika.

Reckoning med de nya hemonemonisterna

Mark Mahaney, RBC Capital Markets; Dave Morgan, Simulmedia; Joyce Vance, University of Alabama; David Kirkpatrick, teknik

I en tidig panel om "Reckoning with the New Hegemonists", var nästan alla överens med Joyce Vance från University of Alabama, som sa att tekniken verkligen har överträffat lagen, som desperat måste komma ikapp. Men Vance varnade för att det också finns risken för "slipshod" politiska svar.

Simulmedias Dave Morgan sa att "det kommer att finnas reglering", även om han sa att det är möjligt att de stora företagen kanske kan undvika mycket av dess påverkan.

Morgan noterade att medieindustrins historia ger paralleller till vad vi ser nu, eftersom tidningar skulle ha sett sig själva som tryckföretag och tidiga sändningsföretag såg sig själva som tekniska företag. Alla dessa möjliggör tillhandahållande av konsumentkontakt, vilket helt klart är vad Google och Facebook gör. Många antitrustfall inträffade som ett resultat av en sådan koncentrerad mediemakt, och regeringen kunde regera dem i. En stor skillnad idag är att de andra teknologierna krävde en geografisk nexus, som internetföretagen inte behöver.

Vance noterade att senaten nu överväger ett lagförslag som skulle kräva att dessa företag ska bevara sin reklamhistoria, samt att det är klart vem som betalar för politiska annonser. Men Morgan påpekade att det nu är globala företag med bredare räckvidd. På frågan om de europeiska reglerna om privatlivets integritet, sade Vance att USA mycket väl kan ha cedrat ledarskap till EU på detta område. Hon sa att hon inte tror att amerikanska företag kommer att kunna följa olika krav i olika geografiska områden, så som standard kommer företag att följa europeiska förordningar.

Mark Mahaney från RBC Capital Markets sade att företagen redan regleras, särskilt i Europeiska unionen, med Google särskilt under granskning för att buntas eller marknadsföra sina tjänster tillsammans med sina sökresultat eller med Android. Kirkpatrick sa att han trodde att antitrustuppgången faktiskt hjälpte Microsoft, men Mahaney motsatte sig att det inte var tillsynsmyndigheterna som stoppade Microsoft, utan konkurrens.

Kan teknik och regering rädda demokrati?

Tim Hwang, FiscalNote; Minnie Ingersoll, Code For America; Marc Rotenberg, elektroniskt informationscenter för integritet; Molly Turner, UC Berkeley Haas School of Business; Jon Fine, Inc Magazine; Lawrence Norden, NYU School of Law

Ett liknande ämne kom upp på en rundbord på frukosten, med titeln "Can Tech and Government Save Democracy?", Där moderator Jon Fine från Inc Magazine bad om lösningar. Rundbordet kom dock inte på något.

Hwang sa att problemet inte är de tekniska plattformarna, utan snarare den ilska som folk känner som ett resultat av att de kopplas bort från ekonomin.

Lawrence Norden, från Brennan Center vid NYU School of Law, sa att lagar som kräver mer utlämnande av politiska annonser är ett enkelt svar, men att tyvärr det stora problemet är "mörka inlägg" eller inlägg av okänt ursprung. I det avseendet, sade han, är internet mer som ett torg.

Men Rotenberg sa att det är motsatsen, och att Internet är mer som en företagsstad, där plattformarna sätter reglerna och bestämmer vad du ser. Minnie Ingersoll of Code For America frågade om problemet är utländsk inblandning eller om Google kontrollerar vad vi säger. Tillsynsmyndigheter måste bättre förstå problemen, sa hon.

Molly Turner från UC Berkeley Haas School of Business sa att Internet har blivit det största uttrycket, men orolig för att det undergräver den civila diskursen. Å andra sidan oroar hon sig för krav på plattformar för att ta bort viss slags information (om lagen om kommunikationsanständighet försvagades, till exempel eller på grund av andra typer av regleringar), eftersom plattformen plötsligt i så fall blir "domaren av Tal."

Rotenberg svarade att medan bilföretagen en gång kämpade säkerhetsbestämmelser hjälpte dessa i slutändan att göra bilar säkrare och ledde till mer innovation. En stabil lagstadgad miljö kan faktiskt hjälpa plattformarna, föreslog han. Rotenberg observerade att teknikföretagen har drivit "netneutralitet" för telekommunikationsföretag, men inte för sig själva, och krävt lika villkor.

Internet under attack

Mark Anderson, strategisk nyhetstjänst; Peder Jungck, BAE Systems Intelligence & Security; Rebecca MacKinnon, Nya Amerika; David Kirkpatrick, teknik

En sista panel som heter "Internet under attack" fortsatte diskussionen.

Rebecca MacKinnon, som driver projektet Ranking Digital Rights i New America, sa att det en gång var ett antagande att på grund av Internet skulle auktoritära regimer så småningom bli mer som demokratier. Hon är nu mer rädd för autoritära regimer och demokratier "kommer att mötas i mitten."

MacKinnon sa att auktoritära regimer anpassar Internet till sina syften, medan demokratier möter populism, manipulation och "övervakningskapitalism." Men, sa hon, demokratier borde vara försiktiga med ett lagstiftningssvar - medan hon håller med om att det finns ett behov av mer öppenhet när det gäller algoritmer och integritet, är hon orolig för att ett censursystem skulle göra det lättare att slå ner på delarna av samhället regeringen förakt.

Peder Jungck, som är chef för underrättelse och säkerhet för BAE Systems, enades om att regeringar skulle vilja använda sådana system för att hitta dissidenter och sa att en idé är en produkt, och som alla produkter kan den drivas. På frågan om annonssystem är vapen, sa han, "Pandora's Box har öppnats och vi kan inte gå tillbaka."

Mark Anderson, Strategic News Service, sa att vi har sett en rak linje från ARPANETs dagar, när det inte fanns några onda, till idag, när vi ser mer och mer ondskefullt beteende under dagen.

Anderson var särskilt tydlig när han beskrev hur Kina stjäl immateriell äganderätt och använder det för att driva företag ur verksamhet. Och han föreslog att Equifax-hacket hade alla markeringar av en regeringsattack. Sammanfattningsvis sa Anderson att han "inte ser någon lösning."

Jungck sa att vi borde anta att skurkarna är i våra system och arbeta med lösningar. Till exempel sade han att ett personnummer inte längre kan säkras, så vi kan i stället behöva en blockchain-lösning.

I projektet Ranking Digital Rights utvärderade MacKinnon 22 globala företag på 35 frågor om saker som yttrandefrihet, integritet och säkerhet. Hon sa att två företag fick "Ds" och att alla andra misslyckades. Hon vill veta vad företag gör med dina uppgifter; vem de delar det med; om de gör due diligence, säkerhetsanalyser och styrning för risk; och om de skyddar sekretess och säkerhet, innehåll och uttryck. Transparens är inte tillräckligt, sa hon, men ett nödvändigt första steg.

Anderson sa att öppenhet är bra, men inte en lösning och noterade att någon som vill manipulera ett system inte behöver betala för annonser utan kan använda 100 000 botnät. Kirkpatrick föreslog sedan att företag skulle kunna upprätthålla identitet och därmed minska användningen av botnät.

Men MacKinnon motarbetade att det är mänskliga rättighetsaktivister som är de mest sårbara för användningen av sådana system, för om du säkerställer identitet, skulle ingen som motsätter sig en auktoritär regering vara på de sociala nätverken.

Jungck undrade varför vi måste säkerställa en identitet när webbplatserna redan vet vem du är och vad du ska köpa. "Det finns ingen anonymitet på internet, det är för länge sedan borta, " sade han. Den enda skillnaden är hur lång tid det tar att ta reda på vem du är.

Sammanfattningsvis sa MacKinnon att hon är optimistisk på mycket lång sikt, men för de kommande 100 åren "inte så mycket."

När du lyssnar på allt detta är det lätt att vara pessimistisk eller åtminstone fatalistisk om hur mycket reglering som behövs och vilken inverkan det kommer att få. Men jag tenderar fortfarande att vara optimist, och även om jag tror att en viss mängd ytterligare reglering är både trolig och nödvändig, tror jag att det är lika troligt att dagens Internet-jättar - eller några framtida spelare - kommer att få bättre svar.

Hur troligt är du att rekommendera PCMag.com?