Execs kämpar med facebookansvaret

Facebook COO Sheryl Sandberg och Mike Schroepfer tog scenen på kodkonferensen i Rancho Palos Verdes i går kväll för att diskutera förändringar som företaget har gjort i kölvattnet av Cambridge Analytica-skandalen.

Sandberg, som intervjuades av konferens moderatorerna Kara Swisher och Peter Kafka, sa att företaget nu förstår att det var för sent att svara på de integritetsproblem som Cambridge Analytica väckte. "Vi vet definitivt att vi var sena. Vi sa att vi är ledsna, men ledsen är inte poängen, " sa hon.

Istället är det viktigt att tänka på det ansvar Facebook har på ett annat sätt. De senaste 10 till 12 åren, enligt Sandberg, fokuserade Facebook på att bygga och möjliggöra sociala upplevelser, ibland försumma att överväga hur plattformen skulle kunna missbrukas eller missbrukas. "Nu förstår vi det ansvar vi har och försöker agera i enlighet därmed", sa hon.

Det finns en "grundläggande spänning" mellan verktyg som möjliggör enkelt, fritt uttryck och att skydda människor, tillade Schroepfer. Facebook vill underlätta diskussion, men också se till att plattformen inte är värd för hatytringar eller inlägg för att manipulera val.

Cambridge Analytica-problemet

Cambridge Analytica-frågan går tillbaka minst tio år, när människor talade om att vilja "ta med sig data", så Facebook utvecklade API: er för att hjälpa dem att göra det. På dessa dagar, sa Schroepfer, var Facebook optimistisk och fokuserade på det faktum att företagare kunde använda sina data för att utveckla nya applikationer. Det trodde också att människor som använde dessa appar förstod vad som hände.

År 2014 beslutade Facebook att begränsa åtkomsten till sådana data och inledde en mer proaktiv granskning av applikationer. Cambridge Analytica hade fått Facebook-data. Varför fick Facebook veta om detta från pressen? När uppgifterna var utanför Facebook kunde de bara observera uppgifterna, sa Schroepfer.

Facebook inaktiverade omedelbart appen som skrapade data och försökte ta reda på vem som kom till den. Efter nollställning på Cambridge Analytica insisterade företaget på att de hade raderat uppgifterna, men det kanske inte är fallet, erkände Schroepfer.

Företaget är nu fokuserat på teoretiska sätt människor kan få tillgång till användardata, sa han, och har gjort investeringar i säkerhet, granskning av innehåll och utveckling.

När vi tittar tillbaka "önskar vi att vi hade fler kontroller på plats", sade Sandberg. Hon noterade att trots rättsliga försäkringar från Cambridge Analytica att de hade raderat uppgifterna, "borde vi ha granskat dem." Hon sa att företaget under de senaste månaderna har flyttat för att göra just det, även om detta för närvarande är på väntande i väntan på en brittisk regerings översyn

I början av valet 2016 var folk mest oroliga för skräppost och phishing-e-post, konstaterade Sandberg. Även om företaget vidtog åtgärder för att undvika dessa problem, förutsågde de inte de olika "mer lumska hoten" som kom. Det är nu mycket medvetet om dessa hot och har vidtagit aggressiva åtgärder på detta område, sade Sandberg.

Sandberg pekade på radering av falska konton och Facebook-samarbete med regeringar för att förhindra liknande händelser kring andra val, med hänvisning till arbete runt Alabama, Tyskland och Frankrike. "Vi visar att vi vidtar åtgärder för att göra det bättre, " sade hon.

Sandberg nämnde också att Facebook alltid har "haft" verktyg för att kontrollera hur användare delar data med applikationer och nu har flyttat dessa verktyg till toppen av News Feed. Företaget bygger också nya verktyg ovanpå dessa kontroller.

Såg det inte komma

Swisher frågade hur Facebook eventuellt kunde ha misslyckats med att förstå potentialen för missbruk av sin plattform och pratade specifikt om misstag med Facebook Live. Sandberg drev tillbaka och sa att "Live är ett bra exempel" på hur företaget fixar saker. Hon noterade att när Live lanserade var det "mycket bra, saker som var fel." Så nu har företaget mänsklig granskning av allt live inom några minuter. Som ett resultat har det tagits in tjänster direkt, och tider då företaget grep in och hjälpte människor.

Facebook har en öppen plattform och vet att den aldrig kommer att förhindra alla dåliga saker. Men hon sa att företaget kunde vara mer öppet och lägga mer resurser på att skapa en säker gemenskap. Företaget har raderat 1, 3 miljarder falska konton; publicerade sina interna riktlinjer som använts för att bedöma om innehåll ska tas bort; och tar bort framgångsrikt 99 procent av terroristinnehållet, 96 procent av vuxenfoton och sexuellt innehåll, men endast 38 procent av hatprat innan det rapporteras till företaget av användare.

"Vi kommer inte att få allt", medgav Sandberg, men Schroepfer sa att Facebook har gjort mer framsteg på detta än han trodde att det skulle kunna göra.

Fake News

Om problemet med falska nyheter sa Sandberg att mycket av det kommer från falska konton; genom att ta ner dem minskar det problemen. En annan stor källa är ekonomiskt motiverad, så företaget flyttar för att sparka dåliga aktörer ur sina annonsnätverk. Hon sa också att företaget arbetar med att vara mer transparent, så att du kan se folket bakom alla politiska eller utfärda inlägg, vilket gör att människor kan hitta fler saker som är fel och rapportera dem.

förordning

På frågan om reglering sa Sandberg att företaget redan är reglerat med saker som GDPR. "Frågan är inte om det kommer att finnas mer reglering, men vilken typ av reglering", hävdade hon.

Facebook har spenderat mycket pengar och lagt in en hel del komplexa system för att hantera GDPR och erkänt att reglering kan förankra stora företag. Och hon oroar sig för oavsiktliga konsekvenser och noterade att saker som uppringande ID ursprungligen ansågs vara en invasion av privatlivet, så det fanns regler som förhindrade det.

På frågan om Facebook är ett monopol och bör brytas upp sa Schroepfer att det finns konkurrens på marknaden, med hänvisning till YouTube för videodelning, Twitter för publicering av offentliga kommentarer och Snapchat, WeChat och iMessage för meddelanden. "Konsumenterna använder de produkter de vill ha", sa han och noterade att Facebook är "en mycket liten del" av den totala annonsmarknaden.

Apple mot Facebook

På frågan om Apples VD Tim Cooks kritik av företaget sade Sandberg: "Vi håller starkt med om deras karaktärisering av våra produkter och affärsmodell." Notera att Facebook är en gratis tjänst för människor över hela världen.

"Vi har tittat på prenumerationer och kommer att fortsätta göra det, " sade Sandberg, men betonade att produktens hjärta kommer att fortsätta vara en gratis tjänst.

Att höra om de fruktansvärda saker som händer på plattformen har fått företaget att fokusera på nya prioriteringar, sa Schroepfer. "Det är inte kul, men det är verkligen viktigt arbete." Han sa också att fokus på säkerhet och säkerhet är den "största kulturella förändringen" som han har sett på företaget.

Även om Facebook fokuserar på behovet av att tillhandahålla säkerhet, säkerhet och integritet på plattformen, förstår företaget att det kommer att bli ett vapenkapplöpning, och det finns risker som det inte kommer att förutse, erkände Sandberg.