Kodkonferens: youtube, facebook, twitter execs för att skära ner dåligt innehåll

I fotspåren av andra teknikkonferenser fokuserade årets kodkonferens på nackdelen med teknik, och särskilt sociala medier, med ledarna för Instagram, Twitter och YouTube grillade över sin policy för att ta bort eller inte publicera tvivelaktigt innehåll.

Alla dessa chefer tycktes ha någon variation av följande konversation: Ja, det finns dåliga saker på vår plattform. Vi borde ha känt tidigare. Vi försöker göra saker bättre. Men det är svårt. Vi är ledsna om du blev förolämpad.

Det är meningsfullt, men det smälter inte alla kritiker eller tystar rösterna som kräver uppdelning eller åtminstone mer reglering av de stora tekniska plattformarna. Här är vad några av cheferna och några av kritikerna sa vid utställningen.

Youtube

YouTubes VD Susan Wojcicki beskrev förändringar i plattformens policy för hatytringar och säger att om en video nu hävdar att någon grupp (som en ras eller religion) är överlägsen, kommer det inte längre att tillåtas; Inte heller kommer videor som hävdar att en annan grupp är underlägsen. Hon sa att företaget också lagt till fler grupper på den skyddade listan inklusive kaster i Indien och offer för verifierade våldshändelser (som förintelsen). Hon sa att detta bara är några av de många policyförändringar som företaget har gjort under det senaste året. Hon talade också om att begränsa distributionen av "gränsinnehåll" så att vissa videoklipp som inte är blockerade inte ingår i YouTube-rekommendationerna och inte finns tillgängliga för monetisering. Detta säger hon har minskat deras åsikt med 80 procent.

Men hon erkände att allt detta har fortsatt att leda till kontroverser, började hennes intervju genom att be om ursäkt till LGBTQ-samhället och säga att hon förstått att hennes beslut var skadliga för den gemenskapen, men det var inte avsikten. Kontroversen avser YouTubes beslut att låta videor från Stephen Crowder stanna kvar på webbplatsen, trots klagomål från Voxs Carlos Maza om att Crowder trakasserade honom och andra med anti-LGBTQ-kommentarer. (Vox startar kodkonferensen.)

"Kontext verkligen betyder något, " sade Wojcicki och sade att innan företaget tar bort en video överväger det om en video är tillägnad trakasserier eller en timmes video med en rasistisk slur, om det är en offentlig person och om det är skadligt med avsikt. Hon sa att bestämningen av något är skadligt är ett högt hinder för företaget och säger att det måste verkställas politik konsekvent, eftersom det alltid skulle finnas videor som folk klagar över. Hon noterade att du kan hitta en massa rasstävlingar och sexistiska kommentarer i saker som rap-låtar, sena kvällssamtal och massor av humor. Hon sa att företaget vill arbeta för att ändra policyn, snarare än att ha en "knägg" -reaktion på en enskild instans.

I slutändan sa hon att företaget beslutade att dessa videoklipp inte var trakasserier och inte bryter mot policyn, och sa att det var rätt beslut. Men hon sa att företaget avbröt intäktsgenerering - med att videoskaparen tjänar vinst från annonser som visas på videon.

Hon sa att om YouTube skulle ta ner den videon, skulle det finnas så mycket annat innehåll det skulle behöva ta ner. Men hon sa att företaget kommer att ta bort saker och att många av de förändringar som gjorts i hatpolitiken verkligen kommer att vara till fördel för LGBTQ-samhället och kommer att resultera i att videor tas bort. Och hon upprepade en ursäkt för den skada den kan ha orsakat.

På fråga av konferensvärd Peter Kafka om YouTubes skala - med 2 miljarder användare och 500 timmar video laddas upp varje minut - betyder att du aldrig kan lösa problemet sa Wojcicki: "Vi kan definitivt förbättra hur vi hanterar plattformen, och jag ser hur mycket vi har förbättrat. " Hon noterade att företaget har sett en minskning med 50 procent i mängden våldsamt innehåll under de senaste två åren och att över 10 000 personer arbetar med innehåll. Men hon tryckte tillbaka på fokus på dåliga saker på plattformen och noterade att det fanns massor av bra innehåll också. "All oro handlar om denna bråkdel en procent av innehållet, " sade hon. Men hon erkände att det finns mycket arbete att göra för att hantera det innehållet och sa att företaget investerar i verktyg och arbetar hårt för att hantera detta.

Hon borrade åt sidan ett förslag om att det kan finnas en hinder för att ladda upp videor, och sa "vi skulle förlora mycket röster." Men hon pratade om att ha fler "pålitliga nivåer" av videor så att vem som helst kan börja ladda upp saker men måste uppfylla vissa regler för att få bredare distribution.

"Vi ser alla dessa fördelar med öppenhet, " sade hon men konstaterade att YouTube har ett ansvar att förstå innehållet och bestämma vad som ska rekommenderas och vad som ska främjas.

Wojcicki sa att hon trodde YouTube och Google kommer att möta mer reglering och pekar på nya upphovsrättsregler i Europa, men sa att det var viktigt för tillsynsmyndigheterna att förstå hur man implementerar dessa saker på rimliga sätt på grund av potentialen för oavsiktliga konsekvenser.

På frågan av Kevin Roose från The New York Times om YouTube har bidragit till radikalisering av politik, (baserat på en ny historia som han gjorde) sa Wojcicki webbplatsen har tagit radikaliseringsproblem mycket allvarligt och gjort ett antal förändringar i januari som minskade rekommendationerna av "gränsinnehåll" med 50 procent.

Hon sa att YouTube vill erbjuda ett brett utbud av åsikter, med användare som väljer vad de vill se, men var bekymrad, och sa att hon trodde att sådana förändringar i policyer och i rekommendationer kommer att göra en skillnad.

Instagram och Facebook

Två Facebook-chefer talade om hur Facebook, och särskilt Instagram, hanterade kritiken.

Adam Mosseri, som är chef för Instagram, sa att vi ser "ett paradigmskifte mot mer privata kommunikationsformer" och noterade att all tillväxt på Instagram kom från berättelser och meddelanden. Han noterade att berättelser är flyktiga, medan matningen är bättre om du vill ha saker som finns runt för alltid. Han noterade att berättelser inte handlar om "verktygsmeddelanden" utan snarare om "konversationsstartare."

Mosseri sa att företaget har "massor av het debatt", eftersom det finns en verklig spänning mellan integritet och säkerhet. Han sade, "Vi lägger en insats i marken att nämnda meddelanden bör vara helt privata, " men enades om att företaget behöver tid att arbeta och tid för att ta reda på lösningar för säkerhet.

Andrew Bosworth, som övervakar konstgjord verklighet, virtuell verklighet och andra avancerade projekt för Facebook, konstaterade att sekretess ibland betyder integritet från Facebook, men andra vill ha integritet från regeringen eller från enheten. Historiskt sa han att integritet för Facebook innebar kontroll över data och vem som kunde se det. Men han noterade att det spelar ut på olika sätt, och han sa att den "globala konversationen inte kommer att ha ett svar", eftersom olika marknader hade olika syn på regeringskontroll kontra säkerhet.

På frågan från Verge 's Casey Newton om huruvida att bryta upp Facebook och göra Instagram till ett separat företag skulle vara bra, sa Mosseri, "det kan göra mycket av mitt liv enklare, och det skulle förmodligen vara fördelaktigt för mig som individ, men Jag tycker bara att det är en hemsk idé. " Han sa att i frågor som valintegritet och hatytringar skulle det bara göra det exponentiellt svårare för Instagram att hålla sina användare säkra. Han sa att han ursprungligen lovade att hålla Instagram oberoende av Facebook men bröt det löfte när det kom till säkerhetsfunktioner eftersom Facebook har fler människor som arbetar med säkerhet och integritet än det totala antalet personer som arbetar på Instagram.

Mosseri sa att det i grund och botten är en hälsosam sak att gå igenom begäran om ansvarsskyldighet och Facebook gjorde ett misstag genom att inte fokusera noggrant på de oavsiktliga konsekvenserna under de första åren. "Vi måste göra mer för att vårda och växa det goda och ta itu med det dåliga, " sade han.

Bosworth sa att när en webbplats är liten kan allt innehåll granskas, även om det ger oss frågor om sekretess. När det blir större kan du inte manuellt granska allt innehåll, men du får fler resurser och en "skalfördelning." Han enades om att Facebook var "massivt bakom detta", men sa att företaget investerade massivt och sa att han tyckte att det var ett lösningsbart problem, och att företaget både arbetade med tekniska lösningar och med tillsynsmyndigheter för hur man ska svara. Du kommer inte närmare att lösa dem genom att dela upp i lag och ge varje lag färre resurser, tillade han.

På frågan om Facebook inte kan lösa dessa problem eftersom den erbjuder annonsstödda tjänster sa Bosworth: "Det kostar oss mycket mer att ha något av detta marginella innehåll på plattformen." Han sa att Facebook hade tiotusentals människor som granskade innehåll. Om företaget skulle vara hänsynslöst och bli av med allt tal som alls är kontroversiellt, sa han, skulle det vara mer effektivt.

Mosseri sa att vi borde vara stolta över att du kan använda den tjänsten gratis. Företaget sa att reklam är det som gör det möjligt för företaget att tillhandahålla detta, och det betalas mest av människor som har råd med det. Om du stänger av reklam stänger du av människor.

En förändring som Instagram testar döljer "gillar" i systemet. Mosseri sa att vi inte vill att Instagram ska vara "en miljö under tryck" och noterar hur gilla kan vara konkurrens. Han var hausse om att gilla och räkna privat men sa att det bara är ett experiment.

Mosseri talade också om företagets Portal-enhet, som han sade specifikt "lämnade tabellens funktionalitet" genom att eliminera inspelning av konversationer. Han sa att vi ser en helt ny generation av hårdvara med smarta högtalare, men att Facebook ville se till att "mänsklig anslutning är en första parts användning" men med integritet inbyggd.

Bosworth konstaterade att Facebook ser VR som "en möjlighet att gå djupare" och ha meningsfulla upplevelser även om du inte kan vara där

Twitter

Två Twitter-chefer behandlade liknande frågor och konfronterade konferensmedordförande Kara Swishers påstående att plattformen är en "cesspool" byggd på människor som kan säga vad de vill och sedan säga fruktansvärda saker.

Twitter är "grundläggande baserat på att låta folk prata offentligt, sade produktledare Kayvon Beykpour. Han sa att syftet med webbplatsen är" att tjäna det offentliga samtalet ", vilket" hjälper människor att lära sig, hjälper människor att lösa problem och hjälper människor att inse att vi Det är allt i detta tillsammans. "Det är utgångspunkten, men han sa att det finns en" existentiell kris "för om samtalet inte är friskt, kommer människor inte att vilja delta.

Beykpour konstaterade att de flesta på Twitter inte har stora plattformar utan snarare har tiotals eller hundratals följare, och att människor använder tjänsten för att hitta människor som har likasinnade intressen.

Vijaya Gadde, som är Twitter: s juridiska, offentliga policy och säkerhetsledare, sade att företaget ursprungligen drivit för helt fritt uttryck, men nu var mer medveten om den inverkan vi har. Hon sa att företaget har en politisk ram som fokuserar på grundläggande mänskliga rättigheter, såsom säkerhet och fritt uttryck.

Hon noterade att företaget nu hade att göra med brist på förtroende och felinformation på plattformen. I april, i samband med val i Indien och Europa, sa hon att företaget rullade ut nya policyer som syftar till att begränsa felinformation om hur man registrerar sig för att rösta eller var man ska rösta. Hon sa att detta fortfarande var en inlärningsprocess och noterade till exempel att vissa skämt raderades. På andra områden sa hon om du söker efter information om vacciner kommer du nu att riktas till pålitliga källor. Målet är särskilt att förhindra "offline skada" för människor.

Gadde noterade att Twitter har haft en "historisk preferens för att inte vara sanningens arbete", men medgav att det var svårt att göra detta i skala. Istället, sa hon, försökte företaget att förstärka innehåll som kommer från ansedda källor. Med tiden, sa hon, kommer företaget att behöva göra mer och sa att det tittade på vad andra plattformar gör.

Beykpour sa att Twitter historiskt sett har "roterat över" för att försöka lösa genom politik och verkställighet, inte genom produkt och teknik. Han sa att företaget har gjort framsteg på hälsofrågor och kommer att göra mer. Han noterade att företaget just utfärdade en ny förenklad policy som var lättare att läsa och detta skulle möjliggöra bättre verkställighet. För närvarande, sade han, 40 procent av tweets de företag "åtgärder" görs proaktivt, i motsats till från klagomål.

Han sa att företaget avförstärker innehåll och sade att nya policyer har minskat mängden missbruk som rapporterats med 45 procent; och antalet kontoblock med 30 procent. Dessutom noterade han att företaget nu utmanar och blockerar fler inloggningar för att försöka förhindra skadliga konton. men står fortfarande inför problem som gissning av brute lösenord.

På frågan om rädsla för att sociala medieplattformar leder till ökad radikalisering erkände Gadde att det var en oro. "Jag tror att det finns innehåll på Twitter och varje plattform som bidrar till radikalisering, " sade hon. Men hon tillade att företaget har många mekanismer och policyer som bekämpar detta. Hon sa att 90 procent av allt terrorisminnehåll tas bort omedelbart och har förbjudit 110 våldsamma extremistgrupper.

Gadde sade att Twitter: s regler "är ett levande dokument", med ny forskning som svarar på nya skador, vilket ger företaget råd om det finns mer än vi kan göra. Hon noterade att "dåliga saker händer också på privata plattformar". Eftersom Twitter är helt öppen, sa hon, kan alla se och svara. Men hon noterade att det kan vara en nackdel att vara öppen eftersom det ger människor en plattform. Hon sa att företaget försökte hitta rätt balans mellan allmänintresse och förmåga att se och svara, och de problem som innehållet kan orsaka. Hon noterade att företaget måste arbeta med globala lösningar, eftersom 80 procent av dess användare inte var i USA

Hon talade om vikten av öppenhet och att vara mycket tydlig om vad reglerna är. Men hon nämnde också innehållets nyhetsvärde och noterade att med offentliga personer, även om Twitter skulle radera en tweet, skulle innehållet få uppmärksamhet.

Som svar på en publikfråga sa Gadde att Twitter var "väldigt, mycket fokuserad på radikalisering", och säger att om du hävdar en förening med våldsamma extremistgrupper, kan du inte vara på Twitter. Men hon sa att företaget har arbete att göra för att förstå hur man gör mer och att förändringar kommer att komma. Som svar på en annan fråga om övergrepp riktad till kvinnor sa hon att att göra det möjligt för Twitter att bli mer proaktiv kommer att göra en stor skillnad. Men hon sa att hon oroade sig mycket för att tystna röster, särskilt minoritetsgrupper och kvinnor.

Beykpour sa att en möjlig lösning var att ge kunderna mer kontroll över hur de kan känna sig säkrare på plattformen, till exempel att ge författare förmågan att moderera svar inom en konversationstråd. Han pratade också om nya typer av konversationer och noterade att nuvarande Twitter ganska mycket bara är offentliga tweets som lever för alltid och direktmeddelanden. Han konstaterade att företaget emellan inte stöder - men överväger - saker som en offentlig konversation som kan begränsas till fyra personer.

Medium

Ev Williams, VD för Medium och medgrundare av Blogger och Twitter, fokuserade mer på Medium, en prenumerationstjänst som han sade växer i en hälsosam takt, men skulle inte ge siffror. Han sa att människor prenumererar på tjänsten för idéer och perspektiv, i ämnen från hälsa till JavaScript till litterär skrift.

Han diskuterade hur paketinnehåll kan vara viktigt. Han sa att han är "mycket hausse med prenumerationer på redaktionellt innehåll" men att det kan vara svårt för många webbplatser. "Vi prenumererar inte på TV-program eller musikartister individuellt." Istället försöker han med Medium bygga en plattform som innehåller ägda och drivna webbplatser samt mångfald av andra webbplatser. Han sa att Medium har hundratusentals människor som skriver varje månad.

Han var övertygad om att det samlade innehållet kommer att lyckas och sa att det inte fanns några direkta konkurrenter, även om någon webbplats som har ett prenumeration och något liknande Apple News + med dess paket tidningar, konkurrerar.

Williams sade att Mediums politik har förändrats över tid och att dess innehållsmoderering nu är "ganska aggressiv" i vad den är villig att ta ner. På Medium sa han: "Allt vi rekommenderar godkänns först av en människa." Han erkände att det betyder att webbplatsen aldrig kommer att bli lika stor som sociala medier, men han sa att företagets "värdeutbyte" som sätter ditt innehåll i en kurationspool men bakom en betalvägg kommer att skala.

Även om han fokuserade på Medium diskuterade Williams sociala medier och bloggning. Han sa att han saknar bloggning, som något mellan extremt avslappnade tankar på sociala medier och artiklar i lång form. Han sa att i bloggning kan saker "marinera" i motsats till "beroende av kortvarig feedback som är skadligt för tanken."

Problemet, sade han, är att "Omedelbar feedback är förmodligen förvirrande för hälsosamma samtal." Han konstaterade att folk blir kopplade till kortvarig feedback, till exempel den offentliga visningen av följare eller gillar i en post. Han sa att det är omöjligt att leva i den miljön och inte låta det ändra ditt beteende Andra system med långsammare feedback, till exempel nyhetsbrev eller podcast, möjliggör mer kontext och bättre samtal sade han. "Om varje kommunikation måste stå på egen hand, förlorar du förmågan att gå djup, " sade han.

Han sa att den politiska konversationen var "bullrare än någonsin varit", och det gör det svårare, även om du vill höra många perspektiv. Men han sa att det finns ljusa fläckar.

"Anledningen till att jag blev upphetsad över webben i första hand är att jag trodde att det skulle göra oss smartare, " sade Williams. Han trodde att om människor skulle kunna lägga idéer där ute, skulle världen göra smartare val. Men han sa att det inte har visat sig på det sättet på grund av feedbacksystem och incitament. "En del av det är gränsen för den mänskliga uppmärksamhetens spännvidd, " sade han och noterade att mer information inte gör oss smartare om vi inte vet hur vi ska smälta det eller hur vi ska kontextualisera det, särskilt om det finns industrier som försöker få dig att köpa saker.

Det är en anledning till att han började arbeta på Medium för 7 år sedan. Han noterade att med en prenumerationstjänst betalar kunderna, så du måste skapa en produkt som någon finner tillräckligt värdefulla för att betala för. Han sa att det var bättre än reklam, som fokuserade på hur billigt du kan få någon uppmärksamhet.

En kritikpanel

Naturligtvis hade de stora plattformarna många kritiker på utställningen också. En panel inkluderade särskilt Nicole Wong, tidigare biträdande amerikansk teknikchef och tidigare biträdande generaldirektör på Google; Jessica Powell, före detta VD för kommunikation på Google och författare till The Big Disruption ; och Antonio García Martínez, tidigare Facebook och författare till Chaos Monkeys.

"Det här är inte nya problem, de har varit där redan från början", sa Powell och noterade att hon var orolig för "oavsiktliga konsekvenser" och att innehållsövervakning är hård. Hon sa att det är fantastiskt att plattformarna har en strängare politik "men de borde ha varit där mycket tidigare."

Wong noterade att i den första eran av Internet "byggde vi teknik och tänkte att vi skulle förändra världen för gott." Hon sa att det är fantastiskt och fortfarande existerar, och att människor inom teknik till stor del är där för att göra gott. Men hon sa att folk var lata för att inte erkänna att tekniken inte i sig är bra. Hon sa att vi nu vet hur det är att se ett "vapeninternet" och vi måste bygga system för att stå för det. "Ingen är skyldig oss ett gratis och öppet internet designat för vårt bästa och vi måste bygga det."

García Martínez sa att om någon kommer att reglera talet på Facebook, borde det vara regeringen. "En demokrati är strukturen där du får ansvar, inte ett företag, " sade han. Men han sa att han trodde att Facebook borde brytas upp ändå, med Instagram och What’s App separerade och säger att om du höjer fältet med innehållsmoderering kan du få en konkurrensfördel.

Powell sa att det fanns ett trovärdigt argument att om du har mer data kan du bättre träna AI-modeller så att du behöver mindre mänsklig måttlighet. Men hon föreslog att branschen kunde komma med ett sätt att samla information för alla spelare och sa att detta redan är gjort för utnyttjande av barn och att vi borde kunna ta reda på hur vi gör det för mobbning. Sammantaget sade hon, alla regler måste komma till frågor om kontroll och öppenhet och säger att det är fel att en nystart idag måste oroa sig för den väg som ska förvärvas.

García Martínez sa att det alltid finns en avvägning mellan integritet, bekvämlighet och säkerhet, och sa att det är ok om du vet vilka avvägningar du gör. Men han föreslog att bli av med tredjeparts datainsamlare.

I en annan session sköt komiker och kritiker Baratunde Thurston sin egen plattform av "nio sätt att inte skruva framtiden." Dessa artiklar inkluderar transparens och förtroende poäng, ändra standard för konversationer som ska stängas; och dataägande och portabilitet. Men han fick mest uppmärksamhet genom att beskriva Facebook som en "molnbaserad ursäktstjänst" som erbjuder "Apology-as-a-Service."

Dessutom gjorde NYU Stern-professor Scott Galloway, känd för sin bok The Four: The Hidden DNA of Amazon, Apple, Facebook och Google , ett antal förutsägelser för året som kommer. Inkluderat i dessa är förutsägelser om att en ledande Facebook-tjänsteman kommer att arresteras och arresteras på utländsk mark, och att det kommer att bli mer reglering av stora teknikföretag. Han sa att han trodde att genom spinoffs och uppdelningar kommer Big Tech att tillföra mer värde än Boeing och Airbus totala kapitalisering under de kommande sex månaderna.