Eli Pariser: Var medvetna om "filterbubblorna" på nätet.

Mark Zuckerberg, utfrågades av en journalist om nyhetsströmmen (feeden). Och journalisten frågade honom, "Varför är denna så viktig?" Och Zuckerberg svarade, "En ekorre som dör framför din trappa kan vara mer relevant för vad du föredrar just nu än människor som dör i Afrika." Och vad jag vill prata om är hur en webbaserad idé för relevans kan se ut.

Så när jag växte upp i ett verkligen lantligt område i Maine, så betydde verkligen Internet något väldigt speciellt för mig. Det innebar en anslutning ut i världen. Det betydde någonting som skulle sammanbinda oss alla. Och jag var säker att det skulle vara positivt för demokratin och för vårt samhälle. Men det håller på skifta, på vilket sätt information flödar på nätet, och det sker utan att vi ser det. Och om vi inte lägger till märke till detta, så skulle detta kunna bli ett verkligt problem. Jag märkte detta första gången på en plats jag spendera mycket tid på -- på min Facebooksida. Jag är progressiv, politisk, -- stor överraskning -- men jag alltid försökt på mitt sätt att möta konservativa Jag tycker om att höra vad de funderar kring; Jag vill se vad de länkar till; Jag gillar att lära mig saker. Så jag vart väldigt förvånad när jag en dag förstod att de konservativa hade försvunnit från min Facebook-nyhetsström (feed). Och visade sig att Facebook tittade på vilka länkar jag klickade på och siten noterade i själva verket, att jag klickade mer på min liberala vänners länkar än på mina konservativa vänners länkar. Och utan att tillfråga mig, hade siten tagit bort dem. De hade försvunnit.

Och Facebook är inte ensam om att göra detta osynligt med algoritmer, att redigera webben. Även Google gör det. Om jag söker något och du söker desamma, samtidigt i denna stund, så kan vi få väldigt olika sökresultat. Detta även om du är utloggad, en ingenjör berättade för mig att det finns 57 signaler som Google tittar på -- allt i från vilken typ av dator du använder till vilken webbläsare du använder till vart du är lokaliserad -- detta används för att skräddarsy just dina sökresultat. Betänk detta för en sekund: det finns inget standard-Google längre. Och vet du, det lustiga är att det är svårt att se det. Du kan inte se hur olika dina sökresultat är jämfört med någon annans.

Men för ett par veckor sedan, så bad jag några vänner att Googla "Egypt" och skicka mig några skärmdumpar på vad de fick. Här är min vän Scotts skärmdump- Och här är min vän Daniels skärmdump. När man lägger dem sida vid sida, så behöver du inte ens läsa länkarna för se hur olika dessa två sidor är. Men när du läser länkarna, är det verkligen anmärkningsvärt. Daniel fick ingenting om protesterna i Egypten överhuvudtaget på sin första sida med Google-resultat. Scotts resultat var full av dem. Och detta var den stora nyheten den dagen vid den tiden på dagen. Sökresultaten håller på att bli så olika.

Och det är inte bara Google och Facebook heller. Det är något som sprider sig över hela webben. Det är en mängd företag som håller på med den typ av personalisering. Yahoo News, den största nyhetssiten på Internet, är nu personaliserad -- olika människor får olika saker. Huffington Post, the Washington Post, the New York Times -- lockar med personalisering på flera olika sätt. Och leder oss mycket snabbt mot en värld där Internet visar oss vad det tror vi vill se, men inte nödvändigtvis vad vi behöver se. Som Eric Schmidt sa, "Det kommer bli väldigt svårt att få se något eller konsumera något som inte i någon mening skräddarsytts"

Så jag anser detta är ett problem. Och jag anser, om du lägger samman alla dessa filter, och du tar alla dessa algoritmer, får du vad jag kallar en "filterbubbla". Och din egen "filterbubbla" är ditt egna unika universum av information som du lever i på nätet. Och vad som är i din Filterbubbla beror på vem du är och den beror vad du gör. Men grejen är det är inte du som bestämmer vad som kommer in. Än viktigare, är att du verkligen inte ser vad som klipps bort. Så ett av problemen med "Filterbubblor" vilket upptäcktes av några forskare på Netflix. Och de tittade på Netflix-köerna och de märkte något väldigt märkligt något som en hel del av oss märkt, vilket är att det är några filmer som far direkt upp och ut till hushållen. De går in i kön, och viner direkt ut. Så "Iron Man" viner rätt ut, och "Waiting for Superman" kan få vänta ganska lång tid.

Vad de upptäckte var att i våra Netflix-köer pågår en episk kamp mellan vårt framtida strävande jag och vår mer impulsiva jag i nuet. Du vet att vi alla vill vara någon som tittat på "Rashomon" men just nu vill vi bara se "Ace Ventura" för fjärde gången. (Skratt) Så det bästa urvalet ger oss lite av varje. Det ger oss en lite del av Justin Bieber och en liten del av Afghanistan. Och det ger oss lite "informationsgrönsaker" och det ger oss lite "informationsefterrätter". Och utmaningarna med dessa typer av algoritmiska filter, dessa personaliserade filter, är att de på grund av att de tittar mest på vad du klickat först på, kan dessa komma ur balans. Och istället för en balanserad informationsdiet, kan du tillslut vara omgiven med informationsskräpmat.

Vad detta pekar på är att vi helt enkelt skrivit sagan om Internet felaktigt. I ett etermediasamhället -- låter den grundande mytologin på detta sätt -- i ett etermediasamhälle fanns dessa grindvakter, dessa redaktörer, och de kontrollerade informationsflödet. Och så kom Internet och sköljde bort dem, och tillät oss att kommunicera tillsammans, och det var underbart. Men det är sannerligen inte vad som händer just nu. Vad vi ser är att facklan skickas vidare från mänskliga grindvakter till algoritmiska vakter. Och saken med algoritmerna är att de har inte än har någon typ av inbyggd etik som redaktörerna hade. Så om algoritmerna ska kunna skapa en värld för oss, om de ska kunna bestämma vad vi ska få se och vi inte ska få se, då bör vi säkerställa att de inte bara har relevans som enda måttet. Vi behöver säkerställa att de visar oss saker som är obehagliga eller utmanande eller viktiga -- det är vad TED gör -- en annan synvinkel.

Och saken är den att vi varit där förut som samhället. Det är inte som 1915 när tidningarna hade det tufft kring sitt samhällsansvar. Då märkte folk att de gjorde något verkligt viktigt. Faktum är de kunde inte blivit en fungerande demokrati om inte medborgarna hade fått ett bra informationsflöde. Att tidningarna var kritiska för att de agerade som filtret, och att den journalistiska etiken utvecklades. Den var inte perfekt. men den tog oss genom förra seklet. Och nu är, vi typ tillbaka på 1915-års nivån på webben. Och vi behöver de nya grindvakterna för att koda den typen av ansvar in i programkoden de skriver.

Jag vet det är en hel del människor från Facebook och från Google här -- Larry och Sergey -- människor som hjälpt till att bygga upp webben som den är, och jag är tacksam för detta. Men vad vi verkligen måste försäkra oss om är att dessa algoritmer har inbyggt en känsla för det offentliga livet, en känsla av medborgerligt ansvar. Vi måste se till att de är tillräckligt transparenta så vi kan se vilka reglerna är som bestämmer vad som passerar vårt filter. Och vi att ni ger oss lite kontroll över dessa, så att vi kan bestämma vad som går igenom och vad som inte går igenom. För att jag anser det är viktigt för oss att Internet blir det som det vi alla drömde om att det skulle vara. Vi behöver detta för att binda oss samman. Vi behöver det för att introducerar oss till nya idéer och nya människor och olika perspektiv. Och det kommer inte att göra detta om det lämnar oss alla i en isolerad personspecifik webb.

Tack så mycket.

(Applåder)