Eli Pariser
5,811,572 views • 9:04

Mark Zuckerberg, een journalist stelde hem een ​​vraag over de nieuwsfeed. De journalist vroeg hem, "Waarom is dit zo belangrijk?" Zuckerberg zei, "Een stervende eekhoorn in je voortuin is voor jou op dit moment soms meer relevant dan mensen die sterven in Afrika." Ik wil het hebben over hoe een Web gebaseerd op dat idee over relevantie eruit zou kunnen zien.

Toen ik opgroeide in een zeer landelijk gebied in Maine, betekende het internet iets heel anders voor mij. Het betekende een verbinding met de wereld. Het betekende iets dat ons allemaal zou verbinden. Ik was ervan overtuigd dat het geweldig zou zijn voor de democratie en voor onze samenleving. Maar er is een verschuiving in de manier waarop informatie online stroomt en het is onzichtbaar. En als we niet opletten, kan het een echt probleem worden. Ik merkte het voor het eerst op in een plaats waar ik veel tijd besteed — mijn Facebook-pagina. Ik ben progressief, politiek - grote verrassing - maar ik heb er altijd alles aan gedaan om ook conservatieven te ontmoeten. Ik wil horen waaraan ze denken; Ik wil zien waarnaar ze verwijzen; Ik leer graag een paar dingen bij. Dus was ik verrast toen ik op een dag merkte dat de conservatieven verdwenen waren uit mijn Facebookfeed. Wat er aan de hand bleek te zijn was dat Facebook bijhield op welke links ik klikte, en het merkte op dat ik meer op de links van mijn liberale vrienden klikte dan op die van mijn conservatieve vrienden. En zonder mij te raadplegen werden deze links gewist. Ze verdwenen.

Facebook is niet de enige plek die dit soort onzichtbare, algoritmische bewerking doet op het Web. Google doet het ook. Als ik naar iets zoek en jij zoekt iets, zelfs nu, op precies hetzelfde moment, krijgen we waarschijnlijk heel andere resultaten. Zelfs als je uitgelogd bent, vertelde een ingenieur me, zijn er 57 signalen waar Google naar kijkt - alles van wat voor soort computer je op werkt tot welke browser je gebruikt tot de plaats waar je je bevindt - gebruikt het om persoonlijke zoekresultaten weer te geven. Denk er eens een moment over na: er is geen standaard Google meer. En weet je, het grappige hiervan is dat het moeilijk te zien is. Je kunt niet zien hoeveel jouw zoekresultaten verschillen van die van iemand anders.

Een paar weken geleden, vroeg ik een stel vrienden "Egypte" te googelen en mij screenshots te sturen van wat ze kregen. Dus hier is de screenshot van mijn vriend Scott. En hier die van mijn vriend Daniel. Als je ze naast elkaar zet, hoef je niet eens de links te lezen om te zien hoe verschillend deze twee pagina's zijn. Maar als je de links leest, is het echt heel opmerkelijk. Daniel kreeg helemaal niets over de protesten in Egypte in zijn eerste pagina met Google resultaten. Scotts resultaten stonden er vol van. En dit was het grote nieuws van de dag op dat moment. Dat is hoe verschillend de resultaten kunnen worden.

Het is niet alleen Google of Facebook. Dit is iets dat rondgaat op het Web. Er zijn een hele reeks bedrijven die aan dit soort van personalisatie doen. Yahoo News, de grootste nieuwssite op het internet, is nu gepersonaliseerd - verschillende mensen krijgen verschillende dingen. Huffington Post, de Washington Post, de New York Times - allen flirten ze met personalisatie op verschillende manieren. En dit brengt ons zeer snel naar een wereld waarin het internet ons toont wat het denkt dat we willen zien, maar niet noodzakelijkerwijs wat we nodig hebben. Zoals Eric Schmidt zei, "Het zal heel moeilijk worden voor mensen om naar iets te kijken of te consumeren dat niet op een bepaalde manier op maat gemaakt is voor hen."

Ik denk dat dit een probleem is. En ik denk dat, als je al deze filters samenvoegt, al deze algoritmen, je iets krijgt wat ik een filterbubble noem. En je filterbubble is je eigen persoonlijke unieke universum aan informatie waarin je online leeft. En wat er in jouw filterbubble zit hangt af van wie je bent en wat je doet. Maar zelf kan je niet bepalen wat er in komt. En nog belangrijker, je ziet niet echt wat er eruit wordt geknipt. Een van de problemen van de filterbubble werd ontdekt door enkele onderzoekers bij Netflix. Ze keken naar de Netflix wachtrijen en ze merkten iets grappigs op dat velen van ons waarschijnlijk al opgemerkt hadden, dat er een aantal films zijn die gewoon opduiken en in onze huizen terecht komen. Ze komen in de wachtrij en ritsen er weer onmiddellijk uit. "Iron Man" ritst er onmiddellijk uit, en "Waiting for Superman" kan een hele lange tijd wachten.

Wat ze ontdekten was dat in onze Netflix wachtrijen een epische strijd gaande is tussen ons toekomstige te bereiken zelf en ons meer impulsieve huidige zelf. We willen allemaal iemand zijn die "Rashomon" gezien heeft maar nu willen we voor de vierde keer naar "Ace Ventura" kijken. (Gelach) De beste editing geeft ons een beetje van beide. Het geeft ons een beetje Justin Bieber en een beetje Afghanistan. Het geeft ons wat informatie als groenten, het geeft ons wat informatie als dessert. En de uitdaging aan deze vormen van algoritmische filters, deze gepersonaliseerde filters, omdat ze vooral op zoek zijn naar waar je het eerst op klikt, is dat er geen evenwicht meer is. In plaats van een evenwichtig informatiedieet, eindig je omgeven door informatie junkfood.

Wat dit suggereert is eigenlijk dat we het internetverhaal verkeerd hebben begrepen. In een televisie samenleving - is dit hoe de oprichters mythologie klinkt - In een televisie samenleving - waren er poortwachters, de redactie, en ze beheersten de stromen van informatie. Toen kwam het internet en veegde ze uit de weg, en liet ons toe met elkaar te verbinden, en het was geweldig. Maar dat is eigenlijk niet wat er nu gebeurt. Wat we zien is meer een doorgeven van de fakkel van menselijke poortwachters naar algoritmische. En deze algoritmes hebben nog niet de geïntegreerde ethiek dat de redactie had. Dus als algoritmes de wereld voor ons gaan indelen, als ze gaan beslissen wat we wel of niet te zien krijgen, dan moeten we ervoor zorgen dat ze niet alleen ingesteld zijn op relevantie. We moeten ervoor zorgen dat zij ons ook dingen laten zien die ongemakkelijk of uitdagend of belangrijk zijn - dit is wat TED doet - andere standpunten.

We waren hier al eerder als samenleving. In 1915, het is niet alsof kranten veel zweet lieten over hun maatschappelijke verantwoordelijkheden. Dan viel het mensen op dat ze iets echt belangrijks deden. Dat je in feite geen functionerende democratie kon hebben als burgers geen goede doorstroming van informatie krijgen. Dat de kranten kritisch waren omdat zij functioneerden als filter, en dan ontwikkelde de journalistieke ethiek zich. Het was niet perfect, maar we kwamen er de vorige eeuw mee door. En dus nu, zijn we terug in 1915 op het web. De nieuwe poortwachters moeten dat soort van verantwoordelijkheid coderen in de code die ze schrijven.

Ik weet dat er hier een heleboel mensen zijn van Facebook en van Google - Larry en Sergey — mensen die hebben geholpen het Web op te bouwen zoals het is, en ik ben er dankbaar voor. Maar het is nodig dat jullie ervoor zorgen dat in deze algoritmen een gevoel voor het openbare leven en maatschappelijke verantwoordelijkheid wordt gecodeerd. We hebben het nodig dat jullie ervoor zorgen dat ze transparant genoeg zijn dat we kunnen zien wat de regels zijn die bepalen wat er door onze filters komt. We hebben het nodig dat jullie ons enige controle geven, zodat we kunnen beslissen wat erdoor komt en wat niet. Omdat ik denk dat we het nodig hebben dat het internet dat wordt waar we allemaal van gedroomd hebben. We hebben het nodig om ons allemaal te verbinden. We hebben het nodig om ons nieuwe ideeën te introduceren en nieuwe mensen en verschillende perspectieven. Dat zal niet gebeuren als het ons isoleert in een Web van één.

Dank je wel

(Applaus)