Eli Pariser: Se opp for nettbaserte "filterbobler"

Mark Zuckerberg, en journalist spurte ham et spørsmål om nyhetsstrømmen. Og det journalisten spurte var, "Hvorfor er dette så viktig?" Og Zuckerberg svarte, "Et ekorn som dør i din hage kan være mer relevant for dine interesser akkurat nå enn at folk dør i Afrika." Og jeg vil snakke om hvordan et Internett basert på den idéen om relevanse kan se ut.

Da jeg vokste opp i et virkelig øde område i Maine, betydde Internett noe veldig annet for meg. Det betydde en forbindelse til verden. Det betydde noe som ville koble oss alle sammen. Og jeg var sikker på at det kom til å være flott for demokratiet og for vårt samfunn. Men det er denne endringen i hvordan informasjon beveger seg på nettet, og den er usynlig. Og hvis vi ikke holder øye med den, kan det bli et virkelig problem. Først la jeg merke til dette på et sted der jeg tilbringer mye tid – Facebook-siden min. Politisk er jeg progressiv – stor overraskelse – men jeg har alltid gjort mitt beste for å treffe konservative. Jeg liker å høre hva de tenker på; jeg liker å se hva de linker til; jeg liker å lære en ting eller to. Så jeg ble overrasket da jeg en dag oppdaget at de konservative hadde forsvunnet fra nyhetsstrømmen min på Facebook. Og det som viste seg å være årsaken var at Facebook registrerte hvilke lenker jeg klikket på, og la merke til at jeg faktisk klikket mer på mine liberale venners lenker enn mine konservative venners lenker. Og uten å rådføre seg med meg om det, filtrerte de dem ut. De forsvant.

Facebook er ikke de eneste som driver med denne usynlige, algoritmiske filtreringen av Internett. Google gjør det også. Hvis jeg søker etter noe og du søker etter noe, selv akkurat nå på nøyaktig samme tidspunkt, kan vi få veldig forskjellige resultater. Selv når du er logget ut, fortalte en utvikler meg, er det 57 signaler som Google ser på – alt fra hva slags datamaskin du bruker, til hvilken nettleser du bruker, til hvor du befinner deg – som blir brukt til å personlig skreddersy dine søkeresultater. Tenk på det et øyeblikk: det er ingen standard Google lengre. Og du vet, det rare med dette er at det er vanskelig å se. Du kan ikke se hvor annerledes dine søkeresultater er i forhold til alle andre sine.

Men for et par uker siden, spurte jeg en gruppe venner om å Google "Egypt" og sende meg skjermbilder av resultatene sine. Her er min venn Scott sitt skjermbilde. Og her er min venn Daniel sitt skjermbilde. Når du plasserer dem side om side, trenger du ikke en gang lese lenkene for å se hvor forskjellig disse to sidene er. Men når du leser lenkene, er det faktisk veldig oppsiktsvekkende. Daniel fikk ikke noen treff om protestene i Egypt på sin første side med Google-resultater. Scott sine resultater var fulle av dem. Og dette var den store nyhetssaken på dette tidspunktet. Det er såpass forskjellig disse resultatene er i ferd med å bli.

Dette gjelder ikke bare Google og Facebook heller. Dette er en trend som går igjen på Internett. Det er en hel rekke av bedrifter som bedriver denne type personalisering. Yahoo News, den største nyhetssiden på Internett, er nå personalisert – forskjellige folk ser forskjellige ting. Huffington Post, the Washington Post, the New York Times – alle flørter med personalisering på forskjellige måter. Og det beveger oss veldig raskt mot en verden der Internett viser oss hva det tror vi ønsker å se, men ikke nødvendigvis det vi trenger å se. Som Eric Schmidt sa, "Det kommer til å bli veldig vanskelig for folk å se eller konsumere noe som ikke på noen måte er blitt skreddersydd til dem."

Jeg syntes at dette er et problem. Og jeg tror at dersom du kombinerer alle disse filtrene, alle disse algoritmene, så får du det jeg kaller en filterboble. Din filterboble er ditt eget personlige, unike univers av informasjon som du lever i på nettet. Hva som finnes i din filterboble kommer an på hvem du er og det kommer an på hva du gjør. Men greia er at du får ikke bestemme hva som får komme inn. Og enda viktigere, du får faktisk ikke se hva som blir filtrert ut. Så et av problemene med filterboblen ble oppdaget av noen forskere hos Netflix. De så på Netflix-køen, og la merke til noe litt rart som mange av oss antakeligvis har lagt merke til, nemlig at det er noen filmer som bare sklir til topps og sendes direkte ut. De kommer inn i køen og sklir rett til topps. Så "Iron Man" sklir rett til topps, og "Waiting for Superman" kan vente veldig lenge.

Det de oppdaget var at i vår Netflix-kø foregår det en storslått kamp mellom vår fremtidige ambisiøse selv og vår mer impulsive nåværende selv. Dere vet at vi alle ønsker å være en som har sett "Rashomon," men akkurat nå vil vi heller se "Ace Ventura" for fjerde gang. (Latter) Så det beste filteret gir oss litt av begge deler. Det gir oss en liten bit av Justin Bieber og en liten bit av Afghanistan. Det gir oss noe informasjon om grønnsaker; det gir oss noe informasjon om dessert. Og utfordringen med denne type algoritmiske filtre, disse personaliserte filtrene, er at, fordi de hovedsakelig ser på hva du klikker på først, kan de sette denne balansen ute av spill. Og i stedet for en balansert informasjonsdiett kan du ende opp omringet av informasjonssøppelmat.

Det dette antyder er at vi faktisk kan ha fått historien om Internett feil. I et kringkastingssamfunn – dette er slik grunnleggingsmytologien går – I et kringkastingssamfunn, der var det disse portvaktene, redaktørene, og de kontrollerte informasjonsflyten. Og så kom Internett på banen og feide dem ut av veien, og det tillot oss alle å koble oss sammen, og det var fantastisk. Men det er ikke akkurat det som skjer nå. Det vi ser er snarere en videreføring av ansvaret vekk fra menneskelige portvakter til algoritmiske. Og greia er at algoritmer ikke enda har den formen for innebygd etikk som redaktørene hadde. Så hvis algoritmer skal håndplukke verden for oss, hvis de skal få bestemme hva vi får se og hva vi ikke får se, da er vi nødt til å sørge for at de ikke kun er knyttet til relevans. Vi må sørge for at de også viser oss ting som er ubehagelig eller utfordrende eller viktig – det er dette TED gjør – andre synspunkter.

Det spesielle er at vi faktisk har vært i denne situasjonen før som et samfunn. I 1915 hadde ikke akkurat avisene et anstrengt forhold til sitt samfunnsansvar. Så la folk merke til at de gjorde noe veldig viktig. At man faktisk ikke kunne ha et fungerende demokrati hvis borgerne ikke fikk en god strøm av informasjon, at avisene var viktige fordi de opptrådte som filteret, og så ble journalistisk etikk utviklet. Det var ikke perfekt, men det fikk oss gjennom det forrige århundret. Så nå, er vi på en måte tilbake i 1915 på Internett. Og vi trenger de nye portvaktene til å hardkode et slikt ansvar inn i koden de skriver.

Jeg vet at det er mange mennesker her fra Facebook og fra Google – Larry og Sergey – mennesker som har hjulpet med å bygge Internett slik det er, og jeg er takknemlig for det. Men vi trenger virkelig at dere sørger for at disse algoritmene har kodet inn i seg en oppfatning av det offentlige liv, en forstand for et samfunnsansvar. Vi trenger at dere sørger for at de er såpass åpne slik at vi kan se hva reglene er for å avgjøre hva som kommer gjennom våre filtre. Og vi trenger at dere gir oss noe kontroll så vi kan få bestemme hva som kommer gjennom og hva som stoppes. Fordi jeg tror at vi virkelig trenger at Internett blir den tingen vi alle drømte at det skulle bli. Vi trenger at det kobler oss alle sammen. Vi trenger det for å introdusere oss for nye idéer og nye mennesker og forskjellige perspektiver. Og det kommer ikke til å gjøre det om det etterlater oss alle isolert i et nett av en.

Takk.

(Applaus)