Eli Pariser: Čuvajte se online "filter mjehurića"

Mark Zuckerberg, novinar mu je postavio pitanje u vezi news feed-a. I novinar ga je pitao, "Zašto je ovo toliko važno?" A Zuckerber odgovara, "Vjeverica koja umire na vašem travnjaku može biti relevantnija za vas u ovom trenutku nego ljudi koji umiru u Africi." Želio bih govoriti o tome kako bi izgledao internet utemeljen na toj ideji o relevantnosti.

Tokom mog odrastanja u stvarno ruralnoj sredini u Maine-u, internet mi je značio nešto sasvim drukčije. Značio je vezu sa svijetom. Značio je nešto što bi nas sve povezalo. I bio sam siguran da će to biti odlično za demokraciju i za naše društvo. Ali tu postoji taj preokret u načinu na koji informacija putuje online, koji je nevidljiv. I ako ne obratimo pažnju na njega, može postati ozbiljan problem. Prvi put sam ovo primjetio na mjestu na kojem provodim dosta vremena -- moja Facebook stranica. Moja politička razumjevanja su progresivna -- kakvo iznenađenje -- ali sam se uvijek trudio upoznati konzervativce. Volim čuti o čemu razmišljaju; Volim vidjeti koje linkove postavljaju; Volim naučiti nekoliko stvari. Tako sam se iznenadio kada sam jednog dana primjetio da su konzervativci nestali iz mog Facebook feeda. A ono što se ispostavilo je da je Facebook pratio koje linkove sam kliknuo, i primjećivao je da sam, u stvari, više klikao na linkove mojih liberalnih prijatelja nego na linkove mojih konzervativnih prijatelja. I bez konzultacije samnom, izbacio ih je. Oni su nestali.

Ali Facebook nije jedino mjesto koje radi ovo nevidljivo, algoritamsko mjenjanje weba. I Google to radi. Kad ja tražim neki pojam, i vi tražite neki pojam, čak i sada, u isto vrijeme, možemo dobiti različite rezultate pretrage. Čak i ako niste ulogirani, jedan inžinjer mi je rekao, postoji 57 signala koje Google prati -- sve od toga na kakvom ste računalu do toga koji pretraživač koristite i toga gdje se nalazite -- koje služi da bi vam osobno skrojio rezultate pretrage. Razmislite o tome na trenutak: više ne postoji standardni Google. Znate, zanimljivo u vezi toga je što je to vrlo teško primjetiti. Vi ne možete vidjeti koliko se vaši rezultati pretrage razlikuju od bilo kojih drugih.

Ali prije nekoliko tjedana pitao sam grupu prijatelja da guglaju "Egipat" i da mi pošalju snimak ekrana koji su dobili. Evo snimka ekrana mog prijatelja Scott-a. A evo snimka ekrana mog prijatelja Daniel-a. Kad ih stavite jedan pored drugog, ne morate čak ni čitati linkove da biste vidjeli koliko se razlikuju. Ali kad pročitate linkove, stvarno je vrijedno pažnje. Daniel nije dobio ništa u vezi prosvjeda u Egiptu na svojoj prvoj stranici Google rezultata. Scottovi rezultati su bili puni prosvjeda. A to je bila najvažnija vijest dana u tom trenutku. Toliko ti rezultati postaju različiti.

To nisu čak ni samo Google i Facebook. To je nešto što se širi mrežom. Postoji mnoštvo kompanija koje rade ovakvu vrstu presonalizacije. Yahoo News, najveći news site na Internetu, je sada personaliziran -- različiti ljudi dobiju različite stvari. Huffington Post, Washington Post, New York Times -- svi flertuju s personalizacijom na različite načine. I to nas vrlo brzo vodi ka svijetu u kojem nam Internet prikazuje stvari koje misli da želimo vidjeti, ali ne nužno i stvari koje bi trebali vidjeti. Kao što je Eric Schmidt rekao, "Bit će vrlo teško ljudima gledati ili konzumirati nešto što nije na neki način skrojeno baš za njih."

Tako da stvarno smatram da je to problem. I mislim da, ako skupite sve te filtere, uzmete sve te algoritme, dobijete ono što zovem filter mjehurić. Vaš filter mjehurić je vaš osobni jedinstveni univerzum informacija u kojem živite online. A što se nalazi u vašem filter mjehuriću zavisi od toga tko ste, i zavisi od toga čime se bavite. Ali stvar je u tome da vi ne odlučujete što ulazi unutra. I još važnije, ne možete vidjeti što vam je uklonjeno. Tako da je jedan od problema s filter mjehurićem otkriven od strane nekih istraživača iz Netflixa. Promatrali su Netflix redoslijede, i primjetili nešto zanimljivo što su mnogi od nas vjerovatno primjetili, a to je da postoje neki filmovi koji na neki način iskoče odmah u naše domove. Uđu u redoslijed, i odmah iskoče. Tako "Iron Man" odmah iskoči, a "Waiting for Superman" može čekati prilično dugo vremena.

Ono što su otkrili je da se u Netflix redoslijedu događa epska bitka između našeg budućeg sebe kojem težimo i našeg sadašnjeg, impulzivnijeg sebe. Znate, svi bi mi željeli biti netko tko je gledao "Rashomon," ali trenutno želimo gledati "Ace Venturu" po četvrti put. (Smijeh) Tako da nam najbolje uređivanje daje ponešto od obojeg. Daje nam pomalo Justin Biebera i pomalo Afganistana. Daje nam nekakve biljke informacija, i daje nam neke informacijske poslastice. Nedostatak ovakve vrste algoritamskih filtera, ovih personaliziranih filtera, je u tome što, pošto pretežno prate na što prvo kliknete, mogu promijeniti tu ravnotežu. Umjesto balansirane informacijske dijete, možete završiti okruženi informacijskim smećem od hrane.

Ovo ustvari ukazuje na to da smo možda promašili cijelu priču s Internetom. U širokopojasnom društvu -- ovako glasi osnivačka mitologija -- u širokopojasnom društvu, postojali su ti vratari, urednici, koji su kontrolirali protok informacija. I onda se pojavio Internet koji ih je pomeo s puta, i omogućio svima nama da se međusobno povežemo, što je bilo fenomenalno. Ali to zapravo nije ono što se upravo događa. Ono što sada vidimo je više predavanje štafete od ljudskih vratara ka algoritamskim. A stvar je u tome da algoritmi još uvijek nemaju ugrađenu etiku koju su imali urednici. Ako će nam algoritmi biti tutori o svijetu, ako će odlučivati što možemo a što ne možemo vidjeti, onda se moramo pobriniti da nisu naštimani samo na relevantnost. Moramo osigurati da nam prikazuju i stvari koje su neugodne ili teške ili bitne -- to je ono što TED radi -- druge točke gledišta.

Stvar je u tome da smo već bili na ovom mjestu kao društvo. 1915. godine, novine se nisu puno brinule o svojoj odgovornosti prema građanima. Onda su ljudi primjetili da one rade nešto vrlo značajno. Da, u stvari, ne možete imati funkcionalnu demokraciju ako građani nemaju dobar priljev informacija. Da su novine kritične, jer su funkcionirale kao filter, i onda se razvila novinarska etika. Nije bila savršena, ali nam je poslužila kroz prošli vijek. I tako smo danas, u neku ruku ponovno u 1915. na Webu. I potrebni su nam novi vratari da utkaju tu vrstu odgovornosti u kod koji ispisuju.

Znam da ima dosta ljudi ovdje iz Facebooka ili Googlea -- Larry i Sergey -- ljudi koji su pomogli u izgradnji Weba kakav je danas, i ja sam im zahvalan zbog toga. Ali stvarno želimo da osigurate da ti algoritmi imaju u sebi ugrađen osjećaj javnog života, osjećaj građanske odgovornosti. Želimo da osigurate da budu dovoljno transparentni kako bi vidjeli koja su pravila koja određuju što će proći kroz naše filtere. I želimo da nam date neku kontrolu, da možemo odlučiti što će proći a što ne. Jer smatram da nam je stvarno potrebno da Internet bude to što smo svi sanjali da će biti. Potreban nam je da nas sve poveže. Potreban nam je da nas upozna s novim idejama i novim ljudima i različitim perspektivama. A to neće napraviti ako nas sve ostavi izolirane u pojedinim mrežama.

Hvala Vam.

(Pljesak)