Eli Pariser: Atenção a "bolhas de filtro" online

Mark Zuckerberg, um jornalista estava a fazer-lhe uma pergunta sobre o feed de notícias. E o jornalista perguntou-lhe, "Porque é isto tão importante?" Ao que Zuckerberg respondeu, "Um esquilo a morrer no teu quintal pode ser mais relevante para os teus interesses neste momento do que pessoas a morrer em África." E eu quero falar sobre como poderá ser o aspecto de uma Web baseada nessa ideia de relevância.

À medida que fui crescendo numa zona mesmo rural em Maine (EUA) a Internet significava algo muito diferente para mim. Significava uma ligação ao mundo. Era algo que nos ligaria a todos. E eu tinha a certeza que seria óptimo para a democracia e para a nossa sociedade. Mas houve uma mudança na forma como a informação circula online, e é invisível. E se não lhe prestarmos atenção, poderá ser um grande problema. Reparei nisto pela primeira vez num sítio onde passo muito tempo -- a minha página do Facebook. Sou progressista, politicamente -- grande surpresa -- mas sempre me esforcei para conhecer conservadores. Gosto de saber em que estão a pensar; Gosto de ver que links clicam; Gosto de aprender uma coisa ou duas. E então fiquei surpreendido quando um dia reparei que os conservadores tinham desaparecido do meu feed de notícias do Facebook. E o que realmente se passava era que o Facebook andava a ver em que links eu clicava, e reparou que eu clicava mais nos links dos meus amigos liberais do que nos de amigos conservadores. E sem sequer me consultar sobre tal, acabou por filtrá-los. Desapareceram.

E o Facebook não é o único sitio a fazer este tipo de invisível, algorítmica edição da Web. A Google também o faz. Se eu procurar por qualquer coisa, e vocês também o fizerem, mesmo agora, exactamente ao mesmo tempo, é possível que obtenhamos resultados de pesquisa muito diferentes. Mesmo que estejam desconectados, disse-me um engenheiro, há 57 sinais aos quais a Google olha -- tudo desde o computador onde se encontram até que tipo de navegador utilizam até onde se encontram -- e os utiliza para pessoalmente adaptar os vossos resultados de pesquisa. Pensem nisto por um segundo: já não existe um Google igual para todos. E sabem, a piada disto está no facto de que é difícil de se ver. Não têm noção de quão diferentes os vossos resultados são em comparação com os de qualquer outra pessoa.

Mas há umas semanas atrás, pedi a uns quantos amigos para pesquisarem no Google "Egipto" e para me mandarem uma imagem do seu ecrã com os resultados da pesquisa. Então aqui está a imagem do meu amigo Scott. E aqui está a imagem do meu amigo Daniel. Quando as põem lado a lado, nem precisam de ler os resultados para ver o quão diferentes estas duas páginas são. Mas quando realmente lêem os resultados, é de facto bastante notável. O Daniel não obteve absolutamente nada sobre os protestos no Egipto na sua primeira página de resultados no Google. Os resultados do Scott estavam cheios deles. E isto era a grande história do dia na altura. Isto é o quão diferente estes resultados estão a ficar.

E isto não é apenas no Google e no Facebook. Isto é algo que está a varrer a Web. Há uma série de companhias que estão a fazer este tipo de personalização. A Yahoo News, o maior site de notícias na Internet, é agora personalizado -- pessoas diferentes obtêm resultados diferentes. O Huffington Post, o Washington Post, o New York Times -- todos a namoriscar a personalização de diferentes maneiras. E isto move-nos muito rapidamente em direcção a um mundo em que a Internet nos mostra o que ela acha que nós queremos ver, mas não necessariamente aquilo que temos de ver. Como Eric Schmidt disse, "Será muito difícil fazer com que as pessoas vejam ou adquiram algo que não foi de alguma forma feito para elas."

Portanto eu realmente acho que isto é um problema. E penso que, se agarrarem em todos estes filtros, se agarrarem em todos estes algoritmos, ficam com aquilo a que eu chamo bolha de filtros. E a vossa bolha de filtros é o vosso pessoal e único universo de informação em que vivem online. E o que está na vossa bolha de filtros depende de quem são, e depende do que fazem. Mas o problema é que vocês não decidem o que entra na bolha. E ainda mais importante, não vêm realmente o que fica de fora. Um dos problemas da bolha de filtros foi descoberto por alguns investigadores da Netflix. E eles estavam a ver as filas da Netflix, e repararam numa coisa com alguma piada que provavelmente muitos de nós já repararam, que há certos filmes que é como se entrassem e saíssem logo de nossa casa. Vão para a fila, e saem logo. Ou seja, o "Iron Man" sai logo, e o "Waiting for Superman" pode esperar muito, muito tempo.

E o que eles descobriram foi que nas nossas filas da Netflix decorre uma luta épica entre a nossa futura e aspiracional pessoa e a nossa mais impulsiva e presente pessoa. Todos vocês sabem que todos queremos ser alguém que viu o "Rashomon", mas neste momento queremos ver o "Ace Ventura" pela quarta vez. (Gargalhadas) Portanto, o melhor ajuste dar-nos-ia um bocado dos dois. Dá-nos um bocado de Justin Bieber e um bocado de Afeganistão. Dá-nos alguma informação tipo vegetais, e dá-nos alguma informação tipo sobremesa. E o desafio com estes tipos de filtros algorítmicos, estes filtros personalizados, é que, devido ao facto de estarem essencialmente a olhar para o que se clica primeiro, pode desequilibrar esse balanço. E em vez de uma dieta de informação equilibrada, pode-se encontrar rodeado de informação tipo "comida de plástico".

O que isto sugere é que na verdade podemos ter a ideia errada da Internet. Numa sociedade difundida -- é assim que a mitologia de fundação funciona -- numa sociedade difundida, existiam os porteiros, os editores, e eles controlavam os fluxos de informação. E entretanto veio a Internet e varreu-os para fora do seu caminho, e permitiu-nos ligar uns aos outros, e era óptimo. Mas na verdade não é o que está a acontecer neste momento. O que nós estamos a ver é mais a passagem da tocha dos porteiros humanos para os porteiros algorítmicos. E o problema é que os algoritmos não têm ainda o tipo de ética incorporada que os editores tinham. Portanto, se são algoritmos que vão filtrar o mundo por nós, se vão decidir o que podemos ver e o que não podemos ver, então temos que ter a certeza que não estão apenas ligados à relevância. Temos que ter a certeza que também nos mostram coisas que são desconfortáveis ou desafiadoras ou importantes -- é isto o que o TED faz -- outros pontos de vista.

E o problema é que já passámos por isto como sociedade. Em 1915, não era como se os jornais se preocupassem muito acerca das suas suas responsabilidades cívicas. Depois as pessoas notaram que eles estavam a fazer algo realmente importante. Que, de facto, não era possível ter uma democracia funcional se os cidadãos não obtivessem um bom fluxo de informação. Que os jornais eram críticos, porque estavam a agir como filtro, e aí a ética do jornalismo foi desenvolvida. Não era perfeita, mas com ela passámos este último século. E portanto agora, É como se estivéssemos de volta ao 1915 na Web. E nós precisamos que estes novos porteiros inscrevam esse tipo de responsabilidade no código daquilo que estão a escrever.

Eu sei que há aqui bastantes pessoas do Facebook e da Google -- Larry e Sergey -- pessoas que ajudaram a construir a Web tal como é, e eu estou grato por isso. Mas precisamos realmente que vocês tenham a certeza de que estes algoritmos tenham neles inscritos um sentido de vida pública, um sentido de responsabilidade cívica. Precisamos que vocês tenham a certeza de que são suficientemente transparentes para que consigamos ver quais são as regras que determinam o que é que passa através dos nossos filtros. E precisamos que nos dêem algum controlo, para que possamos decidir o que passa e o que não. Porque eu acho que precisamos realmente que a Internet seja aquela coisa que todos nós sonhamos que era. Precisamos que nos ligue todos uns aos outros. Precisamos que nos dê a conhecer novas ideias e novas pessoas e diferentes perspectivas. E não vai fazer isso se nos deixar a todos isolados na Web de um.

Obrigado.

(Aplausos)