Eli Pariser: Tenha cuidado com os "filtros-bolha" online.

Mark Zuckerberg, um jornalista fazia-lhe uma pergunta sobre os 'feeds' de notícias. E o jornalista perguntou: "Por que isto é tão importante?" E Zuckerberg respondeu: "Um esquilo morrendo no seu jardim pode ser mais relevante para os seus interesses, neste momento, do que pessoas morrendo na África." E eu quero falar sobre como seria o aspecto de uma 'web' baseada nesta ideia de relevância.

Então, quando eu estava crescendo em uma área realmente rural, no Maine (EUA), a internet significava algo muito diferente para mim. Ela significava uma conexão para o mundo. Significava algo que nos ligaria a todos. E eu tinha certeza que ela seria ótima para a democracia e para a nossa sociedade. Mas aconteceu este tipo de mudança em como a informação está fluindo 'on-line', e ela é invisível. E se não prestarmos atenção nisto, poderá vir a ser um grande problema. Pois bem, eu notei isto a primeira vez em um lugar onde passo muito tempo -- na minha página do Facebook. Sou um progressista, politicamente -- grande surpresa -- mas sempre saí dos meus caminhos para encontrar os conservadores. Eu gosto de ouvir sobre o que eles estão pensando; Eu gosto de ver para quais 'links' eles apontam; Eu gosto de aprender uma ou duas coisas. E então, fiquei surpreso quando percebi certo dia que os conservadores haviam desaparecido do meu 'feed' do Facebook. E o que estava acontecendo era que o Facebook observava em quais 'links' eu clicava, e ele notava que, na verdade, Eu clicava mais nos 'links' dos meus amigos liberais do que nos 'links' dos meus amigos conservadores. E, sem me consultar sobre isto, ele os deletou. Eles desapareceram.

Pois bem, o Facebook não é o único lugar que está fazendo este tipo de invisível, algorítmica edição da 'web'. O Google o faz também. Se eu busco por algo e você busca este mesmo algo, ainda que no mesmo instante, nós talvez tenhamos resultados de busca muito diferentes. Mesmo que você não esteja "logado", um engenheiro contou-me, que existem 57 sinais que o Google olha -- desde o tipo de computador no qual você está ao tipo de navegador que você usa até onde você se localiza -- que ele usa para filtrar os seus resultados de busca. Pense sobre isto por um segundo: não há mais um Google padrão. E sabe de uma coisa, o engraçado sobre isto é que é difícil de ver. Você não consegue ver quão diferentes são os seus resultados de busca dos das demais pessoas.

Mas algumas semanas atrás, eu pedi para um grupo de amigos 'googlear' a palavra "Egito" e me enviarem as telas com os resultados que obtiveram. Então, eis aqui a tela do meu amigo Scott. E aqui, a tela do meu amigo Daniel. Quando você as coloca lado a lado, você nem mesmo precisa ler os 'links' para ver quão diferentes estas duas páginas são. Mas quando você lê os 'links', de fato, é realmente muito marcante. O Daniel não obteve nada sobre os protestos no Egito em sua primeira página de resultados do Google. Os resultados do Scott estavam cheios deles. E esta era a manchete do dia, naquele momento. Isto é o quão diferentes estes resultados estão se tornando.

E também não é apenas o Google e o Facebook. Isto é algo que está varrendo a rede. Há toda uma série de empresas que estão fazendo esse tipo de personalização. O 'Yahoo News', o maior site de notícias da internet, é agora personalizado -- pessoas diferentes obtêm diferentes notícias. o 'Huffington Post', o 'Washington Post', o 'New York Times' -- todos estão flertando com a personalização, de várias formas. E isto no leva muito rapidamente para um mundo no qual a internet nos mostra aquilo que ela pensa que queremos ver, mas não necessariamente o que precisamos ver. Como Eric Schmidt (diretor-executivo do Google) disse: "Será muito difícil para as pessoas assistirem ou consumirem algo que não tenha, em algum sentido, sido feito sob medida para elas."

Então, eu realmente penso que isto é um problema. E eu acho que, se você pegar todos estes filtros juntos, você pega todos estes algoritmos, você tem o que eu chamo de filtro-bolha. E o seu filtro-bolha é o seu próprio, pessoal e único universo de informação com o qual você vive 'on-line'. E o que está no seu filtro-bolha depende de quem você é, e depende do que você faz. Mas a questão é que você não decide o que entra. E mais importante, você, na verdade, não vê o que fica de fora. Então, um dos problemas com o filtro-bolha foi descoberto por alguns pesquisadores da Netflix. E eles estavam olhando as listas de dados da Netflix e notaram algo engraçado que muitos de nós provavelmente já notaram, que existem alguns filmes que aparecem, e logo desaparecem de nossas casas. Eles entram na lista e simplesmente desaparecem, em seguida. Então, "Homem de Ferro" logo desaparece enquanto que "Esperando pelo Super-homem" pode esperar por um tempo realmente longo.

O que eles descobriram foi que em nossas listas do Netflix há esta épica batalha em curso entre nossas futuras aspirações pessoais e nosso presente mais impulsivo e íntimo. Vocês sabem que todos queremos ser alguém que assistiu ao "Rashomon" (filme cult japonês da decáda de 50), mas, neste exato momento, nós queremos assistir "Ace Ventura" pela quarta vez. (Risos) Então, a melhor edição nos dá um pouco de ambos. Ela nos dá um pouco de Justin Bieber e um pouco sobre o Afeganistão. Ela nos dá algumas informações "vegetarianas", ela nos dá algumas informações do tipo sobremesa. E o desafio com estes tipos de filtros algorítmicos, estes filtros personalizados, é que, pelo fato de que eles olham principalmente para aquilo que você clica em primeiro lugar, eles podem comprometer o equilíbrio. E, ao invés de uma dieta balanceada de informação, você pode acabar rodeado por informações do tipo "porcariada alimentar".

O que isto sugere é que, na verdade, obtenhemos talvez a história equivocada sobre a internet. Em uma sociedade de transmissão (de rádio e TV) -- é assim que o 'mito de origem' acontece -- em uma sociedade de transmissão, existiam estes porteiros, os editores, e eles controlavam os fluxos de informação. E veio a internet e os varreu para fora do caminho, e ela permitiu que nos conectássemos, e era ótimo! Mas não é isso que, na verdade, está acontecendo agora. O que estamos vendo é mais uma passagem do bastão dos porteiros humanos para os algorítmicos. E a questão é que os algoritmos não possuem ainda o tipo ética arraigada que os editores possuiam. Então, se os algoritmos serão os curadores do mundo para nós, se eles decidirão o que veremos e o que não veremos, então precisamos ter certeza de que eles não estarão atados apenas à relevância. Precisamos ter certeza que eles também nos mostrarão coisas que são desconfortáveis ou desfiadoras ou importantes -- isto é o que o TED faz, correto? -- outros pontos de vista.

E a questão é que já passamos por isso antes como sociedade. Em 1915, não era que os jornais se esforçavam muito sobre suas responsabilidades civis. Então, as pessoas perceberam que eles faziam algo realmente importante. Que, de fato, você não poderia ter uma democracia funcionante se os cidadãos não conseguissem um bom fluxo de informação. Por isso que os jornais foram fundamentais, pois eles atuaram com um filtro e assim a ética jornalística se desenvolveu. Ela não era perfeita, mas nos conduziu pelo último século. E agora então, estamos como que de volta a 1915, na web. E precisamos de novos porteiros para registrarem aquele tipo de responsabilidade no código que eles estão escrevendo.

Eu sei que temos aqui muitas pessoas do Facebook e do Google -- Larry e Sergey -- pessoas que ajudaram a construir a web como ela é, e eu sou grato por isso. Mas realmente precisamos que vocês se certifiquem que estes algoritmos tenham codificados neles um senso de vida pública, um senso de responsabilidade cívica. Precisamos que vocês assegurem que eles sejam transparentes o bastante do modo que possamos ver quais são as regras que determinam o que passa pelos nossos filtros. E precisamos que vocês nos dêem algum controle, para que possamos decidir o que passa e o que não passa. Pois eu penso que realmente precisamos que a internet seja aquela coisa que todos sonhamos que ela fosse. Precisamos que ela conecte a todos nós. Precisamos que ela nos introduza em novas ideias, novas pessoas e diferentes perspectivas. E ela não fará isso se nos deixar isolados em uma "rede de um".

Obrigado.

(Aplausos)