Eli Pariser: Waspadai "gelembung filter" online

Mark Zuckerberg, seorang wartawan menanyakan padanya pertanyaan tentang feed berita. Dan wartawan itu menanyakan kepadanya, "Mengapa ini sangat penting?" Dan Zuckerberg menjawab, "Seekor tupai yang sekarat di halaman depan Anda mungkin lebih relevan dengan minat Anda sekarang dibandingkan orang-orang sekarat di Afrika." Dan saya ingin berbicara tentang bagaimana sebuah Web yang didasari pemikiran relevansi itu akan terlihat.

Ketika saya tumbuh dewasa di daerah yang sangat pedesaan di Maine, Internet berarti sangat berbeda bagi saya. Ia berarti koneksi ke dunia. Ia berarti sesuatu yang dapat menghubungkan kita semua. Dan saya yakin Internet akan sangat bagus untuk demokrasi dan untuk masyarakat kita. Tetapi ada perubahan dalam bagaimana informasi mengalir online, dan ini tidak terlihat. Dan jika kita tidak memperhatikannya, ini dapat menjadi masalah nyata. Jadi pertama kali saya memperhatikan ini di tempat saya menghabiskan banyak waktu -- halaman Facebook saya. Saya progresif secara politik -- kejutan besar -- tetapi saya selalu berusaha untuk bertemu dengan para konservatif Saya suka mendengar apa yang mereka pikirkan; Saya suka melihat yang mereka tautkan; Saya suka belajar satu dua hal. Dan saya terkejut waktu satu hari saya perhatikan bahwa para konservatif telah menghilang dari Facebook feed saya. Dan ternyata yang terjadi adalah bahwa Facebook melihat tautan mana yang saya klik, dan FB mengetahui bahwa, sebenarnya, Saya mengklik lebih banyak tautan dari teman-teman liberal saya dibanding tautan dari teman-teman konservatif saya. Dan tanpa menanyakan saya tentang itu, mereka telah diedit. Tautan ini menghilang.

Jadi Facebook bukanlah tempat satu-satunya yang melakukan pengeditan secara tidak terlihat, secara algoritmik terhadap Web. Google juga melakukannya. Jika saya mencari sesuatu, dan Anda mencari sesuatu, bahkan sekarang pada saat yang bersamaan, kita akan mendapatkan hasil pencarian yang sangat berbeda. Bahkan jika Anda telah keluar, seorang insinyur mengatakan kepada saya, ada 57 sinyal yang Google lihat -- semua dari komputer apa yang Anda dipakai, dari browser apa yang dipakai Anda, dimana Anda berada -- yang dipakai untuk menyesuaikan hasil pertanyaan Anda. Pikirkanlah sebentar: sudah tidak ada Google standar lagi. Dan tahukah Anda, yang lucu dari hal ini adalah ini sulit untuk dilihat. Anda tidak dapat melihat bagaimana hasil pencarian Anda berbeda dari orang lain.

Tetapi dua minggu lalu, Saya tanya beberapa orang untuk mencari "Mesir" di Google dan mengirimkan saya gambar layar yang mereka dapatkan. Jadi ini gambar layar milik Scott teman saya. Dan ini gambar layar milik teman saya Daniel. Jika Anda letakan mereka berdekatan, Anda tidak harus melihat tautannya untuk melihat bagaimana dua halaman ini berbeda. Tapi jika Anda membaca tautannya, ini sangat luar biasa. Daniel tidak mendapatkan apapun tentang protes di Mesir di halaman pertama hasil pencarian Googlenya. Di hasil Scott ada banyak sekali. Dan inilah cerita besar di hari itu. Itulah bagaimana hasil pencarian ini menjadi berbeda.

Jadi ini bukan hanya Google dan Facebook saja. Ini adalah sesuatu yang melanda seluruh Web. Ada banyak perusahaan yang melakukan personalisasi semacam ini. Yahoo News, portal berita terbesar di Internet, sekarang sudah dipersonalisasi -- orang berbeda mendapat hasil berbeda. Huffington Post, Washington Post, New York Times -- semuanya melakukan personalisasi dengan bermacam cara. Dan ini mengantarkan kita dengan sangat cepat ke dunia dimana Internet memperlihatkan ke kita apa yang ia pikir kita mau lihat, tetapi bukan berarti yang kita perlu lihat. Seperti yang Eric Schmidt katakan, "Akan sangat sulit bagi orang-orang untuk melihat atau mengkonsumsi sesuatu yang dalam arti tertentu belum disesuaikan untuk mereka."

Jadi saya pikir ini adalah suatu masalah. Dan saya pikir, jika Anda ambil semua filter ini, Anda ambil semua algoritma ini, Anda mendapatkan yang saya sebut gelembung filter. Dan gelembung filter Anda adalah dunia informasi milik Anda sendiri yang unik yang anda tinggali waktu online. Dan apa yang ada di gelembung filter Anda tergantung dari siapa Anda, dan tergantung pada apa yang Anda lakukan. Tetapi masalahnya Anda tidak memutuskan apa yang masuk. Dan lebih penting lagi, Anda tidak melihat apa yang disunting keluar. Jadi salah satu masalah dari gelembung filter ditemukan oleh beberapa peneliti di Netflix. Mereka melihat antrian Netflix, dan mereka menemukan sesuatu yang lucu yang banyak dari kita mungkin perhatikan, yaitu ada beberapa film yang sepertinya langsung terkirim ke rumah kita. Mereka masuk ke antrian, dan mereka langsung terkirim. Jadi "Iron Man" langsung terkirim, dan "Waiting for Superman" dapat menunggu untuk waktu yang sangat lama.

Yang mereka temukan adalah di antrian Netflix kami ada perjuangan hebat yang terjadi antara diri kita yang aspiratif di masa mendatang dan diri kita yang impulsif di masa sekarang. Anda tahu kita semua mau untuk menjadi seseorang yang telah menonton "Rashomon," tetapi sekarang kita ingin menonton "Ace Ventura" untuk keempat kalinya. (Tawa) Jadi pengeditan yang terbaik memberi kita keduanya. Ia memberi kita sedikit Justin Beiber dan sedikit Afghanistan. Ia memberi kita beberapa sayuran informasi, Ia memberi kita beberapa makanan penutup informasi. Dan tantangannya dengan sejenis filter algoritmik ini, filter yang telah disesuaikan seperti ini, adalah, karena mereka pada dasarnya mencari apa yang Anda klik pertama kali, itu akan menjadikannya tidak seimbang. Dan bukannya informasi diet seimbang, Anda akhirnya dapat terkepung oleh informasi junk food.

Apa yang ini tunjukkan adalah nyatanya kita mungkin telah mendapatkan cerita tentang Internet dengan salah. Di masyarakat penyiaran -- ini adalah bagaimana mitologi pendiri mengatakan -- di masyarakat siaran, ada penjaga gerbang, sang editor, dan mereka mengkontrol aliran informasi. Dan akhirnya datang Internet dan ia menyapu mereka keluar, dan ia memungkinkan kita untuk terhubung satu sama lain, dan ini sangat luar biasa. Tetapi ini bukanlah apa yang nyatanya terjadi sekarang. Apa yang kita lihat adalah pemindahan obor dari penjaga gerbang manusia ke penjaga gawang algoritmik. Dan masalahnya adalah algoritma belum memiliki etika yang tersirat yang para editor punya. Jadi jika algoritma akan menyediakan dunia untuk kita, jika mereka akan memutuskan apa yang dapat kita lihat dan apa yang tidak bisa kita lihat, jadi kita perlu untuk memastikan bahwa mereka bukan saja diprogram untuk relevansi. Kita perlu pastikan bahwa mereka juga menunjukan kita hal-hal yang tidak nyaman atau menantang atau penting -- inilah yang TED lakukan -- sudut pandang orang lain.

Dan sebenarnya kita pernah berada disini sebelumnya sebagai sebuah masyarakat. Di 1915, tidaklah seperti koran memikirkan banyak tentang tanggung jawab mereka sebagai warna negara. Lalu orang-orang memperhatikan Bahwa mereka melakukan sesuatu yang sangat penting. Bahwa, sesungguhnya, Anda tidak bisa mendapatkan demokrasi yang berfungsi jika warga negaranya tidak mendapatkan aliran informasi yang baik. Koran sangat penting, karena mereka bertindak sebagai filter, dan akhirnya etika wartawan terbentuk. Itu tidak sempurna, tetap berhasil membawa kita melewati seabad terakhir. Dan sekarang, kita seperti kembali di tahun 1915 di Web. Dan kita perlu penjaga gerbang baru untuk mengkode tanggung jawab seperti ini menjadi kode yang mereka tulis.

Saya tahu banyak orang di sini dari Facebook atau Google -- Larry dan Sergey -- orang-orang yang telah membantu kita membangun Web seperti sekarang, dan saya berterima kasih untuk itu. Tetapi kami sangat memerlukan Anda untuk memastikan bahwa algoritma-algoritma ini memiliki kode rasa dari kehidupan publik, rasa tanggung jawab kewarganegaraan. Kita perlu Anda untuk memastikan bahwa mereka cukup transparan sehingga kita dapat melihat aturan-aturan yang menentukan apa yang bisa melewati filter kita. Dan kita butuh Anda untuk memberi kita kontrol, sehingga kita bisa memutuskan apa yang bisa lewat dan apa yang tidak. Karena saya pikir kita sangat membutuhkan Internet untuk menjadi sesuatu yang kita impikan. Kita membutuhkannya untuk menghubungkan kita semua. Kita membutuhkannya untuk memperkenalkan kita kepada pemikiran baru dan orang-orang baru dan perspektif berbeda. Dan itu tidak akan terjadi jika kita menjadi terisolasi di satu Web.

Terima kasih.

(Tepuk tangan)