Эли Парайзер: Остерегайтесь онлайн "фильтров-пузырей"

Марк Цукерберг, журналист задал ему вопрос о ленте новостей. И журналист спросил его, "Почему это так важно?" На что Цукерберг ответил, "Белка, сдохшая у вас во дворе, может быть куда более релевантной для вас на данный момент, чем люди, умирающие в Африке." А я хочу поговорить о том, как может выглядеть Сеть, основанная на идее релевантности.

Когда я рос в глубокой сельской местности в штате Мэн, Интернет значил для меня совершенно другое. Он означал связь с миром. Он представлял что-то, что может соединить нас всех вместе. И я был уверен, что это будет очень важно для демократии и для нашего общества. Но происходят изменения в том, как информация передаётся в Интернете, и они незаметны. И если мы не придадим этому значения, это может стать реальной проблемой. Впервые я заметил это там, где провожу много времени – на моей странице в Facebook. У меня прогрессивные политические взгляды – на удивление – но я всегда старался общаться с консерваторами. Мне хочется услышать то, о чем они думают; хочется увидеть то, что их притягивает; хочется узнать пару новых вещей. И однажды я очень удивился, заметив, что консерваторы исчезли из моей ленты новостей на Facebook. И на самом деле оказалось, что Facebook отслеживал ссылки, на которые я нажимал, и замечал, что фактически я чаще нажимал на ссылки моих друзей-либералов, чем на ссылки моих друзей-консерваторов. И не посовещавшись со мной, он их исключил. Они исчезли.

Но Facebook – не единственное место, где практикуется такое невидимое, алгоритмическое редактирование Сети. Google делает тоже самое. Если вы и я используем поиск, чтобы найти что-то даже совершенно одновременно, мы можем получить очень разные результаты. Даже если вы выйдете из системы, как пояснил мне один инженер, останутся 57 сигналов, которые обработает Google – всё, начиная с разновидности вашего компьютера до вида вашего веб-обозревателя и вашего месторасположения – которые он использует для индивидуализации результатов. Задумайтесь на секунду: стандартный Google больше не существует. И знаете, смешнее всего, что это практически не заметно. Вы не видите, насколько ваши поисковые результаты отличаются от результатов других людей.

Но пару недель назад я попросил своих друзей погуглить "Египет" и прислать мне снимки экрана того, что у них получилось. Итак, вот снимок экрана моего друга Скотта. А вот снимок экрана моего друга Даниэля. Когда их сопоставляешь, не надо даже читать ссылки, чтобы понять, насколько эти страницы различаются. Но если начать читать ссылки, то это просто поразительно. Даниель на своей первой странице поисковых результатов вообще ничего не нашёл о протестах в Египте А у Скотта, наоборот, всё было ими переполнено. А это было тогда ключевым событием в мире. Вот на сколько разными становятся результаты нашего поиска.

Но тут дело даже не в Google и Facebook. Это стремительно охватываеь всю Сеть. Множество компаний применяют персонализацию такого рода. Новости Yahoo, одной из самых крупных страниц новостей в Интернете, теперь персонализированы: у разных людей разные новости. Huffington Post, the Washington Post, the New York Times – все так или иначе балуются персонализацией. И всё это стремительно развивается в направлении мира, в котором Интернет будет показывать нам то, что он думает нам интересно, но не обязательно то, что нам необходимо. Как сказал Эрик Шмидт, "Людям будет очень сложно увидеть или приобрести что-то, что так или иначе не было под них подобрано."

И я считаю это проблемой. И я считаю, что если соединить вместе все эти фильтры, взять все эти алгоритмы, получится то, что я называю фильтром-пузырём. И ваш фильтр-пузырь будет вашей личной уникальной информационной вселенной, в который вы будете жить в сети. А что будет включать ваш фильтр-пузырь, будет зависеть от того, кто вы и чем вы занимаетесь. Но загвоздка вот в чём: не вы решаете, что в него входит. И важней всего то, что вы даже и не увидите, что будет вырезано. Итак, одна из проблем с фильтрами-пузырями была обнаружена исследователями в Netflix. Они изучали очереди в Netflix и заметили такую забавную закономерность, что, наверное, многие из нас замечают, что есть некоторые фильмы, которые со свистом залетают и вылетают из домов. Они попадают в очередь и сразу вылетают. Итак "Железный Человек" молниеносно вылетает, а "В ожидании Супермена" может ждать очень долгое время.

Они обнаружили, что в очередях Netfix происходит грандиозная борьба между теми, кем мы стремимся быть, и более импульсивными сегодняшними нами. Вы знаете, мы все хотим быть теми, кто посмотрел "Расёмон," но на данный момент нам хочется в четвертый раз пересмотреть "Эйс Вентура." (Смех в зале) Наилучшее редактирование даёт нам и то и другое. Оно даёт нам немного Джастина Бибера и немного Афганистана. Оно даёт нам немного информационных овощей и немного информационного десерта. И проблема этих алгоритмических фильтров, этих персонализированных фильтров, в том, что они в основном следят за тем, куда мы нажимаем первым делом, поэтому они нарушают баланс. И вместо сбалансированного информационного питания можно оказаться окружённым нездоровой информационной пищей.

Все это наводит на мысль, что фактически у нас может быть недостоверное представление об Интернете. В обществе телерадиовещания – так гласит первоначальная мифология – в обществе телерадиовещания были привратники – редакторы, которые контролировали потоки информации. Но тут пришёл Интернет и убрал их со своего пути, что позволило нам всем соединиться, и все было потрясающе. Но это не то, что в действительности происходит сейчас. То, что мы видим, больше похоже на передачу факела из рук человеческих привратников в руки алгоритмических. И дело в том, что алгоритмы пока ещё не наделены встроенной этикой, какой обладали редакторы. И если алгоритмы будут курировать наш мир, если они будут решать, на что нам стоит или не стоит смотреть, тогда надо сделать так, чтобы они не опирались на одну лишь релевантность. Мы должны убедиться, что они будут нам также показывать вещи, которые неприятны, бросают нам вызов или являются значимыми – именно это делает TED – другие точки зрения.

И интересно то, что мы уже это проходили как общество. В 1915 г. газеты не особенно утруждали себя мыслями о гражданской ответственности. А потом люди стали замечать, что они делают что-то действительно важное. Что, по сути, демократия не сможет работать, если у граждан нет доступа к хорошему потоку информации. Что газеты имеют решающую роль, потому что они работают как фильтры, и из этого выросла практика журналистской этики. Она не была идеальной, но она позволила нам пережить весь прошлый век. А сейчас мы как бы вернулись в 1915 год в Сети. И нам нужны новые привратники, которые впишут такую ответственность в код своих разработок.

Я знаю, здесь присутствует много людей и из Facebook и из Google – Ларри и Сергей – люди, которые помогали строить существующую Сеть, и я очень благодарен за это. Но нам очень нужно, чтобы вы позаботились о том, чтобы эти алгоритмы включали в себя ощущение общественной жизни, чувства гражданской ответственности. Нам нужно, чтобы вы обеспечили достаточную прозрачность, чтобы нам были понятны правила, определяющие то, что проходит через наши фильтры. И нам нужно, чтобы вы дали нам некоторую свободу самим решать, что проходит, а что остается. Потому что, мне кажется, для нас очень важно, чтобы Интернет был той вещью, о которой мы всегда мечтали. Нам нужно, чтобы он нас объединял. Чтобы он приносил нам новые идеи, новых людей, новые перспективы. Но он не сможет этого делать, если он будет изолировать нас в Сети.

Спасибо.

(Аплодисменты)