Έλι Πάρισερ: Προσοχή στις διαδικτυακές "φούσκες φίλτρων"

Στον Μαρκ Ζάκενμπέργκ, ένας δημοσιογράφος του απηύθυνε μια ερώτηση σχετική με τη "ροή ενημερώσεων." Και ο δημοσιογράφος τον ρώτησε: "Γιατί είναι αυτό κάτι το τόσο σημαντικό;" Απαντώντας ο Ζάκενμπέργκ ανέφερε: "Ένας σκίουρος που πεθαίνει στη μπροστινή σου αυλή μπορεί να είναι πολύ πιο συναφές στα ενδιαφέροντά σου αυτή τη στιγμή απ'ότι άνθρωποι που πεθαίνουν στην Αφρική." Θα ήθελα λοιπόν να μιλήσω για το πώς μπορεί να φαίνεται το διαδίκτυο που βασίζεται σε μια τέτοια ιδέα περί συνάφειας.

Έτσι λοιπόν, καθώς μεγάλωνα σε μια πραγματικά αγροτική περιοχή στο Μέην, η έλευση του διαδικτύου σήμαινε κάτι πολύ διαφορετικό για εμένα. Αντιπροσώπευε μια σύνδεση με τον κόσμο. Κάτι που θα μπορούσε να μας συνδέσει όλους μαζί. Και ήμουν σίγουρος πως θα ήταν υπέροχο για τη δημοκρατία και την κοινωνία μας. Υπάρχει όμως μια εκτροπή σήμερα στο πώς ρέουν οι πληροφορίες διαδικτυακά, και είναι κάτι που συμβαίνει αόρατα. Αν δεν δώσουμε προσοχή, ενδεχομένως να αποτελέσει ένα πραγματικό πρόβλημα. Το πρόσεξα σε ένα μέρος όπου δαπανώ αρκετό χρόνο -- στην ίδια τη σελίδα μου στο Facebook. Είμαι προοδευτικός πολιτικά -- διόλου έξαφνο -- ωστόσο πάντα προσπαθώ πολύ να συναντώ και συντηρητικούς. Μου αρέσει να μαθαίνω τί σκέφτονται, μου αρέσει να βλέπω τους συνδέσμους που μοιράζονται, μου αρέσει να μαθαίνω διάφορα πράγματα. Έμεινα έκπληκτος μια μέρα μόλις ανακάλυψα πως στη ροή νέων του Facebook οι δημοσιεύσεις των συντηρητικών επαφών μου είχαν εξαφανιστεί. Αυτό που είχε συμβεί ήταν πως το Facebook παρακολουθούσε σε ποιους συνδέσμους έκανα κλικ, και αντιλαμβανόταν πως, έκανα κλικ και επισκεπτόμουν περισσότερους συνδέσμους από τους φιλελεύθερους φίλους μου από εκείνους των συντηρητικών. Και δίχως να με έχει συμβουλευτεί για αυτό, τους είχε παρεμβατικά αφαιρέσει. Είχαν εξαφανιστεί.

Φαίνεται πως το Facebook δεν είναι το μοναδικό μέρος που πραγματοποιεί αυτού του τύπου την "αόρατη", αλγοριθμική παρεμβατική τροποποίηση του διαδικτύου. Η Google το κάνει επίσης. Αν εγώ αναζητήσω κάτι, και εσείς επίσης αναζητήσετε κάτι, ακόμη και τώρα, αυτή τη στιγμή, ενδέχεται να λάβουμε πολύ διαφορετικά αποτελέσματα. Ένας μάλιστα μηχανικός μου ανέφερε πως, ακόμη και αν δεν είστε συνδεδεμένοι, υπάρχουν 57 σημεία που η Google ανιχνεύει -- οτιδήποτε σχετικό, από το σε τί είδους υπολογιστή βρίσκεστε ως τί τύπου περιηγητή διαδικτύου χρησιμοποιείτε ως και πού ακριβώς βρίσκεστε γεωγραφικά -- τα οποία χρησιμοποιεί για να προσαρμόσει ανάλογα τα αποτελέσματα της αναζήτησης. Σκεφθείτε το μονάχα για μια στιγμή: δεν υπάρχει πια μια τυπική Google σελίδα. Και γνωρίζετε, το χαριτωμένο σχετικά με αυτό είναι πως είναι αρκετά δύσκολο να το αντιληφθείς. Δεν μπορείς να δεις πόσο διαφορετικά είναι τα αποτελέσματα της αναζήτησης από κάποιου άλλου χρήστη.

Μερικές εβδομάδες πριν, ζήτησα από μερικούς φίλους να αναζητήσουν τη λέξη "Αίγυπτος" και κατόπιν να μου στείλουν στιγμιότυπα της οθόνης τους από το τί τους εμφανίστηκε. Εδώ είναι το στιγμιότυπο της αναζήτησης του φίλου μου Σκοτ. Και εδώ από το Ντάνιελ. Αν τα τοποθετήσετε δίπλα-δίπλα, δεν χρειάζεται καν να διαβάσετε τους υπερσυνδέσμους για να δείτε πόσο διαφορετικές είναι οι σελίδες αυτές. Και αν επιχειρήσετε να διαβάσετε τους υπερσυνδέσμους, είναι αρκετά αξιοσημείωτο. Ο Ντάνιελ δεν έλαβε τίποτε σχετικό με τις διαμαρτυρίες στην Αίγυπτο στην δική του πρώτη σελίδα των αποτελεσμάτων αναζήτησης. Στου Σκοτ αντιθέτως ήταν γεμάτη από τέτοιους υπερσυνδέσμους. Αυτό έγινε η "μεγάλη ιστορία της ημέρας" τότε. Βλέπουμε λοιπόν πόσο διαφορετικά εξελίσσονται τα αποτελέσματα μιας τέτοιας αναζήτησης.

Δεν είναι όμως μονάχα η Google ή το Facebook. Είναι κάτι που καταντά γενικευμένο στον παγκόσμιο ιστό. Υπάρχουν πλήθος εταιρειών που επιτελούν εξατομικευμένες αλλαγές αυτού του είδους. Το Yahoo News, η μεγαλύτερη ειδησεογραφική σελίδα στο διαδίκτυο, είναι πλέον προσωποποιημένη -- διαφορετικοί άνθρωποι λαμβάνουν διαφορετικά πράγματα. Η Huffington Post, η Washington Post, οι New York Times -- όλοι φλερτάρουν με την εξατομικευμένη πληροφόρηση με διάφορους τρόπους. Όλο αυτό φαίνεται να μας οδηγεί πολύ γρήγορα σε έναν κόσμο όπου το διαδίκτυο μας εμφανίζει περιεχόμενο σχετικά με το τί το ίδιο πιστεύει πως θα επιθυμούσαμε να δούμε, αλλά όχι απαραίτητα αυτό που ενδεχομένως θα χρειαζόμασταν να δούμε. Όπως ανέφερε ο Έρικ Σμιντ ανέφερε, "Θα είναι πολύ δύσκολο στους ανθρώπους να δουν ή να καταναλώσουν κάτι το οποίο υπό ένα βαθμό δεν θα έχει εξατομικευθεί για εκείνους."

Νομίζω πως κάτι τέτοιο είναι πραγματικά ένα πρόβλημα. Και θεωρώ, πως αν συγκεντρώσεις όλα αυτά τα "φίλτρα" μαζί, αν συλλέξεις όλους αυτούς τους αλγορίθμους, τότε έχεις αυτό που εγώ ονομάζω "μια φούσκα φίλτρων". Και η δική σας "φούσκα φίλτρων" είναι το προσωπικό σας μοναδικό σύμπαν από πληροφορία μες στο οποίο ζείτε διαδικτυακά. Και ό,τι βρίσκεται μέσα στη δική σας "φούσκα φίλτρων" εξαρτάται από το ποιος είστε, καθώς και το τί πράττετε. Όμως το σημαντικό είναι πως δεν αποφασίζετε εσείς το τί μπαίνει μέσα στη "φούσκα." Κυρίως, το πιο σημαντικό, είναι πως δεν βλέπετε πραγματικά τί μένει απ'έξω. Ένα από τα προβλήματα με τη "φούσκα φίλτρων" ανακαλύφθηκε από μερικούς ερευνητές στη Netflix. Παρακολουθούσαν τις ταινίες σε αναμονή της Netflix, και πρόσεξαν κάτι σχετικά αστείο που πιθανότατα πολλοί από εμάς έχουμε προσέξει, υπάρχουν δηλαδή κάποιες ταινίες που ταξινομούνται και στέλνονται απευθείας στα σπίτια μας για προβολή. Εισάγονται στην ουρά αναμονής, έπειτα απλώς παίζουν. Έτσι, το "Iron Man" βγαίνει αμέσως, ενώ το "Waiting for Superman" μπορεί να παραμείνει σε αναμονή για αρκετά μεγάλο χρονικό διάστημα.

Αυτό που ανακάλυψαν λοιπόν ήταν πως στις ουρές αναμονής των Netflix ταινιών συνέβαινε μια επική "μάχη" σχετικά με την προσδοκία που έχουμε από το εγγύς μέλλον και την πιο παρορμητική μας τωρινή απαίτηση. Ξέρετε πως όλοι θα θέλαμε να είμαστε κάποιος που θα έχει δει το "Ρασομόν," όμως αυτή τη στιγμή θέλουμε να ξαναδούμε το "Ace Ventura" για τέταρτη κιόλας φορά. (Γέλια) Η καλύτερη μορφή παρεμβατικής εξατομίκευσης μας προσφέρει λίγο και από τα δύο. Μας δίνει λίγο από Τζλαστιν Μπίμπερ και λίγο από Αφγανιστάν. Μας παρέχει λίγο από λαχανικά πληροφορίας, μας παρέχει λίγο από επιδόρπιο πληροφορίας. Η πρόκληση με αυτού του τύπου τα αλγοριθμικά φίλτρα, αυτά τα εξατομικευμένα φίλτρα, είναι πως, επειδή κυρίως βασίζονται στο τί πράγμα επέλεξες στην αρχή, μπορεί να ανατρέψουν αυτή την ισορροπία. Και αντί να προσφέρεται μια ισορροπημένη "δίαιτα" πληροφόρησης, μπορεί να καταλήξεις με άχρηστο πρόχειρο "φαγητό".

Αυτό υποδηλώνει πως στην πραγματικότητα μπορεί έχουμε λάθος αντίληψη για το Διαδίκτυο. Σε μια κοινωνία της ευρείας γνωστοποίησης -- κάπως έτσι μπορεί να είναι μια θεμελιώδης μυθολογία -- σε μια κοινωνία της ευρείας γνωστοποίησης, υπήρχαν κάποιοι φρουροί της πύλης, οι συντάκτες, οι οποίοι έλεγχαν τη ροή της πληροφορίας. Και αργότερα ήρθε το διαδίκτυο και τους παραγκώνισε, αφήνοντας όλους εμάς να συνδεθούμε μεταξύ μας, κάτι το οποίο ήταν υπέροχο. Όμως αυτό δεν είναι ακριβώς ό,τι συμβαίνει αυτή τη στιγμή. Αυτό που βλέπουμε είναι περισσότερο μία παράδοση των κλειδιών από τους φρουρούς-ανθρώπους σε φρουρούς-αλγορίθμους. Το ζήτημα είναι πως οι αλγόριθμοι δεν έχουν αυτού του είδους την ενσωματωμένη ηθική που είχαν οι άνθρωποι. Εάν λοιπόν πρόκειται να συνεχίσουν οι αλγόριθμοι να συντονίζουν τον κόσμο για εμάς, εάν πρόκειται να συνεχίσουν να αποφασίζουν ποια πράγματα θα βλέπουμε και ποια δεν θα βλέπουμε, τότε θα πρέπει να σιγουρέψουμε πως δεν θα βασίζονται κυρίως στην συνάφεια. Θα πρέπει να σιγουρέψουμε πως μας εμφανίζουν επίσης πράγματα που μπορεί να μας είναι άβολα ή να μας προκαλούν ή να είναι σημαντικά -- αυτό πράττει και το TED -- άλλες γωνίες θέασης.

Το αξιοπρόσεκτο είναι πως έχουμε ήδη ξαναβρεθεί εδώ ως κοινωνία. Το 1915, οι εφημερίδες δεν ίδρωναν ακριβώς σχετικά με τις κοινωνικές τους ευθύνες. Τότε οι άνθρωποι πρόσεξαν πως έκαναν κάτι πραγματικά πολύ σημαντικό. Πως, στην ουσία, δεν θα είχατε μια λειτουργική δημοκρατία εάν οι πολίτες δεν αποκτούσαν μια καλή ροή πληροφορίας. Οι εφημερίδες ήταν κρίσιμες, καθώς λειτουργούσαν ως το φίλτρο, και έπειτα οι δημοσιογραφικές ηθικές αναπτύχθηκαν. Δεν ήταν κάτι το τέλειο, αλλά μας συντρόφευε κατά τον τελευταίο αιώνα. Έτσι και τώρα, είμαστε κάπως σαν πίσω στο 1915 για το διαδίκτυο. Χρειαζόμαστε τους νέους "φρουρούς της πύλης" να κωδικοποιήσουν αυτού του είδους την υπευθυνότητα μες στον κώδικα που συντάσσουν.

Γνωρίζω πως υπάρχουν πολλοί άνθρωποι εδώ από το Facebook και τη Google -- ο Λάρυ και ο Σεργκέι -- άνθρωποι που έχουν βοηθήσει να χτισθεί ο παγκόσμιος ιστός όπως είναι σήμερα, και είμαι ευγνώμων για αυτό. Αλλά σας χρειαζόμαστε πραγματικά για να σιγουρέψουμε πως αυτοί οι αλγόριθμοι έχουν κωδικοποιημένη μέσα τους μια αίσθηση της δημόσιας ζωής, μια αίσθηση της κοινωνικής υπευθυνότητας. Χρειάζεται να σιγουρέψουμε πως θα είναι αρκετά διαυγείς ώστε να μπορούμε να δούμε ποιοι είναι οι κανόνες που καθορίζουν ποια πράγματα περνούν από τα φίλτρα μας. Και σας χρειαζόμαστε επίσης για να μας παρέχετε κάποιον έλεγχο, ώστε να μπορούμε να αποφασίζουμε το τί περνά και τί μένει απ'έξω. Διότι θεωρώ πως πραγματικά χρειαζόμαστε το διαδίκτυο να είναι αυτό το δημιούργημα που όλοι μας ονειρευτήκαμε να είναι. Το χρειαζόμαστε για να μας διασυνδέει όλους μαζί. Το χρειαζόμαστε για να μας παρουσιάζει νέες ιδέες και νέους ανθρώπους και διαφορετικές προοπτικές. Δεν πρόκειται να επιτύχει κάτι τέτοιο αν μας αφήνει απομονωμένους στον παγκόσμιο ιστό του ενός.

Ευχαριστώ.

(Χειροκρότημα)