O Ντέιμοντ Χόροβιτζ καλεί για ένα "λειτουργικό σύστημα ηθικής"

Δύναμη. Αυτή η λέξη έρχεται στο μυαλό. Είμαστε οι νέοι τεχνολόγοι. Έχουμε πολλά δεδομένα, επομένως έχουμε μεγάλη δύναμη. Πόση δύναμη έχουμε; Σκηνή από την ταινία "Αποκάλυψη Τώρα" -- σπουδαία ταινία. Πρέπει να πάμε τον ήρωά μας, το λοχαγό Γουίλαρντ στις εκβολές του ποταμού Nανγκ ώστε να καταδιώξει τον ταγματάρχη Κερτς. Ο τρόπος που θα το κάνουμε είναι να τον "πετάξουμε" και να τον αφήσουμε. Οπότε η σκηνή: ο ουρανός είναι γεμάτος με αυτό το στόλο από ελικόπτερα που τον μεταφέρουν. Και υπάρχει αυτή η δυνατή, συγκλονιστική μουσική στο φόντο, αυτή η άγρια μουσική. ♫ ♫ ♫ Μεγάλη δύναμη. Είναι αυτό το είδος της δύναμης που αισθάνομαι σ΄αυτό το δωμάτιο. Αυτό το είδος της δύναμης που έχουμε εξ΄αιτίας όλων των δεδομένων που έχουμε.

Ας πάρουμε ένα παράδειγμα. Τι μπορούμε να κάνουμε με τα δεδομένα ενός ατόμου; Τι μπορούμε να κάνουμε με τα δεδομένα αυτού του ανθρώπου; Μπορώ να κοιτάξω τα οικονομικά σου στοιχεία. Μπορώ να πω αν πληρώνεις έγκαιρα τους λογαριασμούς σου. Ξέρω αν μπορείς να πάρεις ένα δάνειο. Μπορώ να κοιτάξω στο ιατρικό σου ιστορικό, μπορώ να δώ αν η καρδιά σου δουλεύει ακόμη -- να δω αν είσαι καλός πελάτης για ασφάλεια. Μπορώ να κοιτάξω που κλικάρεις. Όταν έρχεσαι στην ιστοσελίδα μου, στην πραγματικότητα ξέρω από πριν τι θα κάνεις, επειδή σε έχω δει να επισκέπτεσαι εκατομμύρια ιστοσελίδες. Και λυπάμαι που στο λέω. αλλά είσαι σαν ένας παίχτης του πόκερ, έχεις συγκεκριμένο τρόπο σκέψης. Μπορώ να προβλέψω, μέσω ανάλυσης δεδομένων, τι πρόκειται να κάνεις πριν το κάνεις. Ξέρω τι σου αρέσει. Ξέρω ποιος είσαι. Κι αυτό πριν ακόμη κοιτάξω την αλληλογραφία σου ή το τηλέφωνό σου.

Τέτοια πράγματα μπορούμε να κάνουμε με τα δεδομένα που έχουμε. Αλλά, στην πραγματικότητα, δεν είμαι εδώ για να σας πω τι μπορούμε να κάνουμε. Είμαι εδώ για να σας πω τι πρέπει να κάνουμε. Ποιο είναι το σωστό;

Τώρα βλέπω μερικά απορημένα βλέμματα όπως, "Γιατί ρωτάς εμάς ποιο είναι το σωστό που πρέπει να κάνουμε; Εμείς απλώς φτιάχνουμε αυτά τα πράγματα. Κάποιος άλλος τα χρησιμοποιεί." Αρκετά δίκαιο. Αλλά με κάνει να θυμηθώ. Θυμάμαι το Β' Παγκόσμιο Πόλεμο -- κάποιοι από τους καλύτερους τεχνολόγους μας τότε, κάποιοι από τους καλύτερους φυσικούς μας, μελετούσαν την πυρηνική σχάση και τήξη -- και άλλα πυρηνικά θέματα. Μαζεύουμε αυτούς τους φυσικούς στο Λος Άλαμος για να δούμε τι μπορούν να φτιάξουν. Θέλουμε τους ανθρώπους που φτιάχνουν την τεχνολογία να σκέφτονται τι θα έπρεπε να κάνουμε με την τεχνολογία.

Οπότε, τι πρέπει να κάνουμε με τα δεδομένα αυτού του ανθρώπου; Θα έπρεπε να τα συλλέγουμε και να τα μαζεύουμε, ώστε να κάνουμε τη διαδικτυακή του εμπειρία καλύτερη; Ώστε να βγάζουμε πιο πολλά χρήματα; Ώστε να μπορούμε να προστατέψουμε τους εαυτούς μας αν δεν είχε καλούς σκοπούς; Ή πρέπει να σεβαστούμε την προσωπική του ζωή, να προστατέψουμε την αξιοπρέπειά του και να τον αφήσουμε μόνο του; Τι πρέπει να κάνουμε; Πώς θα το καταλάβουμε;

Ξέρω - ας ψηφίσουμε. Οπότε για να ζεσταθούμε, ας ξεκινήσουμε με μια εύκολη ερώτηση -- κάτι για το οποίο είμαι σίγουρος ότι όλοι εδώ έχουμε άποψη: iPhone εναντίον Android. Ας σηκώσουμε χέρια -- iPhone. Αχά. Android. Θα περίμενες ότι τόσο έξυπνοι άνθρωποι δε θα πέφταμε σα χαζοί στα ωραία τηλέφωνα. (Γέλια) Επόμενη ερώτηση, λίγο πιο δύσκολη. Θα έπρεπε να συλλέγουμε τα δεδομένα αυτού του ανθρώπου για να κάνουμε καλύτερες τις εμπειρίες του και να προστατέψουμε τον εαυτό μας, σε περίπτωση που έχει κακό σκοπό; Ή πρέπει να τον αφήσουμε ήσυχο; Να συλλέξουμε τα δεδομένα. Να τον αφήσουμε ήσυχο. Είσαι ασφαλής. Εντάξει. (Γέλια) Ωραία, τελευταία ερώτηση -- πιο δύσκολη -- στην προσπάθεια να αξιολογήσουμε τι θα έπρεπε να κάνουμε σε αυτήν την περίπτωση, θα έπρεπε να χρησιμοποιήσουμε ένα Καντιανό δεοντολογικό ηθικό πλαίσιο, ή ένα Μιλλιανό τελεολογικό; Καντ. Μιλ. Όχι τόσες πολλές ψήφοι. (Γέλια) Αυτό είναι ένα τρομακτικό αποτέλεσμα. Τρομακτικό, γιατί έχουμε πιο ισχυρές απόψεις για τις φορητές συσκευές μας παρά για το ηθικό πλαίσιο που πρέπει να χρησιμοποιήσουμε για να πάρουμε τις αποφάσεις μας.

Πώς θα ξέρουμε τι να κάνουμε με όλη αυτή τη δύναμη που έχουμε αν δεν έχουμε ένα ηθικό πλαίσιο; Ξέρουμε περισσότερα για λειτουργικά συστήματα φορητών συσκευών, αλλά αυτό που χρειαζόμαστε είναι ένα λειτουργικό σύστημα ηθικής. Τι είναι ένα λειτουργικό σύστημα ηθικής; Όλοι γνωρίζουμε το καλό από το κακό, δεν είναι έτσι; Αισθάνεσαι καλά όταν κάνεις κάτι σωστό, αισθάνεσαι άσχημα όταν κάνεις κάτι λάθος. Οι γονείς μας μαθαίνουν: έπαινος στο καλό, επίπληξη στο κακό. Αλλά πώς καταλαβαίνουμε τι είναι σωστό και λάθος; Και σεκαθημερινή βάση έχουμε τεχνικές που χρησιμοποιούμε. Ίσως να χρησιμοποιήσουμε το ένστικτό μας. Ίσως να ψηφίσουμε. Ή ίσως απλώς να το ρίξουμε στα νομικά -- να ρωτήσουμε το νομικό τμήμα να δούμε τι λένε. Με άλλα λόγια, γίνεται περίπου στην τύχη, περίπου κατά περίπτωση, το πως διαλέγουμε αυτό που πρέπει να κάνουμε. Και ίσως, αν θέλουμε να πατήσουμε σε πιο στέρεο έδαφος, αυτό που χρειαζόμαστε στην πραγματικότητα είναι ένα ηθικό πλαίσιο που θα μας οδηγήσει, που θα μας πει καταρχάς ποια πράγματα είναι σωστά και λάθος, και πώς θα ξέρουμε σε μια δεδομένη στιγμή τι να κάνουμε.

Οπότε ας βρούμε ένα ηθικό πλαίσιο. Είμαστε άνθρωποι των αριθμών, ζούμε με τους αριθμούς. Πώς μπορούμε να χρησιμοποιήσουμε τους αριθμούς σα βάση για ένα ηθικό πλαίσιο; Ξέρω κάποιον που έκανε ακριβώς αυτό, Έναν πανέξυπνο τύπο -- που έχει πεθάνει εδώ και 2500 χρόνια. Ο Πλάτωνας, αυτός είναι. Τον θυμάστε το γεροφιλόσοφο; Κοιμόσασταν σ΄αυτό το μάθημα. Ο Πλάτωνας είχε πολλές από τις ίδιες ανησυχίες που έχουμε κι εμείς. Τον απασχολούσε το σωστό και το λάθος. Ήθελε να μάθει τι είναι δίκαιο. Αλλά τον απασχολούσε ότι αυτό που μοιάζουμε να κάνουμε είναι να ανταλλάσουμε απόψεις γι αυτό. Αυτός λέει ότι κάτι είναι δίκαιο. Αυτή λέει ότι κάτι άλλο είναι δίκαιο. Είναι κάπως πειστικό όταν αυτός μιλά και όταν αυτή μιλά. Απλώς πηγαίνω μπρος - πίσω. Δε φθάνω πουθενά. Δε θέλω γνώμες, θέλω γνώση. Θέλω να μάθω την αλήθεια για τη δικαιοσύνη -- όπως έχουμες αλήθειες στα μαθηματικά. Στα μαθηματικά, γνωρίζουμε τα αντικειμενικά δεδομένα. Πάρτε ένα νούμερο, οποιοδήποτε νούμερο - δύο. Ο αγαπημένος μου αριθμός. Μου αρέσει αυτός ο αριθμός. Υπάρχουν αλήθειες για το δύο. Αν έχεις δύο από κάτι. και προσθέσεις άλλα δύο παίρνεις τέσσερα. Αυτό είναι αλήθεια ανεξάρτητα για ποιο πράγμα μιλάς. Είναι μια αντικειμενική αλήθεια σχετικά με το δύο, την αόριστη μορφή του. Όταν έχεις δύο από οτιδήποτε -- δύο μάτια, δύο αυτιά, δύο μύτες, απλώς δύο προεξοχές -- αυτές απαρτίζουν τη μορφή του δύο. Όλες παίρνουν μέρος στις αλήθειες που έχει το δύο. Όλες έχουν τη δυ-ότητα μέσα τους. Και επομένως δεν είναι θέμα άποψης.

Τι θα γινόταν αν, σκέφτηκε ο Πλάτωνας, η ηθική ήταν σαν τα μαθηματικά; Τι θα γινόταν αν υπήρχε μια καθαρή μορφή δικαιοσύνης; Τι θα γινόταν αν υπήρχαν αλήθειες για τη δικαιοσύνη, και μπορούσες να ψάξεις γύρω σου στον κόσμο και να δεις ποια πράγματα συμμετείχαν, απάρτιζαν αυτή τη μορφή της δικαιοσύνης; Τότε θα ήξερες τι ήταν, στην πραγματικότητα, δίκαιο και τι όχι. Δε θα ήταν ένα θέμα απλώς γνώμης ή εμφάνισης. Αυτό είναι ένα εκπληκτικό όραμα. Σκεφτείτε το. Πόσο μεγαλειώδες. Πόσο φιλόδοξο. Είναι τόσο φιλόδοξο όσο εμείς. Θέλει να λύσει την ηθική. Θέλει αντικειμενικές αλήθειες. Αν σκέφτεσαι έτσι, έχεις ένα Πλατωνικό ηθικό πλαίσιο.

Αν δε σκέφτεσαι έτσι, λοιπόν, έχεις μεγάλη παρέα στην ιστορία της Δυτικής φιλοσοφίας, γιατί αυτήν την τακτοποιημένη ιδέα - πολλοί την κριτίκαραν. Ειδικά ο Αριστοτέλης, δεν ήταν και τόσο ευχαριστημένος. Σκεφτόταν ότι δεν ήταν πρακτική. Ο Αριστοτέλης έλεγε: "Πρέπει να ψάχνουμε μόνο τόση τελειότητα σε κάθε θέμα όση το θέμα επιτρέπει." Ο Αριστοτέλης πίστευε ότι η ηθική δεν είναι σαν τα μαθηματικά. Πίστευε ότι η ηθική ήταν ένα ζήτημα αποφάσεων στο εδώ και τώρα χρησιμοποιώντας την κρίση μας στην εξεύρεση του καλύτερου δρόμου. Αν σκέφτεσαι έτσι, τότε ο Πλάτωνας δεν είναι ο αγαπημένος σου. Αλλά μην τα παρατάς. Ίσως να υπάρχει κι άλλος τρόπος με τον οποίο μπορούμε να χρησιμοποιήσουμε τους αριθμούς σαν βάση για το ηθικό μας πλαίσιο.

Ακούστε αυτό: Τι θα γινόταν αν σε κάθε περίσταση μπορούσες να υπολογίσεις, να κοιτάξεις τις επιλογές, και να μετρήσεις ποια είναι η καλύτερη και έτσι να ξέρεις τι να κάνεις; Σας φαίνεται γνώριμο; Αυτό είναι ένα ωφελιμιστικό ηθικό πλαίσιο. Ο Τζον Στιούαρτ Μιλ ήταν μεγάλος υπέρμαχος αυτού -- κατά τα άλλα ωραίος τύπος -- και πέθανε πριν από μόλις 200 χρόνια. Λοιπόν, η βάση του ωφελιμισμού --- είμαι σίγουρος ότι ήσαστε τουλάχιστον εξοικειωμένοι. Οι τρεις που ψήφισαν υπέρ του Μιλ πριν είναι εξοικειωμένοι μ' αυτό. Λοιπόν κοιτάξτε πώς δουλεύει. Τι θα γινόταν αν η ηθική και αυτό που κάνει κάτι ηθικό, είναι απλώς θέμα του αν μεγιστοποιεί την ευχαρίστηση και ελαχιστοποιεί τον πόνο; Είναι κάτι εσωτερικό στην πράξη. Δεν είναι σαν να έχει σχέση με κάποια αόριστη μορφή. Είναι απλώς θέμα συνεπειών. Απλώς κοιτάζεις τις συνέπειες και βλέπεις αν, συνολικά, είναι για το καλύτερο ή το χειρότερο. Μοιάζει απλό. Τότε θα ξέραμε τι να κάνουμε.

Ας πάρουμε ένα παράδειγμα. Έστω ότι σηκώνομαι και λέω, "Θα σου πάρω το τηλέφωνο". Όχι γιατί χτύπησε πριν, αλλά θα στο πάρω γιατί έκανα ένα μικρό υπολογισμό. Σκέφτηκα, ότι αυτός ο τύπος μοιάζει ύποπτος. Και αν στέλνει μηνύματα στο Μπιν Λάντεν στο καταφύγιό του -- η σε οποιονδήποτε ανέλαβε μετά το Μπιν Λάντεν -- και είναι στην πραγματικότητα τρομοκράτης, μυστικός πράκτορας. Θα το ανακαλύψω, και όταν το ανακαλύψω, Θα εμποδίσω την τεράστια καταστροφή που θα μπορούσε να προκαλέσει. Το να αποτρέψω αυτήν την καταστροφή είναι πάρα πολύ ωφέλιμο. Και συγκρίνοντάς το με το μικρό πόνο που πρόκειται να προκαλέσω -- γιατί θα τον φέρω σε δύσκολη θέση όταν κοιτάξω στο τηλέφωνό του και δω ότι παίζει το παιχνίδι Farmville -- αυτό ξεπερνιέται από την αξία του να κοιτάξω το τηλέφωνό του. Αν αισθάνεσαι έτσι, αυτό είναι μια ωφελιμιστική επιλογή.

Αλλά ίσως να μην αισθάνεσαι ούτε έτσι. Ίσως σκέφτεσαι ότι είναι το δικό του τηλέφωνο. Είναι λάθος να του πάρω το τηλέφωνό του, γιατί είναι ένας άνθρωπος και έχει δικαιώματα και αξιοπρέπεια, και δεν μπορούμε απλώς να εμπλακούμε με αυτά. Έχει αυτονομία. Δεν έχει σημασία τι υπολογισμούς κάναμε. Υπάρχουν πράγματα που είναι από τη φύση τους λάθος -- όπως το να λές ψέματα είναι λάθος, όπως το να βασανίζεις αθώα παιδιά είναι λάθος. Ο Καντ ήταν πολύ καλός σ΄αυτό το σημείο, και το είπε λίγο καλύτερα απ' ότι το λέω εγώ. Είπε ότι πρέπει να χρησιμοποιήσουμε τη λογική μας για να αντιληφθούμε τους κανόνες που θα καθοδηγήσουν τη συμπεριφορά μας. Και είναι καθήκον μας να ακολουθήσουμε αυτούς τους κανόνες. Δεν είναι ένα θέμα υπολογισμού.

Λοιπόν ας σταματήσουμε Είμαστε χαμένοι μέσα σ' αυτό το φιλοσοφικό πυκνό δάσος. Και αυτό συνεχίζεται για χιλιάδες χρόνια, γιατί αυτές είναι δύσκολες ερωτήσεις, και έχω μόλις 15 λεπτά. Οπότε ας μπούμε στο ψητό. Πώς πρέπει να παίρνουμε τις αποφάσεις μας; Σύμφωνα με τον Πλάτωνα, τον Αριστοτέλη, τον Καντ, το Μιλ; Τι πρέπει να κάνουμε; Ποια είναι η απάντηση; Ποιος είναι ο τύπος που μπορούμε να χρησιμοποιήσουμε σε κάθε περίπτωση για να αποφασίσουμε τι πρέπει να κάνουμε, αν πρέπει να χρησιμοποιήσουμε τα δεδομένα αυτού του τύπου ή όχι; Ποιος είναι ο τύπος; Δεν υπάρχει τύπος. Δεν υπάρχει μια απλή απάντηση.

Η ηθική είναι δύσκολη. Η ηθική απαιτεί σκέψη. Κι αυτό είναι άβολο. Ξέρω, πέρασα μεγάλο μέρος της καριέρας μου στην τεχνητή νοημοσύνη, προσπαθώντας να φτιάξω μηχανές που θα μπορούσαν να κάνουν ένα μέρος αυτής της σκέψης για μας, που θα μπορούσαν να μας δώσουν απαντήσεις. Αλλά δεν μπορούν. Δεν μπορείς απλώς να πάρεις την ανθρώπινη σκέψη και να τη βάλεις σε μια μηχανή. Πρέπει να το κάνουμε μόνοι μας. Ευτυχώς, δεν είμαστε μηχανές και μπορούμε να το κάνουμε. Όχι μόνο μπορούμε να σκεφτούμε, αλλά πρέπει. Η Χάνα Άρεντ είπε, "Η πικρή αλήθεια είναι ότι το μεγαλύτερο κακό σ΄αυτόν τον κόσμο δε γίνεται από ανθρώπους που επιλέγουν να είναι κακοί. Προέρχεται από τη "μη σκέψη." Αυτό το ονόμασε "κοινοτυπία του κακού." Και η απάντηση σ' αυτό είναι ότι απαιτούμε την άσκηση της σκέψης από κάθε λογικό άτομο.

Οπότε ας το κάνουμε αυτό. Ας σκεφτούμε. Πραγματικά, ας αρχίσουμε τώρα. Ο καθένας από μας ας κάνει το εξής: σκεφτείτε την τελευταία στιγμή που είχατε να πάρετε μια απόφαση που ανησυχούσατε αν κάνατε το σωστό. που αναρωτηθήκατε. "Τι πρέπει να κάνω;" Φέρτε το στο μυαλό σας. Και τώρα αναλογιστείτε και πείτε, "Πώς έφθασα σ΄αυτή την απόφαση;" Τι έκανα; Ακολούθησα το ένστικτό μου; Είχα κάποιον να ψηφίσει; Ή το έριξα στα νομικά; Ή τώρα έχουμε μερικές ακόμη επιλογές. "Υπολόγισα ποια θα ήταν η μεγαλύτερη ευχαρίστηση όπως θα έκανε ο Μιλ; Ή χρησιμοποίησα τη λογική για να δω τι ήταν το ουσιαστικά σωστό όπως ο Καντ;" Σκεφτείτε το. Πραγματικά φέρτε το στο μυαλό σας. Είναι σημαντικό. Είναι τόσο σημαντικό ώστε θα αφιερώσουμε 30 δευτερόλεπτα πολύτιμου χρόνου TED ομιλίας χωρίς να κάνουμε τίποτε άλλο εκτός από το να σκεφτούμε αυτό. Έτοιμοι; Πάμε.

Σταματήστε. Καλή δουλειά. Αυτό που μόλις κάνατε, είναι το πρώτο βήμα στην κατεύθυνση του να πάρετε την ευθύνη του τι θα έπρεπε να κάνουμε με όλη αυτή τη δύναμή μας.

Τώρα το επόμενο βήμα -- δοκιμάστε αυτό. Βρείτε ένα φίλο και εξηγείστε του πώς πήρατε αυτή την απόφαση. Όχι αμέσως. Περιμένετε μέχρι να τελειώσω την ομιλία μου. Κάντε το στο μεσημεριανό φαγητό. Και μη βρείτε άλλον ένα τεχνολόγο φίλο σας, βρείτε κάποιον διαφορετικό από εσάς. Βρείτε έναν καλλιτέχνη ή ένα συγγραφέα -- ή, προς Θεού, βρείτε ένα φιλόσοφο και μιλήστε του. Εδώ που τα λέμε, βρείτε κάποιον από τις ανθρωπιστικές επιστήμες. Γιατί; Διότι σκέφτονται τα προβλήματα διαφορετικά απ' ότι εμείς οι τεχνολόγοι. Πριν λίγες μέρες, ακριβώς στον απέναντι δρόμο, ήταν εκαντοντάδες άνθρωποι μαζεμένοι. Ήταν τεχνολόγοι και ανθρωπιστές σ' αυτό το συνέδριο BiblioTech. Και μαζεύτηκαν γιατί οι τεχνολόγοι ήθελαν να μάθουν πώς θα ήταν να σκέφτεσαι με μια ανθρωπιστική προσέγγιση. Έχεις κάποιον από τη Google να μιλά σε κάποιον που κάνει συγκριτική λογοτεχνία. Σκέφτεσαι πόσο σχετικό είναι το γαλλικό θέατρο του 17ου αιώνα -- και πώς επιδρά στο κεφάλαιο μακροχρόνιων επενδύσεων; Λοιπόν, αυτό είναι το ενδιαφέρον. Αυτός είναι ένας διαφορετικός τρόπος σκέψης. Και όταν σκέφτεσαι έτσι, γίνεσαι πιο ευαίσθητος στις ανθρώπινες έγνοιες, κάτι που είναι βασικό στο να παίρνεις ηθικές αποφάσεις.

Οπότε σκεφτείτε ότι τώρα πήγατε και βρήκατε το φίλο σας το μουσικό. Και του λέτε αυτά που συζητάμε, και την επανάσταση στα δεδομένα μας και όλα αυτά -- ίσως μουρμουρίζετε και λίγο από το μουσικό μας θέμα. ♫ Λοιπόν, ο μουσικός φίλος σας θα σας σταματήσει και θα σας πει, "Ξέρεις, το μουσικό θέμα για την επανάσταση των δεδομένων, είναι όπερα, είναι Βάγκνερ. Βασίζεται σ' ένα νορβηγικό μύθο. Είναι θεοί και μυθικά πλάσματα που παλεύουν για μαγικά κοσμήματα." Ενδιαφέρον. Είναι επίσης και μια όμορφη όπερα. Και μας συγκινεί. Μας συγκινεί γιατί έχει σχέση με τη μάχη μεταξύ του καλού και του κακού, μεταξύ του σωστού και του λάθους. Και μας ενδιαφέρει το σωστό και το λάθος. Μας ενδιαφέρει τι συμβαίνει σ' αυτή την όπερα. Μας ενδιαφέρει τι συμβαίνει στο "Αποκάλυψη Τώρα." Και σίγουρα μας ενδιαφέρει τι συμβαίνει με τις τεχνολογίες μας.

Έχουμε τόσο πολύ δύναμη σήμερα, είναι στο χέρι μας να αποφασίσουμε τι θα κάνουμε. Και αυτά είναι τα καλά νέα. Εμείς είμαστε αυτοί που γράφουμε αυτή την όπερα. Αυτή είναι η δική μας ταινία. Εμείς αποφασίζουμε τι θα γίνει μ' αυτήν την τεχνολογία. Εμείς αποφασίζουμε πως θα τελειώσει όλο αυτό.

Ευχαριστώ

(Χειροκροτήματα)