Damon Horowitz invita alla creazione di un "sistema operativo morale"

Potere. Questa è la parola che viene in mente. Noi siamo i nuovi tecnologi. Abbiamo molti dati, quindi abbiamo molto potere. Quanto potere abbiamo? Scena di un film: "Apocalypse Now" - gran bel film. Dobbiamo portare il nostro eroe, il Capitan Willard, alla foce del fiume Nung così che possa seguire le tracce del Colonnello Kurtz. Riusciremo a farlo trasportandolo in volo e facendolo scendere. Eccoci alla scena: il cielo è gremito dalla flotta di elicotteri incaricati di trasportarlo. C'è questa musica ad alto volume ed avvincente di sottofondo, questa musica selvaggia. ♫ Dum da ta da dum ♫ ♫ Dum da ta da dum ♫ ♫ Da ta da da ♫ Molto potente. Questo è il tipo di potenza che percepisco in questa sala. Questo è il tipo di potere che abbiamo grazie a tutti i dati di cui disponiamo.

Facciamo un esempio. Cosa possiamo fare con i dati di una sola persona? Cosa possiamo fare con i dati di quel ragazzo? Posso guardare i tuoi estratti conto. Posso dirti se paghi le bollette in tempo. So se posso concederti un prestito. Posso dare un'occhiata ai tuoi referti medici, vedere se il tuo cuore batte ancora - vedere se è conveniente assicurarti. Posso vedere come visiti i siti Internet. Quando visiti il mio sito, so già esattamente cosa farai, perché ti ho visto visitare altri milioni di siti prima del mio. E mi dispiace dirtelo, sei come un giocatore di poker, lanci dei segnali. Grazie all'analisi dei dati posso predire cosa farai prima ancora che tu lo faccia. So cosa ti piace. So chi sei. E questo anche prima che io dia un'occhiata alla tua posta o al tuo telefono.

Quelle sono le cose che siamo in grado di fare con i dati a nostra disposizione. Ma in realtà non sono qui per parlarvi di ciò che possiamo fare. Sono qui per parlarvi di ciò che dovremmo fare. Qual è la cosa giusta da fare?

Ora vedo degli sguardi interrogativi tipo: "Perchè chiedi a noi quale sia la cosa giusta da fare? Noi mettiamo solo insieme questa roba. Qualcun altro la sta usando." Mi sembra giusto. Ma questo mi fa ricordare... Penso alla Seconda Guerra Mondiale - alcuni dei nostri più grandi tecnologi di allora, alcuni dei nostri più grandi fisici, che studiavano la fissione e fusione nucleare - solo roba nucleare. Noi riuniamo insieme questi fisici a Los Alamos per vedere cosa costruiranno. Vogliamo che le persone che creano la tecnologia pensino anche a come dovremmo utilizzarla.

Per cui cosa dovremmo farci con i dati di quel ragazzo? Dovremmo raccoglierli, metterli insieme, così da migliorare il tempo che passa su Internet? Così poterci guadagnare? Così da poterci proteggere nel caso facesse qualcosa di male? O dovremmo rispettare la sua privacy, proteggere la sua dignità e lasciarlo in pace? Quale dovremmo scegliere? Come facciamo a deciderlo?

Lo so: sentiamo il pubblico. Sentiamo il pubblico a riguardo. Perciò per mettervi a vostro agio, cominciamo con una domanda semplice - qualcosa su cui tutti qui hanno di certo un'opinione: iPhone oppure Android. Alzate le mani - iPhone. Uh uh. Android. Penserete che con delle persone intelligenti non ci faremmo trarre in inganno solo dai cellulari belli all'apparenza. (Risate) Ok, prossima domanda, un po' più difficile. Dovremmo raccogliere tutti i dati di quel ragazzo per migliorare il tempo che trascorre su Internet e proteggerci nel caso in cui avesse cattive intenzioni? O dovremmo lasciarlo in pace? Raccogliere i suoi dati. Lasciarlo in pace. Sei fuori pericolo. Va tutto bene. (Risate) Ok, ultima domanda - più difficile - quando proviamo a valutare cosa dovremmo fare in questo caso, dovremmo utilizzare una struttura morale ispirata alla deontologia kantiana, o dovremmo usarne una consequenzialistica milliana? Kant. Mill. Non altrettanti voti. (Risate) Sì, è un risultato spaventoso. Spaventoso perché abbiamo opinioni più chiare rispetto ai nostri cellulari che non per la struttura morale di riferimento che dovremmo utilizzare per guidare le nostre decisioni.

Come possiamo sapere che farne di tutto il potere che abbiamo se non abbiamo una struttura morale? Ne sappiamo di più dei sistemi operativi dei cellulari, ma ciò che davvero ci occorre è un sistema operativo morale. Che cos'è un sistema operativo morale? Tutti sappiamo cosa è giusto e cosa è sbagliato, vero? Ci si sente bene quando si fa qualcosa di buono, ci si sente in colpa quando si fa qualcosa di sbagliato. I nostri genitori ci insegnano a: lodare il giusto, rimproverare l'errore. Ma come facciamo a distinguere tra giusto e sbagliato? Di giorno in giorno, abbiamo delle tecniche che utilizziamo. Forse usiamo semplicemente il nostro intuito. Forse la mettiamo ai voti - l'opinione della maggioranza. O forse ci affidiamo alla legge - chiediamo all'ufficio legale e vediamo che ne pensano. In altre parole, è un po' casuale, un po' improvvisato, il modo in cui decidiamo cosa sia meglio fare. E forse, se vogliamo avere basi per agire più solide, ciò che davvero vogliamo è una struttura morale che ci aiuti e ci indirizzi, che per prima cosa ci dica cosa è giusto e cosa è sbagliato, e come fare a sapere come comportarci in una determinata situazione.

Allora troviamo una struttura morale di riferimento. Siamo persone che usano i numeri, che vivono con i numeri. Come possiamo usare i numeri come base per una struttura morale di riferimento? Conosco un ragazzo che ha fatto esattamente questo. Un ragazzo brillante - è morto da 2.500 anni. Platone, esatto. Ve lo ricordate - il vecchio filosofo? Stavate dormendo in quella lezione? Platone, anche lui si è interrogato su molte delle domande che ci siamo posti noi. Anche lui meditava su cosa è giusto e cosa è sbagliato. Voleva sapere cosa fosse giusto. Ma temeva che tutto ciò che facciamo non fosse altro che scambiarci opinioni a riguardo. Secondo lui questo è giusto. Secondo lei è giusta un'altra cosa. Lui è piuttosto convincente quando parla... ..ma anche lei! Vado avanti e indietro; non sto andando da nessuna parte. Non voglio opinioni, voglio conoscenza. Voglio sapere la verità riguardo alla giustizia - come le verità che abbiamo in matematica. In matematica, abbiamo i fatti oggettivi. Prendete un numero, un numero qualsiasi - 2. Il mio numero preferito. Amo quel numero. Ci sono delle verità sul 2. Se avete 2 unità di qualcosa, e gliene aggiungete altre 2, ottenete 4. È vero a prescindere da qualsiasi sia l'ambito di discussione. È una verità oggettiva sulla forma del 2, la forma astratta. Quando avete 2 unità di qualsiasi cosa -- 2 occhi, 2 orecchie, 2 nasi, solo 2 protuberanze - tutte prendono parte alla forma del 2. Tutte condividono le verità che ha il 2. Hanno la du-alità in loro. E quindi, non si tratta di opinioni.

Platone pensò: e se l'etica fosse come la matematica? E se ci fosse una forma pura di giustizia? E se ci fossero delle verità sulla giustizia, e ci si potesse semplicemente guardare attorno in questo mondo per vedere quali cose hanno preso parte a tali verità, hanno condiviso quella forma di giustizia? A quel punto si saprebbe cosa era realmente giusto e cosa non lo era. Non sarebbe un problema di opinioni o di impressioni su ciò che è giusto. È una visione che lascia di stucco. Voglio dire, pensateci. Quant'è grandioso, ambizioso. Tanto ambizioso quanto lo siamo noi. Vuole risolvere l'etica. Vuole verità oggettive. Se la pensate in quel modo, avete una struttura morale platonica.

Se non la pensate in quel modo, beh, avete molta compagnia nella storia della filosofia occidentale, perché questa notevole idea - sapete, la gente l'ha criticata. Aristotele, in particolare, non ne era entusiasta. La riteneva poco pratica. Aristotele diceva, "Dovremmo richiedere in ciascun campo tanta precisione quanta ne permette la natura dell'oggetto". Aristotele pensava che l'etica non fosse come la matematica. Pensava che l'etica fosse più una questione legata al prendere decisioni al momento, usando il nostro giudizio per capire la giusta direzione da prendere. Se la pensate così, Platone non fa per voi. Ma non arrendetevi. Forse esiste un altro modo grazie a cui possiamo usare i numeri come base per il nostro sistema di riferimento morale.

Cosa ne dite di questo: come sarebbe se in ogni situazione poteste semplicemente prevedere, vagliare le possibilità, giudicare quale sia la migliore e sapere cosa fare? Vi suona familiare? Questo è un sistema di riferimento utilitaristico. John Stuart Mill ne è stato un gran difensore - oltre ad essere un bravo ragazzo - ed è morto solo 200 anni fa. Almeno con le basi dell'utilitarismo sono sicuro che abbiate familiarità: le tre persone che prima hanno votato per Mill ne hanno familiarità. Ma ecco come funziona. Come sarebbe se la moralità, ciò che rende qualcosa morale, fosse solo una questione di massimizzazione del piacere e minimizzazione del dolore? È qualcosa di intrinseco all'azione. Non è come la relazione che intrattiene con qualche forma astratta. È solo una questione di conseguenze. Vagliate solo le conseguenze e giudicate se, in generale, propende per il meglio o il peggio. Sarebbe semplice. A quel punto sappiamo cosa fare.

Facciamo un esempio. Supponiamo che io me ne esca dicendo "Prenderò il tuo telefono." Non perché prima abbia squillato, ma lo prenderò perché ho fatto qualche piccola previsione. Ho pensato: "quel ragazzo ha un'aria sospetta. E se avesse mandato dei messaggini al nascondiglio di Bin Landen? - o chiunque abbia preso il posto di Bin Landen - e fosse davvero un terrorista, una cellula dormiente? Lo scoprirò, e quando l'avrò scoperto, impedirò il danno enorme che potrebbe causare". È davvero un gran vantaggio prevenire quel danno. E a paragone del piccolo dolore che la mia azione causerà - perché sarà imbarazzante quando andrò a sbirciare sul suo cellulare e vedrò che ha solo un problema con Farmville e altre cose del genere - quest'imbarazzo sarà superato dal valore che avrà avuto l'aver controllato il suo cellulare. Se la pensate in questo modo avete fatto una scelta utilitaristica.

Ma forse non la pensate neanche in quel modo. Forse pensate: "è il suo cellulare. È sbagliato prendere il suo cellulare, perché è una persona e come tale ha i suoi diritti e la sua dignità, e noi semplicemente non possiamo interferire. Ha la propria autonomia. Non importa quali siano le previsioni: ci sono cose intrinsecamente sbagliate - così com'è sbagliato mentire, così com'è sbagliato torturare bambini innocenti". Kant era molto ferrato su questo punto e si è espresso un po' meglio di quanto lo farò io. Lui diceva che dovremmo usare la ragione per capire le regole su cui basare il nostro comportamento. E a quel punto è nostro obbligo morale attenerci a quelle regole. Non è una questione di previsione.

Fermiamoci un attimo. Siamo nel bel mezzo di questa coltre filosofica. E questo va avanti ormai da migliaia di anni, perché queste sono domande difficili, e io ho solo 15 minuti a disposizione. Andiamo dritti al dunque. In che modo dovremmo prendere le nostre decisioni? Dovremmo ragionare come Platone, Aristotele, Kant o Mill? Cosa dovremmo fare? Qual è la risposta? Qual è la formula che possiamo utilizzare in qualsiasi situazione per determinare cosa dovremmo fare, se è giusto utilizzare i dati di quel ragazzo o no? Qual è la formula? Non esiste una formula. Non esiste una risposta semplice.

L'etica è difficile. L'etica richiede riflessione. E ciò crea disagio. Lo so: ho passato gran parte della mia carriera occupandomi di intelligenza artificiale, provando a costruire macchine in grado di fare un po' di queste riflessioni per noi, in grado di darci delle risposte. Ma non possono. Semplicemente non si può prendere il pensiero umano e metterlo in una macchina. Siamo noi che dobbiamo pensare. La buona notizia è che non siamo macchine e possiamo farlo. Non solo possiamo pensare, ma dobbiamo. Hannah Arendt diceva, "La triste verità è che la maggior parte del male in questo mondo non è causato da persone che vogliono essere deliberatamente cattive. Nasce dal non pensare affatto". Questo è ciò che lei ha chiamato "la banalità del male". E in risposta a ciò pretendiamo che qualsiasi persona sana sfrutti la propria capacità di riflettere.

E allora facciamolo. Pensiamo. Anzi, iniziamo proprio adesso. Ognuno di voi qui presente faccia questo: pensate all'ultima volta che avete dovuto prendere una decisione per cui vi siete preoccupati di quale fosse la cosa giusta, e vi siete chiesti, "Cosa dovrei fare?" Fate riaffiorare questo ricordo. Adesso rifletteteci e rispondete, "Come sono giunto alla mia decisione? Cosa ho fatto? Ho seguito l'istinto? Ho fatto votare qualcuno? O mi sono attenuto alla legge?" Adesso abbiamo un po' più di scelta. "Ho valutato quale sarebbe stato il piacere maggiore come avrebbe fatto Mill? O come Kant, ho utilizzato la ragione per capire cosa fosse intrinsecamente giusto?" Pensateci. Davvero, fate uno sforzo di memoria. È importante. È così importante che perderemo ben 30 preziosi secondi del mio tempo qui a TEDTalk facendo nulla, se non pensare a questo. Siete pronti? Via.

Stop. Ottimo lavoro. Quello che avete appena fatto è il primo passo verso l'assunzione di responsabilità per ciò che dovremmo fare con tutto il nostro potere.

Ecco il prossimo passo - provate a far questo. Andate da un amico e spiegategli come avete preso la vostra decisione. Non adesso. Aspettate la fine di questo intervento. Fatelo a pranzo. E non andate a parlare con qualche altro amico tecnologo; trovate qualcuno diverso da voi. Cercate un arista o uno scrittore - oppure, Dio ce ne scampi, trovate un filosofo e parlategli. Insomma, trovate qualcuno del settore umanistico. Perché? Perché il loro approccio ai problemi è diverso rispetto a quello di noi tecnologi. Proprio qualche giorno fa, proprio qui davanti, c'erano centinaia di persone radunate. Erano tecnologi e umanisti che partecipavano alla grande conferenza BiblioTech. E si sono riuniti tutti insieme perché i tecnologi volevano capire come sarebbe stato pensare da un punto di vista umanistico. Qualcuno che lavorava per Google parlava con qualcuno che studiava letteratura comparata. Pensate alla rilevanza del teatro francese del 17esimo secolo - come influisce sul capitale di rischio? Beh, è interessante. È un modo diverso di pensare. E quando ragionate in quel modo, diventate più sensibili alle considerazioni umane, che sono indispensabili per prendere decisioni etiche.

Immaginate che proprio questo momento voi uscite e trovate il vostro amico musicista. E mentre gli raccontate di cosa stiamo parlando, di tutta la nostra rivoluzione dei dati e via di seguito - potreste anche accennargli un paio di battute della nostra musica di sottofondo. ♫ Dum ta da da dum dum ta da da dum ♫ Beh, il vostro amico musicista vi interrompe e vi dice, "Sai, la musica per la vostra rivoluzione dei dati, è un'opera, è Wagner. È basata su una leggenda norrena. Parla di dei e creature mitiche che si battono per dei gioielli magici". Interessante. Adesso è anche una bella opera. E ci sentiamo commossi da quest'opera. Ci sentiamo commossi perché si tratta di una lotta tra il bene e il male, tra ciò che è giusto e ciò che è sbagliato. E a noi importa di ciò è giusto e ciò che è sbagliato. Ci importa di ciò che accade in quell'opera. Ci importa di ciò che accade in "Apocalypse Now". E sicuramente ci importa di ciò che accade con le tecnologie che usiamo.

Abbiamo così tanto potere al giorno d'oggi, dipende esclusivamente da noi capire cosa farne. E qui arriva la buona notizia. Siamo noi a scrivere quest'opera. Questo è il nostro film. Siamo noi a decidere cosa ne sarà di questa tecnologia. Saremo noi a determinare il finale di tutto questo.

Grazie.

(Applausi)