Damon Horowitz cere un „sistem de operare moral”

Putere. Acesta este cuvântul care îmi vine în minte. Suntem noii tehnologi. Avem multă informație, așadar avem multă putere. Cât de multă putere avem? Scenă dintr-un film: ”Apocalipsa acum” -- grozav film. Trebuie să îl aducem pe eroul nostru, căpitanul Willard, la gura râului Nung pentru a-l putea urmări pe col. Kurtz.. Modul în care vom face acest lucru este să-l aducem în zbor și să-l aducem acolo. Așadar scena: cerul este acoperit de o flotă de elicoptere ce îl transportă. Și este această muzică zgomotoasă, captivantă pe fundal, o muzică sălbatică. ♫ Dum da ta da dum ♫ ♫ Dum da ta da dum ♫ ♫ Da ta da da ♫ Asta înseamnă multă putere. Acesta este tipul de putere pe care îl simt în această încăpere. Acesta este tipul de putere pe care îl avem datorită tuturor informațiilor pe care le avem.

Să luăm un exemplu. Ce putem face cu datele unei singure persoane? Ce putem facem cu datele acelui tip? Pot să vă cercetez trecutul financiar. Pot să vă spun dacă plătiți facturile la timp. Știu dacă vă calificați pentru un împrumut . Pot să vă analizez istoria medicală, pot să aflu în ce stare vă este inima -- pentru a decide dacă merită să vă ofer asigurare. Pot să analizez modelul clicurilor. Când îmi vizitaţi website-ul, chiar ştiu deja ce o să faceţi, pentru că v-am mai văzut vizitând milioane de website-uri. Şi regret să vă spun, sunteţi ca un jucător de pocher, sunteţi transparent. Analizând informaţiile, vă pot spune ce urmează să faceţi înainte chiar de a acţiona. Ştiu ce vă place. Ştiu cine sunteţi. Şi asta chiar înainte de a vă vedea mail-ul sau telefonul.

Astfel de lucruri putem face cu informaţiile pe care le avem. Dar nu sunt aici pentru a vă vorbi despre ce putem face. Sunt aici pentru a vorbi despre ce ar trebui să facem. Ce e bine să facem?

Acum văd unele priviri nedumerite de genul, "De ce ne întrebi ce e bine să facem? Noi doar fabricăm aceste lucruri. Alţii le folosesc." Corect. Dar, îmi provoacă amintiri. Mă gândesc la al Doilea Război Mondial - atunci, unii dintre cei mai buni tehnologi de-ai noștri, unii dintre cei mai buni fizicieni de-ai noştri, au studiat fisiunea şi fuziunea nucleară-- doar chestii nucleare. Îi reunim pe aceşti fizicieni în Los Alamos pentru a vedea ce au construit. Dorim ca persoanele care construiesc tehnologia să se gândească la ce ar trebui să facem cu tehnologia.

Deci ce ar trebui să facem cu informaţiile acelui tip? Ar trebui să le preluăm, să le adunăm, pentru a-i înbunătăţi experienţa online? Pentru ca să câştigăm bani? Pentru a ne putea apăra dacă se dovedeşte că nu are intenţii bune? Sau trebuie să-i respectăm intimitatea, să-i protejăm demnitatea şi să-l lăsăm în pace? Ce variantă să alegem? Cum ne dăm seama ce să facem?

Ştiu: sondajul de opinie. Haideţi să-l aplicăm asupra acestui lucru. Ca să-i pregătim pe oameni, să începem cu o întrebare simplă-- despre un lucru asupra căruia sunt sigur că toată lumea are o opinie: IPhone versus Android. Să votăm -- pentru iPhone. Uh huh. Android. V-aţi gândi că un grup de oameni inteligenţi ca acesta nu ar fi interesat de asemenea aiureli folositoare telefoanelor frumoase. (Râsete) Următoarea întrebare, un pic mai dificilă. Trebuie să adunăm toate datele despre acel tip pentru a-i îmbunătăţi experienţa şi a ne proteja dacă se dovedeşte că nu are intenţii bune? Sau ar trebui să -l lăsăm în pace? Să-i adunăm datele. Să-l lăsăm în pace. Eşti în siguranţă. E în regulă. (Râsete) Ok, ultima întrebare -- întrebarea cea mai dificilă-- când încercăm să evaluăm ceea ce ar trebui să facem în acest caz, ar trebui să utilizăm un model moral deontologic kantian, sau ar trebui să utilizăm o teorie subsecventă milliană? Kant. Mill. Nu chiar atât de multe voturi. (Râsete) Da, e un rezultat terifiant. Terifiant, pentru că avem păreri mai puternice despre dispozitivele noastre manuale decât despre cadrul moral pe care ar trebui să-l folosim în luarea deciziilor.

Cum ştim să ne folosim de toată puterea pe care o avem dacă nu avem un cadru moral? Ştim mai mult despre sistemele de operare ale telefoanelor mobile, dar avem de fapt nevoie de un sistem de operare moral. Ce este un sistem de operare moral? Cu toţii cunoaştem binele şi răul . Vă simţiţi bine când faceţi un lucru bun vă simţiţi rău când faceţi un lucru rău. Părinţii nostri ne învaţă că lauda este pentru bine, mustrarea pentru rău. Dar cum distingem binele de rău? Pe zi ce trece, avem tehnici pe care le folosim. Poate ne urmăm instinctul. Poate votăm- facem un sondaj de opinie. Sau poate pariem- întrebaţi departamentul juridic, vedeţi ce spun ei. Cu alte cuvinte e aleatoriu, cam ad hoc, felul în care ne dăm seama ce ar trebui să facem. Şi poate, dacă vrem să fim mai siguri, ceea ce realmente vrem este un cadru moral care ne va ajuta să ajungem acolo, care ne va spune din start ce fel de lucruri sunt bune şi rele şi cum vom şti ce să facem într-o anumită situaţie.

Aşa că, haideţi să dobândim un cadru moral. Suntem un număr de oameni care se ghidează după numere. Cum putem folosi numerele ca bază pentru un cadru moral? Cunosc un tip care tocmai asta a făcut. Un tip extraordinar- care e mort de 2500 de ani. Platon, corect. Vi-l amintiţi - bătrânul filosof? Aţi dormit la acel curs. Şi Platon, a avut aceleaşi preocupări ca şi noi. S-a preocupat de ceea ce e bine şi rău. A vrut să ştie ce este corect. Dar a fost îngrijorat că tot ceea ce facem de fapt este să schimbăm opinii despre asta. El spune că ceva este corect. Ea spune că altceva este corect. E cam convingător ceea ce spune el şi, la fel, ceea ce spune ea. Merg înainte şi înapoi. Nu vreau păreri, vreau cunoaştere. Vreau să aflu adevărul despre dreptate - asemănător adevărului matematic. În matematică cunoaştem datele obiective. Luaţi un număr, orice număr - doi. Numărul favorit. Iubesc acest număr. Există adevăruri despre doi. Dacă aveţi două lucruri, mai adăugaţi două, aveţi patru. E adevărat indiferent despre ce lucru este vorba Este un adevăr obiectiv despre forma lui doi, forma abstractă. Când aveţi oricare două lucruri - doi ochi, două urechi, două nasuri, doar două proeminenţe - acestea toate fac parte din forma lui doi. Toate fac parte din adevărul lui doi. Toate au doi-ul în ele. De aceea nu este o chestiune de opinie.

Ce ar fi, dacă Platon ar fi crezut că etica este ca matematica? Ce ar fi dacă ar exista o formă pură de dreptate? Ce ar fi dacă există adevăruri despre dreptate, şi puteţi arunca o privire acestei lumi şi să vedeţi care lucruri au participat, au împărtăşit acea formă de dreptate? Atunci aţi şti ce era cu adevărat corect şi ce nu. Nu ar fi doar o chestiune de opinie sau imagine. Este o viziune uluitoare. Vrea să spun, gândiţi-vă la asta. Ce măreţ. Ce ambiţios. Atât de ambiţioşi suntem. El vrea să rezolve probleme etice. El vrea adevăruri obiective. Dacă gândiţi astfel, aveţi un cadru moral platonician.

Dacă nu gândiţi astfel, ei bine, aveţi mulţi colegi în istoria filosofiei occidentale, pentru că cea mai curată idee - ştiţi, este criticată de oameni. Aristotel, mai ales, nu a fost amuzat. A considerat că nu este practică. Aristotel a spus, "Ar trebui să căutăm numai atâta precizie în fiecare subiect câtă acel subiect ne permite." Aristotel credea că etica nu prea semăna cu matematica. Credea că etica ţine de luarea deciziilor aici şi acum folosindu-ne de raţionamentul cel mai bun pentru găsirea căii corecte. Dacă gândiţi aşa, Platon nu este omul vostru. Dar nu renunţaţi. Poate există o altă cale prin care putem folosi numerele ca bază a cadrului nostru moral.

Ce ziceţi de asta: Ce ar fi ca în orice situaţie să puteţi calcula, analiza opţiunile, cântări care este cea mai bună şi să ştiţi ce să faceţi? Vă sună cunoscut? Este un cadru moral utilitarist. John Stuart Mill era un susţinător înfocat al acestuia - un tip de treabă de altfel - şi mort de 200 de ani. Deci bazele utilitarismului - sunt sigur că sunteţi cel puţin familiarizaţi. Cele trei persoane care au votat cu Mill înainte să se familiarizeze cu acesta. Dar iată cum funcţionează. Ce ar fi dacă morala, ce ar fi dacă ceea ce face un lucru moral este doar o chestiune de a-i maximiza plăcerea şi a minimiza durerea? Face ceva intrinsec actului. Nu se aseamănă cu relaţia sa cu o formă abstractă. E o chestiune legată de consecinţe. Vă uitaţi la consecinţe şi vedeţi dacă, în mare, este înspre bine sau înspre rău. Asta ar fi simplu. Atunci ştim ce să facem.

Haideţi să luăm un exemplu. Să presupunem că mă trezesc şi vă spun, "Vă voi lua telefonul." Nu doar pentru că a sunat mai devreme, dar îl voi lua pentru că am calculat puţin. Mi s-a părut că acel tip arată suspect. Şi dacă transmite mesaje scurte ascunzătorii lui Bin Laden - sau celui care a preluat conducerea după Bin Laden - şi este de fapt un fel de terorist, o celulă. Voi afla acel lucru, şi când îl voi afla, voi preveni un număr mare de distrugeri pe care le-ar putea cauza. Aceasta are o utilitate crescută în prevenirea distrugerilor. Şi în comparaţie cu puţina durere pe care o va cauza - pentru că va fi jenant când mă voi uita în telefonul lui şi voi vedea că are o problemă legată de Farmville - este copleşitor din perspectiva valorii de a te uita la un telefon. Dacă asta simţiţi, aceasta este o alegere utilitaristă.

Dar poate că nu sunteţi de acord nici cu asta. Poate vă gândiţi, este telefonul lui. E greşit să-i iau telefonul, pentru că e o persoană şi are drepturi şi demnitate, şi nu putem să ne amestecăm în asta. Are autonomie. Nu contează care sunt calculele. Există lucruri care sunt intrinsec greşite - cum ar fi minciuna care este rea, cum ar fi torturarea copiilor nevinovaţi, care este un lucru rău. Kant era foarte bun în această privinţă, iar el a spus-o puţin mai bine decât o voi spune eu. A spus că ar trebui să ne folosim raţiunea pentru a găsi regulile după care să ne ghidăm conduita. Şi apoi este datoria noastră să respectăm acele reguli. Nu este o chestiune de calcul.

Deci, să ne oprim. Avem dreptate în profunzime, această profunzime filosofică. Şi acest lucru se repetă de o mie de ani, pentru că acestea sunt întrebări dificile, şi eu am la dispoziţie doar 15 minute. Deci să trecem la subiect. Cum ar trebui să luăm deciziile? Ca Platon, Aristotel, Kant sau Mill? Ce ar trebui să facem? Care este răspunsul? Care este formula pe care o putem folosi în orice situaţie pentru a determina ceea ce trebuie să facem, ar trebui să folosim informaţiile acelui tip sau nu? Care este formula? Nu există formulă. Nu există un răspuns simplu.

Etica este grea. Etica presupune gândire. Şi acesta nu este un lucru confortabil. Ştiu, mi-am petrecut mult timp din carieră în inteligenţa artificială, încercând să construiesc maşini care ar putea să gândească pentru noi, care ar putea să ne ofere răspunsuri. Dar nu pot. Nu puteţi doar să luați gândirea umană şi să o puneți într-o maşină. Noi suntem cei care trebuie s-o facem. Din fericire, nu suntem maşini, şi putem s-o facem. Nu numai că putem raționa, dar trebuie să raționăm. Hannah Arendt a spus, "Tristul adevăr este că cea mai mare parte a răului făcut în această lume nu este făcut de oameni care aleg să fie răi. Provine din faptul că nu gândim." Asta numeşte ea "banalitatea răului." Şi răspunsul la asta este că cerem exercițiul gândirii fiecărei persoane normale.

Deci, haideți să facem asta. Haideți să gândim. De fapt, haideți să începem chiar acum. Fiecare persoană din această încăpere să facă asta: gândiți-vă la ultima dată când a trebuit să luați o decizie când a face lucru corect vă îngrijora, când v-ați întrebat, "Ce ar trebui să fac?" Aduceți-vă aminte. Şi acum reflectați la acel lucru şi spuneți, "Cum am ajuns la această decizie? Ce am făcut? Mi-am urmat instinctul? Am pus pe cineva să voteze decizia? Sau am mizat pe drept?" Acum avem puțin mai multe alegeri. "Am evaluat care ar fi cea mai mare plăcere cum ar fi făcut Mill? Sau asemenea lui Kant, am folosit rațiunea pentru a afla ceea ce intrinsec este bine? Gândiți-vă. Chiar amintiți-vă. Este important. Este atât de important încât vom folosi 30 de secunde prețioase din timpul TEDTalks nefăcând altceva decât gândindu-ne la asta. Sunteți pregătiți? Începeți.

Opriți-vă. Foarte bine. Ceea ce tocmai ați făcut este primul pas în asumarea responsabilității pentru ceea ce ar trebui să facem cu toată puterea noastră.

Acum următorul pas - încercați asta. Găsiți-vă un prieten şi explicați-i cum ați luat decizia. Nu chiar acum. Aşteptați până termin conferința. Faceți-o la prânz. Şi nu vă găsiți un alt prieten tehnolog; găsiți pe cineva diferit de voi. Găsiți-vă un artist sau un scriitor - sau, pentru Dumnezeu, găsiți-vă un filosof şi vorbiți cu el. De fapt, găsiți pe cineva din ştiințele umane. De ce? Pentru că ei se gândesc la probleme diferit de noi tehnologii. Acum câteva zile, peste drum de noi, erau sute de oameni adunați. Erau tehnologi şi umanişti la acea mare Conferință BiblioTech. Şi s-au reunit pentru că tehnologii doreau să afle cum ar fi să gândeşti din perspectiva ştiințelor umaniste. Aveți pe cineva de pe Google care vorbeşte cu cineva care se ocupă cu literatura comparată. Vă gândiți la relevanța teatrului francez din secolul al-XVII-lea - cum afectează asta capitalul de risc? Ei bine, e interesant. E o altfel de gândire. Şi când gândeşti în acest fel devii mai sensibil la părerile oamenilor, care sunt cruciale în luarea deciziilor etice.

Deci, imaginaţi-vă că în acest moment aţi plecat şi v-aţi găsit prietenul muzician. Şi îi povestiţi discuţia noastră despre întreaga revoluţie a informaţiilor şi toate acestea - poate chiar îi fredonaţi câteva note ale temei noastre muzicale. ♫ Dum ta da da dum dum ta da da dum♫ Ei bine, prietenul vostru muzician o să vă oprească şi va spune, "Ştii, tema muzicală pentru revoluţia informaţiilor, e o operă, e Wagner. E bazată pe legenda lui Norse. E vorba de zei şi creaturi mitice care se luptă pentru bijuterii magice. Interesant. Este şi o operă frumoasă. Suntem mişcaţi de acea operă. Suntem mişcaţi pentru că are ca subiect lupta dintre bine şi rău, dreptatea şi nedreptatea. Şi suntem preocupaţi de dreptate şi nedreptate. Ne pasă de ceea ce se petrece în această operă. Ne pasă de ce se petrece în "Apocalipsa prezentului." Şi, cu siguranţă, ne pasă de ceea ce se întâmplă cu tehnologia noastră.

Avem atât de multă putere astăzi, depinde de noi să descoperim ce să facem. Şi aceasta este vestea bună. Noi suntem cei care scriu această operă. Acesta este filmul nostru. Noi descoperim ce se va întâmpla cu această tehnologie. Noi determinăm cum se vor termina toate acestea.

Mulţumesc.

(Aplauze)