Damon Horowitz poziva na "moralni operativni sustav"

Moć. To je riječ koja nam pada na pamet. Mi smo novi tehnolozi. Imamo puno podataka, stoga imamo puno moći. Koliko moći imamo? Scena iz filma "Apokalipsa danas" -- sjajnog filma. Moramo dovesti našeg junaka, kapetana Willarda, do ušća rijeke Nung kako bi mogao krenuti za pukovnikom Kurtzom. To ćemo postići tako da ga ukrcamo u avion i ostavimo tamo. Ovako ide scena: nebo je prepuno helikoptera koji ga prevoze u pozadini je glasna, uzbudljiva, divlja glazba. ♫ Dum da ta da dum ♫ ♫ Dum da ta da dum ♫ ♫ Da ta da da ♫ To je puno moći. Takvu vrstu moći osjećam u ovoj prostoriji. Mi imamo tu vrstu moći zbog svih tih podataka koje imamo.

Na primjer, što možemo učiniti s podacima jedne jedine osobe? Što možemo s podacima ovog tipa? Mogu pogledati vaše financijsko stanje. Mogu reći plaćate li račune na vrijeme. Znam jeste li kreditno sposobni. Mogu pogledati vaše zdravstveno stanje, vidjeti radi li vam još srce, jeste li pogodni za osiguranje. Mogu pogledati uzorak vaših klikova. Kada dođete na moju web stranicu, već znam što ćete učiniti, jer sam već vidio kako posjećujete milijune web stranica. Žao mi je što vam to moram reći, ali vi ste kao igrač pokera, imate tik. Analizom podataka mogu reći što namjeravate učiniti prije nego što to učinite. Znam što volite. Znam tko ste. I sve to prije nego što sam pogledao vašu poštu ili vaš telefon.

To su stvari koje možemo učiniti s podacima koje imamo. No, zapravo nisam ovdje da bih govorio o stvarima koje možemo učiniti. Ovdje sam kako bih govorio o onome što bismo trebali učiniti. Što je ispravno?

Vidim neke začuđene poglede, u stilu "Zašto nas pitaš što je ispravno? Mi samo stvaramo te stvari. Netko drugi ih koristi". Pošteno. To me vraća unatrag. Razmišljam o 2. svjetskom ratu -- nekima od ondašnjih velikih tehnologa, nekim velikim fizičarima, koji su studirali fisiju i fuziju, nuklearne stvari. Okupimo te fizičare u Los Alamosu da vidimo što će stvoriti. Želimo da ljudi stvaraju tehnologiju razmišljajući o tome što bismo pomoću nje trebali činiti.

Onda, što bismo trebali učiniti s podacima tog tipa? Bismo li ih trebali skupljati, grupirati, kako bismo unaprijedili njegovo online iskustvo? Kako bismo zaradili? Kako bismo zaštitili sebe ako bi on imao loše namjere? Ili bismo trebali poštovati njegovu privatnost, zaštititi njegovo dostojanstvo i pustiti ga na miru? Što je ispravno? Kako ćemo to doznati?

Znam: crowd source. Idemo ovo "crowdsourceati". Za zagrijavanje, krenimo s laganim pitanjem -- s nečim o čemu sigurno svi prisutni imaju mišljenje: iPhone ili Android. Dignimo ruke -- iPhone. Opa. Android. Čovjek bi pomislio da ovoliko pametnih ljudi ne bi tako lako palo samo na lijepe telefone. (Smijeh) Sljedeće pitanje, malo teže. Bismo li trebali prikupljati sve podatke tog tipa kako bismo poboljšali njegova iskustva i zaštitili se u slučaju njegovih loših namjera -- ili bismo ga trebali pustiti na miru? Prikupi podatke. Ostavi ga na miru. U redu je, sigurni ste. (Smijeh) U redu, zadnje pitanje -- teže pitanje -- u procesu procjene što bismo trebali učiniti u ovom slučaju, trebamo li koristiti Kantov deontološki moralni okvir ili Millov posljedični? Kant. Mill. Nema baš puno glasova. (Smijeh) Da, to je zastrašujuć rezultat. Zastrašujuće je to da imamo snažnija mišljenja o svojim mobilnim uređajima nego o moralnom okviru koji bi nas trebao voditi pri odlučivanju.

Kako možemo znati što činiti sa svom tom moći koju imamo ako nemamo moralni okvir? Više znamo o mobilnim operativnim sustavima, ali ono što nam zaista treba je moralni operativni sustav. Što je moralni operativni sustav? Svi znamo da postoji ispravno i pogrešno, zar ne? Osjećate se dobro kada učinite nešto ispravno, a loše kada učinite nešto pogrešno. Roditelji nas uče: dobro treba hvaliti, loše grditi. No, kako razlikovati ispravno od pogrešnog? Iz dana u dan, koristimo razne tehnike. Možda samo slijedimo vlastiti predosjećaj. Možda glasujemo -- koristimo crowd source, a možda odustanemo -- pitamo pravnike da vidimo što će oni reći. Drugim riječima, to je nasumično, zapravo ad hoc, kako zaključujemo što bismo trebali učiniti. Možda je, ako želimo biti sigurniji, ono što zbilja želimo moralni okvir koji će nam biti nit vodilja, koji će nam reći koje su stvari ispravne, a koje pogrešne i kako bismo u nekoj situaciji znali što učiniti.

Stoga stvorimo moralni okvir. Mi smo ljudi od brojki, živimo od brojeva. Kako možemo iskoristiti brojeve kao temelj moralnog okvira? Znam tipa koji je učinio upravo to, briljantan tip -- mrtav je već 2.500 godina. Platon, tako je. Sjećate se tog starog filozofa? Spavali ste na tom satu. Platona su brinule iste stvari kao nas sada. Brinuo je oko ispravnog i pogrešnog. Želio je znati što je pravedno, ali je brinuo da je sve što činimo samo razmjena mišljenja o tome. On kaže da je nešto pravedno. Ona kaže da je nešto drugo pravedno. Dok govore, prilično su uvjerljivi i jedan i drugi. Idem naprijed-natrag; nikamo ne stižem. Ne želim mišljenja, želim znanje. Želim znati istinu o pravdi -- baš kao što imamo istine u matematici. U matematici znamo objektivne činjenice. Uzmimo neki, bilo koji broj -- dva. Omiljeni broj, volim taj broj. Postoje istine o dva. Ako imate dva nečega, i dodate još dva, dobivate četiri. To je istina, bez obzira o čemu govorili. To je objektivna istina o obliku dva, apstraktnom obliku. Kada imate bilo što dva -- dva oka, dva uha, dva nosa, samo dvije izbočine -- sve to sačinjava oblik dva. Sve to sudjeluje u istinama koje posjeduje dva. Svi oni imaju dva-nost u sebi. Stoga, to nije stvar mišljenja.

Što ako je, mislio je Platon, etika poput matematike? Što ako postoji čisti oblik pravde? Što ako postoje istine o pravdi i možete samo pogledati ovaj svijet oko sebe, vidjeti koje stvari sudjeluju, sačinjavaju taj oblik pravde? Tada biste znali što je zaista pravedno, a što nije. To ne bi bio predmet mišljenja ili predodžbi. To je zapanjujuća vizija. Promislite o tome -- kako veliko, kako ambiciozno. Ambiciozno baš poput nas. On želi riješiti etiku. On želi objektivne istine. Ako razmišljate na taj način, imate platonistički moralni okvir.

Ako ne razmišljate tako, u tome imate puno istomišljenika u povijesti zapadne filozofije, zbog čistoće ideje -- znate, ljudi su ju kritizirali. Aristotela, na primjer, to nije zabavljalo. Mislio je da je nepraktična. Aristotel je rekao: "Trebali bismo tražiti onoliko preciznosti u svakom predmetu koliko taj predmet dopušta". Aristotel nije mislio da je etika slična matematici. Mislio je da je etika predmet donošenja odluka "ovdje i sada" pomoću naše najbolje procjene u pronalasku pravog puta. Ako tako razmišljate, Platon nije vaš tip, ali ne dajte se, možda postoji drugi način na koji možemo iskoristiti brojeve za temelj našeg moralnog okvira.

Što kažete na ovo: Što ako bi u bilo kojoj situaciji mogli samo izračunati, pogledati što se nudi, izmjeriti što je bolje i znati što učiniti? Zvuči poznato? To je utilitaristički moralni okvir. John Stuart Mill je bio veliki zagovornik ovoga -- osim toga, bio je dobar tip -- a mrtav je samo 200 godina. Dakle, temelji utilitarizma -- siguran sam da su vam poznati. Troje ljudi koji su glasovali za Milla ranije su upoznati s ovim. No, evo kako to funkcionira. Što ako je moral, odnosno ono što nešto čini moralnim samo pitanje povećavanja užitka i smanjivanja boli? Radi nešto svojstveno tom činu, a ne odnosi se na neki apstraktni oblik. Samo je pitanje posljedica. Gledate samo posljedice i vidite je li, u cjelini, to nešto za dobru ili lošu svrhu. To bi bilo jednostavno i tada bismo znali što učiniti.

Pogledajmo primjer. Recimo da odem gore i kažem: "Uzet ću ti mobitel". Ne zato što je ranije zazvonio, već zato što sam napravio jedan mali izračun. Pomislio sam, ovaj tip izgleda sumnjivo. Što ako šalje porukice u Bin Ladenovo skrovište -- ili nekome tko je naslijedio Bin Ladena -- i zapravo je poput terorista, krtica. Saznat ću što se događa i kad saznam, spriječit ću ogromnu štetu koju je mogao izazvati. Od sprječavanja te štete imamo veliku korist, u usporedbi s malom boli koju ćemo izazvati jer će biti osramoćen kada mu pregledam mobitel i vidim da ima problem u Farmvilleu, jer sve je to nadvladala vrijednost pregledavanja njegovog mobitela. Ako se ovako osjećate, to je utilitaristički izbor.

No, možda se ne osjećate ni ovako, možda mislite: "To je njegov mobitel, pogrešno je uzeti njegov mobitel jer je on osoba koja ima prava i dostojanstvo i ne možemo se u to uplitati". On ima autonomiju, neovisno o izračunima, postoje stvari koje su same po sebi pogrešne -- kao što je laganje pogrešno, kao što je mučenje nevine djece pogrešno. Kant je u ovome bio jako dobar i rekao je to malo bolje nego što ću ja reći. Rekao je da bismo trebali upotrijebiti naš razum kako bismo otkrili pravila po kojima ćemo voditi svoje ponašanje. Naša je dužnost slijediti ta pravila. To nije stvar izračuna.

Stoga, prestanimo. Upravo smo u srži ove filozofske zavrzlame koja se nastavlja tisućama godina, jer se radi o teškim pitanjima, a ja imam samo 15 minuta. Zato prijeđimo na stvar. Kako bismo trebali donositi naše odluke? Kao Platon, Aristotel, Kant ili Mill? Što bismo trebali činiti, što je odgovor? Koja je formula koju možemo upotrijebiti u bilo kojoj situaciji kako bismo odlučili što trebamo napraviti, hoćemo li upotrijebiti podatke tog tipa ili ne? Koja je formula? Nema formule. Nema jednostavnog odgovora.

Etika je teška. Etika zahtijeva razmišljanje, a to je neugodno. To znam jer sam potrošio dobar dio karijere na umjetnu inteligenciju, pokušavajući napraviti strojeve koji bi mogli malo razmišljati umjesto nas, dati nam odgovore -- ali oni to ne mogu. Naprosto ne možeš uzeti ljudsko razmišljanje i staviti ga u stroj. To moramo učiniti sami. Srećom, nismo strojevi pa možemo. Ne samo da možemo razmišljati, već moramo. Hannah Arendt je rekla: "Tužna istina je da najveća zla na ovome svijetu nisu počinili ljudi zato što su odabrali biti zli nego zato što nisu razmišljali". Ona to naziva "banalnošću zla". Kao odgovor na to, zahtijevamo vježbu razmišljanja od svake zdrave osobe.

Stoga, učinimo to. Razmišljajmo. Zapravo, krenimo odmah. Neka svaka osoba u ovoj prostoriji učini ovo: prisjetite se kada ste zadnji put morali donijeti odluku i bili ste zabrinuti činite li ispravnu stvar, pitali ste se: "Što bih trebao učiniti?" Prisjetite se toga i sada promislite o tome pa recite: "Kako sam došao do te odluke? Što sam učinio? Jesam li slijedio svoj predosjećaj? Jesam li izglasavao ili pitao pravnike?" Sada ipak imamo nešto više izbora. "Jesam li procjenjivao što bi bio najveći užitak, poput Milla? Ili sam, poput Kanta, koristio razum kako bih otkrio što je dobro samo po sebi?" Razmislite o tome. Stvarno se prisjetite, ovo je važno. Toliko je važno da ćemo potrošiti 30 sekundi vrijednog TEDTalk vremena ne radeći ništa osim razmišljanja o ovome. Jeste li spremni? Krenite.

Stanite. Dobar posao. Ovo što ste upravo učinili prvi je korak prema preuzimanju odgovornosti za ono što trebamo učiniti sa svom svojom moći.

Na redu je sljedeći korak -- probajte ovo. Nađite prijatelja i objasnite mu kako ste došli do te odluke. Ne sada, čekajte dok završim s govorom. Za vrijeme ručka. Nemojte naći još jednog prijatelja-tehnologa, nego nekoga drukčijeg od vas. Pronađite umjetnika ili pisca -- ili, ne daj Bože, filozofa -- i popričajte s njim. Zapravo, pronađite nekoga iz humanistike. Zašto? Zato što oni razmišljaju o problemima drukčije nego mi, tehnolozi. Prije par dana, na ulici točno preko puta odavde, skupilo se na stotine ljudi. Bili su to tehnolozi i humanisti u sklopu velike BiblioTech konferencije. Okupili su se jer su tehnolozi željeli naučiti kako bi bilo razmišljati iz humanističke perspektive. Dakle, netko iz Googlea razgovrara s nekim tko se bavi komparativnom književnošću. Vi razmišljate o tome kakve veze ima francusko kazalište iz 17. stoljeća s rizičnim kapitalom? To je zanimljivo. To je drukčiji način razmišljanja. Kada razmišljate na taj način, postajete osjetljiviji prema pitanju ljudi, što je ključno kod donošenja etičkih odluka.

Zamislite da ste sada otišli i sreli svog prijatelja glazbenika i da mu pričate o ovome o čemu smo sada govorili, o cijeloj revoluciji podataka i svemu tome -- možda čak zapjevate pokoji takt glazbene teme. ♫ Dum ta da da dum dum ta da da dum ♫ Vaš prijatelj glazbenik bi vas zaustavio i rekao: "Znaš, ta glazbena tema iz tvoje revolucije podataka je opera. To je Wagner. Utemeljena je na nordijskoj legendi prema kojoj se bogovi i mitska bića bore za čarobni nakit". To je zanimljivo. To je predivna opera i ganuti smo njome. Ganuti smo jer se radi o borbi između dobra i zla, između ispravnog i pogrešnog, a nama je stalo do ispravnog i pogrešnog. Stalo nam je do toga što će se dogoditi u toj operi. Stalo nam je do toga što će se dogoditi u "Apokalipsi danas" i svakako nam je stalo što će se dogoditi s našim tehnologijama.

Danas imamo toliko moći i sami moramo odlučiti što ćemo učiniti. To su dobre vijesti. Mi smo skladatelji ove opere. Ovo je naš film. Mi otkrivamo što će se dogoditi s ovom tehnologijom. Mi odlučujemo kako će sve ovo završiti.

Hvala vam.

(Pljesak)