Damon Horowitz bën thirrje për një "sistem operativ për moralin"

Fuqia. Kjo është fjala që të vjen në mendje. Jemi mjeshtrit e rinj të teknologjisë. Kemi të dhëna plot, ndaj kemi plot fuqi. Sa fuqi kemi? Skenë nga një film: "Apokalips Tani" -- film i madh. Kemi heroin e filmit, kapitenin Willard, në deltën e lumit Nung që të mundet të ndjekë kolonelin Kurtz. Mënyra që do të përdorim është ta çojmë atje në rrugë ajrore. Pra skena është kjo: qielli nxin nga helikopterët që po e transportojnë për atje. Dhe në sfond gjëmon muzika ngjethëse, kjo muzikë e marrë. ♫ Bum pa pa pa bum ♫ ♫ Bum pa pa pa bum ♫ ♫ Ta ta ta ta ♫ Bëhet fjalë për goxha fuqi. Nga ajo lloj fuqie që ndjen në këtë sallë. Ky është lloji i pushtetit që kemi falë krejt të dhënave që zotërojmë.

Le të marrim një shembull. Ç'mund të bëjmë me të dhënat e një personi të vetëm? Çfarë mund të bëj me të dhënat e atij tipit? Mund të shoh të dhënat tuaja financiare. Mund të shoh nëse i paguani llogaritë në afat. Di nëse ia vleni t'ju jepet një hua a jo. Mund t'ju rrëmoj kartelën mjekësore, mund të shoh nëse valvula juaj punon ende -- të shoh nëse ia vleni t'ju ofrohen sigurime. Mund të shoh rregullsitë tuaja në klikime. Kur vini te site-i im web, e di tashmë se çfarë do të bëni, ngaqë kam parë vizitat tuaja të mëparshme në miliona site-e web. Dhe më vjen keq që duhet t'jua them, por jeni si lojtar pokeri, secili me shenjat e veta. Me ndihmën e analizës së të dhënave mund të tregoj se çfarë do të bëni, përpara se ta bënit. E di se çfarë ju pëlqen. Di se kush jeni. Dhe kjo ende pa rrëmuar postën tuaj apo telefonin tuaj.

Këto janë gjërat që mund të bëjmë me të dhënat që zotërojmë. Por nuk jam këtu për të folur rreth asaj që mund të bëjmë. Jam këtu për të folur rreth asaj që do të duhej të bënim. Cila është gjëja e drejtë që duhet bërë?

Po shoh disa fytyra të habitura, të llojit "Pse po na pyet se cila është gjëja e drejtë që duhet bërë? Ne thjesht krijojmë diçka. Dikush tjetër e përdor." E drejtë. Por kjo më shpie në të kaluarën. Më vjen në mendje Lufta e Dytë Botërore -- disa nga më të njohurit e teknologjisë atëherë, disa nga fizikanët tanë më të mëdhenj, që merreshin me zbërthimin dhe fuzionin bërthamor -- muhabet punësh bërthamore. Këta fizikanë i bëmë tok në Los Alamos për të parë se ç'do të pillnin. Duam që njerëzit që krijojnë teknologjinë të mendohen edhe se ç'të bëjmë ne me teknologjinë.

Pra, ç'duhet të bëjmë me të dhënat e atij tipit? Mos do të duhej t'i grumbullonim, mblidhnim, që t'ia bëjmë më të mirë punimin online? Mos duhet të bëjmë para prej tyre? Mos duhet të mbrojmë veten nëse ai ka mendje të keqe? Apo do të duhej të respektonim privatësinë e tij, të mbrojmë dinjitetin e tij dhe ta lëmë të qetë? Pra cilën? Si ta gjejmë?

E di se qysh: t'ia lemë publikut të vendosë. Atëherë, sa për nxehje, le t'ia fillojmë me një pyetje të lehtë -- diçka për të cilën jam i sigurt që gjithkush këtu ka një mendim: iPhone apo Android? Ngrini duart sipas zgjedhjes -- iPhone. Aahaaaa. Android. Ndoshta mendoni se me një dorë të mençurish nuk do të gënjeheshim thjesht me celularë të hijshëm. (Të qeshura) Pyetja vijuese, pak më e vështirë. Mos do të duhej që të mbledhim krejt të dhënat e atij tipit që t'ia bëjmë punimin më të mirë dhe që të mbrojmë veten nëse ai ka mendje të keqe? Apo do të duhej ta linim të qetë? Të mblidhen të dhënat e tij. Të lihet i qetë. Pa zarar. Gjithçka në rregull. (Të qeshura) Bukur, pyetja e fundit -- pyetje më e vështirë -- kur përpiqemi të vlerësojmë se ç'duhet bërë në këtë rast, do të duhej të përdornim një kuadër deontologjik morali kantian, apo duhet të përdorim një konsenkuencialist, të tipit Mill? Kant. Mill. Jo dhe aq shumë vota. (Të qeshura) Po, përfundim i frikshëm. I frikshëm, ngaqë më të rrënjosura kemi opinionet rreth pajisjeve tona celulare se sa rreth kuadrit moral që do të duhej përdorur si udhërrëfyes për vendimet tona.

Nga ta dimë se ç'duhet bërë me gjithë atë fuqi që zotërojmë po qe se nuk kemi një kuadër moral? Më shumë njohim sistemet operativë për celularë, por ajo që na duhet është një sistem operativ për moralin. Çfarë është një sistem operativ për moralin? Të gjithë dallojmë të drejtën nga e gabuara, apo jo?. Ndiheni mirë kur bëni diçka të drejtë, ndiheni keq kur bëni diçka të gabuar. Këtë na mësojnë prindërit: lëvdoni të mirën, dënoni të keqen. Por nga ta dimë se ç'është e mirë dhe e keqe? Ditë pas dite, kemi teknika që i vëmë në punë. Ndoshta ndjekim intuitën. Ndoshta e hedhim në votë -- pyesim publikun. Ose ndoshta luajmë kumar -- pyesni zyrën ligjore, shihni se ç'mendim kanë ata. Me fjalë të tjera, në dorë të rastësisë, diçka ad hoc, mënyra se si vendosim se çfarë duhet bërë. Ndoshta, nëse kërkojmë ca më tepër siguri, ajo çka na duhet vërtet është një kuadër moral që të na udhëheqë, që të na tregojë së pari cilat gjëra janë të drejta e cilat jo, dhe se nga ta dimë, në një situatë të caktuar, se ç'duhet bërë.

Le të marrim atëherë një kuadër moral. Ne jemi njerëz numrash, rrojmë me numrat. Si mund t'i përdorim numrat si bazë të kuadrit moral? Njoh një tip që bëri pikërisht këtë, Një tip i shkëlqyer -- që ka 2500 vjetë që ka vdekur. Platoni, e saktë. Ju kujtohet filozofi plak? Apo po flinit gjumë gjatë orës për të? Platoni shqetësohej për shumë nga gjërat që na shqetësojnë dhe ne. Shqetësohej për të drejtën dhe të gabuarën. Donte të dinte se çfarë është e drejtë. E shqetësonte fakti që ajo që duket se bëjmë është shkëmbimi i opinioneve rreth diçkaje. Ky thotë që diçka është e drejtë. Ajo thotë që diçka tjetër është e drejtë. Deri diku bindesh kur flet ai, dhe kur flet ajo. Thjesht po lëkundem; nuk po shkoj gjëkundi. Nuk dua opinione, dua dije. Dua të di të vërtetën rreth drejtësisë -- si të vërtetat që kemi në matematikë. Në matematikë njohim faktet objektive. Merrni një numër, çfarëdo numri -- dyshin. Numri i parapëlqyer. Vdes për këtë numër. Ka të vërteta lidhur me dyshin. Nëse keni dy nga diçka, dhe shtoni edhe dy, ju dalin katër. Kjo është e vërtetë, pavarësisht diçkasë. Është një e vërtetë objektive në formën e dyshit, forma abstrakte. Kur keni dy nga diçka -- dy sy, dy veshë, dy hundë, thjesht dy zgjatime -- këto kanë të përbashkët qenien në çift. Janë shprehje të vërtetash që lidhen me dyshin. Të tëra kanë brenda dyshësinë. Prandaj nuk bëjmë fjalë për opinion.

Po sikur, mendoi Platoni, etika të jetë si matematika? Po sikur të kish forma të kulluara të drejtësisë? Po sikur të kish të vërteta mbi drejtësinë, dhe ju të hidhnit vështrimin mbi këtë botë dhe të shihnit sende që i binden, që kanë të përbashkët këtë formë të drejtësisë? Kështu do të dinit se ç'është apo ç'nuk është vërtet e drejtë. Nuk do të qe thjesht punë opinionesh, ose thjesht dukjesh. Ky është një përfytyrim mbresëlënës. E kam fjalën, pa mendojeni. Sa madhështor. Sa ambicioz. Aq ambicioz sa jemi edhe ne. Ai don të zgjidhë problemin e etikës. Don të vërteta objektive. Nëse e mendoni në këtë mënyrë, keni një kuadër moral platonist.

Nëse nuk mendoni kështu, keni plot shokë në historinë e filozofisë perëndimore, ngaqë, dihet, njerëzit i kritikojnë idetë e qëruara. Aristoteli, në veçanti, nuk e pati për zemër. Mendonte që nuk qe praktike. Aristoteli shprehej, "Në çdo subjekt, duhet të kërkojmë aq saktësi sa na lejon vetë subjekti." Aristoteli mendonte që etika nuk qe dhe aq si matematika. Mendonte se etika qe punë vendim-marrjesh të atypëratyshme duke përdorur frytet më të mira të gjykimit tonë për të gjetur shtegun e duhur. Po e menduat kështu, Platoni nuk bën për ju. Por mos u dorëzoni. Ndoshta ka një rrugë tjetër në të cilën të mund të përdorim numrat si bazë të kuadrit tonë moral.

Si ju duket kjo: Po sikur në çfarëdo situate të mundeshit thjesht të llogarisnit, të shihnit opsionet, të masnit cila është më e mira dhe të gjenit ç'duhet bërë? Si e dëgjuar, hë? Ky është kuadri moral utilitarist. John Stuart Mill qe mbrojtës i shquar i këtij -- përtej tipave të mirë -- dhe ka vetëm 200 vjetë që ka vdekur. Pra baza e utilitarizmit -- Jam i sigurt se e njihni të paktën. Tre personat, që pak më parë votuan për Mill-in, e njohin. Ja se si funksionon. Po sikur morali, ajo çka e bën diçka morale, të ishte thjesht çështje nëse na e shton kënaqësinë dhe na redukton vuajtjen? Të qe pjesë e pandashme e vetë veprimit? Që nuk ngjan me marrëdhënien e saj me ndonjë formë abstrakte. Është thjesht punë pasojash. Ju thjesht përqendroheni te pasojat dhe shihni nëse, në përgjithësi, bën mirë apo keq. Kështu do të ishte thjesht. Atëherë dimë se ç'duhet të bëjmë.

Le të marrim një shembull. Le të hamendësojmë se ngrihem dhe them, "Po ta marr telefonin." Jo ngaqë ra zilja pak më parë, por do të ta marr ngaqë bëra një llogari të vockël. Mendova se ky tipi duket i dyshimtë. Po sikur të jetë duke i dërguar mesazhe strofkës së Bin Laden-it -- ose të kujtdo që i zuri vendin -- pale që duket ca edhe si terrorist, celulë e përgjumur. Do ta zbuloj, dhe kur ta zbuloj, Do të parandaloj një dëm shumë të madh që mund të shkaktonte. Ka goxha vlerë të parandalosh një dëm të tillë. Dhe krahasuar me vuajtjen e vockël që kjo do të shkaktojë -- ngaqë është turpëruese të rrëmosh në telefonin e tjetrit dhe të shohësh që ka një problem në Farmville e të tjera syresh -- lihet në hije nga dobia e vëzhgimit të atij telefoni. Nëse iu duket e drejtë, kjo është zgjedhja e një utilitariani.

Por ndoshta nuk e mendoni as kështu. Ndoshta ju mendoni që telefoni është i tiji. Është gabim t'i merret telefoni, sepse bëhet fjalë për një person, që ka të drejta, ka dinjitet, dhe nuk i fusim dot hundët kështu. Ka pavarësinë e tij. Nuk ka rëndësi se cilat janë llogaritë. Ka gjëra që janë së brendshmi gabim -- të gënjesh është gabim, bie fjala, të torturosh fëmijë të pafajshëm është e gabuar. Kanti qe shumë i zoti në këtë pikë, dhe e pat shprehur ca më mirë nga unë. Ai thosh se duhet të përdorim arsyen për të gjetur rregullat që do të na udhëheqin sjelljen tonë. Dhe se e kemi për detyrë t'i ndjekim këto rregulla. Nuk është punë llogaritjesh.

Ndaj le të ndalemi këtu. Gjendemi pikërisht në qendër të këtij lëmshi filozofik. E kjo vazhdon këtu e mijëra vjetë, ngaqë këto janë çështje të zorshme, dhe kam vetëm 15 minuta kohë. Ndaj le të hidhemi drejt e në thelb. Si do të duhej t'i merrnim vendimet tona? Sipas Platonit, Aristotelit, Kantit, Millit? Ç'do të duhej të bënim? Cila është përgjigja? Cila është formula që do të mund të përdornim në çfarëdo situate për të vendosur se ç'do të duhej të bënim, nëse duhet a jo t'i përdorim të dhënat e atij tipit? Cila është formula? Nuk ka formulë. Nuk ka përgjigje të thjeshtë.

Etika është e vështirë. Etika lyp peshim. Dhe ky është i sikletshëm. E di, kam harxhuar jo pak nga karriera ime me inteligjencën artificiale, duke u rrekur të krijoj makina që do të mund të bënin për ne ca nga ky peshim, që do të mund të na jepnin përgjigje. Por ja që nuk munden. Nuk merrni dot të menduarit njerëzor dhe ta vini në një makinë. Jemi ne ata që duhet ta bëjmë. Për fat, nuk jemi makina, dhe mund ta bëjmë. Jo vetëm që mund të mendojmë, ne duhet të mendojmë. Hannah Arendt thosh, "E vërteta e trishtë është që shumica e të këqijave në këtë botë nuk kryhet nga njerëz që zgjedhin të jenë të këqij. Vjen nga të mos-menduarit." Kjo është çka ajo e quajti "banaliteti i të keqes." Dhe përgjigja ndaj tij është t'i mëshojmë ushtrimit të të menduarit nga çdo person me mendje të shëndoshë.

Le ta bëjmë pra. Le të mendojmë. Duke ia filluar që tani, në fakt. Çdo person në këtë sallë le të bëjë këtë: sillni në mend herën e fundit që ju desh të merrnit një vendim për të cilin shqetësoheshit se mos bënit gjënë e gabuar, kur lëkundeshit, "Ç'duhet të bëj?" Silleni atë herë në mendje. Dhe bluajeni tani në mendje dhe thoni, "Si arrita në atë vendim? Çfarë bëra? E ndoqa zemrën? Ma votoi kush? Apo ia lashë ligjeve?" Ose, me ca zgjedhje më shumë. "A vura në kandar se cila do të më sillte më shumë kënaqësi, siç do të bënte Mill-i? Apo si Kanti, përdora arsyen për të gjetur se ç'ishte së brendshmi e drejtë?" Mendojeni kështu. Silleni vërtet në mendje. Ka rëndësi kjo. Ka kaq rëndësi sa do të harxhojmë 30 sekonda të vyera nga koha e TEDTalk-ut duke mos bërë gjë tjetër veç të menduarit e kësaj. Jeni gati? Jepini.

Stop. Punë e paqme. Ajo që sapo bëtë, është hapi i parë i marrjes përsipër të përgjegjësisë për atë çka do të duhej të bënim me fuqinë tonë.

Hapi tjetër tani -- provoni këtë. Shkoni e takoni një shok dhe shpjegojini se si erdhët në atë vendim. Jo drejt e tani. Prisni sa të mbaroj fjalën. Bëjeni në pushimin e drekës. Dhe jo me një tjetër shok që merr vesh nga teknologjia; gjeni dikë ndryshe nga ju. Gjeni një artist ose një shkrimtar -- ose, mos e dhashtë Zoti, gjeni një filozof dhe bisedojeni më të. Në fakt, gjeni dikë nga shkencat shoqërore. Pse? Ngaqë ata i mendojnë problemet ndryshe nga si i mendojmë ne të teknologjive. Vetëm pak ditë më parë, mu në anën tjetër të rrugës, qenë grumbulluar tok qindra vetë. Të teknologjisë dhe të shoqëroreve në Konferencën e madhe BiblioTech. Dhe qenë mbledhur ngaqë ata të teknologjisë donin të mësonin si do të ishte po të mendohej nga këndvështrimi i shkencave shoqërore. Pra dikush nga Google rreh mendime me dikë që merret me letërsisë të krahasuar. Kjo ju sjell në mendje rëndësinë e teatrit të shekullit të 17-të në Francë -- si ndikon kjo te sipërmarrjet e reja kapitaliste? Pa ta shohim pak. Kjo është tjetër mënyrë të menduari. Dhe kur e mendoni kështu, bëheni më i ndjeshëm ndaj opinionit të njerëzve, i cili është kyç për vendim-marrje etike.

Pra përfytyroni tani, në këtë çast, vajtët dhe gjetët mikun tuaj muzikant. Dhe po i tregoni se ç'biseduam, mbi krejt revolucionin tonë të të dhënave e më the, të thashë -- ndoshta edhe i fishkëlleni ca masa nga sigla jonë muzikore. ♫ Bum pa pa pa bum bum pa pa pa bum ♫ Miku juaj muzikant do t'ju ndalë për të thënë, "E di zotrote që sigla muzikore për revolucionin tuaj të të dhënave, është prej një opere, është e Vagnerit? Që bazohet në një legjendë Norvegjeze. Mbi Zotin dhe krijesa mitike që luftojnë kundër xhevahiresh magjike." Ah, interesante... Dhe është edhe operë e bukur. Një operë që na prek. Na prek sepse merret me ndeshjen mes të mirës dhe të keqes, të drejtës dhe të gabuarës. Dhe për ne ka rëndësi e drejta dhe e gabuara. Për ne ka rëndësi ç'ndodh në atë opera. Për ne ka rëndësi ç'ndodh te "Apokalipsi Tani." Dhe për ne pa dyshim që ka rëndësi ç'ndodh me teknologjitë tona.

Kemi kaq shumë fuqi sot, dhe na bie ne barra të gjejmë se çfarë të bëjmë me të. Dhe këtu qëndron lezeti. Jemi ne ata që e shkruajmë këtë opera. Ky është filmi ynë. Jemi ne që gjejmë se ç'do të ndodhë me këtë teknologji. Ne e vendosim se si do të përfundojë krejt kjo.

Faleminderit.

(Duartrokitje)