Дамон Хоровиц призовава за една "морална операционна система"

Власт. Тази дума ми идва на ум. Ние сме новите технолози. Притежаваме много данни, тоест имаме много власт. Колко власт имаме? Сцена от филма "Апокалипсис сега" - прекрасен филм. Ние трябва да закараме нашия герой, капитан Уилард, до устието на реката Нунг, така че той да може да убеди полковник Курц. Начинът, по който ще направим това е да го превозим със самолет и да го катапултираме на правилното място. Сцената изглежда така: небето е пълно с рояк хеликоптери, които го превозват. Тази силна, възбуждаща музика се чува на заден план, дива музика. Дъм да та дъм Дъм да та дъм Да та да да. Този момент е зареден с много сила. Това е този вид сила, който чувствам в тази стая. Това е този вид сила, който притежаваме, заради всичките данни, с които разполагаме.

Нека вземем следния пример. Какво можем да направим с данните само на един човек? Какво можем да направим с данните на този тип? Аз мога да погледна в банковите ви записи. Мога да ви кажа дали си плащате сметките навреме. Ще знам дали сте достатъчно надежден, за да ви се даде заем. Мога да погледна здравното ви състояние, и да разбера дали сърцето ви все още работи, така ще разбера дали мога да ви дам здравна застраховка. Мога да погледна какви страници сте посещавали. И когато дойдете на моята уеб страница, вече ще мога да кажа какво ще направите там, защото знам, че сте посетили преди това милиони други страници. Съжалявам, че трябва да ви го кажа, но вие сте като комарджия - имате опашка. Мога да ви кажа чрез анализа на данни какво ще направите, преди дори да го направите. Знам какво харесвате. Знам кой сте. И това дори преди да погледна електронната поща или телефона ви.

Това са онези неща, които можем да направим с данните, които притежаваме. Но аз всъщност не съм тук, за да говоря за нещата, които можем да направим. Аз съм тук, за да говоря за нещата, които трябва да направим. Кои са правилните неща, които трябва да направим.

Тук виждам няколко объркани погледа. "Защо ни питаш какво е правилно да се направи" Ние само програмираме нещата. Някой друг ги използва. Това е така. Но това ме връща назад във времето. Мисля си за Втората Световна Война - някои от нашите велики технологии по онова време, някои от великите ни физици, изучаващи разделянето и сливането на ядрата - чисти ядрени въпроси. Ние събираме тези физици в Лос Аламос, за да видим какво ще построят. Ние искаме хората, които изобретяват технологиите да мислят какво ние трябва да направим с тях.

И така какво трябва да направим със събраната информация за този човек? Трябва ли да ги събираме, така че да направим онлайн изживяването му по-добро? За да печелим пари? За да се предпазим от него, ако той има задни мисли? Или трябва да респектираме личната му сфера, да пазим достойнството му и просто да го оставим на мира? Кой е верният отговор? Как можем да го познаем?

Аз го знам: колективното решение. Нека да потърсим едно колективно решение. И така, за да загреем, нека започнем с един лесен въпрос - нещо, на което съм сигурен, че всеки тук знае отговора: iPhone срещу Android. Нека тези, които имат iPhone да вдигнат ръце. Уху. Android. Вие си мислите, че с няколко смарт телефона ще престанем да бъдем такива загубеняци. (Смях в залата) Следващият въпрос, малко по-труден от предния. Трябва ли да събираме информация за този човек, за да подобрим усещането му в интернет и да се предпазим от него в случай, че е намислил нещо лошо? Или да го оставим на мира? Да събираме данните му? Да го оставим на мира? Добре. Вие сте на на правилната страна. (Смях в залата) ОК. Последен въпрос - по-труден въпрос - когато се оптваме да преценим какъв метод трябва да използваме в този случай, деонтоложката морална рамка на Кант или трябва да използваме подхода на Мил базиращ се на ползата от последствията? Кант. Мил. Хм, няма много гласуващи. (Смях в залата) Да, това е един ужасяващ резултат. Ужасяващ, защото ние имаме по-силно изразено мнение за нашите телефони, отколкото за моралните рамки, които трябва да ни ръководят във взимането на решения.

Окъде да знаем как си служим с властта, която имаме, ако нямаме морални рамки? Ние знаем повече за мибилните операционни системи, но това, от което имаме наистина нужда са морални операционни системи. Какво е морална операционна система? Ние всички знаем какво е правилно и какво е грешно. Чувствате се добре, когато направите нещо правилно, чувствате се зле, когато извършите нещо лошо. Научили сме го от нашите родители: похвала за доброто дело, смъмряне за лошото. Но как разбираме кое е добро и кое е лошо? И така от ден на ден, ние добиваме техниките, които използват за тези решения. Може би, понякога просто следваме шестото си чувство. Може би понякога гласуваме взимайки решението на тълпата. Или просто залагаме - и питаме какво мисли правния отдел по този въпрос. С други думи ние следваме някакъв хаотичен, спонтанен път, когато взимаме решения как да действаме. И може би, ако искаме да сме на правилната страна, това от което имаме нужда е морална рамка, която да ни отведе там, която ще ни каже кои неща са правилни и кои грешни и ще ни покаже как да действаме в дадена ситуация.

И така нека си създадем тази морална рамка. Ние сме група хора, живееща чрез числа. Как можем да използваме числата като база за нашата морална рамка? Познавам едно момче, което правеше точно това, брилянтен тип - мъртъв е вече 2.500 години. Правилно - Платон. Помните ли го - стар философ? Сигурно сте спали по време на този урок. И така Платон е имал много от същите грижи, които ние имаме днес. Той си е задавал въпроса кое е праилно и кое грешно. Искал е да знае какво е справедливо. Но той се е притеснявал, че това с което се занимаваме ние е да се чудим кое е правилно и кое не. Той твърди, че нещо е вярно. Тя твърди, че нещо друго е вярно. Звучи убедително когато и двамата си излагат аргументите. Аз просто се лутам от тема на тема, но не стигам до никакъв отговор. Не искам опции, искам знания. Искам да знам истината за справедловостта, по същия начин, по който имаме истина за правото. В математиката ние знаем обективните факти. Вземете едно число - например две. Любимото ми число. Има няколко факта за две. Ако вземеш две от нещо и добавиш още две, ще получиш четири. Това е вярно независимо за какво говориш. Съществува обективна истина за формата на две., за абстрактната форма. Когато имаш две от нещо - две очи, две уши, два носа, просто две преднини - това всичко е форма на две. Те всички отговарят на истината, която се съдържа в две. Те всички имат нещо от две в себе си. И затова не е въпрос на гледна точка.

Какво ако Платон твърдеше, че етиката е като математиката. Какво ако има чиста форма на справедливостта. Какво ако има истина за справедливостта и ти просто можеш да се огледаш по света и да видиш кой участва и има дял в тази форма на справедливост? Тогава ще знаеш какво е било наистина справедливо и какво не. Нямаше да е въпрос на мнение или външен вид. Това е крещяща гледна точка. Помислете върху това. Колко е грандиозно, колко амбициозно. Това е толкова амбициозно, колкото сме самите ние. Той иска да реши етиката. Иска обективна истина. Ако мислите по този начин, добивате моралната рамка на Платон.

Ако не мислите по този начин, добре тогава ще намерите компания в западната философия, защото както знаете хората критикуват подредените идеи. Например Аристотел не е намирал тази идея забавна. Смятал я е за непрактична. Аристотел е казал: " Ние търсим толкова прецизност във всеки обект, колкото този обект позволява." Аристотел е на мнение, че етиката не е като математиката. Той смята, че етиката е въпрос на взимане на решения тук и сега, служейки си с най-добрата преценка, която можем да направим, за да намерим правилния път. Ако мислите по този начин, Платон не е вашия философ. Но не се предавайте. Може би има и друг начин, да използваме числата като база на нашата морална рамка.

Какво ще кажете за това: Какво ако можете да пресметнете всяка ситуация, прегледайте изборите, изчислявате кой е по-добър и така знаете как да постъпите? Звучи ви познато? Това е моралната рамка на утилитарното учение. Джон Стюарт Мил е голям поддръжник на това учение - между другото много свястно момче - и е умрял само преди 200 години. И така базата на утилитаризма - сигурен съм, че имате обща представа. Тримата, които преди това гласуваха за Мил познават учението. Но сега ще ви кажа как работи. Какво ако моралът, какво ако това, което прави нещата морални е просто функция на това да максимализира удоволствието и минимализира болката? Той действа по някакъв вроден начин. Това не е отношението към някаква абстрактна форма. Това е просто въпрос на следствие. Вие поглеждате последствията и преценявате дали са добри или лоши. Това би било лесно. Така знаем какво да направим.

Нека да ви дам пример. Нека предположим, че аз ще се кача горе и кажа " Аз ще ви взема телефона". Не защото е позвънял по-рано, а защото направих малка калкулация. Реших, че този човек ми изглежда подозрително. И какво ако той изпраща смс-и към скривалището на Бин Ладен - или който заема мястото на Бин Ладен - и действа като спяща клетка на терористи. Аз ще разкрия това и разкривайки го, ще предотвратя огромен брой вреди, които той може да нанесе. Така съществува голяма полза да се предотврати таза вреда. Особено като сравните с малката болка, която ще бъде причинена - защото ще бъде глупаво, ако му погледна телефона и видя, че има проблем с Farmville и това засенчва целия проблем, гледайки телефона му. Ако се чувствате по такъв начин, това е утилитарен избор.

Но може би не се чувствате по такъв начин. Може би смятате, че това е неговия телефон. Смятате, че е погрешно да му вземете телефона, защото е лична вещ и той като човек има права и достойнство и ние не можем просто така да си играем с тях. И той има право на личен избор. Няма значение какви ще бъдат последствията. Има неща, които по природа са грешни - например да се лъже е грешно, измъчването на невинни деца е грешно. Кант беше много прав в това отношение и той го е казал малко по-добре от начина по който аз ще го кажа. Казал е, че ние трябва да използваме разума си, за да установим правилата, по които трябва да се ръководим. И тогава е наше задължение да следваме тези правила. Не е въпрос на пресмятане.

Така че нека спрем. Ние имаме право в неговата сила , този философска дебелина. И това продължава хиляди години, защото това са сложни философски въпроси, а аз имам само 15 минути. Така че нека сложим чертата. Как трябва да взимаме нашите решения? Кой трябва да ни служи за пример - Платон, Аристотел, Кант, Мил? Как да постъпваме? Какъв е отговорът? Каква формула да използваме в една ситуация, за да решим какво е правилно, дали да използваме данните на тези хора или не? Каква е формулата? Тук няма формула. Няма еднозначен отговор.

Етиката е сложно нещо. Етиката изисква мислене. И това я прави неудобна. Прекарах голяма част от кариерата си в областта на изкуствения интелект, опитвайки се да направя машини, които ще мислят вместо нас, машини, които могат да отоговарят на въпросите ни. Но те не могат. Не можеш просто да вземеш човешкото мислене и да го сложиш в една машина. Ние сме тези, които трябва да правят това. За щастие ние не сме машини и можем да го направим. Не само че можем да мислим, ние дори трябва да мислим. Хана Аренд казва: "Тъжната истина е, че повечето злини на този свят не са направена от хора, които са избрали да бъдат зли. Злото се е получило просто, защото тези хора са избрали да не мислят." Това тя нарича "баналността на злото". В отговор на това ние трябва да изискваме от всеки нормален човек да може да мисли.

Така че нека го правим. Нека да мислим. Всъщност нека започнем още сега. Нека всеки в тази зала да направи следното: помислете си за последния път, в който е трябвало да вземете някакво решение, когато сте се притеснявали дали ще вземете правилното решение, когато сте се питали: "Какво да направя?". Припомнете си този момент. И сега рефлектирайте върху този момент и си задайте въпроса: " Как стигнах до това решение?" Какво направих? Последвах ли шестото си чувство? Имше ли някой, който да ме посъветва? Или заложих на сигурно?" Или тук имаме още няколко варианта. " Прецених ли какво би ми донесло най-голямо удоволствие, както би направил Мил? Или като Кант използвах разума си, за да разбера какво е правилно по природа. Помислете върху това. Обмислете го внимателно. Това е важно. Толкова е важно, че сега ще прекараме 30 секунди от ценното TEDTalk време, без да правим нищо друго освен да мислим. Готови ли сте? Старт.

Стоп. Добре свършена работа. Това, което направихте току що е първата стъпка към това да поемате отговорност за това, което правим с нашата енергия.

Следващата стъпка е тази. Намерете приятел и му обяснете как взехте това решение. Не точно сега. Изчакайте да приключа с лекцията. Направете го по време на обяд. И нека това не бъде някой ваш колега; намерете някой различен от вас. Намерете човек на изкуството или писател, или за бога намерете философ и говорете с него. Всъщност намерете някой с хуманитарен профил Защо? Защото те разглеждат проблемите по различен начин от хората, които се занимават с технологии. Само преди няколко дни, точно от другата страна на улицата се бяха събрали стотици хора. Това бяха хора с технически и хуманитарен профил. Бяха се събрали на онази голяма BiblioTech конференция. Бяха се събрали, защото хората от техническите специалности искаха да научат какво значи да мислиш от хуманистична перспектива. Така хора от Google говореха със специалисти по литература. Разсъждавате върху значението на френския театър през 17 век - и се питате каква връзка има той с рисковия капитал? Добре, това е интересно. Това е различен начин на мислене. И когато разсъждавате по този начин, вие сте по-чувствителен към хуманитарния начин на мислене, който е есенциален за взимането на етични решения.

Представете си, че в точно в този момент срещате приятел музикант. И му разказвате за какво говорим, за цялата техническа революция и всички тези неща, може дори да му изтананикате няколко ноти от нашата тематична музика. Дръм та да да дъм дъм та да да дъм И така вашият приятел музикант ще ви спре и ще каже, " Нали знаеш, че темата на музиката на вашата техническа революция е опера, това е Вагнер. И тя е базирана на нордическа ленгенда. Това са Бог и митичните същества борещи се за магическите скъпоценности." Това е интересно. Освен това е красива опера. И тя ни впечатлява. Впечатлява ни, защото е за борбата между доброто и злото, между това кое е правилно и кое грешно. А за нас е важно какво е правилно и какво грешно. Интересува ни какво се случва в операта. Интересува ни какво се случва в "Апокалипсис сега" И определено ни засяга какво се случва с нашите технологии.

В нашето съвремие раполагаме с толкова много власт, че е в нашите възможности да решим как да постъпим. И това е добрата новина. Ние сме тези, които пишем тази опера. Това е нашият филм. Ние решаваме какво ще се случи с тази технология. Ние решаваме как ще свърши всичко това.

Благодаря ви

Аплодисменти.