Damon Horowitz žádá "morální operační systém"

Moc. To je to slovo, které se nám vybaví. My jsme noví technologové. Máme spoustu dat, takže máme velkou moc. Jak velkou moc máme? Scéna z filmu: "Apokalypsa" -- super film. Musíme dostat našeho hrdinu, kapitána Willarda, k ústí řeky Nung, aby mohl pronásledovat plukovníka Kurtze. Uděláme to tak, že tam s ním doletíme a vysadíme ho tam. Takže ta scéna: obloha je plná helikoptér, které nesou kapitána Willarda. A na pozadí hraje ta hlasitá, vzrušující hudba. tahle nespoutaná hudba. ♫ Tam ta da ta tam ♫ ♫ Tam ta da ta tam ♫ ♫ Ta da ta tá ♫ To je velká moc. To je ten druh moci, který cítím v téhle místnosti. To je ten druh moci, který máme, kvůli datům, které máme k dispozici.

Nějaký příklad. Co můžeme udělat s údaji jediného člověka? Co můžeme udělat s údaji o tom člověku? Můžu se podívat na jeho finanční záznamy. Můžu říct, jestli platí na čas svoje složenky. Vím, jestli je dost spolehlivý, abych mu dal půjčku. Můžu se podívat na jeho zdravotní záznamy, jestli mu ještě pumpuje pumpa... podívat se, jestli ho mám pojistit. Můžu se podívat, kde kliká na monitoru. Když přijde na mou stránku, já vlastně už dopředu vím, co bude dělat, protože jsem ho už viděl na miliónech jiných stránek. A, nerad to říkám, on je jako hráč pokeru, má zvláštní tik, který ho odhalí. S pomocí datové analýzy dokážu říct, co bude dělat před tím, než to udělá. Vím, co má rád. Vím, kdo je. A to dokonce před tím, než se podívám na jeho mail nebo telefon.

To je ten druh věcí, co můžeme dělat s daty, která máme. Ale já tu nejsem kvůli tomu, abych mluvil o tom, co můžeme dělat. Jsem tu kvůli tomu, abych mluvil o tom, co bychom měli dělat. Co bychom měli dělat?

Teď vidím nějaké zmatené obličeje, které říkají: "Proč se nás ptáš, co bychom měli dělat? My to jenom vyvíjíme. Používá to někdo jiný." Dobře. Ale přenáší mě to zpátky. Přemýšlím o druhé světové válce. Někteří výborní technologové, někteří naši nejlepší fyzikové studovali jadernou fúzi a štěpnou reakci. Jenom jaderné věci. Shromáždili jsme ty fyziky v Los Alamos, abychom zjistili, co vyrobí. Chceme po lidech, kteří vytváří technologie, aby přemýšleli o tom, co bychom s nimi měli dělat.

Tak co bychom měli dělat s daty toho člověka? Měli bychom je shromažďovat, schraňovat, abychom zlepšili jeho online prostředí? Takže můžeme vydělat peníze? Můžeme ochraňovat sami sebe, pokud by neměl dobré úmysly? Nebo bychom měli respektovat jeho soukromí, ochraňovat jeho důstojnost a nechat ho napokoji? Co bychom měli dělat? A jak bychom měli přijít na to, co dělat?

Vím: podle davu. Zjistíme to v davu. Takže něco na zahřátí, začneme s jednoduchou otázkou, něco o čem si jsem jistý, že na to tady každý bude mít názor: iPhone nebo Android. Ruce nahoru pro iPhone. Oh ho. Android. Člověk by si myslel, že taková parta chytrých lidí nebudou blázni jen kvůli hezkým telefonům. (Smích) Další otázka, trošku těžší. Měli bychom shromažďovat data toho člověka, abychom mu zlepšili jeho online prostředí a ochraňovali sami sebe, pokud by měl špatné úmysly? Nebo bychom ho měli nechat napokoji? Shromažďovat data. Nechat ho napokoji. Je v bezpečí, je to v pohodě. (Smích) Dobrá, poslední otázka, těžší, když zkoušíme zjistit, co bychom měli dělat v tomhle případu, měli bychom použít Kantův deontologický morální rámec, nebo bychom měli použít Millův konsekvenciální? Kant. Mill. Docela málo hlasů. (Smích) Jo, to je strašný výsledek. Strašidelný, protože máme vyhraněnější názory na naše smartphony než na morální rámec, který bychom měli používat při rozhodování.

Jak máme vědět, co dělat se vší mocí, kterou máme, pokud nemáme morální rámec? Víme víc o mobilních operačních systémech, ale opravdu bychom potřebovali morální operační systém. Co je to morální operační systém? Všichni víme, co je dobré a co je špatné, že. Cítíme se dobře, pokud něco uděláme dobře, cítíme se špatně, pokud uděláme něco špatně. Naši rodiče nás učí, že se správným rozhodnutím přichází odměna a se špatným trest. Ale jak víme, co je správné a co není? A ze dne na den máme technologie, které používáme. Možná následujeme nějaký vnitřní instinkt. Možná hlasujeme. Nebo se na to vykašlem, zeptáme se právního oddělení, co si o tom myslí. Jinak řečeno, je to takové náhodné, trochu ad hoc, jak přicházíme na to, co bychom měli dělat. A možná, pokud bychom chtěli stát oběma nohama na zemi, to co opravdu chceme je morální rámec, který nás bude vést, který nám řekne, které věci jsou správné a které špatné a co bychom měli v dané situaci dělat.

Sežeňme si tedy morální rámec. Jsme číslíčkáři, žijeme čísly. Jak můžeme použít čísla jako základ pro náš morální rámec? Znám člověka, který přesně toto udělal. Výbornej chlap, už je 2500 let mrtvý. Platón, je to tak. Znáte ho? Starý filozof? Vy jste při těch hodinách spali. A Platón měl s námi hodně společných problémů. Přemýšlel o správných a špatných věcech. Chtěl vědět, co je spravedlivé. Ale bál se, že jediné, co děláme je, že si vyměňujeme názory. On říká, že něco je spravedlivé, ona říká, že něco jiného je spravedlivé. Oba jsou docela přesvědčiví, když mluví. Jde to od desíti k pěti, nikam se nedostáváme. Nechci názory, chci poznání. Chci znát pravdu o spravedlnosti, tak jako máme pravdy v matematice. V matematice máme objektivní fakta. Vezměte si číslo, jakékoliv číslo, třeba dvojku. Je to moje oblíbené číslo, miluju ho. Máme pravdivé výroky o dvojce. Pokud máte dva něčeho a přidáte další dva, máte čtyři. Je to pravda vždycky, nehledě na to o čem mluvíte. Je to objektivní pravda o dvojce, o abstraktní formě. Pokud máte dva čehokoliv: dvě oči, dvě uši, dva nosy, dva výčnělky, ty všechny na sebe berou formu dvou. O všech platí pravdy, které platí o dvojce. Všechny mají v sobě vlastnosti dvojky. A proto to není věc názoru.

Co kdyby, myslel si Platón, byla etika jako matematika? Co kdybychom měli čistou formu spravedlnosti? Co když existují pravdy o spravedlnosti, kdy bychom se mohli jenom rozhlédnout po světě a zjistit, kterých věcí jsou součástí, které na sebe berou podobu té formy spravedlnosti? Potom bychom věděli, co je opravdu spravedlivé a co není. Nebyla by to jenom záležitost názoru nebo pohledu. To je ohromující představa. Vezměte si to. Tak vznešená, tak ambiciózní. Tak ambiciózní, jako jsme my sami. On chce přijít na kloub etice. Chce objektivní pravdy. Pokud uvažujete tímto způsobem, máte Platónský morální rámec.

Pokud tak neuvažujete, tak máte spousty přátel v historii západní filozofie, protože tu krásnou myšlenku lidé kritizovali. Hlavně Aristoteles z ní nebyl moc nadšený. Připadala mu nepraktická. Řekl: "V každé disciplíně bychom měli hledat jen tolik přesnosti, kolik nám disciplína dovoluje." Aristoteles si nemyslel, že etika je podobná matice. Věřil, že etika je záležitost rozhodování se tady a teď, používání našeho nejlepšího úsudku, abychom našli správnou cestu. Pokud tomu věříte, tak Platón není váš člověk. Ale nevzdávejte to. Možná je tu i jiná cesta, ve které bychom mohli použít čísla jako základ našeho morálního rámce.

Co třeba tohle. Co kdybychom mohli v každé situaci počítat, podívat se na možnosti, a změřit, která je lepší a co dělat? Zní to povědomě? Je to utilitární morální rámec. Velkým obhájcem tohohle přístupu byl John Stuart Mill, dobrej chlap, mimochodem, a je mrtvej jen 200 let. Takže základ utilitarismu, určitě to znáte. Ti tři, kteří předtím hlasovali pro Milla, to určitě znají. Ale funguje to asi takhle. Co kdyby morálka, něco co moralizuje věc, byla jenom otázka maximalizace požitku a minimalizace utrpení? Vytváří to něco zvláštního v jednání. Není to jako vztah k nějaké abstraktní formě. Je to jen záležitost následků. Jen se podíváme na následky a zjistíme, jestli jsou v součtu dobré nebo špatné. To by bylo jednoduché. Takže víme, co dělat.

Vezmeme si příklad. Třeba řekněme, že přijdu a řeknu: "Vezmu ti telefon." Ne jenom kvůli tomu, že ti před chvílí zvonil, ale vezmu ti ho, protože jsem si to trochu spočítal. Řekl jsem si, ten chlap vypadá podezřele. A co kdyby posílal zprávy Bin Ládinovi do úkrytu, nebo teda komukoliv, kdo to po Bin Ládinovi převzal, a je vlastně terorista v utajení. Zjistím to a až to zjistím, zabráním spoustě škod, které mohl způsobit. Předcházet škodám má velký užitek. A ve srovnání s malým utrpením, které mu tím způsobím, protože to bude trapné, až mu budu koukat do telefonu a uvidím, že má problémy s Farmvillem a vším tím okolo, to bude všechno překonáno hodnotou, která vzejde z koukání na jeho telefon. Pokud přemýšlíte takhle, tak jste utilitariáni.

Ale možná nepřemýšlíte ani takhle. Možná si říkáte, že je to jeho telefon. A je špatné vzít mu ho, protože je člověk a má svá práva a důstojnost a do toho my nesmíme zasahovat. Má autonomii. Všechny kalkulace nemají význam. Jsou věci, které jsou z podstaty špatné, třeba lhaní nebo mučení nevinného dítěte. Kant to říká jasně a taky trochu líp, než to řeknu já. Řekl, že bychom měli používat svůj rozum, abychom zjistili, podle jakých pravidel se máme chovat. A potom je naší povinností se podle těchto pravidel řídit. Není to záležitost počtů.

Takže přestaňme. A teď jsme v tom až po uši, v té filozofické kaši. A takhle to jde po tisíce let, protože to jsou těžké otázky a já mám jen patnáct minut. Takže pojďme k věci. Jak bychom se měli rozhodovat? Je to Platón, Aristoteles, Kant nebo Mill? Co bychom měli dělat? Jaká je odpověď? Jaký je vzorec, který můžeme použít pokaždé, když budeme chtít zjistit, co dělat, jestli bychom měli používat data toho člověka? Jaký je ten vzorec? Žádný není. Není žádná jednoduchá odpověď.

Etika je těžká. Etika vyžaduje přemýšlení. A to není příjemné. Znám to, strávil jsem velkou část své kariéry umělou inteligencí, zkoušel jsem postavit stroje, které budou moci vymyslet tyhle věci za nás, které nám dají odpovědi. Ale oni nemůžou. Nemůžete vzít lidské přemýšlení a vložit ho do stroje. Musíme to udělat my sami. Naštěstí nejsme stroje a můžeme to udělat. Nejenom že umíme přemýšlet, my musíme. Hannah Arendtová řekla: "Smutná pravda je, že nejvíce zla v tomto světě není způsobeno lidmi, kteří se rozhodnou být zlí. Nejvíc ho vzniká z nepřemýšlení." To je to, čemu říkala "banalita zla." A odpověď na to je, že budeme požadovat přemýšlení od každého normálního člověka.

Udělejme to tedy. Přemýšlejme. Vlastně můžeme začít hned teď. Každý v téhle místnosti, vzpomeňte si, kdy naposled jste museli udělat rozhodnutí, kdy jste měli strach, že neuděláte dobře, kdy jste si říkali: "Co bych měl udělat?" Vzpomeňte si na to. A teď přemýšlejte a řekněte "Jak jsem přišel na to, co mám udělat? Co jsem udělal? Jednal jsem instinktivně? Nechal jsem o tom hlasovat? Nebo jsem se na to vykašlal a zavolal na právní?" Anebo teď máme několik dalších možností. "Vymyslel jsem, co vytvoří největší potěšení, jako by to udělal Mill? Nebo jako Kant, použil jsem rozum, abych přišel na to, co je správné?" Přemýšlejte o tom. Opravdu vzpomínejte. Je to důležité. Je to tak důležité, že strávíme 30 sekund našeho TED času nicneděláním a přemýšlením. Jste připravení? Jdem na to!

Konec. Dobrá práce! To co jste právě udělali, je první krok k tomu, abychom přijali zodpovědnost za to, co bychom měli dělat ze všech sil.

Jako další krok vyzkoušíme tohle. Jděte a najděte známého a vysvětlete mu, jak jste k tomu rozhodnutí došli. Ne teď. Počkejte až domluvím. Udělejte to třeba při obědě. A najděte někoho jiného než dalšího technologa, najděte někoho, kdo je jiný než vy. Najděte umělce nebo spisovatele nebo, možná radši ne, najděte filozofa a mluvte s ním. Vlastně najděte někoho, kdo studuje humanitní vědy. Proč? Protože oni o problémech přemýšlejí jinak než my technologové. Před několika dny, přímo přes ulici, se shromáždily stovky lidí. Byli to technologové a lidé, kteří studují humanitní vědy, kteří přišli na BiblioTech Conference. A sešli se tam, protože technologové chtěli zjistit, jaké by to bylo přemýšlet z perspektivy humanitních věd. Máte třeba někoho z Googlu, kdo mluví s někým zaobírajícím se komparativní literaturou. Přemýšlíte o významu francouzského divadla sedmnáctého století a co má společného s rizikovým kapitálem? Hmm, to je zajímavé. To je jiný způsob myšlení. A když takhle začnete přemýšlet, začnete být citlivější na lidská kritéria, která jsou zásadní v etickém rozhodování.

Tak si to teď představme, šli jste a našli jste nějakého muzikanta. A říkáte mu, o čem jsme tady mluvili, o té datové revoluci a tak, možná i pár taktů naší úvodní hudby. ♫ Tam ta da da tam tam ta da da tam ♫ Muzikant vás zastaví a řekne: "Víš, že ta vaše úvodní hudba k té datové revoluci, to je opera, to je Wagner. Je založená na norské legendě. Jsou tam bohové a mytická stvoření, kteří bojují o magický prsten." To je zajímavé. Takže teď je to i krásná opera. A jsme dojatí z té opery. Jsme dojatí, protože je to o boji mezi dobrem a zlem, o správném a špatném. A nás zajímá, co je dobře a co špatně. Nás zajímá, co se stane v té opeře. Zajímá nás, co se stane v "Apokalypse." A zcela jistě nás zajímá, co se stane s našimi technologiemi.

Máme dnes tolik moci, že je na nás, abychom přišli na to, co dělat. A to je dobrá zpráva. My jsme ti, kteří píší tuhle operu. Tohle je náš film. My přijdeme na to, co se má stát s touhle technologií. My určíme, jak to skončí!

Děkuji.

(Potlesk)