Damon Horowitz fordert ein "moralisches Betriebssystem"

Macht. Das ist das Wort, das einem in den Sinn kommt. Wir sind die neuen Technologen. Wir haben viele Daten, also haben wir viel Macht. Wieviel Macht haben wir? Eine Szene aus dem Film "Apocalypse Now" – toller Film. Wir müssen unseren Helden, Captain Willard, zur Mündung des Nung River kriegen, damit er Colonel Kurtz verfolgen kann. Wir werden das tun, indem wir ihn hinfliegen und abwerfen. Also, die Szene: am Himmel die Helikopterflotte, die ihn hinbringt. Und da ist diese laute, mitreissende Musik im Hintergrund, diese wilde Musik. ♫ Dum da ta da dum ♫ ♫ Dum da ta da dum ♫ ♫ Da ta da da ♫ Das ist viel Macht. Das ist die Art von Macht, die ich in diesem Raum spüre. Es ist die Art von Macht, die wir haben infolge all der Daten, die wir haben.

Lassen Sie uns ein Beispiel anschauen. Was können wir mit den Daten einer einzelnen Person machen? Was können wir mit den Daten dieses Mannes hier tun? Ich kann mir Ihre Finanzbelege ansehen. Ich kann sagen, ob Sie Ihre Rechnungen pünktlich bezahlen. Ich weiss, ob man Ihnen ein Darlehen geben sollte. Ich kann Ihre medizinische Akte einsehen, ob Ihre Pumpe noch pumpt –  sehen, ob wir Sie versichern sollten. Ich kann mir Ihre Klickmuster ansehen. Wenn Sie meine Website besuchen, dann weiss ich schon, was Sie tun werden, weil ich Sie zuvor Millionen von Websites habe besuchen sehen. Und es tut mir Leid, Ihnen zu sagen, Sie sind wie ein Pokerspieler, Sie haben sich verraten. Anhand der Datenanalyse kann ich sagen, was Sie tun werden, bevor Sie es überhaupt tun. Ich weiss, was Sie mögen. Ich weiss, wer Sie sind. Sogar noch bevor ich Ihre Post ansehe oder Ihr Telefon.

All diese Dinge können wir tun mit den Daten, die wir haben. Aber ich bin nicht wirklich hier, um darüber zu sprechen, was wir tun können. Ich bin hier, um darüber zu sprechen, was wir tun sollten. Was ist das Richtige?

Ich sehe einige verwirrte Blicke, wie, "Wieso fragen Sie uns, was das Richtige zu tun ist Wir bauen diese Dinge ja nur, jemand anders benutzt es." Schön und gut. Aber das bringt mich zurück zu vorhin. Ich denke an den zweiten Weltkriegt –  einige unserer grossen Technologen damals, einige unserer grossartigen Physiker, die Kernspaltung und -fusion untersuchten –  nukleares Zeug halt. Wir versammeln diese Physiker in Los Alamos, um zu sehen, was sie bauen. Wir wollen, dass die Menschen, welche die Technologie erschaffen, darüber nachdenken, was wir mit der Technologie tun sollten.

Was also sollten wir mit den Daten dieses Mannes tun? Sollten wir sie sammeln, so dass wir sein Online-Erlebnis besser machen können? So dass wir damit Geld verdienen können? So dass wir uns vor ihm schützen können, wenn er Übles im Schilde führte? Oder sollten wir seine Privatsphäre respektieren, seine Würde schützen und ihn in Ruhe lassen? Was ist das Richtige? Wie sollten wir das rausfinden?

Ich weiss: Crowdsourcing. Lassen Sie uns das gemeinsam klären. Um uns alle aufzuwärmen, fangen wir mit einer einfachen Frage an – etwas, wozu sicher jeder hier eine Meinung hat. iPhone gegen Android. Zeigen Sie mir Ihre Hände – iPhone. Uh huh. Android. Man würde meinen, ein Haufen kluger Leute wie wir würde nicht wie die Trottel den hübschen Handys hinterherrennen. (Gelächter) Nächste Frage, ein bisschen schwieriger. Sollten wir all die Daten dieses Mannes sammeln, um sein Erlebnis besser zu machen und uns zu schützen, falls er Schlechtes vor hat? Oder sollten wir ihn in Ruhe lassen? Seine Daten sammeln. Ihn in Ruhe lassen. Sie sind sicher, alles ist gut. (Gelächter) Ok, letzte Frage – schwierigere Frage – wenn wir versuchen herauszufinden, was wir in diesem Fall tun sollten, sollten wir einen deontologischen moralischen Massstab nach Kant anlegen oder die Konsequentialitätslogik nach Mill? Kant. Mill. Nicht so viele Stimmen. (Gelächter) Ja, das ist ein erschreckendes Resultat. Erschreckend, weil wir eine gefestigtere Meinung über unsere Smartphones haben, als über unseren moralischen Masstab, den wir als Richtlinie für unsere Entscheidungen verwenden sollten.

Woher wissen wir, was wir mit unserer Macht anfangen sollen, wenn wir keinen moralischen Masstab haben? Wir wissen mehr über mobile Betriebssysteme, aber was wir wirklich brauchen, ist ein moralisches Betriebssystem. Was ist ein moralisches Betriebssystem? Wir alle kennen richtig und falsch, nicht wahr. Man fühlt sich gut, wenn man das Richtige tut, man fühlt sich schlecht, wenn man das Falsche tut. Unsere Eltern lehren uns: das Gute loben, das Böse schelten. Aber wie finden wir heraus, was richtig und was falsch ist? Jeden Tag folgen wir bestimmten Techniken, die wir verwenden. Vielleicht folgen wir einfach unserem Bauch. Vielleicht machen wir eine Abstimmung – lassen die Menge entscheiden. Oder wir weichen aus –  fragen die Rechtsabteilung und sehen, was die sagen. In anderen Worten, es ist ziemlich zufällig, sozusagen fallweise, wie wir herausfinden, was wir tun sollten. Und vielleicht, wenn wir einen sichereren Stand haben wollen, möchten wir wirklich einen moralischen Massstab haben, der uns dahin führt, der uns erst einmal sagt, welche Dinge richtig oder falsch sind und der uns wissen lässt, was in einer bestimmten Situation zu tun ist.

Also lassen Sie uns einen moralischen Massstab finden. Wir sind Zahlenleute, wir leben nach Zahlen. Wie können wir Zahlen als Basis für unseren moralischen Masstab verwenden? Ich kenne jemanden, der genau das getan hat. Ein brillianter Typ – er ist schon seit 2500 Jahren tot. Plato, genau. Erinnern Sie sich – alter Philosoph? Sie haben in dieser Schulstunde geschlafen. Und Plato hatte oft dieselben Sorgen wie wir. Er sorgte sich um richtig und falsch. Er wollte wissen, was gerecht ist. Aber er war beunruhigt darüber, dass wir darüber nur Meinungen auszutauschen scheinen. Er sagt, etwas ist gerecht. Sie sagt, etwas anderes ist gerecht. Beide sind ziemlich überzeugend. Ich gehe hin und her, ich komme nirgends an. Ich will keine Meinungen, ich will Wissen. Ich will die Wahrheit über Gerechtigkeit wissen –  so wie wir Wahrheiten in der Mathematik haben. In der Mathematik kennen wir die objektiven Fakten. Nehmen Sie irgendeine Zahl – zwei. Lieblingszahl. Ich liebe diese Zahl. Es gibt Wahrheiten über die Zwei. Wenn man zwei von etwas hat, und man zwei dazu gibt, bekommt man vier. Das ist wahr, egal worüber man spricht. Es ist eine objektive Wahrheit über die Form der Zwei, die abstrakte Form. Wenn man zwei von irgendwas hat – zwei Augen, Ohren, Nasen, zwei Bandscheibenleiden –  all diese Dinge nehmen an der Form der Zwei teil. Sie sind ein Teil der Wahrheiten, die die Zwei hat. Sie haben alle Zwei-heit in sich. Und deshalb ist das keine Meinungsfrage.

Plato dachte also, was wäre, wenn Ethik wie Mathematik wäre? Was, wenn es eine reine Form von Gerechtigkeit gäbe? Was, wenn es Wahrheiten über Gerechtigkeit gibt und man sich einfach in der Welt umsehen könnte und sehen, welche Dinge an dieser Form von Gerechtigkeit teilhalben? Dann wüsste man, was wirklich gerecht wäre und was nicht. Es wäre dann keine Frage von Meinung oder gerechter Erscheinung. Das ist eine umwerfende Vision. Ich meine, denken Sie darüber nach. Wie grossartig, wie ehrgeizig. So ehrgeizig, wie wir sind. Er will die Ethik lösen. Er will objektive Wahrheiten. Wenn man so darüber nachdenkt, hat man einen moralischen Massstab nach Plato.

Wenn man nicht so denkt, nun, dann hat man viel Gesellschaft in der Geschichte der westlichen Philosophie, denn diese ordentliche Idee – wissen Sie, sie wurde kritisiert. Besonders Aristoteles war nicht erfreut. Er fand das sehr unpraktisch. Aristoteles sagte, "Wir sollten nur soviel Präzision in jedem Thema suchen, wie es dieses Thema erlaubt." Aristoteles fand, Ethik sei überhaupt nicht wie Mathematik. Er dachte, Ethik sei eine Frage von Entscheidungen im Hier und Jetzt, unter Verwendung unseres besten Urteilsvermögens um den richtigen Weg zu finden. Wenn Sie das denken, ist Plato nicht Ihr Mann. Aber geben Sie nicht auf. Vielleicht gibt es einen anderen Weg, wie wir Zahlen als Grundlage für unseren moralischen Massstab verwenden können.

Wie wäre es damit: Was, wenn man in jeder Situation einfach rechnen könnte, sich die Wahlmöglichkeiten ansehen, messen, welche die bessere ist und wissen, was tun? Klingt das vertraut? Das ist ein utilitaristischer moralischer Massstab. John Stuart Mill war ein grosser Verfechter davon – ein guter Mann übrigens – und erst seit 200 Jahren tot. Die Grundlage des Utilitarianismus –  ich bin sicher, damit sind Sie zumindest vertraut. Die drei Leute, die vorhin für Mill gestimmt haben, sind damit vertraut. Aber so funktioniert es. Was, wenn die Moral, das was etwas moralisch macht, nur eine Frage davon ist, ob es Vergnügen maximiert und Schmerz minimiert? Es fügt der Tat etwas intrinsisches hinzu. Es ist nicht wie ihre Beziehung zu einer abstrakten Form. Es ist eine Frage der Konsequenzen. Man sieht sich die Konsequenzen an und ob es, über alles gesehen, zum Guten oder zum Schlechten ist. Das wäre einfach. Dann wüssten wir, was zu tun ist.

Lassen Sie uns ein Beispiel machen. Nehmen wir an, ich gehe hier hoch und ich sage, "Ich nehme jetzt Ihr Telefon." Nicht, weil es vorhin geklingelt hat, ich nehme es, weil ich eine kleine Berechnung gemacht habe. Ich dachte mir, dieser Typ sieht verdächtig aus. Und was, wenn er Nachrichten an Bin Ladens Versteck geschickt hat –  oder an wen auch immer, der nach Bin Laden übernommen hat –  und er ist tatsächlich sowas wie ein Terrorist, eine Schläferzelle. Ich werde das herausfinden, und wenn ich es herausfinde, werde ich eine grosse Menge Schaden verhindern, den er anrichten könnte. Es hat einen sehr hohen Nutzen, diesen Schaden zu verhindern. Und verglichen mit dem kleinen Schmerz, den es verursachen wird –  denn es wird unangenehm sein, wenn ich mir sein Telefon ansehe und sehe dass er ein Farmville-Problem und all das hat –  das wird überstrahlt vom Wert, sich das Telefon anzusehen. Wenn Sie so fühlen, ist das eine utiliaristische Wahl.

Aber vielleicht fühlen Sie auch nicht so. Vielleicht denken Sie, es ist sein Telefon. Es ist falsch, sein Telefon zu nehmen, denn er ist eine Person und er hat Rechte und seine Würde, und wir können das nicht einfach beeinträchtigen. Er ist autonom. Es spielt keine Rolle, wie die Berechnungen sind. Es gibt Dinge, die intrinsisch falsch sind –  wie es falsch ist, zu lügen oder unschuldige Kinder zu quälen. Kant war in diesem Punkt sehr gut, und er sagte es ein bisschen besser, als ich es sagen werde. Er sagte, wir sollten unsere Vernunft benutzen, um die Regeln herauszufinden, die unser Verhalten bestimmen. Und dann ist es unsere Pflicht, diesen Regeln zu folgen. Es ist keine Frage von Berechnung.

Also lassen Sie uns aufhören. Wir sind mitten drin in diesem philosophischen Gewühl. Und das geht schon seit Tausenden von Jahren so, denn das sind schwierige Fragen und ich habe nur 15 Minuten. Also lassen Sie uns auf den Punkt kommen. Wie sollten wir unsere Entscheidungen treffen? ist es Plato, Aristoteles, Kant oder Mill? Was sollten wir tun? Was ist die Antwort? Was ist die Formel, die wir in jeder Situation benutzen können, um festzulegen, was wir tun sollten, ob wir die Daten dieses Mannes verwenden sollten oder nicht? Was ist die Formel' Es gibt keine Formel. Es gibt keine einfache Antwort.

Ethik ist schwierig. Ethik verlangt Denkarbeit. Und das ist unbequem. Ich weiss, ich habe einen grossen Teil meiner Karriere damit verbracht, mich mit künstlicher Intelligenz zu beschäftigen, zu versuchen, Maschinen zu bauen, die etwas von dieser Arbeit für uns tun könnten, die uns Antworten geben könnten. Aber sie können es nicht. Man kann nicht einfach menschliches Denken nehmen, und es in eine Maschine stecken. Wir sind diejenigen, die es tun müssen. Glücklicherweise sind wir keine Maschinen. Wir können nicht nur denken, wir müssen. Hannah Arendt sagte, "Die traurige Wahrheit ist, dass das meiste Böse, was auf dieser Welt getan wird, nicht von Menschen getan wird, die sich dazu entscheiden, schlecht zu sein. Es kommt dadurch, dass sie nicht nachdenken." Das ist es, was wir die "Banalität des Bösen" nennen. Und die Antwort darauf ist, dass wir Übung im Denken verlangen von jeder normalen Person.

Also lassen Sie uns das tun. Lassen Sie uns nachdenken. Lassen Sie uns jetzt gleich damit anfange. Jede Person in diesem Raum tut das folgende: denken Sie an das letzte Mal, als Sie eine Entscheidung treffen mussten und sich darum sorgten, das Richtige zu tun, wo Sie sich gefragt haben, "Was sollte ich tun?" Rufen Sie sich das in Erinnerung. Und jetzt reflektieren Sie das und sagen sich, "Wie kam ich zu meiner Entscheidung?" Was habe ich getan? Habe ich auf meinen Bauch gehört? Habe ich jemanden abstimmen lassen? Oder habe ich es auf den Rechtsdienst abgeschoben? Jetzt haben wir noch einige Möglichkeiten mehr. "Habe ich untersucht, was das meiste Vergnügen zur Folge hat, wie Mill es tun würde? Oder habe ich wie Kant meine Vernunft benutzt, um herauszufinden, was intrinsisch richtig ist?" Denken Sie darüber nach. Rufen Sie es sich richtig in Erinnerung. Das ist wichtig. Es ist so wichtig, dass wir 30 Sekunden wertvoller TEDTalk-Zeit darauf verwenden werden, nichts anderes zu tun, als darüber nachzudenken. Sind Sie bereit? Los.

Stopp. Gute Arbeit. Was Sie gerade getan haben, ist der erste Schritt dazu, Verantwortung dafür zu übernehmen, was wir mit all unserer Macht tun sollten.

Jetzt der nächste Schritt – versuchen Sie das. Gehen Sie zu einem Freund und erklären Sie ihm, wie Sie diese Entscheidung gefällt haben. Nicht jetzt. Warten Sie, bis ich fertig gesprochen habe. Tun Sie es in der Mittagspause. Und finden Sie nicht einfach einen anderen Freund aus der Technologie, finden Sie jemanden, der anders ist als Sie. Finden Sie einen Künstler oder einen Autoren –  oder, Gott bewahre, finden Sie einen Philosophen und sprechen Sie mit ihm. Tatsächlich sollten Sie einen Geisteswissenschaftler finden. Warum? Weil sie anders über Probleme nachdenken, als wir das als Technologen tun. Vor einigen Tagen waren hier auf der anderen Strassenseite Hunderte von Menschen versammelt. Es gab Technologen und Geisteswissenschaftler an dieser grossen BiblioTech Konferenz. Sie kamen zusammen, weil die Technologen lernen wollten, wie es wäre, aus einer geisteswissenschaftlichen Perspektive zu denken. Da hat man dann jemanden von Google, im Gespräch mit jemandem der Literaturvergleiche macht. Man denkt über die Relevant des Französischen Theaters im 17. Jahrhundert nach –  wie kommt das gegen Venture Kapital an? Das ist interessant. Das ist eine andere Art zu denken. Wenn man auf diese Weise nachdenkt, wird man sensibler für menschliche Überlegungen, die entscheidend für ethische Entscheidungen sind.

Stellen Sie sich vor, dass Sie genau jetzt losgegangen sind und Ihren Musikerfreund getroffen haben. Sie erzählen ihm, worüber wir hier sprechen, über unsere ganze Datenrevolution und all das –  vielleicht summen Sie sogar ein paar Takte unserer Titelmusik. ♫ Dum ta da da dum dum ta da da dum ♫ Ihr Musikerfreund wird Sie stoppen und sagen, "Weisst Du, diese Titelmusik für Eure Datenrevolution, das ist eine Oper, das ist Wagner. Sie basiert auf einer nordischen Legende. Es geht um Götter und mystische Kreaturen, die um magische Juwelen kämpfen." Das ist interessant. Es ist auch eine wunderschöne Oper. Und die Oper bewegt uns. Wir sind bewegt, weil es um die Schlacht geht zwischen Gut und Böse, zwischen Richtig und Falsch. Richtig und Falsch sind wichtig für uns. Was in dieser Oper geschieht, ist wichtig für uns. Was in "Apocalypse Now" geschieht, ist wichtig für uns. Und auf jeden Fall ist es wichtig für uns, was mit unseren Technologien geschieht.

Wir haben heute soviel Macht, es liegt an uns, herauszufinden, was zu tun ist. Und das sind gute Neuigkeiten. Wir sind diejenigen, die die Oper schreiben. Das ist unser Film. WIr finden heraus, was mit dieser Technologie geschieht. Wir legen fest, wie das alles enden wird.

Dankeschön.

(Applaus)