デイモン・ホロビッツは道徳のオペレーティングシステムを提言する

「力（ちから）」 そんな言葉が頭に浮かびます 我々は新しい技術者です 多くのデータ すなわち大きな力を手にしています どれほどの力があるのでしょう 「地獄の黙示録」を思いだしてください　素晴らしい映画です 主人公のウィラード大尉は カーツ大佐を追跡するために ナン河の河口に向かわねばなりません そこで空路で運んで彼を降下させる そんな場面です 彼を乗せたヘリコプター軍団が空いっぱいに広がり スリリングな音楽が大きく響きます この力強い音楽です ♫ダンダラダーダン ダンダラダーダン ダダラダー♫ 凄まじい力です ここでもその種の力を感じます 私たちの手に入れたデータに由来する力は この種の力です

例を示します ある一人の個人データから 何ができるでしょうか たとえば 彼のデータでは？ 財務記録を見て 支払いに遅れがないかを調べ お金を貸し付けて大丈夫とわかります 医療記録を調べて 心臓に問題がなければ 保険を勧めて良いことがわかります クリックの癖も調べられます 私のウェブサイトに来たときには どう振る舞うかお見通しです これまでの無数のサイト訪問を見ているからです 申し訳ないですが 手の内を見透かされたポーカープレイヤーは 何かする前から やろうとしていることを 見抜かれています あなたが好きなものも あなたが何者かも メールや電話を見なくたって わかるのです

我々が集めているデータで こんなことができるのです でも今日は 何ができるかでなく 何をすべきかについて 話します 「正しい行い」とは何か？

戸惑った顔の方もいます 「何が正しい行動か？なんてどうして聞くんだ 僕らは何かを作る それを使うのは他の人だ」 いいでしょう では昔を振り返って 第二次世界大戦のことを考えましょう 当時の偉大な技術者と 偉大な物理学者で 核分裂や核融合などの 原子核物理を研究していた人たちが ロス・アラモスに集まって 何を作ったのでしょう 技術を作っている人たちには 技術をどう使うべきか考えて欲しいのです

つまり あの人のデータをどう扱うべきでしょうか データを集めて蓄積し より良いオンライン生活を 提供するために役立てますか？ お金を稼ぐために使いますか？ もしも彼が問題人物だったときに 自分たちを守るために使いますか？ あるいは 彼のプライバシーを尊重して 彼の尊厳を守り そっとしておきますか どちらにしましょうか どうやって決めましょうか

そうだ クラウドソースです まず手始めに 簡単な質問から始めます これは 誰もが自分の考えを持っているはずです iPhone とアンドロイドです 手を挙げてください -- iPhone ふむふむ アンドロイド こんなに賢い人たちの集まりに 電話のことだけ聞いたらマズイですよね (笑) 次の質問は 少し手応えがあります 彼のデータを全て集めて よりよい経験を提供し もし問題人物なら身を守るために使ってよいか？ それとも データ収集は止めますか データを集める人 集めない人 安心していいよ 大丈夫です (笑) では 最後の質問は もっと厄介な質問です このケースで何を行うべきか 評価するときに カントの義務論に従うべきでしょうか それともミルの帰結主義に従いますか カント ミル 挙手が減ってしまいました (笑) いや ぞっとするような結果です 恐ろしいのは 携帯機器に対して 明確な意見があるのに 意思決定を導くべき道徳観には それほどの意見がないからです

手にした力をどう使うべきかを 道徳観を持たずして どう決められますか？ 皆さんはモバイルの OS のほうに詳しいですが 本当に必要なのは道徳のOSなのです 道徳の OS とは何でしょうか 良し悪しは誰もが分かることです 良いことをすれば気分が良いし 悪いことをすると気分が良くない 両親は 良いことを褒め 悪いことを叱って教えます では 良し悪しはどう判断するのでしょう？ 日常的に 使われている方法があります 直感で決めるかもしれません 投票 --クラウドソースかもしれません あるいは回避して 法務部門の意見を聞いてみるかもしれません 言い換えれば ランダムなのです 間に合わせの方法で 「何をすべきか」を決めるのです 足場をしっかりさせたいなら そもそも物事の正誤を明らかにして 状況に応じて何をすべきかを示し 導いてくれる道徳観が求められます

では道徳観を獲得しましょう 皆さん数字で暮らす 数字人間ですね いったいどうすれば 数字を道徳の基準に使えるでしょう まさにこのことを考えた人がいます 明晰な人物で 2千5百年前に亡くなりました そう プラトンです 昔の哲学者ですが 覚えていますか？ あの授業のときは寝てましたか？ プラトンは 我々と同じ多くの心配を抱え 善悪について悩みました 「正しい」とは何かを追求しました 皆 意見を交換しているだけではないかと 彼は心配していました 彼はこれが正しいと言い 彼女は別のことが正しいと言う 彼の話に納得し 彼女の話にも納得する 堂々巡りで どこにも行き着きません 欲しいのは意見ではなく知識です 数学で真理があるように 正義についての 真理を知りたいのです 数学では客観的な真実があります どんな数字でも -- 例えば 2 です いい番号です 私は好きです 2 についてはこんな真実があります 何かが 2 つあるときに あと 2 つ加えると 4 つになります モノが何であっても これは真です 2 という形式 -- 抽象的な形式における 客観的な真実です どんなものでも 2 つあれば -- 目や耳 鼻 単なる突起が 2 つでも 全ては 2 という形式を引き継ぎ 2 に伴う真実を共有します 全てが「2 らしさ」を有します だからそれは意見の問題ではありません

プラトンは考えました もし倫理も数学のようなものだったら？ 純粋な正義というものがあるとしたら？ 正義についての真実があるとしたら この世界をよく眺めることで 物事が引き継ぎ 共有している 正義という形式を見いだせるのではないだろうか そうすれば 何が本当に正しく 何が正しくないか分かるだろう 意見の問題や 外見の問題ではなくなるだろう とても魅力的なビジョンです 考えてみてください 実に壮大で 実に野心的です 私たちとおなじくらい野心的です プラトンは倫理の答えを求め 客観的な真実を求めました 皆さんもこういうふうに考えるなら プラトン派の道徳観を持っています

こう考えない人は 西洋の哲学の歴史においては多数派で この整然とした考えは批判されてきました とくに アリストテレスはこれが気にいりませんでした 実用的ではないと考えたのです 「それぞれの主題ごとに許される範囲内でのみ正確さを追求すべきだ」 とアリストテレスは言いました 彼は倫理と数学はあまり似ていないと考えました 彼の考える倫理とは 今ここで 最良の判断で意思決定をして 正しい道を探すことでした そう思うならプラトン派ではありません でもあきらめないで もしかすると他にも 数量を基準とする道徳観があるかもしれません

これはどうでしょう ある状況で選択肢を比べて それぞれについて推定をして どれが良い選択で何をすべきか明らかにできるとしたら？ 聞いたことはありませんか これは功利主義の道徳観です ジョン・スチュワート・ミルは功利主義を 大いに推進して ー いい男ですし 200 年ほど前に亡くなりました 功利主義の基本ですが 多くの方 ー 少なくとも 先ほどミルに投票した3人はご存知でしょう こんな仕組みです 道徳や何かを道徳たらしめるものは 快楽を最大化し苦痛を最小化させる ものである としたらどうでしょう 行動に固有の何かが作用します 何かの抽象的な形式との関係とは違って 結果だけを問題とします 結果だけを考え 全体としてこれが良いか悪いかを判断します これは単純です そして何をすべきか分かります

例で考えてみましょう もし私がこう言ったとします 「お電話を預からせていただきます」 さっき鳴ったからではなく 簡単に推測してみたからです あの人はどうも怪しいと考えたからです もしも彼がビンラディンの隠れ家と あるいは誰でもその後継者と通信していたら そして彼が潜伏中のテロリストのようであったら これは はっきりさせないといけません 当たっていたら 重大な損害を防ぐことになるでしょう この損害を防ぐことは大いなる便益となります 電話を調べたときの少々の苦痛と比べても — FarmVille にハマっていることなど バレてしまうのは不愉快ですが 電話を調査することの価値と比べれば 小さな問題です こういうふうに考える人は 功利主義を選んでいます

でもこれも違うと思われるかもしれません 彼の電話なのだ それを取り上げるのは 間違いだとお考えかもしれません 人としての彼は 権利と尊厳を有し それを妨げてはいけません 彼は自立した存在で どういう推定がなされても問題ではない そもそも正しくないこともあります ウソを付くことが間違いであるとか 罪のないこどもを拷問することとか カントはこの点を巧みに捕らえて 私よりも上手に述べています 自分の理性を使って 自分の行動を— 導くルールを明らかにするべきだと言っています そうしたらそのルールに従うのは義務です 推測などの問題ではありません

これは終わりにしましょう 我々はこの哲学的な密林の真ん中にいます こう言った話は果てしなく続きます 難しい問題だからです 15分しかありません 単刀直入に言いましょう 決定をどのように下すべきなのか プラトンかアリストテレス カントかミル 何をするべきなのか 答えは何か どんな状況であっても何をするべきか決められる 公式は何でしょう あの人のデータを使ってよいかどうか 決めるための公式は何でしょう 公式はありません 単純な答えはありません

倫理は難しいものです 倫理は思考を求めます それは快適なものではありません 私はこれまで長いこと 人工知能を研究し このような思考を代行できる装置を作ろうとしてきました 答えを与えるような装置です しかしそれはできません 人の思考を取り出して 機械に入れることはできません 自分たちで考えなければいけないのです 幸い 私たちは機械ではなく 考えることができます 単にできるだけではなく 考えなければなりません ハンナ・アーレントが言っています 「悲しいかな この世のほとんどの悪は 悪をなそうと覚悟した人が 行うのではない 悪は考えないことから生じるのである」 このことを彼女は「悪の陳腐さ」と呼びました これを踏まえて 全ての良識ある人は 思考を練習するよう求められるのです

やってみましょう 考えてみましょう つまり 今から始めましょう 会場のみなさん これをやってください 一番最近 正しく行えるか気になって 「どうしたらいいのだろう」と思った 決断のことを考えてください そのことを思い出してください それを思いだしたら考えてください 「どうやってその決断に達したのか 自分は何をしたのか？直感に従ったのか？ 投票してもらったのか？法務部に聞いたのか？」 選択肢は他にもいくつかあります 「ミルのように何が便益を最大化するかと 評価したのか」 それともカントのように 理性を用いて固有の正しさを見いだしたか 考えてみてください きちんと思いだすこと これが大事です 大変重要なことなので この貴重な TED Talk の30秒を使いましょう 何もせず このことを考えるのです 用意して 始め

おしまい ごくろうさま 今やって頂いたことが なすべきことに対して責任を持って 我々の力を行使するための第一歩です

次のステップです これも挑戦してください 誰か友達に 決定を下した経緯を 説明してください 今ではありません トークが終わるまで待ってください 昼食のときにやってください 技術者の友人ではなくて 自分と違うタイプを探してください 芸術家やライターや ありえないかもしれませんが 哲学者をみつけて話してください 人文科学の誰かを見つけてください なぜか？ 彼らの問題の考え方は 技術者とは違うからです 数日前ですが ここから通りの向かいで 数百人の人が 集まりました 技術者と人文科学者が ビブリオテック会議に集まったのです 集まった理由は 人文科学の見方で思考すると どうなるかを技術者が知りたかったからです グーグルから来た人が 比較文化論の研究者と話しました 17 世紀のフランスの劇場とベンチャーキャピタルが どう関係するのかとお考えでしょう 面白い点です 考え方が違うのです こういうふうに考えたときに 人への配慮について もっと敏感になるでしょう それは倫理的決断に大事なことです

出かけて行って音楽家の友人と会うことを 今 想像してください 聞いたことを彼に伝え 我々のデータ革命とかこれらのこと全部 テーマ音楽も数小節鼻歌で歌ってもいいです ♫ダンダダダーダンタダダダン♫ 音楽家の友達が制止して言うでしょう 「データ革命の そのテーマ曲は オペラだ それはワーグナーだ 北欧の神話が元になっていて 神と神話世界の住人が 魔法の指輪を巡って戦う話だ」 これは興味深いことです 美しいオペラでもあったのです 感動的なオペラです それは善と悪の戦いを 描いているので 感動するのです 善と悪とが気になります オペラで何が起きるのかも気になります 「地獄の黙示録」で何が起きたかも気になります もちろん 我々の技術に何が起きるのかも 気になることです

これほどの力を手に入れた今日 それをどうするかは我々の手に委ねられています それは朗報と言えます 我々がこのオペラを書くのです これは我々の映画です この技術で何が起こるか明らかにしましょう どういう結末を迎えるのか決めましょう

ありがとうございます

(拍手)