1,533,533 views • 16:05

Je pensais commencer par une scène de guerre. Il n'y avait pas grand' chose pour avertir du danger à venir. L'insurgé irakien avait placé l'engin explosif, un engin explosif improvisé, sur le côté de la route avec beaucoup de soin. En 2006, il y a eu plus de 2 500 de ces attaques chaque mois, et ils étaient la principale cause de victimes parmi les soldats américains et les civils irakiens.

L'équipe qui chasse ces explosifs s'appelle une équipe EOD - Equipe de neutralisation d'explosifs et ils sont le fer de lance de effort américain pour supprimer ces bombes artisanales. Chaque équipe EOD sort sur environ 600 de ces alertes à la bombe chaque année, et désamorce environ deux bombes par jour. Peut-être le meilleur signe de l'importance qu'elles ont pour l'effort de guerre, c'est que les insurgés irakiens ont mis une prime de 50 000 $ sur la tête d'un seul soldat EOD.

Malheureusement, cet appel particulier a mal fini. Au moment où le soldat s'est avancé assez près pour voir les fils révélateurs de la bombe, elle a explosé dans une vague de flammes. Maintenant, en fonction de votre proximité et de la quantité d'explosif qui a été emballée dans cette bombe, elle peut tuer ou blesser. Vous devez être à 50 mètres au mois pour y échapper. L'explosion est si forte qu'elle peut même briser vos membres, même si vous n'êtes pas touché. Ce soldat était au-dessus de la bombe.

Et donc quand le reste de l'équipe s"est avancé ils n'ont pas trouvé grand' chose. Et cette nuit-là le commandant de l'unité a rempli un triste devoir, il a écrit une lettre de condoléances aux États-Unis, et il a dit à quel point cette perte avait affecté son unité, comme ils avaient perdu leur soldat le plus courageux, un soldat qui avait sauvé leurs vies plus d'une fois. Puis il s'est excusé de ne pas être en mesure de le ramener à la maison. Mais alors il a parlé de ce qu'il y avait de bon dans cette perte. "Au moins," comme il l'écrit, «quand un robot meurt, vous n'avez pas à écrire une lettre à sa mère."

Cette scène ressemble à de la science-fiction, mais c'est déjà une réalité sur le champ de bataille. Le soldat, dans ce cas était un robot de 21 kilos appelé PackBot. La lettre du chef était adressée non pas à une ferme dans l'Iowa comme on le voit dans les vieux films de guerre, mais à la Société iRobot, qui tire son nom du roman d'Asimov et du film pas si bon de Will Smith, et ... euh ... (Rires) ... si vous vous souvenez que dans ce monde de fiction, les robots ont commencé par effectuer des tâches ordinaires, puis ils ont commencé à prendre des décisions de vie ou de mort. C'est une réalité que nous connaissons aujourd'hui.

Ce que nous allons faire est en fait juste afficher rapidement une série de photos derrière moi, qui vous montrent la réalité des robots utilisés dans la guerre en ce moment ou qui sont déjà au stade du prototype. C'est juste pour vous en donner une idée. Autrement dit, vous ne verrez rien de propulsé par une technologie vulcaine ou des hormones de sorciers adolescents ou des choses de ce genre. Tout cela est vrai. Alors, pourquoi ne pas commencer et lancer ces images?

Quelque chose de grand se passe à la guerre aujourd'hui, et peut-être même dans l'histoire de l'humanité elle-même. L'armée américaine est allée en Irak avec une poignée de drones dans le ciel. Nous en avons maintenant 5300. Nous sommes allés avec zéro système terrestre sans pilote. Nous en avons maintenant 12000. Et le terme technique "application qui tue" prend une nouvelle signification dans cet espace. Nous devons nous rappeler que nous parlons de la Ford Modèle T, des avions des frères Wright, comparé à ce qui se profile. C'est là que nous en sommes à l'heure actuelle.

Une des personnes que j'ai rencontrée récemment avec était un général trois étoiles de l'Armée de l'air, et il a dit en gros que nous allions très bientôt avoir des dizaines de milliers de robots opérant dans nos conflits, et ces chiffres avaient de l'importance parce que nous parlons non seulement de dizaines de milliers de robots aujourd'hui, mais de dizaines de milliers de ces prototypes et ces robots de demain, parce que bien entendu, l'une des choses qui est à l’œuvre en technologie est la loi de Moore : vous pouvez incorporer de plus en plus de puissance de calcul dans ces robots, et ainsi si on regarde environ 25 ans dans le futur, si la loi de Moore s'avère exacte, ces robots feront des calculs près d'un milliard de fois plus puissants qu'aujourd'hui. Ça signifie que le genre de choses que nous ne faisions que parler dans les conventions de science-fiction comme la Comic-Con doivent être discutées dans les allées du pouvoir et des endroits comme le Pentagone. Une révolution des robots est à nos portes.

Maintenant, je dois être clair. Je ne parle pas d'une révolution où vous devez craindre que le gouverneur de Californie se pointe à votre porte, à la Terminator. (Rires) Lorsque les historiens se pencheront sur cette époque, ils concluront que nous sommes dans un autre type de révolution : une révolution de la guerre, comme l'invention de la bombe atomique. Mais c'est peut être encore plus que cela, parce que nos systèmes sans pilote ne se contentent pas d'affecter le «comment» du combat de guerre. ils affectent le «qui» du combat à son niveau le plus fondamental. C'est-à-dire, chaque révolution précédente à la guerre, qu'il s'agisse de la mitrailleuse, qu'il s'agisse de la bombe atomique, reposait sur un système qui soit tirait plus vite, soit allait plus loin, soit produisait une plus grande explosion. C'est certainement le cas avec la robotique, mais ça change également ce qui vit le combattant et même son identité.

Autrement dit, le monopole que l'humanité a depuis 5000 ans dans les combats de guerre se brise de notre vivant même. J'ai passé ces dernières années à aller à la rencontre de tous les acteurs de ce domaine, des scientifiques qui conçoivent les robots aux auteurs de science fiction qui les ont inspirés, en passant par les pilotes de drones de 19 ans du Nevada qui se battent, aux généraux quatre étoiles qui les commandent, aux insurgés irakiens même qu'ils visent et ce qu'ils pensent de nos systèmes, et ce que j'ai trouvé intéressant, c'est non seulement leurs histoires, mais la façon dont leurs expériences pointent vers ces effets secondaires qui se propagent dans notre société, dans nos lois et notre éthique, etc Je voudrais utiliser le temps qu'il me reste à essentiellement étoffer un ou deux de ces points.

Le premier est que l'avenir de la guerre, même s'il est robotique, ne sera pas purement américain. Les États-Unis sont actuellement en avance dans le domaine militaire robotique en ce moment, mais nous savons qu'avec la technologie, il n'y a pas d'avance ou d'avantage permanent. Levez la main pour répondre, combien de gens dans cette salle utilisent encore des ordinateurs Wang? (Rires) C'est la même chose pour la guerre. Les Britanniques et les les Français ont inventé le blindé. Les Allemands ont compris comment bien s'en servir, et donc ce à quoi nous devons penser aux États-Unis est que nous sommes en avance en ce moment, mais vous avez 43 autres pays ici-bas qui travaillent sur la robotique militaire, et, parmi eux tous les pays intéressants, comme la Russie, la Chine, le Pakistan, l'Iran.

Cela me pose un gros souci. Comment pouvons-nous aller de l'avant dans cette révolution étant donné l'état de nos usines et l'état de nos sciences et des de l'enseignement des mathématiques dans nos écoles? Ou une autre façon de voir ça, qu'est-ce que cela signifie d'aller de plus en plus à la guerre avec des soldats dont le matériel est fabriqué en Chine et le logiciel écrit en Inde? Mais, tout comme les logiciels sont devenus open-source, il en va de même pour la guerre. Contrairement à un porte-avions ou une bombe atomique, vous n'avez pas besoin d'un système de fabrication massive pour construire de la robotique. Une bonne partie est en vente libre. Une bonne partie est même en kit à monter soi-même. Une des choses qui vient de vous être projetée était un drone corbeau, celui qu'on lançait à la main. Pour environ un millier de dollars, vous pouvez en construire un vous-même, ce qui équivaut à ce que les soldats utilisent en Irak.

Cela soulève une autre petite question quand il s'agit de guerre et de conflit. Les gentils s'amusent à travailler sur ces trucs comme des kits de bricolage, mais les méchants aussi. Ce croisement entre la robotique et des choses comme le terrorisme va être fascinant et même inquiétant, nous en avons déjà vu le début. Pendant la guerre entre Israël, un état, et le Hezbollah, un acteur non-étatique, l'acteur non-étatique a fait voler quatre drones différents contre Israël. Il y a déjà un site web djihadiste sur lequel vous pouvez aller et à distance détoner un engin explosif improvisé en Irak tout en étant sur votre ordinateur domestique.

Je pense donc que nous allons voir deux tendances qui vont s'installer. La première, vous allez renforcer le pouvoir des individus contre les gouvernements, mais la seconde est que nous allons voir une expansion dans le domaine du terrorisme. L'avenir de celui-ci peut être un croisement entre Al-Qaïda 2.0 et la prochaine génération d'Unabomber. Une autre façon de voir ça, est le fait que, rappelez-vous, vous n'avez pas à convaincre un robot qu'il va recevoir 72 vierges après sa mort pour le convaincre de se faire exploser.

Mais les répercussions vont pénétrer notre politique. Une des personnes que j'ai rencontrée était un ancien secrétaire adjoint du Ministère de la Défense de Ronald Reagan, et il l'a dit de la façon suivante : «J'aime ces systèmes, car ils sauvent des vies américaines, mais je m'inquiète plus de la marchandisation des guerres, plus des discours qui créent le choc et la peur, pour défrayer la discussion des coûts. Les gens sont plus enclins à soutenir l'utilisation de la force s'ils l'envisagent comme ne coûtant rien." Les robots pour moi prennent certaines tendances qui sont déjà en jeu dans notre corps politique, et les amènent peut-être à leur point final logique. Nous n'avons pas de projet. Nous ne faisons plus de déclarations de guerre. Nous n'achetons plus d'emprunts de guerre. Maintenant nous avons le fait que nous convertissons de plus en plus de nos soldats américains que nous envoyons se battre dans des machines, et nous pouvons peut-être prendre ces barres qui baissent déjà à la guerre et les déposer sur le sol.

Mais l'avenir de la guerre va également être une guerre YouTube. En clair, nos nouvelles technologies ne se contentent pas de soustraire les humains au risque. Elles enregistrent aussi tout ce qu'ils voient. Donc, elles ne se contentent pas d'éloigner le public : elles remodèlent sa relation avec la guerre. Il y a déjà plusieurs milliers de de clips vidéo de séquences de combat en Irak sur YouTube en ce moment. la plupart recueillies par des drones. Cela pourrait être une bonne chose. Ça pourrait établir des liens entre le front intérieur et le front de guerre comme jamais auparavant. Mais rappelez-vous, ça se passe dans notre monde étrange et bizarre, et donc inévitablement la possibilité de télécharger ces clips vidéo sur votre iPod ou votre Zune vous donne la capacité de le transformer en divertissement. Les soldats ont un nom pour ces clips. Ils appellent ça du porno-guerre. Un exemple type qu'on m'a envoyé était un e-mail avec en pièce jointe une vidéo d'une attaque Predator éliminant un site ennemi. Des frappes de missiles, des corps détruits par l'explosion. Il a été mis en musique. au son d'une chanson pop, "I Just Want To Fly" par Sugar Ray.

Cette capacité à regarder plus mais à vivre moins crée un remous dans la relation du public avec la guerre. J'y pense en faisant un parallèle avec le sport. C'est comme la différence entre regarder un match de NBA, un match de basket professionnel à la télévision, où les athlètes sont des silhouettes minuscules sur l'écran, et se trouver en personne à un match de basket et se rendre compte de ce à quoi quelqu'un qui mesure 2,10 mètres ressemble vraiment. Mais nous devons nous rappeler, ce ne sont que les clips. Ce ne sont que la version du jeu de la chaîne ESPN. Ils perdent le contexte. Ils perdent la stratégie. Ils perdent l'humanité. La guerre se réduit à des paniers marqués et des bombes intelligentes.

Et l'ironie de tout cela, c'est que, alors que l'avenir de la guerre peut impliquer de plus en plus de machines, c'est notre psychologie humaine qui est le moteur tout cela, ce sont nos faiblesses humaines qui mènent à ces guerres. Donc, un exemple qui a un grand écho dans le domaine politique en est comment cela joue sur notre guerre des idées bien réelle que nous menons contre les groupes radicaux. Quel est le message que nous pensons envoyer avec ces machines par rapport à ce qui est reçu en termes du message. L'une des personnes que j'ai rencontrées était un représentant haut gradé de l'administration Bush, qui a eu ceci à dire quant à impliquer moins de nos hommes dans la guerre. "Ça joue en notre force. La seule chose qui effraie les gens est notre technologie."

Mais quand vous allez à la rencontre des gens, par exemple au Liban, c'est une toute autre histoire. L'une des personnes que j'ai rencontrée là-bas était rédacteur en chef, et nous parlons alors qu'un drone vole au dessus de lui, et voilà ce qu'il avait à dire. "Ce n'est qu'un signe de plus de la cruauté insensible des Israéliens et des Américains, qui sont des lâches parce qu'ils envoient des machines pour nous combattre. Ils ne veulent pas nous combattre comme de vrais hommes, mais ils ont peur de se battre, donc nous n'avons qu'à tuer quelques-uns de leurs soldats pour les vaincre."

L'avenir de la guerre se fait aussi avec un nouveau type de guerrier, et il redéfinit effectivement ce que l'on vit en allant à la guerre. Vous pouvez appeler cela une cellule guerrière. C'est ainsi qu'un pilote de drone Predator a décrit son expérience des combats dans la guerre en Irak sans jamais quitter le Nevada. «Tu vas à la guerre pendant 12 heures, tu tires avec des armes sur des cibles, tu tues des ennemis, puis tu montes dans ta voiture et tu rentres chez toi et en moins de 20 minutes, tu es assis à table pour diner et tu parles à tes enfants de leurs devoirs."

L'équilibre psychologique de ces expériences est incroyablement difficile, et en fait les pilotes de drones ont des taux plus élevés de stress post-traumatique que de bien des unités physiquement présentes en Irak. Mais certains craignent que cette déconnexion mène à quelque chose d'autre, qu'elle pourrait rendre la contemplation des crimes de guerre beaucoup plus facile quand vous avez cette distance. "C'est comme un jeu vidéo," est ce qu'un jeune pilote m'a décrit en parlant de descendre des soldats ennemis à distance. Comme tous ceux qui ont joué à Grand Theft Auto le savent, nous faisons des choses dans le monde virtuel que nous ne ferions pas face à face.

Donc, une grande partie de ce que vous m'entendez dire, c'est qu'il y a un autre aspect aux révolutions technologiques, et qu'il façonne notre présent et peut-être façonnera notre avenir de la guerre. La loi de Moore est opérationnelle, mais la loi de Murphy l'est aussi. Le brouillard de la guerre n'est pas levé. L'ennemi a un vote. Nous gagnons de nouvelles capacités incroyables, mais nous voyons aussi et nous vivons de nouveaux dilemmes humains. Maintenant, parfois ce ne sont que des moments de gaffes, et c'est ce que le chef d'une entreprise de robotique a décrit, il vous suffit de moments de gaffes. Que sont des moments de gaffes pour des robots dans la guerre?

Eh bien, parfois ils sont drôles. Parfois, ils sont comme si cette scène du film d'Eddie Murphy "Best Defense", se jouait dans la réalité, où on a testé un robot mitrailleur, et pendant la démonstration, il a commencé à tourner en cercle et a pointé sa mitrailleuse vers la tribune des VIP. Heureusement l'arme n'était pas chargée et personne n'a été blessé, mais d'autres fois les moments de gaffes sont tragiques, comme l'année dernière en Afrique du Sud, où un canon anti-aérien a eu une "panne de logiciel," et en fait ne s'est pas allumé et a tiré, et neuf soldats ont été tués.

Nous avons de nouveaux remous dans les lois de la guerre et la responsabilisation. Que faisons-nous avec des choses comme le massacre sans pilote? Qu'est-ce que le massacre sans pilote? Nous avons déjà eu trois cas de drones Predator qui frappent où nous pensions avoir Ben Laden, et il s'est avéré que ce n'était pas le cas. Voilà où nous en sommes à l'heure actuelle. On ne parle même pas de systèmes autonomes avec plein pouvoir de recourir à la force. Et ne croyez pas que ce n'est pas ce qui se profile. Au cours de mes recherches je suis tombé sur quatre différents projets du Pentagone sur les différents aspects de ces systèmes.

Et alors la question se pose : à quoi est-ce que ça amène aux questions telles que les crimes de guerre? Les robots n'ont pas d'émotion, de sorte qu'ils ne sont pas bouleversés si leur copain est tué. Ils ne commettent pas de crimes de rage et de vengeance. Mais les robots n'ont pas d'émotion. Ils voient une grand-mère de 80 ans dans un fauteuil roulant de la même façon qu'ils voient un char T-80 : les deux ne sont qu'une série de zéros et de uns. Et nous avons donc cette question à résoudre : comment pouvons-nous faire pour que nos lois de guerre du 20e siècle qui sont si vieilles à présent qu'elles seraient éligibles à l'assurance-maladie, rattrapent ces technologies du 21e siècle.

Et donc, en conclusion, je vous ai parlé ce qui semble l'avenir de la guerre, mais remarquez que je n'ai utilisé que des exemples du monde réel et vous n'avez vu que des images du monde réel et des vidéos. Et si cela pose un grand problème dont nous tous devons nous soucier bien avant que vous ayez à vous soucier que votre robot aspirateur vous tue par aspiration. Allons-nous laisser le fait que ce qui se dévoile en ce moment dans la guerre ressemble à de la science-fiction et donc nous maintient dans le déni? Allons-nous faire face à la réalité de la guerre du 21e siècle? Est-ce notre génération va faire la même erreur qu'une génération passée a faite avec les armes atomiques, et ne pas faire face aux questions qui l'entourent jusqu'à ce la boîte de Pandore soit déjà ouverte?

Maintenant, je peux me tromper sur ce point, et un chercheur en robotique du Pentagone m'a dit c'était le cas. Il a dit, "Il n'y a pas de vraies questions sociales, éthiques, morales quand il s'agit de robots." "C'est-à-dire," a-t-il ajouté, à moins que la machine tue les mauvaises personnes à plusieurs reprises. Alors, c'est juste une question de rappel de produit."

Et donc le point final ici est qu'en réalité, nous pouvons nous tourner vers Hollywood. Il y a quelques années, Hollywood a réuni tous les personnages les plus populaires et créé une liste des 100 plus grands héros et les 100 meilleurs méchants de toute l'histoire de Hollywood, les personnages qui représentaient le meilleur et le pire de l'humanité. Un seul personnage a figuré sur les deux listes: Le Terminator, un robot tueur. Cela souligne le fait que nos machines peuvent être utilisées à la fois pour le bien et le mal, mais pour moi elle souligne le fait qu'il y a une dualité des êtres humains aussi.

Cette semaine est une célébration de notre créativité. Notre créativité a emmené notre espèce vers les étoiles. Notre créativité a créé des œuvres d'arts et de la littérature pour exprimer notre amour. Et maintenant, nous utilisons notre créativité dans une certaine direction, pour construire de fantastiques machines avec des capacités incroyables, peut-être même un jour une toute nouvelle espèce. Mais l'une des principales raisons pour laquelle nous le faisons, c'est à cause de notre instinct à nous détruire les uns les autres, d'où la question que nous devrions tous nous poser : est-ce nos machines, ou est-ce nous qui est câblé pour la guerre? Merci! (Applaudissements)