P.W. Singer over militaire robots en de toekomst van oorlog.

Ik wilde met een oorlogsscene beginnen. Er was weinig waarschuwing vooraf. De Iraakse opstandeling plaatste een IED, een geïmproviseerd explosief, zorgvuldig langs de kant van de weg. In 2006 waren er meer dan 2.500 van deze aanvallen per maand, en zij waren de belangrijkste oorzaak van slachtoffers onder Amerikaanse soldaten en Iraakse burgers.

Het team dat deze IED opspoorde heet de EOD - 'Explosives Ordinance Disposal' - en zij zijn de voorhoede in de Amerikaanse strijd tegen deze bermbommen. Elk EOD team rukt ongeveer 600 keer per jaar uit, ongeveer twee bommen per dag. Het beste voorbeeld van hoe waardevol ze zijn voor de oorlogsinspanningen, is dat de Iraakse opstandelingen een beloning van 50.000 dollar uitloven op het hoofd van een EOD soldaat.

Helaas liep het bij deze oproep niet goed af. Tegen de tijd dat de soldaat dichtbij genoeg was om de bedrading te zien, explodeerde deze in een bal van vuur. Afhankelijk van de afstand en de gebruikte hoeveelheid explosief materiaal kan het de dood veroorzaken of verwonding. Je moet minstens 45 meter afstand hebben om dat te voorkomen. De explosie kan zelfs je botten breken, ook al word je niet geraakt. De soldaat zat boven de bom.

Toen de rest van het team ter plaatse kwam, waren er weinig restanten. Die avond had de commandant de droevige plicht een condoleancebrief naar de Verenigde Staten te sturen. Hij schreef hoe hard het verlies aankwam bij zijn eenheid, over het feit dat ze hun dapperste soldaat verloren. Een soldaat die hun leven gered had, meer dan eens. Hij verontschuldigde zich, dat hij hem niet naar huis kon brengen. Daarna sprak hij over het zilveren randje dat hij zag in het verlies. "Gelukkig," schreef hij, "als een robot sterft, hoef je tenminste geen brief te schrijven aan zijn moeder."

Dit klinkt als sciencefiction, maar het is al realiteit op het slagveld. In dit geval was de soldaat een 19 kilo zware robot, een 'Packbot'. De brief van de commandant ging niet naar een boerderij in Iowa, als in een oude oorlogsfilm, maar naar de iRobot Company, genaamd naar de roman van Asimov, en de niet zo fantastische film met Will Smith, en... eeh... (Gelach)... Als je je realiseert dat in die fictieve wereld, robots begonnen met alledaagse klusjes, waarna ze beslissingen over leven en dood begonnen te nemen. Dat is de realiteit van vandaag.

We gaan nu achter mij een fotoserie tonen van robots die nu worden gebruikt in oorlogvoering, of die al in de prototypefase zijn. Het is om je alvast een voorproefje te geven. Anders gezegd, je zult niets zien dat wordt aangedreven door Vulcan-technologie, of door hormonen van slimme tieners, of iets dergelijks. DIt is allemaal echt. Dus laten we beginnen met de foto's.

Er is iets belangrijks aan de gang in de oorlogvoering en misschien wel in de geschiedenis van de mensheid. Het Amerikaanse leger ging naar Irak met een handjevol onbemande toestellen in de lucht. Dat zijn er nu 5.300. We zijn gegaan met nul onbemande grondsystemen. Dat zijn er nu 12.000. En de technische term 'killer application' krijgt in dit verband een nieuwe betekenis. Onthoud hierbij dat we nu praten over de T-Fordjes, de Wright Flyers, vergeleken met wat er binnenkort aankomt. Zo staan we er nu voor.

Onlangs ontmoette ik een driesterrengeneraal van de Luchtmacht en hij zei: "Waar het binnenkort heen gaat is dat tienduizenden robots worden ingezet bij onze conflicten." Deze getallen doen ertoe, omdat we niet alleen praten over de tienduizenden robots van vandaag, maar over tienduizenden van deze prototypes, en de robots van morgen. Want een van de wetten die opgaat voor de technologie, is de wet van Moore, waardoor steeds meer rekencapaciteit in die robots past. Als je 25 jaar vooruitspoelt, en de wet van Moore blijkt correct, dan zullen die robots bijna een miljard keer meer rekenkracht hebben dan vandaag, Dat betekent dat dingen waarover we vroeger alleen praatten tijdens sciencefiction-congressen zoals Comic-Con besproken moeten worden in de machtscentra en plaatsen als het Pentagon. Er staat ons een robotrevolutie te wachten.

Laat me duidelijk zijn. Het is geen revolutie waarbij je je zorgen moet maken dat de gouverneur van Californië voor je deur staat, à la de Terminator. (Gelach) Historici die op deze periode terugkijken, zullen concluderen dat dit een ander type revolutie is, een revolutie in oorlogvoering. Net als de uitvinding van de atoombom. Misschien zelfs groter, omdat onze onbemande systemen niet alleen het 'hoe' van de oorlogvoering beïnvloeden, ze beïnvloeden het 'wie' van het vechten op het meest fundamentele niveau. Iedere voorgaande revolutie in oorlog bijvoorbeeld het machinegeweer of de atoombom ging over een systeem dat of sneller schoot, of verder ging, of een grotere knal gaf. Dat is zeker het geval in robotica, maar het verandert ook de ervaring van de militair en zelfs de kern van de identiteit van de militair.

Op een andere manier gezegd: het 5.000 jaar oude monopolie van de mens op het vechten in een oorlog, zal nog in onze tijd verloren gaan. Ik ben de laatste paar jaar bezig geweest om alle spelers in dit veld te ontmoeten, van de robotwetenschappers tot de sciencefiction-schrijvers die hen inspireerden, tot de 19-jarige piloten van onbemande toestellen, die vanuit Nevada vechten, tot de viersterrengeneraals en zelfs de Iraakse opstandelingen die het doelwit zijn, en wat zij van deze systemen denken. Wat ik interessant vond, waren niet alleen hun verhalen, maar hoe hun ervaringen wijzen op uitwaaiereffecten die zich uitbreiden in onze samenleving, in onze wetten, en in onze ethiek. In de de resterende tijd wil ik hier gedetailleerder op ingaan.

Allereerst zal de toekomst van oorlogvoering, ook die op basis van robotica, niet een puur Amerikaanse aangelegenheid zijn. De V.S. lopen nu voor in militaire robotica, maar we weten dat er in de technologie niet iets bestaat als een permanente eerste stap of voordeel. Even snel de hand opsteken: hoeveel mensen in deze zaal gebruiken nog steeds Wang computers? (Gelach) Het is hetzelfde in oorlogvoering. De Britten en de Fransen vonden de tank uit. De Duitsers wisten hoe ze die moesten gebruiken. Waar we aan moeten denken voor de V.S. is dat we nu een voorsprong hebben, maar dat er 43 andere landen zijn die werken aan militaire robotica. Daar zitten interessante landen bij als Rusland, China, Pakistan, Iran.

Daarover maak ik me meer zorgen. Hoe ontwikkelen we ons in deze revolutie, gezien het niveau van onze productie, het niveau van onze wetenschap en wiskundig onderwijs in onze scholen? Of anders benaderd: wat betekent het als de hardware van je soldaten in toenemende mate uit China komt en software uit India? Maar evenzeer als software open source werd, werd oorlogvoering dat ook. In tegenstelling tot een vliegdekschip of een atoombom is er geen omvangrijk productiesysteem nodig om robots te bouwen. Veel ervan is uit voorraad verkrijgbaar. Veel is zelfs doe-het-zelf. Wat je net voorbij zag komen was een onbemand Raventoestel, uit de hand te lanceren. Voor ongeveer 1.000 dollar kunt er zelf eentje bouwen, gelijkwaardig aan wat de soldaten in Irak gebruiken.

Dat werpt een volgende vraag op over oorlog en conflict. Goeie lui spelen er een beetje mee als met een bouwdoos, maar kwaadwillenden wellicht ook. Dit kruispunt tussen robotica en zaken als terrorisme zal fascinerend worden en zelfs zorgwekkend. We hebben het begin al gezien. In de oorlog tussen Israël, een staat, en Hezbollah, een niet-statelijke actor, stuurde de niet-statelijke actor vier onbemande toestellen naar Israël. Er is al een Jihadi-website waar je op afstand een geïmproviseerd explosief kunt laten detoneren, gewoon thuis vanachter je computer.

Wat we volgens mij gaan zien zijn twee trends. Als eerste zul je de macht versterken van individuen tegen regeringen. Als tweede zullen we een uitbreiding zien van het bereik van terrorisme. In de toekomst kan dat een kruising zijn tussen Al Qaida 2.0 en de volgende generatie van de Unabomber. Een andere manier om hier tegenaan te kijken, is het feit dat je een robot er niet van hoeft te overtuigen dat hij na zijn dood 72 maagden krijgt om hem over te halen zichzelf op te blazen.

De uitwaaiereffecten hiervan zullen onze politiek beïnvloeden. Eén van de mensen die ik ontmoette was een voormalig adjunct-secretaris van Ronald Reagan. Hij zei het zo: "Ik vind die systemen mooi omdat ze Amerikaanse levens sparen, maar ik maak me zorgen over de vermarkting van oorlogen, meer krachttaal die afleidt van de kostendiscussie. Mensen zullen eerder het gebruik van geweld ondersteunen als ze het als 'zonder kosten' beschouwen." Robots belichamen trends die al aan de gang zijn in onze politiek. Misschien brengen ze het naar het logische eindpunt. We hebben geen dienstplicht. We hebben geen oorlogsverklaringen meer. We kopen geen oorlogsobligaties meer. Feit is nu, dat we onze Amerikaanse soldaten, die we anders in gevaar zouden brengen, steeds meer vervangen door machines en we stappen zo over die toch al lage drempel van oorlogvoeren heen.

De toekomst van oorlogvoering zal ook een YouTube-oorlog worden. Onze nieuwe technologieën houden mensen niet alleen uit de buurt van risico's. Ze nemen ook alles op wat ze zien. Ze verbreken de link met het volk niet alleen, ze transformeren diens relatie met oorlog. Er zijn nu al enige duizenden videoclips met beeldmateriaal van de strijd in Irak op YouTube, de meeste opgenomen met onbemande toestellen. Het kan een voordeel zijn. Het kan het thuisfront en het oorlogsfront met elkaar verbinden als nooit tevoren. Maar bedenk dat dit plaatsvindt in onze vreemde, gekke wereld. Onvermijdelijk is, dat de mogelijkheid deze clips te downloaden naar je iPod, of je Zune, je de mogelijkheid geeft het in entertainment te veranderen. Soldaten hebben een naam voor dit soort clips. Ze noemen het oorlogsporno. Een typisch voorbeeld kreeg ik per email. Bijgevoegd zat een video van een Predatoraanval die een vijandelijke stelling vernietigde. Raketinslagen, lichamen die door explosies de lucht invlogen. Er was muziek onder gezet. Het nummer was "I Just Want to Fly" van Sugar Ray.

Deze mogelijkheid om meer te zien maar minder te voelen, creëert een oneffenheid bij het publiek in relatie tot oorlog. Ik denk hierbij analoog aan sport. Hetzelfde verschil ontstaat als je kijkt naar een NBA-wedstrijd, professioneel basketball, op TV, waar de sporters kleine figuurtjes op het scherm zijn, of zelf aanwezig zijn bij de wedstrijd, waarbij je je realiseert hoe iemand van 2,10 meter er echt uitziet. We moeten onthouden dat dit maar de clips zijn. Dit zijn maar de Studio Sport-samenvattingen van de wedstrijd. Ze verliezen de strategie. Ze verliezen de menselijkheid. Oorlog verwordt tot doelpunten en slimme bommen.

De ironie van dit alles is dat, terwijl de toekomst van oorlogvoering steeds meer over machines gaat, onze menselijke psychologie achter dit alles zit. Onze menselijke tekortkomingen leiden tot deze oorlogen. Een voorbeeld hiervan, dat veel weerklank vindt bij beleidsmakers, is hoe dit uitwerkt op onze zeer reële oorlog van ideeën die we uitvechten met radicale groepen. Welke boodschap denken we uit te zenden met deze machines, versus de boodschap die aan de andere kant wordt ontvangen. Een van de mensen die ik ontmoette, een hoge functionaris uit de regering Bush, zei het volgende over onze onbemanning van de oorlog: "Het versterkt onze kracht. Waar mensen bang voor zijn, is onze technologie."

Als je er op uittrekt en mensen ontmoet, bijvoorbeeld in Libanon, is dat een heel ander verhaal. Een van de mensen die ik ontmoette was nieuwsredacteur. We praatten terwijl een onbemand toestel overvloog. Dit is wat hij te zeggen had: "Dit is het zoveelste teken van koude mensen, wrede Israëli's en Amerikanen. Het zijn lafaards omdat ze machines sturen om tegen ons te vechten. Ze willen niet als echte mannen tegen ons vechten, want ze zijn bang om te vechten, dus moeten we gewoon een paar van hun soldaten doden om ze te verslaan."

De toekomst van de oorlog wordt gekenmerkt door een nieuw type militair. Het herdefinieert de beleving van ten strijde trekken. Je kunt dit de werkplekkrijger noemen. Een Predatorpiloot omschreef zijn ervaring van het vechten in de oorlog met Irak, terwijl hij nooit buiten Nevada kwam: "Je gaat 12 uur vechten, beschiet doelen met wapens, doodt vijandelijke strijders. Dan stap je in je auto, rijdt naar huis en binnen 20 minuten zit je aan de eettafel met je kinderen over hun huiswerk te praten."

Het psychologisch balanceren van deze ervaringen is ontzettend moeilijk. Veel van deze piloten hebben méér last van posttraumatische stress dan eenheden die fysiek aanwezig waren in Irak. Sommigen maken zich zorgen dat deze loskoppeling tot iets anders leidt. Dat het de bereidheid tot oorlogsmisdaden veel gemakkelijker maakt. "Het is net een videospelletje", is hoe een jonge piloot omschreef hoe hij op afstand troepen elimineerde. Iedereen die Grand Theft Auto gespeeld heeft weet dat we in een virtuele wereld dingen doen, die we in het echt niet zouden doen.

Veel van wat jullie van mij horen, gaat over de andere kant van technologische revoluties. Het vormt ons heden en wellicht onze toekomstige oorlogvoering. De Wet van Moore is van toepassing, maar ook de Wet van Murphy. De oorlogsmist trekt niet op. De vijand heeft een stem. We krijgen ongelofelijke, nieuwe mogelijkheden. We zien en ervaren ook nieuwe menselijke dilemma's. Soms zijn het gewoon "oops"-momenten. Zo omschreef het hoofd van een roboticabedrijf het. Het zijn gewoon "oops"-momenten. Wat zijn "oops"-momenten bij oorlogsrobots?

Soms zijn ze best grappig. Soms zijn ze net als die scene uit de film met Eddy Murphy, "Best Defense", waarin ze een robot met een machinegeweer testten. Tijdens de demonstratie begon hij rond te draaien en richtte het machinegeweer op de tribune met de VIP's. Gelukkig was het wapen niet geladen en raakte niemand gewond. Andere "oops"-momenten zijn tragisch, zoals afgelopen jaar in Zuid Afrika, waar een anti-vliegtuigkanon een "softwarefoutje" had, inschakelde en vuurde, waarbij negen soldaten omkwamen.

Er zijn problemen met de regels van oorlogvoering en verantwoording. Wat doen we met zaken als onbemande doodslag? Wat is onbemande doodslag? Er zijn al drie voorbeelden van Predatoraanvallen, waarbij we dachten dat we Bin Laden hadden, maar dat bleek niet zo te zijn. Daar staan we nu. Ik heb het niet eens over gewapende, autonome systemen, met het gezag om geweld te gebruiken. En geloof maar, dat dat er aan zit te komen. Tijdens mijn onderzoek kwam ik vier verschillende Pentagonprojecten tegen over verschillende aspecten hiervan.

Nu rijst de vraag: "Waar leidt dit toe in kwesties rond oorlogsmisdaden?" Robots hebben geen emotie, ze raken niet van streek als hun maat wordt gedood. Ze plegen geen misdaden uit woede en wraak. Maar, robots hebben geen emotie. Ze zien een tachtigjarige oma in een rolstoel op dezelfde manier als ze een T-80 tank zien: het zijn beide slechts een serie enen en nullen. We moeten een antwoord vinden op de vraag: "Hoe maken we onze 20e-eeuwse wetten die nu zo oud zijn dat ze voor pensioen in aanmerking komen, geschikt voor deze 21e-eeuwse technologie?"

Tenslotte: ik heb gesproken over wat de toekomst van oorlog lijkt te zijn. Let wel: ik heb alleen echte voorbeelden gebruikt. Jullie hebben alleen echte beelden en video's gezien. Hier ligt een grote uitdaging die ons allemaal zorgen moet baren ruim voordat we ons er zorgen over maken, dat onze Roomba het leven uit ons wegzuigt. Laten we het sciencefiction-gehalte van wat zich nu in oorlogvoering ontvouwt, als excuus dienen om te kunnen blijven ontkennen? Of gaan we de werkelijkheid onder ogen zien van de 21e-eeuwse oorlog? Zal onze huidige generatie dezelfde fout maken als de vorige met atoomwapens en niets doen aan de problemen die eromheen hangen tot de doos van Pandora al geopend is?

Ik kan het fout hebben. Een robotgeleerde van het Pantagon zei van wel. Hij zei: "Er zijn geen echte sociale, ethische en morele kwesties rond robots. Tenzij," voegde hij toe "de machines herhaaldelijk de verkeerde mensen doodt. Dan wordt het gewoon een terugroepactie."

Het eindpunt van dit alles is, dat we naar Hollywood kunnen kijken. Een paar jaar geleden werden in Hollywood alle bekende personages verzameld op een top 100-lijst van helden en een top 100-lijst van schurken. De personages die het beste en het slechtste van de wereld vertegenwoordigden. Slechts één personage haalde beide lijsten. De Terminator, een robot-moordmachine. Dit duidt op het feit dat we onze machines kunnen gebruiken ten goed en ten kwade. Voor mij duidt het ook op de dualiteit van mensen.

Deze week vieren we onze creativiteit. Onze creativiteit bracht ons naar de sterren. Onze creativiteit bracht kunstwerken en literatuur voort om onze liefde uit te drukken. Nu gebruiken we onze creativiteit in een bepaalde richting, om fantastische machines te bouwen met geweldige mogelijkheden. Misschien zelfs een geheel nieuwe soort. Maar de belangrijkste reden waarom we dat doen, is onze neiging elkaar te vernietigen. We moeten ons afvragen: zijn het onze machines, of zijn wij zelf ontworpen voor oorlog? Dank u. (Applaus)