P.W. Singer o vojenských robotoch a budúcnosti vedenia vojny

Za mnou sa bude premietať séria fotiek, na ktorých uvidíte roboty, ktoré sa aktuálne využívaju v bojoch, alebo ktoré sa nachádzajú v štádiu prototypu. Len, aby ste o tom mali nejakú predstavu. Dá sa to povedať aj inak, neuvidíte nič, čo by bolo poháňané technológiou Vulkáncov zo Star Treku, či hormónmi tínedžerských čarodejníkov, nič také, všetko je to skutočné. Takže prečo hneď nezačneme tými fotografiami? Vo vojne a možno v histórii samotného ľudsta sa teraz dejú veľké veci. Americká armáda šla do Iraku s hŕstkou drón vo vzduchu. Dnes ich máme 5300. Keď sme tam šli, nemali sme žiaden bezposádkový pozemný systém, teraz ich máme 12 000. A technický termín „killer application“ (dosl. vražedná aplikácia) v tomto kontexte nadobúda nový význam. Nezabúdajme, že to, o čom hovoríme, je ako model T4 či lietadlá bratov Wrightovcov v porovnaní s tým, čo onedlho príde. Tak v tej etape vývoja sa práve nachádzame.

Nedávno som sa, medzi inými, stretol s trojhviezdičkovým generálom amerických vzdušných síl, a on mi povedal: „V podstate čoskoro zažijeme dobu, v ktorej budú desaťtisíce robotov nasadené do našich konfliktov.“ A na týchto číslach záleží, lebo tu nie je reč len o desiatich tisícoch súčasných robotov, ale o desiatich tisícoch týchto prototypov a robotov zajtraška. Pretože, prirodzene, jedna vec, ktorá platí v technike, je Moorov zákon, čo znamená, že do týchto robotov možno vtesnať stále viac výpočtového výkonu. Takže o takých 25 rokov, ak sa Moorov zákon neporuší, bude výpočtový výkon robotov takmer miliardukrát lepší ako dnes. Takže znamená to, že veci, o ktorých sme mali vo zvyku hovoriť

len na stretnutiach fanúšikov sci-fi, ako napr. na Comicone, budú musieť prediskutovať ľudia pri moci, na miestach ako Pentagon. Pred nami je revolúcia robotov. Aby sme si rozumeli, nehovorím o revolúcii pri ktorej sa musíte obávať, že sa guvernér Kalifornie objaví vo vašich dverách na spôsob filmu Terminátor. Keď budú historici skúmať túto dobu, prídu k záveru, že stojíme na prahu celkom inej revolúcie, revolúcie vo vedení vojen, ako v prípade vynájdenia atómovej bomby. No môže to byť dokonca ešte významnejšie, lebo naše bezposádkové systémy úplne od základov ovplyvňujú nielen to, „ako" sa bojuje, ale aj to, „kto“ v skutočnosti bojuje. Takže každý jeden predchádzajúci technický prevrat vo vojne, či už to bol samopal alebo atómová bomba,

sa vzťahoval na systém, ktorý strieľal rýchlejšie, mal väčší dosah, spôsobil väčší výbuch, to je určite aj prípad robotiky. Ale tu sa mení aj skúsenosť bojovníka, dokonca aj jeho samotná identita. Inak povedané: Päťtisícročný monopol ľudstva v bojovaní vo vojne sa v našich časoch rozpadáva. Posledné roky som sa stretával so všetkými zainteresovanými v tejto oblasti, od vedcov, autorov sci-fi, ktorí ich inšpirovali, 19-ročných pilotov drón bojujúcich z Nevady, cez štvorhviezdičkových generálov, ktorí im velia, až po irackých povstalcov, ktorí sú ich terčmi a pýtal som sa, čo si myslia o našich systémoch.

Nezaujali ma len ich príbehy, ale i to, ako ich zážitky poukazujú na túto reťazovú reakciu dôsledkov pre našu spoločnosť, právny systém, našu etiku atď. A v zostávajúcom čase by som vám rád niektoré z týchto dôsledkov priblížil. Tak prvým dôsledkom je, že budúcnosť vedenia vojny, dokonca aj tej s použitím robotov, nebude čisto americká. USA majú momentálne vedúce postavenie vo vojenskej robotike, no vieme, že v technike pozícia priekopníka v žiadnom prípade trvalý náskok nezaručuje.

Prihláste sa, koľkí z vás v tejto miestnosti ešte používajú počítače Wang? Vo vojne platí to isté. Briti a Francúzi vynašli tank, no Nemci prišli na to, ako ho optimálne používať. Takže mali by sme sa zamyslieť nad tým, že USA sú v súčasnosti vo vedení, ale na svete je ďalších 43 krajín, ktoré sa zaoberajú vojenskou robotikou,

a medzi nimi sú všetky tie zaujímavé krajiny ako Rusko, Čína, Pakistan, Irán. To vo mne vyvoláva ešte väčšie obavy. Ako sa v tejto revolúcii pohneme vpred vzhľadom na stav našej výroby a úroveň vzdelávania vo vedách a matematike na našich školách? Iný spôsob nazerania na tento problém je otázka, čo to znamená ísť do boja s narastajúcim počtom vojakov, ktorých hardvér vyrábajú v Číne a softvér píšu v Indii? Ale tak, ako sa softvér stal voľne dostupným, aj vedenie vojny zaznamenalo rovnakú zmenu. Na rozdiel od lietadlovej lode alebo atómovej bomby, robotika si nevyžaduje obrovský výrobný systém, veľa z toho je bežne v predaji a niečo si môžete dokonca vyrobiť aj doma. Jednu z vecí, ktoré ste práve videli, bola dróna Raven, ktorá sa štartuje hodom z ruky. Za zhruba 1000 dolárov si môžete vyrobiť takú, akú používajú vojaci v Iraku. To je ďalší dôvod na znepokojenie, pokiaľ ide o vojnu a konflikty. Tak, ako sa s nimi môžu hrať a robiť si z nich hobby "tí dobrí",

rovnaké možnosti majú aj "tí zlí". Tento prienik robotiky a vecí ako terorizmus bude ohromujúci, ba priam znepokojujúci. Už sme boli svedkami jeho začiatku. Počas vojny medzi Izraelom, teda štátom na jednej strane, a Hizballáhom, neštátnym aktérom na druhej strane,

neštátny aktér pilotoval štyri rôzne typy drón proti Izraelu. Existuje už webstránka Džihádu, ktorú môžete navštíviť a na diaľku v Iraku odpáliť IED (improvizované výbušné zariadenie alebo fugas) zatiaľ čo sedíte doma za počítačom. Podľa môjho názoru sa v tejto súvislosti staneme svedkami dvoch tendencií.

Prvá je, že sa tým posilní moc jednotlivcov v porovnaní s vládami. Druhá je, že zažijeme rozmach v oblasti terorizmu. Jeho budúcnosť môže byť skríženie Al-Káidy 2.0 a novej generácie Unabombera, (americká tlač kedysi nazvala univerzitného a aerolinkového bombového útočníka Teda Kaczynského)

Ďalšia stránka veci, na ktorú netreba zabúdať, je, že robota nemusíte presviedčať, že po smrti dostane 72 panien, aby sa vyhodil do vzduchu. No reťazová reakcia dôsledkov tejto skutočnosti sa odzrkadlí v našej politike. Jedným z ľudí, ktorých som stretol, bol bývalý námestník ministra obrany za vlády Ronalda Regana. A on sa vyjadril takto, citujem: „Mám rád tieto systémy, lebo zachraňujú životy Američanov, ale obávam, že vzrastajúca marketizácia vojen a čoraz väčší priestor venovaný hrôzam a šoku z vojny odvracajú pozornosť od diskusie o cene.

Ľudia viac inklinujú k použitiu sily, ak majú pocit, že ich to nič nestojí.“ Vývoj robotov sa podľa mňa dotýka istých trendov, ktoré existujú v našom štátnom organizme a možno bude znamenť ich logický koniec. Nemáme žiaden nábor. Nemáme už žiadne vyhlásenia vojny. Už nekupujeme vojnové obligácie. A k tomu sa pridružuje skutočnosť, že čoraz viac amerických vojakov, ktorých by sme inak vystavili nebezpečiu, nahrádzame strojmi, a tak môžeme už aj tak zníženú latku nárokov na vojnu úplne pustiť na zem. No budúcnosť vojny bude aj vojna na YouTube. To znamená, že naše nové technológie nielen zachraňujú ľudí pred nebezpečenstvom, ale aj zaznamenávajú všetko, čo uvidia. Čiže nielenže má verejnosť len nepriame spojenie s dianím, ale jej vzťah k vojne sa pretvára. Na YouTube je dnes niekoľko tisícov videoklipov so záznamom bojov z Iraku,

väčšinu z nich zozbierali dróny. No, toto by mohla byť dobrá vec, vďaka tomu by sa vytváralo také prepojenie medzi domácim a vojnovým frontom ako nikdy predtým. Ale nezabúdajme, že toto sa deje v našom zvláštnom, čudesnom svete. Tak vďaka sťahovaniu týchto videoklipov na váš IPod alebo Zune môžete z tých videí urobiť zábavu. Vojaci majú názov pre tieto klipy. Volajú ich vojnové porno. Typický príklad niečoho takého mi zaslali emailom. V prílohe bolo video útoku dróny, ktorá ničila nepriateľskú základňu; zásahy rakiet, telá roztrhané explóziou. Bol k tomu hudobný sprievod, hrala k tomu popová skladba „I just wanna fly“ („Len chcem lietať“) od Sugar Raya. To, že môžeme viac vidieť, ale menej zažívať, skresľuje chápanie vojny verejnosťou.

V tejto súvislosti mi napadá paralela zo športu. Je to podobné ako rozdiel medzi pozeraním zápasu NBA, profesionálnej basketbalovej ligy, v televízii, kde sú športovci len malé postavičky na obrazovke, a sledovaním zápasu priamo v hale, kde naozaj vnímate, ako taký dvojmetrový človek vyzerá. Ale nesmieme zabudnúť, toto sú len klipy. Sú to len upravené verzie zápasu zo štúdia športovej stanice ESPN. Strácajú kontext, stratégiu, ľudskosť.

Vojna sa tak stáva kombináciou „zavesených košov“, čiže trafených cieľov a inteligentných bômb. Iróniou toho všetkého je, že kým budúcnosť vedenia vojny môže zahŕňať čoraz viacej strojov, je to práve naša ľudská psychika, ktorá to všetko poháňa, sú to naše ľudské zlyhania, ktoré nás do týchto vojen ženú. Takže jedným príkladom, ktorý má veľkú rezonanciu v politickej sfére, je to, ako sa to uplatňuje v našej veľmi skutočnej vojne myšlienok, v ktorej bojujeme proti radikálnym skupinám. Aký odkaz podľa nás týmito strojmi posielame, v porovnaní s tým, aký odkaz skutočne prejde?

Ďalší človek, s ktorým som sa stretol, bol istý vedúci predstaviteľ Bushovej vlády, ktorý mal na naše odosobnenie vojny takýto názor, citujem: „Využívame to ako našu silnú stránku, to, čo ľudí desí, je naša technika,“ no ak sa stretnete s ľuďmi zo zahraničia, napríklad z Libanonu, je to úplne iný príbeh. Jeden z ľudí, s ktorým som sa tam stretol, bol spravodajský redaktor a kým sme sa zhovárali, letela nad ním dróna. Povedal mi, citujem:

„Toto je ďalší prejav bezcitných, krutých Izraelčanov a Američanov, ktorí sú zbabelci, lebo do boja proti nám posielajú stroje. Nechcú s nami bojovať ako skutoční muži, ale majú strach z boja. Takže len musíme zabiť zopár ich vojakov, aby sme ich porazili.“ Budúcnosť vojny zahŕňa aj nový typ bojovníka. Je to vlastne predefinovanie skúsenosti s nasadením do vojny.

Môžete to nazvať kancelársky bojovník. Jeden pilot dróny Predátor takto opísal svoju skúsenosť, ktorú mal z vojny v Iraku, hoci z Nevady nikdy neodišiel, citujem: „Idete do vojny na dvanásť hodín, strieľate na ciele, zabíjate nepriateľských bojovníkov a potom nastúpite do auta a idete domov, do 20 minút sedíte za stolom a pri večeri sa s deťmi rozprávate o ich domácich úlohách.“ Je nesmierne ťažké tieto dve skúsenosti psychologicky vyvážiť. A v skutočnosti sa u týchto pilotov drón posttraumatická stresová porucha vyskytuje oveľa častejšie ako u mnohých jednotiek fyzicky prítomných v Iraku. No niektorí sa obávajú, že toto prerušenie priameho kontaktu bude mať za následok niečo iné. S týmto odstupom by bolo oveľa jednoduchšie

zľahčovať uvažovanie o vojnových zločinoch. „Je to ako videohra,“ tak mi jeden mladý pilot opísal zneškodňovanie nepriateľských jednotiek na diaľku. Ako každý, kto raz hral videohru ako napr. Grand Theft Auto vie, že vo svete videohier robíme veci, ktoré by sme zoči-voči skutočným ľuďom neurobili. Takže, veľa z toho, čo odo mňa počujete, poukazuje na to, že existuje odvrátená strana technickej revolúcie, a že táto formuje našu prítomnosť a možno ovplyvní aj budúcnosť vedenia vojen. Moorov zákon platí, ale rovnako aj ten Murphyho.

Rúško vojny sa neodkrýva, nepriateľ má hlas, nadobúdame neobyčajné nové schopnosti, no zároveň vidíme a zažívame nové ľudké dilemy. Niekedy sú to len tzv. momenty, kedy si človek povie „hups“, ako ich nazval šéf jednej spoločnosti robotiky. „Prosto sa vám pritrafia také momenty, kedy si poviete „hups“. “ O akých chvíľach tu hovoríme v súvislosti s robotmi a vojnou? No, niekedy sú zábavné, niekedy sa podobajú scéne z filmu s Eddiem Murphym, Best Defense (Najlepšia obrana), ak by sa odohrala v realite. V scéne skúšali robota vyzbrojeného samopalom a počas ukážky sa začal točiť v kruhu, pričom svojím samopalom mieril na tribúnu hostí VIP.

Našťastie zbraň nebola nabitá, a tak sa nikto nezranil. Ale inokedy končia takéto chvíle tragicky, ako napr. minulý rok v Južnej Afrike, keď jedno protivzdušné delo malo, citujem „chvíľkovú softvérovú poruchu“ a skutočne sa zaplo a vystrelilo, pričom zahynulo deväť vojakov. Objavujú sa tak nové otázniky v zákonoch o vojne a zodpovednosti. Čo urobíme v prípadoch, akým je neosobné zabitie? Čo je neosobné zabitie? Už sme mali tri prípady útokov drón Predátor,

keď sme si mysleli, že sme dostali Bin Ladina, a nakoniec to tak nebolo. Na takomto stupni vývoja práve sme. Ešte tu ani nie je reč o ozbrojených autonómnych systémoch s plnou mocou použiť silu a nemyslite si, že k tomu nedôjde. Počas mojej rešerše som narazil na štyri rôzne projekty Pentagonu o rôznych aspektoch tejto problematiky. Tak sa tu naskytá otázka: V čom tu spočíva súvislosť s témami, akými sú napr. vojnové zločiny? Roboty nemajú city,

takže sa nerozčúlia, ak im protivník zabije kamoša. Nepáchajú zločiny zo záchvatu zúrivosti a z pomsty. No roboty nemajú žiadne city. Pri pohľade na osemdesiatročnú starenku na vozíčku vidia to isté, ako pri pohľade na tank T80. Pre nich sú obaja len radom jednotiek a núl. Takže musíme nájsť odpoveď na otázku: Ako prispôsobíme naše zákony o vojne z 20. storočia, ktoré sú také staré, že sú zrelé do penzie, nárokom techniky 21. storočia?

Čo dodať na záver, hovoril som o tom, čo sa zdá byť budúcnosťou vedenia vojen, ale všimnite si, že som použil len príklady zo skutočného života, a videli ste len obrázky a videá zo skutočného života. To nás všetkých stavia pred veľkú výzvu, ktorej sa musíme obávať skôr, ako toho, že vám robotický vysávač Roomba z tela vysaje život. Dovolíme, aby to, čo sa dnes deje vo vojnovej sfére, pre nás znelo ako z vedecko-fanatastického románu, a aby sme tak v sebe živili zamietavý postoj? Postavíme sa tvárou v tvár realite 21.storočia? Urobí naša generácia tú istú chybu,

akú urobila predchádzajúca generácia s atómovými zbraňami a nebude sa zaoberať otázkami spojenými s týmto problémom, až kým sa Pandorina skrinka znovu neotvorí? No, mohol by som sa v tomto mýliť, a jeden vedec na poli robotiky mi povedal, že sa mýlim. Vravel: „Nejestvujú žiadne reálne, sociálne, etické a morálne problémy, pokiaľ ide o roboty.“ „Teda,“ dodal, „len ak stroj nezačne opakovane zabíjať tých nesprávnych ľudí.“ Ďalej citujem: „Vtedy je to iba otázka stiahnutia výrobku.“

A tak, záver tohto prejavu je, že sa naozaj môžeme obrátiť na Hollywood. Pred pár rokmi Hollywood zozbieral mená všetkých najlepších filmových postáv a zostavil zoznam 100 najväčších hrdinov a 100 najväčších zloduchov v celej histórii Hollywoodu, postáv, ktoré predstavovali to najlepšie a najhoršie z ľudstva.

Len jedna postava sa dostala na oba zoznamy, Terminátor, robotický vraždiaci stroj. To poukazuje na skutočnosť, že naše stroje môžeme použiť na dobro i zlo, ale podľa mňa to poukazuje aj na existenciu duality v ľuďoch. Tento týždeň je oslavou našej tvorivosti. Naša kreativita vyniesla náš druh k hviezdam.

Naša kreativita vytvorila umelecké diela a literatúru, ktorou prejavujeme našu lásku a teraz využívame našu kreativitu na iný konkrétny účel: Konštruujeme úžasné stroje s neobyčajnými schopnosťami, možno jedného dňa stvoríme aj celkom nový druh. No jedným z hlavných dôvodov nášho konania je, že nás poháňa túžba zničiť sa navzájom. A tak by sme si všetci mali položiť otázku: Sú to naše stroje, alebo my, ktorí sme naprogramovaní na vojnu? Ďakujem vám za pozornosť. (Potlesk)