P.W. Singer em robôs militares e o futuro da guerra

O que vamos fazer é simplesmente mostrar uma série de fotos por trás de mim que demonstram a realidade dos robôs usados na guerra agora, ou que estão na fase de protótipo. Isto é só para dar uma pequena amostra. Outra forma de o dizer é: você certamente não encontrará nada com a tecnologia Vulcan ou que são resultados das hormonas de um génio adolescente. Tudo isto é real. Vamos então às fotografias. Algo muito grande está acontencendo na guerra hoje e talvez na própria história da humanidade. As forças armadas dos EUA foram para o Iraque com poucos VANTs (veículos aéreos não tripulados), hoje já são mais de 5,300. Entramos no Iraque sem nenhum veículo terrestre não tripulado, hoje temos 12,000. E o termo "aplicativo killer" ganha todo um novo significado neste contexto É preciso lembrar que estamos a falar sobre o Modelo T4, o avião dos irmão Wright, comparado ao que virá em breve. Esse é o lugar onde nos encontramos agora.

Uma das pessoas que encontrei recentemente era um Tenente-General da Força Aérea, e ele disse, "Basicamente muito em breve, teremos dezenas de milhares de robôs em atividade em nossos conflitos." Esses números são importantes porque não estamos apenas a falar sobre dezenas de milhares dos robôs de hoje, mas dezenas de milhares desses protótipos e dos robôs de amanhã. Logicamente, uma das coisas que regem a tecnologia é a Lei de Moore, onde você pode incrementar cada vez mais capacidade computacional nesses robôs. Então vamos nos adiantar 25 anos, se a Lei de Moore se provar verdadeira, esses robôs serão quase um bilião de vezes mais potentes em termos de processamento do que hoje. Isso significa que certas coisas que eram apenas discutidas

em convenções de ficção científica como o Comicon agora devem ser discutidas nos salões do poder, em lugares como o Pentágono Estamos diante de uma revolução dos robôs. Precisamos ser claros. Não estou a falar de uma revolução onde você precisa se preocupar se o governador da Califórnia irá aparecer na sua porta tipo Exterminador Implacável Quando historiadores estudarem este período irão concluir que estamos diante de uma revolução diferente, uma revolução na guerra, como a invenção da bomba atómica. Mas poderá ser ainda maior do que isso, pois nossos sistemas não tripulados não afetam apenas "como" se luta uma guerra, eles também afetam profundamente "quem" está a lutar essa guerra Isto é, todas revoluções anteriores seja a invenção da metralhadora ou do bomba atómica,

eram sobre um sistema que ora atirava mais rápido, ia mais longe, tinha uma explosão maior, e isso certamente é o caso da robótica. Mas elas também afetam a experiência do combatente, e até mesmo a própria identidade do combatente. Outra forma de dizer isso é que o monopólio de mais de 5.000 anos que a humanidade teve sobre as guerras está a ser desfeito agora. Passei os últimos anos viajando e a encontra-me com todos envolvidos nesta área, de cientistas de robótica a autores de ficção científica que os inspiraram, a jovens pilotos de VANTs que combatem a partir de Nevada, ao General que os comandava, aos revoltosos iraquianos que estavam sob a mira, e saber o que eles acham sobre nossos sistemas.

O que achei interessante não foram apenas suas histórias, mas como a sua experiência reflete o efeito cascata que atinge a sociedade, e nossa lei, nossa ética, etc. O que eu gostaria de fazer com o tempo que me resta é desenvolver alguns desses tópicos. Primeiramente, o futuro da guerra, mesmo que seja uma guerra robótica, não será exclusivamente norte americana. Os EUA estão atualmente à frente da robótica militar, mas sabemos que quando se trata de tecnologia não existe algo como vantagem permanente de quem larga na frente.

Por favor levantem a mão aqueles na sala que ainda usam um computador Wang? A mesma coisa acontece na guerra. Os britânicos e franceses inventaram o tanque, mas os alemães descobriram como usá-lo da melhor forma. O que precisamos pensar é que os EUA estão na liderança agora, mas há outros 43 países pelo mundo afora trabalhando com robótica militar,

nesta lista encontram-se países bem interessantes como Rússia, China, Paquistão e Irão. E isso deixa-me ainda mais preocupado. Como avançamos em meio a esta revolução dado o estado atual da nossa capacidade de manufatura e do ensino de matemática e ciência em nossas escolas? Outra forma de pensar sobre o assunto é o que significa ir para a guerra com soldados cujos equipamentos são cada vez mais produzidos na China e cujos aplicativos são desenvolvidos na Índia? Mas assim como os aplicativos tornaram-se fontes abertas, a guerra também. Diferentemente de um porta-aviões ou uma bomba atómica, você não precisa de um sistema massivo de manufatura para construir robôs. Muitas peças podem ser compradas diretamente e algumas podem ser feitas por conta própria. Uma das imagens apresentadas foi de um VANT Raven, que é lançado manualmente. E por 1.000 dólares você pode construir um, equivalente ao modelo usado por soldados no Iraque. Mas isso gera outro problema quando se trata de guerra e conflito. Pessoas boas podem brincar e trabalhar com essa tecnologia como um hobby,

mas pessoas más também podem fazer isso. A encruzilhada entre robótica e coisas como o terrorismo será fascinante e alarmante. Já vimos o começo. Durante a guerra entre Israel, um estado, e o Hezboulah, que não representa um estado,

houve uso de quatro tipos de VANTs contra Israel por parte do Hezboulah Já existe um site Jehadi na Internet onde você pode detonar remotamente um Dispositivo Explosivo Improvisado no Iraque a partir do seu computador na sua casa. Acredito que iremos ver duas tendências.

Primeiramente, haverá uma intensificação da força de indivíduos contra governos. Em segundo lugar, iremos ver uma expansão do terrorismo. No futuro poderemos ver uma mistura entre Al Qaeda 2.0 e a próxima geração do Unabomber

Podemos ainda ver isso de outra forma. Lembre-se você não precisa convencer um robô de que ele irá ganhar 72 virgens após a morte para convencê-lo a se detonar. Mas o efeito cascata disso chegará até a política. Uma das pessoas com quem me encontrei foi o ex Secretário Adjunto de Defesa do Governo Regan. Essas eram as suas palavras, "Gosto desses sistemas porque eles poupam vidas norte-americanas, mas me preocupo com a mercantilização das guerras, com toda conversa de "choque e pavor" para desviar atenção da discussão dos custos.

É mais provável que as pessoas apoiem o uso da força se ela não tiver um custo alto." Para mim, os robôs representam certas tendências já utilizadas na nossa política atual e talvez as levem ao seu destino lógico. Não temos mais alistamento obrigatório. Não temos mais declarações de guerra. Não compramos mais títulos de guerra. E agora estamos cada vez mais convertendo nossos soldados norte-americanos que enfrentariam o perigo em máquinas. É possível que peguemos este baixo padrão e o rebaixemos ainda mais. Mas o futuro da guerra também será uma guerra YouTube. Isto é, nossas novas tecnologias não apenas afastam os seres humanos do risco. Elas também gravam tudo o que vêem. Elas não apenas desassociam o público, como também remodelam toda sua relação com a guerra. Já existe milhares de video clips com cenas de combate no Iraque disponíveis no YouTube agora.

A maioria delas geradas pelos VANTs. Isso poderia ser algo positivo pois poderia reforçar como nunca antes os laços entre aqueles que estão em casa e aqueles que estão na frente de guerra. Mas lembre-se que isso está a acontecer no nosso estranho e bizarro mundo. Inevitavelmente, a possibilidade de baixar esses vídeo clipes para seu iPod ou seu Zune permite que isso vire uma forma de entretenimento. Os soldados já têm um nome para esses clipes. Eles os chamam de pornografia de guerra. Eu recebi um bem típico. Era um email com um arquivo de vídeo anexado de um ataque de um Predator aniquilando uma base inimiga. Mísseis eram disparados, corpos voavam pelo ar após a explosão. E havia uma música de fundo, uma música pop chamada "I Just Want to Fly" de Sugar Ray. Essa possibilidade de assistir cada vez mais, porém vivenciar cada vez menos gera distorções na relação do público com a guerra.

Posso até traçar um paralelo com o mundo do desporto. É a mesma diferença entre ver um jogo da NBA na televisão, onde os atletas são apenas pequenas figuras na tela, e estar presente pessoalmente nesse jogo e ver o que realmente é uma pessoa com mais de dois metros de altura. Temos que nos lembrar que são apenas vídeoclips; eles são a versão da ESPN para o jogo. eles são a versão da ESPN para o jogo.

Eles perdem todo humanismo e a guerra se resume a enterradas e bombas inteligentes. A verdadeira ironia de tudo isso é que enquanto o futuro da guerra irá depender cada vez mais de máquinas, é a nossa psicologia humana que propulsiona tudo isso; são nossas falhas que levam a essas guerras. Um exemplo que tem muita repercusão no mundo da política é como isso afeta a nossa guerra de ideias; estamos lutando contra grupos radicais. Qual a mensagem que achamos que estamos a enviar om todas estas máquinas, versus o que está sendo recebido em termos da mensagem.

Uma das pessoas com quem me encontrei foi um alto funcionário do Governo Bush que tinha isso a dizer sobre a nossa desumanização da guerra: "Isto nos fortalece ainda mais. O que realmente amendronta as pessoas é a nossa tecnologia." Mas quando nos encontramos com pessoas, por exemplo, no Líbano, a história é bem diferente. Uma das pessoas que encontrei lá era um editor jornalístico e conversávamos enquanto um VANT nos sobrevoava. Isto é o que ele tinha a dizer:

"Isso é apenas mais um sinal da frieza, da crueldade de israelitas e norte-americanos, que são covardes pois enviam máquina para lutar contra a gente. Não querem lutar como homens de verdade; eles têm medo de lutar. Então precisamos matar alguns dos seus soldados para derrotá-los." O futuro da guerra também trará um novo tipo de combatente. E isso irá redefinir toda experiência bélica.

Poderemos chamá-lo de combatente de cubículo. Foi assim que um piloto do VANT Predator descreveu sua experiência como combatente na Guerra do Iraque apesar de nunca ter deixado Nevada, "Você vai para a guerra por 12 horas, atirando contra alvos, planeando a eliminação de combatentes inimigos e depois você entra no seu carro e volta para casa. 20 minutos depois você está sentado na mesa de jantar conversando com seus filhos sobre as tarefas da escola." Lidar com o impacto psicológico de todas essas experiências é muito difícil. E é fato que esses pilotos de VANTS sofrem de índices maiores de Transtorno do Stress Pós Traumático do que muitos dos soldados que estiveram presentes fisicamento no Iraque. Mas alguns preocupam-se que esse distanciamento poderá levar a outras consequências; poderá facilitar a contemplação de crimes de guerra

sempre que houver essa distância "É como um vídeo jogo"; foi assim que um jovem piloto descreveu sua experiência de ataque a distância contra seus inimigos. Qualquer um que tenha jogado Grand Theft Auto sabe que fazemos coisas no mundo virtual que não faríamos se estivéssemos cara a cara com a situação. Muito do que eu estou falando para vocês é que há um outro lado das revoluções tecnológicas, e ele está a definir o nosso presente e talvez irá remodelar o futuro da guerra. A Lei de Moore é operacional, mas a Lei de Murphy também é.

A névoa que cobre a guerra não está se dissipando. O inimigo tem razão: estamos a ganhar novas capacidades incríveis. Mas também estamos vendo e vivenciando novos dilemas humanos. Algumas vezes temos o que chamamos de momentos "oops". Foi assim que o chefe de uma empresa de robótica descreveu a situação, "Nós simplesmente temos momentos ''oops". E o que são esses momentos com robôs e guerra? Algumas vezes eles são engraçados. Algumas vezes eles são como aquela cena do filme do Eddie Murphy, A Melhor Defesa É o Ataque, quando testam um robô armado com uma metralhadora e durante a demonstração o robô começa a girar em círculos e aponta sua metralhadora para toda comitiva de VIPS.

Felizmente a arma não estava carregada e ninguém se feriu. Mas outras vezes esses momentos "oops" são trágicos, omo no ano passado na África do Sul, onde um canhão anti-aéreo teve uma falha de software e foi acionado e atirou. Nove soldados morreram. Há também novas falhas nas leis da guerra e da responsabilidade. O que fazemos sobre fatos como um massacre não tripulado? O que é um massacre não tripulado? Já tivemos três casos de

ataques Predator onde pensamos que tínhamos eliminado Bin Laden. Mas no final vimos que não era o caso. Esse é o ponto onde estamos agora. E ainda nem estamos falando de sistemas armados autónomos, com total autorização para uso de força. Não pense que isso não acontecerá. Durante minha pesquisa encontrei quatro projetos distintos do Pentágono sobre diferentes aspectos dessa questão. Eis que surge a pergunta: Quais as implicações disso para assuntos como crimes de guerra? Os robôs não têm sentimentos,

então eles não ficam chateados quando um companheiro é morto. Eles não cometem crimes de raiva e vingança. Mas os robôs não têm sentimentos; ele vêem uma velhinha de 80 anos em uma cadeira de rodas da mesma forma que veem um tanque T80. Os dois não passam de uma série de zeros e uns. Eis a questão, como podemos equiparar nossas leis de guerra do século 20, que já estão praticamente ultrapassadas, às novas tecnologias do século 21.

Para concluir, já falei sobre o que poderá ser o futuro da guerra, mas repare que somente usei exemplos do mundo real e você só viu fotos e vídeos do mundo real. Isso cria um grande desafio para nós E precisamos nos preocupar com isso antes de nos preocuparmos com uma série de outras coisas menos importantes. Vamos deixar que o que está acontecendo na guerra agora pareça ficção científica e fiquemos em um estado de negação. Vamos encarar a realidade da guerra do século 21? A nossa geração irá cometer os mesmos erros de gerações passadas

com armas atómicas e não trataremos dos assuntos relacionados ao fato até que caixa de Pandora já esteja aberta? Eu posso estar enganado a respeito disso como um cientista do Pentágono me disse, "Não há questões reais, sociais, éticas ou morais quando se trata de robôs, a menos que a máquina mate as pessoas erradas repetidamente, nesse caso temos uma questão de recall de produto."

A conclusão de tudo isso é que de fato podemos nos voltar para os exemplos de Hollywood. Alguns anos atrás Hollywood juntou todos seus maiores personagens e criou uma lista dos seus 100 maiores heróis e dos 100 maiores vilões da história de Hollywood. Eram os personagens que representavam o melhor e o pior da humanidade.

Apenas um personagem aparecia nas duas listas: O Exterminador do Futuro, uma máquina mortífera robótica. Isso nos mostra que nossas máquinas podem ser usadas para o bem e para o mal. Mas para mim isso também é um claro exemplo da dualidade do ser humano. Essa semana celebra nossa criatividade. A nossa criatividade já levou nossa espécie até as estrelas.

A nossa criatividade já criou obras de arte e de literatura que exprimem o nosso amor e agora estamos a usar nossa criatividade em uma direção para criar máquinas espetaculares, com enormes capacidades. E talvez um dia possamos criar toda uma nova espécie. Mas uma das razões que nos leva a fazer isso é nossa determinação para destruir uns aos outros. Então, a pergunta que devemos todos fazer é quem está de fato programado para guerra: as nossas máquinas ou nós mesmos? Muito obrigado Aplauso.