El futuro tecno de la guerra infinita

Cuando comienzan los errores y las pesadillas, no responsabilices a las computadoras.

 

Vale la pena preguntarse respecto de los conflictos globales, aparentemente interminables, de los Estados Unidos: si matás a alguien y de nuestro lado no hay nadie allí, ¿Estados Unidos sigue en guerra? Esa puede ser la pregunta verdaderamente importante cuando se trata del futuro de la guerra contra el terrorismo, que está por cumplir 18 años y alcanza partes importantes del Medio Oriente y el norte de África. Si querés, pensalo como la pregunta de la inteligencia artificial, o IA.

Sin embargo, esa no es la pregunta que obsesiona a Washington y sus expertos en defensa y opineitors. Trump, sus funcionarios clave, el Pentágono, militares retirados, medios de defensa y expertos por igual insisten en que el país ya no enfoca seguridad nacional en la lucha contra grupos insurgentes como Al Qaeda y El Estado Islámico sino contra lo denomina “enemigos casi pares», una frase elegante para referirse a China y Rusia. Diversos tweets y declaraciones del presidente Trump afirman que las interminables guerras de Estados Unidos llegarán a un «final glorioso» y que «este es el momento de traer a nuestras tropas de regreso a casa».

Pero, ¿realmente se está abandonando la guerra contra el terrorismo para centrarse en la competencia con aquellas grandes potencias? Después de que el Presidente anunció en diciembre el retiro de Siria de los 2.000 soldados estadounidenses porque «hemos ganado la batalla contra ISIS», la portavoz de la Casa Blanca Sarah Sanders aclaró que esto «no señala el fin de la coalición global o su campaña». En ruptura con Trump, el Pentágono aclaró aún más: 1,000 de esas tropas permanecerían y la coalición liderada por los Estados Unidos continuaría sus ataques aéreos hasta la «derrota defintiva de ISIS». Desde entonces, esos ataques aéreos (y sus correspondientes víctimas civiles acompañantes) sólo han aumentado.

Casi simultáneamente se informó que Trump había ordenado al Pentágono que retirara a 7.000 de los aproximadamente 14.000 soldados en Afganistán, como parte de un plan mayor para concluir la guerra allí. Después de la indignación bipartidista, el gobierno también retrocedió en esto.

Pocas semanas después, la Misión de Asistencia de las Naciones Unidas en Afganistán informó que, en 2018, las víctimas civiles causadas por los ataques aéreos de los Estados Unidos casi se habían duplicado con respecto al año anterior. El aumento de estos números, probablemente subestimados, se atribuyó a que los Estados Unidos realizaron un mayor número de ataques. Solo en 2019, estimamos que más de 100 civiles han sido asesinados por ataques aéreos estadounidenses allí, un fenómeno que no muestra signos de disminución.

Luego la administración de Trump lanzó el rumor de que el Pentágono traería tropas a través de África, específicamente en Somalia, para centrarse en esa «próxima frontera de la guerra» (Rusia y China). Con una estipulación: los ataques aéreos y las operaciones de contraterrorismo continuarían, por supuesto. ¿La única diferencia? Según el nuevo plan, la responsabilidad de esos ataques aéreos contra militantes en Somalia se trasladaría cada vez más a la CIA.

De hecho, los ataques aéreos de los Estados Unidos ya han aumentado radicalmente en los años de Trump. Según la fundación New America, en los últimos seis meses ha habido más ataques aéreos en Somalia que en cualquier año calendario completo de la campaña desde que comenzó. Para dar una nueva vuelta de tuerca al deseo de Trump de «detener las guerras interminables», los funcionarios del Pentágono dieron a conocer sus propias noticias: ¡las tropas de los Estados Unidos permanecerían en Somalia durante otros siete años!

Los ataques remotos con aviones no tripulados ya han cambiado la forma en que los estadounidenses piensan acerca de las guerras que se llevan a cabo en su nombre (si es que alguien piensa en ellos). El día de las elecciones de 2018, por ejemplo, el periodista Ezra Klein afirmó que «Estados Unidos no está en guerra». Aunque posteriormente fue zarandeado en Twitter por la declaración, esto apunta a un problema mayor: las guerras de Estados Unidos se han vuelto tan invisibles que incluso las personas que en teoría podrían informar sobre ellos parecen estar olvidándolas.

 

 

En Medio Oriente y África, los bombardeos, los ataques con misiles y los golpes con aviones no tripulados solo han aumentado, mientras que los estadounidenses aquí en casa se quedan con la impresión de que, como dijo Trump, «nuestros niños, nuestras mujeres jóvenes, nuestros hombres están volviendo” a casa y las guerras sin fin finalmente están terminando.

Pero todos los planes que pretenden reducir, si no terminar, la guerra mundial contra el terrorismo, hasta ahora han resultado en cualquier cosa menos eso. Y dadas las nuevas estrategias de seguridad nacional e inteligencia artificial del gobierno de Trump, es probable que esto sea solo el comienzo de un proceso que hará más fácil que Washington entre en guerra sin que aquí nadie lo note.

Los funcionarios del Pentágono recientemente dejaron en claro que quieren expandir el uso de la inteligencia artificial en la guerra para mantener la “posición estratégica de los Estados Unidos y prevalecer en futuros campos de batalla”. Por desgracia, el público no tiene que preocuparse sólo del futuro campo de batalla. El Ejército de los Estados Unidos ya ha comenzado a hacer más autónomos sus sistemas de armas existentes. Es probable que este proceso se acelere (de manera bastante indetectable) gracias a la falta de transparencia que rodea el desarrollo y la aplicación de la IA, así como al hecho de que participarán activamente en la creación de esa tecnología empresas privadas, que no tienen responsabilidad pública.

 

Tecnología militar: la última caja negra

En la cultura popular, las conversaciones sobre los peligros de la tecnología militar avanzada tienden a girar en torno a robots asesinos y otros escenarios distópicos que parecen sacados de películas como Terminator, iRobot y, más recientemente, Black Mirror de Netflix. Sin embargo, las discusiones en la «burbuja» de la política exterior de Washington se centran en una única posibilidad aterradora: que los enemigos de Estados Unidos sean los primeros en aprovechar esta tecnología. Aunque es probable que nadie en Washington niegue que los robots asesinos puedan representar una auténtica amenaza global, el enfoque en ellos y, especialmente, en lo que los chinos y los rusos podrían hacer con ellos, ignora todas las tecnologías intermedias que ya están en funcionamiento y que probablemente lleven al mundo al ojo de la tormenta.

De hecho, la Junta de Innovación para la Defensa del Pentágono señala lo obvio: que «el impacto de la IA y el aprendizaje automático (ML) se sentirán en todas las operaciones del Departamento». De hecho, el Ejército ya está utilizando inteligencia artificial en el campo de batalla, notoriamente a través del «Proyecto Maven». Desde principios del año pasado, Maven ya se ha desplegado en una media docena de ubicaciones en el Medio Oriente y África. Emplea inteligencia artificial para peinar imágenes de vigilancia de aviones no tripulados y seleccionar objetivos para futuros ataques con drones, en lo que se anuncia como una manera más rápida, más fácil y más eficiente.

Maven rápidamente ganó notoriedad porque los empleados de Google, empresa con la que el Departamento de Defensa se había asociado para producirla, firmaron una declaración indignados por la decisión de la compañía de entrar en el negocio de la guerra. Muchos de sus principales investigadores de IA, en particular, están preocupados de que el contrato con el Pentágono solo sea un primer paso en el desarrollo y uso de estas tecnologías incipientes en sistemas de armas avanzadas. Esa petición fue firmada por casi 4.000 empleados de Google y finalmente resultó en que la compañía (en su mayoría) no renovó el contrato.

Eso, sin embargo, no ha impedido que otras empresas se disputen la participación en el Proyecto Maven. En marzo de 2019 una empresa fundada por Palmer Luckey, un ferviente partidario de Donald Trump, de 26 años, se convirtió en la última empresa tecnológica en ganar un contrato del Pentágono como parte del proyecto.

Las preocupaciones de los empleados de Google se vuelven más urgentes debido a las limitaciones inherentes de los complejos sistemas de inteligencia artificial, que los dejan efectivamente inmunes a la supervisión humana. Los sistemas de reconocimiento de imágenes como Maven cometen errores. Pueden identificar erróneamente las imágenes de manera que desconciertan incluso a sus programadores. También son potencialmente vulnerables a ataques por parte de piratas informáticos capaces de manipular imágenes de manera que los humanos que reciben la salida del sistema de AI probablemente no lo detecten.

En realidad, el aprendizaje automático complejo sigue siendo un proceso extraordinariamente opaco incluso para los expertos en inteligencia artificial. En 2017, por ejemplo, un estudio realizado por investigadores de JASON, un grupo independiente de asesores científicos del gobierno federal (cuyo contrato, según se informó, se terminó recientemente), descubrió que las pruebas que aseguran que los sistemas de inteligencia artificial se comporten de manera predecible en todos los escenarios, pueden no ser factibles.  Advirtieron sobre las posibles consecuencias, cuando se trate de rendir cuentas, si dichos sistemas se incorporan de todos modos a las armas letales.

Sin embargo, tales advertencias no han impedido que el Pentágono se mueva a todo vapor en el desarrollo y la puesta en funcionamiento de sistemas de inteligencia artificial, mientras que la carrera de armamentos de la IA se recalienta en todo el mundo. A medida que la inteligencia artificial se integra cada vez más a las operaciones diarias del Pentágono, la falta de salvaguardas será más evidente.

Las nuevas empresas de tecnología, grandes y pequeñas, ya están ganando contratos militares que anteriormente solo se destinaban a contratistas de la vieja guardia como IBM y Oracle. Por ejemplo, Palantir Technologies, una compañía de software de Silicon Valley fundada por un inversionista multimillonario (y que fue asesor de Trump) Peter Thiel, recientemente venció a Raytheon por un gran contrato de inteligencia del Ejército, lo que la convierte en la primera compañía de Silicon Valley en ganar un gran contrato del Pentágono. La comunidad de inteligencia también ha estado integrando la inteligencia artificial en sus operaciones durante años, gracias en gran parte a un contrato de computación en la nube de 2013 con Amazon. Sin embargo, muy poco se ha hecho público sobre cómo las nuevas tecnologías están siendo utilizadas por la CIA y otras agencias de inteligencia.

 

El riesgo de la guerra perpetua

Quizás más peligroso que las vulnerabilidades tecnológicas de AI es el impacto perjudicial que podría tener en la responsabilidad de Washington, que está eternamente en guerra. El secreto que rodea a los usos militares y de seguridad nacional de la IA es ya profundo y creciente. Aparte de la información de todo tipo que ya está sobre-clasificada, especialmente en lo que se refiere a inteligencia artificial, el uso de empresas privadas para hacer mucho trabajo de desarrollo de AI para las agencias de seguridad nacional del país solo agregará una capa adicional de secreto. Después de todo, los contratistas privados del gobierno no están sujetos a los mismos requisitos de transparencia que las agencias gubernamentales. No están, por ejemplo, sujetos a la Ley de Libertad de Información.

Por ejemplo, el Pentágono se negó a publicar una sola de las 5000 páginas que documentan el trabajo de Google en el Proyecto Maven, alegando que constituían «información crítica de infraestructura». Si las agencias federales van a afirmar que toda la información sobre AI es demasiado sensible para ser liberada al público, entonces estamos entrando en una nueva era de secreto gubernamental que superará lo que ya hemos visto.

Esto también es cada vez más cierto en el extranjero. El Pentágono, por ejemplo, llevó el Proyecto Maven al campo de batalla en Irak y Siria en 2018. Poco después, el ejército de Estados Unidos dejó de divulgar toda información sobre ataques aéreos en esos países, dejando al público aquí en gran parte a ciegas sobre el aumento de víctimas civiles que siguieron.

¿Qué papel, si lo hubo, desempeñó la inteligencia artificial en esos asesinatos? ¿Quién tiene la culpa si una computadora identifica erróneamente un objetivo (y nadie lo sabe)? El Estado de seguridad nacional claramente no está interesado en dar respuesta a tales preguntas.

Las nuevas tecnologías de inteligencia artificial también debilitarán la responsabilidad al distanciar a los responsables políticos e incluso al propio Ejército de las consecuencias de las decisiones y acciones estadounidenses en el extranjero. Los militares continúan promocionando la capacidad de AI para hacer que la fuerza letal sea cada vez más precisa y eficiente, pero es seguro que esa fe ciega en una nueva tecnología llamativa, aún en las primeras etapas de desarrollo, llevará en direcciones cada vez más perjudiciales. Y cuando comienzan los errores y las pesadillas, no responsabilices a las computadoras.

Las compañías tecnológicas, por su parte, han dejado claro que no aceptarán ninguna responsabilidad por la forma en que el Pentágono y las agencias de inteligencia utilizan sus sistemas de inteligencia artificial. En el Aspen Security Forum de 2018, Teresa Carlson, vicepresidenta de Amazon Web Services, dijo a la audiencia que la compañía no ha «trazado ninguna línea roja» con respecto al uso de la tecnología por parte del gobierno y que su apoyo a las fuerzas de seguridad, defensa e inteligencia es inamovible. Carlson admitió que a menudo Amazon no “sabe para qué están utilizando la herramienta”, pero insistió en que el gobierno debería tener la mayoría de las “herramientas innovadoras y de vanguardia” disponibles para que no sea superado por sus adversarios.

En una carta escrita para protestar por el contrato de su compañía para proporcionar audífonos de realidad aumentada AI al Ejército, los empleados de Microsoft destilaron la esencia de este problema de responsabilidad: «Se desplegará en el campo de batalla y funciona convirtiendo la guerra en un videojuego simulado». «Más alejados de los soldados de las sombrías realidades de la guerra y del derramamiento de sangre».

Al fin de cuentas, colocar sistemas de inteligencia artificial entre los comandantes militares y el campo de batalla puede hacer que la violencia sea más frecuente, y no menos, como en el caso del programa de aviones no tripulados. Cuanto más Washington se apoya en la tecnología para tomar decisiones de combate, mientras mantiene a los soldados estadounidenses alejados de sus zonas de combate remotas (y por lo tanto con pocas bajas estadounidenses), es más probable que reduzca los costos tradicionales de la guerra en términos de ambos: vidas y responsabilidades (no estadounidenses). En otras palabras, cuanto más puedan reducir las restricciones, políticas y de otro tipo, sobre las acciones del país en el extranjero. La falta de responsabilidad política, después de todo, es una de las principales razones por las cuales las guerras estadounidenses son ahora, para usar un término reciente del Pentágono, «infinitas».

Los políticos y los expertos pivotean cada vez más sobre la competencia de grandes potencias, así como en los planes para acabar con los conflictos de guerra contra el terrorismo y traer a las tropas de vuelta a casa. Es un objetivo admirable, pero en un mundo cada vez más impulsado por la inteligencia artificial, ¿y si en realidad significa un futuro aumento de esas mismas guerras? Después de todo, mientras las bombas sigan cayendo y la gente siga muriendo en otros países, nuestras guerras no estarán «terminadas», simplemente serán más fáciles de ignorar para los estadounidenses.

En la búsqueda de tecnologías que, en teoría, están destinadas a mantener al país más seguro, es importante garantizar que el Estado de seguridad nacional no facilite las guerras interminables ocultándolas cada vez más de la vista pública y transfiriendo  la responsabilidad de enfrentarlas a las máquinas.

Lo que el presidente Trump realmente está proponiendo es eliminar el aspecto más visible, las tropas, mientras continúa el bombardeo de ocho países y las operaciones secretas de contraterrorismo en casi la mitad del mundo.

 

 

 

 

* Publicado en Tom Dispatch

--------------------------------

Para suscribirte con $ 250/mes al Cohete hace click aquí

Para suscribirte con $ 500/mes al Cohete hace click aquí

Para suscribirte con $ 1000/mes al Cohete hace click aquí

6 Comentarios
  1. luis dice

    a ver si hyde es mas inteligente que vos. te haria falta un poco de inteligencia, artificial…o de la otra

Dejá tu comentario

Su dirección de correo electrónico no será publicada.