NUEVA YORK – El Pentágono ha revisado silenciosamente su doctrina sobre cómo el ejército de EE. UU. elige sus objetivos en batalla, abriendo el camino para que la inteligencia artificial (IA) tome decisiones críticas en el futuro.
Los principios de orientación revisados, aprobados sin divulgación pública en abril, imaginan “sistemas donde la IA inicia acciones con supervisión humana”, evolucionando de lo que describe como la práctica actual de tener “sistemas con humanos en el circuito, en los cuales un humano inicia acciones”.
Bloomberg News revisó los últimos cambios, que no se habían informado previamente. Si bien no está clasificado, el documento no se ha hecho público.
La guía de orientación revisada es el último ejemplo de la prisa del Pentágono por acelerar la adopción de la IA, una tecnología que ya está transformando los campos de batalla en conflictos en todo el mundo.
Las capacidades en rápido crecimiento de la IA también están planteando nuevas amenazas y dilemas éticos, desafiando la capacidad militar para mantener el ritmo y cumplir con la ley del conflicto armado.
“La velocidad de la guerra futura, junto con los avances de nuestros adversarios en la IA, pueden requerir que la fuerza conjunta adopte sistemas completamente autónomos”, dice la publicación.
La visión controvertida se incluye en un nuevo capítulo sobre el futuro del direccionamiento. La publicación en su conjunto establece procedimientos oficiales para el llamado direccionamiento conjunto – cómo las fuerzas armadas de EE. UU. determinan qué disparar en combate.
Ofrece nuevo contenido sobre “mitigación de daños civiles” justo semanas después de que el Pentágono anunciara una investigación sobre un ataque a una escuela primaria junto a una base naval del Cuerpo de la Guardia Revolucionaria Islámica en la ciudad iraní de Minab que mató aproximadamente a 120 niños.
No está claro si el documento refleja lecciones de la guerra de Irán, ya que los cambios en la doctrina suelen ser emprendimientos prolongados. La actualización anterior se realizó en septiembre de 2024, antes de que el presidente de EE. UU., Donald Trump, regresara al cargo.
El Pentágono no respondió a una solicitud de comentarios.
Anteriormente, el 25 de junio, el Pentágono anunció que desplegaría herramientas avanzadas habilitadas con IA para “comprimir el tiempo que lleva convertir la inteligencia en opciones informadas para los comandantes en todo el mundo”, diciendo que transformaría la gestión de batallas, el apoyo a decisiones y el direccionamiento.
El sistema no seleccionaría ni atacaría objetivos de manera autónoma, pero aseguraría que los comandantes tengan acceso a opciones basadas en el escaneo continuo de inteligencia militar y sistemas operativos, agregó el Pentágono.
Mientras que ediciones anteriores de la doctrina de dirección conjunta han sido publicadas en línea, a veces como resultado de solicitudes bajo la Ley de Libertad de Información, nada más allá de la versión desactualizada de 2018 está disponible para el público.
El documento revisado más reciente, la indicación más explícita hasta la fecha del enfoque del Pentágono en eliminar a los humanos de decisiones de vida o muerte, deja claro que la IA reducirá el “ciclo de sensor a atacante” y “aumentará el ritmo de operaciones”.
Al mismo tiempo, la nueva doctrina reconoce los riesgos de depender exclusivamente de la IA, diciendo que “plantea dilemas morales y legales serios y requiere el establecimiento de pautas éticas inequívocas para mitigar preocupaciones con decisiones mejoradas por la IA”.
La doctrina actualizada no introduce esa orientación, pero un nuevo memorándum presidencial de seguridad nacional publicado a principios de junio dio al Pentágono 90 días para actualizar su política sobre autonomía en sistemas de armas.
En este momento, la política requiere que los sistemas de armas autónomos y semiautónomos se sometan a revisiones para garantizar que estén diseñados para permitir que los comandantes y operadores ejerzan “niveles adecuados de juicio humano sobre el uso de la fuerza”. Esto está muy lejos de los objetivos de los defensores que buscan un mayor salvaguarda del control humano significativo.
El secretario general de las Naciones Unidas, Antonio Guterres, está entre aquellos que han pedido una prohibición de los sistemas de armas autónomas letales, calificándolos de “políticamente inaceptables” y “moralmente repugnantes”.
Anthropic, que proporciona sus herramientas de IA a las redes clasificadas del Pentágono, incluido para su uso en las operaciones en Irán, tuvo desacuerdos con la agencia sobre la insistencia de la empresa en que la tecnología aún no es lo suficientemente confiable para lo que el director ejecutivo Dario Amodei describió como “armas completamente autónomas” y que los humanos deben tomar la decisión final de usar la fuerza.
La nueva doctrina de direccionamiento, por su parte, dice que el ejército “debe tener cuidado de no depender demasiado en la salida de la IA sin supervisión humana”, señalando que los algoritmos de IA pueden absorber y analizar productos de inteligencia “a una escala y velocidad que supera con creces la capacidad humana”.
También describe un papel más amplio para la IA en mejorar la calidad de los datos de direccionamiento, ayudando a cerrar brechas en la inteligencia y automatizar los flujos de datos.
Varios expertos en direccionamiento han expresado la esperanza de que conectar sistemas digitales e introducir más IA – no menos – podría ayudar a abordar y solucionar problemas de direccionamiento en el futuro.
Eso podría incluir, por ejemplo, realizar una verificación automatizada contra sitios públicos, como Google Maps, para ayudar a detectar posibles anomalías para revisión humana.
“Los avances en la IA mejorarán el proceso de direccionamiento y permitirán compromisos de precisión a larga distancia”, dice el documento del Pentágono, indicando que los comandantes “necesitarán aprovechar el poder de la IA” para complementar el análisis humano, la toma de decisiones y la gestión de riesgos con el fin de mantener la ventaja de la fuerza conjunta.
“La IA puede comparar rápidamente datos de objetivos recopilados de múltiples plataformas para corroborar la veracidad de la información recopilada”, continúa el documento.
Pero el último documento de direccionamiento conjunto también agrega precaución en un apéndice dedicado al desafío histórico de integrar la automatización en el direccionamiento, diciendo que “la automatización no es un reemplazo del pensamiento humano o de la comunicación proactiva”.
Independientemente de cualquier herramienta automatizada utilizada, dice que “los comandantes son responsables de las prioridades, efectos y tiempos” dentro de su área operativa, y de la adhesión a la ley de la guerra y las reglas de combate militares relevantes. BLOOMBERG
