¿Qué haces cuando dos identidades que conforman tu ser más profundo se encuentran en lados opuestos de un campo de batalla moral y espiritual?
Soy católico. Lo he sido durante más de 20 años desde que tomé la decisión que cambió mi vida de acompañar a un amigo a misa un día. Mi fe se convirtió en un fundamento espiritual y ético en un momento en que realmente lo necesitaba, tanto que por un tiempo, contemplé entrar al sacerdocio, lo que reemplazó mi objetivo laboral anterior de entrar a la CIA. Eventualmente me di cuenta de que la enseñanza era mi verdadera vocación y decidí seguir ese camino al terminar mi doctorado, pero mi fe ha seguido siendo mi centro moral desde entonces. También soy académico de seguridad e inteligencia y me desempeño como profesor y director de los programas de posgrado en estudios de inteligencia y seguridad en la Universidad de Augusta. Durante dos décadas, he analizado la seguridad internacional y, recientemente, la tecnología emergente, particularmente dentro del ámbito de la guerra de la información, operaciones de influencia, operaciones cibernéticas y el creciente papel de la IA en los conflictos humanos.
La mayor parte del tiempo, estas dos identidades, mi rol profesional y mi fe, coexisten en una delicada pero manejable tregua, pero a veces están en un intenso conflicto. La reciente publicación de la primera encíclica del Papa Leo XIV, Magnifica Humanitas, se ha convertido en una de esas ocasiones. Como ocurre con muchos dilemas éticos, puede que no haya una respuesta conveniente o elegante, y tal vez el objetivo del Papa era precisamente llevar a quienes trabajamos en las intersecciones de la seguridad y la tecnología, como yo, a experimentar conflictos internos. Sin embargo, no creo que el católico y el académico de seguridad en mí necesiten permanecer en un conflicto perpetuo. Existe un punto en el que estas dos identidades pueden unirse con un propósito y un plan compartidos: seguir desarrollando capacidades militares potenciadas por la IA, pero con salvaguardias mucho mejores y más sólidas.
El Desafío Más Difícil del Papa
Lanzada en una era de una competencia de grandes potencias acelerada y el desarrollo de una nueva carrera armamentista de IA, Magnifica Humanitas es a la vez una defensa conmovedora de la dignidad humana y una aguda crítica de nuestra actual trayectoria tecnológica. El Papa Leo escribe: “En el corazón de la comprensión cristiana de la persona humana se encuentra la gran afirmación bíblica de que hombres y mujeres han sido creados a imagen y semejanza (cf. Gen 1:26-27) del Dios Trino. Creada para la relación, cada persona humana es planificada y querida por Dios para entrar en comunión con él, con los demás y con la creación” (Párrafo 50).
Para el Papa y para los católicos, la dignidad de cada vida humana debe ser protegida. Una de las muchas razones por las que la guerra en sí es moralmente inaceptable es que viola esta dignidad. El pontífice se opone a la larga tradición de la Iglesia en reconocer la doctrina de la guerra justa, que sostiene que si bien la guerra siempre es trágica, puede ser moralmente justificable como un acto de legítima defensa cuando es emprendida por la autoridad adecuada contra una agresión grave y cierta, después de fracasar las alternativas pacíficas, con serias perspectivas de éxito y sin causar males mayores a los que busca evitar.
Nuevamente, escribe: “Hoy, más que nunca, sin perjuicio del derecho a la legítima defensa en el sentido más estricto, es importante reafirmar que la teoría de la ‘guerra justa’, que con demasiada frecuencia se ha utilizado para justificar cualquier tipo de guerra, está ahora desfasada” (Párrafo 192). Pide el fin de los conflictos armados, afirmando que ahora tenemos “herramientas mucho más eficaces y capaces para promover la vida humana y resolver conflictos, como el diálogo, la diplomacia y el perdón” (Párrafo 192).
Con este fundamento establecido, el Papa Leo pasa a explicar por qué cree que la guerra potenciada por la IA podría hacer aún peor una situación ya inaceptable: la guerra. En una sección titulada “Armas e Inteligencia Artificial”, advierte que la IA “solo puede llevar al conflicto más rápidamente y hacerlo más impersonal, reduciendo el umbral para recurrir a la violencia, transformando la defensa en la predicción de amenazas y, de este modo, reduciendo a las víctimas a datos”. Además, “nos acostumbrará a la idea de que la violencia es inevitable y solo necesita ser optimizada” (Párrafo 198). Luego, en el mismo párrafo, dice que “no es permisible confiar decisiones letales u irreversibles a sistemas artificiales. Ningún algoritmo puede hacer que la guerra sea moralmente aceptable”.
Elegir el Camino del Menos Daño
Como católico, no puedo tratar una encíclica papal como si fuera simplemente otro artículo de opinión. Estoy llamado a recibirla con profundo respeto, y así lo hago. Pero como académico de seguridad, también me siento compelido a buscar un punto de reconciliación entre lo que veo como el profundo llamado moral de la encíclica a proteger la dignidad de la persona de los peligros de la IA y de poner fin al ciclo de escalada de la IA, y mi propio punto de vista realista de que para proteger esa misma dignidad, las sociedades democráticas deben estar preparadas para utilizar la IA de manera responsable en la guerra.
Examinemos las dos líneas firmes que traza el Papa Leo. En primer lugar, afirma que la guerra en sí misma es moral y teológicamente inaceptable y que la doctrina de la guerra justa está desactualizada. Sin embargo, no siento que necesariamente lo sea. Aquí, el Papa parece declarar que debido a la sofisticación tecnológica que la sociedad posee actualmente, junto con la enorme estructura de comunicación que abre más canales diplomáticos, las premisas de que cualquier llamado a la guerra sea “justo” ya no aplican. Es decir, la sociedad debería haber superado la necesidad de la guerra en parte debido a su sofisticación tecnológica.
Si bien efectivamente tenemos las herramientas para resolver conflictos sin violencia, y existen numerosos mecanismos de generación de confianza para moldear la comunicación global, la confianza y la paz entre los adversarios, aún existen actores malintencionados que están decididos a librar guerras. De hecho, las mismas herramientas tecnológicas que crean condiciones para la paz, como insiste el Papa, también pueden proporcionar una ventaja competitiva y una justificación para emprender operaciones ofensivas. Por lo tanto, aunque existe la posibilidad de la paz, la guerra persiste. Y dado que ocurre, creo que también es nuestra responsabilidad hacer todo lo posible para reducir el daño. Lamentablemente, hay situaciones en las que esto se puede lograr mejor a través de la lucha que del pacifismo absoluto, y la historia está llena de ejemplos de esto.
A continuación, examinamos la creencia del Papa de que no es permisible confiar decisiones letales e irreversibles a sistemas autónomos. Estoy de acuerdo. Si bien hay muchas ventajas estratégicas que la guerra potenciada por la IA puede ofrecer, reemplazar el rol humano en la toma de decisiones letales no debería ser una de ellas. La supervisión humana siempre debe estar presente. Pero decir que los sistemas de armas completamente autónomos no deberían ser utilizados no es lo mismo que decir que las capacidades militares potenciadas por la IA no deberían ser utilizadas en absoluto. Todos los sistemas de armas autónomos utilizan IA, pero no todas las tecnologías militares potenciadas por la IA son sistemas de armas autónomos.
He escrito extensamente sobre las capacidades militares potenciadas por la IA en contextos académicos así como para los medios de comunicación convencionales. No soy un evangelista de la IA y comparto la opinión de que existen riesgos importantes en la integración de la IA en conflictos armados. Al mismo tiempo, creo que los sistemas asistidos por IA tienen la capacidad de minimizar el daño. Pueden procesar cantidades enormes de datos de manera exponencialmente más rápida de lo que cualquier humano puede, acortar la cadena de muerte y permitir una mayor precisión en la selección de objetivos y el compromiso. Esto, a su vez, teóricamente podría reducir el riesgo para los civiles de varias formas, como la mejora en la identificación de objetivos, una mejor monitorización de los cambios en tiempo real en el entorno (por ejemplo, un objetivo militar que de repente se ve rodeado de civiles), una evaluación mejor de los daños colaterales y ataques más precisos que podrían reducir la necesidad de formas de fuerza más amplias y menos discriminatorias.
Por supuesto, el hecho de que una tecnología tenga la capacidad de reducir el daño no significa necesariamente que lo haga, y el Papa Leo muestra una conciencia sofisticada de cómo las cosas podrían salir mal. Esto nos lleva a la preocupación del pontífice de que la IA pueda escalar y proliferar la violencia en lugar de reducirla. Esto es ciertamente posible. La IA puede acortar la cadena de muerte, y teóricamente esto podría reducir la destrucción y minimizar las bajas civiles, pero esto no garantiza por sí solo esos resultados. No hay suficiente evidencia que apoye esta última afirmación y, en todo caso, conflictos recientes como la guerra en Irán y la guerra en Gaza resaltan la incertidumbre y los riesgos, lo que refuerza la advertencia del Papa.
Sin embargo, la IA representa una posibilidad para reducir conflictos y minimizar el daño a los civiles. Cuando observamos el mundo tal como es, vemos adversarios autoritarios y actores no estatales que no respetan las restricciones éticas compitiendo por explotar la IA con fines militares. Para las sociedades democráticas en un momento de amenazas en proliferación, abstenerse de las capacidades militares potenciadas por la IA o de la guerra en su totalidad podría significar ceder ventaja a aquellos que no honran el imago Dei, la creencia de que cada persona está creada a imagen de Dios y, por lo tanto, debe ser honrada y protegida.
A lo largo de la encíclica, el Papa también destaca que un orden social justo debe proteger a los inocentes y a los vulnerables entre nosotros, sin embargo, si nos detenemos en el desarrollo de nuestras propias capacidades de defensa asistida por IA mientras los adversarios las adoptan sin restricciones, serían precisamente esas personas vulnerables a las que estaríamos poniendo en riesgo. Por lo tanto, creo que tenemos una responsabilidad moral y ética de explorar todas las vías posibles para contener el conflicto y minimizar el daño civil tanto como sea posible, y una de esas vías es estar preparados para utilizar las mismas tecnologías con las que se están armando nuestros adversarios, aunque con estrictas salvaguardias para evitar que los temores del Papa Leo se hagan realidad.
El Papa mismo parece dejar una pequeña puerta abierta para este camino intermedio. A pesar de sus profundas preocupaciones, no es anti-tecnología ni siquiera anti-IA en sí misma. Presenta la IA como capaz de servir a la humanidad cuando se orienta hacia el bien común, pero peligrosa cuando está impulsada por la competencia despiadada y la búsqueda del poder y la ganancia. Escribe que por lo tanto “el desarrollo y el uso de la IA en la guerra deben estar sujetos a las restricciones éticas más rigurosas, para garantizar el respeto por la dignidad humana y la santidad de la vida y para evitar una carrera para desarrollar tales armas” (Párrafo 197). También enfatiza “la importancia de inculcar, en la medida de lo posible, valores y un juicio sólido en los sistemas artificiales que construimos, para que puedan contribuir a un ecosistema moral en el que los seres humanos sean mejores escuchando sus propias conciencias, así como permitiendo que los modelos de IA establezcan límites adecuados”.
En otras palabras, parece sugerir que si se va a utilizar la IA en conflictos armados, la única condición bajo la cual esto es aceptable es si existen salvaguardias rigurosas. También es posible que lo que realmente quiera decir con someter el uso de la IA en la guerra a las “restricciones éticas más rigurosas” sea frenar el desarrollo. Si ese es su argumento, entonces estoy dispuesto a aceptarlo, a pesar de mi fe y mi amor y respeto por el papa, tengo una opinión diferente sobre este punto específico.
Una Gobernanza Estricta de la IA Como un Camino Intermedio
El Papa y yo estamos alineados en la imperativa de defender la santidad de la vida y la necesidad de restricciones estrictas para garantizar que la IA reduzca el daño en lugar de exacerb… (TEXT TRUNCATED)
