El Papa Leo XIV llamó a una regulación más estricta y un ritmo más lento de avances en inteligencia artificial en un documento teológico histórico publicado el lunes, advirtiendo que la tecnología está alimentando y normalizando conflictos en todo el mundo.
En un manifiesto amplio y muy esperado sobre el tema, Leo advirtió que la IA no debe ser “concentrada en manos de unas pocas personas” y llamó a que fuera “desarmada”.
El primer Papa nacido en Estados Unidos estaba escribiendo en su primera encíclica, un texto clave que describe la opinión del Papa sobre asuntos globales, titulada “Magnifica Humanitas” (Humanidad Magnífica).
Fue publicado junto a Christopher Olah, uno de los cofundadores del gigante de IA Anthropic.
Eso plantea otro posible punto conflictivo entre el Vaticano y el presidente Donald Trump, cuya administración ordenó a todas las agencias dejar de usar Anthropic después de que la empresa se negara a dar acceso ilimitado a su tecnología al ejército de EE. UU.
“Llamar a la prudencia, a una evaluación rigurosa y, en ocasiones, a un ritmo más lento en la adopción de la IA no significa oponerse al progreso”, dijo el Papa en el documento. “En cambio, es un ejercicio de cuidado responsable para la familia humana”.
Su lanzamiento se produce después de que Leo enfrentara ataques públicos de Trump después de su crítica a la guerra de Irán.
Aunque el documento se publicó el lunes, Leo lo firmó el 15 de mayo, específicamente para coincidir con el 135 aniversario de otro documento clave elaborado por su predecesor homónimo, el Papa León XIII, en 1891.
Mientras que el Leo anterior se centraba en los derechos de los trabajadores en la revolución industrial, el Leo actual escribió que “no podemos limitarnos simplemente a repetir sus enseñanzas perspicaces”. En su lugar, “debemos pedir a Dios la sabiduría para interpretar las grandes tendencias de nuestro tiempo, especialmente los avances tecnológicos”, dijo.
Este pontífice graduado en matemáticas buscaba dejar claro que no es un ludita, escribiendo que “la tecnología no debe considerarse, en sí misma, como una fuerza antagonista a la humanidad”.
En cambio, advirtió contra la IA siendo utilizada por unos pocos intereses privados poderosos, sin control por parte de los gobiernos y con la capacidad de normalizar la guerra a través de armas no tripuladas. “Una IA más moral no es suficiente si esa moralidad la determinan unos pocos”, escribió.
Lamentó “la creciente facilidad con la que se pueden desplegar sistemas de armas autónomas”, lo que, dijo, “hace la guerra más ‘factible’ y menos sujeta al control humano”.
“El uso de la IA en la guerra debe estar sujeto a las restricciones éticas más rigurosas, para garantizar el respeto por la dignidad humana y la santidad de la vida y para evitar una carrera por desarrollar tales armas”, escribió. También advirtió que “la humanidad se está deslizando hacia una cultura violenta del poder, donde la paz ya no aparece como una responsabilidad a asumir, sino como un intervalo frágil entre conflictos”.
“Nuestra tarea hoy no es solo ética o técnica. Es ecológica en el sentido más profundo, porque concierne a una nueva dimensión de nuestro hogar común”, escribió Leo. “La IA ya es un entorno en el que estamos inmersos, así como una fuerza con la que debemos comprometernos. Por esta razón, simplemente regularla no es suficiente; debe ser desarmada, acogedora y accesible”.
