Esta semana, el Papa Leo XIV emitió su primera encíclica, "Magnifica Humanitas", donde aborda la urgente necesidad de regular las armas autónomas letales y la militarización de la inteligencia artificial. En un contexto donde el desarrollo de sistemas de armas autónomas avanza rápidamente, el Papa enfatiza que "ningún algoritmo puede hacer que la guerra sea moralmente aceptable" y que las decisiones letales nunca deben ser delegadas a máquinas. Este llamado a la acción se produce en un momento crítico para la seguridad europea, ya que la falta de regulación efectiva en este ámbito podría tener consecuencias devastadoras.

El desarrollo de tecnologías de inteligencia artificial ha crecido exponencialmente, impulsado por la reducción de costos y la rápida evolución de la IA comercial. Sin embargo, la regulación en Europa ha quedado rezagada, especialmente en lo que respecta a las armas autónomas, que están excluidas del marco de riesgo del Acta de IA de la UE. Esto plantea un desafío significativo, ya que la proliferación de sistemas autónomos en conflictos como el de Rusia y Ucrania está erosionando normas históricas que prohíben la delegación de decisiones letales a máquinas. La falta de un marco regulatorio claro podría facilitar que regímenes autoritarios accedan a estas tecnologías, aumentando el riesgo de conflictos en la región.

La encíclica del Papa no solo aborda cuestiones éticas, sino que también resalta la tensión entre las ambiciones normativas de la UE y la realidad industrial. A pesar de que la UE promueve estándares éticos en foros internacionales, su dependencia de tecnologías estadounidenses en programas de defensa como el Future Combat Air System (FCAS) complica la implementación de estos estándares. Esto podría resultar en la importación de tecnologías que no cumplen con las normas éticas que la UE defiende, lo que a su vez podría erosionar su soberanía regulatoria en un área crítica para la defensa europea.

Para los inversores, la falta de regulación coherente en el ámbito de la IA militar podría significar un aumento en la incertidumbre y el riesgo. Las empresas de defensa europeas enfrentan la presión de mantenerse competitivas frente a rivales más ágiles, lo que podría llevarlas a adoptar estándares más laxos en su desarrollo tecnológico. Sin un marco regulatorio claro que abarque la investigación, la adquisición y la exportación, la UE podría terminar importando estándares que contradicen sus propios principios, lo que afectaría su posición en el mercado global de defensa.

Mirando hacia el futuro, es crucial que la UE cierre la brecha entre sus ambiciones normativas y sus dependencias industriales. Esto implica la necesidad de establecer estándares vinculantes de control humano significativo para todas las adquisiciones y exportaciones de defensa, no solo para proyectos financiados por el Fondo Europeo de Defensa. Además, se debe invertir en capacidades de IA soberanas para uso militar y fortalecer el impulso de la UE dentro de la Convención sobre Ciertas Armas Convencionales. La ventana para actuar se está cerrando rápidamente, y la inacción podría tener consecuencias no solo éticas, sino también estratégicas, que afectarán la autonomía de Europa en el ámbito de la defensa.