Por Joshua McElwee

  • El papa León XIII advierte que la IA corre el riesgo de llevar al mundo por el camino de una guerra interminable.
  • Leo realiza una serie de apasionados llamamientos en su primera encíclica.
  • El primer papa estadounidense pide a las empresas de IA que moderen la competencia.
  • El Papa condena los conflictos y repudia la doctrina de la «guerra justa».
  • Leo pide disculpas por el papel de Church en la esclavitud transatlántica.

CIUDAD DEL VATICANO, 25 de mayo (Reuters) – 

El Papa León XIII instó a los gobiernos a ralentizar y regular de cerca el desarrollo de los sistemas de IA en su 

primer documento importante , publicado el lunes, advirtiendo que difunden desinformación, priorizan el conflicto y corren el riesgo de llevar al mundo por un camino de guerra interminable.El primer papa estadounidense también expresó su preocupación en un acto en el Vaticano para presentar el texto, señalando que algunos sistemas de armas autónomas han avanzado «prácticamente más allá del alcance humano para controlarlos». Al evento también asistió Chris Olah, cofundador de Anthropic, una de las principales empresas de inteligencia artificial del mundo.

Leo, que ha adoptado un tono más enérgico 

en los últimos meses y se ha ganado la ira del presidente estadounidense 

Donald Trump tras criticar 

la guerra contra Irán , hizo una serie de apasionados llamamientos a los líderes mundiales en el extenso documento, conocido como encíclica.El primer papa estadounidense pidió que la propiedad de los datos de IA no quedara exclusivamente en manos privadas, que los responsables políticos protegieran los derechos de los trabajadores y mantuvieran a los niños a salvo de esta tecnología, e instó a que se moderara la competencia entre las empresas de IA.»Lo que se necesita es una participación política más activa, capaz de frenar las cosas cuando todo se acelera», dijo Leo en el texto titulado «Magnifica Humanitas» (Magnífica Humanidad).

El Papa pidió «marcos jurídicos sólidos, supervisión independiente, usuarios informados y un sistema político que no eluda su responsabilidad».Las encíclicas son una de las formas más elevadas de enseñanza que un pontífice puede transmitir a los 1.400 millones de miembros de la Iglesia.El texto que se publicará el lunes, con casi 43.000 palabras, lleva gestándose 

prácticamente desde la elección de León XIII como papa hace poco más de un año.

EL PAPA REPUDIA LA TEORÍA DE LA «GUERRA JUSTA»

El documento, que abordaba la IA como tema principal, también denunciaba el número de guerras que asolan el mundo, lamentaba el debilitamiento de las organizaciones multilaterales y advertía de que los beneficios de la industria armamentística eran un factor determinante en los conflictos.»Los últimos 60 años han estado marcados por conflictos de una brutalidad asombrosa, que a menudo han afectado a poblaciones civiles a gran escala», afirmó Leo en el texto en inglés.

«La humanidad se está deslizando hacia una cultura violenta del poder, donde la paz ya no se percibe como una responsabilidad que deba asumirse, sino como un frágil intervalo entre conflictos», afirmó.En el 

evento celebrado el lunes en el Vaticano, Olah, cofundador de Anthropic, agradeció a Leo por abordar los problemas que plantea esta tecnología disruptiva e innovadora. Afirmó que empresas como la suya se enfrentan a fuertes presiones comerciales y necesitan un escrutinio externo.«Cada laboratorio de IA de vanguardia, incluido Anthropic, opera dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto», dijo Olah. Anthropic es la empresa que produce las herramientas de IA Claude.En su encíclica, León XIII también hizo una de las declaraciones más claras hasta la fecha por parte de un papa, repudiando la teoría de la guerra justa, una doctrina que la Iglesia ha utilizado 

al menos desde el siglo V para evaluar los conflictos mundiales.Esta doctrina, que generalmente sostiene que las guerras solo deben librarse para defenderse de la agresión, también ha sido invocada por funcionarios de la administración Trump, incluido el vicepresidente JD Vance, católico, para defender la guerra contra Irán.»La teoría de la ‘guerra justa’, que con demasiada frecuencia se ha utilizado para justificar cualquier tipo de guerra, está ahora desfasada», escribió Leo.»El uso de la fuerza, la violencia y las armas refleja una pobreza relacional que siempre tiene consecuencias desastrosas para las poblaciones civiles.»

Leo también expresó su preocupación de que los líderes pudieran iniciar guerras para distraer a los ciudadanos de los problemas internos.»No podemos descartar la posibilidad de que algunos líderes consideren el conflicto armado como una forma eficaz de desviar la atención de los problemas internos y una herramienta cínica para gestionar las dificultades», afirmó.

EL PAPA PIDE DISCULPAS POR EL PAPEL DE LA IGLESIA EN LA ESCLAVITUD

El Papa afirmó que cualquier uso de la IA en la guerra «debe estar sujeto a las más rigurosas restricciones éticas» y calificó de «inaceptable» confiar a los sistemas de IA decisiones letales.León, el decimocuarto papa en elegir ese nombre, citó siglos de enseñanzas papales previas sobre cuestiones de justicia social antes de abordar la ética de los sistemas de IA.Hizo referencia específicamente a su predecesor, León XIII, quien publicó una famosa encíclica en 1891 que pedía mejores salarios y condiciones laborales para los trabajadores durante la Revolución Industrial.León XIV denunció lo que él denominó «nuevas formas de esclavitud» sufridas por las personas que trabajan en el mantenimiento de sistemas de IA y por los obreros que fabrican los dispositivos tecnológicos, como ordenadores y teléfonos inteligentes, en los que se utiliza la IA.»En algunas regiones del mundo, niños y adolescentes trabajan en condiciones peligrosas, triturando los materiales de los que se extraen los elementos de tierras raras», escribió el Papa.«Los cuerpos de estas personas están marcados, heridos y desgastados para que el flujo computacional pueda continuar sin interrupciones», afirmó. «Esta realidad supone un profundo desafío para la conciencia moral de nuestro tiempo».El Papa también reconoció que la Iglesia Católica no condenó enérgicamente la esclavitud transatlántica hasta el siglo XIX, y ofreció una disculpa personal.«Esto constituye una herida en la memoria cristiana», escribió. «Por ello, en nombre de la Iglesia, pido sinceramente perdón».

EL PAPA INSTA AL MUNDO A ABORDAR LOS RIESGOS DE LA IA

Leo, quien afirmó al inicio de la carta que quería dirigirse a los católicos y a todas las personas de buena voluntad, dijo que la sociedad debe afrontar «cuestiones cruciales» sobre cómo se está desarrollando la IA y la dirección general del liderazgo mundial.Invocando la historia bíblica de la Torre de Babel, donde una tribu humana, impulsada por el orgullo, intenta construir una torre lo suficientemente alta como para llegar al Cielo, enfureciendo a Dios, el Papa dijo que la historia muestra el riesgo de cualquier empresa que «aspire a llegar al cielo sin la bendición de Dios».»Con el corazón de un pastor y de un padre, pido a todos que abandonen la construcción de otra Torre de Babel y que unan fuerzas para construir el bien común», declaró el Papa.Leo instó al mundo a no cejar en su empeño de abordar los posibles riesgos de los sistemas de IA.»Puede surgir una tentación sutil, a saber, la idea de que los problemas son demasiado grandes y nosotros demasiado pequeños, y que, por lo tanto, nuestras decisiones no pueden marcar la diferencia», escribió.«Desde luego, no todos tenemos el mismo poder para marcar la diferencia», dijo Leo. «Sin embargo, nadie está exento de responsabilidad. Todos tenemos nuestras propias áreas de actuación».