León XIV pide en su primera encíclica poner freno al poder de las tecnoélites y crear un código ético global para la IA
El papa León XIV ha presentado este lunes su primera encíclica, la Magnifica Humanitatis, un texto de 110 páginas y cinco capítulos que ha sorprendido por su alcance: más que un documento sobre inteligencia artificial —que era lo que muchos esperaban—, es un diagnóstico moral de la civilización en lo que él llama la cuarta revolución industrial. León, tras su primer año de papado, ha aprovechado además el documento para apuntalar su visión geopolítica, especialmente en el capítulo final, donde pide superar la doctrina de la guerra justa.
[–>[–>[–>La encíclica, publicada coincidienco con el 135 aniversario de la Rerum novarum de León XIII, retoma su misma estructura: los nuevos asuntos (rerum novae) que el mundo exige que la Iglesia interprete. El Papa organiza su argumento en torno a dos imágenes bíblicas: la torre de Babel, símbolo de la hybris tecnológica que reduce al ser humano a datos, y la reconstrucción de los muros de Jerusalén por Nehemías (antiguo testamento), símbolo de la responsabilidad compartida desde abajo.
[–> [–>[–>Uno de sus diagnósticos más descarnados tiene que ver con quién controla el poder tecnológico. Antes eran los estados; hoy «los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos superiores a los de muchos gobiernos». El poder tecnológico ha adquirido así «un rostro predominantemente privado, y por ello aún más difícil de gobernar y y orientar hacia el bien común». Eso fundamenta aún más la demanda de regulación y gobernanza internacional, razona.
[–>[–>[–>
La línea roja
[–>[–>[–>
Con ello, el primer Papa peruano-estadounidense retoma la crítica al «paradigma tecnocrático» que ya formuló Francisco y reclama un código ético compartido sobre la IA anclado en criterios de justicia social. No sirve «una IA más moral si esa moral la deciden unos pocos», escribe. Los sistemas de IA, advierte, no son neutrales: «reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado». E insiste: «la propiedad de los datos no puede confiarse sólo al sector privado»; deben gestionarse como «bienes comunes o colectivos».
[–>[–>[–>Es aquí donde adopta su tono más beligerante frente a las tecnoélites que además promueven nuevas ideologías. Critica el transhumanismo y el poshumanismo: «El ser humano no florece a pesar del límite, sino a menudo a través del límite«, afirma. «El posthumanismo, sobre todo en sus versiones más radicales, critica el antropocentrismo y plantea una forma de hibridación entre el ser humano, la máquina y el ambiente […] Estas hipótesis están ganando relevancia.» Pero la humanidad «no debe ser reemplazada ni superada».
[–>[–>[–>
Esclavitud digital
[–>[–>[–>
No obstante, la IA ya genera nuevas formas de esclavitud: la de los «cuerpos marcados, mutilados, consumidos» de quienes extraen tierras raras —adolescentes y niños en condiciones peligrosas—, y la de millones de trabajadores invisibles que etiquetan datos y moderan contenidos, «en su mayoría mujeres, que trabajan duro a cambio de remuneraciones mínimas«. «No basta con invocar la eficiencia ni con alabar los beneficios de la innovación, si estos se basan en una cadena de explotación que se mantiene deliberadamente oculta», señala. Las redes criminales, además, usan plataformas digitales para reclutar y controlar víctimas de la trata.
[–>[–>
[–>El colonialismo muestra hoy este «rostro inédito«, que ya no domina solo cuerpos, sino que «se apropia de los datos, transformando las vidas personales en información explotable». Flujos sanitarios, mapas genéticos y perfiles demográficos son «las nuevas tierras raras del poder». Estas pueden utilizarse para entrenar modelos predictivos, orientar estrategias de inversión, anticipar crisis y, sobre todo, seleccionar quién y qué importa», dice el Papa. De no revertirse esta situación, «la era digital no será postcolonial, sino colonial bajo otra forma«. En este contexto, el Papa pide perdón en nombre de la Iglesia por su complicidad histórica con la esclavitud: «En nombre de la Iglesia, pido sinceramente perdón», escribe, para reforzar la urgencia de combatir sus formas actuales.
[–>[–>[–>
«La revolución digital está modificando la gramática de los conflictos«, y a ello se suma «una preocupante pérdida de memoria histórica» que facilita la reescritura distorsionada del pasado. Para León, no hay salida tecnológica a esto. «No existe ningún algoritmo que pueda hacer que la guerra sea moralmente aceptable». La IA solo puede hacerla «más rápida e impersonal, con las víctimas reducidas a datos«. Defiende el multilateralismo y la ONU, pero reclama «reformas profundas» frente a su actual debilidad. Y en un pasaje de resonancias inequívocas frente a sectores próximos a Trump o Putin, advierte: «Quien utiliza el nombre de Dios para legitimar el terrorismo, la violencia o la guerra, traiciona su rostro».
[–>[–>[–>La doctrina clásica y los abusos
[–>[–>[–>
En un guiño a los sectores más conservadores, el Papa asimismo reitera que el aborto y la eutanasia son «decisiones gravemente ilícitas» y, hablando también a quienes están fuera de la Iglesia, pide que la jerarquía eclesiástica depure sus estructuras de «opacidad y prevaricaciones«, en referencia a los abusos del clero. Es importante, recuerda, escuchar a las víctimas como «parte integrante de un camino de justicia, que comprende el reconocimiento del daño, la reparación justa y la prevención».
[–>[–>[–>
Suscríbete para seguir leyendo
Puedes consultar la fuente de este artículo aquí