Magnifica Humanitas, que se traduce como «Gran Humanidad», es la primera encíclica del Papa León XIV. Cuando se trata de abogar por la regulación de las tecnologías y tecnologías de IA, resulta sorprendente tanto por sus temas como por su intensidad. Reducir la concentración del poder mundial. En manos de unas pocas empresas tecnológicas.

Si usted es católico o ateo (como el abajo firmante), ciertamente no esperaría que la primera encíclica del último Papa fuera totalmente comprometido con «La protección humana en la era de la inteligencia artificial»como subtítulo de un documento de más de 42.000 palabras concebido como un marco ético, «Proteger a las generaciones futuras de la humanidad».

Este argumento común no es nuevo, e independientemente de las opiniones de cada uno de nosotros en la Iglesia Católica, muchos pueden hacerse eco de él, incluidos más de 1.000 científicos, ingenieros, intelectuales e incluso tecnólogos que, en una carta abierta hace tres años, pidieron un cese temporal del desarrollo de proyectos de inteligencia artificial a gran escala en respuesta a su crecimiento. «plantea profundos riesgos para la sociedad y la humanidad». Esta situación puede ocurrir sin un control y gestión adecuados.

Desde entonces no se ha hecho nada. viceversa. La carrera global por controlar el mundo a través de la inteligencia artificial se ha intensificado, generando críticas de un hombre que, aunque no somos creyentes, ejerce una gran influencia en el mundo como líder religioso y moral de más de 1.400 millones de personas.

La grandeza de la humanidad: desarmar la inteligencia artificial

El Papa define la inteligencia artificial como «Una herramienta valiosa para mantener la vigilancia». El amplio documento insta a tener precaución en el uso de la inteligencia artificial (especialmente en áreas como el ejército o el lugar de trabajo) y es probable que se convierta en un texto clave a medida que los formuladores de políticas y las empresas de tecnología elaboran estrategias para el desarrollo y la tan necesaria regulación de la tecnología en los próximos años.

Cabe señalar que León XIV era un matemático de formación. Esta experiencia es clave para cualquier desarrollo tecnológico. Además, para comprender el alcance del interés del Papa por la inteligencia artificial, debemos analizar su elección de nombres. Su decisión de utilizar el nombre León XIV se remonta al Papa León XIII, quien sirvió como Papa durante la Revolución Industrial y escribió la encíclica Rerum Novarum sobre el capital y el trabajo. Mucha gente considera que la inteligencia artificial es otra gran revolución que impactará al mundo, al igual que la revolución industrial que nos cambió para siempre.

Uno de los mensajes de interés del texto es el llamamiento del Papa «Desbloqueando la Inteligencia Artificial». Si bien esto puede ser una advertencia sobre el uso militar de la inteligencia artificial, sus implicaciones son mucho más profundas. “Desarme significa cuestionar la premisa de que el poder tecnológico confiere automáticamente el derecho a gobernar” escribió. «El desarme no significa rechazar la tecnología, sino impedir que domine a la humanidad. Significa liberarla del control monopolístico, abrirla al diálogo y al debate, haciéndola así más accesible a la humanidad y reintegrarla en diversas culturas y modos de vida humanos..

El Papa advirtió contra permitir que quienes controlan la inteligencia artificial determinen e impongan el marco ético para la gobernanza de la tecnología. En cambio, afirma que se debe observar la ética de la IA. «Estándares comunes de justicia social» y se convirtió en tema de debate público entre todos. “Si la moralidad la determinan unos pocos, entonces una IA más ética no es suficiente”escribió.

El Papa también señaló Estas tecnologías carecen de humanización: «Estos sistemas simplemente imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo superan a la inteligencia humana en velocidad y poder computacional, proporcionando beneficios tangibles en muchas áreas.… pero «Las IA no experimentan, no tienen cuerpo, no sienten placer ni dolor, no maduran a través de las relaciones y no saben desde dentro lo que significa el amor, el trabajo, la amistad o la responsabilidad. Tampoco tienen conciencia moral porque no juzgan el bien y el mal, no comprenden el significado último de las situaciones y no se responsabilizan de las consecuencias.señaló.

Uso personal de la inteligencia artificial

León XIV también reflexionó sobre cómo deberíamos utilizar la inteligencia artificial para evitar «Fomenta la dependencia excesiva y la búsqueda de respuestas prefabricadas, lo que socava la creatividad y el juicio personal». Lo mismo ocurre con la comunicación con inteligencia artificial, que puede resultar útil, pero: “Para los usuarios menos exigentes, también puede ser engañoso, creando la ilusión de una relación con una persona real… Existen riesgos cuando se imitan la atención y el apoyo en ausencia de una conexión humana real”. señaló.

Revelador

Desde que asumió el papado, León XIV ha hablado directamente con la industria tecnológica en varias ocasiones y ha desafiado directamente a los desarrolladores en una encíclica, como él cree. «Tienen una especial responsabilidad moral y espiritual porque cada decisión de diseño refleja una visión de la humanidad».

Educación y empleo

El gran llamado de la humanidad «Alianza para la Educación en la Era Digital» Fomentar la enseñanza del pensamiento crítico sobre la inteligencia artificial a los jóvenes para prevenir la llamada inteligencia artificial «Apatía en busca de la verdad». Las regulaciones también deberían proteger a los jóvenes del contenido violento o abusivo generado por la IA, así como del acoso y la explotación sexual. León XIV advirtió La Inteligencia Artificial no debería utilizarse para justificar el desempleo sistémico. Por tanto, se fomenta la reconversión profesional y la protección laboral de los trabajadores en riesgo de desempleo debido a la IA.

“Para el César es del César; para Dios es de Dios”

Es difícil no estar de acuerdo con las reflexiones generales del Papa sobre la inteligencia artificial y el desarrollo bajo el control de unos pocos (incluso para un ateo acérrimo que está profundamente en desacuerdo con la Iglesia católica). Gobierna el mundo, no solo en tecnología. Puede que el Papa no tenga el poder gubernamental para regular las empresas de IA y hacerlas responsables de su desempeño empresarial y económico, pero eso no significa que debamos subestimar su influencia.

León XIV señaló en «La Gran Humanidad» Los humanos deberíamos tener voz y voto en el papel de la inteligencia artificial en nuestro mundo. El debate sobre sus méritos y deméritos es ahora más intenso que nunca. Se entiende que todo lo relacionado con la inteligencia artificial debe tener un ordenamiento jurídico sólido y garantizar plenamente que estos proyectos tendrán un impacto positivo en la sociedad y que sus riesgos sean controlables. Por eso recomienda “Construir herramientas regulatorias apropiadas para salvaguardar la justicia y prevenir los efectos distorsivos del poder tecnológico”. Esta vez: Amén.