El papa León XIV publicó este lunes su primera encíclica desde su llegada al Vaticano, y en ella, entre varios temas, aborda el impacto de la inteligencia artificial (IA).
El texto, titulado "Magnifica Humanitas" ("Magnífica Humanidad"), expone una perspectiva en torno al uso de la IA, material que elaboró junto a expertos en IA, incluyendo el cofundador de la compañía Anthropic, Christopher Olah.
"No podemos considerar a la IA como moralmente neutra", indica el papa, pidiendo "desarmar" esta tecnología para "impedirle el dominio sobre lo humano", por lo que pidió "desarmar" esta tecnología para "impedirle el dominio sobre lo humano".
El líder de la Iglesia Católica denuncia también que el control de las plataformas, las infraestructuras y los datos "no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso".
Los planteamientos del papa fueron respaldados por varias voces del mundo tecnológico. El propio Olah, cofundador de Anthropic -empresa que se ha negado a usar esta tecnología para fines bélicos, lo que le ha valido la ofensiva de Donald Trump-, planteó que "necesitamos que más sectores del mundo (...) hagan lo que su Santidad ha hecho aquí: tomarse esto en serio, observar de cerca y ayudar a orientar los acontecimientos hacia una mejor dirección".
Por su parte, el cardenal Fernando Chomali, elaboró un decálogo a partir de la encíclica, donde destaca 10 aspectos clave, entre ellos, que "la persona humana está en el centro de todo progreso tecnológico"; "el gran desafío de nuestro tiempo no es técnico, sino humano y espiritual"; "la inteligencia artificial debe estar al servicio del bien común"; "la dignidad humana no depende de la productividad ni de las capacidades"; "la fragilidad no es un defecto que deba eliminarse".
Agrega que "ninguna inteligencia artificial puede reemplazar la experiencia humana"; "la verdad es un bien común que debe ser protegido"; "el trabajo humano no puede quedar sometido a la lógica de las máquinas"; "la libertad está amenazada por nuevas formas invisibles de control"; y "la paz y la civilización del amor son la verdadera alternativa al poder tecnológico".
En conversación con Emol, expertos de distintas áreas también revisan los alcances de lo señalado por el papa en su encíclica, documento que, además, tiene un alto peso en el magisterio pontificio.
Más allá de lo ético: la IA como desafío estructural
El sociólogo de la UNAB, e Investigador Principal del Núcleo Milenio Crisis Políticas en América Latina, (Crispol), Mauro Basaure, comenta que la encíclica del papa, "está mostrando es que el Vaticano considera que el tema, la cuestión de la inteligencia artificial, no es un asunto técnico como el Internet, sino que tiene la relevancia de un cambio histórico y un rol civilizatorio, de cambio de civilización, con lo cual yo estoy completamente de acuerdo".
Bassaure profundiza en que este "cambio civilizatorio", se expresa en que la IA no es solamente una innovación digital en un sentido acotado, "sino que es una una verdadera intervención respecto del tipo de sociedad que configura el nuevo contexto de trabajo, dominio y construcción algorítmica".
"La encíclica lo saca (a la IA) del tema puramente ético y lo plantea en términos de una de una crítica institucional del orden tecnológico global".
Mauro Basaure, sociólogo
El experto destaca que esta encíclica, además, "ya no plantea el problema de la inteligencia artificial, desde el punto de vista de un desafío ético, que es más o menos como hasta ahora se había tratado, es decir, como una especie de desafío ético a nivel individual, de cómo nos posicionamos en cuestiones como la privacidad, la transparencia, el uso de datos, los posibles sesgos que se pueden generar y todo ese tipo de cosas. La encíclica lo saca del tema puramente ético y lo plantea en términos de una de una crítica institucional del orden tecnológico global".
"Se pone a ese nivel, como de una crítica de la razón instrumental, una crítica de la razón tecnológica, a nivel de fenómenos estructurales, como la concentración de poder de las grandes plataformas que se forman en organizaciones más poderosas que los estados", subraya Basaure.
Así, destaca que el documento profundiza en "las desigualdades que se generan entre los países poderosos y los que no lo son y los que no poseen esta tecnología; aborda cuestiones que tienen que ver con cómo se automatiza de esta manera la guerra, las formas de exclusión que genera, y cómo esto configura un futuro en clave de de determinadas élites técnico-económicas que eran impensadas hasta hace poco, y formas de desigualdades nunca vistas, difíciles de abordar".
Desafío para las empresas y en la educación
Por su parte, Marcelo Drago, ex presidente del Consejo para la Transparencia y experto de Data Compliance, comenta que "la Encíclica Magnifica Humanitas plantea un mensaje muy oportuno para las empresas: la inteligencia artificial no puede evaluarse solo desde la eficiencia o la innovación, sino desde su impacto real en la dignidad de las personas, el trabajo, la transparencia y los derechos fundamentales".
"El desafío para el sector privado es pasar del cumplimiento formal a una gobernanza ética, trazable y responsable de la IA, incorporando evaluaciones de impacto humano y social antes de desplegar sistemas automatizado", subrayó.
En tanto, desde el mundo de la psicología y educación, Pablo Palma, director de la carrera de psicología de la U. Autónoma, subraya que "el desarrollo y uso de la inteligencia artificial no es neutral y, efectivamente, si no se regula, puede ser utilizada en fines que vayan en desmedro de las personas. Por esta razón, quienes trabajamos en el diseño de estas tecnologías, en la eliminación de sus sesgos y desde el mundo académico, estamos impulsando con urgencia un uso ético de la IA".
"Desde la psicología, y particularmente desde el apoyo a personas en situaciones complejas, observamos que la IA, al ser una creación humana, arrastra y replica nuestros propios prejuicios. El verdadero peligro radica en que estos sesgos invisibles y errores automatizados ya están afectando a la sociedad, especialmente hoy en día, cuando el sistema está tomando decisiones de manera autónoma. Para evitarlo, resulta indispensable 'desarmar' la IA en términos éticos, reconociendo estas desviaciones y aplicando un estricto control humano", sostiene.
En este sentido, advierte que la posibilidad de mecanizar las relaciones interpersonales es un riesgo que la tecnología viene arrastrando hace tiempo, pero que la inteligencia artificial llega a profundizar de manera alarmante. "Hoy vemos cómo muchas personas acuden a la IA en busca de apoyo emocional. Si bien esto puede ser una herramienta útil si está controlada y guiada por un profesional de la salud, su uso desregulado y sin supervisión deshumaniza los vínculos, transformando las emociones en meras transacciones".
"El riesgo final es que comencemos a exigirle a las relaciones humanas la misma respuesta rápida, precisa y automatizada que nos da una máquina, olvidando que las personas no somos algoritmo", enfatizó.
