El Papa advierte sobre la capacidad de manipulación de la Inteligencia Artificial
Isabella Arria
El Papa no demoniza la Inteligencia Artificial (IA), pero advierte de su capacidad para manipularnos de formas cada vez más sutiles .Su mensaje para la industria tecnológica: «vayan más despacio, eleven lo humano. Las máquinas no son dioses». Publicada mientras Silicon Valley dormía, Magnifica Humanitas marcó el último esfuerzo por moldear y posiblemente contener el auge de la IA.
La declaración política de 42.300 palabras es respetuosa y no menciona nombres, pero en el fondo es una fuerte reprimenda a las afirmaciones de Silicon Valley de que solo ellos pueden ser dignos de confianza para desarrollar el futuro. Siempre ha tenido sueños mesiánicos, que se remontan a los días en que las computadoras ocupaban habitaciones enteras. León XIV no demoniza la IA, pero incide en su capacidad para manipularnos de formas cada vez más sutiles. Advierte contra la fantasía de una comunicación angelical e instantánea, libre de interferencias e intereses ocultos. Una seductora ilusión que, para bien y para mal, la Iglesia conoce mejor que nadie.
“La IA puede ser una herramienta valiosa”, reconoció el Papa, pero la tecnología “tiende a amplificar el poder de quienes ya poseen recursos económicos, conocimientos y acceso a datos”. Advirtió que, sin una supervisión y transparencia adecuadas, “quienes controlan la IA impondrán su propia visión moral, que se convertirá en la infraestructura invisible de estos sistemas”.
El Papa ha advertido sobre futuras consecuencias de la IA, sobre todo, cuando la herramienta no consulte y tome por decisión propia las decisiones más alejadas de lo que decida el ser humano. El Pontífice profundiza sobre la protección de la humanidad, en medio de una creciente tensión en Medio Oriente y la implementación de las nuevas tecnologías para las estrategias de ataque.
Para León XIV lo importante es el tema de la deshumanización y el tema de cambiar el título de la guerra justa, porque en estos últimos conflictos se basó o se basan quienes las están llevando adelante en la religión. Tom,ó en cuenta que se ha utilizado y se está utilizando la IA en conflictos armados y eso está generando un costo humano elevadísimo,
La IA debe ser «desarmada» (ahora un término clave del pontificado), impidiendo que domine a los humanos: «Esto significa sacarla de los monopolios, hacerla debatible, disputable y, por lo tanto, habitable, reintegrándola a la pluralidad de culturas y formas de vida humanas». Desarmar la IA significa liberar a esta herramienta de cualquier lógica que la transforme en un instrumento de dominio, exclusión o muerte. La imagen que guía el documento es la de la construcción, es decir, una actividad plenamente humana, que tiene un plan y emplea a muchas personas: «No tengamos miedo de ensuciarnos las manos en la obra de nuestro tiempo», señala el Papa.
Que una encíclica papal se adentre en el debate público sobre la inteligencia artificial (IA) y los algoritmos es ya un acontecimiento histórico. Presentarla como heredera de la Rerum novarum de 1891 lanzada por León XIII, no ha sido un artificio retórico: la evolución de los movimientos obreros y, por tanto, de la sociedad industrial no habría sido la misma sin aquella polémica intervención, que entre indignación de unos y entusiasmo de otros, sentó las bases de la democracia cristiana.
Magnifica Humanitas busca establecer el marco para el discurso católico sobre la IA. El enfoque es similar al que utilizó el Papa Francisco con la cuestión ecológica: la crisis ecológica no es solo un problema de contaminación ni un problema en sí mismo, sino una de las manifestaciones graves de una crisis general de la humanidad, que se presenta de diferentes formas y requiere una ecología integral. Incluso el debate sobre la IA se remonta a la crisis de la humanidad y se considera un factor que acelera tanto el bien como el mal. Si en abstracto la tecnología es neutral, en la práctica «no es neutral, porque toma el rostro de quienes la conciben, la financian, la regulan y la utilizan».
El día de la firma del documento, el 15 de mayo, recuerda la fecha de la encíclica Rerum Novarum promulgada por León XIII en 1891, documento fundamental de la Doctrina Social de la Iglesia. El mensaje es claro: al igual que en Rerum Novarum León XIII abordó la cuestión social a finales del siglo XIX, en el contexto de la primera gran revolución industrial, hoy León XIV siente la urgencia de abordar de nuevo la cuestión social porque hay otra revolución en marcha, la de la inteligencia artificial.
Uno de los chistes más antiguos cuenta que un programador le pregunta a una computadora: “¿Existe Dios?” La computadora responde: “Ahora sí”. Al invertir cientos de miles de millones de dólares en inteligencia artificial, los dueños de las empresas tecnológicas están señalando que esos primeros sueños se han cumplido. El siguiente paso: la trascendencia.
Que una encíclica papal se adentre en el debate público sobre la inteligencia artificial (IA) y los algoritmos es ya un acontecimiento histórico. Presentarla como heredera de la Rerum novarum, publicada en 1891 por León XIII, no ha sido un artificio retórico: la evolución de los movimientos obreros y, por tanto, de la sociedad industrial no habría sido la misma sin aquella polémica intervención, que despertó tanta indignación como entusiasmo y sentó las bases de la democracia cristiana.
La ambición de León XIV es que la Iglesia vuelva a influir ante una encrucijada histórica. Quizá resulte paradójico que una institución nacida hace dos milenios pretenda iluminar ahora el complejo entramado tecnológico en que vivimos. Pero lo cierto es que Magnifica humanitas introduce un necesario correctivo al discurso dominante: frente a los reiterados estallidos de asombro por lo que pueden hacer las máquinas, devuelve el protagonismo -como Rerum novarum– a un dilema social. La gran incógnita no es qué nuevas capacidades adquirirá la IA, sino qué clase de personas y de relaciones propicia.
León XIV contextualiza las nuevas tecnologías en una época «marcada por nuevas formas de poder global y por desigualdades crecientes». El mundo cambia rápidamente y no hay garantía de que vaya a hacerlo a mejor. Urge actuar, como en tiempos de León XIII, aunque falten muchas respuestas. Curiosamente, la Iglesia se distancia así del providencialismo que inunda algunos discursos de Silicon Valley, que vinculan el futuro de la humanidad al de una hipotética conciencia superior de las máquinas o a la posibilidad de prescindir del cuerpo para vivir eternamente en un chip.
Magnifica humanitas subraya las condiciones materiales que produce la transformación digital y evita discusiones bizantinas sobre almas sin cuerpo, ya sean humanas o artificiales. ¿El mundo al revés? En realidad, el cristianismo siempre ha problematizado la relación entre lo terrenal y lo intangible, lo visible y lo oculto, lo temporal y lo eterno. La propia figura del Papa encarna una forma histórica de mediación sorprendentemente duradera: representa a una comunidad de fieles y personifica la idea que los une. No hay religión sin ritual, y tampo hay tecnología sin infraestructura.
*Periodista chilena residenciada en Europa, analista asociada al Centro Latinoamericano de Análisis Estratégico (CLAE, estrategia.la)