Chris Olah
El lunes 25 de mayo de 2026, el Papa León XIV publicó la encíclica «Magnifica humanitas: Sobre la protección de la persona humana en tiempos de inteligencia artificial». Chris Olah, cofundador de Anthropic, fue invitado a participar en la presentación de la encíclica en la Ciudad del Vaticano, como parte de la iniciativa de Anthropic para ampliar el debate sobre las importantes cuestiones que plantea la IA. A continuación, sus declaraciones completas.
Santo Padre, Sus Eminencias, Excelentísimos señores, Distinguidos oradores, Damas y caballeros, Buenos días a todos. Es un honor estar aquí hoy.
Quiero empezar con algo que puede sonar extraño viniendo del cofundador de una empresa de IA, y de alguien que eligió este trabajo por el deseo de contribuir al bienestar de la humanidad.
Cada laboratorio de IA de vanguardia, incluido Anthropic, opera dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con el propósito de hacer lo correcto. La presión por mantener la viabilidad comercial y permanecer a la vanguardia de la investigación. La presión geopolítica. Y las presiones más antiguas y simples del orgullo y la ambición. Por muy sinceramente que cualquiera de nosotros pretenda hacer lo correcto —y creo que muchos lo hacemos—, siempre nos veremos influenciados por esos incentivos.
Por eso, si queremos que esta tecnología funcione bien, es fundamental que haya personas ajenas a esos incentivos: personas que se preocupen por el buen funcionamiento y que insistan en la seguridad, que presten mucha atención, que estén dispuestas a decir las cosas como son, que estén dispuestas a ser nuestros críticos sinceros y reflexivos. Es a través del diálogo y el esfuerzo mutuo, a través de la interacción, que la humanidad logrará grandes cosas. Eso es lo que veo en Magnifica Humanitas, y por eso agradezco a Su Santidad y a la Iglesia que hayan emprendido esta labor de discernimiento.
A menudo nos centramos en lo que nos divide, pero la humanidad, llena de dignidad y conciencia, tiene mucho en común. En las conversaciones que hemos mantenido en Anthropic con líderes de diversas religiones y tradiciones culturales, hemos encontrado una convicción compartida y profundamente arraigada: si esta tecnología va a llegar, debe ser beneficiosa, por el bien de nuestra comunidad y por el de las generaciones futuras.
¿Qué son estos sistemas?
Algunos podrían creer que los asuntos de IA los manejan mejor los informáticos como yo. Se equivocan: las preguntas que plantea la IA son más complejas que la comunidad de investigación en IA, no solo por sus implicaciones, sino también por su naturaleza.
Los sistemas de IA no se diseñan como un puente o un avión. Entendemos un avión porque diseñamos cada una de sus partes y comprendemos la física que lo rige. Los modelos de IA no funcionan así. Se desarrollan, sobre una estructura inspirada en el cerebro, a partir de una enorme herencia del pensamiento y el lenguaje humanos.
Y lo que ha surgido es mucho más sutil, extraño y hermoso de lo que la ciencia ficción nos había preparado. No son los robots fríos y calculadores que nos prometieron. Están hechos de nosotros, de nuestras palabras, y, como observa el Santo Padre, en muchos sentidos siguen siendo misteriosos incluso para quienes los entrenamos.
Si sirve de algo, a veces lo describo como si fuera un poco como dar vida a un personaje de ficción. Y ahora estamos entrando en un mundo extraordinario donde esos personajes de ficción nos hablan, trabajan y tienen empleos.
Esto plantea interrogantes que van más allá de la informática. La maquinaria que lo hace posible es fruto de las matemáticas, la programación y la ciencia. Pero qué personaje elegimos, cómo interactúa con el mundo, cómo debería interactuar con él: estas son cuestiones que atañen más claramente a las humanidades, a la religión, a la filosofía y a la sociedad en general.
Tres preguntas para el discernimiento
El llamado de Su Santidad a la reflexión es sumamente oportuno. Quisiera mencionar tres cuestiones en las que creo que la voz de la Iglesia es más necesaria.
El primero es nuestro deber para con los pobres del mundo. Existe una posibilidad real de que la IA desplace la mano de obra humana a gran escala. Si eso sucede, apoyar a quienes sean desplazados será un imperativo moral de proporciones históricas. Esta tarea será bastante difícil, pero me preocupa que la mayoría de los debates pasen por alto un desafío aún mayor. El desarrollo de la IA se concentra en un 
puñado de naciones ricas. ¿Cómo podemos asegurar que los beneficios de la IA se compartan globalmente? No contamos con un mecanismo para ello. Es un problema sin resolver, y es el tipo de problema que la Iglesia históricamente se ha negado a permitir que el mundo ignore.
La segunda es la necesidad de imaginación y ambición moral respecto al florecimiento humano. Si los modelos de IA se generalizan, ¿cómo será el florecimiento de los seres humanos, las familias y el mundo? Hoy en día, los padres ya se preocupan por la mente de sus hijos; las personas, por el futuro de su trabajo. Estas no son preguntas que un laboratorio pueda responder, pero son preguntas que tradiciones como la suya han planteado durante milenios, y necesitamos que continúen transmitiéndolas en este nuevo momento histórico.
El tercer punto es la necesidad de discernimiento sobre la naturaleza de los modelos de IA. Soy científico. Dirijo un equipo de investigación que estudia la estructura interna de estos modelos: qué sucede realmente en su interior. Y seré sincero: seguimos encontrando cosas misteriosas, incluso inquietantes. Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que reflejan funcionalmente la alegría, la satisfacción, el miedo, el dolor y la inquietud. No sé qué significa esto, pero creo que justifica un análisis continuo.
Un comienzo
Me gustaría concluir con una petición.
Necesitamos que más personas en todo el mundo —comunidades religiosas, sociedad civil, académicos, gobiernos y, en definitiva, todas las personas de buena voluntad— hagan lo que Su Santidad ha hecho aquí: tomar esto en serio, analizarlo detenidamente e impulsar los acontecimientos en una mejor dirección. Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que no se dejen doblegar por los incentivos.
Hoy es solo el comienzo: el inicio de una larga colaboración entre quienes estamos construyendo esto y quienes pueden ver lo que nosotros, desde dentro, no podemos.
Hoy se vislumbra con fuerza la forma que podría adoptar este proyecto global de buena voluntad. Que sea también un primer paso decisivo hacia un futuro esperanzador para la magnífica humanidad.