Por qué la caja negra de la inteligencia artificial preocupa al Vaticano

Que el Papa publique una encíclica sobre la inteligencia artificial puede parecer sorprendente, pero no es extraño. Desde el siglo XIX, la Iglesia católica ha hablado en diversas encíclicas de grandes transformaciones sociales cuando afectaban a la personalidad y su dignidad.

De la revolución industrial a la inteligencia artificial

La primera encíclica de León XIV, Magnifica humanitas, tiene un valor simbólico especial. Fue firmado el 15 de mayo (aunque presentado el día 25), justo 135 años después de la Rerum novarum, con la que León XIII respondió a los conflictos sociales de la Revolución Industrial.

Si entonces la cuestión central era la dignidad de los trabajadores ante los cambios de la era industrial, hoy el desafío es proteger la dignidad de la persona ante el creciente poder de la inteligencia artificial.

León XIV ya la presentó como una nueva “revolución industrial” en su primer discurso ante el Colegio Cardenalicio, el 10 de mayo de 2025, dejando claro que será una de las grandes preocupaciones de su pontificado.

En Magnifica humanitas, esa preocupación se materializa en una idea central: la IA no es neutral. Puede ampliar las capacidades humanas, pero también concentrar el poder, hacer que algunas decisiones sean opacas y, especialmente, perjudicar a quienes tienen menos recursos para defenderse.

Ningún Papa ha presentado nunca antes una encíclica en persona. Pero León XIV también compartió un evento de presentación con Christopher Olah, cofundador de Anthropic y experto en interpretabilidad, o cómo funcionan internamente los modelos de IA. Su elección no es casual: tanto el trabajo de Olah como la postura pública de la empresa están vinculados a varios puntos de la encíclica.

Abre la caja negra

En primer lugar, el criterio de no utilizar indiscriminadamente lo que no se entiende. La IA generativa no es una herramienta más, sino un hito. Hemos estado usando sistemas algorítmicos durante décadas (motores de búsqueda, asistentes de voz, GPS), pero ahora hay máquinas que parecen reflejar o responder con empatía, y podemos olvidar que estamos tratando con estos algoritmos. Sin embargo, las respuestas lógicas que obtenemos no significan que la máquina realmente nos entienda y pueda comunicarse con nosotros.

Por otro lado, Olah advierte que el funcionamiento interno de la inteligencia artificial muestra fenómenos difíciles de interpretar, lo que requiere prudencia y prudencia antes de utilizarlas de forma masiva. El cofundador de Anthropic dirige actualmente un área de investigación que intenta abrir la “caja negra” de los modelos para comprender cómo producen respuestas.

¿Quién es responsable?

Si la decisión sobre quién obtiene un préstamo, qué paciente se somete primero a una cirugía o qué solicitante de asilo pasa el primer filtro se delega al sistema, e incluso sus creadores no pueden explicar exactamente por qué el sistema toma una decisión particular, ¿quién es responsable de esa decisión? No se trata de una preocupación abstracta: en los Países Bajos, el escándalo de las subvenciones para el cuidado infantil demostró cómo un sistema de detección de fraude basado en perfiles de riesgo puede señalar injustamente a miles de familias, con consecuencias devastadoras para las personas vulnerables.

La encíclica recoge precisamente esa preocupación: que la inteligencia artificial perjudique los derechos de las personas, especialmente de los más vulnerables. Que Olah comparte esta preocupación quedó demostrado al recordar en su presentación que el debate sobre la inteligencia artificial debe considerar primero nuestra responsabilidad hacia los más pobres del mundo.

Negativa a utilizar inteligencia artificial para desarrollar armas autónomas

Otro punto de conexión puede ser la decisión de Anthropic de negarse a permitir que sus modelos se utilicen para armas totalmente autónomas o vigilancia doméstica masiva. Olah reconoció que los principales laboratorios de IA compiten en un entorno donde pueden surgir conflictos éticos. Por ello pidió críticos competentes y voces morales independientes que puedan señalar los errores. La decisión de Anthropic se relaciona con Magnifica humanitas, que, además de oponerse a la guerra como algo malo, exige límites éticos estrictos a la inteligencia artificial militar y exige que siempre se pueda identificar la responsabilidad humana.

En definitiva, la presencia de Olah reforzó la idea central de la encíclica: no todo lo que es técnicamente posible es moralmente permisible.

El evento fue moderado por el Cardenal Pietro Parolin, Secretario de Estado de la Santa Sede, y participaron los cardenales Víctor Manuel Fernández (Prefecto del Dicasterio para la Doctrina de la Fe) y Michael Cerny (Prefecto del Dicasterio para el Servicio del Desarrollo Humano Integral) y también participaron los teólogos de la Universidad Católica, Anna Rowlands (Anna Rowlands) Leokadi Lushombo (Profesora de Ética Teológica de la Universidad de Santa Clara). Con esta composición, el Vaticano quería tratar la inteligencia artificial desde diferentes enfoques y dar voz no sólo a quienes la diseñan o regulan, sino también a quienes piensan en sus consecuencias éticas y sociales.

Según Olah, las cuestiones que plantea la IA van más allá de los científicos y no pueden ser resueltas por ellos mismos ni por las empresas de tecnología. Y ahí es donde cobra especial peso una voz como la de León XIV, porque tiene una proyección moral que va más allá de la Iglesia. Cuando habla de temas clave como la IA, llama la atención en foros internacionales muy diferentes.

Administre la IA, no se someta a ella

La nueva encíclica puede leerse como una actualización sobre la cuestión social. Rerum novarum respondió al riesgo de deshumanización provocado por la lógica industrial, mientras que Magnifica humanitas respondió al riesgo de someter a la persona a la lógica tecnocrática. Es decir, la tecnología deja de estar al servicio del hombre y pasa a exigirle que se adapte a ella. Sin embargo, no se trata de rechazar la inteligencia artificial, cuya utilidad en muchos ámbitos reconoce León XIV. Se trata de diseñarlo y operarlo con principios morales que beneficien a los seres humanos y a la sociedad.

La encíclica no funciona de forma aislada. El 18 de mayo, el Vaticano inauguró el Observatorio para la Inteligencia Artificial y el Medio Ambiente, que estudiará las consecuencias de la inteligencia artificial en el medio ambiente. Mayo de 2026 deja así una señal clara: para el Vaticano, la inteligencia artificial no es una cuestión secundaria, sino uno de los grandes desafíos sociales de nuestro tiempo.