El Papa León XIV publica la primera encíclica de IA y clasifica los datos como bien común

El papa León XIV publicó su primera encíclica el 25 de mayo: un documento de 245 párrafos dedicado íntegramente a la inteligencia artificial, que exige una supervisión más estricta de Big Tech y clasifica los datos como un recurso humano compartido. El documento, Magnifica Humanitas (“Magnífica Humanidad”), se dio a conocer en el Salón del Sínodo del Vaticano. El papa León la firmó el 15 de mayo, el 135.º aniversario de Rerum Novarum, la encíclica de 1891 del papa León XIII sobre los derechos laborales que se convirtió en la base de la enseñanza social católica moderna. León ha enmarcado de forma constante la IA como el desafío moral definitorio de su pontificado, comparando la agitación social que viene con la de la Revolución Industrial.

La tecnología nunca es neutral

La encíclica sostiene que “la tecnología nunca es neutral” porque absorbe los valores, puntos ciegos e incentivos económicos de quien la construye. Cada algoritmo refleja las prioridades de las personas que lo diseñaron, lo financiaron y lo implementaron. El documento aborda la IA en la guerra, la deshumanización, la tecnocracia, el colonialismo de datos, la seguridad de los niños en línea, el desempleo masivo, la desinformación, las armas autónomas y el transhumanismo. El argumento central que conecta estos temas es que construir sistemas que pretenden la neutralidad no elimina el sesgo: solo lo oculta.

Datos como bien común

La enseñanza social católica sostiene desde hace tiempo que los recursos naturales de la Tierra están destinados a toda la humanidad, no a propietarios privados. La encíclica extiende directamente ese principio a la economía digital. Los algoritmos, las plataformas y los datos deben gobernarse como bienes comunes, no encerrarse tras murallas comerciales por parte de unas pocas empresas. “Los datos son el producto de muchos contribuidores y no deberían tratarse como algo para venderse o confiarse a un grupo selecto”, escribe el papa.

Subsidiariedad y gobernanza distribuida

La encíclica aplica la subsidiariedad—el principio de que las decisiones deben tomarse en el nivel más local posible—a las plataformas tecnológicas específicamente. En lugar de pedir únicamente regulación de arriba hacia abajo, el documento aboga por algoritmos transparentes, auditorías independientes de la comunidad y poder legal real para que las personas impugnen sistemas automatizados que afectan a sus puntajes crediticios, solicitudes de empleo o evaluaciones de riesgo penal. Sin esa supervisión distribuida, la encíclica sostiene que la gobernanza de la IA se convierte en una forma de autoritarismo digital que silencia a las poblaciones a las que dice servir.

Contra el transhumanismo

La encíclica arremete contra el transhumanismo: la idea de que la limitación y vulnerabilidad humanas son fallas que deben eliminarse mediante ingeniería. El papa responde que la finitud no es un error; es lo que hace posible la empatía, el juicio moral y el cuidado genuino de las demás personas. Los sistemas construidos para optimizarla no producen un ser humano mejor. Producen algo que evalúa y excluye a los vulnerables con más eficiencia.

El papa se cuida de no antropomorfizar la tecnología. Los sistemas de IA “no poseen un cuerpo, no sienten alegría ni dolor”, afirma la encíclica. Los sistemas de IA carecen de la experiencia vivida que genera comprensión real. Pueden simular empatía y producir un lenguaje convincente, pero no comprenden lo que producen como salida. Cuando un algoritmo toma decisiones de contratación, establece condiciones de crédito o asigna una puntuación de riesgo en un tribunal, su supuesta objetividad oculta las elecciones incorporadas por sus diseñadores. La encíclica advierte en particular contra delegar decisiones sensibles en sistemas automatizados que “no conocen compasión, misericordia, perdón” y contra tratar el resultado como neutral solo porque lo generó una máquina.

Cofundador de Anthropic habla en el lanzamiento en el Vaticano

Christopher Olah—cofundador de Anthropic y responsable de su equipo de investigación de interpretabilidad—habló en la presentación del Salón del Sínodo junto a dos cardenales del Vaticano y un par de teólogos. Olah dijo con franqueza que cada gran laboratorio de IA “opera dentro de un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto”, y que el escrutinio externo—por parte de gobiernos, instituciones religiosas y la sociedad civil—no es opcional. Señaló que el desplazamiento laboral impulsado por la IA es un riesgo cercano que, si se materializa a escala, crearía “un imperativo moral de proporciones históricas”.

El papa ya había escrito la versión más difícil de ese argumento. “No basta con una IA más moral”, afirma la encíclica, si la moralidad detrás de ella la establece exclusivamente quien controla los datos y el cómputo. León hizo el mismo planteamiento directamente a ejecutivos de Silicon Valley en el Vaticano en noviembre de 2025.

Se establece la Comisión de IA del Vaticano

El Vaticano aprobó una nueva comisión interna de IA el 16 de mayo, basándose en siete departamentos para coordinar el trabajo de gobernanza de la IA en adelante en el Vaticano.