El Papa León advierte sobre los peligros de una inteligencia artificial sin control

El Papa León ha dedicado el primer gran documento teológico de su pontificado a una cuestión que cada vez preocupa más fuera y dentro del sector tecnológico: el avance de la inteligencia artificial sin controles suficientes.

En su encíclica Magnifica Humanitas, un extenso texto de unas 43.000 palabras, el Pontífice advierte de que la humanidad se enfrenta a nuevas formas de deshumanización en una época en la que los algoritmos empiezan a tomar decisiones, moldear relaciones, transformar el empleo e incluso intervenir en escenarios militares.

Su mensaje central es claro: la tecnología puede ser útil y valiosa, pero no debe convertirse en una fuerza que reduzca a las personas a datos, productividad o rendimiento.

El Papa León alerta sobre una IA que puede deshumanizar a la sociedad

La encíclica plantea una preocupación de fondo: que la inteligencia artificial, si se desarrolla únicamente bajo criterios de eficiencia, beneficio económico y expansión tecnológica, termine empobreciendo la visión que tenemos del ser humano.

El Papa León sostiene que la persona no puede quedar reducida a métricas, perfiles digitales o patrones de comportamiento. En su opinión, hay una dimensión humana que no puede ser capturada por un sistema algorítmico, por muy sofisticado que sea.

El documento critica especialmente esa búsqueda tecnológica de la perfección que, según el Pontífice, puede convertir la vida humana en una sucesión de datos medibles. Frente a esa tendencia, defiende la necesidad de conservar una mirada profundamente humana en el desarrollo de la IA.

La advertencia llega en un momento en el que empresas, gobiernos y organismos internacionales debaten cómo regular una tecnología que avanza a gran velocidad y que ya está cambiando la educación, el trabajo, la información, la defensa y la vida cotidiana.

No se opone al progreso, pero pide más prudencia

Uno de los puntos más importantes de la encíclica es que el Papa no presenta la inteligencia artificial como algo negativo en sí mismo. Su crítica no va dirigida contra la innovación, sino contra una adopción precipitada y poco reflexiva.

El texto defiende que pedir prudencia, evaluaciones rigurosas o incluso un ritmo más lento en determinados usos de la IA no significa rechazar el progreso. Al contrario, el Papa lo plantea como una forma de responsabilidad hacia la sociedad.

La idea es especialmente relevante en un sector donde la competencia entre grandes tecnológicas ha acelerado el lanzamiento de modelos cada vez más potentes. Muchas empresas compiten por llegar antes al mercado, captar usuarios y cerrar acuerdos millonarios, mientras los marcos regulatorios avanzan con mucha más lentitud.

Para el Papa León, esa diferencia de velocidad puede tener consecuencias importantes. Si una tecnología con impacto social profundo se despliega antes de comprender bien sus riesgos, quienes pueden acabar pagando el precio son precisamente los colectivos más vulnerables.

Una crítica directa al beneficio por encima de las personas

La encíclica también lanza una crítica dura contra lo que describe como una “idolatría del beneficio” capaz de sacrificar a los más débiles.

Con esta expresión, el Papa apunta a uno de los grandes debates sobre la inteligencia artificial: quién se beneficia realmente de su desarrollo y quién asume sus costes. En la práctica, muchas herramientas de IA prometen aumentar la productividad, automatizar tareas y reducir gastos, pero esas mejoras pueden traducirse también en despidos, precarización o mayor concentración de poder en unas pocas compañías.

El documento reclama una implicación política más activa en el desarrollo de esta tecnología. No basta, según esta visión, con dejar que la industria marque por sí sola los límites de lo aceptable. Los gobiernos, las instituciones y la sociedad civil deben participar en la definición de reglas claras.

El mensaje resulta especialmente significativo porque llega acompañado de una aparente paradoja: durante la presentación del documento, el Papa estuvo acompañado por Chris Olah, cofundador de Anthropic, una de las compañías más relevantes del sector de la inteligencia artificial.

El impacto de la IA en el empleo preocupa al Vaticano

Uno de los capítulos más sensibles de la encíclica está relacionado con el mercado laboral. El Papa León advierte de que el trabajo no es solo una forma de ganarse la vida, sino también una parte esencial de la experiencia humana.

El trabajo permite desarrollar habilidades, construir relaciones, participar en la comunidad y asumir responsabilidades. Por eso, una sociedad altamente tecnificada que solo garantice empleo a una minoría podría generar, según el Pontífice, un empobrecimiento humano y cultural.

La preocupación no es teórica. En el último año, distintas empresas han vinculado procesos de despido, congelación de contrataciones o reorganizaciones internas con la adopción de herramientas de inteligencia artificial. El texto citado apunta incluso a informes según los cuales el 99% de los directores ejecutivos espera reducir plantilla en los próximos dos años debido a la IA.

Más allá de la cifra concreta, el temor es evidente: que la automatización no se limite a tareas repetitivas o industriales, sino que afecte de lleno a empleos de oficina, profesiones creativas, análisis de datos, atención al cliente, programación, marketing o funciones administrativas.

El Papa advierte de que una sociedad con grandes avances técnicos, pero incapaz de ofrecer ocupación significativa a buena parte de la población, podría condenar a muchas personas a una inactividad forzada. Y eso, según la encíclica, tendría efectos negativos no solo económicos, sino también personales, sociales y culturales.

Los riesgos de los compañeros virtuales y los deepfakes

Aunque el empleo ocupa una parte destacada del documento, la encíclica también menciona otros usos problemáticos de la inteligencia artificial.

Entre ellos aparecen los compañeros virtuales basados en IA, que pueden simular vínculos emocionales o conversaciones íntimas con los usuarios. Este tipo de herramientas han ganado popularidad en los últimos años, especialmente entre personas que buscan compañía, apoyo emocional o entretenimiento.

El problema, desde la perspectiva del Papa, es que estas relaciones artificiales pueden alterar nuestra forma de entender la compañía, el afecto y la presencia del otro. Una IA puede responder de forma convincente, recordar preferencias y generar una sensación de cercanía, pero no deja de ser un sistema diseñado para interactuar según patrones.

La encíclica también se detiene en los deepfakes, uno de los riesgos más visibles de la IA generativa. La facilidad para crear imágenes, audios o vídeos falsos cada vez más realistas plantea desafíos enormes para la información, la reputación personal, la política y la confianza pública.

En un entorno donde resulta más difícil distinguir lo real de lo manipulado, la tecnología puede convertirse en una herramienta de engaño masivo si no existen controles adecuados.

El Papa rechaza que la IA tome decisiones letales

Otro de los puntos más contundentes del documento tiene que ver con el uso militar de la inteligencia artificial.

La encíclica afirma que no debe permitirse que sistemas artificiales tomen decisiones letales o irreversibles. Para el Papa León, este tipo de decisiones exige conciencia, responsabilidad personal y reconocimiento del otro como ser humano.

La advertencia llega en un contexto en el que la IA ya forma parte de capacidades militares avanzadas. Sistemas de vigilancia, análisis de objetivos, reconocimiento de patrones y apoyo a operaciones se utilizan en distintos ejércitos, y su papel en conflictos actuales ha generado fuertes controversias.

El documento menciona de forma crítica la presencia de sistemas de IA en operaciones militares y de vigilancia masiva, incluyendo el uso de tecnologías avanzadas en la ofensiva israelí contra la población palestina.

La cuestión de fondo es quién asume la responsabilidad cuando una máquina interviene en una decisión de vida o muerte. Para el Papa, delegar ese poder en un sistema automatizado supone cruzar una línea moral especialmente peligrosa.

Anthropic, una presencia llamativa en la presentación

La presentación de la encíclica no estuvo protagonizada únicamente por miembros del Vaticano, teólogos y responsables eclesiásticos. También participó Chris Olah, cofundador de Anthropic y responsable del equipo de investigación en interpretabilidad de la compañía.

Su presencia llamó la atención porque Anthropic es una de las empresas más influyentes del sector de la IA. La compañía ha construido parte de su reputación alrededor de un discurso favorable a la seguridad, la regulación y la cautela en el desarrollo de modelos avanzados.

A diferencia de otras empresas del sector, Anthropic ha insistido con frecuencia en la necesidad de comprender mejor cómo funcionan los sistemas de IA y de establecer límites antes de que la tecnología alcance niveles de capacidad más difíciles de controlar.

Sin embargo, esa posición también genera críticas. Aunque la compañía pide prudencia y alerta sobre los riesgos de la IA, al mismo tiempo desarrolla, lanza y comercializa modelos cada vez más potentes. Es decir, forma parte del mismo ecosistema económico y competitivo que el Papa pide regular con más firmeza.

La paradoja de advertir sobre la IA junto a una gran empresa de IA

La participación de Olah introduce una tensión difícil de ignorar. Por un lado, tiene sentido que el Vaticano busque asesoramiento técnico para comprender una tecnología compleja. Por otro, resulta llamativo que uno de los documentos llamados a orientar el debate ético sobre la IA haya contado con la influencia de una empresa que desarrolla esa misma tecnología.

Según el texto de referencia, Olah llevaba tiempo colaborando con el Vaticano para ayudar a entender mejor la inteligencia artificial. También habría señalado que esta encíclica es solo el comienzo de una colaboración prolongada entre quienes construyen estas herramientas y quienes pueden aportar una mirada externa sobre sus consecuencias.

El enfoque puede interpretarse de dos maneras. Para algunos, es positivo que los expertos técnicos participen en conversaciones éticas y religiosas sobre la IA. Para otros, existe el riesgo de que las grandes empresas tecnológicas influyan demasiado en los marcos morales y políticos que deberían limitar su poder.

La cuestión se vuelve aún más delicada porque algunos análisis han señalado similitudes entre el lenguaje de la encíclica y la forma en que Anthropic explica el funcionamiento de los sistemas de inteligencia artificial. Eso alimenta el debate sobre hasta qué punto la industria puede estar presente en la definición de las reglas que luego deberá cumplir.

Anthropic y sus vínculos con el sector militar

La presencia de Anthropic también resulta polémica por otra razón: sus vínculos con el ámbito militar.

La compañía ha defendido públicamente ciertas restricciones sobre el uso de sus tecnologías, especialmente en armas autónomas o vigilancia doméstica masiva. De hecho, según el texto original, Anthropic habría tenido un desencuentro público con el Pentágono por negarse a flexibilizar algunas de esas limitaciones.

Sin embargo, la empresa también mantiene desde 2024 una colaboración con el sector militar a través de Palantir, una compañía tecnológica muy conocida por sus contratos con gobiernos, agencias de inteligencia y defensa.

Esa combinación refuerza la ambigüedad del papel de Anthropic: por un lado, se presenta como una compañía preocupada por los riesgos de la IA; por otro, participa en alianzas con actores institucionales y militares que plantean dilemas éticos muy relevantes.

En este contexto, la encíclica del Papa León no solo es una reflexión religiosa, sino también una intervención política y cultural en uno de los debates más importantes de nuestro tiempo.

Un documento que busca influir en el futuro de la IA

Con Magnifica Humanitas, el Vaticano parece querer posicionarse como una voz relevante en la conversación global sobre inteligencia artificial.

El documento no se limita a pedir una tecnología “más ética” de forma genérica. Habla de empleo, de dignidad, de vigilancia, de guerra, de deepfakes, de relaciones humanas y de concentración de poder. Es decir, aborda muchos de los puntos que ya están marcando el debate público sobre la IA.

El Papa León plantea que el desarrollo tecnológico no puede separarse de sus consecuencias sociales. Una IA más avanzada no significa necesariamente una sociedad más justa, más libre o más humana. Todo dependerá de cómo se diseñe, quién la controle, con qué límites se despliegue y qué valores se prioricen.

El gran desafío será convertir estas advertencias en acciones concretas. Porque el ritmo de la industria no se detiene, y las compañías de inteligencia artificial siguen compitiendo por lanzar modelos más capaces, captar financiación y cerrar acuerdos con empresas, gobiernos e instituciones.

La encíclica deja una pregunta incómoda sobre la mesa: si la inteligencia artificial va a transformar la vida humana a gran escala, ¿deberíamos permitir que su futuro quede principalmente en manos de quienes más dinero pueden ganar con ella?

Una llamada a seguir siendo humanos en la era de los algoritmos

El mensaje más potente del Papa León es también el más sencillo: en una época marcada por sistemas cada vez más inteligentes, la prioridad debe ser no perder de vista la dignidad humana.

La inteligencia artificial puede ayudar a resolver problemas, mejorar servicios, acelerar investigaciones y facilitar tareas. Pero también puede aumentar desigualdades, destruir empleos, manipular información, militarizar decisiones y sustituir vínculos humanos por relaciones simuladas.

La encíclica Magnifica Humanitas intenta situar ese debate en un terreno más profundo que el puramente técnico. No se trata solo de preguntarse qué puede hacer la IA, sino qué debería hacer, quién debe decidirlo y qué tipo de sociedad queremos construir con ella.

Y aunque resulta llamativo que una advertencia tan firme llegue acompañada por una figura clave de Anthropic, quizá esa misma contradicción resume bien el momento actual: incluso quienes alertan de los riesgos de la inteligencia artificial forman parte de una carrera tecnológica que nadie parece dispuesto a abandonar del todo.