Magnifica Humanitas: ¿cómo se para la humanidad frente al avance de la IA?

Rerum Novarum, la encíclica que habría de convertirse en fundadora de lo que hoy se conoce como Doctrina Social de la Iglesia (DSI), vio la luz en 1891. El papa León XIII abordaba, oficial y enteramente, por primera vez en la historia de la Iglesia la crítica situación de los obreros tras las revoluciones industriales. Proponía, tanto ante al capitalismo irrestricto que entonces predominaba como ante los socialismos revolucionarios que se hacían notar cada vez con más fuerza, una alternativa superadora. Sus principales pilares eran la dignidad del trabajo y del trabajador, el derecho a un salario justo, el reconocimiento de las asociaciones obreras y la legitimidad de la propiedad privada, inseparable de su función social.

El pasado 15 de mayo, en el 135° aniversario de Rerum Novarum, el papa León XIV firmó la primera encíclica de su pontificado: Magnifica Humanitas. Su subtítulo, «Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial», nos da un primer indicio de que no se propone tratar exclusivamente el fenómeno de la IA sino actualizar la postura de la Iglesia ante un mundo cada vez más cambiante como resultado de la cuarta revolución industrial.

Sin ánimos de hacer un análisis exhaustivo de todas las vetas que se desprenden de Magnifica Humanitas, el presente artículo pretende remarcar ciertos conceptos que atañen a la IA y sus implicancias políticas y que, como parte del magisterio de la Iglesia, resultan especialmente novedosas.

Sin embargo, antes de dedicarnos directamente a ellos, conviene recordar los principios que sostienen la DSI y que son necesarios para entender el por qué de la postura del papa. El fundamento básico lo constituye la dignidad humana, definida por León XIV como «dignidad ontológica» (MH 52) y que es propia de todos los hombres por igual por su sola condición de creaturas. De ella se desprenden cuatro principios políticos que son la base de la Doctrina Social: el de bien común, el del destino universal de los bienes, el de subsidiariedad —que tutela la responsabilidad de las personas, de las familias y de los cuerpos intermedios frente a toda concentración excesiva de poder— y el de solidaridad.

Concepciones antropológicas de fondo: tecnocracia, transhumanismo y posthumanismo

León XIV llama la atención sobre un aspecto fundamental al momento de abordar integralmente los nuevos desafíos planteados por la IA, que es el de la concepción antropológica que la subyace. Como en casi cualquier fenómeno social o político, las ideas sobre el mundo y el hombre que tengan los actores involucrados en el desarrollo de nuevas tecnologías es crucial para determinar el rumbo que este tomará. «El progreso técnico, valioso en sí mismo, requiere un discernimiento sobre la visión antropológica que lo guía y los fines que persigue», sostiene el pontífice (MH 94).

El papa menciona, citando a Fransisco, el creciente afianzamiento de un «paradigma tecnocrático» (MH 92) que prioriza la eficiencia como criterio para la toma de decisiones políticas, sociales y económicas. En particular, Magnifica Humanitas denuncia dos corrientes de pensamiento que «constituyen el trasfondo ideológico que reside en algunos centros de poder tecnológico y colonizan el imaginario colectivo de forma simplificada» (MH 115): el transhumanismo y el posthumanismo. Los define en los siguientes términos:

«En general, el transhumanismo imagina una potenciación del ser humano por medio de las tecnologías —biomedicina, ingeniería del cuerpo, dispositivos, algoritmos—, con la aspiración de incrementar el rendimiento y las capacidades. El posthumanismo, sobre todo en sus versiones más radicales, va más allá: critica el antropocentrismo y plantea una forma de hibridación entre el ser humano, la máquina y el ambiente, hasta imaginar que atravesará el umbral en el que la humanidad se superará a sí misma, entrando en una nueva etapa evolutiva» (MH 116).

Según la encíclica, bajo este tipo de lógicas donde la realización de lo humano está puesta en la eficiencia y el rendimiento, se vuelve más fácil considerar menos útiles e incluso menos dignos a quienes no cumplan con este nuevo criterio de humanidad. León XIV advierte: «las conquistas de la ciencia y de la técnica, desvinculadas del progreso moral y social, terminan por volverse contra el hombre» (MH 117).

El papa propone una versión alternativa, donde «el límite» (MH 118) no se concibe como un obstáculo a superar sino como un factor constitutivo de lo humano. Plantea que es en los límites —como la ancianidad, el sufrimiento o la vulnerabilidad—, que muchas veces son leídos como defectos, donde el ser humano madura y se abre a la relación. De este modo, el florecimiento no se da a pesar del límite, sino a menudo a través de él.

Desde la visión cristiana la superación del límite y el alcance de lo «más que humano» (MH 127) se da en la trascendencia y en la unión con Dios. Sin embargo, además de esto, León XIV reconoce en la cultura y en el arte auténticos una custodia de esa naturaleza humana no utilitaria y un freno ante la normalización del mal. «Renunciar a esta aventura, al mismo tiempo dramática y espléndida, en nombre de una presunta superación de todo límite podría ser cualquier cosa, pero no significaría ser humanos», sentencia el papa (MH 120).

La pregunta decisiva para hacerse ante cada nuevo avance de la IA es, entonces, si este contribuye a hacer la vida del hombre «más humana» y «más digna» o si, por el contrario, corrompe esa humanidad en busca de un progreso inhumano.

Autonomía de la IA: responsabilidad e implicaciones en la guerra

Por otro lado, la encíclica se dedica a señalar un problema que da ya sus primeros indicios y que puede amplificarse en el futuro, especialmente en el ámbito bélico. Se trata de la autonomía de la inteligencia artificial, que es cada vez más capaz de tomar decisiones sin intervención humana. El problema aparece debido a dos factores propiamente humanos de los que los algoritmos carecen: la capacidad moral y la responsabilidad.

De más está decir que la IA no toma en sí decisiones morales sino que su «ética» está basada en los límites que le son artificialmente impuestos por sus creadores y en los procesos estadísticos mediante los cuales produce sus resultados. Sin embargo, dichos procesos no son conocidos en su totalidad por los desarrolladores de los modelos de IA. Es destacable la presencia en el acto de lanzamiento de Magnifica Humanitas de Christopher Olah, cofundador de Anthropic, quien remarcó que el rol de los desarrolladores de IA actuales no se parece tanto a un trabajo de «construcción» como el de los ingenieros tradicionales, sino más bien a una especie de «cultivo» y «descubrimiento» de los modelos de IA y su funcionamiento, que en muchos aspectos es aún «misterioso». Por lo tanto, si no conocemos cómo los modelos algorítmicos toman sus decisiones, resulta peligroso e inhumano confiarles decisiones éticas donde se pone en juego la vida de las personas.

Esto nos lleva al siguiente factor, que es la responsabilidad por las decisiones de la IA. El papa sostiene: «lo que disminuye, en este proceso [de encomendar a la IA la selección de quién es digno o no], no es sólo la empatía hacia el excluido, que puede ser imitada artificialmente, sino la responsabilidad política, porque el descarte de los débiles queda revestido de una neutralidad y una objetividad ante las cuales es imposible protestar» (MH 103). Se hacen necesarias, entonces, responsabilidades claras y transparentes en todas las etapas: desde el diseño y programación de los sistemas hasta su uso y su asignación a tareas concretas. La noción de responsabilidad, en este caso, implica «identificar quién debe “rendir cuentas” de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas» (MH 105).

Cuando estos problemas se trasladan al campo de la guerra, sus implicaciones se hacen más notorias y dañinas. León XIV señala que «la creciente facilidad con la que se pueden emplear los sistemas de armas con autonomía operativa hace que la guerra sea más “viable” y menos sujeta al control humano» (MH 197), lo que la aleja de concebirla como último recurso para la legítima defensa.

El papa indica tres aspectos que deben regir toda regulación y reflexión ética sobre la aplicación armamentística de la IA: en primer lugar, la necesidad de una cadena de responsabilidades personales identificables, como ya se explicó anteriormente; en segundo lugar, el hecho de que la IA tiende a acortar los tiempos de decisión, combinado con el problema de que «en la guerra, las decisiones irreversibles no pueden tener como criterios supremos la rapidez y la eficiencia» (MH 199); y en tercer lugar, la necesidad de distinguir y proteger a los civiles, ya que «toda tecnología que facilite atacar sin ver el rostro del otro baja el umbral moral del conflicto» (MH 199).

Magnifica Humanitas llama a «desarmar la IA» (MH 110), sustrayéndoola de la lógica de la competencia armamentística, que hoy es tanto militar como económica y cognitiva. León XIV plantea que a la IA «no basta regularla; es necesario desarmarla y hacerla acogedora».

El deterioro del poder estatal frente al avance de la IA

Finalmente, otro aspecto sobre el que vale la pena llamar la atención es la dificultad que los Estados enfrentan al momento de controlar el desarrollo de la IA. El papa lo expresa de la siguiente manera:

«En el pasado, eran principalmente los estados los que impulsaban y orientaban la innovación. Hoy, en cambio, los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos. El poder tecnológico adquiere así un rostro inédito, predominantemente “privado”, y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común» (MH 5).

Plantea que cuando un poder de tal magnitud queda en pocas manos, tiende a hacerse opaco y a escapar del control público, aumentando el riesgo de un desarrollo distorsionado que provoque más dependencia, exclusión, manipulación y desigualdad.

Considerando esta pérdida de poder estatal, el pontífice llama a una cooperación internacional que pueda «definir estrategias comunes, sobre todo en favor de los países y los grupos más vulnerables, para promover el desarrollo y superar el asistencialismo» (MH 163).

A su vez, León XIV identifica una crisis en el multilateralismo, que ha dado lugar a un multipolarismo desordenado donde predomina el conflicto y la desconfianza. En consonancia con esto, reconoce la importancia de la ONU y demás organizaciones multilaterales que permitan propiciar el diálogo a nivel internacional. De este modo, señala: «La Santa Sede apoya y acompaña este compromiso, aunque reconoce que la actual debilidad de la ONU y del sistema político internacional revela la necesidad de reformas profundas: no se trata sólo de ajustes técnicos, porque la crisis de convicciones y de valores afecta también a los fundamentos éticos de la vida de las naciones y dificulta orientar el multilateralismo hacia el verdadero bien común» (MH 226).

Magnifica Humanitas nos recuerda la importancia de custodiar la dignidad humana frente al rápido desarrollo de la inteligencia artificial. Más que soluciones concretas, plantea interrogantes, desafíos y lineamientos para que la IA sea una herramienta que nos permita avanzar hacia una sociedad «más humana». Es una carta abierta, no solo a los fieles católicos, sino a todos los gobiernos, organismos internacionales, corporaciones y desarrolladores que tienen en sus manos el control de una tecnología que marcará de aquí en adelante la evolución de la humanidad. Las palabras con las que León XIV inicia su encíclica nos sirven de conclusión:

«La magnífica humanidad que Dios ha creado se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos» (MH 1).