Ayer se publicó oficialmente Magnifica Humanitas de León XIV en el Vaticano y la elección de la fecha no es casual: coincide con el aniversario 135 de Rerum Novarum, publicada por León XIII como respuesta a los rápidos cambios de la Revolución Industrial. Esta coincidencia no es decorativa, y conviene tomársela en serio. Leon XIII no pretendió definir metafísicamente qué era una fábrica ni una máquina de vapor; describió las consecuencias humanas de cómo se distribuía el poder sobre esos artefactos. Como fiel sucesor, la Magnifica Humanitas formula afirmaciones político-económicas sobre la distribución del poder, del trabajo y de la dignidad humana.
Me gustó mucho que una institución tan relevante como la Iglesia católica muestre oficialmente su preocupación por el uso de la IA en vigilancia y guerra, y también por otros temas más incipientes pero tan o más relevantes: la pérdida de capacidades comunes e individuales al estar cada uno ensimismado con nuestros agentes, el así llamado de-skilling. Hay trabajos recientes (por ejemplo, de Daron Acemoglu) que tratan de explicar este problema.
En el plano comunicacional, fue interesante que invitaran a Chris Olah, uno de los fundadores de Anthropic. Esto ha sido controvertido porque algunos lo ven como una alianza comunicacional y política entre Anthropic y el Vaticano. Y aunque en general Anthropic ha mostrado un ethos más progresista que OpenAI (y, por ende, más alineado con este papado), también ha tenido polémicas, por ejemplo, por haber estado involucrado en contratos militares que parecen ir en contra de su propia constitución y de la encíclica.
Sin embargo, quizás sea mejor adoptar una visión más caritativa y ver esto como un esfuerzo por establecer relaciones diplomáticas: a pesar de lo anterior, Anthropic también ha liderado iniciativas cubiertas por la encíclica. Por ejemplo, Chris Olah, a quien admiro, ha sido líder en el desarrollo del campo de la interpretabilidad mecanística, que busca garantizar que la IA sea una “buena persona”, en sus palabras. También, Anthropic ha mostrado preocupación por el hecho de que las IA tienden a adular a los usuarios, un problema conocido como sycophancy. Más allá de que Dante tenía un lugar especial en el infierno para los aduladores, el problema, como se ha mostrado recientemente, es que los chatbots aduladores pueden llevar a las personas que los usan a mostrar menos comportamientos prosociales al privarlas de críticas honestas. Si bien este no es un tema central de la encíclica, sí hay una mención explícita a este problema
La imitación artificial de una comunicación humana positiva —palabras de consejo, de empatía, de amistad, de amor— puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal. (...) La imitación artificial de la relación de cuidado o de acompañamiento puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales; entonces el riesgo no es tanto que una persona crea que está hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro.
Otro aspecto importante, que creo que es más discutible, es el de la postura sobre la realidad fenomenológica de la IA.
Lo que podemos decir es que hay que evitar el equívoco de equiparar esta “inteligencia” a la humana. Estos sistemas imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo la superan en velocidad y amplitud de cálculo, ofreciendo beneficios concretos en numerosos campos. Y, sin embargo, esta potencia sigue ligada exclusivamente al tratamiento de datos: las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias. (...) Incluso cuando dichos instrumentos se presentan como capaces de “aprender”, lo hacen de modo diferente al de la persona humana. No es la experiencia de quien se deja modelar por la vida y crece en el tiempo por medio de decisiones, errores, perdón y fidelidad; es más bien una adaptación estadística a partir de datos y retroalimentaciones, que puede ser muy eficaz, pero no implica un crecimiento interior.
La idea que busca rescatar es la de la cognición corporeizada, de que una verdadera mente necesita un cuerpo. Pero creo que acá se mezclan enunciados factuales (la IA no tiene cuerpo), con posiciones metafísicas que no se pueden realmente rebatir (el problema duro de la conciencia, de cómo la mente y el cuerpo se crean el uno a otro), con teorías científicas que van más por el lado del reduccionismo pero que en realidad quedan por responderse, sobre si una entidad entrenada en base adaptaciones estadísticas puede desarrollar un crecimiento interior.
Lo que me pareció más interesante fue la referencia a la torre de Babel. Babel es el nombre hebreo de Babilonia, una ciudad ubicada en el actual Irak. De acuerdo con algunas etimologías, se llama así por el sonido onomatopéyico de «balbucear». Esta historia viene del Génesis y es sorprendentemente corta:
Tenía entonces toda la tierra una sola lengua y unas mismas palabras. 2 Y aconteció que cuando salieron de oriente, hallaron una llanura en la tierra de Sinar, y se establecieron allí. 3 Y se dijeron unos a otros: Vamos, hagamos ladrillo y cozámoslo con fuego. Y les sirvió el ladrillo en lugar de piedra, y el asfalto en lugar de mezcla. 4 Y dijeron: Vamos, edifiquémonos una ciudad y una torre, cuya cúspide llegue al cielo; y hagámonos un nombre, por si fuéremos esparcidos sobre la faz de toda la tierra. 5 Y descendió Jehová para ver la ciudad y la torre que edificaban los hijos de los hombres. 6 Y dijo Jehová: He aquí el pueblo es uno, y todos estos tienen un solo lenguaje; y han comenzado la obra, y nada les hará desistir ahora de lo que han pensado hacer. 7 Ahora, pues, descendamos, y confundamos allí su lengua, para que ninguno entienda el habla de su compañero. 8 Así los esparció Jehová desde allí sobre la faz de toda la tierra, y dejaron de edificar la ciudad. 9 Por esto fue llamado el nombre de ella Babel, porque allí confundió[a] Jehová el lenguaje de toda la tierra, y desde allí los esparció sobre la faz de toda la tierra.
La interpretación de la torre de Babel es compleja y depende de la teología. Para algunos, la torre de Babel tiene un significado positivo (no punitivo) porque es el origen de la diversidad cultural. Es un castigo por haber querido buscar fama (un nombre); los edificadores quedan hablando en lenguas distintas. Pero la interpretación más común es que se trata de una historia sobre la soberbia humana. En esa lectura, el problema no es construir una torre ni cooperar técnicamente, sino la ambición colectiva de fundar una civilización autosuficiente, centralizada y orgullosa, al margen de Dios.
Evitemos, por tanto, el “síndrome de Babel”: la idolatría del lucro que sacrifica a los débiles, la uniformidad que aplana las diferencias, la pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos. Este es el riesgo de la deshumanización —construir el futuro excluyendo a Dios y reduciendo al otro a un medio—, una tentación antigua y siempre nueva, que hoy también toma un rostro técnico. Elijamos, en cambio, el “camino de Nehemías”, que pone de relieve el valor del trabajo compartido para hacer que la ciudad de Dios sea un lugar seguro para los exiliados que regresaron. Hoy, reconstruir significa reconocer que, en la pluralidad de voces y visiones que a veces recuerda la dispersión de las lenguas, existe, sin embargo, una posibilidad luminosa: la de edificar juntos, transformando la diversidad en un recurso y haciendo de la escucha y del diálogo el terreno común en el cual hacer crecer la justicia y la fraternidad. Y, en esta obra compartida, los cristianos encuentran su propia forma de construir: orientar la acción hacia Dios, para que, bajo su luz, el pluralismo no se disperse en el desorden, sino que, en la práctica de la sinodalidad, se convierta en el espacio en el que la humanidad recupere sus cimientos sólidos y su fin último. En el Apocalipsis, Juan ve la nueva Jerusalén «que descendía del cielo y venía de Dios» (Ap 21,2) como un regalo para toda la humanidad. Y esta visión de gracia es para nosotros, los cristianos, una llamada a trabajar juntos, cultivando una vida común pacífica, justa y digna en las “ciudades” de hoy.
La encíclica, a simple vista, endosa primordialmente esta segunda interpretación. Y dada la relevancia histórica de la Biblia, conlleva el riesgo de parecer reaccionaria. La lectura del "síndrome de Babel" como soberbia técnica, surgida de la codicia de algunos, le sirve al Papa para condenar la pretensión de un lenguaje único digital que reduzca el misterio de la persona a datos y rendimientos. Pero esta exégesis Babel-punitiva lleva también en un extremo burdo a condenar el uso del traductor automático, metiéndolo en el mismo saco que la vigilancia masiva, y a pensar que hay algo inherentemente malo en la digitalización.
Una lectura más equilibrada requiere integrar la interpretación que entiende la dispersión lingüística como origen de la diversidad cultural, y ésta no está realmente ausente del texto: reaparece cuando se invoca "camino de Nehemías" como el espacio donde la pluralidad de voces se vuelve recurso en lugar de desorden. Sólo así se logra entender la metáfora de Babel en el contexto agenda político-económica de redistribución e inspección que articula el resto del documento. Yo me inclino por esta segunda lectura, y no por comodidad: es la única que mantiene una continuidad genuina con Rerum Novarum, donde tampoco se condenó la máquina en sí, sino la distribución del poder sobre ella.
