Lo humano sobre la tecnología. Comentario a la encíclica Magnifica humanitas, de León XIV
Por Cristina Inogés Sanz, teóloga
Magnifica humanitas es una encíclica dedicada a tu magnífica humanidad, seas quien seas que te hayas acercado a ese texto. Esa humanidad creada por Dios a la que debemos proteger y cuidar. Una humanidad que, en esta era de la Inteligencia Artificial, de transformaciones históricas, se encuentra ante decisiones cruciales. ¿Construir una Torre de Babel o construir la Ciudad Santa, Jerusalén, para habitarla con Dios? Con una clara influencia agustiniana, la encíclica de León XIV, nos sitúa ante una decisión que no solo interpela a la conciencia humana, sino también y en igual medida a la consciencia humana. Es una invitación al discernimiento.
La cuestión que se plantea es ser una humanidad que decide eliminar sus propios límites y rechaza a Dios a la vez que sacrifica a los más débiles -advierte que los algoritmos opacos corren el riesgo de reproducir prejuicios y discriminación, enmascarando la exclusión de los más débiles bajo un manto de neutralidad y objetividad técnica. “Y así, la injusticia se silencia, y la compasión, la misericordia y el perdón desaparecen del horizonte, no como meras apariencias, sino como gestos políticos” (n. 103)- y elimina las diferencias, se vuelve uniforme, gris, apática y crea un lenguaje que, de hecho, reduce a las personas a meros datos, o una humanidad que escoge la Ciudad Santa y reconoce que la IA necesita criterios claros que sitúen a la persona en primer lugar, conociendo sus límites. Límites que la posibilitan para reconocer a Dios y al prójimo y, sobre todo, a Dios en el prójimo.
Porque el verdadero progreso nace de un corazón abierto a los otros con compasión y empatía. Algo muy lejos del pensamiento y entendimiento de Elon Musk que se permitió decir que “la empatía era la epidemia de occidente”. A lo largo de 245 párrafos y, aproximadamente 41.500 palabras, en esta encíclica que tiene tres veces el tamaño de Rerum novarum, escrita por León XIII, y casi el mismo que Laudato si’ de Francisco, León XIV argumenta que el verdadero progreso solo puede medirse por la capacidad de proteger a los más vulnerables y garantizar la dignidad de cada persona.
Contra el pronóstico de agoreros y profetas de calamidades que, sin haber sido publicado el texto, llevaban ya días vaticinando que León XIV, es decir, la Iglesia, iba a cargar contra la IA, resulta que nos encontramos con un texto que no la condena, que no ve solo aspectos negativos en ella, sino que nos ayuda a pensar -mejor a seguir pensando- en la crisis antropológica en la que estamos inmersos. Porque la cuestión no es si la IA puede humanizarse, sino hasta qué punto la inteligencia de la persona puede seguir siendo humana, propia, libre, con una presencia tan cotidiana como agobiante de la IA. En definitiva, que la tecnología no ocupe el espacio humano. Esto es lo que la convierte realmente en una cuestión antropológica y, por tanto, teológica.
El papa nos ofrece la posibilidad de tener delante el marco de principios que nos permite ver la transformación que tenemos delante. Ese marco recoge la dignidad humana, el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad, y la justicia social.
Del texto se pueden destacar muchísimos puntos, pero dada su extensión resalto estos cinco por orden de aparición en el mismo: A/ Los datos se reconocen como parte del destino universal de los bienes: las patentes, los algoritmos y la infraestructura digital son bienes que no pueden permanecer concentrados en manos de unos pocos (n. 67). B/ La subsidiariedad se redefine para el mundo digital, donde el «nivel superior» ya no es el Estado, sino las principales plataformas tecnológicas que establecen las condiciones de acceso a la vida pública (n. 71). C/ La IA no es moralmente neutral; todo artefacto tecnológico implica elecciones y prioridades (n.104). D/ El documento introduce el concepto de «desarmar la IA»: eliminar esta tecnología de la lógica de la competencia armada, que ya no es solo militar, sino también económica y cognitiva (n. 110). E/ El colonialismo digital se identifica como una nueva forma de extracción, no solo de recursos naturales, sino también de datos de salud, perfiles epidemiológicos y mapas genéticos. Estos son los «nuevos ‘elementos raros’ del poder» y el gran peligro de las nuevas esclavitudes (nn. 174-176).
Por eso, se nos invita a “observar con claridad las cadenas de producción digital, las condiciones laborales que se esconden tras nuestros dispositivos, los mecanismos que se aprovechan de la manipulación y la guerra; y, al mismo tiempo, a buscar formas concretas de aumentar la equidad, la participación y el cuidado de la creación” (n. 240)
El desafío está ahí porque, uno de los temas centrales que nos presenta la encíclica es la denuncia del “paradigma tecnocrático” nn. 92, 94, 185) y del inmenso poder digital concentrado en el sector privado. León XIV señala que, a diferencia del siglo pasado, cuando los Estados dirigían la innovación, los principales impulsores del desarrollo son ahora entidades privadas y transnacionales, algunas de las cuales poseen recursos y capacidades de intervención superiores a las de muchos gobiernos.
Nadie puede sentirse excluido de la reflexión que nos presenta Magnifica Humanitas, porque al citar a Hanna Arendt, Romano Guardini, Platón, Víctor Frankl, J.R.R. Tolkien -preciosa la cita literal de Gandalf, personaje de “El señor de los anillos”-, Ludwig van Beethoven, o Pablo Picasso, hay un lenguaje universal que abraza a la realidad humana en sí misma y que puede ser entendido por todos. De hecho, en la misma presentación de la encíclica hizo un llamamiento universal, a toda la familia humana para construir la civilización del amor. Porque la invitación de León XIV a “desarmar” la IA, reconociendo que eligió una palabra fuerte y provocativa, es un deseo de despertar las conciencias de todos ya que, cualquier gran poder tecnológico debe ser acompañado de un discernimiento moral y control público (n. 110), porque estamos ante un desafío ecológico “en el sentido más radical, porque implica una nueva dimensión de nuestra casa común. La IA ya es un entorno en el que estamos inmersos y un poder con el que debemos lidiar. Por eso no basta con regularla: hay que desarmarla y hacerla accesible”.
El papa hace una poderosa llamada de atención a futuras guerras cuando dice que “se invoca con demasiada frecuencia para justificar cualquier guerra, incluso si está sujeta al derecho a la legítima defensa” (n.192), alimentada por “narrativas mediáticas polarizadoras, a menudo amplificadas por algoritmos que glorifican la confrontación y la oposición” (n.190). No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable (n. 198).
Magnifica humanitas es, en definitiva, una invitación, casi un ruego a meter las manos en el barro del cuidado mutuo porque, en ocasiones, lavarnos las manos como Pilato -que se traduce en mirar para otro lado- es la manera más segura de ensuciarlas sin posibilidad de limpieza.
Estamos ante una lectura obligada, seas creyente o no. Recuerda que va dirigida a “todos los hombres de buena voluntad”, según la fórmula de Pacem in Terris de Juan XXIII. Todo el texto tiene un gusto positivo, pero te dejo una de sus reflexiones que sí, mantiene ese sabor positivo, aunque un puntito inquietante:
Es oportuno anteponer dos consideraciones: la primera es que cualquier afirmación sobre la IA corre el riesgo de quedar obsoleta en poco tiempo, dada la impresionante velocidad de desarrollo de estos sistemas. En segundo lugar, todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su funcionamiento efectivo. Las inteligencias artificiales modernas están más “cultivadas” que “construidas”: los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA “crece”. En consecuencia, los aspectos científicos fundamentales -como las representaciones internas y los procesos computacionales de estos sistemas- siguen siendo desconocidos. Se manifiesta, por tanto, la urgencia de un doble compromiso: por una parte, una profundización de la investigación científica; por otra, un ejercicio de discernimiento moral y espiritual. (n.98).
Precisamente por esto, Christopher Olah, dueño de IA Anthropic, empresa que perdió miles de millones al oponerse a las exigencias del Pentágono en Estados Unidos, al exigirle a este organismo que la última palabra la tuviera la persona y no la IA, dijo en la presentación de este documento que las empresas de IA operan bajo presiones comerciales, geopolíticas, y de ambición personal que chocan frontalmente con las decisiones éticas correctas. Y, añadió: “Quisiera finalizar con una clarísima petición. Necesitamos que más personas en el mundo -comunidades religiosas, sociedad civil, académicos, gobiernos- hagan lo que Su Santidad ha hecho aquí: tomar esto en serio, observar con atención e impulsar los acontecimientos en una mejor dirección. Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que no se dejen doblegar por los incentivos. Hoy es solo el comienzo: el inicio de una larga colaboración entre quienes estamos construyendo esto y quienes pueden ver lo que nosotros, desde dentro, no podemos. Hoy es una poderosa muestra de la forma que podría tomar este proyecto global de buena voluntad. Que sea también un primer paso decisivo hacia un futuro esperanzador para la magnífica humanidad”. Como respuesta a estas palabras, León XIV le respondió: “En nombre de la Iglesia, acepto tu invitación para caminar juntos”.
En el n. 211, y para seguir recordándonos la esperanza a la que como seres humanos estamos llamados, León XIV nos dice: “Incluso en las noches más oscuras, el Señor suscita hombres y mujeres capaces de no resignarse y de perseverar en el bien: personas que protegen a los frágiles y abren caminos de reconciliación. La memoria de los santos y de los justos, de los constructores de paz a menudo olvidados, muestra que la gracia no elimina el conflicto con un gesto mágico, sino que genera una resistencia activa al mal y una creatividad sorprendente en el bien”.
A título de curiosidad, el título de la encíclica afirma la “magnífica humanidad” creada por Dios y revelada en su plenitud en Cristo, una humanidad cuyo esplendor ninguna máquina podrá jamás reemplazar (n. 15). Pero, también hace referencia al Magníficat que proclama María ante Isabel y que invierte la lógica del poder.
Por cierto, según la IA, la palabra ‘persona’ en minúscula, se escribe así en código binario:
01110000 01100101 01110010 01110011 01101111 01101110 01100001
Piensa en las personas que amas, a las que conoces e, incluso a las que no conoces… Un poco frío, ¿no crees?