[…]
El paradigma tecnocrático y el poder digital […]
94. El peligro de que la humanidad sea víctima de sus propias conquistas había sido ya percibido con lucidez por san Pablo VI, cuando advertía que «los progresos científicos más extraordinarios, las proezas técnicas más sorprendentes, el crecimiento económico más prodigioso, si no van acompañados de un auténtico progreso social y moral, se vuelven, en definitiva, contra el hombre».121 Por eso el progreso técnico, valioso en sí mismo, requiere un discernimiento sobre la visión antropológica que lo guía y los fines que persigue. Si el desarrollo tecológico avanza sin una adecuada maduración ética y social, puede suceder que aumenten los medios sin que crezca en la misma medida la humanidad: se “tiene más”, pero no se “es más”, y la persona corre el riesgo de ser valorada principalmente en base al rendimiento que ofrece.122 […]
Una ayuda valiosa que requiere atención
100. A la luz de cuanto se ha dicho, podemos comprender mejor por qué la IA puede ser una valiosa ayuda y, al mismo tiempo, exija un enfoque prudente y cauteloso. […]
Responsabilidad, transparencia y gobernanza de la IA
102. El uso de la IA nunca es un hecho puramente técnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputación y libertad. Las decisiones delicadas que repercuten en el trabajo, el acceso a créditos y a otros servicios, y la reputación de las personas, corren el riesgo de ser confiadas completamente a sistemas automatizados que no conocen «la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo»,125 pudiendo así producir nuevas formas de descarte. Puede haber usos evidentemente antihumanos, como la manipulación de la información o la violación de la privacidad, pero puede haber también un engaño menos evidente, cuando los sistemas de IA, presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado.
103. Confiar, en la práctica, a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas. […]
104. De esto se deriva una consecuencia sencilla pero apremiante: no podemos considerar a la IA como moralmente neutra. En realidad, todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones. Si un sistema se concibe o emplea tratando algunas vidas como menos dignas, o las excluye sin posibilidad de apelación, no es un simple instrumento que “hay que usar correctamente”; introduce ya un criterio que contradice la dignidad inalienable de la persona. Por eso, el discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían.126 […]
108. En efecto, como ocurre con todo gran avance tecnológico, la IA tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a los datos. A la luz del bien común y del destino universal de los bienes, este fenómeno suscita seria preocupación: pequeños grupos muy influyentes pueden orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos. Por eso es indispensable que el uso de la IA —sobre todo cuando involucra bienes públicos y derechos fundamentales— esté acompañado de criterios claros y controles efectivos, inspirados en la participación y la subsidiariedad; las comunidades y los cuerpos intermedios no pueden ser reducidos a destinatarios de decisiones tomadas en otros lugares, sino que deben poder contribuir al discernimiento y a la vigilancia. Además, la propiedad de los datos no puede confiarse sólo al sector privado, sino que debe reglamentarse. Estos son fruto del aporte de muchos y no pueden ser vendidos o confiados a unos pocos. Hace falta una creatividad capaz de gestionarlos como uno de los bienes comunes o colectivos, en la lógica del compartir, como ya sugería san Juan Pablo II a propósito de los bienes colectivos.128
El límite, el corazón, la grandeza del ser humano
126. Precisamente esta convergencia de instituciones justas, testimonios creíbles y fidelidades cotidianas mantiene viva la esperanza e indica una dirección: hacer que la técnica crezca sin que se repliegue el corazón. Por eso la humanidad —magnífica y herida— no debe ser sustituida ni superada; puede acoger los progresos de la técnica para aliviar los sufrimientos y abrir posibilidades nuevas, siempre que no reniegue de aquello que la hace ser ella misma, es decir, la capacidad de relación y de amor. A este punto se impone una pregunta decisiva: si existe un auténtico “más que humano”, ¿dónde se encuentra? La fe cristiana responde indicando una plenitud que no deriva de una divinización tecnológica, sino de aquella que produce la gracia de Dios, recibida en Cristo. […]
Todos podemos dar nuestro aporte
212. En este punto, sin embargo, se insinúa una tentación sutil: pensar que los problemas son demasiado grandes y nosotros demasiado pequeños, y que, por tanto, nuestras decisiones no cambian nada. Es una forma elegante de rendirse, a menudo disfrazada de realismo. […]
213. Un escritor católico del siglo XX, John Ronald Reuel Tolkien, por boca de uno de los protagonistas de una de sus novelas, describió así nuestra responsabilidad: «No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza».187 La civilización del amor no nace de un gesto único y espectacular, sino de una suma de fidelidades pequeñas y tenaces, que hacen frente a la deshumanización. Por eso vale la pena detenerse y considerar algunos aspectos de cómo, cada uno en su ámbito, podemos colaborar en su construcción. Sin pretender agotar el tema, propongo cinco vías de responsabilidad cotidiana y pública: desarmar las palabras, construir la paz en la justicia, asumir la mirada de las víctimas, cultivar un sano realismo y relanzar el diálogo y el multilateralismo.
Extractos de la encíclica “Magnifica Humanitas”. Papa León XIV. 15 mayo 2026.
Foto: Pixabay