Mientras nuestra atención está atrapada en la pantalla del teléfono, en el scroll de nuestra red social favorita, en el video que empezó siendo uno y ya son seis, en la notificación que apareció y no habíamos pedido — ocurre algo que no estamos viendo.
Ocurre en silencio. Sin ceremonia. Sin aviso.
Decisiones que antes tomaba una persona empezaron a tomarlas un sistema. Y nadie lo advirtió. La cita médica que antes te asignaba una recepcionista, hoy te la asigna un algoritmo. El precio de tu seguro lo calcula un modelo. Tu currículum lo filtra un software antes de que ningún ser humano lo mire. La sugerencia de qué video ver, qué persona seguir, qué producto comprar te la susurra un sistema que ha estudiado tus últimas mil decisiones — y que te conoce mejor de lo que tú mismo crees.
Y todo eso pasa mientras miramos la pantalla.
La Magnifica Humanitas pone un nombre a este proceso. Y no lo pone para asustarnos ni para paralizarnos, sino para invitarnos a lo más antiguo y necesario de la vida cristiana: discernir. Es decir, aprender a mirar de nuevo. Aprender a nombrar lo que se ha vuelto invisible. Aprender a preguntar dónde estamos parados en medio de un mundo donde muchas decisiones que nos afectan ya no las toma alguien — las toma algo.
Y aquí conviene decirlo con claridad. Este post no es sobre denunciar la técnica. Ya sabemos que la técnica no es neutral y que hay actores privados con enorme poder detrás de estos sistemas — lo hemos trabajado en los posts anteriores. Este post es sobre algo más íntimo, más cotidiano y por eso más urgente: cómo aprendemos, cada uno de nosotros, a discernir dónde estamos aceptando en silencio que una máquina decida por nosotros — y qué de eso nos duele, nos preocupa o simplemente nos parece bien.
Porque el discernimiento cristiano no empieza en las grandes decisiones. Empieza en los pequeños actos donde, sin darnos cuenta, hemos dejado de elegir.
El riesgo silencioso
León XIV lo dice con una precisión que conviene leer despacio: en la lógica de la inteligencia artificial «la injusticia se realiza silenciosamente cuando nadie asume el peso de la decisión» (cf. n. 111). Es una frase corta, pero contiene toda la cuestión.
Cuando una persona toma una decisión, hay alguien a quien puedes preguntarle. Alguien que puede escuchar tu caso. Alguien que puede ver que tu situación no encaja en el manual y hacer una excepción. Alguien que puede equivocarse — pero también reparar el error. Alguien que tiene un rostro. Alguien que puede ser interpelado.
Cuando decide un sistema, nada de eso está disponible.
El sistema no puede escucharte. No puede considerar tu contexto. No puede ver que la razón por la que tu solicitud fue rechazada esconde una circunstancia que ningún dato refleja. Y sobre todo — y esto es lo más importante — cuando el sistema se equivoca, no hay nadie que asuma el peso. El algoritmo no responde. La empresa dice que fue el sistema. El programador dice que solo escribió el código. El directivo dice que solo aprobó la implementación. Y tú te quedas con la decisión encima — sin saber a quién mirar a los ojos.
Eso es lo que la encíclica llama la «injusticia silenciosa». No es que alguien te haga daño con intención. Es que el daño ocurre y nadie lo firma.
Tres lugares donde ya está pasando
Para que esto no se quede en un plano abstracto, vale la pena bajar a la vida real. Y aquí hay tres ejemplos que quizás ya hayas vivido — o vivirás pronto — sin haberlo nombrado así.
El primero es el que muchos llaman «credit scoring» algorítmico. Hoy, cuando pides un crédito bancario, un préstamo estudiantil o incluso un contrato de alquiler en muchos lugares, un sistema evalúa tu perfil financiero y decide si eres confiable. Ese sistema no ve tu rostro. No sabe que dejaste de pagar durante los tres meses en que cuidabas a tu madre enferma. No sabe que tu trabajo actual es más estable que el de hace dos años, cuando aparece la última mancha en tu historial. Simplemente calcula. Y su cálculo, en muchos casos, penaliza más a quienes ya venían siendo penalizados por la vida.
El segundo es la selección de personal. La mayoría de las grandes empresas hoy utilizan sistemas que filtran currículums antes de que ningún ser humano los mire. Si tu currículum no tiene las palabras clave que el sistema busca, si tu experiencia no encaja en los formatos que el modelo reconoce, si tu perfil se parece poco al perfil «típico» de quienes fueron contratados en el pasado — quedas fuera antes de que nadie sepa que existes. Y quien queda fuera con más frecuencia son precisamente aquellas personas cuya trayectoria no es lineal, no es convencional, no encaja. Es decir, muchas veces, quienes más necesitan una oportunidad.
El tercero — y es quizás el más íntimo — es lo que ocurre cada vez que abres una red social o una plataforma de contenido. Un sistema decide qué te muestra y qué no. Qué voces amplifica y qué voces silencia. Qué te hace pasar más tiempo mirando y qué te hace perder interés. Ese sistema no te está informando de la realidad — está construyendo una versión de la realidad hecha a la medida de tu atención. Y con el tiempo, esa versión empieza a parecerte la realidad misma.
Ninguno de estos tres ejemplos requiere una tecnología perversa ni un actor malintencionado. Todos ocurren ya, hoy, en la vida ordinaria de millones de personas. Y todos comparten el mismo rasgo: nadie asume el peso de la decisión.
Discernir cuando la máquina decide por nosotros
Aquí es donde este post pide detenerse. Porque la pregunta no es solo sobre lo que «el sistema» hace — es sobre lo que nosotros hacemos con ese sistema.
Y es aquí donde el discernimiento cristiano tiene algo específico que decir. Discernir, en la tradición espiritual de Ignacio de Loyola y de tantos otros, no es solo elegir entre lo bueno y lo malo. Es aprender a distinguir las mociones que nos habitan. Es preguntarse hacia dónde nos llevan las cosas que hacemos sin pensar. Es tomar en serio que no toda facilidad es buena, ni toda incomodidad es mala.
Cuando aplicamos esto al mundo de las decisiones automatizadas, aparecen algunas preguntas que vale la pena hacerse.
¿En qué momentos de mi día dejo que una máquina decida por mí sin siquiera darme cuenta? Cuando abro las redes sociales y me dejo llevar por lo que el algoritmo me muestra. Cuando compro lo primero que aparece en la búsqueda porque confío en que es lo mejor. Cuando acepto sin leer las condiciones de un servicio. Cuando delego en un chatbot una decisión que antes habría consultado con otra persona.
Esas no son necesariamente decisiones equivocadas. Pero son decisiones. Y merecen ser miradas.
¿Cuándo me quejo del sistema y cuándo me acomodo a él? Es fácil quejarse del algoritmo cuando nos perjudica. Es fácil culpar a la red social cuando nos hace perder el tiempo. Pero la pregunta más honesta es otra: ¿en qué medida yo mismo me estoy acomodando a esa lógica? ¿En qué medida estoy dejando que el sistema me forme, me eduque, me construya a su imagen?
¿Qué decisiones no puedo delegar sin dejar de ser yo mismo? Hay decisiones que son intransferibles. Cómo trato a las personas que están cerca de mí. Qué hago con mi tiempo libre. A qué le doy importancia en mi vida familiar. Qué siento cuando alguien me pide ayuda. Ninguna de esas decisiones debería depender de un sistema. Y sin embargo, muchas veces las delegamos — dejando que la comodidad, la eficiencia o la costumbre digital nos gobiernen.
Lo que la fe nos ayuda a mirar
Aquí es donde la mirada creyente tiene algo específico que aportar. Porque la fe cristiana no nos pide huir del mundo tecnológico. Nos pide habitarlo con otros ojos.
La Magnifica Humanitas recuerda algo esencial: la persona humana no es reducible a lo que produce ni a lo que consume. No es un dato. No es un perfil. No es una suma de comportamientos. Es alguien — con historia, con vínculos, con vocación, con misterio. Y esa dignidad no depende de que un sistema la reconozca. Depende de un don que la precede.
Cuando aprendemos a mirar así, algo cambia. Ya no vemos al que fue rechazado por el algoritmo del crédito como un caso más — vemos a un hermano-hermana cuya circunstancia no encaja en un modelo. Ya no vemos a la persona cuyo currículum fue filtrado como un fracaso — vemos a alguien cuya trayectoria no se deja capturar por palabras clave. Ya no vemos las redes sociales como un mundo neutro donde pasamos el tiempo — vemos un espacio donde las decisiones sobre quiénes seremos las toma, cada día un poco más, un sistema que no nos conoce.
Y esa mirada cambia la manera de estar en el mundo. No nos convierte en enemigos de la técnica. Nos convierte en discípulos que han aprendido a discernir.
Elegir dónde no dejar decidir a la máquina
Todo esto no es una condena de la tecnología. Es una invitación a algo mucho más concreto: elegir con claridad, cada uno según sus circunstancias, cuáles son los espacios de nuestra vida donde no vamos a permitir que la máquina decida por nosotros.
Puede ser algo pequeño. Como decidir que la primera hora del día no va a estar mediada por notificaciones. Como escuchar a la persona que tenemos enfrente sin consultar el teléfono. Como escribir una carta a mano cuando alguien la necesita. Como preguntar directamente a otro ser humano cuando podemos, en lugar de acudir al buscador.
Puede ser algo mediano. Como decidir que las decisiones importantes de nuestra vida familiar las tomamos en conversación, no siguiendo lo primero que aparece en la búsqueda. Como acompañar a alguien que quedó fuera de un proceso automatizado, sin resignarse a que «así funciona el sistema». Como enseñar a los más jóvenes que un algoritmo les puede recomendar, pero no elegir por ellos.
Y puede ser algo grande. Como comprometerse con espacios donde la voz humana todavía tiene peso — la parroquia, la comunidad, el barrio, el aula, la mesa familiar. Espacios donde nadie es un dato y donde cada persona es reconocida por su nombre.
Cada uno de estos gestos es pequeño. Ninguno cambia el mundo por sí solo. Pero todos juntos son una manera de decir, con la vida, que hay decisiones que no queremos delegar. Que hay ámbitos donde queremos seguir siendo nosotros los que respondemos. Que hay lugares donde la palabra «hermano-hermana» pesa más que cualquier eficiencia calculada.
Y ahí, en ese discernimiento cotidiano, empieza a habitarse este tiempo desde la libertad interior que León XIV nos pide no perder.
