El progreso no consulta al Papa
Edición Nº 1106 - Viernes 13 de noviembre de 2026. Lectura: 6'
Por Juan Carlos Nogueira
A partir de las reflexiones de León XIV sobre la inteligencia artificial, el autor examina los desafíos éticos, económicos y sociales de una revolución tecnológica que, como las anteriores, difícilmente pueda someterse a principios establecidos de antemano.
En su reciente discurso en Montevideo, el Papa León XIV se refirió a la Inteligencia Artificial (IA): “El desarrollo de estas tecnologías debe ampliar las capacidades humanas, facilitar tareas y crear nuevas posibilidades, procurando que la persona que trabaja no quede reducida a una simple pieza prescindible dentro del proceso productivo”.
Esta frase me interesó porque plantea un problema para el que todavía no tenemos una respuesta.
El nombre elegido por el nuevo pontífice no fue casual. Entre sus referencias está León XIII, quien publicó en 1891 la encíclica Rerum Novarum, dedicada a la cuestión social y a las consecuencias de la Revolución Industrial.
No sorprende, entonces, que el actual pontífice vea en la IA una nueva revolución tecnológica, cuyas consecuencias sociales y económicas requieren una reflexión ética de similar alcance.
En mayo de 2026 publicó su primera encíclica, Magnifica Humanitas, subtitulada Sobre la custodia de la persona humana en el tiempo de la Inteligencia Artificial. Allí aborda los desafíos que esta tecnología plantea para la dignidad, la libertad y el futuro de las personas. Me detendré en algunos de sus planteamientos.
La IA y la inteligencia humana no son equivalentes.
Los seres humanos tenemos conciencia, pero todavía no sabemos explicar satisfactoriamente cómo surge ni cuál es su naturaleza. La neurociencia denomina a esta dificultad el problema duro de la conciencia. Aunque hoy no tenemos evidencias de que los sistemas artificiales experimenten subjetivamente el mundo, tampoco sabemos lo suficiente sobre la conciencia como para establecer qué condiciones serían necesarias para que pudieran hacerlo.
La distinción que plantea el Papa es razonable, pero conviene no convertir nuestro desconocimiento actual en una certeza sobre las posibilidades futuras que podrían llegar a tener los sistemas artificiales.
El peligro de convertir la eficiencia en el criterio de valor
El Papa plantea qué lugar ocupará el ser humano en una sociedad en la que las máquinas puedan superar ampliamente su capacidad productiva.
Una respuesta posible es que no debemos confundir el valor de una persona con su utilidad económica. La dignidad humana no puede medirse únicamente por su productividad ni por su capacidad de competir con una máquina.
Además, la productividad no es enemiga de la dignidad humana. Ha sido uno de los principales motores de la prosperidad y del progreso social. Más aún, no necesariamente deshumaniza. El aumento de la productividad también puede liberar a las personas de tareas penosas, repetitivas y alienantes, mejorando sus condiciones de vida.
El peligro de la concentración del poder
El Papa introduce una expresión particularmente interesante: “desarmar la IA”, con el sentido de impedir que el poder tecnológico se transforme en poder incontestable sobre las personas y las sociedades.
Algo loable, pero utópico. Cada revolución tecnológica produjo drásticos cambios sociales, políticos y geopolíticos, con inevitables consecuencias en la concentración y la alteración de los equilibrios del poder.
Imagino que así sucedió cuando el ser humano dominó el fuego. También con la Edad del Bronce y la del Hierro. Más tarde, con la expansión de las armas de fuego y la imprenta. Volvió a ocurrir con la Revolución Industrial y, más recientemente, con la revolución digital. Cada una de esas innovaciones alteró las relaciones de poder. ¿Por qué habría de ser diferente ahora?
La responsabilidad no puede delegarse en un algoritmo
León XIV cuestiona que decisiones importantes sobre la vida de las personas queden exclusivamente en manos de sistemas automatizados. Sostiene que, aunque un algoritmo puede procesar información y producir una clasificación, es incapaz de asumir la responsabilidad moral por sus consecuencias.
Es un argumento atendible. Sin embargo, no demuestra que el juicio humano esté necesariamente mejor preparado para evitar errores o injusticias. La historia está llena de decisiones humanas tomadas sin suficiente información, condicionadas por prejuicios, creencias religiosas, intereses particulares o simples errores de apreciación. El ser humano también puede actuar sin comprender las consecuencias de sus decisiones y eludiendo responsabilidades.
La diferencia fundamental es que una máquina no es actualmente un sujeto moral al que podamos exigir responsabilidad. Por eso, cuando delegamos decisiones en un algoritmo, la responsabilidad sigue recayendo en las personas y las instituciones que diseñan, implementan y utilizan esos sistemas.
El trabajo, la dignidad humana y la educación
La automatización debería mejorar las condiciones laborales y ampliar las capacidades humanas, sin convertir al trabajador en una pieza prescindible.
Naturalmente, sería deseable que así ocurriera. Pero los cambios tecnológicos no responden exclusivamente a consideraciones éticas. Los incentivos económicos, la competencia y las decisiones de inversión determinan en buena medida la velocidad y la orientación de esas transformaciones.
La IA impondrá nuevas exigencias y requerirá habilidades diferentes. Quienes logren adquirir esas competencias tendrán mayores oportunidades de adaptarse, emprender una actividad propia o encontrar empleo. Pero no todos podrán hacerlo al mismo ritmo, y esa diferencia plantea un desafío educativo y social que no conviene subestimar.
El cambio educativo consiste en formar personas capaces de pensar, discernir y decidir, en lugar de simples usuarios dependientes de la tecnología.
La educación tendrá que prestar mayor atención a capacidades como las siguientes:
- Pensamiento crítico.
- Capacidad de formular preguntas.
- Juicio y discernimiento.
- Creatividad y pensamiento original.
- Responsabilidad ética.
- Comprensión de la complejidad.
- Capacidad de decidir bajo incertidumbre.
El conocimiento seguirá siendo importante, pero lo será cada vez más la capacidad de interpretarlo, cuestionarlo y aplicarlo para resolver problemas.
La IA aplicada a la guerra
León XIV considera inadmisible delegar en máquinas decisiones letales o irreversibles. El juicio moral no puede reducirse a un cálculo algorítmico.
Sin embargo, esta preocupación llega tarde. La automatización de las decisiones militares es una realidad que se desarrolla desde hace décadas. Durante la Guerra Fría ya existían sistemas automatizados de alerta, seguimiento y apoyo a las decisiones militares. Desde entonces, los avances tecnológicos han reducido progresivamente los tiempos de respuesta y permitido que algunos sistemas de armamento operen con distintos grados de autonomía.
A medida que se reducen los tiempos disponibles para decidir, aumenta la autonomía de algunos sistemas de armamento. En determinadas circunstancias, las máquinas pueden identificar objetivos y ejecutar ataques con una intervención humana limitada. Nada indica que esta tendencia vaya a revertirse. ¿Qué ocurriría si la prudencia moral de un actor se convierte en una vulnerabilidad estratégica frente a otro que no comparte esas restricciones?
Conclusión
El planteamiento de León XIV revela cierta ingenuidad al confiar en que la humanidad podrá orientar deliberadamente el desarrollo de la IA acorde a determinados principios éticos y evitar sus consecuencias más indeseables.
Cada revolución tecnológica alteró profundamente las estructuras económicas, sociales y políticas de su tiempo. Generó resistencias, desigualdades, conflictos y nuevos centros de poder. Pero también abrió posibilidades que antes eran inimaginables. La humanidad encontró formas de adaptarse, aprovecharlas y seguir progresando.
Nadie necesitó anticipar todas las consecuencias de aquellos descubrimientos ni alcanzar previamente un consenso sobre cómo debían utilizarse. Las sociedades aprendieron mediante la experiencia, corrigieron errores y desarrollaron nuevas formas de organización.
No hay razones para suponer que la IA será una excepción. Tampoco para imaginar que podremos controlar todas sus consecuencias antes de que se produzcan.
Quizás el error sea pretender que debemos saber de antemano cómo será el mundo que viene. La humanidad nunca progresó de esa manera. Su historia es, precisamente, la historia de haber encontrado respuestas a problemas que antes ni siquiera sabía que tendría que enfrentar.
|
|
 |
La democracia también es una forma de convivir
|
Una interpelación esclarecedora
Julio María Sanguinetti
|
La Semana
|
Berlín, la noche en que cayó el muro del miedo
|
Aquiles Lanza, un demócrata ejemplar
|
Lustemberg debe irse ya
|
María Dolores no es un asunto cerrado
|
Más que nunca, Ferrero debe continuar
|
Una jueza contra la libertad de prensa
|
El crecimiento que no llega
|
Ricardo Lagos y la ingratitud de la izquierda chilena
Santiago Torres
|
COP 31, siempre estratégica, necesaria y vigente
Tomás Laguna
|
La laicidad no es indiferencia
Fitzgerald Cantero Piali
|
Homeostasis urbana: recuperar la Ciudad Vieja
Darío Peña
|
El progreso no consulta al Papa
Juan Carlos Nogueira
|
Israel, Trump y la ola demócrata: la alianza se prueba en 2028
Eduardo Zalovich
|
La infancia después de Casavalle
Angelina Rios
|
Federico Valverde, también destacado fuera de la cancha
Israel Jamitovsky
|
Instrucciones para odiar con ganas
Eduardo Irigoyen García
|
¿Un país llamado Montevideo?
Reinaldo Alonso
|
El pozo no tiene radar
Alicia Quagliata Rienzi
|
Lo que el papa nos recordó: cuidar a la familia, proteger la vida y acompañar a los niños y jóvenes
Alvaro Valverde Urrutia
|
Vocación de servicio
Susana Toricez
|
Gaza bajo el agua: los túneles de Hamás y las prioridades de una guerra
|
Paraguay: un escándalo que no deja de crecer
|
Irán amenaza a Argentina con una represalia sin sustento
|
NVIDIA: cayó Huang, pero sigue la sombra del espionaje chino
|
Frases Célebres 1106
|
Así si, Así no
|
ENTRE DICHOS
|
|
