¿Y si un día la humanidad despertara y descubriera que aún piensa, pero ya no decide? ¿Y si, poco a poco, hubiera delegado en algoritmos no solo la búsqueda de respuestas, sino también la facultad de discernir, elegir y asumir conscientemente las consecuencias de sus actos?
Lo que alguna vez pareció materia exclusiva de la literatura distópica se ha convertido en una preocupación tangible de nuestro tiempo. La expansión de sistemas automatizados y la obsesión por la eficiencia técnica transforman no solo la manera en que trabajamos y nos comunicamos, sino también la forma en que aprendemos, deliberamos y decidimos.
En este contexto, el Papa León XIV ha formulado uno de los llamados más relevantes del debate contemporáneo a través de la encíclica Magnifica Humanitas: la necesidad de «desarmar la inteligencia artificial». No se trata de combatir la tecnología ni de desacelerar la innovación. Se trata de liberarla de aquellos usos que generan dominio, exclusión o daño, para orientarla hacia el bien común y asegurar que el desarrollo tecnológico permanezca al servicio de la dignidad humana.
Publicada el 15 de mayo de 2026, durante los primeros meses de su pontificado, esta encíclica constituye uno de los primeros grandes pronunciamientos globales sobre la inteligencia artificial desde una perspectiva ética y social. Al igual que Rerum Novarum de León XIII interpretó los desafíos de la Revolución Industrial, Magnifica Humanitas busca ofrecer criterios para comprender una revolución tecnológica que ya está redefiniendo la economía, la información, la cultura, la educación y los procesos de toma de decisiones en todo el planeta.
La advertencia no es menor. La inteligencia artificial ya interviene en decisiones económicas, políticas y sociales que afectan a millones de personas. Sistemas de armas autónomas, algoritmos que condicionan el acceso a servicios esenciales y modelos capaces de reproducir sesgos históricos bajo una apariencia de neutralidad científica son ejemplos de una tecnología que avanza con mayor rapidez que la reflexión ética necesaria para gobernarla. La pregunta central ya no es únicamente qué puede hacer la inteligencia artificial, sino qué tipo de humanidad estamos construyendo a través de ella.
Sin embargo, el debate no se limita a la geopolítica ni a los algoritmos. La pregunta decisiva es otra: ¿qué ocurre cuando esta transformación llega a las aulas?
Allí donde debería cultivarse el pensamiento crítico, la creatividad y la deliberación ética, la incorporación irreflexiva de sistemas automatizados puede reforzar procesos de estandarización que empobrecen la experiencia formativa y diluyen progresivamente el papel del maestro como mediador del conocimiento. Más preocupante aún, puede trasladar silenciosamente la capacidad de decisión de las personas a los sistemas, debilitando el criterio propio que toda educación debería fortalecer.
Desde la neurociencia y la educación, esta transformación revela tres consideraciones especialmente relevantes.
La primera es la reducción de los espacios de interacción humana significativa. Buena parte del software educativo contemporáneo presupone que el aprendizaje ocurre de manera individual frente a una pantalla. Al privilegiar la relación estudiante-dispositivo sobre el diálogo entre personas, se debilita la construcción colectiva del conocimiento y se fragmenta la atención. Como ha advertido Sherry Turkle, una cultura crecientemente mediada por pantallas corre el riesgo de sustituir la conversación profunda por conexiones cada vez más superficiales (Turkle, 2015). El cerebro se acostumbra entonces a la lógica de la respuesta inmediata y a la gratificación instantánea, disminuyendo su disposición para el esfuerzo sostenido que exige el pensamiento complejo.
No obstante, desarmar la inteligencia artificial no significa renunciar a ella. Significa utilizarla para fortalecer aquello que nos hace más humanos. Los sistemas educativos más prometedores son aquellos que entienden la IA como una aliada para la toma de mejores decisiones pedagógicas. Los datos y la inteligencia artificial pueden potenciar el proceso de enseñanza-aprendizaje, siempre que mantengan al docente en el centro y favorezcan comunidades de aprendizaje más colaborativas, conscientes y participativas.
La segunda situación aparece cuando la evaluación se automatiza, sacrificando el criterio contextual, la diversidad de trayectorias de aprendizaje y una comprensión profunda del currículo. Sin una verdadera inteligencia curricular, la tecnología corre el riesgo de limitarse a medir resultados, ignorando procesos, diferencias individuales y múltiples formas de construir conocimiento. La evidencia educativa contemporánea señala que el aprendizaje más profundo ocurre cuando el estudiante desarrolla conciencia sobre su propio proceso de aprendizaje y participa activamente en él (Hattie, 2023).
En este contexto, el análisis de datos y el acompañamiento socioemocional permiten comprender mejor las necesidades de cada estudiante, reconocer distintos ritmos de
aprendizaje y descubrir talentos que suelen pasar inadvertidos en modelos homogéneos de evaluación. El error deja entonces de ser una evidencia de fracaso para convertirse en una oportunidad de aprendizaje. La tarea pedagógica consiste en ayudar al estudiante a transitar la frustración, comprender sus dificultades y desarrollar los recursos emocionales necesarios para aprender de ellas. Después de todo, una de las advertencias más significativas de León XIV consiste en recordar que ninguna sociedad debería reducir el valor de una persona a parámetros exclusivos de eficiencia, rendimiento o productividad. La educación tampoco puede hacerlo.
Finalmente, un tercer escenario de debate aparece cuando se debilita el espíritu socrático de la enseñanza. Cuando la tecnología se convierte en una fuente permanente de respuestas prefabricadas, la duda deja de ser el punto de partida del conocimiento. Aprender deja de significar explorar, cuestionar y argumentar para convertirse en un ejercicio de consumo de información sintetizada. En ese tránsito se pierde algo esencial: la capacidad de pensar por cuenta propia.
Como advierte Ethan Mollick, el verdadero desafío de la inteligencia artificial no consiste en obtener respuestas más rápidas, sino en preservar las capacidades humanas de juicio, creatividad y razonamiento crítico en un entorno cada vez más automatizado (Mollick, 2024).
Pero desarmar la inteligencia artificial también implica impedir que la automatización sustituya las capacidades propiamente humanas. La oportunidad está en desarrollar sistemas inteligentes capaces de identificar con precisión las fortalezas y oportunidades de mejora de cada estudiante, ofreciendo desafíos progresivos, retroalimentación oportuna y experiencias de aprendizaje que fortalezcan su capacidad de análisis, reflexión y toma de decisiones. Cuando la tecnología se pone al servicio del crecimiento personal, deja de ser un mecanismo de automatización para convertirse en una herramienta que potencia el pensamiento, fortalece la autonomía y ayuda a cada joven a alcanzar metas que antes parecían inalcanzables.
En el fondo, estas tres situaciones describen una misma preocupación. Cuando la tecnología se incorpora sin una orientación pedagógica clara, corremos el riesgo de empobrecer tres capacidades esenciales de la experiencia humana: la relación con los otros, el criterio para decidir y la capacidad de preguntar. No es casual que estas tres facultades sostengan la ciudadanía, la democracia y la vida en comunidad. Por ello, el debate sobre la inteligencia artificial en educación no puede reducirse a una discusión sobre herramientas o plataformas. Para quienes lideran procesos educativos, el asunto central no es la tecnología en sí misma, sino las decisiones que tomamos sobre su diseño, implementación y propósito.
Esta responsabilidad pedagógica refleja, en última instancia, el núcleo de la encíclica de León XIV: garantizar que la tecnología permanezca subordinada al juicio humano. Como nos recuerda el pontífice: «nadie reconstruye solo».
Científicos, gobiernos, desarrolladores, familias, educadores y ciudadanos compartimos la tarea de orientar esta transformación, impidiendo que la fascinación por la velocidad desplace nuestra capacidad de decidir.
El futuro no pertenecerá a las sociedades que construyan los sistemas más sofisticados, sino a aquellas capaces de gobernarlos con un auténtico discernimiento ético. Al final, la verdadera inteligencia de una comunidad no se mide por la potencia de sus algoritmos, sino por su voluntad inquebrantable de preservar lo que ninguna máquina podrá reemplazar jamás: la dignidad, la conciencia, la libertad de pensamiento y la posibilidad de seguir aprendiendo juntos.
