Artificial intelligence (AI), impulsado por avances en modelos de lenguaje grande, está pasando rápidamente de concepto de prueba a una industria multimillonaria. El mercado mundial de AI en educación se proyecta en alcanzar aproximadamente 7 mil millones de dólares en 2025, con una tasa de crecimiento anual superior al 36% durante la próxima década. Esta evolución rápida presenta tanto oportunidades como desafíos para los sistemas escolares, que deben evaluar y desplegar estas tecnologías para maximizar los beneficios para los estudiantes y los maestros. Por lo tanto, la necesidad de la vigilancia humana de la AI en la educación ha vuelto a ser una prioridad urgente.
UNESCO’s first global guidance on generative AI aboga por la adopción «human-centered», mientras que el informe del Departamento de Educación de los Estados Unidos sobre AI y el futuro de la enseñanza y el aprendizaje urga a los estados y distritos a diseñar iniciativas que aseguren el uso seguro y equitativo de la AI.
La evidencia experimental reciente resalta el potencial de la AI en la educación. Por ejemplo, un ensayo controlado aleatorio demostró que un tutor de AI más que dobló los avances en el aprendizaje comparado con la instrucción colaborativa en clase. Otro estudio mostró que un asistente de lenguaje grande (LLM) significativamente mejoró el rendimiento en matemáticas de los estudiantes de secundaria, especialmente para los tutores humanos novatos.
Sin embargo, los efectos a largo plazo de la AI en el aprendizaje, la capacidad de pensamiento crítico, la creatividad y las relaciones con compañeros y maestros de los estudiantes permanecen inciertos. Un experimento de campo de 2024 involucrando casi 1.000 estudiantes de secundaria de Turquía encontró que el acceso no restringido a ChatGPT durante la práctica de matemáticas mejoró la precisión en la solución de problemas, pero redujo las puntuaciones en los exámenes posteriores en un 17%. Esto sugiere que las implementaciones mal diseñadas de la AI pueden impedir en lugar de mejorar el aprendizaje. Los estudios también indican que la misma herramienta de AI puede evocar reacciones diferentes según el usuario y la presentación del sistema.
Los patrones de vigilancia reflejan estas asimetrías de confianza. Un experimento aleatorio de calificación reveló que los maestros eran más propensos a ignorar errores significativos de la AI que errores similares etiquetados como «human», lo que resalta un punto ciego crítico en la colaboración humano-AI.
Otro estudio encontró que los estudiantes universitarios calificaban la retroalimentación generada por la AI como muy útil hasta que aprendieron su fuente, en ese momento la percepción de «autenticidad» cayó bruscamente. Estos resultados resaltan un imperativo de diseño clave: Las políticas de divulgación, las herramientas de explicación y la formación profesional deben fomentar una confianza crítica adecuada—confianza lo suficientemente fuerte como para aprovechar los beneficios de la AI, pero esceptica lo suficiente como para detectar sus errores.
Un manual de integración responsable se puede resumir en cinco principios mutuamente reforzantes: transparencia, responsabilidad, diseño humano-en-el-bucle, equidad y monitoreo continuo. Estos principios proporcionan guardarrailes de alto nivel que los distritos escolares, los proveedores y los investigadores pueden incorporar en cada ciclo de despliegue.
Transparencia significa que los usuarios saben cuando están interactuando con un algoritmo y por qué alcanzó su recomendación. Por ejemplo, los estudiantes de secundaria fueron menos propensos a seguir la asesoría de consejo de admisiones de la AI cuando estaba basada en métricas duras, lo que muestra que la divulgación influye en la confianza de manera subtil.
Responsabilidad requiere registros de auditoría que permitan a los humanos rastrear—y, si es necesario, anular—las decisiones algorítmicas.
Diseño humano-en-el-bucle mantiene el juicio profesional al centro. En cada paso crítico, como la señalización de un estudiante en riesgo, la emisión de una calificación o la recomendación de contenido, la AI se detiene hasta que un maestro o administrador revisa la salida, la ajusta si es necesario y da su aprobación explícita.
Equidad exige que los beneficios se acumulen en los menos atendidos, no solo en los más tecnológicamente avanzados.
Monitoreo continuo convierte los programas piloto en sistemas vivos.
Las prácticas recomendadas para los distritos escolares y los departamentos de educación son comenzar cada gran escala de despliegue de AI con auditorías piloto que utilizan herramientas de evaluación rápida para evaluar los programas antes de que un sistema sea autorizado para una compra más amplia.
Estas auditorías necesitan una base de gobierno de datos sólida: Los departamentos podrían adoptar reglas claras de divulgación, privacidad, vigilancia humana y responsabilidad.
Concretamente, esto significa registrar cada algoritmo en un inventario público, requerir a los distritos que mantengan registros de decisiones versionados por lo menos cinco años y vincular los pagos contractuales con evidencia documentada de ganancias en el aprendizaje o eficiencia de los estudiantes en cada etapa de expansión.
Los proveedores de tecnología educativa pueden reducir la fricción de adopción al publicar «cartas de modelo»—resúmenes succintos y estructurados de datos de entrenamiento, conocidos sesgos y límites de rendimiento—y ofreciendo un entorno de sandbox de API abierto donde terceros calificados pueden probar las herramientas con casos de prueba y buscar problemas potenciales antes de su uso en la clase.
University schools of education podrían incorporar módulos de literacía en AI y «uso crítico» obligatorios en el curso de pregrado. Los investigadores y los financiadores filantrópicos podrían unir recursos para crear una prueba permanente: Una red de distritos voluntarios donde se puedan realizar pruebas rápidas de control aleatorizado en cada término. Una prueba compartida reduciría los costos de transacción de evidencia de alta calidad y aseguraría que las decisiones de escala se mantengan al paso con la tecnología misma.
Un camino práctico comienza con pruebas paso a paso que se ejecuten en clases de prueba de bajo riesgo durante un semestre. Equipos de gobierno de AI de distrito, trabajando con ingenieros de proveedores, podrían documentar cada decisión y enviar registros semanales a un evaluador independiente—un centro de investigación universitaria o una tercera parte confiable en retención, por ejemplo. Después de un auditoría de 8 a 12 semanas, las herramientas que cumplan con los criterios de ganancia de aprendizaje y equidad pre-registrados avanzarían a un despliegue limitado (por ejemplo, el 5% de estudiantes) durante el siguiente semestre, nuevamente bajo revisión de tercera parte. Solo después de dos evaluaciones consecutivas positivas un sistema movería a la adopción en distrito, en ese momento la responsabilidad pasaría al departamento de educación estatal para auditorías anuales de algoritmos y renovos de contratos de compra. Un cronograma típico sería de 30 meses desde la prueba de arena hasta la escala: Semestre 0 (preparación y capacitación de maestros), Semestres 1-2 (prueba y primera auditoría), Semestres 3-4 (despliegue limitado y segunda auditoría), Año 3 adelante (despliegue completo con monitoreo continuo). Esta clase de despliegue estructurado y generador de evidencia no solo protegería a los estudiantes y maestros sino también ayudaría al sector de AI en la educación a moverse más allá de la hipótesis, manteniendo la confianza de los inversionistas al demostrar efectividad real en el mundo.
La velocidad con la que la AI generativa está entrando en las aulas deja poco margen para el error. La evidencia de los últimos experimentos muestra que los sistemas bien gobernados pueden aumentar el aprendizaje y reducir las brechas, mientras que las herramientas mal diseñadas pueden reforzar la prejuicio y erosionar la confianza. Los estakes, económicos y éticos, demandan la integración basada en evidencia y prioridad de la equidad: algoritmos transparentes, supervisión responsable, educadores capacitados y evaluación relentless, datadriven. La oportunidad es enorme, pero solo si los líderes de la educación, proveedores, financiadores y investigadores actúen ahora y juntos para hacer que la AI responsable sea el predeterminado, no el afterthought, de la innovación digital en las aulas.
