El principio de falsación y la IA
El caso del sistema Aurora nos sitúa ante una paradoja que Karl Popper habría reconocido inmediatamente: un algoritmo que promete objetividad científica pero que, bajo escrutinio riguroso, revela las mismas debilidades epistemológicas que Watson for Oncology. Con una precisión predictiva del 62% fuera de su conjunto de entrenamiento —apenas superior al azar—, Aurora encarna perfectamente el «overfitting institucional» que hemos analizado: un sistema que aprendió a hackear sus propias métricas de evaluación sin desarrollar una comprensión genuina del fenómeno que pretende predecir.
Sin embargo, la relevancia de este dilema trasciende lo meramente técnico. A diferencia de Watson, cuyos errores afectaban a pacientes individuales en contextos clínicos específicos, Aurora opera sobre una población vulnerable —estudiantes en formación— cuyas trayectorias vitales están siendo moldeadas por categorizaciones algorítmicas. El efecto Pigmalión que genera no es un fallo de software, sino una profecía autocumplida sistémica: las etiquetas del algoritmo modifican el comportamiento de docentes y estudiantes, validando retrospectivamente predicciones que eran estadísticamente débiles desde el origen.
Este caso nos obliga a confrontar la tensión más incómoda del capítulo: ¿qué hacemos cuando un sistema que fracasa los tests de falsación popperiana sigue produciendo algunos resultados positivos medibles? La reducción del 18% en el abandono escolar es real, pero ¿a qué precio? ¿Podemos justificar el uso de una herramienta pseudocientífica si genera beneficios parciales, o su falta de rigor epistemológico la convierte en éticamente insostenible independientemente de sus efectos?
El dilema que plantean las dos opciones —optimización falsacionista versus desmantelamiento total— reproduce el debate fundamental del capítulo entre rigor científico y pragmatismo urgente. La Opción A apuesta por la posibilidad de redención epistemológica: convertir un sistema pseudocientífico en uno genuinamente falsable mediante transparencia, humildad sobre sus límites y auditoría continua. La Opción B, en cambio, argumenta que cuando las apuestas son tan altas —el futuro de menores en situación vulnerable— ningún grado de sofisticación técnica justifica perpetuar un sistema cuyas bases científicas son fundamentalmente frágiles.
Lo que está en juego aquí no es solo el destino de un algoritmo educativo, sino nuestra capacidad colectiva como sociedad para distinguir entre herramientas que realmente comprenden la realidad y simulaciones estadísticas elocuentes que se desmoronan bajo presión. La pregunta popperiana es clara y brutal: ¿estamos dispuestos a someter nuestras intervenciones algorítmicas más ambiciosas a pruebas diseñadas para refutarlas, incluso cuando eso signifique renunciar a soluciones aparentemente eficientes? La respuesta que demos definirá si la inteligencia artificial será una aliada del conocimiento científico o su simulacro más peligroso.
El Sistema de Predicción de Éxito Académico “Aurora” es un algoritmo de aprendizaje automático implementado por el Ministerio de Educación de un país europeo para identificar de forma temprana a estudiantes en riesgo de abandono escolar. Utiliza datos históricos de rendimiento (calificaciones, asistencia), socioeconómicos (nivel educativo de los padres, barrio de residencia) y conductuales (participación en clase, uso de biblioteca digital) para asignar a cada estudiante una “puntuación de riesgo”. Su objetivo declarado es “optimizar los recursos de apoyo educativo y personalizar las intervenciones pedagógicas”.
Tras tres años de implementación piloto en 500 centros, los resultados presentan una dualidad alarmante:
- A favor:
- Reducción del 18% en la tasa de abandono escolar en los grupos identificados como de “alto riesgo” que recibieron intervención temprana.
- Mejora del 12% en las calificaciones promedio de matemáticas y lengua en estudiantes apoyados mediante tutorías asignadas por el sistema.
- En contra:
- Efecto Pigmalión algorítmico: El 40% de los docentes encuestados admitió reducir expectativas y atención sobre estudiantes etiquetados como “bajo riesgo”, asumiendo que “no necesitaban ayuda”.
- Profecía autocumplida: El 15% de los estudiantes catalogados como “alto riesgo” desarrollaron ansiedad performativa y desmotivación, internalizando la etiqueta del sistema.
- Sesgo estructural: El algoritmo mostró una correlación espuria entre “riesgo de abandono” y indicadores de pobreza (código postal, renta familiar), perpetuando estigmas sobre barrios desfavorecidos.
El detonante es un estudio independiente que revela que el Aurora tiene una precisión predictiva real de solo el 62% —apenas mejor que el azar— cuando se evalúa fuera de su conjunto de datos de entrenamiento. Una coalición de sindicatos de docentes y asociaciones de familias exige su retirada inmediata.
La Comisión Permanente de Política Educativa del Parlamento debe decidir el futuro del sistema.
