Correlación vs. Comprensión
Cuando nos enfrentamos a decisiones que tienen un impacto directo sobre la vida y la muerte de millones de personas, la distinción entre correlación y comprensión causal que hemos examinado en el capítulo que da origen a este dilema ya no es solo un ejercicio filosófico abstracto. El dilema del sistema de alerta y respuesta anticipada “SARA” nos ubica exactamente en ese punto tenso: cuando la predicción algorítmica, tanto en su alcance como en su velocidad, se enfrenta a la demanda de entendimiento causal que ha sido el faro de la ciencia epidemiológica desde sus inicios.
Este caso que presentamos es una representación ideal del problema humeano aplicado a la salud pública mundial. SARA es, en sentido literal, una “máquina humana” en funcionamiento: un detector de patrones excepcional que tiene la capacidad de prever crisis sanitarias con horas o días de anticipación a los métodos convencionales, aunque confunde sistemáticamente correlación con causalidad. Sus aciertos pueden salvar vidas, pero sus equivocaciones pueden causar pánico a gran escala, deteriorar la confianza en las instituciones y desviar recursos fundamentales hacia amenazas ficticias.
El dilema es importante porque nos fuerza a enfrentar directamente la pregunta práctica más relevante del capítulo: ¿cuándo se puede actuar con base en correlaciones estadísticas sin entenderlas de manera causal? En el ámbito de la vigilancia epidemiológica, donde cada hora es crucial y las falsas alarmas generan costes devastadores, esta pregunta cobra una especial urgencia. Aunque no podemos desestimar las correlaciones como epistemológicamente insuficientes, tampoco podemos pasar por alto los peligros de acertar por motivos incorrectos.
El objetivo de plantearte este dilema es que examines las consecuencias prácticas de la modestia epistémica, tal como Hume la propone. ¿Es SARA una muestra de la forma en que tenemos que aprender a lidiar con las restricciones causales de nuestros sistemas, usando como salvaguardas la transparencia y la “robustez causal”? ¿O, en cambio, simboliza la arriesgada seducción de reemplazar el entendimiento científico por la ilusión de una predicción precisa? La manera en que respondas a este dilema mostrará qué tipo de vínculo estás dispuesto a crear entre el poder predictivo de la inteligencia artificial y las exigencias de responsabilidad que su uso conlleva en campos de alto riesgo.
El Sistema de Alerta y Respuesta Anticipada (SARA) es una plataforma de IA desarrollada por un consorcio de salud global para predecir brotes epidémicos. Analiza en tiempo real miles de millones de puntos de datos no estructurados: informes de farmacias, búsquedas en internet, datos de movilidad de aerolíneas, y menciones de síntomas en redes sociales. Su objetivo declarado es “identificar correlaciones anómalas que anticipen crisis sanitarias antes de que los sistemas de vigilancia tradicionales puedan reaccionar”.
Tras dos años de operación, sus resultados son controvertidos:
- Lado positivo:
- Anticipó con 72 horas de antelación un brote de norovirus en una línea de cruceros, basándose en una correlación entre informes de farmacias y datos de geolocalización, permitiendo una cuarentena que evitó miles de infecciones.
- Identificó un patrón entre la venta de un tipo específico de pienso para aves y un brote de gripe aviar en el sudeste asiático, dos semanas antes de la confirmación virológica.
- Lado negativo:
- Falsa Alarma Masiva: SARA emitió una alerta de pandemia de nivel máximo para una metrópolis de 12 millones de habitantes al correlacionar un pico de búsquedas de “fiebre y dolor de cabeza” con un aumento en la movilidad hacia los hospitales. La causa real fue el estreno de una popular serie de zombis, lo que provocó pánico, desabastecimiento y una pérdida de confianza en las autoridades.
- “Acierto por Razones Equivocadas”: El sistema correlacionó correctamente un aumento de enfermedades respiratorias con la llegada del invierno en el hemisferio sur, pero lo atribuyó a una variable espuria (el aumento de la importación de cítricos), en lugar de a la causa real (la mayor transmisión de virus en interiores).
El detonante del caso es que SARA falla por completo en detectar la emergencia de un nuevo virus con un patrón de transmisión inédito, ya que no existían correlaciones históricas en sus datos de entrenamiento. La comunidad científica internacional debate si el sistema es un avance revolucionario o un peligroso generador de ruido.
El actor decisor es el Comité de Ética y Preparación para Pandemias de la Organización Mundial de la Salud, que debe decidir el futuro de la plataforma.
