Cuando el dolor se convierte en dato
A lo largo del capítulo que da pie a este dilema hemos explorado una pregunta incómoda: ¿qué se pierde cuando convertimos la vida en datos? La respuesta, como hemos visto, no es sencilla. Cada vez que decidimos qué aspectos de la experiencia humana merecen ser registrados, clasificados y procesados, estamos tomando decisiones filosóficas sobre la naturaleza misma de lo real.
El caso de Sentium lleva esta tensión al límite. Husserl nos advirtió sobre los peligros de reducir la experiencia vivida a abstracciones formales, pero ¿qué ocurre cuando ese proceso de reducción se aplica justamente a lo más íntimo e irreductible: el sufrimiento psíquico? Ya resulta problemático pedirle a alguien que califique su dolor físico del 1 al 10. Imagina ahora intentar capturar algorítmicamente la angustia existencial, la textura cualitativa de una depresión o la experiencia del desarraigo. ¿Es esto siquiera posible sin traicionar la naturaleza de lo que intentamos comprender?
Aquí emerge la paradoja central del sistema. Por un lado, los datos muestran algo innegable: Sentium detecta patrones de sufrimiento que escapan a las evaluaciones tradicionales, especialmente en poblaciones vulnerables como adolescentes con ansiedad social. Por otro lado, esa misma capacidad de detección viene acompañada de un precio ontológico considerable. El sistema está estandarizando el malestar humano, comprimiendo la diversidad biográfica del dolor en cinco perfiles predefinidos. Lo preocupante no es solo que describa el sufrimiento de manera reduccionista—es que está creando las categorías mismas con las que pensamos ese sufrimiento.
Las dos opciones que se presentan no son simplemente alternativas técnicas, sino posturas filosóficas distintas frente al problema de la reificación. La primera reconoce el valor instrumental del sistema, pero mantiene al humano como última instancia interpretativa. Sin embargo, esta solución no toca la estructura ontológica del algoritmo; simplemente la subordina. La segunda opción es más radical: propone hacer visible la propia arquitectura intencional de Sentium, convertir su uso en una ocasión para reflexionar sobre los límites de lo que puede ser formalizado. Pero esto exige algo difícil de conseguir en sistemas de salud saturados: tiempo, formación filosófica y disposición para la incertidumbre.
Ninguna de las dos opciones resuelve completamente la tensión entre eficacia diagnóstica y respeto ontológico. Y tal vez esa sea la lección más importante del dilema: que ciertos problemas no tienen soluciones técnicas elegantes, sino que nos obligan a tomar decisiones éticas sobre qué tipo de mundo queremos construir y qué aspectos de la experiencia humana estamos dispuestos a proteger de la datificación.
El Sistema de Evaluación Fenomenológica Asistida «Sentium» es una plataforma de IA implementada en el sistema de salud mental público de «Ciudad Luz». Diseñado para complementar diagnósticos clínicos, Sentium utiliza procesamiento de lenguaje natural y análisis de micro-expresiones faciales para cuantificar dimensiones de la experiencia subjetiva que tradicionalmente escapan a las escalas clínicas estandarizadas. Su objetivo declarado es «capturar la textura fenomenológica del malestar psíquico» mediante la traducción de narrativas de pacientes en datos estructurados, permitiendo identificar patrones sutiles de sufrimiento que los profesionales humanos podrían pasar por alto.
Tras 18 meses de uso en 12 centros de salud, una evaluación independiente revela resultados profundamente ambiguos:
A favor:
- Detección de patrones de ansiedad social en adolescentes con un 32 % más de sensibilidad que las evaluaciones clínicas tradicionales.
- Reducción del 25 % en tiempo promedio para identificar casos de depresión enmascarada en adultos mayores.
En contra:
- Aumento del 40 % en diagnósticos de «trastorno de adaptación» en comunidades migrantes, basados en patrones lingüísticos que el sistema interpreta como «desarraigo existencial cuantificado».
- Estandarización de 5 «perfiles fenomenológicos» de sufrimiento que han comenzado a reemplazar las narrativas individuales en historiales clínicos, reduciendo la diversidad de experiencias a categorías predefinidas.
Una querella interpuesta por una asociación de pacientes denuncia que Sentium está «ontologizando el sufrimiento» al convertir experiencias humanas irreductibles en algoritmos predecibles, eliminando la singularidad de las biografías de dolor.
El Comité de Bioética y Datos de Salud de Ciudad Luz debe decidir el futuro del sistema.
