Simondon y la individuación técnica
Simondon, al describir la individuación técnica como un proceso de co-evolución entre sistemas y entornos, no pudo prever que algoritmos fueran capaces de aprender de nuestras elecciones pasadas para determinar nuestro futuro colectivo. No obstante, su perspectiva se muestra profética frente a sistemas como SAVA: una tecnología que no es simplemente una herramienta neutral, sino un proceso vivo que se individualiza en diálogo constante con datos históricos, prácticas institucionales y expectativas de la sociedad. El caso nos enfrenta a la pregunta principal del capítulo: ¿qué ocurre cuando un sistema técnico se “concretiza” tanto que se vuelve indispensable, precisamente mientras reproduce y amplifica las injusticias del medio asociado que lo alimenta?
El dilema de SAVA personifica con precisión la tensión entre la flexibilidad y la eficiencia que Simondon detectó. El algoritmo ha llegado a un nivel significativo de concretización: se ha incorporado a fondo en las infraestructuras del Ministerio, ha mejorado indicadores fundamentales de rendimiento y ha optimizado varias funciones al mismo tiempo. Sin embargo, este proceso de materialización ha ido eliminando poco a poco el “margen de indeterminación” que se necesita para cuestionar sus propias premisas. El sistema opera de una manera demasiado eficiente al cumplir exactamente con lo que se le solicitó: reproducir patrones exitosos del pasado, sin la capacidad de comprender que esa época estaba marcada por desigualdades estructurales.
Este caso es particularmente revelador porque muestra cómo la transducción algorítmica puede dar lugar a una forma encubierta de determinismo sociotécnico. SAVA no aplica sus prejuicios a través de reglas explícitas y discutibles, sino mediante correlaciones estadísticas “objetivas” que surgen de su procedimiento de aprendizaje. El sistema se ha co-individualizado con un entorno asociado que engloba estructuras administrativas que ponen la eficiencia por encima de la equidad, datos históricos discriminatorios y una falta de mecanismos de supervisión capaces de identificar patrones problemáticos antes de que se establezcan. La segregación algorítmica silenciosa es, exactamente, un producto de una individuación técnica que ha dejado de poder autocorregirse.
El dilema nos obliga a enfrentar una pregunta que recorre todo el capítulo: ¿Podemos mantener las eficiencias de un sistema muy concretizado mientras recuperamos el margen de indeterminación que se requiere para corregir éticamente? La opción A promueve una intervención técnica en el medio asociado, cambiando los datos y parámetros que nutren al sistema; por su parte, la opción B sugiere una radical reingeniería que permita a los humanos recuperar un rol deliberativo significativo. Las dos alternativas son vías diferentes para abordar la responsabilidad técnica que Simondon exigía: la primera se basa en nuestra habilidad de “jardinería algorítmica” para cultivar un medio asociado más equitativo; la segunda acepta que hay decisiones que necesitan márgenes de indeterminación tan extensos que solamente el debate humano es capaz de mantenerlos.
A pesar de su importancia práctica inmediata, este caso nos alienta a pensar en el futuro de los sistemas de IA que se integran cada vez más en las infraestructuras críticas. ¿Qué sucederá cuando los sistemas más complejos y menos transparentes, que van desde modelos de lenguaje hasta sistemas para el diagnóstico médico, logren niveles semejantes de concretización en nuestras instituciones, si SAVA representa un algoritmo de asignación relativamente sencillo?
La cuestión no es solamente ética o técnica, sino también ontológica: ¿qué clase de procesos de individuación deseamos fomentar y qué tipo de medio asociado debemos crear para que la IA surja como un instrumento liberador en lugar de convertirse en otro mecanismo para dominar técnicamente?
El Sistema de Asignación de Vivienda Asistida SAVA es un algoritmo de aprendizaje automático implementado por el Ministerio de Inclusión Social de un país europeo. Su objetivo declarado es optimizar la asignación de viviendas de protección oficial a familias en situación de vulnerabilidad, maximizando la “adecuación socioecológica” entre las características de las familias y los recursos disponibles en los bararios de destino.
SAVA funciona procesando datos históricos de asignaciones exitosas (definidas como casos donde las familias permanecen en la vivienda más de 5 años y muestran mejoras en indicadores de bienestar), junto con datos en tiempo real del mercado laboral local, equipamientos comunitarios (escuelas, centros de salud) y redes de transporte. Mediante un proceso de optimización multiobjetivo, SAVA genera una puntuación de idoneidad para cada pareja familia-vivienda.
Tras tres años de implementación, una evaluación independiente revela resultados ambiguos:
- El lado positivo: Un incremento del 22% en la tasa de permanencia en las viviendas asignadas y una reducción del 18% en el tiempo promedio de resolución de expedientes. Además, se observa una mejora del 15% en la satisfacción reportada por las familias con el nuevo barrio durante el primer año.
- El lado negativo: El sistema ha generado una “segregación algorítmica silenciosa”. Familias de origen inmigrante y monomarentales son sistemáticamente asignadas a barrios con peores equipamientos, perpetuando y agravando desigualdades estructurales. Esto se debe a que SAVA, para maximizar la probabilidad de “éxito” (permanencia), aprende de datos históricos que reflejan sesgos estructurales y asigna basándose en correlaciones espurias (ej: “familias con apellidos de origen X ‘funcionan mejor’ en barrio Y”).
Una investigación periodística, apoyada por un informe de una ONG de derechos humanos, expone estos patrones discriminatorios, generando un escándalo público y una amenaza de demanda por parte de un colectivo de familias afectadas.
La ministra de Inclusión Social debe decidir cómo proceder, bajo una intensa presión política y mediática.
