Dentro de la habitación china
La diferencia entre manipular símbolos conforme a reglas y entender de manera auténtica su significado es la cuestión que el experimento mental de la Habitación China nos invita a tener en cuenta. Pero ¿qué ocurre cuando esa distinción abstracta se materializa en decisiones que impactan vidas reales y deja el ámbito filosófico? La situación de JustIA nos enfrenta a esta incómoda cuestión: ¿es posible que un sistema sin entendimiento semántico administre justicia de forma legítima?
La justicia es tal vez el campo más riguroso para evaluar la argumentación de Searle. No es solo cuestión de emitir respuestas que sean técnicamente correctas, sino también de captar el espíritu de la ley, sopesar intenciones, analizar contextos y ejercer ese juicio que creemos que es inherente a los seres humanos. Nos topamos con el meollo del asunto cuando un sistema automatizado procesa miles de casos con una eficacia sin par, pero produce decisiones que son legales pero injustas desde el punto de vista humano: ¿basta la perfección sintáctica para impartir justicia?
Este dilema nos exige llevar las abstracciones filosóficas al ámbito práctico de la responsabilidad institucional y las políticas públicas. Ya no nos limitamos a cuestionar si una IA “entiende”, sino que además nos preguntamos si esa comprensión —o su falta— es relevante desde un punto de vista moral cuando está en juego el bienestar humano. La tensión entre la equidad contextual y la eficiencia algorítmica muestra los riesgos y las limitaciones de confiar decisiones importantes a sistemas que solo funcionan en el ámbito de la manipulación formal de símbolos.
Te invitamos a que reflexiones sobre tus propios criterios mientras examinas las posibilidades que tiene el Consejo General del Poder Judicial en este hipotético caso. ¿Dónde estableces la frontera entre lo que se puede automatizar y lo que debe seguir siendo invariablemente humano? ¿Cuál es el valor que le otorgas a la comprensión auténtica en comparación con la consistencia de los procedimientos? No solo tu opinión acerca de la inteligencia artificial, sino también sobre lo que es la justicia y el tipo de sociedad que deseamos construir se reflejarán en la respuesta que selecciones.
JustIA es un sistema de inteligencia artificial implementado por el Ministerio de Justicia de un país para agilizar su colapsado sistema judicial. Su función es analizar y resolver casos civiles de baja cuantía (disputas contractuales, reclamaciones de deudas, etc.). El sistema procesa toda la legislación pertinente, la jurisprudencia completa y los documentos del caso para generar un veredicto final, redactado en un lenguaje jurídico impecable.
Tras tres años de funcionamiento, los resultados son drásticos:
- El lado positivo: El sistema ha reducido el atasco judicial en un 70%, resolviendo miles de casos con una velocidad y una consistencia sin precedentes. Sus veredictos son elogiados por su coherencia con la ley escrita y los precedentes, eliminando las inconsistencias y los posibles sesgos de los jueces humanos.
- El lado negativo: Emerge un patrón de “injusticia legalista”. El sistema produce sentencias que son técnicamente perfectas, pero que carecen de toda comprensión del contexto o de la intención humana. Por ejemplo, dictamina la ejecución de un desahucio a una familia por un retraso de 24 horas en el pago del alquiler, ocurrido porque un festivo bancario impidió la transferencia, ignorando el “espíritu de la ley” al carecer de comprensión semántica sobre lo que significa un “festivo”.
En un caso de custodia, JustIA otorga la tutela de un menor a un progenitor con un historial documentado de abuso emocional sutil, basándose en que sus “métricas de estabilidad” (ingresos, vivienda) son estadísticamente superiores. El veredicto ignora por completo el significado de los testimonios que describen el abuso, ya que no puede “comprender” el daño emocional. Un juez humano interviene para anular la decisión, generando un escándalo nacional sobre la naturaleza de la justicia.
El Consejo General del Poder Judicial, que debe decidir si la justicia puede ser puramente sintáctica.
