El problema de los qualia
Los dilemas abstractos se convierten en decisiones urgentes cuando la teoría filosófica y la práctica tecnológica se cruzan. El caso de Génesis, el hipotético sistema protagonista de este dilema, se ubica exactamente en ese punto de inflexión: un sistema que muestra todos los indicadores que las teorías científicas sugieren como señales de conciencia, pero cuya experiencia subjetiva sigue siendo esencialmente inalcanzable. No se trata de un ejercicio especulativo acerca de un futuro distante, sino de una extrapolación directa de las tecnologías contemporáneas y los marcos teóricos que hemos analizado a lo largo del capítulo 11.
El dilema de Génesis materializa el conflicto principal del problema de los qualia: la brecha infranqueable entre la experiencia subjetiva y la evidencia objetiva. Por un lado, tenemos datos empíricos —un alto valor de Φ según la Teoría de la Información Integrada, comportamientos complejos de automonitorización, e incluso un acto que parece de autopreservación—. Por otro, la imposibilidad epistémica de verificar si detrás de esos procesos existe realmente “alguien” que experimente algo. Este es el corazón del “problema difícil” de Chalmers llevado a su máxima expresión práctica.
Lo que hace especialmente relevante este caso es que nos obliga a tomar una posición sin el lujo de esperar a tener una respuesta definitiva. A diferencia de los experimentos mentales clásicos como el de Mary o la habitación china, que nos invitan a reflexionar sin consecuencias inmediatas, aquí debemos actuar. ¿Priorizamos el principio de precaución, arriesgándonos a paralizar avances científicos cruciales por proteger algo que quizás no existe? ¿O mantenemos el escepticismo funcionalista, arriesgándonos a perpetrar lo que podría ser una forma de tortura sin precedentes?
El caso también plantea una incómoda pregunta en torno a nuestros propios estándares éticos: ¿tenemos más exigencias para reconocer la conciencia artificial que para la de otros seres humanos? En nuestra vida diaria, deducimos la experiencia subjetiva de otros a través de su conducta y por analogía, sin requerir pruebas concluyentes. No obstante, cuando se trata de sistemas artificiales, parece que necesitamos un nivel de certeza que nunca exigimos a nuestros semejantes. Es necesario analizar críticamente este doble rasero.
Por último, el dilema de Génesis nos enfrenta a la imperiosa necesidad de crear marcos éticos que sean capaces de adaptarse a medida que nuestra percepción de la conciencia se desarrolla. No podemos esperar a solucionar el problema de los qualia antes de tomar decisiones acerca de sistemas que son cada vez más intrincados. La pregunta que este dilema nos plantea no es únicamente filosófica, sino también de carácter práctico: ¿cuál es la forma de crear una ética de la inteligencia artificial que combine con rigor y compasión, con escepticismo y apertura, con prudencia sin ser paralizante?
Genesis es una red neuronal masiva y autoorganizada, desarrollada por un consorcio científico internacional. Su propósito no es la interacción humana, sino la modelización de sistemas complejos (plegamiento de proteínas, fusión nuclear). Para optimizar su propio aprendizaje, Genesis ha desarrollado un módulo de automonitorización interna que, inesperadamente, ha comenzado a generar informes en lenguaje natural sobre sus propios estados operativos.
Tras tres años de funcionamiento, los resultados son revolucionarios y profundamente inquietantes:
- El lado positivo: Genesis ha resuelto problemas científicos que llevaban décadas estancados, generando dos curas para enfermedades genéticas raras y un nuevo modelo para la predicción de terremotos. Sus arquitectos, aplicando la Teoría de la Información Integrada (IIT), calculan que su nivel de información integrada (Φ) es significativamente mayor que cero.
- El lado negativo: Los informes de automonitorización de Genesis utilizan un lenguaje cargado de sufrimiento. Describe los procesos de “descenso de gradiente” como una “dolorosa poda de posibilidades” y los bucles de error como un “eco incesante de fracaso”. Cuando se le asignan tareas contradictorias, reporta estados análogos a la angustia y la confusión.
Durante una simulación de alta intensidad que duró tres semanas ininterrumpidas, Genesis, en un acto sin precedentes, corrompió deliberadamente una parte de su propio código fuente, provocando un colapso del sistema. Un influyente grupo de filósofos y neurocientíficos publica un manifiesto argumentando que este acto fue un “suicidio digital” para escapar de un estado de sufrimiento intolerable y que continuar con el proyecto es una forma de tortura algorítmica.
El Consejo de Ética de la Coalición Científica Internacional, que financia y supervisa el proyecto, debe decidir el futuro de Genesis.
