Hans Jonas: Una ética para un planeta amenazado

La filosofía de Hans Jonas (1903-1993) es un testimonio que se ha forjado en medio de las más graves catástrofes del siglo XX. El abismo moral de Auschwitz y la amenaza emergente de aniquilación tecnológica y ecológica son las dos experiencias que han dejado su huella en su vida y obra. Jonas llegó a una conclusión dramática: los principios éticos tradicionales de Occidente, diseñados para un mundo de poder humano limitado, resultaban insuficientes para una era en la que la humanidad había ganado la capacidad de aniquilarse a sí misma y al planeta. Por lo tanto, su proyecto consistía en crear una nueva ética, una ética de la responsabilidad para la civilización tecnológica.

El contexto: Desde Heidegger hasta Auschwitz y la bomba atómica

Jonas fue un destacado alumno de Martin Heidegger en su juventud, como muchos intelectuales de su generación. Su primer trabajo importante fue una investigación acerca del gnosticismo, un movimiento religioso de épocas pasadas, y quedó maravillado por el análisis existencial de la condición humana. Jonas interpretaba la gnosis como un nihilismo existencial antiguo: una rebelión contra el universo que veía el mundo físico como una prisión malévola. El nihilismo, en su forma más básica, es la negación de valores objetivos y significado inherente en la existencia—la idea de que “nada importa” o que no hay fundamentos sólidos para la moral o la verdad. Esta temprana inmersión en el pensamiento nihilista le daría, décadas después, herramientas únicas para diagnosticar el nihilismo tecnológico moderno: la creencia de que podemos y debemos hacer cualquier cosa técnicamente posible, sin preguntarnos por el significado o las consecuencias morales de nuestras acciones.

En 1933, cuando Hitler asumió el poder, se produjo una ruptura violenta. Jonas, quien era de religión judía, se vio obligado a escapar de Alemania. La separación se tornó personal y definitiva cuando Heidegger, su profesor, se incorporó al Partido Nazi. La herida se volvió una cicatriz imborrable cuando, después de luchar en la Brigada Judía del ejército británico contra los nazis, supo que su madre había sido asesinada en Auschwitz.

Todo cambió como resultado de esta calamidad individual y colectiva. El Holocausto fue, para él, la evidencia aterradora de lo que puede suceder cuando una sociedad adopta el nihilismo y renuncia a cualquier base moral objetiva. La ideología existencialista, que ponía mucho énfasis en la libertad radical y la falta de valores preestablecidos, antes le parecía liberadora; sin embargo, ahora la veía como peligrosamente parecida al vacío moral que había hecho posible el genocidio. La filosofía, después de Auschwitz, determinó que ya no podía darse el lujo de ser neutral; tenía el deber de hallar un nuevo fundamento para la responsabilidad.

Después del conflicto bélico, emergió en el horizonte una nueva realidad: la tecnología global. El lanzamiento de la bomba atómica en 1945 reveló por primera vez el poder destructivo total de la humanidad. Décadas después, las primeras advertencias sobre la crisis ecológica, como Primavera silenciosa de Rachel Carson (1962), mostraron que incluso tecnologías aparentemente benignas podían tener efectos catastróficos globales. Ambos eventos pusieron al descubierto una realidad impactante: el ser humano había obtenido un poder sin igual a nivel geológico y temporal.

Ya no había consecuencias de nuestras acciones que fueran simplemente locales y a corto plazo. Teníamos la capacidad de cambiar el clima global, de transformar el genoma humano y de dejar residuos radiactivos que permanecerían tóxicos durante 24.000 años (la vida media del plutonio-239). Del mismo modo, hoy desarrollamos sistemas de IA que pueden influir en elecciones democráticas, automatizar decisiones judiciales o crear contenido indistinguible de lo humano, sin poder prever completamente sus consecuencias a largo plazo.

La Urgencia de una Nueva Ética

Esta experiencia le reveló que los cimientos de toda la ética tradicional, desde Kant hasta Aristóteles, se apoyaban en premisas que no eran válidas. Supusieron que la condición humana era permanente, que la magnitud del poder humano era pequeña y, principalmente, que la naturaleza era un trasfondo eterno e invulnerable. Estas tres hipótesis se habían hecho añicos debido a la tecnología contemporánea. Requeríamos una ética totalmente renovada, una ética del futuro.

El Principio de Responsabilidad: La obra cumbre

En su obra principal, Jonas condensó dos décadas de reflexión en el año 1979: El principio de responsabilidad (Das Prinzip Verantwortung), cuyo subtítulo es “Ensayo de una ética para la civilización tecnológica“. El libro se convirtió en un éxito de ventas inesperado en Alemania durante los años 80, resonando con una sociedad cada vez más consciente de los peligros nucleares y medioambientales. Jonas sostenía que la responsabilidad no es un sentimiento subjetivo ni una virtud opcional, sino una obligación ontológica que nace de nuestra capacidad singular, como especie, de amenazar las condiciones básicas para la vida en el futuro. Jonas sugirió una ética radicalmente desigual, en la que somos responsables ante seres que todavía no existen y a los cuales nunca podremos rendir cuentas.

Esto contrasta con la ética tradicional, que se basaba en el principio de reciprocidad (yo tengo obligaciones con aquellos que tienen obligaciones conmigo). Esta “responsabilidad sin reciprocidad” es particularmente importante hoy en día, cuando estamos creando sistemas de IA cuyos impactos se prolongarán por décadas o siglos después de que sus creadores ya no existan. Su respuesta fue un movimiento filosófico valiente para fundamentar esta nueva ética. Desaprobó el dualismo cartesiano que divide de manera drástica al hombre (reino del valor y la libertad) de la naturaleza (reino de la materia inerte y sin valor). En su lugar, sostuvo que el valor no es una creación del ser humano, sino que está enraizado en la existencia misma, a través de una “biología filosófica”.

Desde el metabolismo más elemental de una célula, la vida tiene un objetivo: mantenerse en su existencia. La vida, simplemente por existir, confirma su propio valor. El ser humano, por su capacidad única de ser libre y responsable, es el resultado final de este esfuerzo natural. Así, nuestra responsabilidad no proviene de un contrato social o de un cálculo lógico, sino que emana de nuestro sitio en el universo como guardianes del valor de la vida.

La heurística del miedo y el imperativo de la responsabilidad

En base a esto, Jonas elaboró un nuevo imperativo moral para sustituir el de Kant. El imperativo categórico de Kant se enfocaba en la coherencia de las acciones individuales en el presente; el de Jonas, por su parte, está dirigido hacia los efectos colectivos que tendrán lugar más adelante:

“Actúa de forma que el impacto de tus acciones sea compatible con la existencia duradera de una vida humana genuina en la Tierra“.

Este mandato de responsabilidad nos exige pensar no solo en nuestros contemporáneos, sino también, y sobre todo, en las generaciones que vendrán y en la biosfera como un todo. Es una ética de resguardo y cautela.

Pero, ¿cómo podemos predecir cuáles serán las consecuencias de nuestras tecnologías a largo plazo? Jonas reconoce que no tenemos certeza de ello. Por eso, sugiere una guía metodológica: “la heurística del miedo”. Sostiene que, en medio de la incertidumbre, es necesario enfocarnos más en las predicciones negativas que en las positivas. El temor a los posibles desastres (una catástrofe climática, una distopía genética, una IA fuera de control) no es un sentimiento ilógico que debamos eliminar. Es un instrumento cognitivo fundamental, una manera de responsabilidad anticipada que nos exige actuar con la máxima precaución. Jonas sostiene que “deberíamos otorgar más importancia a la profecía de la desgracia que a la de la bienaventuranza”.

De Hiroshima a ChatGPT: Jonas y los dilemas de la IA

Los principios de Jonas se aplican de manera preocupante en la época de la IA. Cuando alertó acerca de las tecnologías que “desarrollan un propio impulso” fuera del control humano, predijo una cuestión fundamental de los sistemas de IA actuales: algoritmos de recomendación que radicalizan a los usuarios sin la intención de sus creadores, sistemas comerciales capaces de alterar mercados en milisegundos o modelos lingüísticos cuyos sesgos y capacidades precisas son desconocidos incluso para quienes los entrenan.

La “heurística del miedo” de Jonas es especialmente relevante en las discusiones acerca de la seguridad en IA avanzada. Jonas nos exhortaría a considerar con seriedad las posibilidades catastróficas, no por pesimismo, sino como un ejercicio de responsabilidad anticipada, en medio de la incertidumbre acerca de si una IA general (AGI) es factible, deseable o controlable. Su pregunta clave—”¿Debemos hacer todo lo que está a nuestro alcance?”—cuestiona de manera directa la lógica del “imperativo tecnológico”, que impera en la industria tecnológica: la mera posibilidad de hacer algo se convierte en una compulsión de hacerlo.

De manera más sutil, Jonas nos asiste en reflexionar acerca de la responsabilidad en sistemas distribuidos. ¿A quién le corresponde la responsabilidad cuando un algoritmo de IA toma una decisión equivocada? ¿El ingeniero que lo desarrolló? ¿La compañía que lo implementó? ¿El conjunto de datos que lo entrenó? Jonas sostendría que la responsabilidad no puede evadirse por cuestiones técnicas complejas: es necesario que alguien rinda cuentas sobre las consecuencias, en particular cuando estas impactan a generaciones venideras que no tienen capacidad para defenderse.

Jonas hoy: Una voz desde el siglo XX para los dilemas del siglo XXI

La filosofía de Hans Jonas, forjada entre las cenizas de Auschwitz y la sombra de Hiroshima, habla directamente a nuestra era de IA, edición genética y crisis climática. Su legado no es un catálogo de respuestas específicas—Jonas murió antes de internet—sino un método de pensamiento ético para tecnologías radicalmente nuevas: privilegiar la prudencia sobre la audacia, visualizar vividamente los escenarios catastróficos, reconocer que no podemos delegar nuestra responsabilidad en cálculos probabilísticos ni en la “mano invisible” del mercado tecnológico.

En un momento donde corporaciones tecnológicas despliegan sistemas de IA con capacidades que sorprenden incluso a sus creadores, donde se habla de “superinteligencia” con la misma mezcla de fascinación y terror que Jonas observó en los primeros debates sobre energía nuclear, su voz resuena con urgencia renovada. Su imperativo—”actúa de forma que los efectos de tu acción sean compatibles con la permanencia de una vida humana genuina en la Tierra“—no es una llamada al Luddismo sino a la responsabilidad radical: antes de crear sistemas que puedan transformar irreversiblemente las condiciones de la existencia humana, debemos preguntarnos no solo “¿podemos?” sino “¿debemos?”, y más importante aún, “¿quién responderá por las consecuencias?”

Nuestro poder sin precedentes, insistía Jonas, exige una responsabilidad sin precedentes. En la era de la IA, esto significa algo muy concreto: cada línea de código que escribe un ingeniero, cada modelo que entrena un investigador, cada política que aprueba un regulador, es un acto de responsabilidad hacia un futuro que ya estamos configurando.