La amenaza del capitalismo de vigilancia

Pittsburgh, 1951: crecer en una América industrializada

Shoshana Zuboff nació en Pittsburgh, Pennsylvania, en 1951; esta ciudad es considerada el centro de la industria estadounidense. Pittsburgh, una ciudad del acero, contaba con fábricas, chimeneas y sindicatos de gran poder; su clase trabajadora había creado la infraestructura del país. Sin embargo, también era una ciudad en proceso de transformación. La industria pesada de los Estados Unidos experimentaba una competencia internacional en aumento. Los trabajadores empezaban a ser desplazados por la automatización. El modelo económico que había prevalecido en el siglo XX mostraba fisuras.

Zuboff se desarrolló durante los años sesenta, periodo de cambio cultural extremo. La contracultura, las protestas contra Vietnam, el feminismo de segunda ola y el movimiento por los derechos civiles ponían en duda todas las convicciones de la sociedad norteamericana. Había optimismo acerca del poder liberador de la tecnología, pues se esperaba que la “revolución informática” democratizara el conocimiento; sin embargo, también había inquietud sobre la deshumanización provocada por la tecnología. Obras como Un mundo feliz de Huxley y 1984 de Orwell alertaban acerca de futuros totalitarios con tecnología avanzada.

La Universidad de Chicago, conocida por su conservadurismo y rigor intelectual en tiempos de radicalismo estudiantil, fue donde Zuboff se formó en filosofía. Después, en 1975, se graduó con un doctorado en psicología social de la Universidad de Harvard; su investigación se centró en cómo los individuos y las organizaciones se ajustan a los cambios tecnológicos. Su preparación interdisciplinaria —en filosofía, psicología y sociología organizacional— la capacitaría para examinar cambios tecnológicos no solo desde un punto de vista técnico, sino también en sus aspectos sociales, éticos y humanos.

Harvard Business School: analizando la informatización laboral

En 1981, Zuboff se incorporó al equipo docente de la Harvard Business School, una institución reconocida por su labor en la formación de ejecutivos corporativos a nivel mundial. No era una elección clara para alguien con sensibilidades críticas. Sin embargo, le brindó acceso exclusivo: durante más de diez años, observó desde adentro la forma en que las empresas incorporaban tecnologías informáticas y cómo estas cambiaban el trabajo.

Durante la década de los ochenta, se produjo una rápida informatización. Las computadoras personales empezaron a estar disponibles en las oficinas. Los sistemas de información gerencial concentraban datos. Los trabajos manuales eran sustituidos por la automatización. Reagan revocaba regulaciones industriales, reprimía sindicatos y decía que “el gobierno es el problema”. El capitalismo parecía haber ganado de manera definitiva frente a las alternativas socialistas.

Zuboff analizaba estos cambios desde una perspectiva etnográfica. Pasaba meses en fábricas, oficinas y bancos, analizando la forma en que las computadoras transformaban no solo la eficacia, sino también las relaciones de poder, la experiencia laboral y la autonomía de los empleados. Este estudio se documentó en su libro In the Age of the Smart Machine (1988).

La máquina inteligente: la informatización y la automatización

El descubrimiento clave de Zuboff era que la tecnología informática poseía dos posibilidades contrarias. Era posible “automatizar“: sustituir a los empleados por  máquinas, eliminar la capacidad y el juicio humano, centralizar el control en la gerencia. O podía “informatizar“: potenciar las habilidades humanas, hacer visible información que antes estaba oculta y empoderar a los empleados dándoles la oportunidad de conocer procesos que antes eran oscuros.

La misma tecnología podía emplearse para liberar o dominar. No se trataba de una elección técnica, sino política y organizativa. Las empresas que implementaban la automatización generaban empleados sin poder, sujetos a supervisión continua y limitados a seguir instrucciones. Los empleados que se informatizaban eran más capaces, tenían una mayor comprensión de sistemas complejos y eran más autónomos.

Zuboff era precavida, pero optimista. Creía que la tecnología informática tenía el potencial de democratizar el conocimiento en las organizaciones, eliminar jerarquías y distribuir el poder. Pero advertía que esto exigía decisiones conscientes. Por defecto, las empresas tienden a utilizar tecnología con el fin de fortalecer la supervisión gerencial. Esta ambivalencia —la tecnología puede ser liberadora o dominadora, según cómo se diseñe y despliegue— influiría en toda su labor futura. La tecnología no es imparcial; representa relaciones de poder.

De la monitorización a la automatización: el cambio del siglo XXI

Zuboff seguía con interés creciente la revolución digital en los años noventa y dos mil. Se esperaba que internet condujera a una democratización radical: acceso universal a la información, comunicación horizontal y comunidades con autoorganización. Las redes sociales iniciales, Wikipedia y el software libre parecían validar las utopías digitales.

Sin embargo, algo se modificó de manera fundamental alrededor del año 2001-2002. Google, al verse presionado por la necesidad de obtener beneficios con su motor de búsqueda, se percató de que era factible emplear los datos de búsquedas no solo para optimizar resultados, sino también para anticipar qué anuncios serían probablemente seleccionados por los usuarios. Empezaron a recopilar información adicional a la requerida para el servicio: registros de búsqueda, localizaciones y patrones de navegación. Con el uso de machine learning, se procesaba este “excedente conductual” para crear predicciones que luego eran vendidas a los anunciantes.

Zuboff se referiría a esto como “capitalismo de vigilancia”. No era simplemente una mejora de la publicidad dirigida. Era un modelo económico radicalmente nuevo que se fundamentaba en la apropiación unilateral de la experiencia privada de las personas como insumo sin coste para procesos comerciales encubiertos de extracción, predicción y venta.

Este modelo fue adoptado por Facebook, Microsoft, Amazon y, en última instancia, la mayor parte de la economía digital. Las aplicaciones “sin coste” no eran obsequios, sino trampas: los usuarios se convertían en el producto porque se comercializaban sus datos y su atención. Cada interacción producía datos que eran registrados, analizados y monetizados.

La era del capitalismo de vigilancia: la obra monumental

Zuboff pasó años investigando este fenómeno: entrevistó a personas cercanas a la tecnología, analizó las patentes, examinó los términos de servicio y documentó las prácticas corporativas. En 2019, publicó The Age of Surveillance Capitalism, un libro de 700 páginas que es al mismo tiempo una rigurosa obra académica y un manifiesto apremiante.

Su razonamiento principal era demoledor: el capitalismo de vigilancia no es una aberración ni un exceso que se pueda regular con algunos cambios. Es una transformación del capitalismo: un razonamiento económico que exige la experiencia humana privada como insumo gratuito, niega reciprocidad con las personas de las cuales obtiene datos y persigue una certeza total sobre el comportamiento futuro a través de la supervisión omnipresente y la alteración constante de la conducta.

Zuboff identificó varios rasgos distintivos. En primer lugar, declaración unilateral: las empresas de vigilancia simplemente recopilan datos sin el consentimiento auténtico del usuario (los “términos de servicio” poco claros no son un consentimiento significativo). En segundo lugar, el dividendo conductual: la información obtenida de los datos no favorece a las personas que están bajo vigilancia, sino a las compañías y sus consumidores.

En tercer lugar, asimetría radical: las empresas tienen conocimiento absoluto de nosotros; nosotros, en cambio, sabemos muy poco sobre sus operaciones. Cuarto, instrumentalización: La finalidad no es únicamente predecir la conducta, sino cambiarla; impulsar de forma sutil a los usuarios hacia comportamientos que optimizan el valor para los anunciantes.

La estructura de la transformación del comportamiento

Zuboff registraba la manera en que las plataformas digitales se creaban con el propósito explícito de cambiar conductas. Los algoritmos de recomendación no solo anticipan lo que deseamos, sino que también nos impulsan a consumir contenido que optimiza el engagement (el tiempo en la plataforma). Los “nudges” digitales, como las notificaciones, los diseños de interfaz y las arquitecturas de elección, nos manipulan de manera imperceptible. El refuerzo variable (no saber cuándo se recibirá la próxima alerta interesante) genera una adicción conductual parecida a la que producen las máquinas tragaperras.

Esto no era simplemente una publicidad agresiva. Era ingeniería conductual a nivel de civilización. Mil millones de individuos utilizando plataformas optimizadas para atraer la atención y cambiar el comportamiento, sin entender cómo funcionan esos mecanismos. Esto lo comparaba Zuboff con el conductismo de B. F. Skinner, aunque con la implementación de una infraestructura digital ubicua: un “Skinner box” a nivel global.

Las consecuencias para la autonomía eran nefastas. La autonomía exige la habilidad de autorreflexionar sobre los propios deseos y de tomar decisiones basadas en valores personales. ¿En qué lugar queda la posibilidad de elegir por uno mismo si algoritmos no transparentes están moldeando los deseos continuamente? Zuboff hacía referencia a Frankfurt en cuanto a la estructura reflexiva de la voluntad: el capitalismo de vigilancia ataca específicamente esta habilidad reflexiva, interrumpiéndola con manipulación del comportamiento automatizada.

Democracia asediada

Zuboff sostenía que la democracia está amenazada por el capitalismo de vigilancia. La manipulación microfocalizada posibilita que los actores políticos envíen mensajes contradictorios a diversos grupos. El resultado: nadie puede observar el panorama general. La manipulación de las elecciones, la interferencia rusa en las mismas, las campañas de desinformación eran indicios de procesos más profundos: si el comportamiento electoral es un resultado predecible y manipulable, la democracia se vacía.

Las plataformas generan “burbujas de filtro” en las que cada persona visualiza contenido que valida sus prejuicios preexistentes. El espacio público, dividido en millones de realidades individualizadas, no puede mantener una verdadera deliberación democrática. No existen un discurso común ni hechos compartidos, solo una optimización algorítmica del engagement que incrementa la polarización y la indignación porque estos estados de ánimo maximizan los clics.

Totalitarismo instrumental: por encima de Orwell

Zuboff presentó un término perturbador: “totalitarismo instrumentario“. El totalitarismo instrumentario, a diferencia del del siglo XX que utilizaba la violencia y el terror para dominar a las poblaciones, funciona por medio de una modificación conductual ubicua, automatizada y predictiva. No requiere de campos de concentración; posee arquitecturas digitales de elección. No requiere publicidad grosera; cuenta con personalización algorítmica que proporciona a cada individuo la narrativa ideal para su perfil psicológico.

Es totalitarismo porque persigue una certeza absoluta acerca de la conducta, con el objetivo de eliminar la incertidumbre que es intrínseca a la libertad humana. Y es instrumental porque funciona a través de la instrumentación: sensores ubicuos, algoritmos de aprendizaje automático y actuadores que alteran los contextos de información y selección.

Según Zuboff, China lo aplicaba de manera explícita con su sistema de crédito social. No obstante, Occidente lo construía de la misma forma, pero en vez de ser gestionado por el Estado, era administrado por empresas privadas. La diferencia era menos consoladora de lo que aparentaba.

Debates y críticas

El libro de Zuboff ha suscitado fervientes discusiones. Los críticos afirmaban que Zuboff estaba sobrestimando la capacidad de las corporaciones tecnológicas, ya que los algoritmos no son tan eficaces para manipular como ella lo propone y la gente no es tan crédula. Algunos sostenían que idealizaba un pasado que nunca fue real: la manipulación ha estado presente en la publicidad siempre; el control corporativo existía antes de internet.

Algunos economistas se preguntaban si el “capitalismo de vigilancia” era una nueva modalidad del capitalismo o simplemente el capitalismo utilizando nuevos instrumentos para seguir haciendo lo que ha hecho siempre: extraer valor. Los libertarios argumentaban que los usuarios optaban por utilizar servicios “gratuitos” conociendo el trueque.

La respuesta de Zuboff fue que la automatización, la velocidad, el alcance y la escala generaban diferencias no solo en términos cuantitativos, sino también cualitativos. Y que el consentimiento es ficticio cuando las opciones (no usar los teléfonos, internet, servicios digitales imprescindibles para la vida en la sociedad moderna) no son factibles.

Zuboff y el porvenir de la inteligencia artificial: la automatización integral de la experiencia

Las inquietudes de Zuboff se agudizan a medida que los sistemas de inteligencia artificial se vuelven más complejos. Los modelos de lenguaje más avanzados hacen posible personalizar contenidos a gran escala, algo que antes era imposible. La inteligencia artificial generativa tiene la capacidad de producir contenido optimizado para cada usuario, sin límite. Los sistemas de recomendación se vuelven más persuasivos y predictivos.

La perspectiva distópica es evidente: interfaces de IA conversacionales que saben todo acerca de ti, que presienten lo que necesitas, que ajustan tus gustos de manera sutil y que cada vez más interceden en tu relación con la información, las demás personas y el mundo. Asistentes digitales que no apoyan tu autonomía, sino que la suplantan por una optimización algorítmica de tus acciones con respecto a fines corporativos poco claros.

Zuboff nos hace cuestionarnos: ¿deseamos este futuro? ¿Es ineludible? Su respuesta es que no es inevitable, pero requiere de acción política colectiva para revertirlo. Es necesario contar con nuevas regulaciones que exijan transparencia algorítmica, que prohíban la obtención de datos conductuales sin un consentimiento explícito y que definan los derechos digitales como derechos humanos esenciales.

Zuboff sostiene que el capitalismo de vigilancia es una elección, no un destino. Las sociedades anteriores enfrentaron y domesticaron otras formas de capitalismo salvaje. Esta mutación digital puede ser tratada de la misma manera. Sin embargo, el tiempo se acaba. Con cada año que pasa, las infraestructuras de vigilancia se vuelven más comunes, más difíciles de desmantelar.

Su mensaje es urgente: la IA no es únicamente una herramienta neutral. En el marco del capitalismo de vigilancia, es una herramienta de un cambio civilizacional que pone en riesgo la autonomía, la democracia y hasta la propia posibilidad de una sociedad libre. Para responder, es necesario tener en cuenta la magnitud de lo que está en riesgo y actuar antes de que las jaulas algorítmicas sean inevitables. La cuestión no es si la tecnología tiene la capacidad de hacer esto —la tiene, sin duda—, sino si nosotros, como sociedad democrática, lo permitiremos. Zuboff nos alerta de que el tiempo para tomar decisiones se reduce con rapidez.