Ingenieros del alma. Bienvenidos a la era del capitalismo de vigilancia | Letras Libres
artículo no publicado

Ingenieros del alma. Bienvenidos a la era del capitalismo de vigilancia

El modelo de negocio de empresas tecnológicas como Facebook o Amazon se basa en la extracción de datos. Esto les permite acumular un poder sin precedentes.

Durante más de una década Facebook consiguió escapar al escrutinio público. Solo los expertos criticaban su filosofía de “muévete rápido y rompe cosas”; el resto estábamos despistados mirando el móvil. Tras la victoria de Trump en Estados Unidos, esta actitud cambió. La opinión pública occidental comenzó a sospechar que quizá la laxitud de Facebook con las noticias falsas y el efecto radicalizador de sus algoritmos, y sus políticas de privacidad tan relajadas, podrían haber contribuido a la victoria de Trump y el brexit. La sospecha se confirmó en marzo de 2018, cuando The Guardian desveló que Cambridge Analytica había obtenido de manera irregular hasta 87 millones de datos de usuarios de Facebook. No era algo inusual en la empresa, que ha basado su modelo de negocio en la venta de datos privados a terceros, pero esta vez la polémica tenía un cariz diferente. Cambridge Analytica había usado esos datos para elaborar propaganda pro-Trump y pro-brexit.

Facebook pasó de ser una herramienta de progreso a una compañía sin escrúpulos. Se convirtió rápidamente en el paradigma de todo lo que iba mal en las nuevas plataformas digitales. Era un monopolio que destrozaba a sus competidores, creaba adicción, tenía un poder de lobby enorme, promovía noticias falsas, su fomento del engagement creaba radicalización y su modelo de negocio estaba basado en el llamado “capitalismo de vigilancia”.

La empresa se enfrentó a su crisis con perplejidad. No somos los peores ni los únicos, sugerían sus directivos. Ni siquiera los más poderosos. Todas las grandes plataformas digitales se basan en el modelo de negocio del “capitalismo de vigilancia”, en la monitorización y comercialización de datos sobre el comportamiento de los usuarios. ¿De qué otra manera podían sobrevivir y hacerse ricas empresas como Google o Facebook, que siempre han ofrecido servicios gratuitos?

Marketing como ciencia

Cuando se creó Google en 1998, pocos usuarios se preguntaron cómo obtenía beneficios. La empresa cultivó una especie de imagen filantrópica al estilo Wikipedia: el usuario buscaba información en una interfaz simple y no había un intercambio económico. En Google no había clientes sino usuarios. Y cuando surgió la publicidad, no era invasiva: AdWords colocaba anuncios a partir de palabras clave. En pocos años, la empresa creció tanto que se convirtió en sinónimo de internet.

El producto estaba claro y era útil y sencillo. Lo que no estaba claro era el modelo de negocio. Google vendía su sistema de búsqueda a otras empresas pero no era una estrategia muy rentable. Tras la crisis de las puntocom, en 2000, que explotó tras unos años de dinero barato y fácil e inversiones arriesgadas, los inversores le exigieron a Google que buscara rentabilidades. Google le encomendó esa tarea a AdWords, dirigido por Sheryl Sandberg (años después ficharía por Facebook para desarrollar un sistema similar y se convertiría en la mano derecha de Zuckerberg), que creó un modelo que acabarían copiando todas las plataformas tecnológicas.

Google combinó la enorme cantidad de datos sobre el comportamiento de sus usuarios, el rastro de “miguitas” y patrones de comportamiento que dejaban sobre ellos mismos al navegar sin ser conscientes, con su enorme poder computacional para crear un sistema de marketing sofisticado. Como explica la profesora de la Harvard Business School Shoshana Zuboff en su monumental The age of surveillance capitalism “la combinación de una mayor inteligencia artificial y una vasta y creciente reserva de excedente de comportamiento [el rastro de miguitas] se convertiría en el fundamento de una lógica de acumulación sin precedentes”.

Google se transformó en una empresa de publicidad que aspiraba a convertir el marketing en una ciencia. En pocos años se hizo multimillonaria. En 2002, el año en que Google ideó este nuevo “capitalismo de vigilancia”, la empresa obtuvo 347 millones de dólares de ingresos. Al año siguiente esa cifra alcanzó los 1.500 millones. En 2018, veinte años después de su fundación, la empresa ganó 136.000 millones de dólares.

Google descubrió, según Zuboff, “una manera de traducir sus interacciones no mercantiles con sus usuarios en materias primas excedentarias [behavioral surplus] para la fabricación de productos que vendería en transacciones realmente mercantiles a sus verdaderos clientes: los anunciantes”. Es una lógica muy presente en el capitalismo contemporáneo: extender el “campo de acción” de la economía y comercializar las transacciones que no son tradicionalmente comerciales (ahí tenemos Airbnb, Blablacar). También encaja con una creciente financiarización: las transacciones especulativas tienen más importancia que las tradicionales o que las de la “economía real”. En el caso del capitalismo de vigilancia, no hay un intercambio económico entre el proveedor y el usuario sino que la transacción comercial se realiza entre bambalinas, en un sistema de subastas de datos privados.

Aunque cada vez se conoce más, el modelo de negocio real de empresas como Google o Facebook es todavía generalmente desconocido. En 2018, Zuckerberg fue interrogado por varios senadores estadounidenses. Uno de ellos le preguntó: “Entonces, ¿cómo se sostiene un modelo de negocio en el que los usuarios no pagan por su servicio?” Zuckerberg respondió con soberbia: “Senador, ponemos anuncios.”
 

1

Este sistema de vigilancia abre una nueva etapa del capitalismo, pero su avance solo puede comprenderse junto al éxito de políticas neoliberales y de desregulación ya conocidas. Google y Facebook no pidieron permiso, pidieron paso. Uno de los mantras de Silicon Valley es que las empresas tecnológicas van siempre muy por delante del Estado. La regulación y la intervención estatal son un obstáculo para el progreso (aunque no siempre: como han señalado autoras como Mariana Mazzucato o Margaret O’Mara, las empresas tecnológicas han defendido la ayuda pública en los malos tiempos y el laissez faire en los buenos). Las empresas tecnológicas se autorregularían a partir de la promesa de portarse bien. “Don’t be evil” (“No seas malo”) era el eslogan de Google hasta hace unos años; el actual es “Do the right thing” (“Haz lo correcto”). Esta idea, junto al convencimiento, en buena medida infundado o promovido por las propias tecnológicas, de que al individuo del siglo XXI no le preocupa mucho la privacidad, ha servido de autojustificación para el avance del capitalismo de vigilancia.

El negocio de la realidad

Google abrió la veda. Poco después se sumó Facebook. En 2008, Mark Zuckerberg fichó a Sheryl Sandberg. La antigua empleada de Google convirtió Facebook en un leviatán de la publicidad. Con ella la empresa aprendería, dice Zuboff, “a monitorizar, rascar, almacenar y analizar upi [User Profile Information] para fabricar sus propios algoritmos de focalización, y al igual que Google, no limitaría sus operaciones de extracción a lo que la gente comparte voluntariamente con la compañía. Sandberg comprendió que, a través de la manipulación sutil de la cultura de la intimidad y el intercambio de Facebook, sería posible usar el excedente de comportamiento no solo para satisfacer la demanda sino también para crear demanda”.

La lógica del capitalismo de vigilancia se extendió hasta un punto en el que el servicio original (el de Google era “indexar” toda la información global, el de Facebook “conectar” a todo el planeta) se convirtió solo en una tapadera: si Facebook es una red social, ¿por qué invierte tanto dinero en empresas de drones o en sistemas de geolocalización por satélite?

El objetivo es simplemente obtener cada vez más “excedente de comportamiento”. Esta acumulación ha de hacerse de forma masiva para conseguir “escalar”, o crear economías de escala: cuantos más datos poseen, más eficientes son. Ese es el verdadero y único modelo de negocio de las grandes plataformas tecnológicas. Sin la capacidad de vigilar y acumular datos de manera masiva, gran parte de la economía digital no sería rentable. Y sin la capacidad de hacer esto sin pedir permiso, las grandes plataformas tecnológicas no se habrían convertido en las empresas más rentables del planeta.

En la lógica imparable de acumulación de datos para crear economías de escala, las empresas tecnológicas han disparado primero y preguntado después. En 2010, la agencia de protección de datos de Alemania desveló que los coches de Google Street View se dedicaban a capturar datos de wifis privados por donde pasaban. Esos datos incluían nombres, números de teléfono, información crediticia, contraseñas, mensajes, emails, transcripciones de chats, información médica, fotos, vídeos y audios. Google se defendió diciendo que había sido un error humano de uno de sus ingenieros. Pero la Comisión Federal de Comunicaciones de EEUU (FCC) demostró que se trataba de una decisión deliberada de la compañía y que el ingeniero convertido en cabeza de turco fue seleccionado precisamente por su experiencia en ese tipo de captura de datos.

Incluso cuando las empresas piden permiso, el objetivo es una “acumulación primitiva” de datos. Los términos de servicios y las políticas de privacidad de las plataformas digitales están diseñados para ser ambiguos o para ocultar las invasiones de privacidad. A menudo, las apps que usamos nos piden acceso a nuestros mensajes, a la localización e incluso al micrófono, a pesar de que no necesitan esa información para operar. Si no aceptamos esta violación de la privacidad, las aplicaciones no pueden usarse, no se actualizan o nos avisan de que pueden tener brechas de seguridad. Una investigación de la web Quartz desveló que los móviles con sistema operativo Android están constantemente recopilando información de nuestra ubicación, aunque esté desactivada la función de geolocalización, no haya una tarjeta SIM y no estemos usando ninguna app.

Para acumular más datos, el capitalismo de vigilancia extiende su acción hacia lo que Zuboff denomina el “negocio de la realidad”: “los espacios pueden agregarse a un flujo continuo de información, imágenes y sonidos accesible, del mismo modo que Google comenzó agregando páginas webs para indexarlas y permitir su búsqueda”. Si Google sacaba coches a la calle para recopilar nuestra información digital, ahora quiere ir más allá. El “internet de las cosas” (los wearables, las smartTV, los electrodomésticos inteligentes, los asistentes de voz como Alexa) tiene como objetivo monitorizar la vida real, no solo la actividad digital de los usuarios, que era el objetivo inicial del capitalismo de vigilancia.

La aspiradora autónoma Roomba crea mapas a partir de su recorrido. En 2017, el presidente de Roomba admitió que esos datos (un mapa de tu casa) son muy lucrativos y se venderían a terceros. En la política de privacidad de una TV inteligente de Samsung, aparece la siguiente advertencia: “Por favor, sea consciente de que si sus intervenciones habladas incluyen información personal u otra información sensible, esa información se incluirá en los datos capturados y transmitidos a un tercero a través del Reconocimiento de voz”. Zuboff cita varios estudios sobre apps de salud y fitness que recogen datos biométricos de los usuarios sin su consentimiento.

El futuro de esta lógica de acumulación está en dispositivos que sepan capturar datos de diferente procedencia y de manera centralizada. Alexa, el asistente de Amazon, tiene como objetivo convertirse en una especie de gestor de todos los dispositivos inteligentes de una casa, que miden diversos comportamientos. Como dice el vicepresidente de Alexa, “nuestro objetivo es crear un tipo de ecosistema neural y abierto para Alexa, y hacer que sea lo más ubicuo posible”. Empresas como Realeyes o Affectiva desarrollan lo que se ha denominado “computación afectiva”: softwares que reconocen e identifican caras, calculan la edad, la etnia y el género, analizan miradas y pestañeos, y monitorizan movimientos de ojos, emociones, estados de ánimo. Como dice un informe de Realeyes, “Las emociones ‘intangibles’ se traducen en actividad social, reconocimiento de marca y beneficios.”

El objetivo final es que internet “desaparezca”, como ha sugerido el CEO de Google Eric Schmidt; que se convierta en una especie de presencia ubicua imperceptible, mientras monitoriza y captura millones de datos.

La captura masiva de datos de comportamiento se ha convertido en un negocio atractivo para otros sectores más allá de Silicon Valley, como las aseguradoras o la banca. Los grandes bancos invierten cada vez más en inteligencia artificial. En 2019, Citigroup gastó en tecnología 8.000 millones de dólares, Bank of America 10.000, JP Morgan 11.000. Este último tiene un “campus” de investigación en IA en Palo Alto (California) con mil empleados, y el fondo de inversión Black Rock ha establecido también en la zona un laboratorio de inteligencia artificial. Pero el caso más sorprendente es el del banco japonés Softbank, que ha creado un fondo de 108.000 millones de dólares para invertir en IA. Los analistas del sector afirman que existe el riesgo de que estas inversiones masivas estén saturando el mercado y sean consecuencia del miedo a quedarse atrás.

Con tanta cantidad de datos a su disposición, el capitalismo de vigilancia domina lo que Zuboff llama “división del aprendizaje”, el principio clave en una economía de la información: quien más información tiene más poder tiene. El capitalismo de vigilancia lleva al extremo las asimetrías de información de una economía capitalista.

 Hay tecnólogos, como Viktor Mayer-Schonberg, que anticipan el fin del capitalismo diciendo que la economía basada en los datos sustituirá al sistema de precios como el gran organizador (e “informador”) de la economía capitalista.

2

 Y ese poder le permite incluso predecir resultados. Por eso interesa a la banca o las empresas de seguros, que ven muy útil el uso de datos privados para predecir el riesgo de quiebra o de impago de sus clientes.

Pero ¿realmente la tendencia del capitalismo global es hacia la captura de excedentes de comportamiento? Uno de los errores de Zuboff es que, una vez ha elaborado su ambicioso modelo, todo parece encajar en él. La autora ignora otro tipo de intereses, algunos más banales, detrás del capitalismo de vigilancia. A menudo es simplemente el intento de garantizar una posición dominante frente a la competencia. Otras veces (como en las adquisiciones de empresas por parte de Google), el objetivo es anular a esa competencia: desde 2001, Alphabet, la matriz de Google, ha comprado más de 220 empresas; Facebook ha adquirido 70. No se puede descartar tampoco que las empresas que se suman al capitalismo de vigilancia estén acumulando datos masivos sin saber muy bien su utilidad: es el nuevo hype del capitalismo contemporáneo.

Como señala el teórico y analista de internet Evgeny Morozov en una meticulosa reseña del libro, la autora sobredimensiona el papel del capitalismo de vigilancia en la economía global:

Las revelaciones recientes sobre las controvertidas prácticas de intercambio de datos de Facebook confirman que los imperativos del “capitalismo de vigilancia”, si existen, son solo secundarios a los del propio capitalismo. La empresa, preocupada por el crecimiento, manejó los datos como un activo estratégico: ahí donde los imperativos de expansión sugirieron que debían compartirse con otras compañías tecnológicas, lo hicieron sin dudar, dando acceso a Microsoft, Amazon, Yahoo e incluso a Apple (aunque Apple negó su participación). Bajo el capitalismo, quién obtiene un excedente conductual apropiado es de importancia secundaria; lo que importa es quién consigue apropiarse la plusvalía propiamente dicha.

Evgeny Morozov, “Los nuevos ropajes del capitalismo (Parte II)”, El salto, 10/3/2019.
 

3

 

Acción, predicción, modificación

Zuboff asegura que las tecnológicas aspiran a una situación de “resultados garantizados” (guaranteed outcomes). El objetivo no es solo comercializar nuestros datos privados sino adelantarse a nosotros. Antes tú buscabas en Google, ahora Google te busca a ti. Un reportaje publicado en The Intercept desveló las prácticas de predicción comercial de Facebook: la empresa “analiza excedentes de comportamiento para identificar a los individuos que están ‘en riesgo’ de cambiar su lealtad de marca. La idea es que estas predicciones pueden hacer que los anunciantes intervengan de inmediato y dirijan mensajes agresivos que estabilicen la lealtad para así conseguir resultados garantizados”.

Es más o menos lo que hizo Cambridge Analytica. La empresa elaboró perfiles de indecisos en swing states de los EEUU(los estados que pueden votar tanto republicano como demócrata) a partir de un test de personalidad integrado en Facebook. Aunque elevó el marketing político a guerra psicológica y obtuvo los datos de manera irregular, en esencia no hizo nada muy diferente a las campañas de Obama en 2008 y 2012, dirigidas por Eric Schmidt, de Google. 

Christopher Wylie, el exempleado de Cambridge Analytica que desveló la trama, trabajó en la campaña de Obama en 2008. En 2015, como CEO de otra empresa de propaganda electoral, Euonia, intentó que le contratara la campaña de Trump, pero fracasó. Ahora Wylie es un alto cargo en la marca de moda H&M.

4

El problema no es Cambridge Analytica, o no el más importante, sino Google y Facebook.

El capitalismo de vigilancia es economía behavorial, o del comportamiento, con esteroides. Si sabe monitorizar y capturar datos de comportamiento e incluso predecirlo, también es capaz de modificarlo. El capitalismo de vigilancia está en el negocio del nudge, término popularizado por Cass Sunstein y Richard Thaler que quiere decir “empujoncito”: “Un ‘empujoncito’ es cualquier aspecto de la arquitectura de elección que altera el comportamiento de un individuo de una manera predecible sin prohibirle ninguna opción o cambiar significativamente sus incentivos económicos.” Zuboff es escéptica, con razón, con este tipo de estrategias, y señala su componente iliberal. Al mismo tiempo, le preocupa más el uso comercial por parte del capitalismo de vigilancia que el uso estatal (los Estados usan constantemente nudges sin que la libertad de los ciudadanos se reduzca de manera significativa).

La autora da dos ejemplos clave de modificación del comportamiento por parte de los capitalistas de la vigilancia: un experimento de Facebook que modificó el algoritmo para alterar las emociones de los usuarios (a unos les colocó noticias positivas, a otros negativas y observó el resultado), y el caso del videojuego Pokémon Go, que nació a partir de Google Maps. Según Zuboff, este juego es el sueño de un capitalista de vigilancia hecho realidad: “es un laboratorio viviente para la telestimulación a escala ya que los desarrolladores aprendieron a condicionar y agrupar el comportamiento, dirigiéndolo en tiempo real hacia constelaciones de mercados de comportamiento de futuros”. Pokémon Go combina el software cartográfico de Google con una dinámica de gamificación. Con la excusa de cazar pokemons en espacios reales (funciona con la cámara del móvil), el juego te conduce hacia donde desea: esto abre posibilidades a negocios para atraer a clientes a lugares físicos u ofrecerse como “lugares patrocinados”, pero también permite a Google mapear zonas inaccesibles para la empresa mediante otros medios (como jardines privados a donde no tiene acceso el Street View).

La economía de la modificación del comportamiento es quizá uno de los puntos más débiles de Zuboff, donde sus teorías son más especulativas para que los hechos encajen en su modelo. Cree que detrás de los avances del capitalismo digital están las teorías del psicólogo conductista B. F. Skinner, que revolucionó la psicología en los años sesenta y setenta con su behaviorismo radical. Para Skinner, el libre albedrío es una ilusión, y estamos atrapados en patrones de comportamiento que dependen del contexto y de la sociedad y que escapan a nuestra comprensión. Defendía la ingeniería social para salvar a nuestra civilización y pensaba que la democracia era un despotismo porque institucionalizaba la ignorancia. Zuboff conecta las ideas de Skinner con las de tecnólogos como Hal Varian (economista jefe de Google) o Alex Pentland (mit), que defienden una especie de “física social” (el análisis de la sociedad como si fueran fenómenos físicos, una lógica muy extendida en los utopistas del Big Data) y una de las ideas clave de Skinner: el conocimiento sustituye a la libertad.

La conexión entre Skinner y los tecnólogos es original y acertada, pero también puede despistar. El libro analiza la estructura económica del capitalismo digital y sus nuevos incentivos y expone la avaricia de las grandes empresas tecnológicas. Sin embargo, olvida la lógica económica en sus conclusiones, que se basan en una sociología muy pobre. Resulta más creíble el relato de un neoliberalismo obsesionado con ampliar masivamente sus beneficios que el de una especie de planificación pseudototalitaria (la autora cita a Orwell y Los orígenes del totalitarismo, de Arendt).

Para explicar el desarrollo y funcionamiento del capitalismo de vigilancia, Zuboff indaga en patentes de las grandes empresas tecnológicas, estudia artículos académicos de sus ingenieros y analiza sus compras y adquisiciones de otras empresas. Pero las lecciones morales que extrae son a menudo superficiales e ingenuas, excesivamente retóricas y tautológicas. Es también sorprendente que Zuboff desarrolle conceptos y neologismos sin apenas tener en cuenta a los innumerables autores que han venido antes de ella: desde Evgeny Morozov hasta Cathy O’ Neill, Antonio García Martínez o Nick Srnicek.

Zuboff defiende una concepción del capitalismo como un sistema basado en contratos que obligan a cierta reciprocidad. La lógica de predicción y “resultados garantizados” del capitalismo de vigilancia rompe con esa idea: “no hay libertad sin incertidumbre; es el medio por el cual la voluntad humana se expresa mediante promesas”. Según la autora, el capitalismo de vigilancia quiere crear, a partir de un determinismo tecnológico y de una ideología del “inevitabilismo”, una especie de sociedad poshistórica donde el conocimiento y la planificación social (mediante la predicción del comportamiento) sustituyen a la libertad y la autonomía individual. Es una visión demasiado catastrofista y suena a jeremiada. Zuboff es una conversa y su libro tiene en cierto modo un tono de redención: una profesora de la Harvard Business School, epítome del capitalismo, descubre el Gran Engaño. Pero la validez de sus investigaciones es enorme y su defensa de un capitalismo que se aleje de los postulados del neoliberalismo y del utopismo tecnológico es importante. Su libro es una enciclopedia esencial para comprender no solo el capitalismo digital sino el siglo XXI. ~

 


Tags: