Daten machen frei

por Manuel Arias Maldonado

En 1965, Jean-Luc Godard estrenó Alphaville, una singular película de ciencia ficción distópica que se diría de cabecera para muchos comentaristas contemporáneos, aterrados como están ante el advenimiento de los datos masivos. Eddie Constantine, veterano actor de films noirs franceses, interpreta a su personaje habitual −el detective Lemmy Caution− en una misión inhabitual: viaja a Alphaville, haciéndose pasar por reportero del diario Figaro-Pravda, con objeto de destruir Alpha 60, una computadora con sentimientos que ha abolido el libre albedrío y ejecuta a quienes muestran un comportamiento ilógico. En Alphaville nadie puede preguntar por qué, tan solo decir porque. Es un golpe de genio del director suizo haber ambientado su película en la Francia de 1965, añadiendo unas cuantas computadoras que sirven para simbolizar la futuridad: un porvenir, insinúa Godard, contenido en nuestro presente. Finalmente, Lemmy Caution logra destruir Alpha 60 a golpe de poesía, lenguaje que la máquina no puede descifrar. De donde resulta una dicotomía familiar: una sociedad tecnificada y alienante contra la que se rebelan los restos autoconscientes de una humanidad contradictoria y sentimental. Algo que, por supuesto, está en Orwell, aunque ya estaba en Yevgueni Zamiatin y aparece de nuevo en Yuval Harari, entre otros heraldos de la deshumanización digital.

El historiador israelí acaba de publicar un interesante libro sobre este asunto, del que Arcadi Espada ha dado aguda cuenta hace unos días; nos serviremos aquí, para los fines de este breve comentario, de la síntesis publicada por el autor en Financial Times. Harari, ejerciendo ahora como historiador del futuro más que del pasado, cree que el humanismo está siendo gradualmente desplazado por el «dataísmo»: si Rousseau dejó establecido que los seres humanos habían de mirar en su interior y no en las Escrituras, ahora estaría desplegándose una «nueva narrativa universal que legitima la autoridad de los algoritmos y los datos masivos». Biólogos e informáticos nos enseñan que el libre albedrío no existe; de hecho, el análisis algorítmico del individuo produce diagnósticos más acertados de los que puede realizar sobre sí mismo cualquiera de ellos. La nueva mano invisible es la de los datos masivos: recurriremos a ellos para comprar un libro o elegir pareja, como ya ensayamos con Amazon y las dating apps. ¿Libertad, para qué? Es decir:

Una vez que los sistemas de datos masivos me conozcan mejor de lo que yo me conozco, la autoridad se desplazará de los seres humanos a los algoritmos. Big Data otorgará poder al Big Brother.

No es preciso que el algoritmo acierte siempre; basta con que acierte más que nosotros. Y aunque el dataísmo pueda equivocarse respecto a los fundamentos últimos de la existencia, advierte Harari, puede triunfar. Ya lo han hecho otras ideologías plagadas de errores factuales: "Si el cristianismo y el comunismo lo lograron, ¿por qué no el dataísmo?" Iríamos, en fin, camino de Alphaville.

Para muestra, un botón: hemos sabido hace poco que China prepara un sistema de disciplinamiento estatal basado en la exhaustiva recogida de datos personales de personas y empresas, que servirán para puntuar la lealtad política y la fiabilidad social de unos y otras. De manera que, si alguien es catalogado como un mal ciudadano, no podrá alojarse en ciertos hoteles, ni sus hijos matricularse en las mejores escuelas. La cosecha de datos y la aplicación de los algoritmos correspondientes servirán como sistema de reparto de premios y castigos en la sociedad china. Al menos, ese es el plan, cuya dificultad logística y viabilidad política no pueden darse por supuestas, ni siquiera tratándose de un régimen autoritario.

No obstante, Harari está pensando en la pacífica hegemonía de una creencia que abrazaríamos por parecernos más persuasiva o conveniente que otras. El dataísmo demostraría su capacidad para «forzarnos a ser libres», por decirlo en términos del mismo Rousseau, a quien extrañamente cita nuestro autor como representante del humanismo ilustrado. Y digo extrañamente, porque la idea de que hemos de mirar hacia nuestro interior −entendido como entraña sentimental− es más romántica que liberal. También Kant recomendaba encontrar la ley moral dentro de nosotros, pero lo hacía en nombre de un racionalismo entorpecido por las emociones menos serenas: llegó a describir las pasiones como «llagas cancerosas para la pura razón práctica». Bien es cierto, sin embargo, que lo que la psicología y la neurobiología contemporáneas están planteando representa una enmienda a esos presupuestos racionalistas: el sujeto que emerge de sus descripciones está entorpecido por automatismos afectivos y sesgos perceptivos en tal medida que la idea de que seamos «libres» sólo puede aceptarse con reservas. De ahí deduce Harari que, animados por nuestra experiencia práctica con las tecnologías digitales, no sería raro que dejásemos de ser humanistas y nos volviésemos dataístas. Porque serían los datos los que nos harían libres: libres de nuestros errores. Si nuestro Quevedo escribió aquello de que «errar es de humanos y ser herrados de animales y esclavos», el dataísmo lograría la imprevista pirueta de convertirnos en esclavos que no yerran pero son herrados. Herrados, claro, por el sistema: ¡el sistema definitivo!

En la versión francfortiana de estos temores, el dataísmo se corresponde con un proyecto neopositivista que persigue −sin necesidad de que nadie haya «decidido» que así sea, con arreglo al matiz foucaultiano− el disciplinamiento digital de los individuos. Desde este punto de vista, lo único que hacemos es caer en la trampa tendida por el neoliberalismo dataísta: somos conejillos de indias y la jaula es el planeta. Para Byung-Chul Han, el hábil aforista alemán de origen coreano, el empleo estatal de las nuevas tecnologías supone un desarrollo adicional de la biopolítica, o poder que trata de dar forma a la vida mental y corporal de los ciudadanos. En nuestros días, el Estado empieza a manipular las conductas de los ciudadanos en un nivel preconsciente, sin que sepamos de nuestro sometimiento: hablamos por eso menos de un «biopoder» que de un «psicopoder». Walter Kirn muestra más que de acuerdo en una pieza publicada por The Atlantic: aunque los datos almacenados por Google dicen acumularse para vendernos productos −razona−, quizá los gobiernos quieran vendernos otra cosa: desde políticas públicas concretas a guerras en el extranjero. Es la redención del paranoico:

Hay tantos fantasmas en nuestra máquinas −sus ubicaciones tan escondidas, sus métodos tan ingeniosos, sus motivos tan inescrutables− que no sentirse perseguido es no estar despierto. Por eso la paranoia, incluso en sus formas extremas, ya no parece un desorden, sino un modo de cognición que exhibe un imponente marchamo de presciencia.

Mientras avanzamos como sonámbulos hacia la dictadura universal del dataísmo, sin embargo, tal vez podamos detenernos un momento a pensar. Aunque sólo sea para observar el fenomenal contraste entre el presunto conformismo que caracterizaría a nuestras sociedades, adormecidas por el opiáceo algorítmico, y la realidad que aparece cuando nos asomamos a la ventana: un grado considerable de disenso y conflictividad, ascenso de las opciones políticas populistas, elevado número de divorcios, florecimiento de discursos alternativos, desplazamiento de algunos de estos al mainstream, alto grado de desconfianza en las instituciones y los representantes... Cualquier cosa menos una sociedad pacífica y, menos aún, unificada en sus preferencias morales, políticas o estéticas. Aunque, ciertamente, nada impediría que llegase a estarlo por efecto de una preferencia colectiva por los algoritmos.

Sin embargo, la realización de esta pesadilla tecnocrática parece altamente improbable: que padezcamos algunos temores recurrentes no nos dice nada sobre su verosimilitud. Algo que, sobre todo, vale para sociedades democráticas: allí donde la sociedad civil posee instrumentos de autodefensa. No olvidemos tampoco que el ser humano extrae un placer de su capacidad para elegir: un mercado y una biografía que careciesen por completo de alternativas sería seguramente rechazado por la mayor parte de sus usuarios. Aun cuando recurrimos al algoritmo, por ejemplo al emplear aplicaciones digitales dedicadas a la búsqueda de pareja, es difícil afirmar que aquél posea la última palabra. Por lo general, el problema es el contrario: la existencia de un número ilimitado de opciones nos impide conformarnos con una sola. Digamos que, como subraya Frank Trentmann en Empire of Things, su historia global del consumo, los deterministas tecnológicos suelen minusvalorar la capacidad transformadora que poseen los consumidores cuando «reciben» las tecnologías a ellos dirigidas. Sus teorías dicen así más sobre los prejuicios morales del pensador en cuestión que sobre la práctica social dominante: mientras Adorno despotricaba contra los males de la radio, los oyentes disfrutaban con ella sin complejos, desmintiendo cualquier temor sobre la homogeneización de la sociedad sometida a sus influjos. Y algo parecido sucede con Internet, al que se aplica la vieja cantinela del conformismo deshumanizador sin atender a sus verdaderos efectos, que son, como corresponde a cualquier fenómeno de la modernidad, profundamente ambivalentes.

Esto último se deja notar también en la visión algo estrecha del dataísmo que proporciona Harari. ¿Es que los datos masivos no poseen también un fuerte potencial emancipador y meliorativo? Este es visible en esferas tan distintas como la medicina y la farmacología, la lucha contra el fraude, la protección del mundo natural o la asignación de recursos públicos. ¡Y eso tambien es Ilustración! Es enteramente razonable que, cuando nos enfrentamos a una enfermedad, seamos baconianos antes que rousseaunianos: preferimos escuchar al experto antes que a nuestro corazón. Pero de ahí no se deduce que decidiremos entregar nuestra libertad, la definamos como la definamos, al imperio del algoritmo: la fenomenología ya dejó sentado que las experiencias subjetivas no son equiparables sin más a los estados mentales, sino que incorporan un entero mundo de experiencias, significados y símbolos que no pueden «datificarse» fácilmente. Nuestro miedo a convertirnos en robots, condigno al recelo que nos provoca la idea del robot con sentimientos, atestigua esa limitación.

Cuestión distinta es si recurriremos a los algoritmos para contratar un seguro, encontrar el bien inmobiliario más adecuado a nuestras preferencias o buscar destinos vacacionales. Pero no se ve nada malo en ello, más allá de la nostalgia irracional por un mundo más falible que identificamos, algo caprichosamente, con un mundo más humano. ¿No podría ser que la automatización, o externalización algorítmica de algunos aspectos de nuestras vidas, nos hace más felices o, incluso, más libres? En cuanto a la pregunta por la libertad, de la que se ocupaba Espada con detalle, trato de responder a ella en un libro recién publicado (La democracia sentimental. Política y emociones en el siglo XXI, Barcelona, Página Indómita, 2016). Allí sugiero que descubrir las limitaciones de nuestra libertad no nos hace menos libres, sino acaso, paradójicamente, lo contrario. Ya que si la completa libertad era una ilusión, somos de facto más libres adquiriendo conciencia de ello.

Hay, pues, más matices que certezas. Pero los matices no caben en un titular y sólo llamamos la atención con afirmaciones contundentes: de ahí que, según Harari, el dataísmo esté llamado a reemplazar al humanismo, en lugar de a completarlo o complicarlo. Sus temores tienen que ver con la hegemonía del cristianismo y el comunismo, entre otras ideologías triunfantes que se asentaban sobre flagrantes errores lógicos. Pero la historia humana es también la historia de un progreso moral y organizativo que nos impide equiparar todas las «ficciones» que en el mundo han sido: acumulamos un conocimiento sobre ellas y su preferibilidad que nos sirve ahora, mal que bien, y no sin dificultades, para protegernos contra las peores posibilidades contenidas en nuestro presente. Los rumores sobre el advenimiento del dataísmo, en fin, han sido exagerados.

09/11/2016

 
ENVÍA UN COMENTARIO
Nombre *
Correo electrónico *
Su comentario *
 
 
 
 

Normas de uso
Los comentarios en esta página pueden estar moderados. En este caso no aparecerán inmediatamente en la página al ser enviados. Evita las descalificaciones personales, los insultos y los comentarios que no tengan que ver con el tema que se trata. Los comentarios que incumplan estas normas básicas serán eliminados.

 
Deseo mostrar mi email públicamente
 
He leído y acepto la cláusula de privacidad.
 
 
 
Por favor, para evitar el spam necesitamos que resuelvas la siguiente operación matemática:
2 + 2  =  
ENVIAR
 
 

 

BÚSQUEDA AVANZADA

Te animamos a bucear en el archivo de Revista de Libros. Puedes realizar tus búsquedas utilizando los siguientes criterios.

Todas las palabras
Cualquiera
Coincidencia
ENVIAR


Apúntate al boletín de Revista de Libros
ENSAYOS ANTERIORES
RDL en papel número 190
RESEÑAS
 
  Apúntate a RdL
BLOGS
 
  Archivo RdL
 
Patrocinadores RDL