Éric Sadin: “Estamos asistiendo a la muerte del deseo”

Nos conectamos a media mañana y no aparece nadie al otro lado. Éric Sadin prefiere no salir en cámara, nos comenta el intérprete que nos facilitará la conversación. Estamos ante uno de los pensadores más lúcidos de Francia. Conferenciante, autor y, sobre todo, invocador de conceptos que nos ayudan a comprender las consecuencias que nos están trayendo las nuevas tecnologías en nuestra vida cotidiana. Según nos dice, nos jugamos el futuro.

Su nuevo libro, editado por Caja Negra, La inteligencia artificial o el desafío del siglo. Anatomía de un antihumanismo radical, es la última de sus incursiones a la hora de desentrañar la filosofía que hay detrás de Silicon Valley. Un lugar, nos dice, desde donde se está configurando nuestra forma de ver el mundo sin que nos demos cuenta.

Se habla mucho de inteligencia artificial pero me da la sensación de que la gente no sabe muy bien de lo que habla. ¿De qué tipo de inteligencia hablamos cuando aludes a la inteligencia artificial?

Estamos viviendo en la actualidad un cambio de estatus de las tecnologías. Ya no son como eran hace más de un siglo, cuando estaban destinadas al almacenamiento de los datos. Esas funciones siguen en marcha pero yo diría que, hace unos quince años, otra función, y podría decir casi otra misión, aparece para las tecnologías digitales: la de ser expertas sobre lo real a velocidades infinitamente superiores de lo que estábamos acostumbrados a ver. Y eso es una nueva prerrogativa y tenemos que captar toda la medida de esta nueva dimensión. La inteligencia artificial (IA), o mejor dicho, los sistemas de IA son instancias que nos enuncian la verdad.

¿Podrías profundizar en esa idea de ‘enunciación de la verdad’?

A diferencia de la exactitud, que siempre es factual, la verdad tiene un poder performativo y nos llama a conformarnos en función de eso. Por ejemplo, según el dogma religioso, según las verdades enunciadas, se llama a la gente a seguir determinado sistema alimenticio o ir a tal lugar a tal hora. Esa es exactamente la relación que nosotros mantenemos desde hace una década con los sistemas de IA. En función de las ecuaciones con las que operan nos comprometen a que nos conformemos con ellos. Y eso induce un hecho civilizacional y antropológico absolutamente inédito.

Cuál es ese hecho.

Los sistemas técnicos nos están diciendo: debes actuar de tal o tal manera. Algo a lo que yo he llamado el giro inductivo de la técnica. De eso giro podemos analizar, como mínimo, cuatro niveles: el primero es el nivel incitativo, que se aplica a los individuos principalmente; el segundo, el nivel imperativo, que está presente en diversos sectores de la sociedad; el tercero es el nivel prescriptivo, que está operando en el mundo médico; y el último es lo que lo que yo llamo el nivel coercitivo, que está operando principalmente en el mundo del management y del trabajo.

Ese poder inductivo de los sistemas de inteligencia artificial está principalmente determinado para que seamos conducidos a hacer determinadas transacciones mercantiles o instaurar una organización cada vez más precisa de la sociedad. Y ante ello, no tenemos ninguna alternativa. La hemos aceptado de forma natural y la hemos habilitado para reemplazar, en campos cada vez más extensos, nuestra inteligencia natural y también la multiplicidad infinita de nuestras inteligencias. Se trata de un modo de racionalidad principalmente destinado a instaurar lo que yo he llamado una mercantilización integral de la vida. Y finalmente una visión hiper-optimizada e higienista de la sociedad.

Hoy en día se habla mucho del capitalismo de vigilancia pero en tu propuesta me parece ver, como decía Guattari, un capitalismo de producción de modos de vida. ¿En qué medida la vigilancia no deja de ser una capa más de lo que tratas de explicar en tu nuevo libro?

Sobre lo que yo hablo no tiene nada que ver con un capitalismo de la vigilancia. En esto yo me opongo absolutamente a Shoshana Zuboff. Hoy, en el 2020, el planteamiento sobre la vigilancia, muy al contrario de todos los discursos que se escuchan, es ingenuo. No hay que ser cándido porque el problema mayor no es la vigilancia, de ningún modo.

Cuál es entonces ese ‘problema mayor ’ al que nos enfrentamos.

Los años 2000 fueron los años de la vigilancia digital promovidos por las grandes agencias de inteligencia, en particular la NSA. Después de la amenaza terrorista ocurrió una cosecha de datos indiferenciados a través de una generación de algoritmos destinados a identificar los perfiles que podrían ser una amenaza nutriéndose principalmente, para bien o para mal, legalmente o ilegalmente como demostró Snowden. ¿Qué ocurrió ahí? Que no sucedió lo que se esperaba. Ya no estamos en la era de la vigilancia. Estamos en la era de la orientación algorítmica del comportamiento. Y no se trata para nada de lo mismo.

El capitalismo de la vigilancia es una versión deformada de las cosas, estamos frente a un capitalismo de la administración del bienestar. Hoy en día, los datos son cosechados de muchas maneras. La mayor parte del tiempo somos nosotros mismos los que entregamos esos datos sin ser conscientes del poder que otorgamos para poder orientar nuestra vida cotidiana cada vez más. Es lo que hacen todas las aplicaciones desde hace 10 años. ¿Qué son las aplicaciones? Son guías algorítmicas de nuestra vida cotidiana.

Un ejemplo, la aplicación Waze, que en 2005 fue comprada por Google. Un dispositivo tecnológico que podemos decir que es extraordinario porque ofrece un expertise en tiempo real del estado del tráfico que me sugiere elegir tal y cual itinerario, supuestamente el más optimizado. No hay ninguna vigilancia hasta ahí. Yo acepto que me localicen y Waze me dice la verdad: adopta tal o tal itinerario y no otro. Obviamente facilita mi vida cotidiana y mi bienestar, y yo me conformo o no a esas ecuaciones.

Si facilitan nuestra vida, dónde está el problema.

Aquí la cuestión es que los sistemas de IA no son sistemas estables. Evolucionan y se reconfiguran de manera continua. En teoría uno dice: «Yo hago lo que quiero con las ecuaciones de Waze». Pero su fiabilidad crece sin cesar, lo que hace muy difícil para el juicio humano decir «No, yo no voy a seguir la sugerencia de Waze». Estamos pasando de la dimensión incitativa, que supone un margen de distancia que te permite decidir que hacer, a la influencia de un poder de verdad que va a ser cada vez más potente. Esto significa que los sistemas de IA ya están dotados de la capacidad de ejercer una presión sobre tu decisión. Y ese es el fenómeno más importante.

Pongamos que estoy en mi baño, y esa voz tan linda de mi dispositivo me aconseja que el próximo baño lo haga con tal aceite esencial, y después que vaya a tal restaurante, y que invite a tal persona con la que soy más compatible, y todo por mi supuesta felicidad. ¿Que tenemos ahí? Una voluntad de orientar nuestros comportamientos, una promesa constante de acciones. Estamos traspasando un umbral nuevo del capitalismo, que yo llamo el tecno-liberalismo, que lo que busca es que no quede un espacio vacío, sino que continuamente se te estén planteando decisiones que te acompañen en tu vida cotidiana. Eso es lo que yo llamo el acompañamiento algorítmico de la vida.

Partimos del supuesto de que los algoritmos son capaces de procesar un número muy superior de datos o factores que un ser humano, lo que hace pensar que sus decisiones de acción son mejores al ser más ponderadas. ¿Esto no apunta a una especie de carrera hacia la perfección? Y ante ello, ¿es posible eliminar el error de forma absoluta? O dicho de otra forma, ¿cuán necesario es el error para seguir considerándolos humanos?

Ahora sí, estamos en el meollo de nuestro asunto. Y por eso yo no hablaría de error versus perfección, sino de pluralidad humana y temporalidad versus la voluntad neurótica de la perfección. Debemos observar los resortes que nos han llevado a que hoy en día estos sistemas estén destinados a instaurar una organización siempre más perfecta de la sociedad.

Cuáles serían esos resortes.

Sabemos que desde la modernidad occidental, desde la revolución industrial, y quizás hasta después de la posguerra, hemos vivido siglos de una extrema racionalidad, entendiendo racionalidad como esa voluntad de revisar las cosas evitando la pérdida y supuestamente tratando de buscar el lucro máximo. Y resulta que esta historia se pudo articular gracias a una historia que es técnico-económico-ideológica. Estos sistemas de IA, que provienen de la historia de la cibernética, apuntaban, después de lo catastrófico que había sido la segunda Guerra Mundial, a instaurar sistemas alternativos que no pasaran por la destrucción de una parte de la humanidad, como fue Hiroshima y Nagasaki. Hubo una voluntad de invertir casi de modo extremo el fenómeno apoyándose en sistemas para hacer sociedades cada vez más pacíficas y perfectas.

Esa ambición, esa fantasía, se tomó a cargo nuevamente medio siglo después en California. Dios no había terminado con su obra. El mundo está lleno de defectos. Y el primer vector de esos defectos eres tú y soy yo. Somos deshechos llenos de imperfecciones, y por eso la guerra, y por eso el caos del mundo. Es culpa nuestra. Pero hace unos 20 años apareció un milagro: las tecnologías de lo exponencial, que a una velocidad inédita hasta el momento prometían ser capaces de pulir todos los defectos humanos. Es en esa medida que debemos comprender cómo se conciben estos sistemas de IA y a la vez los usos que les son afectados: la presión sobre la decisión humana. Es como si nuestro propio deseo fuera desvelado por estos sistemas. Por eso yo digo también que estamos asistiendo a la muerte del deseo. Estamos en un momento de revelación continua, algorítmica, de lo que nos conviene, incluso antes de que nosotros sepamos lo que queremos.

Todo esto significa que el poder de verdad de los cuales están dotados los sistemas de IA podrían, a la vez, cerrarnos la boca y prohibirnos nuestro derecho de hablar. Hay que captar el impacto político y civilizacional que inducen estos sistemas. Este es exactamente el trabajo que he intentado hacer en este libro.

Hablemos pues sobre esa pérdida de capacidad de agencia de los ciudadanos. Usted ve en el mecanismo automatizado de gobierno que permite la AI una clara amenaza a lo político. Como recuerda en el libro, para Hannah Arendt la capacidad de juicio es la cuestión política principal. Si nos vemos secuestrados por una política algorítmica, ¿cual es el efecto que tiene esto sobre la democracia?

Me gustaría, para contestar, hacer un par de observaciones sobre el mundo del trabajo. Observemos cómo ocurren ahí las cosas, porque son cuestiones políticas determinantes. Permíteme que cite a Simone Weil, una persona que estuvo observando el terreno en las fábricas en los años 30 y vio como, en el nombre de la optimización máxima, los seres humanos estaban siendo reducidos a ser robots de carne y hueso, sometidos a acciones donde su singularidad, su integridad y su dignidad estaban totalmente sometidas.

Hoy en día, en cambio, observamos dos fenómenos: el primero es que los sistemas de IA ya no son puro procesamiento de datos sino que son sistemas cognitivos, y por ende están llamados a sustituir a oficios de alta competencia: abogados, directores de recursos humanos, consejeros bancarios, y próximamente médicos. Como si fuese normal que todos estos oficios, que necesitan de estudios largos y pueden procurar felicidad al ser ejercidos por seres humanos, deban, en nombre de la optimización, ser sustituidos por sistemas cognitivos automatizados. Para mi es sorprendente observar que nadie está en pánico frente a esto.

Pero hay un segundo fenómeno, que he estudiado más profundamente. Estamos viendo sistemas de IA que están siendo integrados en nuevos tipos de empresas, que se han ido multiplicando en esta última década y a las que llaman, para volverlas sexis, empresas 4.0. Es la empresa pilotada por datos. Pensábamos que las empresas eran colectivos humanos, que apuntaban a objetivos comunes y que desarrollaban prácticas que eran el resultado de procedimientos que tenían que ver con la contradicción, el debate, y que en general llegaban a acuerdos en el seno de colectivos, de pluralidades sometidas a reglas. Pero esto ya no es así.

En la empresa 4.0, varios sectores de la misma: concepción, producción, logística, hasta eso que llamamos la satisfacción del cliente, se encuentran infiltrados por captores que en tiempo real van haciendo testimonio del estado de las cosas y dictando a los humanos los gestos que deben hacer. Lo mismo sucede en los almacenes de Amazon. Estamos reduciendo a los humanos a robots de carne y hueso según procedimientos que no les importa la integridad y la dignidad humana. Estos modos de management son el resultado directo de lo que llaman innovación digital, los cuales no hemos dejado de alabar desde hace más de una década.

Creo que es tiempo de que los sindicatos no solo se preocupen del costo de la vida sino también de los nuevos modos de dirigirla.

Cómo podemos luchar contra esa deriva.

Al contrario del discurso desarrollado por la industria digital, los think tanks, los expertos, que te dicen que todas estas nuevas modalidades van a permitirte mejorar y optimizar tu situación, es tiempo ya de empezar a producir y plantear contradiscursos, contra-expertises. Debemos fortalecer los relatos de las vidas ordinarias. Necesitamos testimonios, que no son otra cosa que revelar a la luz del día lo que la gran parte de la gente no conoce, no sabe y que la sociedad merece saber. Hoy más que nunca, es la hora del testimonio. Necesitamos un contradiscurso sobre qué ocurre en las empresas, en el mundo de los profesores, en el mundo de la salud.

El COVID nos vino a recordar en el mundo entero las dificultades de cuidarse en sociedad. Por ello yo digo que más que nunca necesitamos contradiscursos. La lucha que se viene es esta. Nuestras vidas ordinarias son las que tienen que inspirar las decisiones políticas.

El despojo de nuestro juicio en el mundo del trabajo en provecho de sistemas que administran todos los asuntos, que tienen el poder de enunciar la verdad de la realidad, es una de las cuestiones democráticas fundamentales. Un segundo punto son estos discursos que tratan de acallar la realidad. Debemos re-empoderarnos de nuestra capacidad de palabra. Y no estoy hablando de las palabras de indignación de las redes sociales, de Twitter; las palabras en estas redes son lo más improductivo que hay porque no son más que una suma de palabras vacías. Yo hablo de palabras que son testimonios de verdad, aquellas que son capaces de significarnos libremente y en la pluralidad. Ahí hay una línea política del lenguaje. Debemos fiarnos más de los hechos y de los muchos sufrimientos que existen en muchos sectores de la realidad. Estos hechos deben inspirar la acción política pero también el terreno de nuestras vidas cotidianas. La revitalización de nuestras sociedades democráticas debe pasar por actos que nos llamen a la politización de toda sociedad, necesitamos un modo de oponerse frontalmente a la organización algorítmica de la sociedad que va a conllevar el uso cada vez más extensivo de las inteligencias artificiales.

Me preocupa que la juventud, a pesar de estar preocupada, no tenga herramientas para afrontar este diagnóstico. ¿Cómo podemos inspirar a esos jóvenes a realizar esos contradiscursos? ¿Cómo pasamos a la acción? 

Desgraciadamente, para contestar a esta pregunta necesitaríamos una semana de seminario con profesores de diferentes tipos, con sensibilidades diferentes, alumnos también con sensibilidades diferentes, apoderados… Y deberíamos tomarnos tiempo para decidir juntos, caso por caso, para reflexionar qué juzgamos útil hacer o no hacer. Ese tiempo, lamento decirlo, no lo tenemos.

Hemos abandonado la facultad para la contracción y la crítica. Estamos viviendo hoy en día la hora de la potencia. De la extrema potencia. El mundo de la industria digital encarna nuevas potencias capaces de interferir sobre las existencias a diferentes niveles y en diversos lugares, y tiene argumentos y medios para convencernos de la supuesta pertinencia de las herramientas que pone a nuestra disposición. Digamos que está dotada de un gran poder de seducción frente a la cual, a veces, cedemos.

La maquinaria de seducción es fuerte. Pero a la vez crecen las visiones críticas y las movilizaciones.

Yo diría que lo que caracteriza los tres o cuatro últimos años es una evolución extremadamente rápida de las mentalidades a escala planetaria. Hemos visto nuevos movimientos de movilización frente a los excesos y las derivas producidas por la adopción de políticas neo-ultra-liberales desde hace unos 40 años. Hoy en día existe una observación lúcida y formas nuevas de movilización. Los indignados en España, en Chile, en Francia, los ejemplos son muchos y van a ser cada vez más. La crisis del COVID confirma esta tendencia.

El gran desafío que se nos plantea es generar una alternativa a lo que se nos presenta. Todas estas rabias, estas críticas legítimas, estos resentimientos, solo se expresan a través de palabras y palabras de manera neurótica en las redes sociales, pero con una violencia cada vez más intensa. Mientras que, en cambio, deberían tomar la forma de una conciencia plural, molecular, y de la necesidad de articular esta conciencia a través de un anclaje en lo real, por medio de acciones concretas. Pero esto supone un esfuerzo.

Descargarse en las redes para hablar de rencores muchas veces legítimos es una manifestación de pereza, opuesto de lo que es la responsabilidad humana. Para los jóvenes, desgraciadamente, hemos llegado a creer que la enunciación pública en redes reemplaza la posición política. Hoy en día estamos asistiendo a una brecha como nunca la habíamos visto entre la palabra y la acción, y eso es un asunto político trágico.

El desafío que tenemos por delante es saber como, individualmente y colectivamente, vamos a poder transformar nuestras conciencias cada vez más lúcidas en el terreno de nuestras realidades concretas y mundanas. Mientras más se nos despoja de nuestro poder de actuar más activos debemos ser, pero estas palabras no van dirigidas únicamente a los jóvenes, sino a todos los miembros de la comunidad, en vista a hacer posible el desarrollo de nuevas prácticas políticas, las cuales debemos empezar a trabajar ya.