conferences:cretins:damasio

Alain Damasio-Antoinette Rouvroy. Passer entre les mailles

Mis en ligne le 25/09/2019
Antoinette Rouvroy et Alain Damasio © Serge Picard

Antoinette Rouvroy et Alain Damasio © Serge Picard

Le romancier Alain Damasio est la grande voix de la science-fiction française. Ses romans fourmillent de réflexions sur l’emprise de la technologie. Aussi quand nous lui avons proposé de dialoguer avec Antoinette Rouvroy, il a d’emblée accepté de confronter ses idées avec la chercheuse en sciences juridiques belge, dont les travaux sur la notion de “gouvernementalité algorithmique” l’ont inspiré pour son livre “Les Furtifs”. L’écrivain visionnaire et la juriste philosophe ont uni leurs forces pour imaginer des manières d’échapper au contrôle.
[Privacy Badger a remplacé ce bouton AddThis.]
Alain Damasio

Écrivain et poète nourri de lectures philosophiques, il a publié trois romans de science-fiction qui ont rencontré un vaste succès critique et public, tous publiés chez La Volte, La Zone du Dehors (1999), La Horde du Contrevent (2004) et, cette année, Les Furtifs, une ambitieuse fresque de 700 pages qui propose des pistes pour s’évader du « technococon ». Il est aussi l’auteur de nouvelles, d’essais et d’un manifeste inspiré, La Rage du Sage, sorte de cri de colère contre les machines, à retrouver… en ligne.
Antoinette Rouvroy

Docteure en sciences juridiques de l’Institut universitaire européen (Florence, 2006), elle est chercheuse à l’Université de Namur en Belgique et a fréquemment enseigné dans des universités nord-américaines. Elle a publié un ouvrage en anglais Human Genes and Neoliberal Governance (« Gènes humains et gouvernance néolibérale », Routledge-Cavendish, 2007, non traduit), et ses articles sur la « gouvernementalité algorithmique » sont à retrouver sur les sites cairn.info ou academia.edu.
Publié dans
n°133
Octobre 2019
Tags

Alain Damasio, Antoinette Rouvroy, Numérique, Surveillance, Gouvernementalité, Internet, Gafam, Furtifs, Alexandre Lacroix

Antoinette Rouvroy : Je ne suis pas une technophobe. J’ai un téléphone portable, j’utilise le Web, j’ai un profil Facebook. Mais je ne perds pas de vue que ce que je publie sur Facebook relève de la production de discours et non de la révélation de soi. Il s’agit de performances identitaires, j’aime voir comment le réseau réagit. Et puis, la plupart de mes collègues chercheurs sont en ligne, les réseaux sociaux sont aussi des outils de mise en commun et de discussion des travaux.

« Je ne supporte pas de me balader en sachant que mes déplacements sont tracés par satellite »
Alain Damasio

Alain Damasio : Pour ma part, je me ménage des zones de furtivité. Je n’ai pas de téléphone portable par refus de la géolocalisation. Je ne supporte pas l’idée de me balader en sachant que mes déplacements sont tracés par satellite. Je n’ai pas envie de nourrir des algorithmes avec mes données personnelles. Je préfère rester un promeneur du monde ancien, ne pas laisser de traces. Je ne suis sur aucun réseau social. J’efface les cookies sur mon navigateur Web toutes les deux heures. Je ne fais jamais de sauvegarde de mes romans sur le cloud, car j’ai peur qu’ils soient récupérés. Cependant, j’utilise le mail. De temps à autre, je me dis qu’il faudrait que je passe sur ProtonMail [messagerie dotée d’un cryptage automatique, qui ne demande aucune compétence informatique à l’utilisateur].

« Non seulement Big Brother n’existe pas, mais nous n’avons jamais été si peu considérés et regardés »
Antoinette Rouvroy

A. R : Je ne suis pas aussi méfiante, car je suis persuadée que je n’intéresse personne, et certainement pas les Gafam [Google, Apple, Facebook, Amazon et Microsoft]. Le concept de « données personnelles » n’a pas vraiment de sens dans un contexte de « données massives » et il risque même de nous induire en erreur. Ce qui confère une utilité, une valeur aux données, ce sont les corrélations qu’elles permettent de faire apparaître entre des éléments infrapersonnels, donc des fragments insignifiants, de purs signaux. À des fins de ciblage marketing, on cherchera ainsi à savoir si un certain volume mensuel d’achats sur Amazon est corrélé avec un certain nombre de trajets annuels en avion. Ces données sont détachées des noms propres et ne sont associées à aucun sujet. Ainsi découpées, elles nourrissent des modélisations construites par des intelligences artificielles. C’est pourquoi la critique de la technologie me semble souvent mal adressée. Elle reste emprisonnée dans une vision dépassée du monde, selon laquelle nous serions des sujets espionnés par un pouvoir centralisé. La situation est presque plus inquiétante. Dans notre monde, les sujets ont disparu. Il n’y a plus personne ! Il me paraît plus exact de parler de « capitalisme numérique » que de « capitalisme de la surveillance ». Non seulement Big Brother n’existe pas, mais nous n’avons jamais été si peu considérés et regardés qu’aujourd’hui.

A. D. : Je comprends ce que vous dites sur le fantasme de la surveillance, alimenté par 1984, le roman d’Orwell – génial mais pas du tout réaliste. Le héros, Winston, est un dissident lambda, pas une menace, et il n’est pas très crédible qu’un tortionnaire travaille sur lui vingt-quatre heures sur vingt-quatre. Cependant, je relativiserai un peu votre propos. D’abord parce que le réseau est un espace de contrôle où chaque acte produit une information, donc une trace exploitable. Ça fonctionne comme une sphère : si vous « allez trop loin », vous vous heurtez vite à ses parois. On se croit « libre », mais on a vite fait de basculer sous surveillance ciblée ! Il y a trois ans, j’ai eu l’occasion de converser avec des membres du Comité invisible, associés à l’affaire de Tarnac – ce qu’on appelle à tort l’ultragauche. Dès que j’ai échangé avec eux, il s’est produit des incidents bizarres sur ma messagerie. Leurs mails et les miens ont basculé dans les spams, ma ligne fixe a commencé à décrocher par moments. Ce sont des indices légers, et je ne sais pas si j’ai vraiment été écouté. Mais les militants sont souvent confrontés à ce genre de problèmes. Sur la ZAD de Notre-Dame-des-Landes, il y a une dark room où l’on peut se connecter à des ordinateurs anonymisés. Il faut utiliser des codes d’accès et tous les messages sont cryptés.

A. R. : Moi aussi j’ai rencontré Julien Coupat il y a quelques années à une sorte d’université d’été qu’ils organisaient et où ils avaient un atelier autour de la cybernétique. La Direction générale de la sécurité extérieure [DGSE] patrouillait plus ou moins discrètement autour des rencontres.

A. D. : Bien sûr, ça ne touche qu’une petite proportion de la population, mais l’on a eu de nombreuses preuves que la police peut accéder aux données des plateformes ou des fournisseurs d’accès dès qu’ils l’estiment nécessaire. L’affaire Snowden a révélé que le FBI avait accès aux comptes Facebook, Google, Yahoo!… Quant aux enceintes connectées, elles sont écoutées par des salariés pour optimiser l’intelligence, violant ainsi allégrement les intimités. Et si un meurtre se produit quelque part, l’obtention des enregistrements est systématique. Nous avons donc un régime à deux lames : un spectre de contrôle diffus et une lame disciplinaire qui frappe si l’on franchit certaines limites.

A. R. : Oui, il y a un feuilleté de normativités. Cependant, la logique de la répression ne fait pas tout. Ce qui est également en jeu, de façon plus insidieuse, c’est l’autocensure.

A. D. : Très juste !

A. R. : Quand vous savez que vous évoluez dans un monde où tout ce que vous faites ou dites peut être enregistré et stocké, c’est vous-même qui vous surveillez. Vous ne voulez rien laisser qui pourrait être retourné contre vous. Donc vous vous interdisez certains comportements. En outre, chacun reçoit l’injonction de maximiser son capital humain numérisé – avoir beaucoup d’amis, de vues, de Like, être bien noté sur Airbnb et sur Uber. Nous sommes dans la société de l’évaluation, du credit scoring [« crédit de notation »]. Si vous n’êtes jamais à découvert et que vous remboursez vos emprunts, mais que vos amis sur Facebook et Instagram sont insolvables, vous aurez plus de mal à obtenir un crédit bancaire. Pour maximiser votre capital humain numérique, vous devez à la fois être très présent sur les réseaux sociaux, donc les alimenter en données, et avoir des Like, des cinq étoiles.

A. D. : Je me suis construit en lisant Foucault et Deleuze. J’ai été marqué par le « Post-scriptum sur les sociétés de contrôle » (lire le cahier central), qui m’a inspiré mon premier roman, La Zone du Dehors. Deleuze offrait les armes pour réécrire 1984 en 2084, en décrivant non plus une société disciplinaire féroce mais une société de contrôle. La surveillance y prend de nouvelles formes, plus subtiles mais tout aussi graves. En rédigeant La Zone du Dehors, j’avais encore du mal à imaginer un monde où le pouvoir perdrait l’essentiel de sa centralité, de sa verticalité hiérarchique. Où il s’exercerait en réseau par une sorte de maillage horizontal activé par les citoyens-consommateurs eux-mêmes.

A. R. : Pourtant, ça existe… Vous pouvez vous enregistrer sur le site de Weight Watchers, si vous suivez un régime. Lorsque, grâce à la géolocalisation de votre téléphone portable, le système détecte que vous entrez dans une pâtisserie, une alerte est envoyée à la communauté dont les membres peuvent vous envoyer des messages d’encouragement pour résister à la tentation. Ce type d’émulation relève de ce que le laboratoire de captologie de l’université Stanford a baptisé la MIP, pour Mass Interpersonnal Persuasion [« persuasion interpersonnelle massive »]. Les communautés en ligne auxquelles nous appartenons exercent sur nous ce type de pression horizontale.

Antoinette Rouvroy en 2019 © Serge Picard

A. D. : Quand j’ai lu dans vos travaux des expressions comme « gouvernementalité sans sujet » ou « normativité immanente », je me suis dit qu’on commençait à avoir des concepts précieux pour penser ces nouveaux pouvoirs immanents. Vous avez fait référence aux Gafam. Le plus troublant est que ces entreprises n’imposent rien, voire qu’elles n’ont aucune volonté de gouverner. Personne ne vous mettra jamais un pistolet sur la tempe pour vous obliger à créer un profil Facebook. Les Gafam cherchent seulement à optimiser leurs profits. Pour y parvenir, elles mettent à notre disposition un ensemble d’outils et d’applis que nous empoignons pour fluidifier nos existences tout en maximisant notre auto-aliénation. Dans Les Furtifs, j’appelle ça le « self-serf vice » : une spirale de la servitude volontaire. Quand il traite du contrôle, Deleuze s’inspire de William Burroughs qui avait pensé la drogue comme la marchandise ultime. Le rapport que nous entretenons avec le numérique relève pleinement de l’addiction. Les plateformes construisent et optimisent notre dépendance, mais nous sommes les seuls opérateurs de leur efficacité. Pour sortir du piège, il nous faut déjouer notre propension à auto-alimenter ces boucles. Garder vif en nous « l’esprit de contre-addiction ».

A. R. : L’un des ressorts psychologiques de cette affaire, c’est que, devant un ordinateur, j’ai une impression de maîtrise. Je tape une requête sur Google, j’achète un livre en un clic sur Amazon. L’ordinateur me donne l’impression que mes désirs sont des ordres. Dans Qu’est-ce que le commandement ? [Rivages, 2013], Giorgio Agamben remarque qu’on n’obéit jamais aussi bien que lorsqu’en tapant sur un clavier d’ordinateur, on a l’impression de « commander ».

A. D. : Ça m’évoque ce trait lumineux de Jean Baudrillard quand sont apparues les voitures à verrouillage centralisé. Quand, à trente mètres, vous appuyez sur un bip pour ouvrir ou fermer votre voiture, vous éprouvez une jouissance incroyable. C’est une image dérisoire et parfaite du contrôle. Car nous sommes tous en quête de contrôle. C’est presque un besoin anthropologique. Homo sapiens s’est construit par le contrôle : sur la nature, les animaux, le climat, l’espace, les autres. Nos technologies quotidiennes sont une extension du domaine du contrôle. Avec un smartphone à la main, je peux travailler, séduire, m’informer, m’organiser, m’orienter, jouer… Je suis à la tête d’un empire très personnel. Et j’en éprouve une maîtrise qui conjure mes anxiétés, ma solitude, mes incertitudes nombreuses.

« Ce qui est menacé aujourd’hui, ce n’est pas la vie privée mais au contraire la vie publique »
Antoinette Rouvroy

A. R. : Exact ! La technologie nous gouverne en apportant une réponse très rapide à nos pulsions. Elle va tellement vite qu’elle ne nous donne même pas le temps de transformer ces pulsions en désirs construits. Et sur le plan politique, c’est la même chose : nous voyons se mettre en place un modèle de « gouvernementalité algorithmique » dans lequel il n’y a plus besoin d’institutions, de concepts transcendants du droit, de la justice, de l’équité ou de l’égalité… Si le monde est bien géré, que tous les flux de marchandises et d’argent sont optimisés, que tous les besoins sont satisfaits, pourquoi ferions-nous encore de la politique ? La gouvernementalité algorithmique sera bientôt pilotée par des intelligences artificielles auto-apprenantes. Elles n’exécuteront même pas un programme préconçu par un sujet humain, mais elles optimiseront les rapports sociaux sur la base du data mining [« extraction de données »]. Cela nous détourne de l’effort pour maintenir un espace public, un espace de confrontation des désirs dont les sujets humains sont porteurs. Ce qui est menacé aujourd’hui, ce n’est donc pas la vie privée mais la vie publique. Si vous concevez la société comme une simple juxtaposition d’intérêts individuels, la politique n’a plus de sens. La tentation devient forte de supprimer l’espace de délibération démocratique et de le remplacer par un gigantesque mécanisme de gavage.

« J’aime bien l’idée qu’une certaine distance entre les êtres soit nécessaire pour que l’espace public se maintienne »
Alain Damasio

A. D. : J’aime bien cette idée qu’une certaine distance entre les êtres soit nécessaire pour que l’espace public se maintienne. Dans Plus jamais seul [Bayard, 2006], Miguel Benasayag et Angélique del Rey expliquent que le smartphone nous offre une communication fusionnelle et donc régressive avec nos proches. Le continuum d’échanges empêche l’autre d’exister comme une présence reconstruite en soi. Le désir se dégrade en fusion molle. Mais c’est intéressant de le penser politiquement. Je ne mesurais pas à quel point ce qui vaut pour les relations affectives s’applique aussi à la politique. Comment retrouver le désir de s’engager, si l’algorithmie vient liquéfier le rapport social ?

A. R. : C’est pour cela que la gouvernementalité algorithmique n’est pas tout à fait un pouvoir politique mais plutôt un système immunitaire développé par le capitalisme pour lutter contre tout ce qui pourrait le mettre en crise. Les êtres humains ne sont capables de se rebeller que s’ils deviennent des sujets à part entière. Or la technologie vient les saisir à un niveau infrasubjectif, au stade pulsionnel, et leur donne ce qu’ils veulent tout de suite.

A. D. : Comment se révolter contre des algorithmes ? S’il n’y a pas de responsables identifiables, la révolte perd tout point d’appui. Elle risque même de se retourner contre soi.

A. R. : Chez les programmateurs, un mouvement influent voudrait actuellement rendre la gouvernementalité algorithmique plus démocratique. Ces gens-là militent pour des algorithmes FAT, c’est-à-dire Fair, Accountable and Transparent [« justes, responsables et transparents »]. Mais ils butent sur d’énormes difficultés, car la question de la justice sociale ne peut nullement se résoudre par un système métrique. Aujourd’hui, aux États-Unis, il y a bien plus de données disponibles sur les hommes blancs que sur les femmes noires. Mais pour compenser cette inégalité, vous devez tracker la communauté afro-américaine. Ou encore, des gens très sérieux ont proposé de remplacer les juges dans certains pays africains, où la corruption de la magistrature est endémique, par des algorithmes. Or on ne peut entraîner ces algorithmes à prendre des décisions qu’en les nourrissant avec la jurisprudence rendue par le passé par ces mêmes juges corrompus, ce qui est complètement idiot.

A. D. : Je me méfie de ceux qui veulent améliorer le système de l’intérieur. Ils le rendent souvent plus efficace. Lorsque j’ai commencé à travailler sur Les Furtifs, mon point de départ était cette question : y a-t-il encore un envers possible de la société de contrôle ? Ma réponse littéraire a été la furtivité. Les furtifs sont des êtres vivants, à la fois animaux et végétaux, capables de vivre dans les angles morts de la vision humaine. Un furtif anticipe la direction de vos regards, il circule là où vous ne le voyez pas. À l’origine du roman, le furtif était donc un personnage conceptuel, l’Intraçable si l’on veut. Et puis, dans un second temps, j’ai exploré une autre dimension de la furtivité, plus vitaliste. En m’appuyant sur Deleuze, Simondon et Bergson, j’ai imaginé ce que pourrait être la plus haute forme du vivant. Le vivant a cette propriété de se réinventer sans cesse, mes furtifs sont faits de chair et de sons, ils métabolisent leur environnement, se métamorphosent, fuient, créent. Plus qu’un envers réactif du contrôle, dans un monde dystopique, ils sont devenus la plus belle et la plus noble incarnation du vivant. Une utopie inspirante, je l’espère !

Alain Damasio en 2019 © Serge Picard

A. R. : La furtivité que vous décrivez est une puissance que nous avons en nous et qui est activable. C’est un horizon désirable, bien différent de l’horizon de désir des Gafam, qui promettent de créer des transhumains immortels.

A. D. : J’ai construit mon roman dans l’optique de faire prendre conscience aux lecteurs de ces dimensions vitales que nous sommes en train de perdre. À cause du « technococon », de notre tendance à nous enfermer dans nos « conforteresses » où tout se veut fluide, à portée de doigt. Nous avons de moins en moins l’habitude de nous confronter au dehors, à l’altérité, puisque notre environnement numérique se calque sur nos préférences et croyances.

A. R. : Face à la technologie, il ne faudrait pas employer le mot de « résistance ». On peut devenir un résistant face à un oppresseur, à une dictature, à un parti totalitaire. Mais à l’époque de la gouvernementalité numérique, cela n’a pas vraiment de sens, j’aime mieux parler de « récalcitrance ». Qu’est-il en train de nous arriver ? Nous sommes en train de renoncer à gouverner le monde, d’être tentés d’abandonner cette tâche aux machines. Récalcitrer, ce serait avoir envie de nous gouverner à nouveau, nous-mêmes et le monde.

A. D. : J’ajouterai que, pour qu’une action ait un effet politique, il faut la tisser au collectif. D’ailleurs, je n’aime pas trop ce que j’appelle les « fictions de droite », très courantes dans le cinéma américain : le monde va mal, mais un homme ou une femme extraordinaire va trouver la solution individuellement. J’essaie de porter un imaginaire différent, non pas de l’individualisme, mais du renouement, de la coalition. Le capitalisme attaque très fortement les liens, et la technologie, les réseaux sociaux ne nous procurent souvent que des ersatz de sociabilité. Seul, on ne s’en désintoxiquera pas. On ne pourra s’en sortir qu’ensemble et renoués.

  • conferences/cretins/damasio.txt
  • Dernière modification: 2020/03/05 13:19
  • de dpascot