Une nouvelle servitude volontaire
Mis en ligne le 25/09/2019
Nos sociétés connectées évoquent par moments “1984” de George Orwell et vérifient certaines prédictions troublantes de Gilles Deleuze. Sauf que la technologie vient de franchir un cap décisif : auparavant, elle nous regardait agir dans le monde ; aujourd’hui, elle adapte le monde à nos préférences. Explications. [Privacy Badger a remplacé ce bouton AddThis.] Publié dans n°133 Octobre 2019 Tags
Orwell, Bentham, Deleuze, Surveillance, Technologie, Internet, Numérique, La Boétie
La semaine dernière, je devais me rendre à vélo à une adresse inconnue. Habitué à utiliser Google Maps, je tapai l’adresse dans la barre de recherche. Au lieu de voir apparaître un itinéraire fléché, je me retrouvai avec une vue de Paris où seul le point d’arrivée était indiqué mais où ma position de départ ne figurait pas. L’espace de quelques secondes, j’ai eu l’impression vertigineuse que mon propre corps s’était absenté, que je n’étais plus inscrit sur la carte du monde. En réalité, à la suite d’une erreur de manipulation, l’option de géolocalisation de mon téléphone avait été désactivée. Ayant pris l’habitude de m’en remettre à Google pour m’orienter dans l’espace, je me sentais du même coup perdu : hors du monde parce que déconnecté.
Quelques jours plus tard, un trouble inverse me saisit. Alors que je devais me rendre à l’étranger, je reçus, la veille du départ, une notification sur ma boîte mail m’indiquant que j’étais attendu le lendemain pour deux nuits dans mon hôtel alors que je n’avais pas transmis mon adresse électronique. Google s’était immiscé dans ma correspondance ! J’étais rattrapé par mes propres traces.
À quelques jours d’intervalle, j’ai ainsi éprouvé deux affects typiques de l’ère numérique. D’un côté, le besoin irrépressible d’être connecté pour faire l’expérience du monde et s’y orienter. De l’autre, le sentiment de me rendre captif d’un système qui prend chaque jour davantage possession de ma vie, qui me « calcule » trop bien.
Avons-nous été conquis ?
Nous consultons de façon compulsive nos téléphones portables et nos écrans, comme s’ils nous rattachaient à un deuxième monde plus vrai que le premier. Comme s’en étonne l’écrivain italien Alessandro Baricco en ouverture de son dernier livre, The Game (qui paraît chez Gallimard), « nous nous rendons compte que, dans les usages les plus élémentaires de notre quotidien, nous adoptons les réflexes physiques et mentaux qu’il y a seulement vingt ans nous aurions eu du mal à tolérer chez les nouvelles générations […] Que s’est-il passé ? Avons-nous été conquis ? Quelqu’un nous a-t-il imposé un modèle de vie qui ne nous appartient pas ? […] Nos gestes ont changé à une vitesse déconcertante mais nos pensées semblent en retard dans la tâche de nommer ce que nous créons à chaque instant ». Qu’il s’agisse de publier un commentaire sur Twitter, de partager une opinion sur Facebook ou une photo sur Instagram, de réserver ses vacances via Airbnb ou de se ménager une rencontre sur Tinder, nos expériences transitent de plus en plus par des plateformes numériques. Or ces plateformes ne nous délivrent pas seulement des services. Bardées des outils de l’intelligence artificielle, elles se saisissent de toutes les traces que nous laissons pour prédire et même orienter nos comportements futurs.
Depuis l’an dernier, dans l’Union européenne, ces dispositifs sont soumis au consentement des utilisateurs. « Le respect de votre vie privée est notre priorité » nous affirment aujourd’hui tous les sites qui se conforment au nouveau règlement général sur la protection des données (RGPD). Et de nous inviter à cliquer sur l’icône « J’accepte » pour autoriser le site en question à nous proposer, grâce à la technologie du « cookie », du contenu et des publicités adaptés à notre profil… Fondée sur le consentement actif de l’utilisateur, cette nouvelle réglementation est destinée à « redonner aux citoyens le contrôle de leurs données personnelles ». Mais, pressés d’avoir accès à ce qu’ils cherchent, peu nombreux sont ceux qui prennent le temps de lire à quoi cela les engage ou qui refusent. N’est-ce pas là une nouvelle forme d’aliénation qui ne repose plus, comme chez Étienne de La Boétie dans son Traité de la servitude volontaire (1576), sur la fascination pour le tyran, mais sur l’attrait pour une nouvelle puissance qui capte les gestes, les regards, les pensées de chacun pour les renvoyer à tous sous forme de prescriptions ?
Le nouveau contrôle qui s’exerce sur nous emprunte des caractéristiques à trois grands modèles qu’il combine, en leur enlevant astucieusement leur dimension la plus oppressive : le Panoptique de Jeremy Bentham, l’écran totalitaire du Big Brother de George Orwell, la traçabilité au sens de Gilles Deleuze. Tentons de démonter ce dispositif !
Modèle n° 1 La surveillance selon Jeremy Bentham « Être incessamment sous les yeux d’un inspecteur, c’est perdre la puissance de faire le mal ; et presque la pensée de le vouloir » Jeremy Bentham (1748-1832)
C’est au philosophe anglais Jeremy Bentham que l’on doit la première formulation d’un idéal de surveillance rationnel qui permettrait de combiner la sécurité collective avec le consentement des individus. En 1791, le penseur utilitariste propose à la toute fraîche Assemblée nationale française le Panoptique, un Mémoire sur un nouveau principe pour construire des maisons d’inspection, soit un projet de prison idéale où les cellules individuelles sont construites en anneau autour d’une tour centrale, depuis laquelle le surveillant peut voir les prisonniers sans être vu. Simple, ce dispositif obéit à un idéal de transparence ou « d’inspection » : « une inspection qui frappe l’imagination plutôt que les sens, qui mette des centaines d’hommes dans la dépendance d’un seul, en donnant à ce seul homme une sorte de présence universelle ». Psychologue, Bentham suggère : « Être incessamment sous les yeux d’un inspecteur, c’est perdre la puissance de faire le mal ; et presque la pensée de le vouloir. » De plus, son Panoptique a l’avantage de mettre « le chef lui-même sous l’œil du public ».
Étendu à la société dans son ensemble, le modèle panoptique de Bentham ne conduit pas à un État totalitaire mais à un contrôle mutuel des surveillants et des surveillés qui permet à la société libérale de consacrer le « tribunal de l’opinion publique ». Bentham conçoit les journaux, les élections, la vie des assemblées comme des outils de surveillance mutuelle. Il s’agit d’incliner la liberté en incitant chacun, supposé être un délinquant potentiel, à calculer l’avantage qu’il y a à se conformer aux lois.
Comme le remarquera Michel Foucault dans son grand livre Surveiller et Punir (1975) : « Bentham a posé le principe que le pouvoir devait être visible et invérifiable. Visible : sans cesse le détenu aura devant les yeux la haute silhouette de la tour centrale d’où il est épié. Invérifiable : le détenu ne doit jamais savoir s’il est actuellement regardé ; mais il doit être sûr qu’il peut toujours l’être. » Cette figure d’un pouvoir qui assujettit les personnes en s’assurant d’une visibilité permanente de leur comportement semble renaître à l’époque contemporaine avec la surveillance généralisée des communications par les agences de sécurité comme la NSA ou les prédictions comportementales proposées par les Gafam (Google, Apple, Facebook, Amazon, Microsoft).
Modèle n° 2 Big Brother selon George Orwell
Dans son roman 1984, George Orwell a donné sa forme la plus aboutie à un autre modèle de surveillance, lié à un pouvoir centralisé et totalitaire. Son instrument est un « télécran » installé dans chaque domicile et qui est l’œil du Parti et de son chef, Big Brother. Ici, la surveillance n’anéantit pas seulement la vie privée, elle cherche à obtenir la soumission la plus radicale du sujet, en pénétrant jusque dans sa pensée. L’écran qui reçoit et transmet des informations vise en effet à capter tous les comportements et propos déviants, ainsi qu’à empêcher le « crime de pensée ». « Naturellement, écrit Orwell, il n’y avait pas moyen de savoir si, à un moment donné, on était surveillé. Combien de fois et suivant quel plan la Police de la pensée se branchait-elle sur une ligne individuelle quelconque, personne ne pouvait le savoir. On pouvait même imaginer qu’elle surveillait tout le monde, constamment. Mais, de toute façon, elle pouvait mettre une prise sur votre ligne chaque fois qu’elle le désirait. On devait vivre, on vivait, car l’habitude devient instinct, en admettant que tout son émis était entendu et que, sauf dans l’obscurité, tout mouvement était perçu. »
Cette description mérite d’être méditée alors que se développe le marché des assistants vocaux. Ces derniers ont trouvé leur place dans les salons, cuisines et chambres à coucher des particuliers, mais aussi dans les hôtels, les écoles et les hôpitaux. Alexa, l’assistant vocal d’Amazon, compterait déjà plus de 100 millions d’usagers. Proposant des services en tout genre, de la commande d’un dîner ou d’un morceau de musique à une conversation amicale avec une intelligence artificielle sur un sujet philosophique, ces appareils enregistrent les conversations et préférences de leurs utilisateurs, y compris les enfants, et les transmettent. Mais à qui ? Selon une enquête de Bloomberg publiée en avril, Amazon emploierait des milliers de salariés pour déchiffrer ces enregistrements et utiliser ses clients comme des cobayes involontaires dans le but d’améliorer ses services. Mais qui dit que ces pratiques ne seront pas un jour utilisées à d’autres fins ? Comme c’est déjà le cas avec Ring, le service de caméras de vidéosurveillance d’Amazon pour les immeubles, équipées d’outils de reconnaissance faciale… et reliées aux commissariats de police de certains quartiers aux États-Unis. Utilisés par les agences de lutte contre le terrorisme ou par les politiques sécuritaires des États autoritaires, ces outils pourraient fournir demain un formidable levier d’influence, en rupture avec toutes les garanties assurées aux libertés individuelles dans les démocraties.
Modèle n° 3 La société de contrôle selon Gilles Deleuze
Dans un texte prophétique, « Post-scriptum sur les sociétés de contrôle », écrit en 1990, au lendemain de l’effondrement du communisme et alors que la révolution numérique n’avait pas encore bouleversé l’ordre des sociétés, le philosophe Gilles Deleuze rassemble les signes épars d’une mutation que personne ne voit alors venir. Il prend acte d’un basculement majeur : la fin des sociétés disciplinaires au sens de Bentham et de Foucault, fondées sur des milieux clos d’enfermement. « Les sociétés de contrôle sont en train de remplacer les sociétés disciplinaires », affirme-t-il.
En quelques formules sibyllines, Deleuze condense le sens de ce basculement : une nouvelle technologie, celle des ordinateurs et de la cybernétique, permet dorénavant à nos sociétés de fonctionner « par contrôle continu et communication instantanée ». L’entreprise remplace l’usine, la formation continue remplace l’éducation, le contrôle continu l’examen. Là où les sociétés disciplinaires étaient réglées par des « mots d’ordre » et assignaient l’individu à une place et à un matricule, les sociétés de contrôle attribuent des « mots de passe ». Anticipant la manière dont l’intelligence artificielle compose non plus avec des catégories sociales ou des devenirs individuels, mais avec des traces comportementales stockées dans des banques de données, Deleuze écrit : « Les individus sont devenus des dividuels et les masses, des échantillons, des données, des marchés ou des ‘‘banques’’. » En guise de résistance, ajoute-t-il, le piratage et les virus remplacent la grève et le sabotage. Et d’imaginer qu’on pourra bientôt « quitter son appartement, sa rue, son quartier, grâce à sa carte électronique » qui fera lever telle ou telle barrière, car, « ce qui compte, ce n’est pas la barrière mais l’ordinateur qui repère la position de chacun, licite ou illicite, et opère une modulation universelle ».
La vie enfermée ou enrichie ?
Surveiller, cela a longtemps consisté à regarder d’en haut les individus afin de leur imposer l’obéissance et l’adhésion à des normes juridiques ou idéologiques. Dorénavant, c’est un reflet de nous-mêmes que prétendent nous renvoyer les nouveaux dispositifs de contrôle. Ils nous proposent des environnements (publicitaires, atmosphériques, domestiques, etc.) qui correspondent aux profils qui ont été construits sur la base des traces numériques laissées par nos actions. Comme si nous étions dorénavant surveillés par l’ombre de nous-mêmes.
L’un des dirigeants de Google Eric Schmidt l’a formulé avec la plus grande clarté : « Nous savons en gros qui vous êtes, en gros qui sont vos amis. La technologie va être tellement bonne qu’il sera très difficile pour les gens de voir ou de consommer quelque chose qui n’a pas été quelque part ajusté pour eux. » Une vision du monde ajustée à ce que nous sommes, voilà la grande promesse. Sur Facebook ou sur Instagram, le monde nous est dorénavant présenté sous la forme qui correspond le mieux à notre « profil utilisateur ». Si je suis philosophe, il apparaîtra comme une arène où de brillants esprits débattent de questions métaphysiques. Si je suis sportif, il sera rythmé par des résultats de rencontres. Si je suis d’extrême droite, il sera menacé par des hordes de barbares… Mais cette vision n’est pas un simple miroir : les traces de mon comportement, amalgamées et coordonnées avec celles des autres, me reviennent sous la forme de prescriptions de ce que je devrais vouloir si je suis conforme à ce qu’on peut savoir de moi mieux que moi-même…
Par cette incroyable boucle de rétroaction, nous avons franchi une étape nouvelle pour laquelle les anciens concepts de surveillance ou de contrôle ne conviennent plus tout à fait. Nous tendons à être enfermés dans la bulle de nos propres comportements, tout en entretenant l’illusion que nous avons la capacité d’en réchapper (comme l’attestent toutes les enquêtes d’opinion où les individus affirment tous que si les autres sont captifs des réseaux, eux ne le sont pas). Qu’y a-t-il dans cette bulle qui nous attire tant ? L’écrivain Alessandro Baricco propose une hypothèse métaphysique qui met en question les diagnostics catastrophistes que l’on peut faire sur le monde numérique. Si nous nous saisissons de notre smartphone au lieu de regarder, d’écouter, de toucher le monde, ce n’est pas seulement parce que nous sommes incapables de vivre et que nous cherchons à fuir dans un nouvel arrière-monde, soutient-il, c’est que nous aspirons à « enrichir » notre existence en la doublant par toute une série de « morceaux de vie » – images, commentaires, messages – qui pourraient la compléter. Dans les moments les plus intenses de notre existence – un baiser, un concert, un paysage –, nous n’éprouvons plus le besoin de tweeter, de photographier ou d’envoyer un message. Mais, le reste du temps, la vie est faite de nombreux trous d’air, et c’est ce que nous cherchons à compenser. Bref, nous ne laissons pas seulement échapper une part de nous-mêmes en acceptant les dispositifs de surveillance, nous cherchons à augmenter nos vies, à « donner aux choses cette vibration qu’elles cachaient ».