Le monde de Big Other

Dans un essai remarqué, la sociologue américaine Shoshana Zuboff décrypte le fonctionnement liberticide et antidémocratique du capitalisme de surveillance.

C’est le défi du siècle. L’hégémonie de cette forme nouvelle de marché, qui extrait les données personnelles pour les vendre aux annonceurs n’a plus seulement une dimension d’intrusion dans la vie privée des gens mais va au-delà en prétendant modifier le comportement humain. Professeure émérite à la Harvard Business School, Shoshana Zuboff tire la sonnette d’alarme sur les dérives inhérentes aux industries numériques. Dans L’Âge du Capitalisme de surveillance, paru en 2019 et récemment traduit en français, elle analyse le fonctionnement de cette économie de l’information et appelle à une réaction urgente.

Cet essai brillant et abondamment documenté s’inquiète en effet d’un phénomène qui va au-delà de la prédation économique et de la situation de monopoles des GAFAM. « Le capitalisme de surveillance [est]une nouvelle forme de marché qui revendique l’expérience humaine privée comme matière première dont elle se sert dans des opérations secrètes d’extraction, de production et de vente. L’économie de la surveillance est devenue l’expression dominante du capitalisme dans l’ère numérique ; elle a pris racine et a prospéré dans les vingt premières années du siècle numérique sans opposition réelle de la part de la loi et des institutions démocratiques. »Si Shoshana Zuboff documente avec précision l’émergence de ce système, depuis le projet « Aware Home » en 2000 jusqu’à aujourd’hui, en passant par les cobayes grandeur nature du Pokémon Go, avec ses tâtonnements techniques et ses coups de force, c’est surtout sa portée éthique et philosophique qui l’occupe. Vendre des données extraites par tous les moyens, explique-t-elle, n’est plus suffisant pour la croissance des profits : il faut vendre non pas seulement du pronostic mais de la certitude. D’où l’entreprise inédite de transformer l’être humain et d’agir sur sa conduite, à très grande échelle. « Le capitalisme de surveillance n’est pas une technologie, c’est une logique qui imprègne la technologie et la met en œuvre », en captant à sens unique une expérience humaine qu’elle réduit à une matière première gratuite. Et de s’interroger : « Si le capitalisme industriel a dangereusement perturbé la nature, quels ravages le capitalisme de surveillance pourrait-il causer à la nature humaine ? »

Plaidoyer pour l’autodéfense numérique

Dans la première partie, Shoshana Zuboff revient sur les origines et l’élaboration du capitalisme de surveillance, les stratégies de Google notamment pour institutionnaliser ses opérations comme « forme dominante du capitalisme de l’information » en tirant parti « des nouvelles asymétries extraordinaires du savoir et du pouvoir ». L’élément central de sa réflexion porte sur cette « privatisation de la division du savoir dans la société, axe crucial de l’ordre social au XXIe siècle ».Elle décrit cette entreprise de dépossession de grande ampleur reposant sur le fait que « Google a découvert que nous avons moins de valeur que les paris sur notre comportement futur ». Elle souligne la violence de cette invasion : « Toute personne ayant seulement consulté les 100 sites Internet les plus populaires recueillait dans son ordinateur plus de 6 000 cookies et 83 % d’entre eux provenaient de tierces parties non reliées au site consulté. »

La seconde partie raconte la contamination de ce phénomène, jusque-là en ligne seulement, dans le monde réel, avec le ciblage de tous les aspects de l’expérience humaine et leur transformation en données comportementales.Avec un humour grinçant, Shoshana Zuboff estime que « nous avons remplacé les tortues, les oies et les wapitis » auxquels des scientifiques greffaient des capteurs. L’approche basée sur la gamification via des gadgets dits « intelligents » mais surtout intrusifs à l’extrême crée une accoutumance, justifiée par l’idéologie de « l’inévitabilité ». Une idéologie qui est « le contraire de la politique, le contraire de l’histoire ». Marketer le mode de vie, c’est chercher à anticiper le comportement pour le modifier. C’est la négation du libre-arbitre et du droit au temps futur. Or, martèle Shoshana Zuboff, « pas de liberté sans incertitude ».

Dans la troisième et dernière partie, elle décrit le pouvoir « instrumentarien » qui s’installe avec la réorientation de cette entreprise de phagocytage de l’individu vers la société dans son ensemble. « De même que la société industrielle était imaginée comme une machine bien rodée, la société instrumentarienne est envisagée comme une simulation humaine des systèmes d’apprentissage automatique (machine learning) : un esprit de ruche convergent où chaque élément apprend et opère avec chaque autre élément. »Ce monde l’amène à développer un parallèle avec la vision totalitaire imaginée par George Orwell dans 1984, pour l’en distinguer. Ce que nous vivons, explique Shoshana Zuboff, serait un monde de Big Other, non moins mû par une vision radicalement antidémocratique des relations sociales, mais reposant sur des présupposés très différents. Le totalitarisme voulait uniformiser tous les hommes en en remodelant l’âme par la violence. Le pouvoir instrumentarien ne prétend rien transformer, mais réduit toute l’expérience humaine à un comportement mesurable. « Cette forme d’observation sans témoin produit l’exact inverse d’une religion politique intime et violente et porte la signature d’une destruction bien différente : le mépris lointain, abstrait, de systèmes d’une complexité impénétrable et des intérêts qui en sont les promoteurs, précipitant les individus dans les rapides pour parvenir aux fins d’autres qu’eux. »

Shoshana Zuboff rappelle les enjeux politiques de cette situation, en insistant sur le fait que les concepts de souveraineté individuelle, d’état de droit et de gouvernance démocratique sont absolument incompatibles avec l’usage systématisé de l’intelligence artificielle contrôlée par quelques sociétés privées qui concentrent savoirs, richesses et pouvoir – et que dire de la Chine où l’État s’en mêle…« Les toutes premières expériences de modification des comportements à grande échelle étaient en général du fait de l’État, remarque-t-elle. Nous n’étions pas préparés à ce que l’attaque vienne du secteur privé. » Dès lors, son plaidoyer porte sur « le droit au sanctuaire », aujourd’hui menacé par cette vision d’un monde sans coulisses ni refuge. Elle appelle à« inventer les politiques et les nouvelles formes d’action concertée – l’équivalent pour notre siècle des mouvements sociaux de la fin du XIXe et du XXe siècle qui visaient à rattacher le capitalisme cru à la société – qui affirmeraient effectivement le droit des gens à un avenir humain ». Et de conclure : il est temps de dire Assez !

Kenza Sefrioui

L’âge du capitalisme de surveillance

Shoshana Zuboff, traduit de l’anglais (États-Unis) par Bee Formentelli et Anne-Sylvie Homassel

Zulma, 864 p., 26,50 €