Les ressorts de l’intelligence artificielle

L’enquête de Kate Crawford remet en question plusieurs idées reçues sur l’intelligence artificielle.

Depuis le XIXème siècle jusqu’aux développements les plus récents du machine learning, on s’interroge sur la manière de « fabriquer l’intelligence ». La chercheuse australienne Kate Crawford, spécialiste des implications sociales et politiques de l’intelligence artificielle et fondatrice du AI Now Institute à l’Université de New York, décrypte les mythologies qui entourent l’IA et la font passer pour « une intelligence désincarnée, détachée de toute relation avec le monde matériel », ce qui en ferait la force. Or il n’en n’est rien. « L’IA n’est ni artificielle ni intelligente » : faite de matières premières, d’infrastructures, de main d’œuvre, et surtout de classification humainement définie, elle n’est que « le reflet du pouvoir » et reproduit les relations sociales et les façons de comprendre le monde de ses concepteurs, « un petit groupe homogène, implanté dans un petit nombre de villes et travaillant dans un secteur qui est aujourd’hui le plus riche au monde ». Dans cet atlas qui fait le tour de la question, l’autrice montre combien cette vision est raciste, classiste, sexiste et colonialiste.

Extractivisme forcené

Kate Crawford ne propose pas ici une histoire technologique de l’intelligence artificielle, mais une approche de ce qui constitue une « industrie extractive » d’une violence extrême, qui procède par « un double mouvement d’abstraction et d’extraction : on rend les conditions matérielles de leur fabrication toujours plus abstraites tout en extrayant davantage d’informations et de ressources de ceux qui sont le moins capables de résister ». Loin d’être désincarnée, l’intelligence artificielle est une infrastructure du pouvoir, qui influence la production de savoir et les institutions sociales.

Dans cet essai glaçant en six temps, Kate Crawford fait l’inventaire des contrevérités liées à l’IA. D’abord, sur le fait qu’elle serait une industrie propre, voire verte. Rien n’est plus faux, quand on voit les besoins en minerais comme le lithium, en électricité et en pétrole brut, qui rendent possible cloud, data et autres algorithmes…, au prix d’un désastre environnemental, notamment en Chine ou en Indonésie. « L’imaginaire de l’IA propagé par les entreprises n’évoque jamais les coûts à long terme et le trajet des matériaux nécessaires pour construire les infrastructures computationnelles ou l’énergie requise pour les alimenter. »

Deuxièmement, l’IA ne nécessiterait pas de main d’œuvre. La visite d’un entrepôt d’Amazon montre comment « les humains sont le tissu conjonctif nécessaire pour que les articles commandés soient placés dans des conteneurs et des camions et livrés aux consommateurs. Mais ils ne sont pas le composant le plus précieux ou le plus fiable de la machinerie. » Indispensables mais dévalorisés et sous-payés, les travailleurs sont traités comme des robots et soumis à des pressions effarantes, car le contrôle du temps est au cœur de la logistique computationnelle. Ce qui inscrit l’IA dans la droite ligne des anciennes théories esclavagistes, adeptes de la surveillance à tout va. Et cela sert à masquer les limites de l’IA par « l’intelligence artificielle artificielle » où des ingénieurs sont recrutés pour corriger les doublons que l’automatisation n’arrive pas à détecter…

Troisièmement, les données sont destinées à nourrir les algorithmes d’apprentissage et de classification, en vue d’améliorer l’IA. Il faut surtout parler d’extraction massive, sans le consentement de celles et ceux à qui elles appartiennent, sans nuances sur leur contexte, étiqueté par des crowdfunders sous-payés, sans aucune considération d’éthique. L’autrice déplore une « culture internationale de la rapacité » aux conséquences désastreuses sur des droits fondamentaux comme le droit à la vie privée, avec une négation des communs par cette privatisation forcenée.

Invisibiliser les actes de pouvoir

Quatrièmement, la classification même de ces données par les systèmes de reconnaissance faciale ou tout autre type de mesure, « acte de pouvoir » s’il en est et rendu invisible dans les infrastructeurs de travail, est elle-même le résultat de biais politiquement prédéterminés se muant en « machine à discrimination qui se renforce elle-même, amplifiant les inégalités sociales sous couvert de neutralité technique ». Et là, explique Kate Crawford, c’est le règne du sexisme, du racisme, des discriminations liées à l’âge, etc., intégrés dans des systèmes techniques comme s’il s’agissait d’identités fixes et naturelles – à l’encontre de toutes les recherches en montrant le caractère construit et mouvant. Pire, la liste inclut des termes dégradants : « Bagnard, Bon-à-Rien, Borgne, Call-Girl, Chochotte, Débile, Dévergondé, Dingue, Drogué, Emmerdeur, Étalon, Être insignifiant »… L’autrice rappelle que les catégories ne peuvent pas être neutres et insiste sur le danger à prétendre réduire des relations sociales complexes « à des entités quantifiables ».

Cinquièmement, l’intelligence artificielle permettrait d’identifier les affects. Un business lucratif pour les armées, les entreprises, les forces de polices du monde entier soucieux de « distinguer les amis des ennemis, le mensonge de la vérité »… là encore, c’est la complexité des affects qui passe à la trappe dans cet avatar récent de la physiognomonie, et fondé sur un système binaire extrêmement simplifié. « Le résultat est une esquisse caricaturale qui ne saurait refléter les nuances du vécu émotionnel dans le monde. »

Enfin, Kate Crawford s’intéresse à un « secteur parallèle de l’IA développé dans le secret », évoqué par les archives d’Edward Snowden : le programme TreasureMap, « conçu pour créer une carte interactive d’Internet en temps quasi réel », rendant possible de traquer la localisation et le propriétaire de tout appareil connecté. Il était même question de modifier les lois américaines pour rendre possible ce programme de la NSA. « La relation entre les armées nationales et l’industrie de l’IA s’est étendue au-delà du contexte sécuritaire », dans une guerre des infrastructures alimentée par une « politique de la peur et de l’insécurité ». Or cela suppose une externalisation de prérogatives étatiques à des sociétés privées, et cela a pour conséquence une exposition inégale, discriminant les populations pauvres, immigrantes, sans papiers ou de couleur. Là encore, la notion de justice est mise à mal, et les États ne contrôlent pas toujours ce dont il s’agit. Kate Crawford déplore cette « titrisation du risque et de la peur », et que ce « rêve fiévreux de contrôle centralisé s’impose au détriment d’autres visions de l’organisation sociale ».

Ainsi, l’intelligence artificielle n’est ni neutre, ni objective, ni universelle. D’abord « grand projet public du XXème siècle », elle a ensuite été privatisée au profit d’une minorité pour devenir le dernier avatar de « l’imbrication des technologies, du capital et du pouvoir ». En ce sens, il est essentiel de la démocratiser, en la remettant au service de la justice et de l’égalité. Sans céder aux appels des lectures utopistes ou dystopiques qui l’adulent ou la vouent aux gémonies, Kate Crawford lance un appel à la résistance, en rappelant l’importance de droits fondamentaux comme la protection des données, le droit du travail, la justice climatique et l’égalité des races, et en réclamant une reddition des comptes du secteur tech.

Par Kenza Sefrioui

Contre-atlas de l’intelligence artificielle, les coûts politiques, sociaux et environnementaux de l’IA

Kate Crawford, traduit de l’anglais (Australie) par Laurent Bury

Zulma essais, 384 p., 23,50 €