Reader TTS

LES RÉCENTS DÉVELOPPEMENTS DE L’IA, ET NOTAMMENT DE L’IA GÉNÉRATIVE, ONT FAIT QUELQUE PEU OUBLIER LA PROFONDEUR À LAQUELLE PLONGE L’ALGORITHME DANS LA SOCIÉTÉ. TOUS LES SERVICES PUBLICS,

TOUTES LES PLATEFORMES MARCHANDES, TOUTE LA SOCIÉTÉ, SANS EXCEPTION, EN SONT PÉNÉTRÉS. ET L’OBJECTIF EST PARTOUT LE MÊME, NOUS DIT LE JOURNALISTE HUBERT GUILLAUD DANS SON NOUVEAU LIVRE, _LES

ALGORITHMES CONTRE LA SOCIÉTÉ_, PARU AUX ÉDITIONS LA FABRIQUE : IL FAUT AUTOMATISER POUR MIEUX RÉGNER. DE LA MISE EN VALEUR À LA DÉVALORISATION Mais que cache donc l’algorithme ? Rien,

promet-il, lui qui se présente d’abord « sous l’apparence impartiale de la technique ou sous celle, vertueuse, d’une liberté d’information sans entrave », écrit en préambule Hubert Guillaud

dans _Les algorithmes contre la société_, paru le 4 avril dernier aux éditions de La Fabrique. Exploitant volontiers à leur avantage une originelle (et sincère) « utopie numérique » qui

laissait entrevoir la perspective d’un monde interconnecté, plus égalitaire, étendant les frontières de « la liberté d’expression, [et promouvant] de nouvelles gouvernances plus horizontales

 » (p. 8-10), les chantres du numérique et autres partisans de la mise en données du monde poursuivent en réalité un tout autre objectif. Il s’agit d’un objectif « d’intégration et de

maîtrise normative par le calcul ». Sous ce commandement capitaliste, idéologique et politique, l’algorithme est, d’abord, un instrument de domination. Voilà ce que nous enseigne, d’emblée,

l’édifiante étude que mène le journaliste et essayiste sur l’emprise que les algorithmes étendent (en fait leurs opérateurs commerciaux et commanditaires politiques) sur la société.

Instrument de domination, l’algorithme l’est d’abord parce qu’il est, dans les coordonnées actuelles de sa mise en place, l’instrument de mise en valeur de la donnée, matière première

numérique que s’échangent à prix d’or des courtiers et des grandes entreprises. Or le « sol » d’où l’algorithme extrait ce précieux minerai, c’est l’individu lui-même, c’est la société tout

entière dont les institutions sont devenues, au fil des années, le vecteur de cette exploitation. Selon l’auteur, c’est ainsi toute la société qui s’est retrouvée livrée à des machines « 

conçues non pour servir l’usager mais pour l’exploiter ». Exploiter s’entend ici non pas dans le sens marxiste où l’exploitation consiste dans le fait d’extraire du travail d’autrui une

survaleur déterminée et appropriée par un tiers mais dans un sens commercial. Exploiter veut dire ici « changer en marchandise ». L’algorithme a pour vocation de faire du facteur « humain »

une transaction, qu’elle soit ou non commerciale au départ, c’est-à-dire un ensemble de données exploitables sur le plan marchand. C’est là que se trouve, selon Hubert Guillaud, le véritable

trait d’union de tous les algorithmes entre eux : partout, ils visent à fabriquer, à partir des « comportements » humains, des « jeux » de données exploitables, c’est-à-dire vendables, Mais

là ne s’arrête pas leur usage. Et c’est à cet endroit que la « mise en valeur » devient corrélativement « dévalorisation ». En effet, l’auteur montre très bien que l’algorithme ne se

contente pas de compiler innocemment des _datasets_, en sus de ses objectifs opérationnels concrets. Ils sont aussi, par soi, l’outil par lequel les institutions, les services publics, les

individus se trouvent subrepticement dévalorisés, desservis, dans la rigoureuse continuité des politiques libérales de casse sociale. DE LA « DÉFAILLANCE DU CALCUL »… Cet objectif de casse,

il se _voit_. Il se voit d’abord dans sa défaillance. Les succès et performances, il est vrai, spectaculaires, des grands modèles de langage et autres IA ont fait oublier, pour un temps, que

l’algorithme (qui ne se réduit pas, loin s’en faut, aux IA de dernière génération), quand il se trouve appliqué au social est avant tout l’histoire d’un échec. Hubert Guillaud le rappelle :

dans ce domaine, « _les prédictions des calculs ne sont ni précises, ni justes, ni efficaces_ ». Etudes à l’appui, Guillaud montre comment l’ambition technologique d’encapsulement du

comportement humain dans les boites noires des algorithmes achoppe systématiquement sur une « _imprévisibilité irréductible_ ». Pire, il ne fait que renforcer des logiques discriminatoires

déjà à l’oeuvre et agit d’une façon générale comme un large biais de confirmation pour les commanditaires qui les exploitent. Mais s’agit-il là seulement d’une défaillance technique causée,

par exemple, par un manque de précision dans la collection de donnée ? On pourrait arguer, en effet, que le fait qu’un fait social ne soit pas prédit avec justesse ne signifie pas qu’il soit

en lui-même imprévisible. L’ensemble des données initiales recueillies auront pu ne pas suffire à en prédire avec justesse le dénouement. En conséquence, il ne faudrait pas rejeter les

algorithmes, mais au contraire les renforcer, les approfondir et améliorer la collecte de données. Mais l’auteur répond, de façon cinglante, à l’objection : supposer qu’un fait social puisse

être prévisible, c’est en fait le définir par avance. La prédiction par calcul requiert en effet que la sortie calculée soit au préalable déterminée, au titre de possibilité. Mais dès lors

qu’une telle démarche s’applique à un comportement, cela revient en fait à établir en avance ce que pourrait, ou ce que devrait être ce comportement. En bref, un calcul n’est jamais neutre,

et tout le fantasme technologico-idéologique que les algorithmes véhiculent avec leur implantation s’acharne à prétendre le contraire. Les chantres de la « tech » vantent en effet sa

neutralité et sa transparence alors qu’en réalité il n’est que biais et opacité. Guillaud note ainsi avec raison que le numérique, en favorisant partout la logique du calcul, « _a produit

une abstraction de la réalité qui est devenue le principal trouble de la connaissance de notre époque_ » (page 29). Aucun calcul n’est neutre, et tous s’inscrivent au contraire dans une

certaine filiation. Guillaud produit ainsi, entre autres, une longue analyse du système de Parcoursup, la plateforme en charge de la sélection des bacheliers à l’entrée de l’enseignement

supérieur. Il montre comment la sélection par différenciation et individualisation ne produit pas de résultat pertinent puisqu’il dénature l’objet même de son analyse (en l’occurrence les

lycéens). Sous couvert de fabriquer des distinctions fines et objectives, Parcoursup établit en fait, comme le montre l’auteur, un vaste régime d’arbitraire, articulé autour de critères

abscons dont le rôle n’est en réalité que de trier les élèves et d’administrer la pénurie de places dans l’enseignement supérieur. …À LA DÉFAILLANCE CALCULÉE La défaillance du calcul qui

échoue à prédire, à réduire les inégalités, à établir des critères justes de sélection, s’avère en réalité une défaillance calculée. Autrement dit la continuation à des niveaux proprement

industriels du projet néolibéral de marchandisation intégrale du monde d’un côté et de surexploitation du travail de l’autre. Dès lors, note Guillaud, la mise en place d’un algorithme est

toujours corrélé avec un abaissement des droits, une difficulté accrue d’accès aux prestations et autres services et une augmentation de la discrimination. En d’autres termes, l’algorithme

agit comme un réformateur anonyme et, sous couvert de neutralité, comme un puissant bulldozer social. D’un côté, les usagers se retrouvent la cible d’un véritable harcèlement numérique

discriminatoire, comme le montre l’effarant système de contrôle automatisé de la Caisse des allocations familiale, sur lequel l’auteur revient longuement et, de l’autre, les travailleurs et

les travailleuses de ces services se voient dépossédés de leurs prérogatives et de plus en plus relégués au rang de simples exécutants d’une large machine automatique aux relents tayloriens,

elle-même expression d’un projet politique antisocial. « _Pilotée par les données, l’organisation du travail est recentralisée, au détriment de l’autonomie des employés comme des

structures_ » (page 88) écrit à ce propos l’auteur. Nulle part où il est déployé, l’algorithme ne poursuit un objectif social progressiste. Ces résultats sont même médiocres, voire « 

désastreux ». Mais son but réel n’est jamais technique, encore moins social : il est bien plus souvent idéologique, politique et enfin, bien sûr, commercial. Tout se passe comme si « _les

politiques économiques [s’implémentaient] dans des logiciels_ », qu’elles se dissimulaient dans l’infrastructure technique et technologique des services et des entreprises. CAPITALISTE DE

FOND EN COMBLE L’ouvrage d’Hubert Guillaud démontre très bien dans quelles proportions et à quel point les algorithmes sont, dans leur forme actuelle, les armes du grand capital. Il ne

faudrait d’ailleurs pas réduire, au point de déformer l’analyse, les algorithmes à leur seule dimension idéologique, quoique ce volet soit éminemment important pour en comprendre la portée.

Les algorithmes sont aussi, et même peut-être _d’abord_, de sordides outils de prédation capitaliste. Ils fabriquent, comme on l’a dit, de la donnée, matière première numérique de grande

valeur qui s’échange comme un produit industriel et que les entreprises fabriquent en pillant sans vergogne les informations personnelles des utilisateurs de plateformes, en les espionnant

et en collectant tout le contenu immatériel disponible, sans égard aucun pour la vie privée ou encore les droits d’auteurs. Mais ils servent aussi à « fabriquer » des prix fluctuants, de

façon à tirer partie des fluctuations de la demande, toujours au détriment des travailleurs qui ont besoin d’avoir accès aux biens mis en vente sur le marché. Ce que Hubert Guillaud décrit,

à raison sans doute, comme une prédation marchande, trouve selon lui son point d’orgue dans l’époque actuelle qui voit l’outil numérique déployé à toute force dans le seul but de poursuivre

le « _profit pour lui-même_ ». Même si l’expression interroge, dans la mesure où le capitalisme, qu’il soit paternaliste ou monopolistique, n’est pas autre chose que la poursuite du profit «

 pour lui-même », cet ultime chapitre de l’analyse de l’emprise des algorithmes sur la société a le mérite de mettre en lumière ce qui s’apparente à un système de pillage des revenus des

travailleurs par la manipulation des prix et l’entente. DE L’AUTORITARISME DU NUMÉRIQUE ET DE QUELQUES MOYENS D’Y REMÉDIER Là où l’auteur réussit franchement, c’est quand il démontre tout à

la fois l’ampleur de l’emprise des algorithmes sur la société et le glissement politique et social qu’il engendre. Tout se passe comme si il ne pouvait y avoir d’autre issue à son usage que

celui-ci : engendrer un monde hyper-concurrentiel et individualisé, sous le règne de la surveillance généralisée. Puis mention est faite, pour finir, d’un « _risque fasciste_ » logé au sein

même des ambitions technocratiques des acteurs de la Silicon Valley. Mais l’argument reste par trop allusif pour être véritablement convaincant. Que les patrons de tech aient des sympathies

fascistes, voilà qui ne fait plus aucun doute, mais il était peut-être hasardeux de voir chez eux une propension au fascisme plus grande que chez le patronat traditionnel du secteur de

l’énergie, par exemple. C’est, qu’en fait, l’accent est mis contre la figure de « l’ingénieur », présenté comme l’archétype de l’esprit froid, aiguisé mais étroit, capable d’un « dévouement 

» quasi fanatique à son entreprise mais incapable d’un véritable discernement politique lui qui, « _contrairement aux médecins et aux avocats_ », avancerait sans la supervision d’une

autorité éthique supérieure. Le secteur se trouve, il est vrai, au coeur même de toutes les dérives autoritaires et policières de ces dernières années, mais on ne suit pas l’auteur quand il

dresse le portrait de l’ingénieur fanatisé par sa propre puissance. D’autant que l’argument fait fi des résistances politiques, morales et éthiques d’une jeune génération d’ingénieurs ainsi

que des pressions et de la crise qui frappent spécifiquement le secteur, notamment depuis la fin de la crise causée par le COVID-19. Hubert Guillaud semble vouloir pointer du doigt la

responsabilité toute particulière d’un corps professionnel qui serait comme par vocation voué à une gouvernance autoritaire et technocratique. Mais quand le capitalisme se radicalise, quoi

d’étonnant à ce que ses secteurs les plus rentables se retrouvent à la pointe de ses offensives politiques ? Bref, derrière les ingénieurs, il y a le grand capital, et voilà sans aucun doute

l’ennemi principal. Reste que Hubert Guillaud dresse une cartographie très précise des insidieuses méthodes algorithmiques pour prendre possession de ce qui devrait appartenir à toutes et

tous. Et, forts de ces éclaircissements, on est en mesure de penser autrement. Illustration : Kevin Abosch, _Sun Signals_, 2021