La domination algorithmique

Le capitalisme numérique est structuré par une multitude complexe d’algorithmes qui commandent des chaines de production à l’autre bout de la planète, facilitent la gestion administrative des entreprises ou encore transforment, par le commerce en ligne, les activités logistiques. Ces logiques auparavant privées, imprègnent progressivement les administrations publiques qui se sont appropriées cette raison calculatrice. Quantifier, catégoriser, classer, pour mieux gouverner. De la Caisse d’Allocations Familiales à Parcoursup : comment fonctionnent vraiment ces technologies ?

Pour nous aider à y voir plus clair, Hubert Guillaud a écrit Les algorithmes contre la société paru à La Fabrique. Journaliste spécialiste du numérique, il nous propose un essai qui dévoile les ressorts profondément politiques de ces systèmes techniques appliqués aux faits sociaux. Analyse automatique des CV, score individuel de risque de fraude aux allocations, les calculs deviennent omniprésents sans pour autant être ni efficaces, ni précis, ni justes. Ils produisent des diagnostics erronés et engendrent des décisions qui amplifient les inégalités sociales. La surexploitation de données indifférenciées, toujours plus nombreuses, participerait finalement à « reproduire une société figée sous le poids des déterminismes ». Derrière la prétendue neutralité de la machine, on trouve des mécanismes de surveillance et de compétition néfastes pour les citoyens (usage de l’IA chez France Travail), les travailleurs (modèles de tarification de plateformes comme Uber) et les consommateurs (prix variables sur les sites commerciaux). 

Comment résister à la logique algorithmique : faut-il déserter ou bien peut-on bâtir de nouveaux « communs numériques pérennes » ?

Pour prolonger :

Une contre-histoire d’internet, Aux sources avec Félix TRÉGUER (novembre, 2019)