Vous devez être abonné
pour voir cette émission
pour voir cette émission
La domination algorithmique
avec Hubert GUILLAUD
publiée le
Le capitalisme numérique est structuré par une multitude complexe d’algorithmes qui commandent des chaines de production à l’autre bout de la planète, facilitent la gestion administrative des entreprises ou encore transforment, par le commerce en ligne, les activités logistiques. Ces logiques auparavant privées, imprègnent progressivement les administrations publiques qui se sont appropriées cette raison calculatrice. Quantifier, catégoriser, classer, pour mieux gouverner. De la Caisse d’Allocations Familiales à Parcoursup : comment fonctionnent vraiment ces technologies ?
Pour nous aider à y voir plus clair, Hubert Guillaud a écrit Les algorithmes contre la société paru à La Fabrique. Journaliste spécialiste du numérique, il nous propose un essai qui dévoile les ressorts profondément politiques de ces systèmes techniques appliqués aux faits sociaux. Analyse automatique des CV, score individuel de risque de fraude aux allocations, les calculs deviennent omniprésents sans pour autant être ni efficaces, ni précis, ni justes. Ils produisent des diagnostics erronés et engendrent des décisions qui amplifient les inégalités sociales. La surexploitation de données indifférenciées, toujours plus nombreuses, participerait finalement à « reproduire une société figée sous le poids des déterminismes ». Derrière la prétendue neutralité de la machine, on trouve des mécanismes de surveillance et de compétition néfastes pour les citoyens (usage de l’IA chez France Travail), les travailleurs (modèles de tarification de plateformes comme Uber) et les consommateurs (prix variables sur les sites commerciaux).
Comment résister à la logique algorithmique : faut-il déserter ou bien peut-on bâtir de nouveaux « communs numériques pérennes » ?
Pour prolonger :
Une contre-histoire d’internet, Aux sources avec Félix TRÉGUER (novembre, 2019)
Durée 55 min.
4 réponses à “La domination algorithmique”
Petit complément d’info ; étant moi-même prof dans le « supérieur », du côté « tri des candidatures », donc, je me dois de préciser que la « fiche avenir » est présente dans les candidatures issues du bac général. Elle n’est pas réservée aux filières professionnelles et technologiques. Peut-être y a-t-il des rubriques supplémentaires du côté Techno et Pro pour indiquer des éléments de comportement, mais en tout cas la fiche avenir, elle, est présente en bac Général.
Très bonne émissions, les exemples concret de mé-conceptions d’algorithmes à l’oeuvre actuellement sont plus que nécessaire ! Pour aller plus loin j’aurais voulu voir M. Guillaud ne pas restreindre l’algorithme à sa dimension numérique ou statistique. Si on prend son exemple de la recette de cuisine, une recette est rarement une question de scoring ou de tri, mais plutôt une séquence de tâche. L’algorithme peut aussi s’articuler autour de logique conditionnelles que l’on retrouve pas dans l’exemple de la recette de cuisine. Bref tout cela pour dire que l’algorithmie peut prendre des formes très variées. Quand on y réfléchie, un algorithme est plus ou moins une administration de tâche.
Ceci étant dit, une administration, qu’elle soit privée ou publique, consciente ou insconsciente, est une forme d’algorithme, que ce dernier soit numérique ou pas. La précision que M. Guillaud apporte sur la surveillance chinoise qui est plus social que statistique, montre bien que le problème n’est pas tant l’aspect numérique de l’algorithme mais plutôt la manière dont il est construit et évolue.
On pourrait prendre le fonctionnement du financement de la sécu comme exemple. Peut-importe les formes que cela a pu prendre, il y a eu une logique, une administration de tâche (calculs, prélèvement, prestations, financement, etc.) qu’elle ai été géré par des humains peu assisté techniquement comme à sa création ou maintenant très assisté mais avec des logique complètement hors de portée des gens qui y travail et surtout des usagers.
Il y a donc du potentiel positif et, biensûr, négatif dans l’algorithme. Cependant la dimension numérique de l’algorithme n’est pas ce qui le rend mauvais ou bon. Il se pourrait par ailleurs que, pour penser un projet communiste adapté aux échellles de la division du travail actuel, une certaine forme d’algorithmie numérique pourrait être un outil et allié très intéressant.Par ailleurs, super la refonte du site !
@alexandre Savinien. Merci pour votre compliment. Concernant votre commentaire, l’utilisation des algorithmes au service d’un projet d’émancipation est abordé par les travaux actuels de Cédric Durand. Bonne journée
Laisser un commentaire
Vous devez vous connecter pour publier un commentaire.