Sommes-nous et souhaitons-nous être contrôlés par des algorithmes ?

Qui n’a jamais entendu des assertions du type : « Nous ne sommes plus libres, les machines décident à notre place » ? Si les perspectives d’une société post-industrielle sont plutôt sombres (croissance nulle, crises économiques / sociales / environnementales…), il convient de ne pas se laisser déboussoler par les théories collapsologiques. Les préoccupations et peurs se cristallisent ainsi autour des intelligences artificielles et de leurs algorithmes. Avec cet article, je vous invite à prendre du recul et à appréhender la trajectoire que suit notre société de façon raisonnée et pragmatique.

L’intelligence artificielle est un sujet complexe. Ça, vous le saviez déjà, car vous avez certainement dû lire quantité d’articles tentant de vous expliquer ce que c’est, ce à quoi ça sert ou ça ne sert pas. Si le sujet était à la mode il y a encore quelques années, la ferveur médiatique est largement retombée : on lui préfère maintenant des choses plus exotiques comme les NFT ou les métavers. Pourtant, le brouhaha médiatique autour du machine learning a laissé des traces, notamment dans l’inconscient collectif où l’on est encore persuadé que les IA sont des entités automnes que l’on ne contrôle plus (pour vous convaincre du contraire : An Inconvenient Truth About AI).

L’idée d’une société entièrement soumise aux IA, et par analogie aux algorithmes, est une thématique que l’on trouve dans de nombreux articles (Algocratie : les algorithmes nuiront-ils à la démocratie? et Gare à l’algocratie, le tout IA mène au pire ! ou Vivre dans un monde sous algorithmes) ou essais (ex : Pouvoir régalien et algorithmes, vers l’algocratie ?). Le collectif DataGueule en a même fait une vidéo à charge en 2018 :

Notre quotidien est-il réellement régi par des algorithmes ? La réponse n’est pas simple, car la question est trop vague…

Algorithmes + Démocratie = Algocratie

Pierre Gueydier, l’auteur de l’essai cité plus haut écrit : « La colonisation progressive par des algorithmes du domaine traditionnellement politique et régalien n’est plus du ressort de la science-fiction« . D’un point de vue macro-économico-sociétale, les algorithmes sont effectivement omniprésents dans notre quotidien :

  • dans la consommation avec les publicités ciblées, la recommandation individuelle de produits, les mécanismes de lutte anti-fraude, les chatbots de SAV…
  • dans les médias avec les recommandations de contenus, l’optimisation éditoriale, la traduction automatisée, les contenus synthétiques (audio et vidéo)…
  • dans les transports avec l’optimisation des prix de vente en fonction de l’offre et la demande (yield management), le calcul d’itinéraire, les véhicules à conduite (semi)autonome…
  • dans la santé avec la surveillance épidémique, l’aide au diagnostique, les simulations d’interactions médicamenteuses…
  • dans l’éducation avec la personnalisation des parcours pédagogiques ou les services d’orientation / affectation (ex : ParcoursSup)…
  • dans la finance avec l’évaluation de la solvabilité (scoring), la lutte contre la fraude, l’anticipation des événements de vie des clients (mariage, divorce, naissance…) ;
  • dans l’emploi avec le ciblage des annonces, l’aide à l’évaluation des candidatures…

Comme vous pouvez le constater, de nombreux aspects (à priori) mineurs de notre vie quotidienne sont décidés par des algorithmes. Donc en ce sens, ce n’est pas un mythe, mais une réalité. Surtout dans un marché toujours plus tendu où le temps et les distances se contractent. Pour faire simple : les algorithmes sous leurs différentes formes (logiciels, systèmes experts, intelligences artificielles…) sont la clé de la sur-optimisation pour une gestion « lean » (minimisation des stocks et délais).

Est-il sérieux de parler de populations entières vivant sous la dictature des algorithmes ? Non pas réellement, car jusqu’à preuve du contraire, il y a encore des instances de gouvernance (plus ou moins démocratiques) composées d’humains (plus ou moins bien intentionnés) qui gèrent les pays et prennent les décisions. Certes, iI y a bien l’idée persistante que la démocratie a été hachée par les algorithmes, notamment à travers la manipulation de l’opinion publique comme ça a été le cas avec le scandale Cambridge Analytica, mais au final, il semblerait que cette affaire ait été largement sur-évaluée (cf. Cambridge Analytica was a false panic, it’s time to move on).

Bref, et pour vous épargner une laborieuse explication littérale : non, l’algocratie dans le sens strict du terme n’existe pas, inutile de verser dans l’algoraphobie. Mais ça vous vous en doutiez, non ?

En revanche, là où ça devient plus ambigu (palpable), c’est à l’échelle micro-économique, celle des entreprises et organisations.

Your ERP is your boss!

Ce qui est vrai pour la société dans sa globalité l’est également pour les entreprises : de nombreuses activités mineures sont prises en charge par des algorithmes. La différence est que l’entreprise est un environnement fini : il y a un nombre limité (et connu) d’employés, d’ordinateurs, d’applications… Autant l’idée que des algorithmes contrôlent notre vie personnelle est plutôt abstraite, autant notre quotidien professionnel est effectivement rythmé par des algorithmes, qu’ils soient sous forme logique (procédures) ou informatique (ERP).

Est-ce que cette forme d’aliénation des individus au sein des organisations est une fatalité ? Oui et non. Oui, car force est de constater qu’avec la logique de standardisation, la marge de manoeuvre d’un salarié lambda est très restreinte (on lui demande essentiellement de respecter les processus). Non, car les méthodes de « lean manufacturing » comme le Toyota Production System produisent d’excellents résultats (performances, qualité, sécurité…).

Rassurez-vous, cet article ne traite pas du bienfondé de telle ou telle approche organisationnelle, mais plutôt de la transposition de l’algocratie au monde de l’entreprise. Comme précisé plus haut, il y a tellement de paramètres à prendre en compte dans un pays que l’idée d’une super-conscience algorithmique décidant du sort des uns et des autres est fantasque. Mais à l’échelle d’une entreprise, les choses sont différentes, car le nombre de paramètres à prendre en compte est non seulement beaucoup plus réduit, mais en plus, les composantes d’une entreprise se comportent de façon prévisible.

Ainsi, d’un point de vue fonctionnel et informatique, il est tout à fait possible de modéliser le fonctionnement d’une entreprise. En schématisant, celle-ci repose sur :

  • des acteurs bien identifiés (actionnaires, employés, fournisseurs, clients…) ;
  • des processus parfaitement définis (transformation d’une matière première en un produit fini ou d’une main-d’oeuvre en offre de services) ;
  • de règles à suivre sous peine d’amendes ou de fermeture administrative (lois, normes, obligations légales…) ;
  • d’un système d’information par lequel transite quasiment l’ensemble des interactions (ERP, messagerie…).

Nous pouvons donc logiquement faire le constat qu’une entreprise est un environnement fini que l’on pourrait réduire à des interactions et échanges d’informations (cf. la théorie de la Chaîne de valeur de M. Porter).

De nombreuses entreprises manquent dramatiquement de souplesse, car les interactions / transactions critiques sont prises en charge par un ERP trop rigide qui contraint les collaborateurs à travailler comme des automates (il faut que tout rentre dans les cases).

Le « progiciel de gestion intégrée » est un concept informatique du XXe siècle visant à standardiser les activités pour améliorer les performances. Toutes les entreprises sont pilotées par un ERP, mais aujourd’hui, la tendance est clairement à la décentralisation (pour gagner en autonomie et souplesse) ainsi qu’à l’automatisation (pour faire baisser les coûts et délais).

Pour comprendre le fonctionnement d’une entreprise, il suffit (en théorie) de comprendre comment son ERP est conçu et paramétré. Celui qui maitrise l’ERP maitrise le fonctionnement d’une entreprise. La question que je me pose est la suivante : une entreprise pourrait-elle fonctionner si elle était pilotée par une ERP autonome ou décentralisé ?

Tout ceci nous amène tout naturellement à parler des Decentralized Autonomous Organizations. Avec les DAO, et les DAC (Decentralized Autonomous Companies), nous avons en effet un concept qui se révèle être un sujet d’étude tout à fait intéressant pour approfondir cette réflexion sur l’omniprésence des algorithmes.

Décentralisation + Automatisation = DAO

Selon la définition du site Blockchain France, une DAO est une organisation décentralisée dont les règles de gouvernance sont automatisées et inscrites de façon immuable et transparente dans une blockchain. Si l’on fait le choix de laisser de côté les considérations techniques liées à la blockchain (qui ne feront que complexifier la réflexion), nous pouvons reformuler ça en : une DAO est une organisation autonome dont le fonctionnement est automatisé à l’aide d’outils informatiques décentralisés. Pour une explication plus complète, je vous incite à l’ire l’article fondateur de la fondation Ethereum : DAOs, DACs, DAs and More: An Incomplete Terminology Guide.

Certes, les humains n’ont pas attendu la blockchain pour s’organiser autour d’unités familiales ou institutionnelles (A Prehistory of DAOs), mais le principe d’une organisation autonome et décentralisée n’a jusqu’à présent jamais été possible à grande échelle. Comprenez par là qu’en l’absence d’outils informatiques / numériques performant, les organisations décentralisées et autonomes d’envergure restaient à l’état théorique. Mais les choses ont récemment changé…

C’est de cette recherche de démarcation des concepts organisationnels et informatiques du siècle dernier que sont nées les DAO, censées être la quintessence des organisations modernes. « Censées », car les rares projets ambitieux lancés il y a quelques années se sont soldés par des échecs (The Story of the DAO : Its History and Consequences). Ceci étant dit, le concept d’organisation décentralisée et autonome est loin d’être une lubie de libertaires, car en prenant un peu de recul, on se rend compte que nous avons sous le nez des exemples tout à fait probants.

Concernant les entreprises décentralisées :

  • le succès des plateformes numériques (Uber, Deliveroo, Doctolib…) repose sur des armées de travailleurs indépendants qui composent la majeure partie de la force de travail (chauffeurs, livreurs, professionnels de santé…) ;
  • la plupart des grands réseaux immobiliers sont composés de petites sociétés indépendantes (ex : Century 21, Orpi, Lafôret…) ;
  • de très grosses banques ou compagnies d’assurance ne sont pas possédées par une poignée d’actionnaires tout puissants, mais par leurs sociétaires (ex : Banque Populaire, Crédit Agricole, Caisse d’Épargne, Crédit Mutuel…).

Bon OK, j’avoue que c’est un peu tiré par les cheveux de qualifier une banque mutualiste de DAO, mais néanmoins, le modèle des plateformes d’intermédiation est un très bon exemple d’entreprise décentralisée ou d’extraprise.

Concernant les entreprises autonomes :

  • il existe de nombreux types d’entreprises avec un fonctionnement très simple qui n’évolue plus (ex : laverie, hôtel low-cost, laboratoire d’analyses médicales ou cabinet d’avocats) ;
  • certaines places de marché se « contentent » de mettre en relation l’offre et la demande sans proposer d’évolutions majeures régulières (ex : Amazon Mechanical Turk ou des marketplaces BtoB comme Tomatoland).

Entendons-nous bien : je ne suis pas en train de dire que les métiers de la teinturerie, de l’analyse médicale ou de l’hôtellerie sont simples, mais que la gestion de ces activités est parfaitement prévisible, donc facile à opérer. Idem pour un cabinet d’avocats : la prestation est d’une infinie complexité, mais le fonctionnement d’un cabinet est plus simpliste (il y a d’un côté des salaires à payer, et de l’autre des clients à facturer sur une base horaire). Idem pour les nombreuses places de marché BtoB : je ne porte aucun jugement de valeur sur les produits échangés, mais je constate que d’un point de vue fonctionnel, l’intermédiation est plutôt simple comparée à la fabrication d’une voiture ou d’un smartphone. « Simple » comme dans « facilement automatisable ». Là encore, je grossis le trait : ces sociétés ne fonctionnent pas de façon 100% autonome. Mais il serait néanmoins possible d’automatiser une très grande part de l’activité, donc de leur fonctionnement.

Comme nous venons de la voir, nous avons tout autour de nous des exemples d’entreprises quasi décentralisées et quasi autonomes. Mais pour se rapprocher du concept strict de DAO, il faudrait combiner :

  • une décentralisation complète et totale (actionnariat et forces vives) ;
  • des processus qui sont entièrement retranscrits dans du code informatique (et stocké / exécuté sur un réseau de serveurs indépendants) ;
  • un fonctionnement en totale autonomie (pas de décisions ou de supervision humaine).

Le seul exemple de DAO à grande échelle en activité aujourd’hui serait le réseau Bitcoin. Mais là encore, les conflits internes dans la communauté et les nombreux forks nous prouvent que l’humain (avec ses jalousies / ambitions) n’est jamais très loin…

À la recherche de l’organisation du futur

J’ai commencé cet article en mettant en doute la réalité d’une société régie par des algorithmes, puis j’ai fait une transition assez hasardeuse vers les organisations autonomes et décentralisées. Quel est le lien entre l’algocratie et les DAO ? Les algorithmes. Ce que je trouve particulièrement intéressant dans cette réflexion est que personne ne veut d’une société dominée par les algorithmes, mais nombreux sont ceux qui travaillent très dur pour faire des DAO une réalité. L’explication la plus simple que je puisse formuler est que la décentralisation / automatisation à l’échelle d’un pays est une tâche impossible à réaliser, mais tout à fait envisageable à l’échelle d’une entreprise ou d’une organisation. Ce n’est, en théorie, qu’une question de préparation et d’anticipation.

Au final, cette notion de DAO peut s’apparenter à une utopie, mais d’un point de vue fonctionnel, organisationnel ou informatique, nous nous en rapprochons petit à petit. Est-ce une fin en soi de tendre vers un modèle strict de DAO ? Pour une entreprise commerciale, ça me semble futile. En revanche, pour une association ou une coopérative, ça peut s’envisager à titre d’expérimentation intellectuelle (aller jusqu’au bout du concept et proposer une alternative aux sociétés à but lucratif : DAOs Are Better Than Companies).

Ceci étant dit, il existe des modèles économiques « minimalistes », c’est à dire qui ne requiert qu’une très légère intervention humaine (ex : le drop shipping). Oui je sais : le drop shipping est une activité extrêmement complexe à rentabiliser (énormes coûts d’acquisition de trafic), mais il serait possible de petit à petit automatiser tous les aspects de la gestion quotidienne pour en faire une activité quasi autonome. En cumulant plusieurs lignes de produits très ciblées, certains arrivent à dégager des revenus réguliers (The Great Amazon Flip-a-Thon), à tel point que les investisseurs institutionnels s’y intéressent (Led by ex-Amazonians, Acquco raises $160M to buy and scale e-commerce businesses). L’idée poursuivie serait de répliquer un modèle qui fonctionne à petite échelle pour lisser le risque (décentralisation) et de le rentabiliser en faisant baisser au maximum les frais de gestion (automatisation).

Encore une fois, tout ceci n’est possible que grâce aux nouveaux outils numériques. Dans une entreprise « classique », pilotée comme au siècle dernier, c’est tout simplement inenvisageable. Mais cette idée persistante de décentralisation / autonomisation fait petit à petit son chemin comme par exemple avec le concept d’entreprise bionique développée par le BCG : The Bionic Company.

Sans déconner ? Une entreprise bionique qui repose sur la symbiose entre l’homme et la machine ? Oui tout à fait, passée la surprise, le concept est parfaitement crédible et surtout reflète une réalité que beaucoup choisissent d’ignorer : la place centrale des outils informatiques / numériques dans les entreprises et la place périphérique des employés.

Loin de moi l’idée de relancer la lutte des classes (ouvriers vs. machines), mais ne vous faites pas d’illusion : il n’y aura pas de retour en arrière. Je ne suis pas devin, mais je suis absolument certain que nous n’allons pas revenir à une économie agraire. Au contraire : à terme, tout ce qui pourra être automatisé grâce aux outils numériques le sera (optimisation des coûts, cf. Du fantasme de Robotic Process Automation au réalisme du Digital Process Optimization). De même, tout ce qui pourra être décentralisé le sera (amélioration de la réactivité et de la résilience, cf. De l’urgence d’adopter une organisation de crise portée par le numérique).

Les algorithmes ne sont ni une calamité, ni une bénédiction, mais un instrument

Si vous êtes un lecteur régulier de ce blog, alors vous vous doutiez certainement que je n’allais pas fournir de réponse tranchée à la question posée dans le titre de l’article. La question des algorithmes est clairement devenue un débat de société, car elle touche quasiment tous les aspects de notre quotidien. Certains militent pour un « CSA des algorithmes », un organisme chargé de contrôler et encadrer leur utilisation ; d’autres pour un « serment d’Hippocrate des algorithmes », prononcé par les personnes chargées de les concevoir et les mettre en oeuvre. Je ne saurais pas vous dire si ces solutions pourraient être efficaces, mais s’il la question se pose, c’est qu’il y a un problème, à minima un problème de conscience ou d’acceptation. Tout ceci fait écho à mon article précédent sur la résistance au changement : De la faculté d’adaptation à la capacité d’acceptation des nouveaux usages numériques.

Les algorithmes sont-ils une bonne ou une mauvaise chose ? Heureusement, nous n’avons pas à trancher sur cette question, car la réalité n’est pas manichéenne : Oui, il est tout à fait normal de se méfier des algorithmes quand ils entravent nos libertés (de déplacement, de penser…). Non, inutile de rejeter les algorithmes en bloc, car ils nous rendent d’infinis services et améliorent globalement notre niveau de vie dans bien des domaines (Revolution and the Innovation wheel).

En vérité, peu importe que vous considériez l’algocratie ou les DAO comme des concepts fumeux ou comme des scénarios cauchemardesques, l’important est de prendre conscience que des transformations de grande ampleur sont en cours et que personne ne peut lutter contre (changement de paradigmes).

La quatrième révolution industrielle est en marche et personne ne peut l’arrêter. À partir de ce constat, il est de la responsabilité de chacun de comprendre ces changements (leur origine, nature et finalité), de les accepter (s’adapter, changer ses habitudes) et d’y contribuer pour pouvoir en bénéficier. Ce dernier point est très certainement le plus important, car s’il y a bien une leçon que nous ont enseignée les précédentes révolutions industrielles, c’est que ce sont des périodes critiques où s’accélère le déclin des anciens modèles et où les nouveaux sont capables de générer une croissance exponentielle de la valeur. Pour s’en convaincre, il suffit de constater la valorisation des géants numériques et la concentration des capitaux.

Laisser un commentaire