En 2011, le célèbre investisseur Marc Andreessen avait publié un article qui avait fait grand bruit : Why software is eating the world. Si cet article avait généré de nombreux débats, 8 ans après, force est de constater qu’il avait vu juste, surtout avec l’avènement des intelligences artificielles. Bien évidemment, les logiciels ne vont pas remplacer les composants matériels, mais permettent de les optimiser de façon spectaculaire, concentrant ainsi toute la valeur ajoutée. Si certains ont intégré ce fait (la valorisation de Uber est 40 fois supérieure à celle de Hertz), l’opinion publique reste très dubitative et méfiante vis-à-vis de ces logiciels et algorithmes devenus tout puissants. Comme quoi, la dimension émotionnelle, irrationnelle, de la transformation numérique est encore largement sous-évaluée.
Des mises à jour qui améliorent les performances et allongent la durée de vie du matériel
La semaine dernière, Google a mis à jour l’application appareil photo de ses smartphones. Une mise à jour du logiciel qui pilote le capteur photo, mais qui gère également le traitement des photos en elles-mêmes. Cette nouvelle version de l’application intègre une fonctionnalité baptisée Night Sight qui permet de faire de très belles photos de nuit grâce à l’utilisation d’un algorithme de machine learning qui compose une photo parfaitement éclairée à partir de nombreuses prises de vue : Night Sight: Seeing in the Dark on Pixel Phones. Étant le propriétaire d’un Pixel 2, et geek invétéré, j’étais jusqu’à la semaine dernière frustré de ne pas posséder le dernier smartphone de Google qui lui propose cette fonctionnalité Night Sight. Sauf qu’avec cette mise à jour, je peux maintenant faire de belles photos de nuit sans changer de smartphone :
Visiblement je ne suis pas le seul à apprécier cette nouvelle fonctionnalité : Google déploie son mode « vision de nuit » sur les smartphones Pixel : un vrai miracle photographique ? Certes, réaliser de belles photos de nuit n’est pas l’accomplissement le plus noble de l’histoire de l’humanité, néanmoins cette mise à jour est pour moi emblématique d’une époque : celle de l’optimisation des performances (De l’apport de l’intelligence artificielle pour la quatrième révolution industrielle).
Nous ne parlons ici “que” de smartphones, mais il existe des exemples plus frappants, comme la mise à jour du logiciel qui gère l’ABS des Tesla et permet aux voitures électriques de gagner près de 6 mètres de distance de freinage à 100km/h : Tesla starts rolling out Model 3 update to reduce braking distance by up to 20 ft. Je ne suis pas un expert en automobile, mais pour moi, 6 mètres, c’est ce qui différencie entre une famille vivante et une famille ratatinée dans une carcasse. Plus récemment, les voitures Tesla située dans une zone géographique menacée par un ouragan ont bénéficié d’une mise à jour pour augmenter leur autonomie : Tesla remotely extends car batteries to help with Hurricane Michael.
Au lancement de Tesla, toute l’industrie se moquait d’Elon Musk quand il prédisait qu’à l’avenir, nous ne changerions plus de voiture, nous les mettrions simplement à jour. Cette prophétie semble maintenant réalisée, car les mises à jour régulières des différents modèles de Tesla permettent d’améliorer leurs performances (autonomie, distance de freinage…). Un principe que l’on pourrait extrapoler à d’autres équipements : une plus faible consommation de gaz pour les thermostats Nest, des temps de cuisson plus courts pour les fours à micro-onde d’Amazon, un arôme plus prononcé pour les machines à Expresso…
Selon cette approche, la valeur d’un produit ne réside plus dans ses composants hardware, mais dans les différentes briques logicielles qu’il intègre. C’est d’ailleurs plus ou moins le cas avec les smartphones de Apple et Google qui sont vendus au prix fort, pas parce qu’ils intègrent les meilleures puces, mais parce qu’ils sont équipés des meilleurs logiciels (iOS pour les uns, Android “stock” pour les autres). Des versions de logiciels auxquelles n’ont pas accès les fabricants chinois qui pourtant proposent des smartphones moins cher et mieux équipés. Comme quoi, la valeur d’un produit réside dans l’expérience ou dans le service qu’il rend, pas dans ses composants matériels.
Au-delà de l’aspect purement mercantile (augmenter la valeur perçue, donc le prix de vente, donc les marges), l’amélioration des performances matérielles est une des motivations principales de l’utilisation de l’intelligence artificielle. Cette amélioration permet notamment d’optimiser la consommation des ressources : moins d’électricité pour les fermes de minage de cryptomonnaies, moins de carburant pour les trajets en voiture, moins de fuel pour les chauffages d’habitations collectives… Est-ce une utopie de penser que des mises à jour logiciel peuvent bénéficier à l’environnement ? Non pas du tout, même à votre petite échelle, par exemple en utilisant la police de caractère Ecofont qui consomme 40% moins d’encre qu’une police traditionnelle. Quand on sait que l’encre des imprimantes coûte plus cher que la champagne, c’est plutôt utile, non ?
Quid de l’optimisation des ressources humaines ?
Donc sur le papier, les intelligences artificielles nous aident à optimiser la consommation de ressources énergétiques ou de matière première. Génial, ça soulage notre conscience écologique de se dire que le logiciel qui vous recommande un trajet en voiture ou un voyage permet d’économiser de la ressource (ex : TheTreep). L’intention est louable dans la mesure où les matières premières (et notamment les carburants fossiles) commencent à se faire rares. Mais quand est-il d’une autre ressource qui coûte cher et qui fait preuve d’une grande instabilité (l’être humain) ?
Si nous avons déjà connu plusieurs vagues d’optimisation de la ressource humaine avec l’automatisation de la chaine de production, c’est à dire le remplacement des ouvriers par des machines lors des trois premières révolutions industrielles. Avec la quatrième révolution industrielle, nous n’en sommes qu’u tout début de l’optimisation de la ressource humaine que l’on ne sait pas (encore) remplacer. Oui c’est bien des plateformes numériques dont je suis en train de parler, et Uber est sans doute le plus bel exemple de cette recherche d’optimisation : les indépendants se substituent aux salariés (qui ont tendance à se mettre en grève ou tomber malade) et l’algorithme récompense les chauffeurs qui sont le plus investis, c’est-à-dire ceux qui travaillent aux horaires de pointe et dans les zones où la demande est la plus forte.
Le principe des plateformes est de s’appuyer sur les outils numériques pour faciliter la mise en relation et abaisser les coûts de transaction. Doctolib est un autre exemple emblématique : en automatisant la prise de RDV à travers une application mobile, les professionnels de santé se passent de secrétaire médicale, donc d’un salaire à verser tous les mois. Certes, ils remplacent un salaire par des frais d’intermédiation facturés par la plateforme, mais ça reste une opération rentable. Dans ce cas, on ne détruit pas vraiment des emplois, mais on limite les embauches. Vues sous cet angle, les plateformes comme Doctolib sont des agents économiques néfastes, car elles pénalisent l’emploi ; mais d’un autre côté, elles permettent de réduire les frais de fonctionnement d’un cabinet médical, donc de limiter les dépenses de santé. La question n’est pas simple, car que faut-il faciliter : l’embauche de secrétaires médicales ou l’accès aux soins ? Ce dilemme est assurément bien plus complexe qu’il n’y parait, car il amène de nombreuses questions : faut-il privilégier l’emploi ou le pouvoir d’achat ? Quel statut faut-il accorder aux fournisseurs des plateformes (qui ne sont pas réellement indépendants) ? Comment régler les problèmes de gestion du personnel (embauché ou indépendant) à partir du moment où c’est un algorithme qui répartit les tâches (If your boss is an app, what, exactly, are you?).
Il y a d’autres exemples d’utilisation de logiciels qui font froid dans le dos, notamment ceux qui sont exploités pour optimiser la ressource humaine en tant que citoyens (les systèmes de reconnaissance faciale / visuelle utilisés en Chine : China can apparently now identify citizens based on the way they walk) ou en tant qu’électeurs (How ZTE helps Venezuela create China-style social control). Le cas du Vénézuéla est particulièrement préoccupant, car si l’intention initiale est louable (recenser la population et ses besoins pour optimiser la distribution d’aide alimentaire), la mise en oeuvre de ce système d’identité numérique s’est transformée en un cauchemar que les futurologues n’osaient pas envisager : ceux qui votent pour le parti au pouvoir sont les premiers à bénéficier des aides de l’état. Dans l’absolu, les tickets de rationnement et tactiques d’intimidation pour orienter les votes ne sont pas nouveaux (nous en avons connu de nombreuses au XXe siècle, même en France), mais là ça se fait à l’échelle industrielle et de façon systématique.
Un basculement de civilisation qui implique une mise à jour des mentalités
Je veux bien admettre que le lien entre les belles photos de nuit des smartphones de Google et le sort malheureux des Vénézuéliens est mince, mais il y a un point commun : le logiciel utilisé pour optimiser les ressources (matérielles ou humaines). Le débat n’est pas tant technique (smartphones vs. appareils photo traditionnels) ou politique (le doit d’ingérence face à une dictature alimentaire), que culturel. Ce n’est ainsi pas la première fois que j’évoque un basculement de civilisation : le passage du XXe siècle analogique au XXIe siècle numérique.
D’un point de vue informatique, tout fonctionne à peu près bien. Mais d’un point de vue sociétal, ça coince, notamment quand il est question de la propagation de vérités alternatives qui influent sur les élections, ou de l’anxiété engendrée par la montée en puissance de l’intelligence artificielle et des technologies d’automatisation.
La dure réalité à laquelle sont confrontés les citoyens est que nous sommes dans une séquence de l’humanité où l’innovation technologique se fait à marche forcée, mais où l’opinion publique est restée bloquée au XXe siècle. D’où des tensions (révolte des taxis) et une fracture numérique qui se creuse, non pas au niveau de l’équipement, mais de l’acceptation du numérique au quotidien. Pour simplifier : le peuple est bien content de bénéficier de prix bas sur Amazon, de séries originales sur Netflix ou des jeux sympathiques sur leur smartphone, mais dès qu’on leur demande de changer leurs habitudes ou que l’on remet en cause leurs compétences, donc leur emploi, ils s’offusquent, hurlent au complot et pointent du doigt les méchants GAFA (Plaidoyer contre le populisme numérique).
De façon générale, nous pouvons constater une forte méfiance à l’égard des algorithmes et du numérique : Public Attitudes Toward Computer Algorithms. Une défiance généralisée qui résulte d’une méconnaissance des innovations technologiques, de leur origine, de ce qu’elles sont capables et faire ou de ne pas faire. Par exemple, on s’interroge sur la place des véhicules autonomes, alors que ceux-ci ne seront visiblement pas prêts avant de nombreuses années (It’s 2018, so where are the self-driving cars? et Autonomous Vehicles Have Some Regulatory Roadblocks to Navigate). De même, on fantasme sur l’avènement d’une intelligence artificielle généraliste qui va asservir l’humanité alors que les spécialistes ne savent même pas si ça sera possible, même dans 50 ans (How far are we from artificial “general” intelligence, really?, Google ponders the shortcomings of machine learning et Facebook’s head of AI wants us to stop using the Terminator to talk about AI).
Ces peurs sont très clairement irrationnelles. Je suis ainsi toujours surpris par la capacité des citoyens à redouter la montée en puissance de l’automatisation ou du machine learning alors qu’ils consomment des produits qui sont fabriqués par des robots depuis des décennies ou qu’ils profitent de services, équipements ou offres qui reposent sur des intelligences artificielles également utilisées depuis le siècle dernier (ex : disques vocaux, caisses automatiques, DAB…).
Il y a donc un authentique défi psychologique, émotionnel, à relever pour faire en sorte que la population accepte l’idée de cohabiter avec des machines et algorithmes. Encore une fois, ce processus mental est plutôt surprenant, car je doute qu’ils acceptent d’abandonner leur voiture au profit d’un cheval, ou même de renoncer à des fonctionnalités comme l’ABS ou l’antipatinage.
Tout ceci nous mène immanquablement au déficit de culture numérique. Un problème qui s’aggrave tous les ans à mesure que la dette numérique se creuse et que les géants du numérique grignotent l’économie traditionnelle (L’accélération numérique est une réalité, et elle profite surtout aux GAFA). Peut-être qu’un jour, les autorités publiques et entreprises reconnaitront les bienfaits de la pleine conscience numérique et de l’intérêt de faire évoluer les mentalités (mettre à jour notre référentiel culturel) pour pouvoir mieux vivre dans un quotidien numérique et être en phase avec cette nouvelle civilisation.
L’idée même de “faire accepter à la population ceci ou cela” relève d’un choix politique non démocratique. Certes, de nombreuses fausses informations parasitent la discussion (intelligence artificielle consciente et autres fantasmes idiots) mais vous ne pouvez pas polariser le débat entre “ceux qui ont peur car ils n’y connaissent rien” et “ceux qui ont de l’avance et créent le monde de demain”. Entre ces deux mouvements, de nombreuses raisons existent de s’inquiéter de bouleversements dans les moeurs, les façons de travailler, de vivre. Tout le monde ne bénéficie pas du “progrès” de façon inégalitaire, notamment parce que les techniques sont imaginées par certains types de populations qui privilégient une conception au service de leur vision de la vie, de leur confort. Ce n’est pas un complot, c’est juste l’effet d’une grande polarisation entre ceux qui font les technologies et ceux qui en subissent les effets, au-delà même de ce qui était initialement prévu. Bien sûr, les consommateurs sont bourrés de contradictions ! C’est évident. Mais postuler que c’est – en gros – de leur faute est à mon sens une méprise : les choix techniques sont imposés et jamais débattus collectivement. Si c’était le cas, il y a fort à parier que les effets négatifs – pesés au préalable – pourraient influencer la marche du progrès et éviter les conflits a posteriori. Il me semble ensuite que votre raisonnement repose sur une forme de néo-positivisme : il y a certes des intérêts immenses à l’automatisation, mais rien (rien !) ne permet aujourd’hui de dire que la technologie peut – objectivement, scientifiquement – bénéficier à l’environnement. C’est plutôt l’inverse, en témoignent les récents rapport du The Shift. Ce qui ne veut pas dire qu’elles n’ont pas un rôle à jouer bien sûr (mais typiquement, vos illustrations font fi des nombreux effets rebonds liés aux gains de performance énergétique). La technologie n’est pas un “défi psychologique” ou un “défi émotionnel”, ces termes ont plutôt tendance à évacuer la critique, la reléguant à un déficit d’information ou à une instabilité psycho-sociale. La technologie est un défi démocratique. Et la démocratie est, jusqu’à preuve du contraire, le solution la moins pire pour “faire accepter l’idée” de ceci ou de cela.
Merci pour ce long commentaire. Je réagis sur plusieurs points :
– la démocratie n’est pas une solution ou une façon de faire, c’est l’environnement constitutionnel dans lequel nous vivons. Vouliez-vous dire “débat démocratique” ou “dialogue démocratique” ?
– “les techniques sont imaginées par certains types de populations qui privilégient une conception au service de leur vision de la vie”, carrément, et notamment les CEO de la Silicon Valley qui pêchent visiblement par naïveté
– “les consommateurs sont bourrés de contradictions”, je confirme, mais ce n’est pas nouveau
– “les choix techniques sont imposés et jamais débattus collectivement” oui et même les modèles économiques, par exemple les contenus / services gratuits en l’échange de données personnels qui sont monétisées auprès d’annonceurs (où sont les alternatives à ce modèle ?)
– “rien ne permet aujourd’hui de dire que la technologie peut bénéficier à l’environnement” si, en optimisant la consommation de ressources (bon ceci dit, les IA permettent surtout d’améliorer les rendements, de produire plus avec moins, mais pas de produire moins)
– “La technologie est un défi démocratique”, disons que la généralisation du numérique dans notre quotidien engendre des problèmes qui relève du débat démocratique (ex : encadrer les plateformes comme AirBnB, légiférer sur le statut des travailleurs indépendants…)
Bonjour Fred,
Qui dit démocratie dit dialogue démocratique, compréhension des enjeux et pouvoir du peuple. Notre constitution offre « une certaine forme de démocratie » (représentative – nous n’utilisons pas par exemple le tirage au sort). Les citoyens sont très rarement consultés sur les choix techniques (énergétiques, numériques, etc.) qui sont bien souvent laissés au marché, à des experts, etc. A l’heure où la technologie fait presque office de loi dans nos vies, c’est un problème, selon moi.
Il est tout à fait possible d’impliquer les citoyens dans la définition de leur avenir technique. La voiture autonome par exemple, va profondément changer la ville selon des logiques qui échappent totalement au citoyen (ex :http://maisouvaleweb.fr/voiture-intelligente-ville-bete-chronique-des-futurs-possibles/), pourquoi ne pas les consulter ?
Dans d’autres cas (projets miniers, pharmaceutiques), les citoyens ont pu être consultés – ou se constituer en groupe de pression pour donner d’autres directions à la recherche, et donc aux financements (publics ou privés). Je l’explique ici : http://maisouvaleweb.fr/technologie-nest-democratique-devenir/
Est-ce à dire qu’il faut voter dès qu’une startup lance un nouveau produit ? Non. Mais au moins avoir un véritable pouvoir de décision lorsqu’une technique vient changer la vie. C’est compliqué, je le concède, puisque cette logique se frotte au dogme d’une croissance technique infinie (dans un monde infini), avec des financements colossaux et à l’échelle mondiale. Le tout poussé par les seuls marchés, et les achats des consommateurs. Seulement un consommateur n’est pas un citoyen, et comme vous le soulignez, ces deux facettes entrent en contradiction.
On peut certes légiférer a posteriori (Uber, AirBnb, etc.) mais est-ce réellement suffisant ? Cela revient à laisser la technologie (américaine, bourrée de valeurs morales, etc.) diriger nos façons de vivre. Dans ce schéma, la démocratie est reléguée au second plan. C’est un fait, et choix politique. De nombreux modèles alternatifs existent (notamment dans les transports, par exemple les coopératives). Idem pour la livraison (Amazon & co), pourquoi attribuer des fonds publics à ces entreprises (déductions fiscales) ? Il y a bien sûr d’autres candidats pour prendre cette place. Ces choix ne sont JAMAIS discutés démocratiquement. Il est donc normal que des violences sociales surgissent a posteriori. Ce n’est pas une question de disponibilité des alternatives, c’est juste un refus politique de faire émerger ces solutions.
Concernant l’IA et l’écologie, on peut « produire plus avec moins », mais n’occultez pas les effets rebonds. Toute baisse du coût énergétique augmente l’usage mécaniquement (une vieille histoire d’offre et de demande…). Je reprends les mots de Jean Hentjeans (urbaniste) : dans de nombreux cas « les villes ont des centres denses et des périphéries qui s’étalent, les automobiles sont surpuissantes par rapport à ce qu’on leur faire faire, elles stagnent à 20km/h et transportent 1,2 passagers en moyenne. » La smart-city n’apporte aucune réponse à ce genre d’absurdités : « Un système qui n’est pas pensé dans sa globalité fonctionnera mal même s’il est optimisé. » Je crois que tout est dit…
Il y a 3 ans quand on ne parlais au infos que de l’arrivé des voitures autonome.. genre demain là on va avoir notre voiture autonome.. Je me suis dit.. puré on est vraiment mal barré avec ces journalistes qui ne font que relayer l’info des entreprises sans réfléchir 2 secondes.. il est évident que dans le cas de la voiture autonome pour que cela fonctionne à l’heure actuelle des technologies il faut que nous lui laissons de la place.. que nous modifions nos infrastructures… mais non pas la moindre réflexion, juste de l’infotainment de masse…
Et éveiller la population à la compréhension des dérives technologiques, ce n’est pas gagné… simplement lors d’un repas de famille, demandez qui à entendu parlé de crypto-monnaie (sans mentionner le mot clé bitcoin), vous allez être étonné… je ne parle même pas de la blockchain…
Il ne faut pas demander aux gens de faire un effort, et comprendre les techno. Plus particulièrement le software, l’algo, l’IA demande un effort intellectuel. Même dans la caste des ingénieurs (dont je fais parti), plus de la moitié ne comprenne pas.. sont largués… sont fatigués… car cela change trop vite… quand vous êtes à un haut niveau technique en France vous êtes pris pour une sous-merde… à l’heure actuelle en France il vaut mieux faire pousser son réseaux linkedin que de faire travailler ses neurones ;)
Montrez à votre conjoint, votre mère.. une vidéo de bernard stiegler sur l’impact des technologies numériques… ils ne vont pas tenir 10 minutes.. ils vont préféré TPMP… on pari ?
Alors dialogue démocratique ?!! dialogue démocratique !!!! dialogue démocratique!!?????!!!!!!!!
J’ai en tête le film District 9… des aliens échoués sur Terre qui sont complètement débile, désœuvré.. à par 2/3 qui relève le niveau.. un peu comme notre Monde actuel quoi :)
Et quand je lis ICI ou ailleurs que la règle de la destruction créatrice.. schumpeter&co… est applicable pour les technologies de l’IA, l’Algo, l’automatisation en général.. je me dis encore qu’on est mal barré.. Pour moi actuellement ‘le numérique’ est en valeur absolu destructeur d’emploi en France et de loin !!!
Pour résumer ma pensée, dans notre monde actuel la technologie permet un gain de productivité, mais n’est profitable à la population que si elle est utilisée dans un environnement de forte croissance “économique/industrielle/démographique…”. Et la croissance on le sait, on peut toujours l’attendre…
Moi-même ingénieur du numérique je commence à me questionner sur les raisons d’être du numérique et je me demande si cet outil devrait vraiment être utilisé comme aujourd’hui.
Je pense qu’on en fait trop, qu’on veut le mettre partout, mais il y a aussi quelque chose de malsain à vouloir mettre du numérique partout.
On perd le vrai coté humain, on remplace celui-ci par du code moins coûteux.
Notre société a bel et bien une crise de valeur, mais plutôt que de vouloir faire aller les gens vers le numérique, je pense qu’il faut sérieusement questionner le numérique lui-même qui parfois devient frustrant voire même inquiétant pour notre humanité.
Oui il y a une fâcheuse tendance au solutionnisme technologique portée par les idéologistes de la Silicon Valley. La course à la performance est je pense une conséquence de la crise de 2007 : les gains de productivité comme rempart à la crise.
Je suis dans le même cas et exactement du même avis : ingénieur du numérique également, et je me pose les mêmes questions qui, quand on y réfléchi, relèvent parfois simplement du bon sens.
On perd le côté humain, on le remplace par du moins coûteux. Le problème c’est que le “moins coûteux ” signifie souvent aussi “non adapté aux vrais besoins”. Et si on ne rentre pas dans le moule, et bien ça devient la croix et la bannière pour essayer d’avoir un vrai contact humain avec quelqu’un qui peut répondre à notre question.
Pas plus tard que la semaine dernière, j’ai décidé d’envoyer un courrier par la poste au lieu de me servir d’un interface web tellement celle-ci était mal faite. C’était pourtant une grande société.
Mais le problème pour moi si situe à un autre niveau : en tant que professionnels du numérique, on comprend ce qui se passe, et on est capable d’analyser la situation avec un minimum de pragmatisme.
Mais les personnes qui décident n’y connaissent parfois pas plus que les utilisateurs lambda. Manque de formation, dette numérique. Elles ne sont donc pas capables de prendre les bonnes décisions. Et on se retrouve avec du numérique partout, sans aucune véritable plus-value.
Et en plus on se retrouve avec des utilisateurs qui se croient stupides parce qu’il n’arrivent pas à se servir d’un outil mal conçu… Et ça ne leur donne pas vraiment envie d’apprendre, parce que ce n’est pas agréable de se sentir stupide…