Ce récit est un formidable storytelling : l’intrigue globale s’organise autour de grandes périodes – révolution cognitive, révolution agricole, révolution scientifique – appuyées sur de petites histoires édifiantes illustrant la thèse générale. Peu importe que ses thèses ne collent pas toujours aux découvertes actuelles (non, la révolution cognitive n’a pas eu lieu il y a 70 000 ans (1)) ou que des affirmations péremptoires tiennent parfois lieu de démonstration (un « ordre imaginaire » serait aux sources de toutes les grandes civilisations ?). Ne boudons pas notre plaisir. La démarche est stimulante et on y puise de nombreuses idées et informations éclairantes.

Revoilà donc notre auteur avec un autre opus tout aussi ambitieux Homo Deus. Une brève histoire de l’avenir, livre accompagné d’une campagne de promotion digne d’un blockbuster. Dans Homo Sapiens, Y.N. Harari racontait à grands traits l’épopée de l’espèce humaine. Avec Homo Deus, il envisage la suite.

L’humanité, nous dit l’auteur, a globalement vaincu la faim, les grandes épidémies et même les guerres qui avaient décimé les populations durant des siècles. Aujourd’hui, ces fléaux sont confinés dans des zones minoritaires de la planète. Désormais, l’humanité va se lancer vers un nouveau défi : le bonheur, la perfection physique et l’immortalité. L’avenir de l’humanité est en marche vers un Homo Deus, un « homme Dieu » à la fois omnipotent, parfait et immortel. Les technologies seraient en tout cas en passe de le permettre.

À moins que, scénario alternatif, ce soient les machines intelligentes qui réussissent à s’émanciper puis à dominer les humains. Sapiens serait alors éliminé ou soumis à une espèce supérieure qu’il a lui-même enfantée. Un troisième scénario, intermédiaire est possible : celui du cyborg où les humains fusionnent en partie avec les machines pour former une espèce hybride.

Y.N. Harari ne tranche pas entre les trois scénarios. Pour lui, la mise à plat de ces horizons possibles doit servir à éclairer les choix décisifs pour l’avenir.

Que penser de tout cela ?

Pour fascinant que soit cet exercice de futurologie, notons tout d’abord qu’il n’a rien de très original. La plupart des récits de science-fiction sont bâtis sur des trames similaires. Ce qui gène surtout, au fil des pages, est la faiblesse de l’argumentation. Dans Sapiens, Y.N. Harari, historien de métier (il enseigne à l’université de Jérusalem), s’était révélé excellent conteur et bon vulgarisateur. Mais ici, il déçoit. Concernant la prospective technologique, Y.N. Harari ne fait que reprendre les clichés actuels sur l’état de l’intelligence artificielle (IA), les sciences cognitives et la biologie auquel il ne connaît manifestement pas grand-chose.

Ainsi, notre auteur assimile les êtres vivants à des « algorithmes biologiques » en passe d’être copiés par ceux des machines. Sauf que la révolution biologique est justement en train de réfuter l’idée que le vivant est réductible à un programme (c’est-à-dire un algorithme tapis au sein de l’ADN. (1) La conscience ne serait qu’une fiction, un paravent qui voile la réalité de processus neuronaux automatiques ? C’est exactement l’inverse que découvrent les neuroscientifiques qui réhabilitent la conscience comme un processus central de pilotage des activités cognitives complexes.(2)

Enfin, Y.N. Harari soutient comme une évidence que l’IA va à terme atteindre le fameux point de « singularité » où les machines dépassent l’intelligence humaine et conquièrent leur autonomie.

Une nouvelle « ère des machines » ?

Cette annonce de l’imminence d’une nouvelle « ère des machines », qui fait en ce moment l’objet d’une avalanche de publications, est également remise en cause par les vrais experts du sujet.

Ouvrons par exemple Le Mythe de la singularité, FAut-il craindre l’intelligence artificielle ? que vient de publier Jean-Gabriel Ganascia. L’auteur, professeur à l’université ParisVI et (vrai) spécialiste de l’IA, s’attaque justement à ce mythe de la probable émancipation des machines.

Certes, l’IA a fait récemment des progrès importants grâce notamment au deep learning (ou apprentissage profond). Des « machines apprenantes » savent désormais reconnaître des images, traduire des textes, faire des diagnostics médicaux, à partir d’une démarche par essai-erreur dite « d’apprentissage supervisé » car un expert humain est là pour les corriger au fil des expériences. C’est ainsi que l’IA a réussi à égaler les experts humains dans le diagnostic médical (cancer du sein ou mélanome). En 2016, le logiciel Alphago de Deepmind a réussi à battre au jeu de go l’un des meilleurs joueurs mondiaux. Si la performance a impressionné, on oublie de dire qu’Alphago ne sait faire qu’une seule chose : jouer au jeu de go. Tout comme le programme de Deep Blue qui avait battu Kasparov aux échecs, en 1996, il y a vingt ans déjà ! Si l’élève a battu le maître, c’est pour la même raison qu’un jeune sportif entraîné par un coach finit par dépasser son maître : il mobilise l’expérience de son professeur au profit d’un potentiel plus grand, mais au final il ne développe qu’une compétence spécialisée et initiée par son maître : sauter plus haut, courir plus vite ou mieux jouer à un jeu. Voilà comment fonctionne l’apprentissage supervisé. Ces spéculations sur l’autonomie de la machine qui « apprend toute seule » résultent donc d’une méconnaissance du fonctionnement réel de l’IA.

Gérard Berry, professeur au Collège de France, l’affirme dans son livre, L’Hyperpuissance de l’informatique : « On fait une confusion complète entre apprentissage et intelligence artificielle. » Aucune machine apprenante n’est capable de transférer ses capacités d’un domaine à l’autre (ce qui est une des caractéristiques de l’intelligence humaine). Les « machines apprenantes » ne sont pas des machines intelligentes : elles ne comprennent pas ce qu’elles font. Un programme de traduction automatique comme celui de Google ne fait qu’apprendre à utiliser un mot dans un contexte donné (en puisant dans une grande masse d’exemples). Les machines apprenantes sont parfaitement « idiotes » : en aucun cas, elles ne comprennent la signification d’un mot ou n’acquièrent de règles de grammaire.

Laurence Devillers, autre spécialiste de l’IA, professeure d’informatique à l’université Paris-Sorbonne, critique aussi les mythes de l’autonomie prochaine des machines. Dans Des robots et des hommes, (Seuil) elle s’attaque aux mythes et fantasmes qui entourent l’IA. Pour elle, les machines sont et resteront encore pour longtemps de bons assistants du travail humain.

Tout comme une machine à laver ou une calculette sont d’excellents assistants dans leurs domaines de prédilection, l’IA et les objets connectés (comme la voiture semi-autonome) sont des assistants efficaces des humains : ils allègent leur travail sans se substituer à eux. Rappelons que depuis un demi-siècle déjà existe le pilotage automatique qui assiste les pilotes d’avions sans les remplacer. Inutile donc de fantasmer sur un lointain avenir que personne n’a jamais su prévoir en matière technologique. La question du moment est plutôt d’apprendre à vivre avec et en faire d’utiles compagnons de nos vies.

1.JF Dortier, Révolution dans le vivant, SH n° 233, 2012

2. S. Dehaene, le code de la conscience, Odile Jacob, 2014