DU BON USAGE DE L’ALGORITHME POUR LA SURVIE HUMAINE : Revue de l’essai « NEXUS »

Avec « Sapiens », Yuval Noah Harari nous avait délivré une magistrale étude de l’histoire humaine, expliquant l’émergence de l’homo sapiens par sa capacité à vivre en masse, en se fabriquant des outils imaginaires tels que mythes, lois, institutions ou monnaies. Aujourd’hui, après 40.000 ans d’accès à la pensée, l’homo sapiens, devenu surpuissant, se trouve proche des pouvoirs de ces Dieux qu’il a inventés.

Par sa clarté et son audace, cette analyse avait porté son auteur à une notoriété mondiale : l’ouvrage est diffusé en dizaines de traductions et de formats (jusqu’en bande dessinée), atteignant 8 millions de ventes - et c’est loin d’être fini. Sa force tient à sa méthode très large, qui lui permet de puiser ses exemples et analyses à des sources aussi diverses que géographie et histoire, sociologie, géonomie, physiologie, économie, biologie ou paléontologie.

Fin 2024, Harari présente un nouvel ouvrage qui devrait à son tour faire date : « Nexus », consacré aux rapports entre communication et pouvoir politique, intelligence artificielle et internet. Par son atmosphère, le livre diffère du premier par son ton plus grave. Nexus présente une humanité en fin de cycle, en crise existentielle, détruisant son propre environnement, incapable de s’arracher à sa voie d’autodestruction. Les mythes qu’il affiche pour évoquer l’esprit du temps expriment son inquiétude : Faust vend son âme au Diable pour accéder au pouvoir par la science universelle, puis se découvre incapable de maitriser les forces qu’il a éveillées ; Hélios fils du soleil, lui, désobéit, saisit les rênes du « chariot de feu » et s’élève dans les airs - avant de voir la chaleur décoller ses ailes et le précipiter dans l’abime. Dans Nexus, Harari s’attelle à une tâche démesurée : celle de dresser, en trois parties, le bilan des peuples à travers les âges sous l’angle du pouvoir politique, de l’information et de la communication.

Intitulée « Réseaux humains », la première partie se concentre sur la mythologie, définie comme la racine de toute société, et sur la bureaucratie qui l’accompagne pour la gérer. Harari se livre ici à une déconstruction en règle de toutes les religions. Rejetant leur prétention de détenir la vérité révélée, il leur reconnait le rôle historique fondamental de fondateur des sociétés par la création d’un récit mythique sur la naissance du monde, assortie de règles de fonctionnement en groupe. Divers prophètes produisent ces révélations, bientôt relayées par d’autres prêtres qui les rassemblent en livres sacrés, tel l’ancien Testament. C’est ainsi que naît la caste des fonctionnaires, pour assurer la transmission la plus fidèle possible du mythe. Au fil des siècles, leurs commentaires et exégèses aboutissent, selon Harari, au Nouveau Testament pour les Chrétiens, au Talmud pour les Juifs, et à des dizaines d’autres avatars dans l’Indouisme, l’Islam ou le Bouddhisme.

Faillible ou infaillible ?

A la longue toutefois, ces récits premiers souffrent d’un défaut congénital : leur prétention à l’infaillibilité qui interdit la variation. Pourtant, sans évolution théologique, comment suivre les besoins nouveaux des générations ? De ce fait, les textes sacrés se révisent mal, toujours en retard, et selon des procédures obscures. Preuve à l’appui, Harari cite la version antique du commandement « tu ne convoiteras pas la femme de ton prochain », à savoir : « tu ne convoiteras pas la femme ni les esclaves de ton prochain ». On comprend que le christianisme ait été contraint à gommer cette apologie de l’esclavage, si contraire à ses valeurs !

Cette contradiction autour de l’infaillibilité survit aux temps modernes. Harari nous apprend que les textes fondateurs de l’Israël moderne, rédigés fin du XIX siècle, sont les œuvres de Théodor Herzl (Hongrie) et Haym Bialik (Ukraine), hommes qui n’avaient jamais mis les pieds en Palestine. Ils ignoraient que les juifs ne constituent alors que 6 à 9% du peuplement : à leurs yeux, réoccuper leur terre d’origine n’appelait aucune reconnaissance des droits des occupants. De même, protéger leur peuple des persécutions subies au fil des siècles légitimait que leur nation future se dote d’une des plus redoutables armées du monde : autant de « choix » naïfs qui allaient causer un des conflits armés les plus redoutables de notre temps.

Poursuivant son enquête, Harari voit homo sapiens apprendre à intégrer dans ses mythes des mécanismes de rectification des injustices à venir. Ainsi au XVIIIe siècle, les pères fondateurs des États-Unis, dans la Constitution américaine, valident l’esclavage (article 5), mais prennent soin de penser à doter cette charte d’un système de réparation des erreurs, qui permettra un siècle plus tard d’abolir cette pratique par l’adoption d’un 13^ème amendement.

Vers un ersatz de l’homme…

Harari a bien noté que dès l’Antiquité, des esprits se lèvent pour douter de ce principe d’infaillibilité : Hérodote voit bien que les oracles venus des Dieux « infaillibles », s’avèrent parfois faux, avec des conséquences catastrophiques. Hérodote suppose que ce dévoiement vient non des Dieux, mais du prophète, qui est « faillible », voire même corrompu. D’où, dès l’époque romaine, la question posée : dans la gestion des révélations divines, n’y aurait-il pas moyen de se passer de l’homme ?

Harari révèle ce moyen dans la seconde partie de son ouvrage qu’il intitule « le réseau inorganique (non humain) ». Par ce terme, il entend la chaîne des technologies de l’information qui répandent le savoir, unissent et disciplinent les hommes. De la table d’argile gravée des assyriens, l’on passe au papyrus égyptien, au parchemin chrétien, au livre imprimé de Gutenberg, avant d’arriver aux média, puis à l’internet. Par rapport à ses prédécesseurs, ce dernier apporte deux ruptures :

- il atteint désormais tous les humains, même dans les coins les plus reculés de la planète, par le biais des ordinateurs ou des smartphones,

-il dispose des algorithmes, logiciels de communication qui récupèrent et canalisent les données. L’information récoltée vient de partout, du sommet et de la base, des institutions publiques et privées, des particuliers voire - des ordinateurs, auteurs de fake news ! L’algorithme est invisible, mais décisif, en conditionnant les hommes comme jamais avant. Ce que Harari démontre ici est sa capacité de modifier les comportements des individus, sans qu’ils en soient conscients, selon les intérêts des propriétaires du réseau.

Un exemple en éprouvette - le cas birman

L’exemple donné est celui de la Birmanie où se déchaina en 2016-17 un violent pogrom contre la minorité musulmane Rohingya dans l’État de Rakhine. Le canal de cette violence apparut bientôt : c’était Facebook, par son algorithme qui sélectionnait et repostait les messages les plus racistes et haineux parmi la majorité bouddhiste. Sur ces messages de haine, un pourcentage important relevait notoirement des « fake news », émis par des « trolls » - des comptes Facebook factices gérés par ordinateurs. Par suite, des centaines de villages furent détruits, des dizaines de milliers de paysans tués et près d’un million de Rohingyas chassés au Bengladesh voisin. Pris à parti, Facebook s’est alors défendu d’avoir agi illégalement, ou d’avoir voulu fomenter la haine. Et Harari lui rend raison, au sens strict du terme : les auteurs de l’algorithme n’avaient pas programmé de slogans anti-islam, mais simplement demandé au programme de concentrer un maximum d’internautes, pour pouvoir collecter leurs données et par la suite maximiser les profits. Ce faisant, ils obéissaient aux ordres du propriétaire de Facebook, et à la loi du marché : tout « clic » d’un d’internaute crée du profit. Ainsi, conclut Harari, l’algorithme a accompli de manière la plus efficace possible sa mission, en ne prenant en compte que le profit, sans voir les morts, la guerre civile et les souffrances. C’est la logique de l’Intelligence artificielle (IA), face à celle de l’homme !

Autre exemple cité : de janvier à juin 2023 en Iran, la police islamique iranienne a averti par SMS un million de femmes en train de conduire non voilées – elles venaient d’être détectées par les caméras à reconnaissance faciale fournies par la Chine. 133.000 conductrices s’étaient vu interdites de conduite pour deux semaines - 2000 véhicules avaient été confisqués, 4000 multirécidivistes trainées devant la justice.

Harari en déduit que le réseau, l’algorithme a dès maintenant appris à apprendre, à penser plus loin que les simples fonctions pour lesquelles leurs auteurs l’avaient conçu. Désormais, les cerveaux de silice fonctionnent plus vite que ceux biologiques, plus longtemps (24h/24), en suivant des chemins incompréhensibles à l’humain - et sans valeurs morales. Et il menace à présent de prendre le contrôle de la Terre.

Aujourd’hui, l’intelligence artificielle est présente partout, en tous domaines - dans la santé comme dans la sécurité, l’éducation, les transports, les loisirs et tant d’autres. « Gratuits », leurs services deviennent addictifs. En retour, ils collectent les données de l’utilisateur, dont ils tirent un profil, des scénarios exploitables, qui créent des fortunes, au profit du propriétaire du réseau - privé, ou public. Sa puissance est colossale. En 2019, Tripadvisor engrange les données de 473 millions de clients, 8,6 millions d’adresses d’hôtels, restaurants, parcs ou musées, et 859.000 avis de visiteurs … l’équivalent d’une population européenne !

La capacité de l’internet d’agir hors frontières pose aux États un problème de souveraineté : l’Inde a banni de son territoire TikTok, portail social au succès immense parmi la jeunesse. Et c’est par l’internet et l’IA que les GAFAM délocalisent leur taxation, privant les États de l’impôt sur leurs services.

Expérimenté depuis 20 ans, le crédit social brasse les données publiques ou privées de chacun des 1,4 milliard de citoyens chinois, et calcule pour chacun une note morale assortie de petits privilèges (si positive), et dans le cas inverse, de malus, qui peuvent aboutir à de sévères pertes de liberté telle celle de voyager, d’emprunter ou de fonder une société. De la sorte, un pays, un système peut contraindre ses citoyens à changer de comportement, même contre leur gré. Telle est la conclusion de Nexus, résumée en page de couverture : « les histoires nous ont rassemblés ; les livres ont diffusé nos idées et nos mythologies. L’internet nous a promis un savoir infini. L’algorithme a appris nos secrets, puis nous a retournés les uns contre les autres ».

Solution ? Une éthique à naître !

Intitulée « Politique de l’ordinateur », la troisième partie tente de voir quelles sont nos options pour conjurer le danger.

Le dilemme exposé ici est le plus contemporain possible : qu’est-ce qui, ces dernières années, a opposé les grandes familles politiques des États-Unis, démocrates contre républicains, puis a exporté cette déchirure dans le monde entier. Harari prévient : « Si nous ne parvenons pas à trouver ce qui a rompu, ni le moyen de réparer, le risque est élevé de voir nos démocraties de masse succomber à l’avènement des technologies de l’ordinateur ».

Et pas que nos démocraties : les dictatures-mêmes ont tout à redouter d’un algorithme qui sait tout sur elles, et tient en sa main leurs rênes de pouvoir. Consciente du danger, la Chine s’est dotée dès 2017 d’un « plan d’intelligence artificielle (IA) de nouvelle génération », visant à faire du pays d’ici 2030 le premier centre d’innovation d’IA. La même année à Moscou, Vladimir Poutine déclarait : « Quiconque devient le leader en IA, deviendra le maître du monde ».

Harari émet quelques suggestions pour préserver chez l’homme sa capacité décisionnelle sur l’IA. On entre ici en territoire inconnu, l’immense majorité des États étant placés sous des lois nationales. La première prescription d’Harari serait d’imposer la gratuité des services virtuels, au même titre que celle de la santé, de l’éducation, de la nutrition ou de la sécurité, et de considérer ces services de la toile comme des droits inaliénables. Il s’agirait donc d’imposer à la puissance publique, ou aux GAFAM des restrictions et contrôles sévères au droit de prélever et exploiter les données privées, et de chercher ailleurs les moyens de supporter le coût de maintenance de l’internet, dans toutes ses fonctions.

Il s’agirait de bannir les « trolls », les « bots », les fakes news, le hacking, et de rendre traçable toute nouvelle ou tout produit de l’internet. Harari évoque cinq principes d’une future éthique de la toile : la bienveillance (pour bannir la haine), la décentralisation (pour maintenir une multipolarité des services), une mutualité (pour surveiller les citoyens, mais aussi les corporations et les gouvernements), et un style de gouvernance bannissant les deux extrêmes de l’inflexibilité (dans la répression des fraudes) et d’une trop grande versatilité (pour prévenir des changements incessants dans les règles, au risque de ruiner la confiance de l’utilisateur dans un système « girouette »).

Ces recommandations peuvent résonner pieuses, abstraites, en tout cas hors de notre temps. C’est qu’elles n’existent pas encore et se revendiquent universelles, à l’opposé de notre quotidien normé dans nos frontières, selon des sensibilités et traditions nationales.

Mais telles quelles, les recommandations de Harari constituent une première réponse globale aux nouveaux dangers de l’internet. Elles décrivent le bouclier qui devra être rapidement construit pour protéger les libertés de nos enfants, tout en imposant la juste place de la toile et de l’IA, entre l’humain et les géants politiques, commerciaux et militaires. En ce sens, avec Nexus, Harari apparaît un prophète de notre avenir.

Ce n’est pas un mince paradoxe, chez un homme ayant consacré tant de temps et de pages à déshabiller les mythes et les prophètes !