La vérité ne sort pas directement des algorithmes

Comment s’est faite cette collaboration à deux, ou, plus exactement, « à trois » ?
Nous parlons en effet de « tiers auteur » dans le livre. Ces pages ne sont pas une juxtaposition de points de vue mais un croisement. Pierre Giorgini est du côté du « faire pour connaître » ; je me situe plus du côté du scientifique classique : « connaître pour faire ». Les deux approches sont précieuses pour affronter la question du numérique qui nous entraîne, lui, vers le « prédire pour faire ». 

Rappelez-nous ce qu’est un algorithme avant d’en venir au cœur du sujet ?
Le mot d’algorithme est très ancien. Un Persan du IXe siècle, le premier, l’a employé. Dès Euclide, néanmoins, il y avait déjà des algorithmes. Ce sont des procédés et des suites d’instructions pour résoudre un problème. Ils sont aujourd’hui montés avec des logiciels à l’intérieur de systèmes informatiques. 

Qu’appelez-vous « civilisation de l’algorithme » ?
La civilisation de l’algorithme désigne le fait que les mentalités sont transformées par le numérique avec des machines dites « apprenantes » (évolution des algorithmes au fur et à mesure de l’expérience machine), notamment dans le cadre du traitement des données massives (les fameuses big data) par l’« intelligence » artificielle (IA). Le rapport au réel et à la vérité prédite s’en trouvent changé. C’est aussi notre rapport aux évènements, aux autres et au sens de la vie qui en est modifié. Des outils aussi formidables ne sont pas sans danger, notamment par ce qu’ils peuvent générer comme fantasmes de toute-puissance. La vérité, contrairement à ce que pensent certains, notamment parmi les courants transhumanistes, ne sort pas des algorithmes. L’enjeu est donc de rester maître de l’IA, du big data et autres algorithmes sans y renoncer. Nous sommes deux technophiles, mais nous sommes des technophiles vigilants ! 

Vous estimez dans votre livre que nous allons vers cette civilisation de l’algorithme. N’y sommes-nous pas, néanmoins, déjà entrés ? 
Le point d’interrogation du titre est une réponse à votre question. Nous sommes déjà en partie dans cette civilisation mais il existe aussi des réactions salutaires aujourd’hui. Une ancienne cadre de Facebook vient d’intenter un procès à son ancienne entreprise en déclarant que les algorithmes et le classement des données étaient volontairement propices aux addictions. Le rapport Villani de 2018 nous demandait, pour sa part, de développer simultanément l’intelligence artificielle et l’éthique de son utilisation. La France et l’Europe me semblent bien placées pour remplir cet objectif d’un regard critique afin d’éviter le plein déploiement de la civilisation de l’algorithme.

Que changent les sciences et les technosciences du XXIe siècle dans le rapport à la vérité scientifique ? 
Jusqu’ici, le scientifique avait des théories et des hypothèses qu’il essayait de valider par des expériences critiques. Il s’appuyait sur des équations mathématiques reliées aux lois de comportement des systèmes qu’il étudiait. Mais la complexité des systèmes étudiés, en particulier les systèmes vivants (l’organisation des groupes humains par exemple) ne permet pas de prévoir par les lois mathématiques car trop de paramètres sont en interaction dans un système complexe. La numérisation et la simulation numérique, utilisées depuis très longtemps, permettent de dépasser cette limite, tout en restant basées sur des lois physico-mathématiques. Grâce à la puissance de calcul et au système d’informations dans lesquels les algorithmes œuvrent, la prédiction devient alors supérieure aux possibilités du cerveau humain. Ainsi a-t-on vu le champion du monde du jeu de go être battu par une machine. Il n’y a là rien de dramatique. Dans le traitement des big data par l’IA, en revanche, on numérise directement des données pour que la machine fasse des traitements statistiques, excluant ainsi le souci des causes au profit des seules corrélations. Cela peut être très utile mais n’en demeure pas moins périlleux d’un point de vue « vérité scientifique » : souvent, nous n’avons pas les conditions pour tester les futurs possibles fournis par la machine et nous ne pouvons donc pas faire les expériences critiques, pourtant indispensables. 

Vous parlez de l’oubli des « causes » dans les systèmes numériques au profit des corrélations. Ne cherchez-vous pas à préserver aussi bien la science que l’éthique ?
C’est cela pour la vérité scientifique. Notre questionnement éthique sur le libre-arbitre, la liberté personnelle et la liberté collective est très redevable à l’anthropologie chrétienne. Quand on regarde le comportement d’une bactérie, il est marqué par une formidable capacité d’adaptation tant elles ont traversé les siècles. Il y a donc une « intelligence » du vivant. Le nec plus ultra est d’avoir un système algorithmique à l’image de la capacité d’adaptation de la bactérie ; mais appliquer cela à un groupe humain est problématique car le groupe humain est d’abord fait pour vivre et non pas pour survivre comme la bactérie.  Plus généralement, puisque, pour le numérique, tout est de l’information codable, y compris l’humain, il ne subsiste plus alors aucune différence de fond entre les êtres et les choses, entre les bactéries, les animaux et les hommes. On en revient donc aux questions de toujours : qu’est-ce que l’Homme ? Quelle est sa destinée ?

Sur quels fondements autres que l’anthropologie chrétienne vous appuyez-vous pour montrer la complexité de l’humain ?
En plus de l’anthropologie chrétienne, nous nous appuyons aussi dans ce but sur les sciences du  vivant (la biologie et les neurosciences). Elles nous apprennent que le biologique est intimement lié au psychisme et même au spirituel, la pratique de la méditation modifiant par exemple le cerveau. Il y a une partie de machinerie dans tous les métabolismes biologiques mais elle est loin d’être suffisante. L’humain est en vérité tridimensionnels : « corps, âme et esprit ».

Votre mise en garde ne revient-elle pas à dire ceci : il ne faut pas que l’homme devienne l’esclave du numérique ?
Certes, et nous ne sommes pas les seuls à dire cela. On essaie cependant d’approfondir le rapport à la vérité. Que le numérique créé de l’addiction, cela était déjà le cas de la télévision jadis et l’on sait l’ancienneté du phénomène de l’addiction aux jeux. Cependant, avec la naissance d’une civilisation de l’algorithme, ce ne sont pas seulement nos addictions qui sont remodelées, mais nos mentalités et la démocratie comme on a pu le voir avec le scandale Cambridge Analytica [une fuite de données d’utilisateurs de Facebook, Ndlr] ou comme on le voit avec toutes les cyberattaques maintenant. Plus globalement, c’est aussi l’homme qui risque de perdre sa condition dans la civilisation de l’algorithme. Les machines sont de plus en plus humanisées sous la forme de robots humanoïdes, très souvent basés sur des traitements de données par intelligence artificielle non supervisée ; l’humain, en retour, est machinisé en étant réduit à de l’information codable comme n’importe quelle machine, une machine souvent défaillante en quelque sorte puisqu’il ne serait même pas aussi efficace qu’une machine sophistiquée ! 

En quoi l’écologie intégrale est-elle précieuse pour tirer le meilleur des changements en cours ?
Elle rebat les cartes sur le sens du progrès et nous met en face de défis énormes que les algorithmes ne pourront jamais résoudre à eux seuls. Outre que le numérique consomme beaucoup d’énergie, il réduit les choses et les êtres à de l’information codable. La crise écologique nous montre pourtant que « tout est lié » : écologie environnementale et écologie humaine vont de pair dans le monde complexe, bien au-delà des informations codables ! Sans oublier la prise en compte des plus pauvres et des plus démunis. Cette toile de fond écologique repose, donc, les questions éthiques : notre regard sur la vérité, sur notre action pour améliorer la condition humaine et notre relation à la nature, ainsi que notre rapport à la démocratie qui doit être plus participative. 

Vous proposez sept contreforts éthiques issus de la pensée sociale chrétienne : quels sont-ils ?
Contre le risque de déshumanisation par le numérique, il y a la promotion de l’humain en tant qu’être biologique, psychosocial, relationnel et spirituel et l’unicité de l’humain comme personne humaine et comme groupe. Nous soulignons aussi l’importance d’une commune vigilance face au numérique, de la participation, point clé de la doctrine sociale de l’Église, et du libre-arbitre en tant que base de la construction sociale. S’ajoutent à cela la prise en compte des plus démunis, pierre d’angle de l’éthique avec un regard chrétien, et de la santé à laquelle le numérique peut largement contribuer s’il demeure à sa place d’outil contrôlé par l’homme. Il y a, encore, la sauvegarde de la maison commune tant le numérique est énergivore. Au-delà des principes de la doctrine sociale de l’Eglise, nous alertons, par ailleurs, sur la difficulté que nous avons aujourd’hui à nous poser la question du mal. Nous voulons ainsi répondre à l’appel du pape François à un véritable progrès, c’est-à-dire un progrès qui permette l’épanouissement de tout humain. Sans résoudre toutes les difficultés, nous donnons modestement dans ce livre des sous-bassement permettant à chacun, chrétien ou non, de creuser des pistes. 

Propos recueillis par Laurent Ottavi.

Vers une civilisation de l’algorithme ?, par Thierry Magnin, Pierre Giorgini, Bayard, octobre 2021.