L’encyclique du pape Léon XIV Magnifica Humanitas n’est pas tant une encyclique sur l’IA que sur la personne humaine : dans la droite ligne de son prédécesseur Léon XIII qui inaugurait une pensée chrétienne du travail et de la société à l’ère de l’industrialisation, Léon XIV entend poursuivre cette réflexion sur la personne humaine à l’ère de l’IA. Le chapitre 4 nous intéresse tout particulièrement : comment l’IA nous oblige-t-elle à revoir notre rapport à la vérité, au travail lui-même et à notre liberté ?
L'IA met à l'épreuve notre rapport à la vérité
Avec l’IA, de nouveaux comportements apparaissent : faute de compétence ou de temps, nombre de professionnels l’utilisent pour obtenir des analyses ou des rapports sur des sujets souvent très techniques qu’ils n’ont pas le temps de vérifier, ou encore dont ils méconnaissent les critères. Même lorsque le résultat paraît convaincant, il est souvent difficile de comprendre précisément comment l'IA est arrivée à cette conclusion : c'est ce que l'on appelle l'opacité algorithmique. En outre, même les résultats obtenus ne sont pas dénués "d’hallucinations", ces informations semblent plausibles, cohérentes, et paraissent convaincantes, alors qu’en réalité elles s’avèrent fausses, inventées ou "non sourcées" c’est-à-dire non fondées sur des données disponibles.
L'IA transforme notre rapport au travail
En faisant déjà mieux et plus vite, les tâches de bon nombre de professionnels — rédaction, analyse, traduction, codage… — l’IA remplace des emplois, notamment ceux des juniors, y compris dans les étapes d’apprentissage par lesquelles ils construisaient jusqu’à présent leur expertise. De même, l’lA fragmente le processus d’un travail dont le professionnel devient le dernier maillon. Par exemple, plutôt que d’élaborer un jugement à partir de données cliniques, la tâche du médecin hospitalier risque de plus en plus de se résumer à valider une recommandation. Ou encore, plutôt que d’organiser lui-même un texte, l’avocat collaborateur vérifie ou corrige ce que l’IA a produit : c’est l’IA qui tient la cohérence d’ensemble et le professionnel qui perd la main sur le tout. Enfin, l’IA déresponsabilise le professionnel, lorsqu’il devient l’exécutant d’une recommandation qu’il n’a pas formulée et dont il ne comprend pas toujours les fondements.
L'IA fragilise l'exercice de notre liberté
Léon XIV pointe "les nouvelles terres rares du pouvoir", la collecte systématique des informations, des traces laissées par nos navigations sur l’Internet, qui subtilement, orientent nos décisions, captent notre attention sans que nous en ayons conscience, "exploitant [nos] fragilités et affaiblissant [notre] liberté intérieure." En outre, il arrive qu’un professionnel délègue consciemment son jugement à un assistant algorithmique, perdant ainsi progressivement la capacité de juger par lui-même, ce qui peut conduire à une abdication de sa liberté.
Nous sommes devant un choix
N’allons pas conclure trop vite que Magnifica Humanitas est un manifeste technophobe : ce serait une grossière erreur. "Le premier devoir qui nous incombe est de ne pas diaboliser ni idolâtrer les outils, mais de les maîtriser" (MA, 137). Conscient de vivre un "tournant historique", Léon XIV commence par interroger — non pas l’IA — mais nous, personnes humaines, sur ce que nous voulons faire de notre vie :
Des questions décisives s’imposent à notre conscience, questions auxquelles on ne peut plus échapper : où allons-nous ? Vers quel but souhaitons-nous nous orienter ? Quelle direction choisir en tant que communauté humaine et en tant que peuples ? (MA, 6.)
Très riche, le texte aborde des réponses politiques, sociales, juridiques... Une question nous paraît décisive : l’IA peut-elle servir le bien commun ?
L’IA au service du bien commun
Certains s’étonneront en effet que l’encyclique ne comporte aucun exemple positif de l’utilisation de l’IA alors que les menaces y sont clairement exprimées. L’encyclique semble davantage une mise en garde qu’un encouragement. Pourquoi ? Léon XIV emprunte à son prédécesseur Paul VI une raison qui éclaire cette retenue : "Si les progrès scientifiques les plus extraordinaires, les prouesses techniques les plus étonnantes, la croissance économique la plus prodigieuse, ne s’accompagnent pas d’un authentique progrès social et moral, ils se retournent en définitive contre l’homme" (MA, 93). Cela revient à dire que l’IA n’est jamais neutre, que laissée entre les mains d’"acteurs privés, souvent transnationaux, dotés de ressources et de capacités d’intervention supérieures à celles de nombreux gouvernements… [elle est] d’autant plus difficile à cerner, à réguler et à orienter vers le bien commun" (MA, 5). Une IA au service du bien commun est toujours possible, mais l’absence de régulation publique nécessite notre vigilance.
