Intelligence artificielle : des risques, mais pas de panique !

On parle beaucoup ces temps-ci de l’intelligence artificielle. Elle est présentée d’une part comme une avancée technologique irrésistible, qui devrait avoir un impact socioculturel considérable, et d’autre part comme une menace pour l’emploi, les droits fondamentaux et la dignité de la personne humaine. Peu de gens comprennent comment ça marche, mais il ne semble pas si difficile d’apprendre à s’en servir et les résultats sont "bluffants". Ce qui confère des pouvoirs redoutables à ceux qui savent tirer parti de cet instrument, et plus encore à ceux qui en contrôlent l’accès et le fonctionnement, avec le double risque d’en faire un moyen de domination égoïste et de transformer les utilisateurs en esclaves de cet outil tentateur.

Afin d’éviter toute emprise sur les individus dont les besoins et désirs exposés là peuvent être exploités, un encadrement existe déjà depuis une dizaine d’années (notamment en Europe avec le RGDP : Règlement général sur la protection des données). Et ces limitations sont régulièrement affinées et mises à jour, malgré l’opposition d’oligarques libertaires comme Elon Musk ou Peter Thiel. Les technophobes détracteurs de l’IA sont parfois appelés néo-luddites, en référence à un mythique Ned Ludd qui, à la fin du XVIII^e siècle en Angleterre, aurait brisé les nouvelles machines à tisser réduisant les ouvriers au chômage.

Le pape François a déjà mis en garde contre les dangers de l’IA, et son successeur Léon XIV l’a qualifiée de "défi anthropologique" dans son message pour la 60^e Journée mondiale des Communications sociales en janvier dernier. Il s’apprête à développer cette alerte dans une encyclique dont le titre (Magnifica humanitas) circule déjà et dont la publication est imminente. Il est à prévoir qu’il n’y sera pas uniquement question de l’IA et que le texte la situera dans une vaste perspective historique et morale, en une actualisation de la Doctrine sociale de l’Église inaugurée en 1891 par Rerum novarum de Léon XIII.

Pour accueillir cet enseignement du Magistère, il n’est probablement pas inutile d’avoir une idée pas trop vague de ce que permet l’IA. On peut dire qu’il s’agit de "robots conversationnels", c’est-à-dire de systèmes avec lesquels on échange sur son ordinateur ou son portable. On pose des questions ou bien on formule des demandes, et la réponse vient en langage immédiatement intelligible, en puisant dans d’énormes bases de données où le tri est fait, en fonction de leur pertinence formelle, par des algorithmes qui déterminent la succession des opérations de sélection et de combinaison propres à produire le résultat souhaité.

Il ne s’agit cependant pas de simples moteurs de recherche (comme Google ou Bing), car ce qui est livré n’est pas de l’information brute, mais des messages dans le langage de la requête et selon ses termes. De plus — et surtout —, cet interlocuteur virtuel a une "mémoire", fait des rapprochements avec des consultations antérieures plus ou moins analogues ou voisines, et peut soit insister et même relancer sur des sujets déjà abordés, soit cibler plus précisément sa production si on lui présente des exigences plus fines. Les retours sont toujours raisonnables, même si ce sont des esquives parce que la sollicitation outrepasse les compétences accessibles ou les convenances. 

C’est donc un dialogue qui s’instaure avec un assistant impersonnel, lequel, avec des ressources nettement supérieures à celles des humains et sans sautes d’humeur, imite efficacement toutes leurs fonctions cognitives : de la perception à la décision en passant par la mobilisation de connaissances, l’apprentissage, le raisonnement, l’adaptation, la communication et jusqu’à la création. Ce qui aide à régler bien des problèmes quotidiens dans la vie privée aussi bien que professionnelle, mais aussi intellectuelle et artistique :  l’IA peut suggérer des solutions, résumer un texte complexe, traduire dans une autre langue, écrire une lettre, un article, un roman ou un poème, générer de la musique, des images, des vidéos...

Il n’est pas difficile d’entrevoir les abus que permettent ces facilités. Ce qui est engendré est du réel sensible où le vrai et le faux ne sont plus séparables. Cela peut servir à manipuler l’opinion et à y creuser les divisions (puisque les algorithmes tendent à conforter préférences et préjugés). Par ailleurs, l’IA étant évolutive, ne pourrait-elle pas développer la logique qu’elle élabore jusqu’à occulter les besoins humains qui l’ont amorcée ? On n’est là pas si loin des dystopies de science-fiction où règne non pas une clique de savants surdoués et fous ou de super-robots androïdes, mais une rationalité close et aveugle, sans projet ni liberté.

Cette crainte est nourrie par le transhumanisme dont semblent rêver certains de ceux que les nouvelles technologies ont insolemment enrichis. À quoi s’ajoute la consommation (paraît-il effroyable) d’énergie qu’impose le stockage et le traitement de masses toujours croissantes de données. Tout cela suffit-il pour pousser à s’enrôler chez les technophobes ? Sans doute serait-ce paniquer un peu vite. L’IA peut incontestablement rendre des services, et les révoltes luddites n’ont pas empêché ni même freiné les progrès des savoir-faire et de l’industrialisation, qui restent toujours à contrôler.

Tout ce que l’IA a pu produire jusqu’à présent est de l’ordre de l’imitation — au pire du détournement ou du plagiat, et au mieux des pastiches. On l’a vu avec L’Astrologue ou les faux présages, une comédie récemment présentée, conçue à la Sorbonne et que Molière aurait pu écrire et monter, avec une intrigue et un texte tout à fait vraisemblables, et de surcroît une reconstitution impeccable de la scène et du décor, de la diction, du jeu et des costumes des acteurs, ainsi que de l’accompagnement musical. Tout cela instruit et divertit au meilleur sens du mot, mais n’apporte rien de véritablement sans précédent et a été produit non pas par l’IA d’un seul coup, mais avec elle au fil d’incessantes relances des animateurs de l’entreprise.

Cette aventure prouve la fécondité du génie de Molière, mais aussi que l’IA ne peut guère se passer de l’humain. Il serait encore difficile de lui faire produire une variante actualisée de la Chanson de Roland, d’Andromaque ou de La Recherche du temps perdu, de la Vénus de Milo, de la Joconde ou d’un opéra de Mozart. Il est en tout cas impossible que l’IA concocte un cinquième évangile substituable aux quatre de la Tradition, et la raison en est fort simple : c’est que les Écritures saintes contiennent déjà tout ce que Dieu entend révéler, de sorte que les suppléments ne sont pas à la hauteur (comme le confirment les décevants apocryphes). Pour autant, les destinataires de cette Parole ne sont nullement condamnés à un silence passif, comme en témoigne tout ce que la foi inspire dans les civilisations qu’elle imprègne.

L’IA fait donc partie des moyens disponibles qui tendent à imposer les fins qu’ils permettent d’atteindre. Dans les années 1960, le philosophe canadien (et catholique) Marshall McLuhan a montré qu’on en vient à regarder la télévision par addiction, et non pour s’informer ou se distraire. De même aujourd’hui, les manipulations du vivant (de sa naissance à sa mort) sont suscitées par les techniques utilisables. Il est à parier que la première encyclique de Léon XIV saura stimuler l’ouverture spirituelle qui donne de résister aux tentations d’ériger le possible a priori émancipateur en forcé abrutissant et liberticide.