Le Vatican multiplie les mises en garde à propos de l’IA

Le Pape n’aurait pas pu trouver un meilleur exemple pour illustrer le risque que peut représenter l’Intelligence artificielle (IA). Ces derniers jours circule sur les réseaux sociaux une vidéo du cardinal mexicain Américo Aguiar vantant les mérites d’une solution miracle pour lutter contre… le diabète. Debout dans son bureau et en tenue de cardinal, l’archevêque de Mexico y fait la promotion d’un médicament qui lui aurait permis de vaincre la maladie. Mais dans les faits : tout est faux, la vidéo du cardinal n’étant rien d’autre qu’une ‘deep fake’, un trucage réalisé au moyen de l’intelligence artificielle. L’entreprise pirate a simplement agi en détournant la vidéo des vœux du cardinal de Noël dernier…

L’affaire n’est pas anecdotique. Et le Saint-Siège en a pleinement conscience. En l’espace de trois semaines, le pape François a publié deux textes majeurs sur les défis que lance à l’humanité l’intelligence artificielle. Le premier porte sur la paix. Il a été publié pour le 1er janvier dans un message qui, traditionnellement, exprime les préoccupations les plus vives du plus petit État du monde. Pour le chef de l’Église catholique, ce développement technologique fulgurant fait craindre un ensemble de maux pour l’humanité, comme les "campagnes de désinformation", "l’ingérence dans les processus électoraux, la mise en place d’une société qui surveille et contrôle les personnes, l’exclusion numérique et l’exacerbation d’un individualisme de plus en plus déconnecté de la collectivité". 

Descendant toujours plus dans le concret de la vie de millions de citoyens, le Pape redoute le fait que l’IA puisse désormais déterminer "la fiabilité d’un demandeur de prêt bancaire, l’aptitude d’un individu à un emploi, la possibilité de récidive d’une personne condamnée ou bien le droit à recevoir l’asile politique ou l’aide sociale". "Ce sont les intelligences artificielles à des fins de guerre qui nous font le plus peur", nous confiait le cardinal Czerny lors de la présentation du message du Pape à Rome. Ce dernier demande d’ailleurs à la communauté internationale "de garantir une supervision humaine adéquate, significative et cohérente des systèmes d’armes" létales autonomes, qui "ne pourront jamais être des sujets moralement responsables". Plus largement, il réclame l’adoption d’"un traité international contraignant" pour réglementer le développement et l’utilisation de l’IA.

La deuxième “salve” du Pape est intervenue le 24 janvier, jour de la saint François de Sales, patron des journalistes et des communicants. Dans une longue réflexion sur l’intelligence artificielle et ses effets sur la communication et la société, il pointe du doigt le "spectre d’un nouvel esclavage" et s’alarme contre la "possibilité que quelques-uns conditionnent la pensée de tous". "C’est à l’homme de décider s’il veut devenir la nourriture des algorithmes ou nourrir son cœur de liberté, sans laquelle on ne grandit pas en sagesse", insiste-t-il.

Ces vives alertes concernant l’IA sur l’humanité ne font cependant pas de l’Église une institution qui rejette par définition le progrès technique. Le Pape invite d’ailleurs à ne pas se "raidir contre le nouveau", mais plutôt à "orienter dans le bon sens la mutation culturelle en cours", estimant que l’époque est certes "riche en technique" mais "pauvre en humanité". 

Venu à Rome pour présenter le message du Pape sur la paix, le Français Mathieu Guillermin, maître de conférences de l’Université Catholique de Lyon, ne perçoit pas non plus chez le Pape un "rejet technophobe", lui qui est capable de se réjouir aussi d’"extraordinaires avancées" qui ont permis de pallier "d’innombrables maux". Le Vatican n’est pas non plus naïf sur le futur de l’Intelligence artificielle, qui continuera inévitablement d’apporter de "profonds changements dans la vie des êtres humains", écrivaient en 2020 les signataires de l’Appel de Rome pour une éthique de l’IA, une déclaration rédigée sous l’impulsion de l’Académie pontificale pour la vie. 

Parmi les signataires de ce document prônant le développement de technologies plus transparentes, inclusives, socialement bénéfiques et responsables, on retrouvait les entreprises Microsoft et IBM ou encore l’Organisation des Nations Unies pour l’alimentation et l’agriculture (FAO). Quelque 200 universités, entreprises et industries du secteur l’ont aussi approuvé. Mgr Vincenzo Paglia, le président de cette académie, s’active pour faire connaître les principes de cette déclaration pour une "bonne innovation". Arrivé dimanche en Inde, il effectue par exemple cette semaine une série de rencontres pour présenter l’Appel de Rome et stimuler la réflexion dans ce pays qui compte près de 700 millions d’internautes sur une population mondiale de plus d’1,4 milliard. 

Au Vatican, d’autres institutions participent à cet élan de réflexion sur l’IA, comme le dicastère pour la Culture et l’éducation et son département consacré à la culture numérique, le dicastère pour le Service du développement humain intégral, ou bien encore  l’Académie pontificale des sciences sociales qui a à sa tête la dominicaine Helen Alford, experte en éthique des affaires passée par Cambridge.