Deep fake, chatbot… six fois où des catholiques ont été abusés par l’IA

En janvier 2024, dans un long discours adressé aux médias et communicants, le pape François avait manifesté un certain nombre d'inquiétudes concernant l'intelligence artificielle, ciblant en particulier le problème du "deep fake" - un trucage très réaliste généré via l'IA - qui "fausse le rapport à l'autre et à la réalité". "Il m'est arrivé aussi d’en être l’objet", avait-il noté. De fait, un an plus tôt, une photo truquée représentant François avec une longue doudoune blanche, inspirée de la marque de mode Balenciaga, avait constitué un des premiers succès médiatiques en matière de génération d'image par l'IA. Le cliché a été partagé plusieurs centaines de milliers de fois. 

On sait aujourd'hui qu'elle a été réalisée par un certain Pablo Xavier, 31 ans, après que ce résident de Chicago a ingurgité des champignons hallucinogènes. L’individu a assuré ne pas vouloir de mal au Pape, mais seulement souhaiter tromper et divertir les utilisateurs d'un forum sur Internet.

Créer des fausses images du Pape, pendant plusieurs semaines, est même devenu une tendance, poussant le New York Times, dans un article publié le 8 avril 2023, à s'interroger sur la raison pour laquelle le Pape était devenu la "star des photos générées par l'intelligence artificielle". Verdict : il s'agirait plus d'un signe d'appréciation du Pape, doublé d'une volonté de créer une forme d'incongruité comique à partir de son statut connu par tous, que d'une volonté de lui nuire.

Mais depuis, des détournements plus problématiques de l'image du pape François n'ont pas tardé : c'est le cas par exemple quand la fausse image devient information, par exemple pour surestimer la présence de jeunes lors des JMJ de Lisbonne. Et le problème peut aussi avoir une dimension politique, comme quand une photo a été diffusée représentant le Pape avec sur ses épaules un drapeau arc-en-ciel, pour laisser penser qu'il célébrait le "mois des fiertés", un événement de promotion des idées LGBT.

Ces détournements ne touchent pas que le Pape. En mai dernier, Mgr Joan-Enric Vives, évêque espagnol du diocèse d'Urgell en Espagne et Andorre, avait dénoncé une usurpation d'identité après avoir découvert une vidéo publiée sur Instagram. Dans ce clip généré par l'intelligence artificielle, on le voyait inviter à acheter les actions d'une entreprise pétrolière. L'institution avait un temps envisagé des poursuites judiciaires.

En janvier, le cardinal Carlos Aguiar Retes, archevêque de Mexico, avait lui aussi tiré la sonnette d’alarme après la diffusion d’une vidéo dans laquelle il affirmait avoir été guéri par un médicament miraculeux. L’archidiocèse de la capitale mexicaine avait immédiatement mis en garde la population contre cette tromperie. 

Mais l'intelligence artificielle ne se limite pas à la génération d'images. Elle concerne aussi la création de texte, et sur ce point l'expérience de la première "intelligence artificielle prêtre" est particulièrement éclairante. Lancé en avril dernier par Catholic Answers, une ONG dépendant du diocèse de San Diego aux États-Unis, "Father Justin" était une interface proposant d'engager une conversation avec les utilisateurs comme si un prêtre répondait aux questions.

Se présentant parfois comme un prêtre vivant à Assise en Italie, ce "bot" arborant un col romain a cependant rapidement été défroqué après des réponses inappropriées : il a ainsi autorisé un utilisateur à baptiser son enfant avec une boisson énergisante, ou donné l'absolution à un autre qui confessait ses péchés.

Après avoir reçu de nombreuses plaintes, “père Justin” est finalement devenu Justin, un "théologien laïc" arborant désormais une simple veste de costume. Catholic Answers a tenu à prévenir ses utilisateurs : son IA a un but strictement éducatif et ne "remplace pas une véritable interaction humaine".