Dans son message pour la Journée mondiale de la paix, qui sera célébrée le 1er janvier 2024, le pape François exhorte la communauté internationale à “adopter un traité international contraignant” pour réglementer le développement et l’utilisation de l’intelligence artificielle (IA). Au fil de son texte publié le 14 décembre 2023, le Pape s’inquiète longuement des dangereuses répercussions de l’essor technologique sur l’humanité, notamment en termes de discrimination, d’inégalités, et de conditionnements.
Pas de “rejet technophobe”
Dans ces vœux de Nouvel An adressés aux catholiques, mais aussi aux dirigeants du monde, le 266e pape se réjouit du “progrès des sciences” reconnaissant “les extraordinaires avancées”, qui ont permis de pallier “d’innombrables maux qui affligeaient la vie humaine”. Pas de “rejet technophobe” chez le pontife argentin, a souligné l’expert français Mathieu Guillermin, maître de conférences de l’Université Catholique de Lyon, en présentant le message lors d’une conférence de presse au Vatican.
Mais le pape François s’inquiète des conséquences de “l’immense expansion” des intelligences artificielles et de leurs algorithmes. Pour le Saint-Siège, cette réalité représente “peut-être le pari le plus risqué de notre avenir”, a estimé le cardinal Michael Czerny, préfet du dicastère pour le Service du développement humain intégral.
Le Pape redoute particulièrement l’absence de médiation humaine dans les systèmes d’IA utilisés pour déterminer “la fiabilité d’un demandeur de prêt bancaire, l’aptitude d’un individu à un emploi, la possibilité de récidive d’une personne condamnée ou bien le droit à recevoir l’asile politique ou l’aide sociale”. Il craint “des formes de préjugés et de discriminations”, et des “erreurs systémiques” qui provoqueraient “de véritables formes d’inégalités sociales”.
La nécessité d’un encadrement
Dans ce texte de sept pages publié en huit langues, le chef de l’Église exhorte particulièrement la communauté internationale à travailler “afin d’adopter un traité international contraignant qui réglemente le développement et l’utilisation de l’intelligence artificielle sous ses multiples formes”. Il souhaite aussi la création d’organismes “pour examiner les questions éthiques émergentes” et protéger les droits des utilisateurs.
L’encadrement de l’IA est un thème sur lequel se penche en ce moment le Comité sur l’intelligence artificielle (CAI) du Conseil de l’Europe. Les Nations unies viennent quant à elle d’annoncer la mise en place d’un comité de haut niveau consacré à l’IA.
Pour le pape, il s’agit de “ne pas laisser [l’IA] aux propriétaires et aux développeurs”, a expliqué le cardinal Czerny. Car, écrit François, “les innovations technologiques ne sont ni désincarnées de la réalité ni neutres”, et l’on ne peut pas “supposer a priori” qu’elles seront
“bénéfiques”.
Menaces dans tous les domaines
Alors que les nouveaux outils modifient déjà “d’innombrables […] aspects de la vie quotidienne”, les défis sont “techniques, mais aussi anthropologiques, éducatifs, sociaux et politiques”, martèle François. Il met en garde contre l’utilisation des “traces numériques” laissées par tout usager d’internet pour “contrôler les habitudes mentales et relationnelles des personnes, souvent à leur insu, à des fins commerciales ou politiques, en limitant l’exercice conscient de leur liberté de choix”.
Face au développement technologique, il craint les “campagnes de désinformation”, “l’ingérence dans les processus électoraux, la mise en place d’une société qui surveille et contrôle les personnes, l’exclusion numérique et l’exacerbation d’un individualisme de plus en plus déconnecté de la collectivité”.
Évoquant par ailleurs les “machines qui apprennent par elles-mêmes” – machine
learning, comme le fameux ChatGPT – le pape prévient que “la capacité de certains appareils à produire des textes syntaxiquement et sémantiquement cohérents […] n’est pas une garantie de fiabilité”. “Tout ne peut pas être prédit, tout ne peut pas être calculé”, insiste-t-il aussi.
Garantir la supervision des armes autonomes
“Ce sont les intelligences artificielles à des fins de guerre qui nous font le plus peur”, a confié le cardinal Czerny devant la presse. “Le monde n’a pas vraiment besoin que les nouvelles technologies contribuent au développement injuste du marché et du commerce des armes”, peut-on lire ainsi dans le message du pontife.
Le pape François demande “de garantir une supervision humaine adéquate, significative et cohérente des systèmes d’armes” létales autonomes, qui “ne pourront jamais être des sujets moralement responsables” et qui risquent même de faciliter “des attaques terroristes”.
Le sens de la limite et l’éducation critique
Dans le domaine de l’IA, le pape François plaide pour “une formation appropriée à la responsabilité”. Il enjoint particulièrement à éduquer les jeunes, “imprégnés par la technologie”, à une “pensée critique”.
Le successeur de Pierre regrette que la mentalité actuelle néglige “le sens de la limite”. Et d’avertir : “L’être humain, […] pensant dépasser toutes les limites grâce à la technique, risque, dans l’obsession de vouloir tout contrôler, de perdre le contrôle de lui-même ; dans la recherche d’une liberté absolue, de tomber dans la spirale d’une dictature technologique”.
Pour ne pas laisser les algorithmes “déterminer la manière dont nous entendons les droits humains”, ni “mettre de côté les valeurs essentielles de compassion, de miséricorde et de pardon”, il appelle “un développement éthique des algorithmes – l’algor-éthique”. Les valeurs, pour le pape, doivent orienter la recherche et toutes “les phases d’expérimentation, de conception, de production, de distribution et de commercialisation”.
La fête du jour