Intelligence artificielle : les trois points non négociables pour le pape François

Pour le Pape, "l'utilisation même du mot “intelligence” est trompeuse", comme il l'a affirmé dans son dernier message pour la Journée des communications sociales. "Les machines possèdent certes une capacité incommensurablement plus grande que l’homme à mémoriser les données et à les relier entre elles, mais c’est à l’homme et à lui seul qu’il revient d’en décrypter le sens", insiste-t-il. Il invite dès lors à "réveiller l’homme de l’hypnose dans laquelle il tombe du fait de son délire de toute-puissance, se croyant un sujet totalement autonome et autoréférentiel, séparé de tout lien social et oublieux de son statut de créature". Dans son message pour la paix de 2024, le pontife a aussi insisté sur les limites de ces nouvelles technologies : "tout ne peut pas être prédit, tout ne peut pas être calculé". Et a ajouté que "la représentation de la réalité en méga données, aussi fonctionnelle soit-elle pour la gestion des machines, implique une perte substantielle de la vérité des choses".

Si le pape réfute toute posture technophobe, considérant que les nouvelles technologies, dont l'intelligence artificielle, ont la capacité d'améliorer grandement la vie des personnes, il déplore pour l'heure "que les données recueillies jusqu'à présent semblent indiquer que les technologies numériques ont contribué à accroître les inégalités dans le monde". Il s'est par exemple beaucoup inquiété de l'utilisation de l'intelligence artificielle dans le domaine militaire - par exemple avec l’emploi des robots-tueurs - ou dans le domaine de l'information, mettant en garde contre les graves erreurs et manipulations potentielles. Il a aussi pointé du doigt les formes de discriminations, voire de "contrôle social" résultant de l'emploi massif de l'intelligence artificielle dans des "processus automatiques qui catégorisent les individus". Il s’est par exemple inquiété qu'une intelligence artificielle puisse déterminer si une personne peut ou non recevoir un prêt bancaire.

Dans un autre domaine, le pontife alerté sur la destruction rapide d'emplois par les applications industrielles de l’intelligence artificielle, signe d'une société où s'aggravent les inégalités. Foncièrement opposé à ces dérives, fruit d'une vision anonyme de la technologie, il défend donc une intelligence artificielle capable de donner à "chaque être humain le rôle de sujet". Et alors qu’on l’invite pour parler sur l’IA lors du sommet du G7, il a confié à des prêtres vouloir poser cette question aux chefs d’État : "comment se porte votre intelligence naturelle ?"

Le pape François a salué les récents efforts déployés par certaines organisations internationales pour réglementer ces technologies "afin qu'elles promeuvent un véritable progrès, c'est-à-dire qu'elles contribuent à un monde meilleur et à une qualité de vie intégralement supérieure". Il insiste sur la nécessité d’arriver à un accord contraignant au niveau universel. Reconnaissant qu'il "ne sera pas facile de parvenir à un accord dans ces domaines", il a demandé au Saint-Siège de produire une charte éthique pouvant servir à établir des principes essentiels, ce qui a abouti en 2020 à l'Appel de Rome pour une éthique de l'intelligence artificielle, paraphé par des géants du numérique IBM, Microsoft (actionnaire de OpenAI, ndlr.) et Cisco. Ce texte demande la mise en place de systèmes transparents, impartiaux, inclusifs et fiables, appelle à ce que la vie privée des utilisateurs soit protégée et exige que les créateurs d'IA assument leur responsabilité.