Bien qu’il soit avocat, on ne l’attendait pas là. Abel Quentin, né en 1985, s’est fait connaître depuis 2019 pour des romans qui ont connu un beau succès, de Sœur (2019) à Cabane (2024). Quelques jours avant la publication par Léon XIV de son encyclique Magnifica humanitas, l’écrivain a fait paraître, aux éditions de l’Observatoire, un essai aux accents pamphlétaires sur l’IA, Sanctuaires. Grâce au personnage de Michel Super, que l’on pourrait qualifier de technico-béat, ridiculisé, Abel Quentin invite à réfléchir sur la "situation très grave" qu’installe la prolifération de l’IA générative : "les milliards investis sonnent comme un encouragement au nihilisme, à la fuite en avant autodestructrice". "Je ne suis pas désespéré" assure celui qui estime que l’on "peut décider de la place de la technologie dans nos vies" à la suite du philosophe Jacques Ellul. Abel Quentin voudrait que le débat démocratique s’empare de la question. Nul doute qu’avec ses lignes sur les coûts de l’IA, sur la position des hommes politiques ou de l’Église, sur les fatalistes ou les patrons de la tech, il en suscite au moins un chez ses lecteurs.
Aleteia : Vous êtes avocat et romancier, pourquoi écrire un essai sur l’intelligence artificielle (IA) ?
Abel Quentin : Nous traversons une situation très grave. J’ai d’abord été troublé en réalisant, à l’occasion de conversations, qu’une hybridation avait lieu, à bas bruit, en littérature. Et qu’elle était acceptée, avec une forme de résignation, par mes interlocuteurs. Pourtant, cette hybridation n’est pas une nouvelle révolution esthétique, comme il en a déjà existé. Nous parlons de livres dont la paternité est partagée entre l’homme et la machine. Remarquez, je ne sais pas si j’aurais écrit ce livre si je n’avais pas d’abord publié Cabane [roman de 2024 sur le rapport Meadows et la croissance sans limite]. Il m’apparaît que nous commettons les mêmes erreurs qu’il y a soixante-dix ans, au début de la grande accélération qui nous a mené à la crise écologique.
L’IA change le visage de nos sociétés
Vous n’avez donc pas peur d’être illégitime ?
Ma légitimité est totale ! On a une espèce de déférence servile pour les experts en IA. Il faut rappeler deux choses : d’une part, l’IA change le visage de nos sociétés, et dépolitiser ce sujet, le laisser aux seuls experts serait un déni de démocratie extrêmement grave ; d’autre part, ceux à qui l’on donne la parole sont spécialistes du fonctionnement de l’IA, pas des domaines sur lesquels elle produits des effets, l’éducation par exemple. C’est pour cette raison que je prends volontairement, dans mon ouvrage, le contre-pied de cette déférence.
Pour être précis, Sanctuaires s’attache à l’IA générative (IAG), pour quelle raison ?
Parce que c’est avec l’IAG que l’humanité commence à dialoguer quotidiennement. L’IA la précède, elle était déjà bien présente : regardez les GPS. Avec l’IAG, il y a un changement anthropologique, les hommes dialoguent avec des machines qui imitent leur langage. Nous vivions parmi les machines. Désormais nous parlons avec elles, dans notre langue.
Quels sont donc les coûts "cachés" de cette IA générative ?
Dans Sanctuaires, j’en répertorie certes quelques-uns, mais il faudrait un livre bien plus long pour être exhaustif ! J’utilise notamment deux études du Massachusetts Institute of Technology (MIT) de mars et juillet 2025. L’une montre que l’IA, si elle est utilisée de façon intensive dans les travaux intellectuels, crée un risque de dette cognitive, soit une atrophie cérébrale. En outre, des scientifiques ont montré que le risque d’addiction aux robots conversationnels était plus élevé chez les individus les plus fragiles et les plus solitaires. Ils accentuent solitude et fragilité, selon un mécanisme de rétroaction particulièrement piégeux.
Il y a, plus profondément, un effet moral terrible, un signal de démobilisation.
Parmi les coûts, j’évoque également les conséquences dramatiques de l’IA sur notre milieu de vie. Transition écologie et développement exponentiel de l’IA sont simplement incompatibles. D’un côté, à juste titre, on nous demande de faire des efforts colossaux car la situation climatique est dramatique, des secteurs vitaux ont besoin d’électricité propre pour se décarboner, il y a une faillite hydrique… de l’autre, on capte de façon massive cette électricité et ces ressources pour alimenter le boom de l’IA générative bâtie sur de grands modèles de langage, dont l’utilité sociale est très discutable, voire négative. Il y a là quelque chose d’absurde !
Dit autrement – je prends cette comparaison dans mon livre – nous faisons le pari fou du joueur fauché : de toute façon, c’est foutu, alors autant investir massivement même si cela aggrave la situation, en espérant que la technologie en question nous permettra d’en sortir. L’effet de cette course en avant est mesurable, ce sont les coûts dont je viens de parler. Mais il y a, plus profondément, un effet moral terrible, un signal de démobilisation. Les milliards investis sonnent comme un encouragement au nihilisme, à la fuite en avant autodestructrice : maintenant, on ne fait même plus semblant et on roule en contresens sur l’autoroute, en klaxonnant.
Pourquoi se battre, alors que beaucoup disent : "de toute façon, elle est là", une formule qui vous agace ?
Mais elle devrait tous nous hérisser ! Elle rapproche l’IAG d’un phénomène météo dont il faut bien s’accommoder. Ce dogme du fait accompli est édicté par les mêmes qui prétendent que l’on peut s’affranchir des réalités géophysiques de la planète. Il y a là une intimidation qui n’a d’autre but que de nous empêcher de penser, et d’ouvrir un débat. Le discours sur l’inéluctable rétrécit le champ politique des possibles. Si l’on martèle que rien ne peut être modifié, la situation devient chaque jour moins modifiable. Au fond, l’argument est le suivant : la technologie a toujours procédé par inondation, elle se développera toujours au maximum des possibilités. C’est sans doute, en partie, une vérité de l’ère moderne, mais l’on peut aussi choisir de refuser ce qui avilit l’homme et détruit son milieu de vie. On l’a fait avec le clonage humain thérapeutique ou des produits phytosanitaires.
Peut-on vraiment s’opposer au progrès technique ?
On ne peut certes pas désinventer, mais, au prix d’un sursaut moral et citoyen, d’un effort énorme, on peut décider de la place de la technologie dans nos vies. Le philosophe Jacques Ellul, dont je parle abondamment dans mon livre, refusait le qualificatif de technophobe, mais était très critique à propos de ce qu’il appelait le "système technicien". Cette expression résonne avec le "paradigme technocratique" pointé par le pape François et son successeur – Dans ce système, le monde des machines s’autogénère, secrète lui-même sa croissance, en échappant à tout contrôle démocratique.
Elle produit de la solitude, enferme dans une bulle autistique, crée de l’addiction.
Il serait ridicule de faire un procès des machines ! Elles peuvent être efficaces et utiles. Mais elles ne sont pas neutres. La machine induit des usages. Elle favorise des usages plutôt que d’autres. Elle change nos représentations du monde. En théorie, on peut toujours imaginer que l’IAG soit utilisée comme une sorte de dialogue socratique, l’utilisateur gardant une distance critique. Certains parviennent peut-être à l’utiliser comme ça, mais cet usage n’a aucune chance de l’emporter collectivement. Il ne faut pas oublier que l’IAG est programmée pour créer une illusion anthropomorphique, piller les œuvres d’art… Elle produit de la solitude, enferme dans une bulle autistique, crée de l’addiction. Ce n’est pas un canevas, elle agit sur l’utilisateur.
Le titre de votre essai est une solution que vous proposez : créer des "sanctuaires"… pourquoi ce mot et en quoi consistent ces espaces de refuge ?
Ils visent à préserver la relation humaine et les conditions de la liberté, et aussi l’estime de soi, toutes ces choses qui sont en dessous des radars de M. Mensch [le cofondateur de Mistral AI, NDLR] et des autres. Trop humaines, et non mesurables. Le mot "sanctuaire" est polysémique. Cela peut être à la fois un lieu – et le premier auquel je pense est l’école, un âge de la vie – l’enfance, une œuvre d’art, un site internet, etc. L’idée est de revendiquer une fierté au lieu de vivre la compétition de l’IAG dans la tristesse, de transformer en joie cet effort. De réhabiliter les défauts de l’homme, sa lenteur, son imprécision, son imprévisibilité, et d’en montrer la richesse cachée. Comme écrivain, je m’engage auprès de mon lecteur à ne pas l’utiliser, mais en faisant cela je ne m’inflige pas une punition : je revendique une fierté. Prenons l’exemple des légumes bio sur un étal : ils ont des bizarreries, des excroissances, qui font leur beauté. De même, la forme de mon livre est imparfaite. Le sanctuaire n’est pas un asile ou un camp retranché, mais une maison sûre dans laquelle la parole est vivante, habitée.
Elle est avant tout un mensonge que l’usager se fait à soi-même.
N’est-ce pas illusoire de vouloir se battre contre les géants du numérique et le goût du moindre effort ?
Effectivement, ces machines font leur lit de notre paresse, de notre goût du court-terme, mais la satisfaction qu’elles procurent n’est pas durable. Elle est avant tout un mensonge que l’usager se fait à soi-même. Surmonter un obstacle ne produit pas une petite décharge de dopamine, mais un sentiment plus riche, plus profond, plus durable. Les IAG agissent comme un hélicoptère qui nous déposerait sur un sommet sans avoir à le gravir. Pourquoi des marcheurs prennent-ils encore la peine de fournir un tel effort ? Parce que cela leur procure une joie profonde. Ils en tirent un orgueil.
Cependant, voyez-vous des signes de réveil ?
Je ne suis pas optimiste, mais pas désespéré non plus. En lisant Bernanos, je me suis posé la question de l’optimisme. Au fond, l’optimiste est souvent un désespéré déguisé, qui essaye de se convaincre en répétant "ça va le faire". Je ne suis pas désespéré parce que je crois qu’il existe un terreau pour un débat politique. Enquête après enquête, en France et en Europe, à la question "est-ce que vous pensez que l’IA améliore la vie à long terme ?" les gens répondent négativement, même les jeunes. Il y a même des raisons d’espérer, par exemple lorsque l’on regarde une scène récente : à l’université d’Arizona, Éric Schmidt se fait huer par les étudiants lors de la remise des diplômes. Et l’ancien patron de Google de s’interroger, étonné : "Qu’est-ce qu’il se passe ?". Il ne comprend pas que les gens ne veulent pas aller à l’abattoir en sifflotant.
J’attends du Pape une parole sur le sujet, car il y a peu d’autorité qui parle comme lui, au-delà de ses frontières, avec un magistère moral.
Si cette industrie produit un chômage massif, comme le prédisent ses dirigeants eux-mêmes, nous pourrions imaginer que le désarroi se transforme en colère. Contrairement à ce que pense le monde politique, en grande partie largué, ce n’est pas une énième révolution technologique attendue par la majorité, célébrée sauf par une poignée de réfractaires. La ministre du numérique [Anne Le Hénanff, NDLR] ne cesse pas de répéter son catéchisme : si l’on émet des réserves, c’est que l’on n’a pas utilisé l’IA. Elle oublie que nombreux sont ceux qui l’utilisent et qui réclament, dans le même temps, une pause dans le déploiement de cette technologie. Il faut lire les sondages.
Vous parlez dans Sanctuaires du document Antiqua et Nova, publié par le Saint-Siège en janvier 2025 : pourquoi vous a-t-il déçu ? L’encyclique Magnifica Humanitas a-t-elle levé vos doutes ?
En effet, l’Église a évolué en très peu de temps. D’éducation catholique – quoique non-croyant – j’attends du Pape une parole sur le sujet, car il y a peu d’autorité qui parle comme lui, au-delà de ses frontières, avec un magistère moral. L’Église a évidemment quelque chose à nous dire sur l’ultime externalisation, qui est celle de la pensée. Dans mon livre, je critique le texte Antiqua et Nova, parce qu’il y a encore, dans ces lignes, un attachement à la neutralité de la technique. Certes, les auteurs mettent en garde contre les dangers de l’IA, évoquent le "paradigme technocratique" déjà mentionné, mais ils expliquent aussi que l’IA peut être un bien dont il faudrait seulement gommer les effets néfastes. Pour eux, toutes les IA peuvent devenir vertueuses, avec des règles de bonne conduite, de l’éducation, une régulation. Je ne partage pas ce point de vue.
Avec Léon XIV et son encyclique, l’Église franchit un nouveau palier dans la réflexion critique et sort du dogme de la neutralité morale. En revanche, ce n’est pas un texte très opérationnel, mais sans doute les encycliques ne le sont-elles jamais. Cela dit, le Pape a des mots extrêmement forts sur l’esclavage mental, la colonisation mentale, sur l’importance de ne pas considérer l’IA comme un sujet purement technique. Je reste sceptique sur le "désarmement" promu par Magnifica humanitas. J’y vois le refus de poser la question de la prolifération de ces machines alors qu’elles sont intrinsèquement vouées à rendre les utilisateurs accros. Il y a une mention du jeûne de l’IA, mais elle semble renvoyer à une démarche individuelle. Si Léon XIV avait dit qu’il n’est pas souhaitable que la technologie soit déployée de manière aussi massive, il aurait apporté un soutien moral à ceux qui pensent qu’il faut agir, par exemple les collectifs américains qui se battent contre l’installation de centres de données.
Il faut dire qu’il était assis à côté du cofondateur d’Anthropic, Christopher Olah, qui a développé l’IAG Claude…
Une image grotesque ! Imagine-t-on Léon XIII présentant Rerum novarum à côté d’Henri de Wendel ? Christopher Olah, qui met en avant une réflexion éthique sur l’IA, est presque pire que les Musk et les Altman [cofondateur d’OpenAI, à l’origine de ChatGPT, NDLR], dont l’irresponsabilité est presque revendiquée. À côté du Pape, Olah explique que les industriels et les ingénieurs du secteur ne peuvent pas faire autre chose que de pousser à fond chacune de leurs explorations ou de leurs conquêtes. En clair, il dit : c’est important qu’il y ait des gens qui se posent des questions éthiques pour nous, à notre place. J’y vois un niveau d’hypocrisie extraordinaire, puisqu’il se paye le luxe d’avoir bonne conscience en offrant son respect à l’autorité morale de Léon XIV. Dans le même temps, il vend ses produits aliénants et toxiques à des millions de gens… À tout prendre, je préfère le patron de Genario [une IAG pour écrire des scénarios, NDLR] qui dit clairement "je suis le complice de voleurs" !
