Dans l’ombre de l’IA, les sacrifiés du “long-termisme”

Les promesses apportées par le développement de l’Intelligence artificielle (IA) dans de nombreux domaines laissent entrevoir d’immenses progrès, déjà à l’œuvre, dans des domaines essentiels, comme celui de la santé. Nous vivons un changement d’époque marqué par d’immenses enjeux, où tout est possible. Le pire, comme le meilleur. Le monde de la "tech" et de l’IA est complexe, puissant et pour nombre d’entre nous, assez mystérieux. Or, quand certaines sombres réalités, cachées dans les angles morts de ses mythes et de sa belle histoire émergent, il faut oser les approcher.

L’idéologie long-termisme est l’un des courants de pensée qui anime une partie de l’univers de la recherche en IA, comme dans la Silicon Valley, par exemple. Ce nouveau courant philosophique en vogue, en particulier dans le monde anglo-saxon, défend l’idée que la priorité morale d’aujourd’hui serait de se concentrer sur l’avenir lointain, de penser à toutes les vies futures à améliorer voire à sauver, qu’importe le prix à payer, aujourd’hui. Au fond, cette idéologie portée à son extrême considère qu’il faut penser loin, très loin, et peut se résumer par : "La fin justifie les moyens…" Que vise-t-elle ? Tout simplement, à imprimer dans notre culture et nos modes de pensée l’idée qu’il existe de bonnes raisons qui justifient et excusent les considérables dégâts humains et environnementaux contemporains — qui accompagnent inexorablement le développement de nouvelles technologies, comme l’IA — au nom d’un plus grand bien à venir.

Le long-termisme est la dernière idée d’un autre mouvement social : "l’altruisme efficace", dont les fers de lance sont des penseurs "conséquentialistes", qui jugent la valeur morale d’un acte au seul résultat qu’il produit. Parmi les préoccupations des long-termistes, il y a l’amélioration du bien-être et des conditions de vie des générations futures, et la question de la survie même de l’espèce humaine. Pour rassembler divers courants de pensée qui cohabitent, se contredisent ou s’alimentent, et qui trouvent racine dans la pensée eugéniste, certains penseurs ont créé l’acronyme TESCREAL qui réunit le T de transhumanisme (améliorer l’espèce humaine grâce à aux biotechnologies et aux technologies numériques, le E de extropianisme (soit la foi en une organisation croissante des systèmes par la science et les techniques, fondée sur un progrès supposé illimité de celles-ci), le S de singularitarisme (la croyance en l’avènement d’une technologie surpuissante), le C de cosmisme (un courant de pensée russe qui consiste à vouloir vaincre la mort grâce au cosmos), le R de rationalisme (le fait de considérer que la raison est la seule source d’accès à la connaissance), le A de altruisme effectif (soit le fait de considérer qu’il faut réserver l’altruisme à ceux qui en valent la peine) et enfin le L de long-termisme.

Comme exemple concret, je prendrai celui qui est au cœur du documentaire édifiant : Les sacrifiés de l’IA, dévoilé cette semaine sur France 2, en plein Sommet mondial pour l’action sur l’Intelligence Artificielle. Ces "sacrifiés", ce sont ces millions de personnes, des data workers [travailleurs de données, Ndlr], qui travaillent en coulisse pour "alimenter" les IA, et dont la majorité vit dans des pays pauvres du Sud, comme le Kenya. Certaines personnes incarcérées dans des pays du nord sont également concernées. Ces populations, fragilisées par leurs conditions de vie, sont des cibles privilégiées. Elles sont payées une misère pour effectuer un travail éprouvant, abrutissant, harassant, souvent dénué de sens, et parfois même traumatisant. En effet, "la bête", l’IA, a faim. On l’ignore souvent, mais pour qu’elle existe et devienne fonctionnelle, pour qu’elle "imite" les réactions d’un être humain et nous soit utile, l’IA a tout à apprendre. Tout. Or, seuls des humains peuvent lui apprendre comment pense un humain. Une machine n’a pas de pensée, elle calcule. Elle n’a pas de sens moral, elle fait des statistiques. Elle n’a pas d’émotions, elle a des paramètres. Elle n’a pas de corps, ni aucun de nos cinq sens, elle ne souffre pas. Elle n’aime pas. Elle mouline. Elle vit d'algorithmes et se nourrit de datas à l’infini…

Ainsi, on estime qu’il y a entre 150 et 430 millions de data workers dans le monde. La plupart constituent une somme de travailleurs qu’on peut douloureusement qualifier d’esclaves modernes. Ils passent leur vie, leur énergie, perdent parfois leur santé, surtout leur santé mentale, à commenter des images, des textes, à répondre à des questions pointues ou abrutissantes. Ils qualifient, classifient… Qu’importe qu’ils soient ou non spécialistes des sujets qu’on leur met sous les yeux. Ce n’est pas la qualité d’analyse qui compte, mais la quantité. Des centaines d’êtres humains répondent aux mêmes choses, c’est ainsi qu’on dompte l’IA qui deviendra capable de développer une réponse statistique aux questions, qui s’approchera le plus de ce qu’aurait répondu un humain. Et parmi tout ce qu’il y a à analyser… entrent aussi les pires cruautés dont l’être humain soit capable. Des data workers sont ainsi condamnés à visionner, commenter, qualifier des images et même des vidéos bien réelles de meurtres, morts, cadavres, violences sexuelles, pornographie, pédo-criminalité, zoophilie. C’est toute l’horreur que dévoile le documentaire en question.

Face à ce contenu violent et toxique, la souffrance est bien réelle. Dépression, anxiété, insomnies, cauchemars, stress post-traumatique. Certains ne s’en relèvent pas. Ces travailleurs sont exploités, dans des endroits où la précarité est massive et où les moyens de gagner de quoi survivre sont rarissimes. C’est ainsi que les pays pauvres se retrouvent avec tout ce contenu toxique dont personne ne veut. Et bien sûr, leurs employeurs (les géants de la tech ou des plateformes prestataires intermédiaires) n’ont que faire de les protéger, de leur offrir un accompagnement psychologique ou des cellules de soutien. Car tous ces secours auraient un coût. Or pour ces géants, seule compte la rentabilité.

Ces sacrifiés de l’IA n’ont même pas le droit de discuter entre eux, lorsqu’ils sont regroupés ensemble sur des plateformes de travail. Et beaucoup sont seuls chez eux, en télétravail. Ces data workers sont pour certains condamnés à une forme d’isolement. Ils sont soumis à des contrats de confidentialité drastiques, des accords de non-divulgation contraignants, et risquent la prison s’ils ne les respectent pas. Impossible alors pour eux de se confier à leurs proches, qui peuvent rester démunis devant une souffrance qu’ils ne comprennent pas. Certains témoins du documentaire, rendus anonymes, parlent d’une réelle torture mentale et morale qui leur est infligée. Un témoin raconte que l’un de ses collègues a complètement perdu la raison, jusqu’à assassiner sa propre famille.

L’autre drame que l’idéologie long-termisme met sous le tapis est l’impact environnemental colossal de l’IA, en particulier des datas center, qui pèse sur la planète. Consommation d’eau, d’espace, d’électricité, pollution… Mais voilà, l’idéologie long-termisme n’est jamais loin pour nous rappeler qu’il y a un prix à payer pour qu’un avenir plus radieux soit possible. Quel poids peut bien avoir une souffrance au présent, face aux vertus de l’avenir ? Le documentaire s’achève sur un constat qui donne à penser : "On nous promet des lendemains aussi artificiels que ces intelligences. Un paradis technologique construit sur les souffrances et l’exploitation."

Il y a une urgence à ce qu’en tant que citoyen du monde, nous soyons clairement informés et alertés sur les défis du développement de l’intelligence artificielle, alors même que nous sommes déjà largement "embarqués", et donc responsables, bien malgré nous, d’alimenter un système dans lequel nous sommes déjà partie prenante. Système qui nous est bien souvent présenté comme incontournable. La note Antiqua et Nova sur les relations entre l’intelligence artificielle et l’intelligence humaine que vient de publier les dicastères pour la Doctrine de la foi et pour la Culture et l’éducation exhorte apporte des pistes de réflexion opportunes sur les questions anthropologiques et éthiques soulevées par l’IA. Mais sans connaissances, sans réel poids, comment se sentir libres de choisir, de décider, parfois même de renoncer à certains outils, pour de bonnes raisons ?