Ce jour-là, je suis tombée sur un manifeste écrit par des enseignants et des chercheurs, invoquant l’objection de conscience face à l’IA générative dans le milieu éducatif. A priori un simple billet sur un blog mais qui a été signé par près de 3.000 personnes en quelques jours ! Qu’un mouvement tente d’ouvrir une voie pour questionner notre capacité à consentir ou non à un progrès technologique, ne peut laisser indifférent.
Quand l’outil devient un système
L’objection de conscience, traditionnellement, est un acte de résistance face à ce qui nous semble intolérable. On la connaît dans les domaines de la guerre, de la médecine, ou de la foi ; ces moments où des individus, malgré les pressions, disent "non" à ce que tout le monde accepte. Mais face à la technologie, cette idée semble presque décalée. "Refuser un outil ? Mais c’est absurde !" Pourtant, quand cet outil devient un système, quand il façonne nos vies, nos pensées, et surtout notre planète, sans que nous ayons vraiment choisi, la question mérite d’être posée : à quel moment nous a-t-on demandé notre avis ? Et surtout à quel moment notre consentement devient-il une soumission ?
Avons-nous seulement pris le temps de nous demander si nous avions le choix ? Nous cliquons sur "J’accepte" sans lire les conditions générales.
Nous vivons dans un monde où le "progrès" est devenu une évidence. "On ne peut pas revenir en arrière", "c’est comme ça", "tout le monde le fait"… Ces phrases fatalistes sont répétées avec tant d’insistance qu’elles finissent par se transformer en vérité. Jacques Ellul, philosophe et théologien protestant spécialiste de la technique, montre dans son essai La Technique ou l’Enjeu du siècle (1954) comment la technique a changé de nature en passant d’un outil permettant à l'homme de se dépasser à un processus autonome auquel l’on est assujetti.
Une ardoise salée
Alors que peut-on y faire ? L’IA générative est là, omniprésente, fascinante, déjà quasiment incontournable. Elle nous promet un gain de temps précieux, une créativité illimitée, des solutions clés en main à moindre coût. Mais à quel prix ? Le manifeste des enseignants chercheurs est très clair à ce sujet, et l’ardoise est en réalité salée pour le collectif...
Nous laissons les algorithmes décider à notre place dans tous les domaines : ce que nous lisons, ce que nous écoutons, ce que nous achetons, ce que nous pensons, même ceux que nous aimons.
Un prix écologique : les data centers consomment déjà plus d’électricité et d’eau que des pays entiers, et la course à l’IA ne fait qu’aggraver les choses. Sans régulation, écrit le Shift Project (think tank présidé par Jean-Marc Jancovici), l’IA pourrait représenter 10 à 20 % de la consommation électrique mondiale d’ici 2030. Le groupe Meta est d’ailleurs en train de construire des data-centers de la taille de Manhattan pour faire face aux besoins liés à l’IA et à la super-intelligence ! Un prix humain : derrière les algorithmes, il y a des mines de métaux, des travailleurs du clic sous-payés forcés à regarder des images abominables, des conditions de travail indignes… Un prix anthropologique : avec l’IA générative, nous risquons de perdre ce qui fait notre humanité, la capacité à créer et à penser par nous-mêmes.
Interroger notre consentement
Alors, on se répète : "Je n’ai pas le choix." Mais est-ce vrai ? Avons-nous seulement pris le temps de nous demander si nous avions le choix ? Nous cliquons sur "J’accepte" sans lire les conditions générales. Nous adoptons les nouveaux outils parce que "tout le monde le fait", ou que "c’est pratique". Nous laissons les algorithmes décider à notre place dans tous les domaines : ce que nous lisons, ce que nous écoutons, ce que nous achetons, ce que nous pensons, même ceux que nous aimons.
Le manifeste des enseignants et chercheurs ne propose pas de rejeter en bloc la technologie. Il invite à une chose bien plus pertinente : à interroger notre consentement. À ne pas laisser l’IA, ni aucune technologie s’imposer "comme si de rien n’était". Il nous laisse espérer que notre rapport à la technologie n’est pas une fatalité, mais que c’est bien une série de petits choix, de petits "oui" ou "non" quotidiens qui finissent par dessiner le monde dans lequel nous vivons.
Un choix en conscience
Le pape Paul VI déjà en 1970 dans un discours prononcé devant la FAO, nous mettait en garde : "Les progrès scientifiques les plus extraordinaires, les prouesses techniques les plus étonnantes, la croissance économique la plus prodigieuse, si elles ne s’accompagnent d’un authentique progrès social et moral, se retournent en définitive contre l’homme." Est-on en train de prendre la bonne voie ? Il est toujours grand temps de nous autoriser à avoir le choix, et à interroger notre conscience pour poser un choix véritablement libre.
