Aleteia logoAleteia logo
Aleteia
Mardi 15 juin |
Sainte Germaine Cousin
home iconTribunes
line break icon

La France refuse de s’en remettre aux robots tueurs

Denis Starostin / Shutterstock

Henri Quantin - Publié le 05/05/21

Le mal n’est pas dans les machines, disait Bernanos, il est dans l’homme que la civilisation des machines est en train de former. Aujourd’hui, les machines sont capables de tuer sans contrôle.

Il faut distinguer « Sala » et « Salia » ! Tel est l’avis du Comité éthique de la Défense, rendu public le 29 avril, à propos de ces machines de guerre qu’on appelle plus communément les « robots tueurs ». Depuis une bonne dizaine d’années, les scènes de Terminator opposant des humains à des machines tirant sur tout ce qui bouge ne relèvent plus guère de l’anticipation. Les « sala » sont, littéralement, des « systèmes d’armes létaux autonomes ». Par le moyen de l’Intelligence artificielle, ils tirent sans que personne ne commande le tir. Ils peuvent prendre la forme de drones, de tanks ou même de quadrupèdes, mais le résultat est le même : eux seuls décident s’ils peuvent éliminer la cible, quelle que soit la situation. Les « salia », eux, sont des « systèmes d’armes létaux intégrant de l’autonomie ». Il n’est pas sûr que l’ajout du « i » suffise à nous rassurer ; il signifie concrètement que ces machines de guerre laissent l’homme en ultime recours reprendre le contrôle, même si, « dans un espace-temps limité et sous conditions », elles possèdent « une autonomie décisionnelle, dans certaines fonctions critiques, telles que l’identification, la classification, l’interception, l’engagement ». Immoralité des « sala », donc, mais légitimité des « salia ».

Hors de tout contrôle

Le Comité a rendu son avis à la demande de Florence Parly, ministre de la Défense. En 2019, celle-ci avait déclaré : « La France refuse de confier la décision de vie ou de mort à une machine qui échapperait à tout contrôle humain. » C’était déjà ce que Mgr Tomasi déclarait à Genève en 2014. En tant qu’observateur permanent du Saint-Siège auprès des Nations-unies, il s’inquiétait qu’on puisse « placer une machine dans la position de décider de la vie ou de la mort » et pointait du doigt une « déshumanisation de la guerre ». La formule fera sans doute sourire les pacifistes — comme si une guerre pouvait être humaine, diront-ils —, mais l’enjeu est extrêmement grave. 

Un robot est incapable de distinguer un civil d’un militaire, un bien-portant d’un blessé, un homme qui se rend d’un kamikaze.

Jusqu’ici, parler d’une guerre inhumaine désignait a priori un degré de cruauté inacceptable, mais toujours dirigé par des êtres humains. Les « sala » sont en train de faire basculer le monde dans ce que certains considèrent comme la troisième révolution dans les techniques de guerre, après la poudre à canon et les armes nucléaires. Le fait que deux de ces trois « révolutions » aient eu lieu en moins de cent ans devrait faire réfléchir, une fois de plus, sur l’accélération de toute chose qu’impose l’emprise technologique : de plus en plus d’anonymat, de moins en moins de place pour l’homme, une absence de plus en plus grande de responsabilité claire en cas de massacre. Un robot est incapable de distinguer un civil d’un militaire, un bien-portant d’un blessé, un homme qui se rend d’un kamikaze. La personne humaine disparaît derrière la machine, même quand elle n’en est pas la cible directe.

« La Technique ne peut être discutée » 

Il est heureux qu’un garde-fou, même fort mince, soit maintenu en France. Durera-t-il longtemps, face à des ennemis dont il y a fort à parier qu’ils n’auront aucun scrupule à recourir à cette efficacité meurtrière, par ailleurs beaucoup plus facile d’accès — économiquement et scientifiquement — que l’arme nucléaire ? Certaines voix favorables aux « sala » évoquent déjà le risque de « décrochage » de la France, vis-à-vis d’ennemis — groupes terroristes ou États — qui n’hésiteront pas à utiliser les « robots tueurs ». L’argument est étonnamment le même que pour l’euthanasie : il ne faudrait pas prendre du retard sur les autres pays. Face à cette intimidation mensongère qui confond avancée technologique et progrès de l’humanité, il est bon de rappeler que ne pas s’aligner sur la barbarie des autres n’est pas un « retard », mais une victoire.

La valeur d’une civilisation se mesure notamment dans sa capacité à ne pas utiliser jusqu’au bout les méthodes des barbares qui l’attaquent. Cette apparente faiblesse demeure sa grandeur paradoxale : celui qui lutte contre le terrorisme avec des méthodes terroristes a déjà perdu sa lutte, même s’il est vainqueur sur le terrain. Celui qui aurait cru vaincre Hitler en construisant des fours crématoires plus performants pour brûler les nazis aurait fait allégeance, sans même s’en rendre compte, à la logique du national-socialisme. C’est pourquoi le seul argument de l’efficacité est irrecevable, car il consiste déjà à reconnaître à la machine le droit de décider à notre place : « La Technique ne peut être discutée, notait Bernanos, les solutions qu’elle impose étant par définition les plus pratiques. » 

L’homme déspiritualisé

En 1947, quand les débats portaient sur la deuxième révolution des techniques de guerre, l’arme atomique, le même Bernanos mettait déjà en garde contre les effets inaperçus de la logique techniciste sur les consciences : 

« Je dis que vous posez le problème de travers, parce que le mal n’est pas dans les machines, il est ou sera dans l’homme que la civilisation des machines est en train de former. La machine déspiritualise l’homme, en même temps qu’elle accroît monstrueusement son pouvoir. Il y a là une contradiction qui fait frémir. C’est à l’homme déchristianisé, plus que jamais enclin à se croire un animal irresponsable, que vient d’être donné le secret de la fission du plutonium et le moyen de détruire son espèce tout entière. »

Autrement dit, la civilisation des machines amenuise les consciences, alors même que les avancées technologiques exigeraient une conscience accrue. L’emprise technologique hypnotise les esprits, au moment même où ils ont le plus besoin d’être éveillés. « La France refuse de confier la décision de vie ou de mort à une machine qui échapperait à tout contrôle humain », disait Florence Parly. C’est certainement une bonne chose. Toutefois, si l’humain qui contrôle n’a pas beaucoup plus de conscience morale qu’une machine, il y a peu de chance que le garde-fou soit très utile. 

Tags:
intelligence artificielleRobot
Soutenez Aleteia !
A travers le monde, vous êtes des millions à lire Aleteia, pour y trouver quelque chose d'unique : une vision du monde et de votre vie inspirée par l’Évangile. On prétend qu'il est de plus en plus difficile de transmettre les valeurs chrétiennes aux jeunes d'aujourd'hui.
Et pourtant, savez-vous que plus de la moitié des lecteurs d'Aleteia sont des jeunes de 18 à 35 ans ? C'est pourquoi il est si important que Aleteia demeure un service quotidien, gratuit et accessible à tous. Cependant, un journalisme de qualité a un coût que la publicité est loin de couvrir. Alors, pour qu'Aleteia puisse continuer à transmettre les valeurs chrétiennes au cœur de l'univers digital, votre soutien financier demeure indispensable.
*avec déduction fiscale
Le coin prière
La fête du jour






Top 10
1
WEB2-MAYLINE-MIRACLE-EMMANUEL TRAN
Agnès Pinard Legry
La guérison de Mayline, le miracle attribué à Pauline Jaricot
2
Mathilde de Robien
La plus belle question à poser à votre conjoint le soir en rentra...
3
Brother, Sister, Family
Edifa
Parents, évitez ces erreurs avec votre aîné
4
Mathilde de Robien
Mode d’emploi pour prier le chapelet
5
Camille Dalmas
Cinq choses à savoir pour comprendre la démission (refusée par le...
6
Mathilde de Robien
Après des infidélités et une séparation, comment Jésus a finaleme...
7
Anna Gebalska-Berekets
Sœur Julie, l’ange de la bonté des camps nazis
Afficher La Suite
Newsletter
Recevez Aleteia chaque jour. Abonnez-vous gratuitement