Recevez la newsletter d'Aleteia chaque jour!
Démarrez la journée avec la newsletter d'Aleteia
Je m'abonne gratuitement !

Vous ne souhaitez pas faire de don ?

Voici cinq façons d'aider Aleteia:

  1. Prier pour notre équipe et le succès de notre mission
  2. Parler d'Aleteia dans votre paroisse
  3. Partager les articles d'Aleteia avec vos amis et votre famille
  4. Désactiver votre bloqueur de pub quand vous êtes sur Aleteia
  5. S'abonner à notre newsletter gratuite et la lire tous les jours

Je vous remercie!
L'équipe d'Aleteia

 

Souscrire

Aleteia

Un millier de scientifiques mettent en garde contre les robots-tueurs

DR
Terminator robot
Partager

Un millier d’experts ont publié une lettre ouverte dénonçant les dérives militaires de l’utilisation de l’intelligence artificielle. Issus des quatre coins du monde, ils appellent l’ONU à légiférer d’urgence, pour la sécurité de tous.

Dans les domaines de la santé et de la sécurité, les évolutions et performances liées à l’intelligence artificielle sont certainement à encourager. Mais dans bien d’autres domaines, cette forme d’intelligence peut rapidement conduire à des dérives dangereuses que l’homme lui-même ne sera peut-être plus capable de freiner.

C’est le cas de la sphère militaire où l’utilisation de la technologie par des groupes terroristes ou par des dictateurs est devenue monnaie courante. Face à cette évolution, environ 1 000 éminents chercheurs et experts en robotique et intelligence artificielle (IA) ont publié lundi 27 juillet une lettre ouverte appelant l’ONU à interdire les armes offensives autonomes, mieux connues sous le nom de "killer robots" ou "robots-tueurs".

Quand il n’y a plus d’humanité

Cette lettre a été rendue publique à Buenos Aires, où se tient jusqu’au 31 juillet la Conférence internationale sur l’intelligence artificielle (IJCAI). Dans une interview accordée à l’AFP, l’un des signataires, l’expert britannique Toby Walsh, met en garde contre l’utilisation mal intentionnée de la technologie et l’absence de raisonnement et de sentiments humains dans les processus qui régissent les robots. "La différence entre les armes autonomes et les drones que nous avons vus en Irak et ailleurs c’est qu’il n’y a pas d’humain dans le processus (de décision). Un drone, vous avez derrière un soldat américain quelque part, parfois aux États-Unis, qui le guide avec un joystick, qui prend la décision de tuer quelqu’un ou pas. Là, nous avons un ordinateur ayant le pouvoir de vie ou de mort", fait remarquer le scientifique anglais.

Dans la lettre ouverte, il est en effet précisé qu’à ce stade, les robots-tueurs sont capables "de sélectionner et de combattre des cibles sans intervention humaine". Un comportement qui, selon M. Walsh, peut révolutionner, pour le pire et dans un futur dangereusement proche, la manière dont les hommes se font la guerre. Il y a d’abord eu l’invention de l’arme à feu, rappelle l’expert. Ensuite, l’arme nucléaire est considérée comme la seconde révolution en matière d’armement. L’IA et les robots-tueurs constituent une troisième révolution qu’il faut arrêter, sinon encadrer, rapidement. "La plupart des pays disposent de cette technologie", confie l’expert membre de l’Association pour le développement de l’intelligence artificielle (AAAI), citant entre autres les États-Unis et la Chine. "C’est une technologie qui est connue et il faut éviter qu’elle tombe entre les mains de terroristes ou de groupes armés."

Une législation à à adopter d’urgence

Toby Walsh encourage l’ONU à légiférer le plus rapidement possible car les éventuelles dérives militaires que peut engendrer l’IA sont à nos portes. "Nous soutenons la demande d’interdiction pour éviter une course à l’armement", martèle-t-il. "Il y a des arguments légaux, éthiques, politiques et techniques. Ce ne sont pas des décisions faciles à prendre, elles requièrent de l’éthique, mais il faut une législation pour l’encadrer."

Il dénonce également la faille quant à la responsabilité légale de cette arme. "Il n’y a pas de cadre légal en place" qui permette de juger le responsable dans le cas où l’armement tue une personne innocente. "Est-ce le fabricant ? Est-ce le programmateur ? Celui qui a allumé la machine ?", s’interroge le scientifique britannique. Les signataires exhortent l’ONU à passer à l’action. Ils plaident pour l’interdiction des armes autonomes offensives pour que davantage de sécurité soit assurée pour chacun d’entre nous.

Parmi le millier de scientifiques ayant signé la lettre ouverte adressée à l’ONU, on retrouve notamment le PDG de SpaceX et Tesla, Elon Musk, le physicien Stephen Hawking, le co-fondateur d’Apple Steve Wozniak, le co-fondateur de Skype Jaan Talinn et le linguiste et activiste Noam Chomsky.

Newsletter
Recevez Aleteia chaque jour. Abonnez-vous
Aleteia vous offre cet espace pour commenter ses articles. Cet espace doit toujours demeurer en cohérence avec les valeurs d’Aleteia. Notre témoignage de chrétiens portera d’autant mieux que notre expression sera empreinte de bienveillance et de charité.
[Voir la Charte des commentaires]