Aleteia logoAleteia logo
Aleteia
Mardi 01 décembre |
Saint Eloi
home iconActualités
line break icon

Un millier de scientifiques mettent en garde contre les robots-tueurs

DR

Terminator robot

aleteia - Publié le 30/07/15

Un millier d’experts ont publié une lettre ouverte dénonçant les dérives militaires de l’utilisation de l’intelligence artificielle. Issus des quatre coins du monde, ils appellent l’ONU à légiférer d’urgence, pour la sécurité de tous.

Dans les domaines de la santé et de la sécurité, les évolutions et performances liées à l’intelligence artificielle sont certainement à encourager. Mais dans bien d’autres domaines, cette forme d’intelligence peut rapidement conduire à des dérives dangereuses que l’homme lui-même ne sera peut-être plus capable de freiner.

C’est le cas de la sphère militaire où l’utilisation de la technologie par des groupes terroristes ou par des dictateurs est devenue monnaie courante. Face à cette évolution, environ 1 000 éminents chercheurs et experts en robotique et intelligence artificielle (IA) ont publié lundi 27 juillet une lettre ouverte appelant l’ONU à interdire les armes offensives autonomes, mieux connues sous le nom de "killer robots" ou "robots-tueurs".

Quand il n’y a plus d’humanité

Cette lettre a été rendue publique à Buenos Aires, où se tient jusqu’au 31 juillet la Conférence internationale sur l’intelligence artificielle (IJCAI). Dans une interview accordée à l’AFP, l’un des signataires, l’expert britannique Toby Walsh, met en garde contre l’utilisation mal intentionnée de la technologie et l’absence de raisonnement et de sentiments humains dans les processus qui régissent les robots. "La différence entre les armes autonomes et les drones que nous avons vus en Irak et ailleurs c’est qu’il n’y a pas d’humain dans le processus (de décision). Un drone, vous avez derrière un soldat américain quelque part, parfois aux États-Unis, qui le guide avec un joystick, qui prend la décision de tuer quelqu’un ou pas. Là, nous avons un ordinateur ayant le pouvoir de vie ou de mort", fait remarquer le scientifique anglais.

Dans la lettre ouverte, il est en effet précisé qu’à ce stade, les robots-tueurs sont capables "de sélectionner et de combattre des cibles sans intervention humaine". Un comportement qui, selon M. Walsh, peut révolutionner, pour le pire et dans un futur dangereusement proche, la manière dont les hommes se font la guerre. Il y a d’abord eu l’invention de l’arme à feu, rappelle l’expert. Ensuite, l’arme nucléaire est considérée comme la seconde révolution en matière d’armement. L’IA et les robots-tueurs constituent une troisième révolution qu’il faut arrêter, sinon encadrer, rapidement. "La plupart des pays disposent de cette technologie", confie l’expert membre de l’Association pour le développement de l’intelligence artificielle (AAAI), citant entre autres les États-Unis et la Chine. "C’est une technologie qui est connue et il faut éviter qu’elle tombe entre les mains de terroristes ou de groupes armés."

Une législation à à adopter d’urgence

Toby Walsh encourage l’ONU à légiférer le plus rapidement possible car les éventuelles dérives militaires que peut engendrer l’IA sont à nos portes. "Nous soutenons la demande d’interdiction pour éviter une course à l’armement", martèle-t-il. "Il y a des arguments légaux, éthiques, politiques et techniques. Ce ne sont pas des décisions faciles à prendre, elles requièrent de l’éthique, mais il faut une législation pour l’encadrer."

Il dénonce également la faille quant à la responsabilité légale de cette arme. "Il n’y a pas de cadre légal en place" qui permette de juger le responsable dans le cas où l’armement tue une personne innocente. "Est-ce le fabricant ? Est-ce le programmateur ? Celui qui a allumé la machine ?", s’interroge le scientifique britannique. Les signataires exhortent l’ONU à passer à l’action. Ils plaident pour l’interdiction des armes autonomes offensives pour que davantage de sécurité soit assurée pour chacun d’entre nous.

Parmi le millier de scientifiques ayant signé la lettre ouverte adressée à l’ONU, on retrouve notamment le PDG de SpaceX et Tesla, Elon Musk, le physicien Stephen Hawking, le co-fondateur d’Apple Steve Wozniak, le co-fondateur de Skype Jaan Talinn et le linguiste et activiste Noam Chomsky.

Tags:
dangerintelligence artificiellerobots
Soutenez Aleteia !
A travers le monde, vous êtes des millions à lire Aleteia, pour y trouver quelque chose d'unique : une vision du monde et de votre vie inspirée par l’Évangile. On prétend qu'il est de plus en plus difficile de transmettre les valeurs chrétiennes aux jeunes d'aujourd'hui.
Et pourtant, savez-vous que plus de la moitié des lecteurs d'Aleteia sont des jeunes de 18 à 35 ans ? C'est pourquoi il est si important que Aleteia demeure un service quotidien, gratuit et accessible à tous. Cependant, un journalisme de qualité a un coût que la publicité est loin de couvrir. Alors, pour qu'Aleteia puisse continuer à transmettre les valeurs chrétiennes au cœur de l'univers digital, votre soutien financier demeure indispensable.
*avec déduction fiscale
Le coin prière
La fête du jour






Top 10
La rédaction d'Aleteia
Le Conseil d'État somme le gouvernement de ré...
Aliénor Goudet
La demande très spéciale que la Vierge Marie ...
CATHEDRALE NOTRE DAME DE PARIS
Caroline Becker
Découvrez l'intérieur de Notre-Dame de Paris,...
Mathilde de Robien
C’est aujourd’hui que débute la neuvaine nati...
messe avec masques
Agnès Pinard Legry
Les églises sont "des lieux de contamination"...
WEB2-JEAN CASTEX-AFP-000_8VX2FV.jpg
Xavier Patier
Messe à 30 personnes : le mépris, ça suffit !
Afficher La Suite
Newsletter
Recevez Aleteia chaque jour. Abonnez-vous gratuitement