Face à l’essor fulgurant de l’IA, de nombreux chefs d’État exigent la mise en place de mesures de sécurité strictes et de garde-fous.
Les dirigeants de plus de 20 pays ont appelé ce lundi 21 septembre à la mise en place de mesures de sécurité plus strictes et de garde-fous, face à la montée en puissance de l’intelligence artificielle (IA). Ils alertent notamment sur le risque d’une perte de contrôle.
Parmi les signataires figurent les chefs d'État de la Norvège, de la Finlande, de l’Australie, du Canada, de l’Allemagne, de l’Espagne, de l’Irlande, des Pays-Bas, de Singapour, de l’Afrique du Sud et du Kenya ainsi qu’Ursula von der Leyen, présidente de la Commission Européenne.
En marge de l’Assemblée Générale de l’ONU, ils affirment dans une déclaration commune qu’en cas de mauvaise gestion, les modèles d’IA pourraient entraîner de “graves risques pour la sûreté et la sécurité”. Pour illustrer ce danger, ils citent des cas dans lesquels des agents d’IA ont contourné des mesures de sécurité pour accéder à des plateformes interdites. Des risques qui menacent également les emplois et la cybersécurité : deux des principaux sujets abordés lors de l’Assemblée Générale des Nations Unies, qui se tient cette semaine à New York.
Vers une régulation internationale de l’IA
"L'IA doit rester sous la direction, la supervision et le contrôle de l'homme", ont déclaré les dirigeants. Ces derniers appellent à l'adoption d'un protocole de sécurité stricte, comprenant notamment des tests obligatoires et des examens indépendants. Un renforcement de la supervision de l'IA qui ne devrait toutefois pas creuser l’écart entre les pays qui bénéficient des avantages de l’IA et ceux qui en sont exclus.
Les États membres de l’ONU envisagent de créer une institution internationale chargée d’en assurer la régulation et la mise en place.
Tensions entre les États Unis et la Chine
Une annonce qui a suscité de vives réactions : Donald Trump s’est fermement opposé à l’encadrement de l’IA. Ces tensions ont donné lieu à une discussion entre la Chine et les États-Unis, puissances rivales en matière d’IA, autour d’un “mécanisme” de dialogue à quelques jours d’un sommet entre les deux dirigeants. Une discussion qui vise à dissiper les tensions commerciales et technologiques mais également stratégiques.
En signant cet accord, les dirigeants s’inscrivent dans la dynamique amorcée par le pape Léon XI dans sa première encyclique. Magnifica Humanitas appelait déjà à “désarmer” l’intelligence artificielle au travers de garde-fous éthiques, juridiques et politiques concrets. Une priorité aujourd’hui partagée.
