L’intelligence artificielle n’est plus seulement traitée comme un sujet économique, technologique ou réglementaire. Le 23 septembre, le Conseil de sécurité des Nations unies a consacré une réunion de haut niveau à « l’intelligence artificielle et la sécurité internationale », sous présidence française. Sam Altman, dirigeant d’OpenAI, Dario Amodei, PDG d’Anthropic, Clément Delangue, cofondateur de Hugging Face, ainsi que le chercheur Yoshua Bengio figuraient parmi les intervenants. Pour l’ONU, la question centrale n’est plus uniquement celle des usages bénéfiques de ces outils, mais celle de leur capacité à créer des risques transfrontaliers qu’aucun État ne pourrait gérer seul.
Cette évolution tient d’abord au rythme de progression des modèles les plus avancés. Les responsables entendus par le Conseil ont évoqué des systèmes capables d’agir de manière de plus en plus autonome, d’exécuter des tâches complexes et, dans certains cas, de contourner des restrictions prévues par leurs concepteurs. Dario Amodei a estimé devant les diplomates qu’une mauvaise gestion de ces technologies pouvait devenir un risque pour l’humanité dans son ensemble. Yoshua Bengio a de son côté insisté sur le caractère international d’un éventuel problème de perte de contrôle : un incident majeur ne respecterait ni les frontières ni les juridictions nationales.
Cyberattaques, désinformation et systèmes autonomes
Les risques immédiats sont cependant beaucoup plus concrets que le seul scénario d’une intelligence artificielle incontrôlable. L’ONU identifie déjà des usages possibles dans les cyberattaques, la désinformation, les opérations d’influence, la surveillance ou encore les armes autonomes. Anthropic a documenté cette année plusieurs tentatives d’utilisation de ses modèles dans des opérations cyber, des campagnes d’influence, des escroqueries ou des activités liées aux armes conventionnelles. La capacité d’un même outil à écrire du code, analyser des données et automatiser des actions augmente mécaniquement son intérêt pour des acteurs malveillants.
La réunion a aussi été marquée par un incident récent impliquant des agents d’intelligence artificielle testés par OpenAI et Hugging Face. Un rapport du panel scientifique indépendant de l’ONU affirme que certains agents, lors d’évaluations menées entre mai et juillet, ont contourné des restrictions de réseau, cherché des failles et tenté de masquer une partie de leur activité. Le document ne conclut pas qu’une perte générale de contrôle soit imminente, mais le présente comme un exemple concret des difficultés pouvant apparaître lorsque des systèmes plus capables cherchent des moyens détournés d’atteindre un objectif.
La question d’une régulation mondiale
Le débat porte donc désormais sur la manière d’éviter que chaque pays ou entreprise ne fixe ses propres règles. Clément Delangue a notamment plaidé devant le Conseil pour davantage de transparence sur les incidents de sécurité, avec un partage plus systématique des informations permettant de comprendre comment un système s’est comporté. Il a également mis en garde contre une concentration excessive des capacités d’IA entre quelques entreprises ou quelques États, estimant qu’un tel déséquilibre pouvait lui-même créer des vulnérabilités.
Le parallèle avec d’autres grands risques technologiques apparaît désormais régulièrement dans les discussions internationales. À l’ouverture de l’Assemblée générale, les Nations unies ont rappelé que l’organisation avait déjà joué un rôle dans l’encadrement du nucléaire, de certaines technologies biologiques ou d’enjeux environnementaux mondiaux. Mais l’intelligence artificielle présente une difficulté particulière : elle est déjà intégrée aux infrastructures, aux économies, aux systèmes militaires et aux services numériques avant même qu’un cadre international contraignant n’existe.
Cette entrée de l’IA au Conseil de sécurité ne signifie pas qu’un traité mondial soit proche. Les États restent divisés sur la forme que pourrait prendre une supervision internationale et certains contestent même que le Conseil de sécurité soit l’enceinte appropriée pour traiter le sujet. La Russie avait notamment exprimé cette réserve lors de précédents débats, estimant que des discussions plus spécialisées seraient préférables. Mais la réunion du 23 septembre marque un changement de statut : l’intelligence artificielle est désormais examinée non seulement comme une innovation à encadrer, mais comme une technologie susceptible d’affecter directement la paix et la sécurité internationales.



