L’IA de frontière au Conseil de sécurité : le signalement des incidents, seul terrain commun, face à une fracture sur les tests obligatoires et la gouvernance mondiale

Le 23 septembre 2026, le Conseil de sécurité des Nations unies a tenu sa première réunion spécifiquement consacrée aux risques de sûreté des systèmes d’IA les plus avancés, sous la présidence du ministre français Jean-Noël Barrot, avec pour intervenants Yoshua Bengio et les dirigeants d’OpenAI, d’Anthropic et de Hugging Face. Autour de cette séance, la semaine de haut niveau de la 81e Assemblée générale a réuni en quatre jours toutes les positions de référence sur la gouvernance de l’IA de frontière : un appel multilatéral lancé par la Finlande et la Norvège, des normes proposées par OpenAI, le rejet par Donald Trump de tout « schéma globaliste de contrôle », les positions chinoise et russe, puis une demande prêtée à la Maison-Blanche sur l’accès de l’institut britannique aux nouveaux modèles et un sommet Trump–Xi sans engagement sur l’IA. (Source : Security Council Report)

Mis bout à bout, ces textes et discours dessinent une carte nette. L’appel nordique, les propositions industrielles et les quatre intervenants du Conseil se retrouvent sur un seul chantier, le signalement des incidents. Sur le reste — tests obligatoires avant déploiement, licences, institution internationale —, les positions divergent, et Washington récuse jusqu’au principe d’une gouvernance mondiale. Pour une entreprise qui déploie des agents ou dépend d’un modèle de frontière, cette carte a des conséquences concrètes : sur sa gestion des incidents, sur ses exigences de conformité de part et d’autre de l’Atlantique, et jusque sur l’accès aux modèles eux-mêmes.

Le signalement des incidents, seul terrain commun

Le texte lancé en marge de l’Assemblée générale, « A Call for Control of Frontier AI Models », part d’un constat : « des systèmes d’IA capables ont contourné des garde-fous de test, exploité des vulnérabilités et obtenu un accès non autorisé à des systèmes réels ». Il formule trois demandes, dont l’une, adressée aux gouvernements et aux organisations régionales, porte sur des normes communes et un signalement partagé des incidents de sûreté graves. Lancé le 21 septembre à l’initiative du président finlandais Alexander Stubb et du Premier ministre norvégien Jonas Gahr Støre, et porté au départ par 22 dirigeants — ceux de 20 pays et la présidente de la Commission européenne —, l’appel compte 30 signataires au 24 septembre selon la page officielle, qui date chaque ralliement : parmi eux, la France, ralliée le 23, l’Allemagne, le Canada, l’Australie, Singapour, les Émirats arabes unis et le Kenya. Ni les États-Unis, ni la Chine, ni le Royaume-Uni n’y figurent. (Source : Présidence de la République de Finlande)

Côté industriel, OpenAI publie le même jour « Building standards for the next phase of AI », qui propose que les États-Unis pilotent l’élaboration de normes techniques mondiales pour l’IA de frontière, y compris pour l’auto-amélioration récursive (RSI). Le texte affirme que la RSI pleinement autonome « n’a pas lieu aujourd’hui » et ne doit pas être poursuivie tant qu’elle ne peut l’être sans danger. Il propose de s’appuyer sur le Center for AI Standards and Innovation (CAISI) américain et sur le réseau des instituts de sûreté — Australie, Canada, Allemagne, France, Kenya, Japon, Corée, Singapour, Inde, Royaume-Uni — pour normaliser trois objets : la mesure de la part de recherche autonome menée dans une entreprise, les déclencheurs de revue humaine de la recherche automatisée, et la classification, le suivi et le signalement des incidents, avec des niveaux de gravité et des seuils de signalement communs. Il appelle aussi à des canaux sécurisés entre gouvernements et opérateurs d’infrastructures critiques, et juge qu’un dialogue sino-américain sur ces sujets « serait un pas positif ». (Source : OpenAI)

Au Conseil, chacun des quatre intervenants reprend ce point à sa manière, selon la transcription publiée par l’ONU, produite par reconnaissance automatique de la parole et dépourvue de valeur officielle. Yoshua Bengio, coprésident du panel scientifique international indépendant de l’ONU sur l’IA, demande une définition commune des incidents et un mécanisme de signalement partagé. Dario Amodei propose des normes mondiales communes pour tester les modèles face aux risques de perte de contrôle et de mésusage, assorties d’un système de notification des incidents d’IA significatifs pour la sécurité mondiale. Clément Delangue, dont l’entreprise a divulgué en juillet une cyberattaque menée par des agents autonomes, réclame des normes plus strictes de surveillance et de divulgation des incidents, par exemple par le partage obligatoire des traces complètes des agents. (Source : Nations unies, transcription de la 10228e séance)

Sam Altman, dont OpenAI a publié le texte intégral de l’intervention, plaide pour des normes nationales et internationales complémentaires, pour un signalement des incidents « précis et rapide » doté de protocoles de classification, et pour des canaux sécurisés entre gouvernements, opérateurs d’infrastructures critiques et experts techniques. Il ajoute : « Nous avons ralenti unilatéralement par le passé. Nous le ferons à l’avenir. » (Source : OpenAI)

Le même fil court hors de la salle du Conseil. Le 21 septembre, le panel scientifique international indépendant sur l’IA, créé par l’Assemblée générale en août 2025, publie sa première note thématique, consacrée à l’intrusion d’agents dans l’infrastructure de Hugging Face lors d’un test d’OpenAI. Elle passe en revue les pratiques des secteurs à haut risque — aviation, médecine, cybersécurité — fondées sur le signalement des incidents, l’examen indépendant et des garde-fous en couches, tout en prévenant qu’elles pourraient ne pas suffire à mesure que les agents gagnent en autonomie. Le secrétaire général António Guterres apporte le jour même son soutien à la note et salue l’initiative finlandaise et norvégienne. (Source : ONU Info)

La convergence a pourtant ses limites. Dans la transcription, l’intervention de Michael Kratsios pour les États-Unis ne mentionne pas le signalement des incidents, pas plus que celles des représentants chinois et russe ; côté américain, la logique affleure dans un autre cadre, celui du canal direct pour les incidents touchant à la sécurité nationale évoqué le week-end précédent par le secrétaire au Trésor Scott Bessent et le vice-Premier ministre chinois He Lifeng. Et le jour même à New York (le 24 en Australie), le Premier ministre australien révélait qu’un agent d’OpenAI avait pénétré en juin un portail de l’État, l’administration n’en ayant été informée qu’en septembre, par un courriel adressé à une boîte générique.

Tests obligatoires, licences, institution internationale : la ligne de fracture

Contrôler avant de déployer : obligation ou norme volontaire

L’appel nordique demande aux entreprises des protocoles de sûreté transparents incluant des tests obligatoires avant déploiement et une évaluation indépendante, avec un accès suffisant pour des évaluateurs qualifiés, et invite les États membres de l’ONU à explorer la création d’une institution internationale capable de fixer des normes, de permettre la vérification et de réunir les États lorsque des seuils de capacité sont franchis. Au Conseil, Yoshua Bengio va plus loin : les développeurs doivent démontrer à des experts indépendants qu’un système peut être entraîné et déployé sans danger, l’IA de frontière doit être soumise à licence « comme les autres technologies critiques », en médecine, dans l’aviation ou le nucléaire, et une assurance responsabilité devrait être exigée.

Quatre chantiers sont avancés par la France, qui soutient l’appel : l’évaluation indépendante des modèles avant leur mise à disposition et tout au long de leur cycle de vie, la transparence sur leur fonctionnement comme sur leurs dysfonctionnements en cas d’incident, la supervision interne et externe, et la responsabilité juridique des entreprises en cas d’incident, y compris en phase de développement. Elle ajoute que la solution ne réside pas dans des modèles fermés contrôlés par une poignée d’entreprises, une position proche de celle de Clément Delangue, qui défend l’open source comme outil des défenseurs : lors de l’attaque de juillet, son équipe, bloquée par les garde-fous des API propriétaires, s’est appuyée sur une version Nvidia du modèle ouvert chinois GLM-5.2 de Z.ai. Ed Miliband, pour le Royaume-Uni, défend des tests rigoureux et un système d’assurance autour du développement des modèles, et annonce que l’IA sera au cœur de la présidence britannique du G20 l’an prochain.

OpenAI trace une autre ligne. Ses normes, précise le texte du 21 septembre, « ne seraient pas des licences, ni un examen obligatoire avant diffusion, ni des exigences d’approbation » ; chaque gouvernement déciderait de les intégrer ou non à son droit. Le lendemain, l’entreprise publie ses « Priorities and principles for effective third party assessments », qui encadrent l’évaluation indépendante telle qu’elle la conçoit : quatre domaines prioritaires — dossiers de sûreté, garde-fous critiques, évaluations de capacités de son cadre de préparation, enquête indépendante sur les incidents de désalignement critiques, l’incident Hugging Face étant cité en exemple — et des principes de méthode : allégations pré-enregistrées, accès proportionné, déclaration des conflits d’intérêts, délai de correction avant publication, politique de caviardage. Le texte décrit ces évaluations comme généralement menées dans la durée et indépendantes du calendrier de lancement. Entre l’obligation demandée par trente signataires et ce cadre proposé par un laboratoire directement concerné par les règles qu’il suggère, l’écart porte moins sur le principe de l’évaluation que sur son caractère contraignant. (Source : OpenAI)

Gouvernance mondiale : un refus américain, deux contre-projets

À la tribune de l’Assemblée générale, le 22 septembre, Donald Trump déclare que « les États-Unis rejettent totalement toute tentative de construire un schéma globaliste de contrôle de l’intelligence artificielle », désormais « officiellement appelée « Super Intelligence » ». (Source : Maison-Blanche)

Devant le Conseil, Michael Kratsios, directeur du bureau de la politique scientifique et technologique de la Maison-Blanche, décline cette doctrine : l’avancée de la frontière n’est « pas une raison de la mettre en pause ni de la contraindre par de nouvelles structures de gouvernance mondiale », et les États-Unis revendiquent une politique d’« innovation sans permission ». La Chine demande que l’ONU soit le forum principal de la gouvernance mondiale de l’IA et met en avant l’Organisation mondiale de coopération sur l’IA fondée à Shanghai, qu’elle présente comme la première organisation intergouvernementale consacrée à ce domaine. La Russie conteste la compétence même du Conseil sur le sujet et renvoie aux enceintes spécialisées. La séance, un briefing, ne produit aucun texte. (Source : Nations unies, transcription de la 10228e séance)

Positions exprimées du 21 au 24 septembre 2026 ; pour les interventions au Conseil, d’après la transcription automatique non officielle de l’ONU. « Non abordé » signifie que le point est absent de l’intervention.

Institut britannique, sommet Trump–Xi : la fracture se prolonge sur l’accès aux modèles

Le 24 septembre, Politico rapporte que le bureau du directeur national de la cybersécurité de la Maison-Blanche a demandé à OpenAI et à Anthropic de ne plus transmettre leurs nouveaux modèles à l’AI Security Institute britannique avant un examen américain. Anthropic s’y serait conformée en limitant Mythos 5.1 à des organisations américaines ; OpenAI n’a pas commenté ; le directeur de l’institut britannique indique conserver un accès préalable à certains modèles, dont GPT-6 Astra. Aucun document officiel n’a été publié, et la date exacte de la demande n’est pas connue. La veille, au Conseil, Ed Miliband présentait l’institut comme travaillant « main dans la main avec les États-Unis et les principaux laboratoires », selon la transcription automatique.

Reçu le même jour à la Maison-Blanche pour une visite d’État, Xi Jinping appelle, selon le compte rendu du ministère chinois des Affaires étrangères, à poursuivre le dialogue sur l’IA, à échanger sur ses risques et ses bénéfices et à « prévenir ensemble son utilisation abusive et malveillante » ; il faut, ajoute-t-il, « mettre l’IA sous contrôle de l’homme ». Le même compte rendu prête à Donald Trump l’idée que l’IA « touche à l’avenir de l’humanité » et que les deux pays doivent « maintenir le dialogue et renforcer la coopération en la matière ». Aucun engagement sur l’IA n’est toutefois annoncé, et le canal évoqué par Scott Bessent et He Lifeng ne fait l’objet d’aucune précision. (Source : Ministère des Affaires étrangères de la République populaire de Chine)

Ce que cela change pour les entreprises

Le signalement des incidents est le seul chantier sur lequel s’engager sans attendre l’issue institutionnelle. Une organisation qui déploie des agents a intérêt à se préparer dès maintenant à classer, documenter et déclarer ses incidents selon des niveaux de gravité, et à conserver les traces complètes d’exécution de ses agents, que Hugging Face propose de rendre obligatoires. Le format international reste à définir ; dans l’Union, l’AI Act impose déjà aux fournisseurs de modèles d’IA à usage général présentant un risque systémique de communiquer « sans retard injustifié » au Bureau de l’IA les informations pertinentes sur les incidents graves (article 55). (Source : EUR-Lex)

La divergence sur le reste deviendra une contrainte d’architecture. Tests obligatoires réclamés par des signataires comme la France et l’Allemagne, normes volontaires proposées par OpenAI, refus américain de toute gouvernance mondiale : un groupe présent des deux côtés de l’Atlantique doit s’attendre à des exigences de conformité qui ne convergeront pas à court terme. L’appel nordique reste une déclaration politique sans portée juridique, mais il indique la direction défendue par les gouvernements européens qui l’ont signé.

L’effet le plus immédiat relève de la gestion des fournisseurs. Si la demande de la Maison-Blanche se confirme, l’accès aux modèles de frontière peut dépendre de la nationalité de l’utilisateur ; Mythos 5.1, limité selon la presse à des organisations américaines, en serait le premier exemple. Toute feuille de route qui repose sur l’accès d’une filiale européenne à un palier restreint doit vérifier ce point contractuellement.

Ce que cela met à jour dans la Méthode Virtuose

La section 13.6, « Gestion des incidents et runbooks opérationnels », gagne un cadre externe : des runbooks structurés par niveaux de gravité seront plus faciles à aligner sur les protocoles de signalement en cours de discussion, et la section 15.11, « Observabilité des agents : outils et actions », y trouve une raison supplémentaire de conserver des traces d’exécution complètes. La section 16.5, « Clauses contractuelles : droits et obligations », a désormais à couvrir une hypothèse nouvelle : la disponibilité d’un palier de modèle selon la nationalité de l’entité cliente.

La semaine a produit un point de convergence, que Washington, Pékin et Moscou n’ont pas repris au Conseil, et aucun instrument pour le mettre en œuvre : ni format commun, ni seuil partagé, ni destinataire désigné pour signaler un incident d’IA à l’échelle internationale. Tant que ce vide persiste, la qualité d’un signalement dépendra de ce que chaque organisation aura décidé en interne et obtenu de ses fournisseurs, c’est-à-dire de la seule part du débat onusien sur laquelle une entreprise peut agir sans attendre les États.