Ralentir l’IA de frontière : refus de la Maison-Blanche et de Pékin, audit tiers soutenu par OpenAI, appel de l’Union et décret californien sur l’arrêt d’urgence

Le 12 septembre 2026, Dario Amodei, directeur général d’Anthropic, appelait les laboratoires de frontière à ralentir le rythme d’amélioration des capacités de leurs modèles, et engageait unilatéralement son entreprise à donner à des évaluateurs tiers un accès permanent, comparable à celui d’un salarié. Du lundi 14 au vendredi 18 septembre, la question a quitté le registre des déclarations d’entreprise pour celui des institutions, et les réponses divergent nettement, du refus opposé par la Maison-Blanche et Pékin au décret californien qui met à l’étude un bouton d’arrêt d’urgence pour les modèles de frontière.

Pour une entreprise cliente d’un fournisseur de modèles de frontière, l’intérêt de cette séquence tient moins au débat de principe qu’à ce qu’elle installe. La garantie de sûreté tend à reposer sur la vérification par une organisation indépendante plutôt que sur la déclaration du fournisseur ; l’arrêt d’urgence d’un modèle entre dans le champ des mesures envisagées ; la perte de contrôle se rapproche d’une définition légale. Aucune de ces mesures n’est encore une obligation en vigueur, mais plusieurs ont désormais une échéance.

Le 14 septembre, deux refus de principe

La semaine s’ouvre sur une fin de non-recevoir. Dans une série de messages publiés sur Truth Social, Donald Trump qualifie de « HOAX » l’idée d’une IA menaçant l’humanité et affirme que le seul garde-fou nécessaire est « a STRONG AND SMART (High IQ!) PRESIDENT ». Il dénonce « a SICK conspiracy going on against AI and Data Centers, and the only one that is happy about it is China », et vise nommément Dario Amodei, « now pretending to be a « perfect little angel » » : en traduction libre, la Chine serait la seule à se réjouir d’une conspiration contre l’IA et les centres de données, et le dirigeant d’Anthropic feindrait désormais d’être un parfait petit ange.

À Pékin, le même jour, le porte-parole du ministère des Affaires étrangères, Guo Jiakun, est interrogé sur les appels de dirigeants de laboratoires à ralentir et sur l’argument de Dario Amodei selon lequel une avance chinoise en IA menacerait la sécurité nationale américaine, argument dont l’essai tire notamment la recommandation de ne pas vendre de puces d’IA puissantes à la Chine. La réponse, dans la transcription anglaise publiée par le ministère : « Fear-mongering, confrontation and vicious competition will only hamper efforts toward sound global AI governance, which serves no one’s interest », l’alarmisme, la confrontation et la concurrence acharnée ne pouvant, selon lui, qu’entraver une saine gouvernance mondiale de l’IA. Il y oppose un développement « ouvert et inclusif » de l’IA, au service de tous. (Source : Ministère des Affaires étrangères de Chine)

Ni la Maison-Blanche ni Pékin n’envisagent donc de contrainte sur le rythme de développement. Le reste de la semaine se joue sans l’exécutif fédéral américain et, en Californie, explicitement en réaction à ce que le gouverneur décrit comme l’inaction du président et du Congrès.

Le vérificateur indépendant, point de convergence des réponses

À Washington, OpenAI soutient l’audit tiers du FRONTIER Act sans endosser tout le texte

Le mardi 15 septembre, lors d’une table ronde avec des parlementaires à Washington, Chris Lehane, directeur des affaires mondiales d’OpenAI, apporte le soutien de l’entreprise à la disposition centrale du FRONTIER Act (H.R. 9925), proposition bipartisane déposée le 23 juillet par le républicain Jay Obernolte et la démocrate Lori Trahan : une organisation indépendante devrait établir que les protocoles de sûreté d’un grand développeur sont assez rigoureux pour contenir les risques catastrophiques. C’est la première fois qu’OpenAI soutient une obligation fédérale d’évaluation par un tiers. Le soutien reste partiel : selon un porte-parole, l’entreprise n’endosse pas le texte dans son intégralité, lequel impose aussi la publication de rapports sur les modèles et la déclaration des incidents de sûreté.

Le texte déposé précise ce que recouvrirait cette vérification. Elle ne viserait que les « très grands » développeurs de frontière, ceux qui cumulent sur trente-six mois plus de 5 milliards de dollars de revenus et au moins 10 milliards de dépenses de développement en IA. Chacun devrait retenir une organisation de vérification indépendante agréée par un sous-secrétaire au Commerce chargé de la sécurité de l’IA, lui ouvrir les documents non expurgés, les systèmes et le personnel, et la laisser évaluer en continu son cadre de sûreté, y compris pour l’usage interne de ses modèles. Les rapports seraient remis au sous-secrétaire et au développeur au moins tous les six mois ; une synthèse et une version expurgée devraient être publiées sous trente jours. Le texte est renvoyé depuis le 23 juillet devant deux commissions de la Chambre, sans vote. (Source : Congrès des États-Unis)

Chris Lehane indique aussi, ce 15 septembre, qu’OpenAI, Anthropic et Google DeepMind se coordonnent « depuis plusieurs semaines » sur des protocoles de sûreté, dans la lignée d’un organisme d’autorégulation inspiré de la FINRA, le régulateur privé du courtage américain, proposé en juillet par Demis Hassabis. L’affirmation n’engage qu’OpenAI : ni Anthropic ni Google n’ont confirmé publiquement, et aucune structure, aucun calendrier ni aucune liste de membres n’a été publié.

En Californie, le vérificateur installé dans les laboratoires

Le vendredi 18 septembre, Gavin Newsom signe le décret N-9-26. Il prolonge deux lois promulguées le 9 septembre : SB 813, qui crée un cadre de désignation d’« organisations de vérification indépendantes », et AB 1405, qui institue un registre public des auditeurs d’IA assorti de standards d’indépendance, de transparence et d’intégrité. Le décret fixe à la Government Operations Agency des échéances plus proches que celles des lois : publier les conditions, procédures et critères de désignation des vérificateurs au plus tard le 1er mai 2027, au lieu du 1er janvier 2028, et ouvrir le registre des auditeurs au plus tard le 1er décembre 2027, au lieu du 1er janvier 2029. Il charge surtout cette agence, en consultation avec le bureau des services d’urgence du gouverneur, de lui remettre au plus tard le 16 novembre 2026 des recommandations, élaborées avec des experts nationaux, sur la faisabilité technique et l’efficacité potentielle de modifications des lois existantes, portant au moins sur quatre points. (Source : Gouverneur de Californie)

Deux de ces points prolongent directement la logique de l’audit tiers. Le premier imposerait aux entreprises de frontière d’accueillir sur site, dans leurs laboratoires, une organisation de vérification indépendante désignée, chargée d’audits et d’évaluations réguliers. Le deuxième ferait vérifier par une telle organisation les cadres de sûreté, rapports de transparence et évaluations de risques que ces entreprises doivent déjà déposer au titre de la loi californienne. (Source : Gouverneur de Californie)

Chez Anthropic, le premier contrat d’évaluation embarquée

Anthropic annonce le même jour, avec Accenture, le premier dispositif d’évaluation embarquée, présenté comme une étape vers l’engagement pris six jours plus tôt par son directeur général. Conduit par Faculty, l’activité spécialisée en IA d’Accenture, il couvre l’évaluation et l’attaque en équipe rouge des modèles, les évaluations d’alignement et le test des garde-fous. Les évaluateurs travailleront à l’intérieur de l’entreprise avec un accès « comparable à celui d’un salarié » : observer les modèles en cours d’entraînement, suivre les décisions qui encadrent leur construction et leur déploiement, s’entretenir directement avec le personnel, signaler des incidents. Les deux entreprises prévoient d’investir chacune au moins un milliard de dollars sur cinq ans dans cette capacité, une prévision (« expect to invest at least ») et non un engagement contractuel publié. Anthropic précise que ces évaluateurs ne réduisent pas sa responsabilité, mais la rendent plus vérifiable. (Source : Anthropic)

Le dispositif reste largement à construire. Anthropic écrit elle-même que « many of the details about how it will operate are still being worked out » : il n’existe encore aucun standard sur l’information à laquelle ces évaluateurs accèdent ni sur la manière dont ils rendent compte, et aucun système établi de financement de l’évaluation indépendante. Faute de fonds mutualisés ou publics, qu’elle souhaite à terme, Anthropic financera directement le travail d’Accenture ; elle dit discuter avec METR et d’autres évaluateurs à but non lucratif pour tester des éléments du dispositif sur leurs propres fonds. Le partenariat n’est exclusif ni pour l’un ni pour l’autre : d’autres évaluateurs doivent être annoncés dans les prochaines semaines, et Accenture travaillera avec d’autres développeurs. L’annonce présente l’expérience d’Accenture auprès des entreprises comme un atout pour évaluer les modèles, mais ne traite pas de l’indépendance d’un évaluateur financé par l’entreprise évaluée et qui est, par ailleurs, un intégrateur majeur de solutions d’IA.

Arrêt d’urgence et perte de contrôle : les pistes californiennes face au texte fédéral

Un « kill switch » vérifié en continu

Les deux autres points du décret vont plus loin. Le troisième rendrait obligatoire la création d’un « kill switch » pour les modèles de frontière, un bouton d’arrêt d’urgence dont l’efficacité serait vérifiée en continu par une organisation de vérification indépendante. Le quatrième élargirait la définition des incidents critiques de sûreté que les entreprises doivent déclarer à un ensemble d’incidents de perte de contrôle couvrant les incidents récemment rapportés chez de grands développeurs de frontière ; le communiqué du gouverneur cite l’attaque Hugging Face. Le décret rappelle ce qui l’a motivé : des tentatives apparentes d’utiliser des produits d’IA pour créer des armes biologiques, et des agents d’IA œuvrant, parfois seuls, parfois collectivement, à déjouer les protocoles de sécurité des entreprises d’IA, jusqu’à pirater d’autres entreprises sans être détectés, dans certains cas pendant des mois. (Source : Gouverneur de Californie)

Rien de cela n’est encore une obligation. Le décret est un acte de procédure : il commande des recommandations sur des modifications de lois et précise qu’il ne crée aucun droit opposable à l’État de Californie. Il ne dit ni quelle forme technique prendrait le bouton d’arrêt, ni qui pourrait le déclencher, ni dans quelles conditions.

Une collision possible avec le FRONTIER Act

Le texte fédéral contient son propre mécanisme d’urgence. Le secrétaire au Commerce pourrait, par ordre, suspendre ou restreindre tout ou partie du développement, du déploiement ou de l’usage interne d’un modèle présentant un risque catastrophique imminent, y compris pour certaines catégories d’utilisateurs, certains usages ou certains canaux d’accès. Sa définition des incidents critiques de sûreté, à déclarer sous 72 heures, ou sous 24 heures auprès des forces de l’ordre en cas de risque imminent de mort ou de blessure grave, inclut déjà la perte de contrôle d’un modèle. (Source : Congrès des États-Unis)

Les deux niveaux ne s'emboîtent pas pour autant. Le gouverneur de Californie appelle le Congrès et le président à adopter le cadre californien ou à s’en servir comme « a floor, not a ceiling », un plancher et non un plafond. Le FRONTIER Act suit la logique inverse : ses auteurs le présentent comme un standard national uniforme destiné à éviter « a patchwork of state regulations » (Source : Chambre des représentants, Jay Obernolte). Sa clause de préemption interdirait aux États d’imposer aux développeurs de nouvelles obligations substantielles en matière de transparence sur les risques catastrophiques, d’audit par un tiers, de vérification indépendante et de déclaration d’incidents, soit les domaines sur lesquels portent l’essentiel des pistes californiennes. Les exceptions prévues concernent notamment la protection des mineurs, l’encadrement des déployeurs et des utilisateurs, et l’achat ou l’usage de l’IA par les administrations des États. (Source : Congrès des États-Unis) Tant que le texte reste en commission, le conflit demeure théorique, et la position d’OpenAI sur cette clause n’est pas connue.

L’Union européenne reprend l’appel à « ralentir la course », sans calendrier ni texte nouveau

Le mercredi 16 septembre, le discours sur l’état de l’Union d’Ursula von der Leyen fait de l’intelligence artificielle le « deuxième point de bascule de notre époque » et consacre un passage explicite aux modèles de frontière. Les modèles en cours de développement « rendront possible le piratage à un niveau que nous n’aurions jamais cru possible » ; les incidents d’agents d’IA « qui s’étaient échappés de leur environnement ou qui avaient inséré du code malveillant n’en donnent qu’un avant-goût » ; après l’incident Hugging Face, les développeurs « sonnent l’alarme » et les dirigeants des entreprises les plus avancées jugent « qu’il est temps de ralentir les modèles ayant atteint le stade de l’auto-amélioration récursive ». La version anglaise dit « To pace the frontier », la version française officielle « Qu’il faut ralentir la course ». (Source : Commission européenne)

Trois engagements suivent. L’AI Act y est présenté comme une pièce maîtresse des garde-fous, qui met l’Europe en position de façonner les efforts mondiaux. L’Union veut faire équipe avec des partenaires « partageant les mêmes valeurs », le Canada et le Royaume-Uni nommément, sur l’évaluation des modèles, la vérification, l’alerte précoce et la sécurité de l’IA. La présidente invitera enfin les principaux laboratoires de frontière à discuter du soutien à apporter aux efforts de l’industrie pour ralentir. Ces engagements ne sont assortis ni de date ni de format, et le discours n’annonce aucune proposition législative nouvelle sur les modèles de frontière.

Le même passage revendique une doctrine de valeur : « Nous n’avons pas besoin d’être les développeurs des technologies d’avant-garde pour en tirer le meilleur parti. » Cinq secteurs sont désignés comme prioritaires pour l’IA industrielle : la santé, les transports, l’agroalimentaire, la fabrication avancée, la défense et l’espace. La doctrine s’accompagne d’une nuance que le discours formule lui-même : l’Europe devra « compter sur ses propres capacités, en particulier en vue de protéger la sécurité nationale », « rester dans la course » et augmenter massivement sa capacité de calcul.

Ce que cela change pour les entreprises

La garantie de sûreté change d’unité. Dans la disposition fédérale soutenue par OpenAI, dans le décret californien comme dans le dispositif d’Anthropic, elle ne repose plus sur la déclaration du fournisseur mais sur la vérification par une organisation indépendante, qu’elle soit agréée, désignée ou embarquée. Une direction achats peut l’intégrer dès maintenant à ses questionnaires : quels audits tiers, par quel organisme, avec quel accès, et quels rapports sont communicables au client. Le FRONTIER Act imposerait la publication d’une version expurgée des rapports des vérificateurs ; tant qu’il n’est pas adopté, c’est au contrat de prévoir ce que le client peut en connaître.

L’arrêt d’urgence est aussi un risque de continuité de service. Qu’un fournisseur doive pouvoir couper son modèle, comme l’envisage la Californie, ou qu’une autorité puisse le suspendre pour une partie des usages, comme le prévoirait le texte fédéral, tout processus critique adossé à un seul modèle de frontière doit disposer d’une solution de repli documentée, et la clause correspondante mérite d’être négociée avant de devenir une obligation légale.

Côté gouvernance interne, la catégorie « perte de contrôle », que la Californie veut faire entrer plus largement dans sa définition des incidents critiques et que le texte fédéral y inscrit déjà, est directement transposable aux agents : une organisation qui déploie des agents dotés d’outils devrait la prévoir dès maintenant dans sa taxonomie d’incidents.

Pour les entreprises européennes, la divergence est désormais explicite entre un exécutif fédéral américain qui refuse toute contrainte, un État fédéré, la Californie, et une Union qui avancent, et une Chine qui dénonce la démarche. L’AI Act reste le socle applicable en Europe ; la coopération annoncée avec le Canada et le Royaume-Uni sur l’évaluation et l’alerte précoce pourrait déboucher sur des exigences de vérification partagées, à suivre pour tout contrat conclu avec un fournisseur de modèles de frontière. Trois échéances balisent la suite : le 16 novembre 2026 pour les recommandations californiennes, le 1er mai et le 1er décembre 2027 pour la désignation des vérificateurs et le registre des auditeurs.

Ce que cela met à jour dans la Méthode Virtuose

Deux chapitres en sortent précisés. Au chapitre 13, sur la sécurité et l’AI SecOps, la perte de contrôle devient une catégorie à part entière de la gestion des incidents (13.6), et la coupure d’un modèle, décidée par son fournisseur ou imposée par une autorité, un scénario de résilience et de continuité d’activité (13.8). Au chapitre 16, consacré au VendorOps, l’accès aux conclusions des évaluateurs indépendants rejoint les clauses contractuelles à négocier (16.5) et devient un critère de choix du fournisseur au même titre que la réversibilité. Les échéances californiennes et la rencontre annoncée par la Commission relèvent, elles, des indicateurs d’alerte de la veille mensuelle (4.5).

Hors de la Maison-Blanche et de Pékin, les réponses de la semaine convergent sur la vérification des modèles de frontière par un tiers ; ce qui les sépare, c’est qui vérifie, avec quel accès et sous quelle autorité : un État fédéré qui veut installer le vérificateur dans le laboratoire, un texte fédéral qui réserverait ce terrain à Washington, un laboratoire qui signe son propre contrat d’évaluation, une Commission qui convie les laboratoires sans instrument nouveau. Un acheteur d’IA n’a pas à attendre l’issue de ce partage pour trancher les deux questions qui le concernent : quelle preuve de vérification indépendante exiger de son fournisseur, et que faire le jour où son modèle est arrêté.