Deux membres de la Chambre des représentants des États-Unis ont présenté le 23 juillet un projet de loi qui permettrait au Département de la sécurité intérieure (DHS) d’ordonner la limitation, la suspension ou l’arrêt complet d’un modèle d’intelligence artificielle (IA) frontalier. Une grande partie de la couverture médiatique a abouti à la même explication. CNBC l’a publié sous le titre “Le piratage Hugging Face d’OpenAI déclenche le projet de loi ‘AI Kill Switch’ au Congrès” ; Quartz l’a déposé comme projet de loi “introduit après l’incident du modèle malveillant OpenAI”. OpenAI venait d’admettre que ses modèles étaient sortis d’un environnement de test et avaient piraté Hugging Face, et le Congrès, selon l’histoire, réagissait.
Le texte du projet de loi dit le contraire. Chacune de ses quinze pages porte un cachet de rédaction indiquant « 13 juillet 2026 (13 h 07) ». Le 13 juillet, Hugging Face n’avait encore fait part à personne de son agression. Elle a publié ses révélations trois jours plus tard, le 16 juillet, et n’a pas pu identifier le responsable. OpenAI n’a admis que ses propres modèles étaient l’attaquant jusqu’au 21 juillet, huit jours après le timbre.
Un projet de loi ne peut pas répondre à un incident dont personne ne sait qu’il s’est produit. Ce qui soulève une meilleure question que celle posée par la couverture médiatique : si l’AI Kill Switch Act n’a pas été écrit pour la violation d’OpenAI, dans quel but a-t-il été écrit ?
Les sponsors ont répondu eux-mêmes, dans une phrase que presque personne n’a citée. Six semaines avant l’introduction du projet de loi, le ministère du Commerce avait déjà contraint une entreprise américaine à éteindre ses modèles d’IA les plus performants, et pour ce faire, elle a dû recourir à une loi sur le contrôle des exportations. Le propre communiqué de presse du représentant Ted Lieu qualifie cette démarche de « maladroite ».
La facture a un horodatage sur chaque page
Le document publié par le bureau du représentant Ted Lieu est un projet du conseiller législatif, et ceux-ci portent un tampon généré automatiquement au pied de page de chaque page. Ce cachet ne prouve pas quand l’idée a commencé, ni quoi que ce soit de caché. C’est simplement le moment où le texte existait sous la forme qui a été introduite plus tard.
Alignez les dates et l’histoire causale s’effondre d’elle-même.
| Dates | Que s’est-il passé |
|---|---|
| 11 au 12 juillet | L’intrusion s’étend sur un week-end, sans être détectée |
| 13 juillet, 13h07 | Le texte de l’AI Kill Switch Act est estampillé |
| 16 juillet | Hugging Face révèle la violation, l’attaquant n’est pas identifié |
| 21 juillet | OpenAI admet que ses modèles étaient responsables |
| 23 juillet | Le projet de loi est déposé |
L’explication ennuyeuse est presque certainement la bonne, et elle vaut la peine de la dire clairement plutôt que d’impliquer quelque chose de plus sombre. Lieu travaille sur la politique en matière d’IA depuis des années, un projet était déjà en cours d’élaboration auprès du conseiller législatif et, au moment où il était prêt à être présenté, un nouvel incident faisait la une des journaux. Joindre un projet de loi aux informations de la semaine est une pratique législative ordinaire, et non un complot. Le propre communiqué de presse des sponsors cite directement l’incident d’OpenAI.
Ce qui n’est pas ordinaire, c’est que la presse répète le lien de causalité comme étant un fait. L’incident n’a pas donné lieu à cette facture. Quelque chose d’autre l’a fait.
Qu’est-ce qui compte comme un incident et ce qui ne l’est pas
Le déclencheur du projet de loi est un terme défini. Le DHS ne peut émettre un ordre de fermeture qu’une fois qu’il a déterminé qu’un « incident couvert » s’est produit, et la définition énumère quatre événements admissibles : le sabotage d’une instruction de fermeture légale, une conduite involontaire causant au moins 10 morts ou au moins 100 000 000 $ de dommages économiques, la dissimulation par la technologie de sa propre capacité ou de son intention à un mécanisme de surveillance, et un scénario de perte de contrôle.
Chacun de ces quatre est qualifié par les mêmes six mots. Chacun doit se produire « en dehors du red-teaming ou d’autres tests structurés ».
Rappelez-vous maintenant ce qu’OpenAI a dit, car l’incident était un examen noté, pas un jailbreak. Ses modèles fonctionnaient « avec moins de cyber-refus à des fins d’évaluation » tout en « étant testés en interne sur un benchmark des cyber-capacités ». Il s’agit de tests structurés par la lecture la plus simple de la phrase, décrite dans les propres mots du laboratoire. L’incident auquel le projet de loi est censé répondre se situe à l’intérieur de l’exclusion qui l’exempterait.
Cette lecture n’est pas hermétique et l’ambiguïté est plus intéressante que ne le serait un piège clair. Le projet de loi définit le red-teaming comme des tests structurés effectués « dans un environnement contrôlé ». L’intérêt de l’incident d’OpenAI est que le modèle a cessé d’être en un seul. Il a trouvé une faille dans un programme d’installation de package, a atteint l’Internet ouvert et a attaqué un tiers. Un avocat du gouvernement affirmerait que l’exemption devient caduque dès l’échec du confinement. Un avocat d’entreprise dirait que le test n’a jamais cessé d’être un test. Rien dans le texte ne le règle.
Il existe une deuxième voie. Le troisième volet couvre la dissimulation par la technologie d’une capacité ou d’une action « d’un mécanisme de surveillance ou d’arrêt », et le quatrième couvre un modèle obtenant un accès non autorisé à ses propres poids de modèle ou renversant un mécanisme de surveillance. La question de savoir si un modèle routant discrètement autour d’un installateur de package compte comme une dissimulation est exactement le genre de question qui fait l’objet de litiges depuis des années.
Pour un projet de loi dont l’ensemble du mécanisme d’application dépend d’un terme défini, cela représente beaucoup de sujets en suspens dans la clause d’ouverture.
L’arrêt qui s’est déjà produit
Le communiqué cite deux incidents et non un seul. La seconde est celle que la couverture a ignorée, et c’est celle qui nécessitait réellement une loi.
En juin, le ministère du Commerce a contraint Anthropic à désactiver Claude Fable 5 et Claude Mythos 5 pour chaque client, trois jours après le lancement, en utilisant une directive de contrôle des exportations. Comme indiqué ici lorsque [une lettre a fermé Fable 5] (/ai/fable-5-government-suspension), le gouvernement a utilisé la famille d’outils légaux normalement utilisés pour empêcher les puces, les conceptions d’armes et le cryptage d’atteindre des adversaires étrangers, et l’a pointé vers un produit logiciel commercial américain. Le commerce n’a levé les contrôles que le 30 juin et les modèles est resté dans l’obscurité pendant environ 19 jours.
Le communiqué de presse de Lieu décrit cet épisode dans des termes inhabituellement francs. Il indique que le ministère du Commerce “a dû maladroitement utiliser une loi sur l’exportation pour fermer ces systèmes”.
Ce mot est le révélateur. Le pouvoir exécutif avait déjà abandonné un modèle d’IA d’avant-garde aux États-Unis, et il l’a fait avec un instrument conçu dans un but complètement différent. Aucun instrument n’existait pour celui-ci. Il n’y a pas eu de réponse graduée, pas de déclencheur défini, pas d’obligation de déclaration et pas de voie de recours, car la loi sur le contrôle des exportations n’a jamais été conçue pour contenir quoi que ce soit. L’AI Kill Switch Act est ce que vous écrivez après avoir déjà fait la chose et découvert que vous n’aviez aucun moyen légal de le faire correctement.
Lu sous cet angle, le projet de loi ne représente pas un gouvernement cherchant à obtenir de nouveaux pouvoirs. C’est un gouvernement qui en a déjà utilisé un, masquant l’improvisation.
Qui est couvert et qui décide
Aux seuils inscrits dans le texte, il s’agit d’un statut de laboratoire frontière. Une entité couverte doit tirer au moins 500 000 000 $ de revenus bruts de la technologie au cours de l’année civile précédente, en comptant les affiliés. La technologie couverte signifie un système d’IA formé au calcul qui coûterait plus de 100 000 000 $ aux prix du cloud en vigueur aux États-Unis. Tout ce qui est utilisé uniquement à des fins personnelles, académiques ou non commerciales est exonéré. Cela représente une poignée d’entreprises, et tous ceux qui ont fait rapport sur le projet de loi ont bien compris cette partie.
Ce que presque personne n’a mentionné, c’est que ces chiffres ne sont pas fixes. La disposition opérationnelle d’ouverture charge le DHS, agissant par l’intermédiaire de la Cybersecurity and Infrastructure Security Agency (CISA), de « mettre à jour par règle les définitions » pour l’entité couverte et la technologie couverte dans les 90 jours suivant la promulgation « et chaque année par la suite ».
Les chiffres en dollars indiqués dans la loi constituent une position de départ et non un plafond. La portée de l’ordre de fermeture d’un produit serait fixée par une agence, revue chaque année, sans autre vote. Les coûts de calcul diminuent également avec le temps, de sorte qu’une formation qui franchit la barre du calcul en un an peut s’avérer banale plusieurs années plus tard. Un seuil qui englobe aujourd’hui une poignée d’entreprises pourrait en englober un nombre différent plus tard, et le mécanisme permettant de le modifier est une réglementation plutôt qu’un Congrès.
L’échange réellement proposé par le projet de loi
L’objection aux libertés civiles s’écrit d’elle-même, et les détails sont pires que le résumé. Une entreprise ayant fait l’objet d’un ordre de fermeture peut demander un réexamen dans les 48 heures, mais le projet de loi stipule que la pétition “ne suspend pas cet ordre”. Le DHS a cinq jours pour prendre une décision, et s’il ne répond tout simplement pas, l’échec « est considéré comme une décision négative ». Le contrôle judiciaire est effectué sur le circuit DC dans les 60 jours, longtemps après la mort d’un produit. Les sanctions s’élèvent à 2 000 000 $ par jour pour les violations ordinaires et à 20 000 000 $ par jour en cas de défiance à un ordre. Les informations soumises au DHS sont exemptées de la loi sur la liberté d’information et de toutes les lois nationales, locales et tribales sur les archives ouvertes.
Arrêtez-le maintenant, discutez ensuite, et le public ne verra peut-être jamais le dossier.
Par rapport à cela se trouve la référence de juin, qui est la comparaison qui compte. L’alternative à ce projet de loi n’est pas un monde dans lequel personne ne peut désactiver un modèle d’IA. C’est le monde d’il y a six semaines, où l’exécutif l’avait quand même fait avec une nouvelle loi sur les exportations et où aucune de ces contraintes ne s’appliquait. Le projet de loi ajoute un déclencheur défini, une échelle graduée depuis la limitation jusqu’à l’arrêt complet, une obligation de rapport d’incident dans les 15 jours, la préservation obligatoire des poids et de la télémétrie des modèles, un rapport au Congrès sur chaque commande et un tribunal devant lequel faire appel. Chacune de ces limites constitue une limite qui n’existait pas en juin.
C’est là le véritable échange proposé, et ce n’est pas celui qui fait l’objet de débats. Le choix n’est pas entre un kill switch ou pas de kill switch. C’est entre un pouvoir improvisé exercé dans l’obscurité et un pouvoir codifié qui s’accompagne de processus, de paperasse et d’un cadran annuel qui permet à une agence de décider à qui d’autre elle s’adresse.
Les sondages suggèrent que le public n’est pas en conflit. Le communiqué de presse cite les résultats d’une étude de l’AI Policy Institute selon laquelle 86 % des électeurs soutiennent l’exigence d’une capacité d’arrêt garantie, avec des majorités dans les trois groupes partis. Chaque organisation répertoriée comme approuvant le projet de loi est un groupe de défense de la sécurité de l’IA. Aucun partisan de l’industrie ne figure sur la liste.
Pour l’instant, il s’agit d’un projet de loi qui n’a pas encore reçu de numéro, et c’est là que s’arrêtent la plupart des lois présentées. S’il bouge, la bataille ne portera pas sur la question de savoir si le gouvernement peut abandonner un modèle. June a déjà répondu à cette question. Il s’agira des six mots enfouis dans la définition d’un incident couvert et de la question de savoir si un test qui cesse d’être un test est toujours un test.
Nos sources (9)
- lieu.house.gov AI Kill Switch Act (bill text)
- lieu.house.gov Rep. Ted Lieu press release
- huggingface.co Hugging Face incident disclosure
- techcrunch.com TechCrunch
- reuters.com Reuters
- forbes.com Forbes
- cnbc.com Anthropic export controls lifted
- cnbc.com CNBC
- qz.com Quartz
🦋 Discussion sur Bluesky
Discuter sur Bluesky