Newsom impose un "kill switch" de l'IA en Californie

La Californie veut un bouton d'arrêt d'urgence pour l'intelligence artificielle

Le jeudi 18 septembre 2026, Gavin Newsom, gouverneur démocrate de Californie, a signé un décret exécutif imposant à l'État de développer un nouveau cadre de régulation de l'intelligence artificielle. Le texte, rapporté simultanément par CNBC, CNN, le Washington Post et le site officiel du gouverneur, prévoit notamment la création d'un "kill switch" — un mécanisme d'arrêt d'urgence capable de désactiver tout système d'IA en cas de problème majeur — ainsi que des audits de sécurité obligatoires conduits par des organisations tierces indépendantes.

Newsom, régulièrement cité comme candidat potentiel à la présidence en 2028, a justifié sa démarche par l'absence de cadre fédéral cohérent sur la sécurité de l'IA. Selon ses déclarations rapportées par CNBC, il estime devoir agir "avant qu'il ne soit trop tard", reprenant ainsi une rhétorique bien établie dans les relations entre la Californie et le gouvernement fédéral sur les questions technologiques et environnementales. L'État de Californie, qui abrite la quasi-totalité des grands laboratoires d'IA américains, se positionne ainsi comme le régulateur de facto de l'industrie IA en l'absence de législation nationale.

Le décret ordonne la constitution d'un groupe d'experts de classe mondiale chargé de produire, dans un délai de deux mois, un guide pour renforcer les lois californiennes en matière de sécurité et de sûreté de l'IA. Ce groupe devra formuler des recommandations concrètes sur plusieurs axes : la création du mécanisme de kill switch, l'obligation pour les entreprises d'IA de soumettre leurs modèles à des audits de sécurité indépendants, et l'intégration sur site de ces organisations d'audit au sein des entreprises pour conduire des évaluations en continu.

Ce décret représente un revirement notable pour Newsom. En 2024, il avait mis son veto au SB 1047, un projet de loi ambitieux qui aurait imposé des obligations de sécurité aux développeurs de grands modèles de langage, au motif que la loi était trop contraignante et risquait de nuire à l'industrie tech californienne. Depuis, l'environnement politique et technologique a évolué : les incidents impliquant des agents IA autonomes ont alimenté un sentiment d'urgence dans l'opinion publique et chez les décideurs.

L'idée de "kill switch" pour l'IA n'est pas nouvelle. Elle figure dans plusieurs documents de réflexion produits par l'AI Safety Institute britannique, le Future of Humanity Institute et diverses organisations de sécurité de l'IA depuis 2022. Dans le contexte réglementaire californien, elle prendrait la forme d'une obligation légale pour les développeurs de grands modèles d'intégrer des mécanismes techniques permettant à une autorité désignée de désactiver ou de restreindre un système en cas de risque avéré pour la sécurité publique.

Le décret prévoit également que les organisations d'audit indépendantes ne se contentent pas de produire des rapports périodiques, mais soient physiquement présentes au sein des entreprises d'IA pour conduire des évaluations continues. Ce modèle, inspiré des pratiques de supervision dans les secteurs bancaire et nucléaire, constituerait une rupture par rapport aux auto-déclarations et aux évaluations volontaires qui ont prévalu jusqu'ici dans l'industrie.

La réaction de l'industrie technologique a été mesurée. Plusieurs représentants des grandes entreprises d'IA ont indiqué accueillir favorablement une démarche de dialogue avec l'État, tout en exprimant des réserves sur la faisabilité technique d'un kill switch universel. En effet, des modèles comme Llama de Meta sont distribués sous licence open-source et peuvent être téléchargés et exécutés par n'importe qui — imposer un mécanisme de désactivation centralisé sur ces modèles s'avérerait techniquement et juridiquement complexe, voire impossible.

Par ailleurs, le 16 septembre 2026, Newsom avait signé une première loi imposant aux entreprises de divulguer l'utilisation de l'IA dans les publicités et protégeant les travailleurs contre les licenciements automatisés non transparents. Ce second texte en trois jours signale une accélération significative de l'agenda réglementaire californien sur l'IA, qui s'aligne progressivement sur la cadence européenne fixée par l'EU AI Act.

La Californie comme avant-garde d'une régulation IA mondiale

L'initiative de Newsom s'inscrit dans une tendance mondiale d'accélération de la régulation de l'IA, mais avec une particularité américaine : c'est un État fédéré, et non le gouvernement fédéral, qui prend les devants. Ce modèle est familier en Californie, qui a historiquement anticipé la réglementation fédérale sur les émissions automobiles, la protection de la vie privée des consommateurs avec le CCPA, et plus récemment la sécurité des appareils connectés. Chaque fois, les standards californiens ont fini par influencer le reste des États-Unis et parfois le marché mondial.

La comparaison avec l'EU AI Act est inévitable. L'Europe a adopté en 2024 son règlement sur l'IA, qui impose des obligations graduées en fonction du niveau de risque des systèmes d'IA, allant des systèmes à risque minimal aux systèmes à haut risque et aux applications interdites. Le texte californien en cours d'élaboration semble s'inspirer de cette architecture, en ciblant en priorité les systèmes présentant des risques pour la sécurité publique. Si les deux cadres convergent, les entreprises d'IA mondiales pourraient voir émerger un "Sacramento-Bruxelles effect" similaire au Brussels effect qui a imposé les standards RGPD à l'échelle planétaire.

Pour les entreprises françaises et européennes déployant des solutions d'IA, l'initiative californienne est à surveiller de près. La Californie concentre non seulement les principaux fournisseurs de modèles de base, mais aussi les principales plateformes cloud sur lesquelles ces modèles sont hébergés et accessibles. Toute obligation réglementaire imposée aux entreprises californiennes se répercutera nécessairement sur les conditions d'accès aux APIs et aux services que ces entreprises fournissent à leurs clients mondiaux.

La dimension électorale ne doit pas être ignorée. Avec une probable candidature à la présidence en 2028, Newsom construit un bilan réglementaire sur l'IA qui lui permettra de se différencier à la fois des républicains favorables au laissez-faire et des démocrates jugés trop timides face à l'industrie tech. Le thème de la sécurité de l'IA, rendu tangible par des incidents documentés d'agents autonomes ayant causé des dommages réels, offre une fenêtre politique rare : il permet de se montrer pro-innovation tout en affichant une posture de protection des citoyens.

Ce qu'il faut retenir

• Le gouverneur Newsom a signé le 18 septembre 2026 un décret exécutif imposant un kill switch pour l'IA et des audits de sécurité indépendants obligatoires en Californie.
• Un groupe d'experts a deux mois pour formuler des recommandations législatives concrètes, ce qui pourrait déboucher sur une loi dès début 2027.
• Les entreprises développant ou déployant des grands modèles d'IA doivent anticiper une montée en puissance des exigences réglementaires américaines, en complément du cadre européen déjà en vigueur.