La Californie établit de nouvelles normes de sécurité pour l'IA de pointe avec le SB 53

L'adoption du SB 53 par la Californie marque l'introduction des premières exigences à l'échelle de l'État aux États-Unis en matière de transparence et de gestion des risques dans le développement de l'intelligence artificielle de pointe.

La Loi sur la transparence dans l'intelligence artificielle de pointe, rédigée par le sénateur d'État Scott Wiener, a été signée en 2025 et est entrée en vigueur le 1er janvier 2026. La loi impose aux développeurs de systèmes d'IA avancés de publier des cadres détaillant comment ils évaluent et gèrent les risques catastrophiques.

Le SB 53 définit le risque catastrophique comme un risque prévisible et matériel provenant d'un modèle d'IA de pointe qui pourrait entraîner la mort ou des blessures graves à plus de 50 personnes, ou causer des dommages matériels dépassant 1 milliard de dollars lors d'un seul incident. La législation comprend également des protections pour les lanceurs d'alerte qui signalent des risques critiques ou des déclarations fausses concernant la gestion des risques liés aux activités d'IA.

Des chercheurs d'Anthropic ont publiquement averti que l'IA superintelligente pourrait poser des menaces existentielles, y compris la possibilité de détruire l'humanité. En réponse à ces préoccupations, Anthropic a soutenu le SB 53 et a publié un cadre de conformité décrivant son approche pour gérer les risques catastrophiques comme l'exige la loi.

Ce que les chiffres montrent

• Le SB 53 est entré en vigueur le 1er janvier 2026.
• Le risque catastrophique est défini comme un préjudice à plus de 50 personnes ou plus de 1 milliard de dollars de dommages.
• Le SB 53 est la première loi américaine à exiger la transparence sur les risques liés à l'IA de pointe.

Le sénateur Wiener, avec des législateurs de New York et de l'Illinois, a appelé les principales entreprises d'IA à négocier un cadre commun, vérifié de manière indépendante, pour réguler le développement de l'IA de pointe jusqu'à ce que la recherche sur la sécurité puisse traiter les risques émergents. Cette proposition vise à aligner les pratiques de l'industrie avec les normes de sécurité en évolution.

Le SB 53 a reçu le soutien d'une coalition comprenant Encode Justice, Secure AI Project, Economic Security California Action, des organisations de la société civile, des groupes de travail, des organisations de sécurité de l'IA et Anthropic. Ce large soutien reflète des efforts coordonnés entre divers groupes pour aborder les risques liés à l'IA.

Les dispositions de la loi sur les lanceurs d'alerte protègent les employés qui signalent que les activités d'IA de leur employeur posent des risques critiques ou impliquent des déclarations trompeuses concernant la gestion des risques. Ces mesures visent à encourager la transparence et la responsabilité au sein des organisations développant des systèmes d'IA avancés.

Réaction de l'industrie

Anthropic a soutenu l'adoption du SB 53 et a publié un cadre de conformité pour répondre aux exigences de la loi. La société a déclaré que son cadre explique comment elle évalue et gère les risques catastrophiques conformément à la nouvelle législation.

D'autres organisations, y compris des groupes de la société civile et des organisations de travail, ont rejoint la coalition soutenant le SB 53. Leur soutien a été documenté dans des analyses législatives et des déclarations publiques lors du passage du projet de loi.

* Cet article est basé sur des informations publiquement disponibles au moment de la rédaction.