Le gouverneur de Californie Gavin Newsom a signé la SB 53, la Transparency in Frontier Artificial Intelligence Act (TFAIA), première loi du pays à instaurer des garde-fous pour l’IA de pointe. Le texte vise à trouver un équilibre entre innovation et sécurité publique.
Selon un communiqué du bureau du gouverneur, la loi établit de nouvelles obligations pour les développeurs et vise à renforcer la sécurité et la transparence, alors que l’État entend s’imposer comme un leader mondial de la réglementation de l’IA.
Gagner la confiance du public
La nouvelle loi s’applique aux modèles d’IA, c’est-à-dire aux systèmes les plus avancés, dotés de capacités et présentant des risques importants. Le gouverneur Newsom a expliqué qu’elle mettait en place des « garde-fous de bon sens » pour gagner la confiance du public sans étouffer l’innovation.
Ce que prévoit la SB 53
- Transparence : les grands développeurs d’IA devront publier un cadre expliquant comment ils respectent les normes nationales et internationales, afin de rendre leurs pratiques visibles du public.
- Innovation : la loi établit CalCompute, un consortium public de calcul informatique soutenu par l’État pour favoriser une recherche en IA sûre et équitable.
- Sécurité : elle met en place un système permettant aux entreprises et au public de signaler directement les incidents critiques de sécurité liés à l’IA à l’Office of Emergency Services de Californie.
- Responsabilité : elle protège les lanceurs d’alerte qui révèlent des risques graves liés aux modèles de pointe et impose des sanctions civiles en cas de non-respect, applicables par le procureur général.
- Réactivité : elle charge le Department of Technology de recommander des mises à jour annuelles, afin que la loi reste adaptée aux avancées rapides et aux normes internationales.
La réponse de la Californie à l’inaction fédérale
Le gouverneur Newsom a qualifié l’intelligence artificielle de « nouvelle frontière de l’innovation » et affirmé que la Californie entendait prendre la tête du mouvement à mesure que la technologie évolue rapidement.
Le sénateur Scott Wiener a attribué au Joint California AI Policy Working Group et au partenariat avec l’administration le mérite d’avoir perfectionné le projet de loi, estimant que cette collaboration avait aidé le texte à promouvoir « la confiance, l’équité et la responsabilité ».
Les responsables de l’État ont déclaré que la SB 53 s’appuyait sur un rapport inédit publié plus tôt cette année et revêtait une importance particulière alors que le gouvernement fédéral n’est pas parvenu à adopter une politique globale en matière d’IA.
L’IA de pointe sous le signe de la confiance, mais avec vérification
L’ancien juge de la Cour suprême de Californie Mariano-Florentino Cuéllar a déclaré que la loi reprenait les principes de transparence et de « confiance, mais vérification » énoncés dans le précédent rapport de l’État sur l’IA. Il a soutenu qu’à mesure que les avancées de pointe se poursuivent, la supervision devait accorder une place centrale à un examen scientifique rigoureux.
La Dre Fei-Fei Li, codirectrice de l’Institute for Human-Centered AI de Stanford, a également soutenu le texte, le qualifiant d’étape vers une élaboration des politiques fondée sur les données probantes.
Jennifer Chayes, doyenne du College of Computing, Data Science, and Society de l’UC Berkeley, s’est jointe à d’autres responsables universitaires pour soutenir le texte, présenté comme un modèle visant à garantir l’équité et la responsabilité dans le développement de l’IA.
Anthropic a également approuvé la SB 53, estimant qu’elle trouvait un équilibre entre concurrence et transparence en obligeant les entreprises à divulguer les systèmes d’IA à haut risque. L’entreprise a précisé qu’elle appliquait déjà des garde-fous similaires et fait valoir que la loi empêche ses concurrents de rogner sur la sécurité pour prendre l’avantage.
Le centre de gravité de l’IA devient son centre de gouvernance
La Californie domine le secteur mondial de l’IA : elle accueille 32 des 50 principales entreprises d’IA du monde et plus de 15 % des offres d’emploi américaines dans ce domaine. La seule région de la baie de San Francisco a attiré l’an dernier plus de la moitié des financements mondiaux en capital-risque destinés aux start-up d’IA, ce qui souligne l’attractivité inégalée de l’État pour les talents et les capitaux.
C’est également le siège de trois des quatre entreprises à avoir atteint une valorisation de 3 000 milliards de dollars : Google, Apple et Nvidia, qui investissent toutes massivement dans l’IA. Selon les responsables, cette concentration du pouvoir industriel place la Californie dans une position unique pour fixer des normes dont l’influence dépassera largement ses frontières.
Avec la SB 53, la Californie s’appuie sur sa domination pour aligner son poids économique sur son rôle de leader réglementaire. Les dirigeants de l’État espèrent que la loi ne fera pas seulement de la Californie un acteur incontournable de l’IA, mais qu’elle offrira aussi un modèle de gouvernance responsable à mesure que la technologie transforme les secteurs d’activité partout dans le monde.