La Californie accueille les sièges de nombreux géants de la tech et pourrait potentiellement créer un précédent en matière de réglementation de l’IA.
Le California Report on Frontier AI Policy publié mardi présente de nouveaux projets de garde-fous pour l’IA qui pourraient être inscrits dans la loi de l’État. Il a été rédigé par des experts après que le gouverneur de Californie Gavin Newsom a opposé son veto au controversé projet de loi sur la réglementation de l’IA SB 1047 — le Safe and Secure Innovation for Frontier Artificial Intelligence Models Act — en septembre 2024.
Depuis le mois de mars, date de publication d’une première version du rapport, de nouveaux éléments montrent que les modèles d’IA contribuent aux « risques liés aux armes chimiques, biologiques, radiologiques et nucléaires (CBRN) », les développeurs faisant état de « bonds de capacités » dans ces domaines, écrivent les auteurs. Ils estiment que l’IA pourrait causer des « dommages irréversibles » si des garde-fous appropriés ne sont pas mis en place.
Les auteurs soulignent également que les réglementations doivent être « proportionnées au risque associé » et « ne pas être si contraignantes qu’elles brident l’innovation ».
Les auteurs du rapport dénigrent le « grand et magnifique projet de loi » qui interdirait les lois des États sur l’IA
Le rapport paraît alors qu’un projet de loi budgétaire soutenu par les républicains progresse au Congrès. Celui-ci interdirait aux États et collectivités locales des États-Unis de réglementer l’IA pendant les 10 prochaines années. Ses promoteurs estiment qu’un cadre national unifié serait préférable à un patchwork fragmenté de lois étatiques. Les critiques soulignent toutefois que la suppression des mesures de conformité adoptées par les États pour prévenir les biais et protéger les consommateurs d’IA attirerait également des entreprises technologiques très lucratives qui souhaitent éviter les retards réglementaires.
Jusqu’à présent, la Californie s’est largement abstenue de mettre en place une réglementation étendue ou spécifique de l’IA, préférant des accords volontaires.
« Une politique soigneusement ciblée en Californie peut à la fois reconnaître l’importance d’harmoniser les normes entre les différentes juridictions afin de réduire les charges de conformité pesant sur les développeurs et d’éviter une approche en patchwork, tout en remplissant l’obligation fondamentale des États envers leurs citoyens de les maintenir en sécurité », écrivent les auteurs.
Les évaluations des risques réalisées par des tiers sont essentielles à la réglementation des modèles d’IA, estiment les chercheurs
Le fond du désaccord de Newsom avec le projet SB 1047 était que celui-ci ciblait simplement tous les modèles de grande taille, indépendamment de leur profil de risque, au lieu de se concentrer sur les modèles à haut risque, quelle que soit leur taille. Les auteurs du rapport partagent ce constat et affirment que d’autres facteurs doivent être pris en compte pour catégoriser les modèles à des fins de réglementation, au-delà de leur taille, comme les « évaluations des risques » et leur « empreinte en aval ».
Rendre obligatoires les évaluations des risques réalisées par des tiers est particulièrement important, car les développeurs d’IA ne communiquent pas toujours volontairement les informations sur « l’acquisition des données, les pratiques de sûreté et de sécurité, les tests préalables au déploiement et les impacts en aval ». Beaucoup fonctionnent comme des boîtes noires. Le PDG d’Anthropic a même reconnu que son entreprise ne comprend pas pleinement le fonctionnement de son système d’IA, ce qui jette le doute sur la capacité des dirigeants du secteur technologique à évaluer précisément les risques encourus.
Les évaluations externes, souvent menées par des groupes présentant une diversité démographique plus importante que les entreprises technologiques californiennes, permettent de mieux représenter les communautés les plus vulnérables aux biais de l’IA, notent les auteurs. Rendre ces audits obligatoires pourrait également accroître la transparence dans l’ensemble du secteur ; les entreprises seraient incitées à améliorer leur sécurité et à éviter un examen minutieux, ce qui contribuerait aussi à réduire leur exposition en matière de responsabilité juridique.
Néanmoins, la réalisation de telles évaluations nécessiterait un accès aux données des entreprises, que les développeurs pourraient hésiter à partager. Dans son évaluation de 2024, METR, un organisme indépendant de recherche sur la sécurité de l’IA, a indiqué n’avoir reçu qu’un « accès limité » aux informations sur le modèle o3 d’OpenAI, ce qui a rendu difficile l’interprétation complète des résultats et l’évaluation des risques potentiels pour la sécurité.
Les liens entre le rapport et le projet SB 1047
Après avoir opposé son veto au projet SB 1047 pour apaiser ses détracteurs favorables à la sécurité, Newsom a présenté plusieurs nouvelles initiatives liées à l’IA générative. L’une d’elles prévoyait que l’État réunirait un groupe d’experts et d’universitaires spécialistes de l’IA, notamment la professeure de Stanford University et « grand-mère » de l’IA Fei-Fei Li, afin d’« aider la Californie à élaborer des garde-fous applicables ». Le plan relatif à ces garde-fous est présenté dans le rapport.
Le projet SB 1047 aurait constitué la réglementation la plus stricte du pays en matière d’IA générative. Il visait à empêcher les modèles d’IA de causer des dommages à grande échelle à l’humanité, notamment par une guerre nucléaire ou des armes biologiques, ou d’entraîner des pertes financières, en imposant des exigences strictes de sécurité aux développeurs.
Ces exigences offraient des protections aux lanceurs d’alerte du secteur, imposaient aux grands développeurs d’IA d’être capables d’arrêter complètement leurs modèles et rendaient les grandes entreprises d’IA responsables du respect de protocoles stricts de sûreté et de sécurité. Le rapport indique que les protections des lanceurs d’alerte devraient être maintenues, mais ne mentionne pas de bouton d’arrêt.
Une grande partie de la Silicon Valley — notamment OpenAI, Meta, Google, et Hugging Face — a publiquement dénigré le projet SB 1047, le qualifiant de menace pour l’innovation et critiquant ses « exigences techniquement irréalisables ». Le projet de loi a toutefois reçu le soutien d’Elon Musk à l’époque, tandis que deux anciens employés d’OpenAI ont également adressé une lettre à Newsom pour critiquer leur ancien employeur, qui s’opposait au projet SB 1047.
Note de la rédaction : ce contenu a été publié à l’origine sur notre site partenaire TechRepublic le 18 juin 2025.