À RETENIR
- •Le gouverneur Gavin Newsom a opposé son veto au projet de loi visant à encadrer l’essor de l’IA. (Aller à la section)
- •Le texte, connu sous le nom de SB-1047, constituait une première tentative de réglementer une technologie puissante qui, jusqu’à présent, a fait l’objet de peu de mesures réglementaires. (Aller à la section)
- •
- Les adversaires et les partisans du SB-1047 ont exprimé des opinions passionnées sur ce projet de loi, qui a suscité un large intérêt dans les secteurs de la technologie, des affaires, d’Hollywood et du monde universitaire. (Aller à la section)
Dans une décision qui aura des répercussions majeures sur l’avenir de la réglementation de l’intelligence artificielle, le gouverneur Gavin Newsom a opposé son veto à un projet de loi de l’État de Californie qui aurait instauré des garde-fous face à l’essor fulgurant de l’IA. Le projet de loi, SB-1047, connu sous le nom de Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, était la première tentative d’un État de réglementer intégralement le développement de l’IA. Comme de nombreux développeurs d’IA sont établis en Californie, il aurait eu un impact considérable sur le secteur au-delà des frontières de l’État.
Le projet de loi proposait les mesures suivantes afin d’accorder de vastes pouvoirs réglementaires sur la manière dont les grandes entreprises développent et utilisent la technologie de l’IA :
- Exiger des développeurs qu’ils mettent en place des capacités de « kill switch » permettant de procéder rapidement à un arrêt complet avant de commencer à entraîner des modèles d’IA.
- Interdire aux développeurs d’utiliser un modèle d’IA ou l’un de ses dérivés à une fin qui ne serait pas exclusivement liée à l’entraînement ou à l’évaluation raisonnable du modèle.
- Exiger des développeurs qu’ils mandatent chaque année des auditeurs tiers pour réaliser des audits indépendants de leur conformité à ces dispositions à compter de 2026.
« Je ne pense pas qu’il s’agisse de la meilleure approche pour protéger le public contre les menaces réelles posées par cette technologie », a déclaré Newsom dans sa déclaration officielle. « Au contraire, le projet de loi applique des normes strictes même aux fonctions les plus élémentaires, dès lors qu’elles sont développées par un système de grande taille. » Bien qu’il ait été rejeté par veto, le texte sur l’IA pourrait encore être révisé et devenir loi. Il bénéficiait d’un soutien écrasant dans les deux chambres de la législature de l’État, et Newsom a demandé aux parlementaires de remanier ses dispositions pour la prochaine session.
Pour contribuer à ce processus, il a constitué un groupe d’experts de la technologie chargé de le conseiller sur la réglementation de l’IA générative. Ce groupe consultatif comprend Jennifer Tour Chayes, doyenne du College of Computing de l’UC Berkeley, et Fei-Fei Li, professeure d’informatique à Stanford, souvent surnommée la « marraine de l’IA ». Li a récemment publié un article estimant que le SB-1047 « pénaliserait injustement les développeurs et étoufferait l’innovation » et « paralyserait la recherche universitaire et celle du secteur public dans le domaine de l’IA ».
L’intérêt pour la réglementation de l’IA grandit
La nécessité d’une réglementation de l’IA s’est imposée avec force, alors que cette technologie puissante s’est développée à un rythme effréné, tandis que la réglementation n’a pas encore dépassé le stade des appels à l’action. En rédigeant ce texte, les législateurs californiens répondaient à un dangereux vide juridique : l’IA a un pouvoir immense d’influence sur les consommateurs, les entreprises et même la politique, tout en étant presque totalement dépourvue de réglementation.
Le Congrès, malgré la tenue d’auditions, n’a adopté aucune loi. Quelques États ont commencé à légiférer à la marge, en adoptant des textes destinés à protéger contre les hypertrucages et en interdisant les pratiques d’embauche discriminatoires fondées sur des modèles d’IA. En août 2024, l’Union européenne a adopté l’AI Act, qui a posé les premiers garde-fous au développement de l’IA, en exigeant que les contenus générés par l’IA soient signalés comme tels. Pourtant, les fonctionnalités plus larges de l’intelligence artificielle restent soumises à la loi de la jungle, sous l’impulsion d’entreprises agiles et bien financées, capables de distancer les efforts législatifs plus lents.
Étant donné que l’IA peut déjà imiter de très près la sensibilité humaine — en générant au passage d’immenses gains financiers —, le rythme laborieux de la législation gouvernementale aura bien du mal à suivre. D’autant que les instances publiques sont souvent divisées et que les législateurs ne sont généralement pas des experts de la technologie.
« Le défi tient à la nouveauté de cette technologie et au temps dont les gouvernements ont besoin pour mettre en place des lois », a déclaré Melissa Ruzzi, directrice de l’IA chez AppOmni, à eWeek. L’effort reste néanmoins essentiel. « Nous devons être ouverts à l’évolution des lois, tandis que nous apprenons tous ensemble comment l’IA est utilisée dans les différents secteurs de la société », a-t-elle ajouté.
L’IA fait naître d’étranges alliances
Les partisans et les détracteurs du projet de loi californien sur l’IA ont exprimé des opinions passionnées — et les alliances ont traversé la culture et le monde des affaires de manière surprenante. Sans surprise, les grands acteurs de l’IA, notamment Microsoft, Google, OpenAI et Meta, se sont opposés au texte. Jason Kwon, directeur de la stratégie d’OpenAI, a écrit à Newsom pour lui dire que le texte « ralentirait le rythme de l’innovation et pousserait les ingénieurs et entrepreneurs californiens de classe mondiale à quitter l’État à la recherche de meilleures opportunités ailleurs ».
À l’inverse, la jeune pousse spécialisée dans l’IA Anthropic — considérée comme l’un des principaux concurrents d’OpenAI — a proposé des amendements au texte et a déclaré pouvoir soutenir une version révisée du projet de loi.
« L’IA est née en Californie », a déclaré l’ancienne présidente de la Chambre des représentants Nancy Pelosi. « Nous devons avoir une législation qui serve de modèle à la nation et au monde. Nous avons l’occasion et la responsabilité de permettre aux petits entrepreneurs et au monde universitaire — et non aux géants de la technologie — de jouer un rôle dominant. » Pelosi s’est toutefois prononcée contre le SB1047, le qualifiant de « bien intentionné, mais mal informé ». Son opinion a été reprise par plusieurs membres californiens du Congrès, qui ont fait savoir à Newsom que le texte était trop vague et mal rédigé pour une technologie émergente.
Le fondateur de Tesla, Elon Musk, a soutenu le projet de loi. « C’est une décision difficile qui mécontentera certaines personnes, mais tout bien considéré, je pense que la Californie devrait probablement adopter le projet de loi SB-1047 sur la sécurité de l’IA », a-t-il écrit sur X, sa plateforme de médias sociaux. « Depuis plus de 20 ans, je milite en faveur de la réglementation de l’IA, comme nous réglementons tout produit ou toute technologie susceptible de présenter un risque pour le public. » Début 2023, Musk a signé une lettre avec plus d’un millier d’experts de l’IA appelant à suspendre le développement des IA « géantes » jusqu’à ce que les risques liés à cette technologie puissent être correctement maîtrisés.
Un groupe de 120 célébrités hollywoodiennes a écrit une lettre pour soutenir le projet de loi — peut-être en partie parce que la capacité de l’IA à générer du contenu représente une menace si profonde pour leurs moyens de subsistance. Parmi les signataires figuraient Judd Apatow, Shonda Rhimes, Whoopi Goldberg et Rob Reiner. « Ce projet de loi ne vise pas à protéger les artistes, mais tout le monde », ont-ils écrit. « Les graves menaces liées à l’IA relevaient autrefois de la science-fiction, mais ce n’est plus le cas. »
De même, un groupe d’universitaires a écrit à Newsom pour soutenir le projet de loi. Le groupe comprenait Geoffrey Hinton, professeur à l’Université de Toronto, largement connu comme le « parrain de l’IA ». Les universitaires ont déclaré que « les décisions concernant la mise à disposition de futurs modèles d’IA puissants ne devraient pas être prises à la légère, ni être laissées exclusivement à des entreprises qui n’ont à rendre de comptes à personne pour leurs actes ».
Consultez notre guide sur l’IA et les questions de confidentialité pour en savoir plus sur les défis, les bonnes pratiques et l’utilisation responsable de l’IA.