La Californie fait avancer un projet de loi qui imposerait la transparence et la communication d’informations sur la sécurité pour les modèles d’IA les plus puissants, et Anthropic le soutient.
Cette mesure, connue sous le nom de SB 53, est la loi californienne sur la transparence de l’intelligence artificielle de pointe. Le projet de loi SB 53 vise à imposer aux grands développeurs d’IA des cadres publics de sécurité, la déclaration des risques et des protections pour les lanceurs d’alerte. Anthropic a qualifié le texte d’approche de la surveillance consistant à « faire confiance, mais vérifier », affirmant qu’il garantit la responsabilisation des laboratoires tout en leur permettant de rivaliser à la pointe du secteur.
Les législateurs poussent à la transparence des systèmes d’IA
Les législateurs mènent cette initiative par l’intermédiaire du sénateur Scott Wiener, rejoint par la sénatrice Susan Rubio. Après avoir opposé son veto à un projet de loi plus large l’an dernier, le gouverneur Gavin Newsom a réuni un groupe de travail composé d’experts afin d’affiner l’approche, donnant lieu à des recommandations qui ont façonné le nouveau texte.
Wiener a déclaré que le projet de loi révisé délaissait la responsabilité juridique au profit de la transparence, rendant juridiquement contraignants les engagements volontaires en matière de sécurité pris par les grandes entreprises d’IA. Comme l’a déclaré Helen Toner, de l’université de Georgetown, à NBC, « La nécessité d’une plus grande transparence de la part des développeurs d’IA de pointe est l’une des idées de politique publique en matière d’IA qui recueillent le plus large consensus. »
Décryptage de la loi californienne sur la transparence de l’intelligence artificielle de pointe
Le texte définit des obligations précises pour les organisations qui développent les modèles d’IA les plus puissants, de la publication de cadres de sécurité à la déclaration des incidents critiques.
Cadres de sécurité
Les grandes entreprises d’IA doivent publier des protocoles détaillés de sécurité et de sûreté. Ces cadres décrivent la manière dont les développeurs testent leurs modèles, fixent des seuils pour les capacités dangereuses et définissent les mesures destinées à atténuer les risques catastrophiques.
Rapports de transparence
Avant de commercialiser de nouveaux modèles puissants, les entreprises doivent publier des rapports de transparence accessibles au public. Ces documents doivent résumer les évaluations des risques, expliquer les décisions de déploiement et préciser si des tiers ont participé aux tests.
Obligations de déclaration
Les développeurs doivent signaler à l’État les incidents critiques liés à la sécurité, tels qu’une perte de contrôle du modèle ou une fuite de ses paramètres, dans un délai de 15 jours, ou de 24 heures en cas d’urgence. Ils doivent également fournir à l’Office of Emergency Services de Californie des synthèses confidentielles des évaluations des risques catastrophiques.
Protection des lanceurs d’alerte
Le projet de loi instaure des protections pour les employés qui signalent des problèmes de sécurité. Les entreprises doivent mettre en place des canaux de signalement anonymes, et les représailles contre les lanceurs d’alerte sont interdites.
Application et champ d’application
Le projet de loi SB 53 s’applique uniquement aux grandes entreprises d’IA dont le chiffre d’affaires dépasse 500 millions de dollars US et qui développent des modèles entraînés avec une puissance de calcul massive. Les amendes vont de 10 000 dollars US pour les infractions mineures à 10 millions de dollars US pour les violations répétées et délibérées liées à un risque catastrophique. La loi interdit également aux collectivités locales d’adopter des règles sur l’IA incompatibles avec le texte.
CalCompute
Le projet de loi crée CalCompute, un cluster cloud public géré par l’État, qui sera hébergé au sein du système de l’Université de Californie. Il vise à élargir l’accès à la puissance de calcul pour permettre des recherches en IA sûres et équitables.
Pourquoi Anthropic soutient le projet de loi californien sur l’IA
Selon Anthropic, la mesure établit un équilibre en permettant aux entreprises de se livrer concurrence tout en restant transparentes sur les capacités des systèmes d’intelligence artificielle susceptibles de mettre en danger la sécurité publique.
L’entreprise a cité sa Responsible Scaling Policy et ses system cards comme exemples de pratiques qu’elle applique déjà. En rendant obligatoires ce type de garde-fous dans l’ensemble du secteur, a fait valoir Anthropic, le projet de loi empêche ses concurrents de revenir sur leurs engagements en matière de sécurité pour prendre l’avantage.
Anthropic a également indiqué qu’elle préférait des règles fédérales, tout en estimant que l’action de la Californie était nécessaire dans l’intervalle. « Les progrès de l’IA puissante n’attendront pas qu’un consensus se forme à Washington », a déclaré l’entreprise.
Si le projet de loi SB 53 est adopté, la Californie deviendrait le premier État à inscrire dans la loi des engagements volontaires en matière de sécurité de l’IA.
Découvrez comment OpenAI et Anthropic soumettent leurs derniers modèles à des tests de sécurité rigoureux — et ce que les résultats annoncent pour l’avenir d’un développement responsable de l’IA.