La Californie instaure de nouveaux garde-fous pour déterminer qui peut vendre de l’IA à l’État. Dans un communiqué publié le 30 mars, le gouverneur Gavin Newsom a annoncé une nouvelle ordonnance qui lie les contrats californiens d’IA à des mesures de protection publiques concernant la vie privée, les droits civiques et les biais.
Elle confère également un rôle plus important à l’IA au sein de l’administration de l’État, avec des projets visant à étendre son utilisation dans les services publics.
Les fournisseurs d’IA pourraient devoir montrer comment ils gèrent les risques réels
L’ordonnance accorde aux agences de l’État 120 jours pour revenir avec des recommandations concernant de nouvelles certifications qui pourraient être ajoutées au processus de contractualisation pour les entreprises d’IA souhaitant travailler avec l’État. Ces fournisseurs pourraient être invités à attester de l’existence de leurs mesures de protection et à expliquer leur fonctionnement.
L’ordonnance précise ce que la Californie veut voir examiné :
- Les contenus illégaux, notamment les images d’abus sexuels sur mineurs et les images intimes non consenties
- Les biais préjudiciables, ou une gouvernance insuffisante face à ce risque
- Les préoccupations liées aux droits civiques et aux libertés civiles concernant la liberté d’expression, le vote, la discrimination, la détention et la surveillance
La Californie met en place un processus d’examen qui va au-delà des affirmations des fournisseurs avant qu’un outil d’IA n’atteigne les services publics destinés aux administrés.
Certains pourraient devoir franchir davantage d’obstacles pour être retenus
Une partie de l’ordonnance s’intéresse non seulement au système d’IA, mais aussi à l’entreprise qui le développe. Newsom veut savoir s’il convient que les entités de l’État continuent à travailler avec des entreprises dont les tribunaux ont constaté qu’elles avaient illégalement porté atteinte à la vie privée ou aux libertés civiles.
Le dossier judiciaire d’un fournisseur pourrait finir par peser autant que les garanties qu’il donne à l’État concernant ses outils d’IA.
Il y a également une subtilité liée à Washington. Si le gouvernement fédéral qualifie une entreprise de risque pour la chaîne d’approvisionnement, le responsable de la sécurité des systèmes d’information de Californie est chargé d’examiner cette désignation, et les agences peuvent malgré tout être encouragées à continuer d’acheter auprès de l’entreprise si l’État estime que la décision fédérale était infondée.
L’IA générative gagne également en influence
Une personne à la recherche d’une aide après une catastrophe, qui tente de créer une entreprise ou qui cherche un emploi pourrait découvrir cette ordonnance par l’intermédiaire d’un nouvel outil conçu par l’État. Newsom demande la mise en place d’une application ou d’un site web pilote pour organiser les services publics autour des événements de la vie, afin d’offrir aux Californiens un accès plus direct à l’aide dont ils ont besoin.
Au sein de l’administration, les employés de l’État devraient bénéficier d’un accès élargi à des outils de GenAI validés pour les tâches générales, avec des mesures de protection en matière de vie privée et de cybersécurité, tandis que les agences sont également invitées à partager leurs bonnes pratiques par l’intermédiaire des groupes existants de l’État.
Une partie du travail intervient plus en amont : une formation renforcée aux technologies émergentes et à l’IA, ainsi qu’une boîte à outils de minimisation des données destinée aux services qui traitent des informations sensibles, comprenant des modèles, des clauses contractuelles et des listes de contrôle pour les examens.
Le département californien de la technologie est également chargé d’élaborer des recommandations de bonnes pratiques pour l’apposition de filigranes sur les images et vidéos générées par l’IA ou ayant fait l’objet de manipulations importantes, conformément au droit de l’État en vigueur.
Newsom construit son argumentaire sur l’IA contre Washington
Newsom a profité du déploiement pour établir un contraste direct avec Washington, accusant le gouvernement fédéral de réduire les normes et les protections tandis que la Californie s’emploie à les renforcer en matière de vie privée, de sécurité et de droits civiques.
La Californie veut toujours intégrer l’IA à l’administration, mais dans le cadre de règles que Newsom peut présenter comme plus strictes que l’approche fédérale.
Une offensive bipartisane à Washington pourrait faire des robots fabriqués en Chine la prochaine cible du durcissement de la sécurité technologique aux États-Unis.