Le PDG d’Anthropic, Dario Amodei, a rencontré le Premier ministre Anthony Albanese à Canberra le 31 mars afin de formaliser un protocole d’accord portant sur la recherche en matière de sécurité de l’IA, les évaluations conjointes des modèles et le partage de données économiques.
Le protocole d’accord conclu entre l’Australie et Anthropic couvre davantage que les tests de modèles. Il s’étend aux évaluations de sécurité, au partage de données économiques, à la collaboration en matière de recherche, à la formation professionnelle et à d’éventuels investissements dans des infrastructures liés à la stratégie de l’Australie en matière d’IA.
L’accord établit une relation de travail plus étroite entre Canberra et l’une des principales entreprises mondiales dans le domaine de l’IA. D’après les informations rendues publiques, il ne crée pas de nouvelles obligations légales, sanctions ou compétences de contrôle au cas où les évaluations des modèles mettraient en évidence des risques graves.
Ce que contient l’accord
Anthropic a indiqué que le protocole d’accord prévoyait le partage avec l’Australie de l’Institut pour la sécurité de l’IA des résultats concernant les capacités et les risques émergents des modèles , la participation à des évaluations conjointes de la sûreté et de la sécurité, ainsi qu’une collaboration avec des établissements universitaires australiens dans le domaine de la recherche. L’entreprise a également déclaré qu’elle partagerait avec le gouvernement des données issues de son Economic Index afin de contribuer au suivi de l’adoption de l’IA et de ses effets sur le marché du travail, en se concentrant d’abord sur les ressources naturelles, l’agriculture, la santé et les services financiers.
Anthropic a également annoncé l’octroi de 3 millions de dollars australiens de crédits Claude API à quatre établissements de recherche australiens, ainsi qu’un soutien à la formation professionnelle et l’ouverture de discussions exploratoires autour des infrastructures de centres de données et de l’énergie.
La propre annonce ministérielle du gouvernement décrit le partenariat dans des termes tout aussi larges, en le reliant à la productivité, aux compétences, aux capacités de recherche et à une adoption responsable de l’IA.
L’accord va donc au-delà des seuls tests de sécurité. Il touche aux mêmes enjeux que les gouvernements de toute la région APAC tentent de gérer simultanément : comment tester les modèles de pointe, comment mesurer l’effet de l’IA sur l’emploi et comment développer des capacités nationales sans attendre la mise en place d’un système réglementaire pleinement abouti.
Ce que le protocole d’accord ne prévoit pas
La limite tient à sa force juridique. Le National AI Plan de l’Australie définit une approche technologiquement neutre fondée sur les lois et les autorités de régulation existantes, plutôt que sur une loi consacrée à l’IA. Dans ce cadre, l’Institut pour la sécurité de l’IA peut évaluer, conseiller et contribuer à l’élaboration des politiques publiques, mais le cadre institutionnel actuel ne lui confère aucun pouvoir de contrôle autonome sur les développeurs de modèles de pointe.
Le protocole d’accord constitue donc un canal d’accès et de coordination, et non un instrument de contrainte. Il peut améliorer la visibilité sur le comportement des modèles, fournir aux responsables publics davantage d’informations sur les effets de l’IA sur les secteurs d’activité et le travail, et soutenir les évaluations conjointes ainsi que les partenariats de recherche. À lui seul, il ne peut pas contraindre Anthropic à modifier un modèle, à suspendre un déploiement ou à donner suite à une conclusion de sécurité en l’absence d’une obligation légale.
Les questions encore en suspens sont d’ordre pratique : les résultats des évaluations seront-ils publiés, quelle proportion du dispositif Economic Index sera-t-elle rendue publique, et les résultats commenceront-ils à influer sur les achats publics, les recommandations ou la réglementation en Australie ? Ce sont ces détails, et non la cérémonie de signature, qui détermineront le poids réel de cet accord dans l’action publique.
À lire également : Le nouvel institut d’Anthropic se penche sur l’impact de l’IA sur l’emploi, la sécurité et la société.