Alors que les entreprises spécialisées dans l’IA se livrent une course pour bâtir l’avenir, Anthropic a réuni une équipe chargée de déterminer si cet avenir correspond réellement à ce que nous voulons.
Le 11 mars, Anthropic a présenté « The Anthropic Institute », une nouvelle branche de recherche consacrée aux défis sociétaux que l’IA peut ou pourrait imposer. Le cofondateur Jack Clark dirigera l’institut et assume désormais une nouvelle fonction, Head of Public Benefit.
« Son équipe interdisciplinaire réunit des ingénieurs en apprentissage automatique, des économistes et des spécialistes des sciences sociales, en rassemblant et en développant trois équipes de recherche d’Anthropic », a expliqué Anthropic sur son blog.
Selon l’annonce, l’institut réunit trois équipes existantes sous un même toit :
- Frontier Red Team : teste les systèmes d’IA à l’extrême pour comprendre les limites de leurs capacités.
- Societal Impacts : étudie la manière dont l’IA est réellement utilisée dans le monde.
- Economic Research : suit l’impact de l’IA sur l’emploi et l’économie au sens large.
Parallèlement à ce lancement, l’équipe d’Anthropic a annoncé l’élargissement de son équipe Public Policy. Sarah Heck quittera son précédent poste de Head of External Affairs après avoir été nommée Head of Public Policy. L’entreprise a également révélé qu’elle ouvrirait son premier bureau à Washington, D.C., ce printemps.
Pourquoi maintenant ?
L’annonce d’Anthropic fait preuve d’une transparence inhabituelle quant à l’urgence qui motive cette initiative.
« Au cours des cinq années qui se sont écoulées depuis la création d’Anthropic, les progrès de l’IA ont été incroyablement rapides », a écrit l’entreprise dans un billet publié sur son blog officiel.
« Il nous a fallu deux ans pour commercialiser notre premier modèle, puis seulement trois années supplémentaires pour mettre au point des modèles capables de découvrir de graves vulnérabilités en cybersécurité, d’accomplir un large éventail de tâches professionnelles réelles et même de commencer à accélérer le rythme du développement de l’IA lui-même. »
L’entreprise affirme s’attendre à « des progrès bien plus spectaculaires au cours des deux prochaines années » et estime que le temps dont dispose la société pour se préparer se réduit rapidement.
L’entreprise a également précisé que l’Institut entend s’attaquer à des questions allant de « comment l’IA avancée va-t-elle transformer les emplois et les économies ? » à « Quelles menaces va-t-elle amplifier ou introduire ? » et « si l’auto-amélioration récursive des systèmes d’IA commence effectivement à se produire, qui, dans le monde, devrait en être informé, et comment ces systèmes devraient-ils être gouvernés ? », entre autres.
Il est important de noter qu’Anthropic avait précédemment averti la Maison-Blanche que le temps d’agir sur la sécurité de l’IA se réduisait, estimant que des systèmes dotés d’une intelligence de niveau Nobel pourraient apparaître dès 2026. Par ailleurs, il y a seulement quelques semaines, Mrinank Sharma, ancien responsable senior de la sécurité de l’IA chez Anthropic, a démissionné en avertissant que « le monde est en péril ».
L’institut semble constituer une réponse à cette situation, en réunissant une équipe qui pose ouvertement les questions dérangeantes plutôt que de les garder dissimulées dans des notes internes.
Qui dirige l’Institut ?
Pour l’instant, l’entreprise a recruté plusieurs profils clés et impressionnants pour constituer l’équipe fondatrice. Elles comprennent :
Matt Botvinick, Resident Fellow à la Yale Law School, a été Senior Director of Research chez Google DeepMind et professeur de calcul neuronal à Princeton. Il dirige les travaux de l’Institut sur l’IA et l’État de droit.
Anton Korinek rejoint l’entreprise pendant son congé de l’Université de Virginie. Il intègre l’équipe Economic Research et dirigera l’étude de « la manière dont une IA transformatrice pourrait remodeler la nature même de l’activité économique ».
Zoë Hitzig, qui a auparavant étudié les impacts sociaux et économiques de l’IA chez OpenAI, rejoint l’entreprise pour relier les travaux économiques d’Anthropic à l’entraînement et au développement des modèles. Il est clair qu’il ne s’agit pas d’une équipe de sécurité conventionnelle, mais plutôt d’une unité de renseignement stratégique sur les politiques publiques.
Qu’est-ce qui la distingue ?
Anthropic affirme que l’Institut se distingue de la recherche d’entreprise classique. Selon les termes de l’entreprise, il s’agit d’une « voie à double sens ».
« L’Institut bénéficie d’un point de vue unique : il a accès à des informations que seuls les concepteurs de systèmes d’IA de pointe possèdent », a écrit Anthropic sur son blog.
L’Institut ne se contentera pas de publier ses conclusions à des fins internes. Il échangera également directement avec les travailleurs confrontés à des suppressions de postes, les secteurs bouleversés et les autres communautés qui ont le sentiment que l’avenir progresse sans elles et qui ne disposent pas d’une stratégie claire pour y répondre.
« Ce que nous apprendrons orientera les études de l’Institut ainsi que la manière dont notre entreprise, dans son ensemble, choisira d’agir », écrit Anthropic.
L’Institut prépare de nouvelles équipes, dont les travaux ont déjà commencé. Il recrute également une petite équipe d’analystes chargée de diffuser ses recherches dans le monde entier.
Ce niveau de transparence est précisément ce que les détracteurs du secteur de l’IA réclament depuis longtemps. Les tests de sécurité interentreprises menés entre Anthropic et OpenAI l’année dernière ont montré à quel point les véritables initiatives de responsabilisation restent rares. La capacité de l’Institut à remplir son mandat dépendra d’une seule chose : la possibilité pour ses conclusions de modifier réellement les actions d’Anthropic.
À lire aussi : Microsoft est intervenu pour soutenir Anthropic après que le Pentagone a qualifié l’entreprise spécialisée dans l’IA de « risque pour la chaîne d’approvisionnement », aggravant un différend sur l’utilisation de l’IA pour la surveillance de masse ou les armes autonomes.