Anthropic a rejeté les accusations selon lesquelles elle souhaiterait que le gouvernement américain restreigne les modèles d’IA à poids ouverts, affirmant qu’une telle mesure ne répondrait pas aux principales préoccupations de l’entreprise en matière de sécurité nationale.
Dans un billet de blog publié lundi, Amodei a déclaré : « Anthropic n’a jamais préconisé l’interdiction des modèles à poids ouverts », rejetant les critiques selon lesquelles l’entreprise chercherait à instaurer des restrictions pour protéger ses propres produits d’IA propriétaires.
Ces déclarations sont intervenues après que plus de 50 entreprises technologiques ont soutenu une lettre ouverte appelant les responsables politiques à ne pas imposer de vastes restrictions aux modèles à poids ouverts. Des entreprises comme Nvidia, Microsoft et Meta ont signé la lettre, avant qu’OpenAI ne lui apporte à son tour son soutien. Les signataires soutiennent que les systèmes à poids ouverts améliorent l’accès, la concurrence et le contrôle des clients.
Anthropic n’a pas signé la lettre, ce qui a conduit certains détracteurs du secteur à l’accuser de favoriser des restrictions susceptibles de désavantager les concurrents chinois de l’IA qui ont lancé de puissants modèles à poids ouverts.
Pourquoi Anthropic estime que les poids ouverts présentent un risque accru
Amodei a déclaré que les modèles à poids ouverts dépourvus de capacités dangereuses présentent des avantages pour le public, car ils permettent aux entreprises, aux développeurs et aux chercheurs d’utiliser l’IA sans payer pour y accéder, au-delà des coûts de calcul nécessaires à leur fonctionnement.
Cependant, il a déclaré que deux risques majeurs subsistaient.
Le premier est la possibilité que des gouvernements autoritaires développent des systèmes d’IA plus puissants que ceux conçus aux États-Unis et les utilisent pour obtenir des avantages militaires ou étendre la surveillance et la répression sur leur territoire. Amodei a déclaré que cette préoccupation ne se limitait pas aux modèles à poids ouverts, car les systèmes les plus dangereux pourraient être développés par des acteurs privés et rester secrets.
La seconde préoccupation concerne l’utilisation abusive d’une IA avancée pour mener des cyberattaques, créer des menaces biologiques et se livrer à d’autres activités nuisibles. Amodei a fait valoir que les modèles à poids ouverts peuvent créer des difficultés supplémentaires, car les développeurs ne peuvent pas facilement leur appliquer des garde-fous ni surveiller l’utilisation qui est faite des poids des modèles une fois ceux-ci publiés.
« Les modèles à poids ouverts — qu’ils viennent de Chine ou d’ailleurs, cela ne change rien — présentent potentiellement un risque supérieur à celui des modèles propriétaires, car il est très difficile de leur appliquer des garde-fous ou de surveiller leur utilisation et, une fois les poids publiés, il est impossible de les retirer », a écrit Amodei.
Ce que souhaite Anthropic à la place
Plutôt que d’interdire les modèles à poids ouverts, Anthropic appelle à la mise en place de trois mesures politiques. L’entreprise soutient un renforcement des restrictions sur l’exportation de puces d’IA avancées et des équipements de fabrication de puces vers la Chine, estimant que l’accès à la puissance de calcul est un facteur clé dans la conception de systèmes d’IA de pointe.
L’entreprise affirme que la distillation à l’échelle industrielle peut permettre à des développeurs concurrents de reproduire les capacités des modèles de pointe avec un investissement en puissance de calcul nettement inférieur. Amodei a soutenu que cette pratique peut aider des concurrents à combler leur retard sur les grands laboratoires d’IA sans investir le même niveau de ressources informatiques.
Enfin, Anthropic réclame des tests obligatoires avant la mise à disposition de modèles d’IA suffisamment performants, afin d’évaluer les risques cyber, biologiques et liés à l’alignement, que ces modèles soient ouverts ou propriétaires.
Un débat politique sur le leadership dans l’IA
Ce désaccord met en lumière une division croissante sur la manière dont les responsables politiques devraient trouver un équilibre entre innovation dans l’IA, concurrence, sécurité nationale et préoccupations de sûreté. Les partisans des modèles à poids ouverts affirment que restreindre l’accès pourrait nuire aux start-up, aux chercheurs et aux entreprises qui dépendent d’outils d’IA flexibles. Les détracteurs estiment qu’un accès sans restriction pourrait compliquer la prévention des utilisations abusives.
Amodei a déclaré que certaines questions concernant les modèles ouverts devraient être tranchées par des tests plutôt que par des suppositions. Il a également approuvé certains éléments de la lettre du secteur, notamment l’idée que les modèles ouverts peuvent accroître l’accès et la concurrence. En revanche, il n’est pas d’accord avec l’argument selon lequel un accès élargi aide automatiquement davantage les défenseurs que les attaquants.
Le défi pour les responsables politiques consiste à trouver un juste milieu. Des restrictions sévères pourraient ralentir la recherche légitime et nuire aux start-up qui dépendent des modèles ouverts, tandis qu’ignorer les risques potentiels pourrait compliquer la riposte une fois les capacités dangereuses largement diffusées.
À lire aussi : le nouveau modèle Kimi K3 de Moonshot AI montre comment les développeurs chinois progressent dans la course à l’IA à poids ouverts.