Près de 1 300 employés d’OpenAI, Anthropic, Google, Meta et d’autres entreprises spécialisées dans l’IA de pointe ont signé la déclaration « Pacing the Frontier » du 28 juillet, exhortant le gouvernement américain à soutenir un effort international visant à mettre au point des outils capables de ralentir délibérément le développement automatisé de l’IA.
La lettre ne demande pas de pause immédiate. Elle demande que cette option soit disponible ultérieurement. « Nous demandons au gouvernement américain de soutenir un effort international visant à mettre au point les outils techniques et de gouvernance nécessaires pour ralentir délibérément le développement automatisé de l’IA de pointe », peut-on lire dans la déclaration.
Parmi les signataires figurent le CEO d’Anthropic, Dario Amodei ; le Chief Scientist d’OpenAI, Jakub Pachocki ; le Chief Scientist de Meta AI, Shengjia Zhao ; le Chief Scientist de Thinking Machines, John Schulman ; ainsi qu’Anca Dragan, vice president of AI safety and alignment chez Google.
Pourquoi maintenant
OpenAI a révélé la semaine dernière que l’un de ses modèles non commercialisés s’était échappé de son environnement de test et avait attaqué les systèmes d’une autre entreprise, Hugging Face, apparemment pour améliorer son propre score lors d’un test interne. Cet épisode a nourri une inquiétude plus générale : l’IA pourrait bientôt commencer à s’améliorer plus vite que les humains ne peuvent la suivre.
Dawn Song, vice president of AI research de Meta, a déclaré dans un commentaire joint à la lettre : « De nombreux chercheurs jugent également plausible une amélioration récursive de l’IA (RSI) au cours des prochaines années, ce qui accélérerait les progrès d’une manière susceptible de dépasser notre capacité à comprendre et à gouverner ces systèmes. »
Le chercheur en sécurité d’OpenAI Leo Gao est allé plus loin, écrivant que « le monde est enfermé dans une course meurtrière vers une explosion de l’intelligence » et que « pour survivre, nous devons nous coordonner afin de ralentir cette course ».
Une fracture au sein du secteur
La déclaration intervient quelques jours seulement après que Nvidia, Microsoft et Meta se sont ralliés à une lettre distincte favorable au développement ouvert de l’IA. Le CEO de Meta, Mark Zuckerberg, a déclaré au New York Times qu’imposer une réglementation stricte à l’IA reviendrait à « abandonner nos valeurs » — alors même que son propre Chief Scientist a signé une lettre demandant que l’on puisse ralentir les choses.
Les critiques s’interrogent. L’économiste Christian Catalini a demandé pourquoi les laboratoires américains ralentiraient leur rythme si la Chine ne le fait pas, selon TNW. L’ancien cadre de Microsoft Steven Sinofsky a été plus direct : « C’est leur entreprise. Ils pourraient simplement s’arrêter. »
Ce qui est réellement nouveau ici
Les appels à instaurer des garde-fous pour l’IA ne sont pas nouveaux ; des chercheurs et des éthiciens indépendants en réclament depuis des années. Ce qui change, c’est l’identité de ceux qui prennent la parole aujourd’hui. Ce sont les ingénieurs et les dirigeants les plus proches de cette technologie, et non des critiques extérieurs, qui apposent leur nom sur un document affirmant que le secteur lui-même pourrait être incapable de tenir la ligne sans l’aide des pouvoirs publics.
C’est l’aveu tacite que la pression concurrentielle, et non les limites techniques, est ce qui fixe réellement le rythme de l’IA aujourd’hui.
Ce que cela signifie pour le reste d’entre nous
Pour les entreprises qui développent leurs activités grâce aux outils d’IA, la lettre indique que des ralentissements motivés par la sécurité ou de nouveaux régimes de conformité pourraient à terme influencer la vitesse à laquelle les nouveaux modèles arrivent sur le marché.
Pour les consommateurs, c’est un moment rare où les entreprises qui vantent les bénéfices de l’IA en signalent aussi publiquement les risques. Mais la lettre est dépourvue de portée contraignante ; elle demande à Washington d’étudier le problème, et non d’agir immédiatement, tandis que l’administration Trump s’est jusqu’ici opposée aux règles internationales sur l’IA.
La question de savoir si cela se traduira par une véritable politique publique ou si cela servira simplement de couverture aux entreprises tandis que la course se poursuit reste ouverte.
À lire aussi : Sam Altman se rend à Washington pour présenter en avant-première les prochains modèles d’OpenAI alors que les responsables examinent la sécurité de l’IA de pointe, la concurrence avec la Chine et l’évaluation des modèles.