Anthropic estime que l’IA pourrait bientôt jouer un rôle bien plus important dans le développement de la prochaine génération de modèles d’IA, ce qui pourrait accélérer des recherches qui dépendent actuellement de scientifiques humains.
Dans un document réglementaire déposé le 2 novembre, l’entreprise a averti que les futurs systèmes pourraient atteindre un seuil à partir duquel leurs contributions accéléreraient considérablement la recherche et le développement en IA. Ces progrès pourraient raccourcir les cycles de développement tout en compliquant l’évaluation des risques émergents par les chercheurs.
Le problème n’est pas que Claude soit déjà capable de construire seul un successeur plus intelligent. Les recherches d’Anthropic suggèrent plutôt que les agents d’IA prennent en charge une part croissante du travail expérimental et technique nécessaire au développement de systèmes toujours plus performants.
Claude apprend à mener des expériences de recherche
Lors d’une expérience menée en avril, neuf agents d’IA ont étudié comment un modèle d’IA moins puissant pouvait contribuer à en entraîner un autre, plus puissant. Selon les recherches d’Anthropic, les agents ont conçu et testé leurs propres idées, faisant mieux que deux chercheurs humains selon le système de notation de l’expérience.
Les chercheurs humains ont néanmoins choisi le problème et déterminé la manière de mesurer la réussite. Bien que les agents aient obtenu de bons résultats lors des tests, leur meilleure méthode n’a pas produit d’amélioration statistiquement significative sur un modèle à l’échelle de la production.
Une analyse distincte a également conclu que les systèmes actuels sont plus efficaces pour mener des expériences que pour déterminer quelles questions de recherche méritent d’être étudiées.
L’accélération du développement de l’IA pourrait dépasser les contrôles de sécurité
La politique de mise à l’échelle responsable définit un seuil pour les systèmes d’IA capables d’accélérer considérablement les progrès de la recherche. Pour l’atteindre, l’IA pourrait notamment devoir doubler le rythme global d’amélioration des capacités de l’IA, un objectif plus exigeant que de simplement doubler la productivité des chercheurs.
Dans son document SEC modifié, l’entreprise spécialisée dans l’IA a reconnu ne pas avoir identifié par le passé certaines accélérations importantes du développement avant qu’elles ne se produisent. Certaines mesures ne deviennent disponibles qu’une fois les progrès réalisés, ce qui pourrait permettre à des modèles plus puissants d’évoluer plus vite que les chercheurs ne peuvent en évaluer les risques.
D’autres mesures de protection sont à l’étude, notamment l’examen et l’approbation obligatoires par des humains de certaines décisions de recherche à mesure que le développement automatisé prend de l’ampleur. Les précautions actuelles ont notamment consisté à retarder la mise à disposition de modèles et à restreindre l’accès aux systèmes puissants, même si les mesures d’approbation proposées n’ont pas encore été finalisées.
Ce qu’a constaté eWeek : Claude prend en charge une part croissante de son propre développement
L’examen par eWeek d’un rapport technique publié en octobre a révélé un premier exemple d’IA contribuant à améliorer les systèmes utilisés pour la développer.
Chez Anthropic, le nombre quotidien de modifications de code intégrées est passé d’environ 2 500 en mai à plus de 30 000 en septembre, submergeant l’infrastructure existante. Une équipe de sept personnes a alors utilisé Claude de manière intensive pour développer Scion, un système de gestion de versions personnalisé qui a remplacé Git dans l’ensemble de sa base de code principale en cinq mois.
Une autre étude sur la main-d’œuvre montre que l’automatisation croissante modifie également les responsabilités des développeurs en IA. Les employés dirigent de plus en plus les agents et vérifient leurs résultats, tandis que les collaborateurs débutants représentaient une part plus faible des nouvelles recrues techniques, passant de 27 % au début de 2025 à 9 %. L’emploi global a continué de progresser, et ces chiffres ne permettent pas d’établir quelle part du recul est due à l’automatisation.
Scion donne un aperçu de la manière dont le développement assisté par l’IA pourrait s’accélérer. Le codage automatisé a généré suffisamment de travail pour mettre à rude épreuve les outils existants, et cette même technologie a aidé les ingénieurs à concevoir un système capable de gérer ce volume accru.
Ensemble, ces résultats suggèrent que l’IA transforme déjà la manière dont sont menés les travaux de recherche et d’ingénierie, avant même l’apparition de formes plus avancées de développement automatisé de l’IA.
Pour les entreprises qui adoptent des outils de programmation fondés sur l’IA, le défi immédiat consiste à faire en sorte que les tests, les revues de code et la supervision technique suivent le rythme des productions automatisées. Préserver les occasions pour les développeurs débutants d’acquérir leur jugement technique pourrait devenir tout aussi important à mesure que l’IA prendra en charge une part croissante du travail de développement courant.
Plus d’actualités sur l’IA : les derniers tests de référence en IA ont révélé que l’ajout de Mac Studios n’améliore pas toujours les performances, les résultats dépendant de la répartition des charges de travail.