Anthropicは、AIが間もなく次世代のAIモデルの開発で、現在は人間の科学者に依存している研究を大幅に加速させる役割を担う可能性があると考えている。
同社は11月2日の規制当局向け提出書類で、将来のシステムが、AIの研究開発を大幅に高速化するほどの貢献をできる段階に達する可能性があると警告した。こうした進展によって開発サイクルは短縮される一方、研究者が新たに現れるリスクを評価することは難しくなる可能性がある。
懸念されているのは、Claudeがすでに単独で、より賢い後継モデルを構築できるということではない。むしろAnthropicの研究は、AIエージェントが、能力を高め続けるシステムの開発に伴う実験やエンジニアリング作業を、より多く担い始めていることを示している。
Claudeは研究実験を実施できるようになりつつある
4月の実験では、9つのAIエージェントが、より弱いAIモデルがより強力なモデルの訓練を支援する方法を調査した。Anthropicの研究によると、エージェントたちは独自のアイデアを考案して検証し、実験の採点システムで2人の人間の研究者を上回った。
人間の研究者は依然として問題を選び、成功の測定方法を決めていた。エージェントはテストで良好な成績を収めたものの、最も優れた手法でも、実運用規模のモデルで統計的に有意な改善をもたらすことはできなかった。
別の分析でも、現在のシステムは、調査する価値のある研究課題を決めるよりも、実験を実行することに長けていることが分かった。
AI開発の高速化、安全性チェックを追い越す可能性
Anthropicの責任あるスケーリング・ポリシーは、AIシステムが研究の進展を大幅に加速できる場合のしきい値を定めている。この水準に達する方法の一つは、AIがAIの能力向上全体の速度を2倍にすることだ。これは研究者の生産性を単に2倍にするよりも、達成の難しい節目である。
同社は修正後のSEC提出書類で、AI企業は、開発の大幅な加速が起きた後になって初めて、それを認識できなかったことが過去にあると認めた。一部の測定値は進展が起きた後にしか得られないため、より強力なモデルが研究者によるリスク評価よりも速く進歩する可能性がある。
自動化された開発が拡大する中、特定の研究上の意思決定について人間によるレビューと承認を義務付けることなど、追加の安全策が検討されている。既存の予防措置には、モデルのリリースを延期したり、強力なシステムへのアクセスを制限したりすることが含まれていたが、提案されている承認措置はまだ最終決定されていない。
eWeekが明らかにしたこと：Claudeは開発作業をより多く自ら担っている
eWeekが別の10月のエンジニアリング報告書を調査したところ、AIが自らの開発に使われるシステムの改善を支援した初期の事例が見つかった。
Anthropicでは、1日にマージされるコード変更が5月の約2,500件から9月には30,000件超へと急増し、既存のインフラに過大な負荷をかけた。そこで7人のチームがClaudeを大規模に活用してScionを開発した。これは、5カ月以内に主要コードベース全体でGitに取って代わったカスタム版のバージョン管理システムだ。
別の労働力調査では、自動化の進展がAI開発者の責任もどのように変えているかが明らかになっている。従業員はエージェントを指揮し、その出力をレビューすることが増えている一方、ジュニア層が新たに採用された技術職に占める割合は、2025年初頭の27%から9%へと低下した。雇用全体は増え続けており、この減少のどの程度が自動化によるものかは、これらの数字だけでは判断できない。
Scionは、AI支援による開発がどのように加速し得るかを垣間見せている。自動コーディングによって既存のツールに負荷がかかるほどの作業が生まれ、その同じ技術が、増加した処理量に対応できるシステムの構築をエンジニアに支援した。
これらの調査結果を総合すると、より高度な自動AI開発が登場する前から、AIはすでに研究やエンジニアリングの進め方を変えつつあることが分かる。
企業がAIコーディングツールを導入するうえで、当面の課題は、テストやコードレビュー、エンジニアリング面での監督を自動化された出力のペースに合わせることだ。AIが日常的な開発作業をより多く担うようになるにつれ、ジュニア開発者が技術的な判断力を身につける機会を維持することも、同じように重要になる可能性がある。
AIニュース：Appleの最新のAIベンチマークでは、Mac Studioを追加しても必ずしも性能が向上するわけではなく、結果はワークロードの分散方法によって異なることが分かった。