OpenAIは、方程式だけでは解決できない問題に取り組もうとしている。
OpenAIは10月15日、Simons Foundation、Anthropic、OpenAIによる総額1500万ドル相当の資金とリソースで構成されるSimons Foundationの取り組みに、500万ドルを拠出すると発表した。この発表は、OpenAIが数百本のAI生成数学原稿を公開したことへの批判を受けたものだ。
このプログラムは、AI生成の成果を評価する研究者や、新しいツールを学ぶ研究者、数学におけるAI活用の共通基準を策定する研究者に資金を提供する。数学界がこの技術に対応するためのリソースを増やす一方で、帰属、検証、そしてAI生成研究の膨大な量をめぐる疑問は残る。
数学界、OpenAIの研究公開に反発
OpenAIが9月、未公開モデルが ナビエ–ストークス方程式を含む解案を生成したと発表したことで、対立は激化した。Euronewsによると、同様の成果を目指して研究していた2人の数学者は、OpenAIの研究が自分たちの成果に依拠したのではないかと疑問を呈した。OpenAIは、2人の未公開研究を見ていないと否定している。
10月6日、OpenAIは 社内AIモデルが生成した数学原稿のコレクションを公開した。Association for Human Mathematicsは、数学者は「この研究を行うよう求めていない」と応じ、同社が確立された研究規範を軽視していると非難した。
この公開は、実質的なレビュー作業も生み出す。数学者は、正確性、新規性、既存研究との関連性を評価しなければならない。OpenAIのリポジトリは、成果がさまざまな検証段階にあり、形式化された証明のないものには問題が含まれている可能性があると注意を促している。
OpenAIは、独立した数学・AIの諮問グループに意見を求め、改訂と引用の手順を定め、Lean証明支援系を使って多くの証明をコンピューターで検証可能な形にして公開した。こうした措置は研究を検討する手段を提供するが、すべての成果が正しいことを証明するものでも、帰属をめぐる対立を解消するものでもない。
OpenAIの500万ドルはレビューと基準策定に充てられる
OpenAIの拠出は、Simons Foundation、Anthropic、OpenAIによる総額1500万ドル相当の資金とリソースの一部だ。
Simons Foundationは、ワークショップや提案の公募などを含む取り組みを通じて資金を管理・配分する。目的は、数学者がAIの支援を受けた成果を評価し、新しいツールを学び、見解を交換し、AI活用の共通基準を策定できるよう支援することだ。
OpenAIとAnthropicは、Simons Foundationの支援を受ける研究者にAIツールとコンピューティングリソースも提供する。リソースの対象は数学にとどまらず、基礎科学にも及ぶ可能性がある。
Simons Foundationが資金を管理
このプログラムでは、資金を提供するAI企業にプロセスを委ねるのではなく、Simons Foundationが助成金の管理を担う。
Simons Foundationの会長David Spergelによると、AIツールを「評価し、導入し、利用する」方法についての議論は、1社や1機関に委ねるのではなく、数学界が主導すべきだという。
この取り決めは、AIを支援に用いる研究のルールを誰が決めるのかという批判の一部に直接対応するものだ。ただし、AI生成の成果をどれほど速く公開すべきか、またモデルが未公開の人間の研究に近い成果を生み出した場合に、帰属をどう扱うべきかという問題までは解決しない。
eWeekの見解：資金はレビューに対応するが、すべての苦情を解決するわけではない
発表内容を読む限り、この取り組みは評価、AIツールへのアクセス、コミュニティーの基準を支援するものだ。帰属をめぐる対立の解決や、AI生成数学の公開・検証に関する完成した枠組みを発表したものではない。
数学者の懸念 | 新プログラムの対応 |
|---|---|
| レビューすべきAI生成成果が多すぎる | 資金は、研究者が最近のAI支援成果を検討するワークショップやその他のプログラムを支援できる。 |
| 研究者には技術へのアクセスが必要 | OpenAIとAnthropicは、Simons Foundationの支援を受ける研究者にAIツールとコンピューティングリソースを提供する。 |
| AI企業が自らルールを決めかねない | Simons Foundationが資金を管理し、研究者がAIの評価、導入、利用方法に関する共通基準の形成に協力する。 |
| 帰属と未公開研究をめぐる疑問 | 発表されたプログラムは、新たな帰属ルールを定めておらず、OpenAIの以前の数学研究をめぐる対立も解決していない。 |
OpenAIのリポジトリには現在、372の「ファミリー」に分類された719本の原稿が掲載されている。各ファミリーは関連する論文をまとめたもので、主要な成果、裏付けとなる論証、帰結、代替証明などが含まれる場合がある。これらの数字は、別々の発見のまとまりを示すものではなく、コレクションの構成を表している。
ビジネス上の意味は、AI研究ツールを導入するコストに、レビュー能力を含める必要があるということだ。最初の生成が速くても、候補となる成果を増やせば、それらを検証する作業が増える可能性がある。
研究で AIを利用する企業にとって、実践的な方法は、各成果の根拠となる情報源、前提、モデルのバージョンを記録することだ。チームは、資格のあるレビュアーを割り当て、成果が設計、投資、公開された主張に影響を及ぼす前に必要な証拠を定めるべきだ。
検証と帰属には、それぞれ別の確認が必要だ。ある成果が技術的な精査に耐えたとしても、過去の研究に適切なクレジットが与えられたかどうかという疑問は残り得る。組織には、その両方に対応するプロセスが必要だ。
Simonsの取り組みは、数学界が共通基準を策定する助けになる可能性がある。同様のツールを導入する企業にとって、当面の問題は、AI生成の成果を生み出す能力に、評価する能力が追いつけるかどうかだ。
AIのヒントやコツ、プロンプトのテクニックをもっと学びたいですか？eWeek読者は、職場でより自信を持ってAIを使えるよう支援する実践的な学習プラットフォーム、The Neuron Academyを7日間無料で利用できます。 すべてのレッスンを見る →
無料でお教えするのはAIとの話し方です！The Neuron Academyの6分間のコースを試して、より良いプロンプトを書き、AIからより役立つ結果を得るための簡単な方法を学びましょう。ほかのAIコースも7日間無料で閲覧できます。 すべてのレッスンを見る →