AIエージェントはオフィスで働く準備を進めている。しかしその前に、実際の仕事の進め方を学ぶ安全な場所が必要だ。
サンフランシスコに拠点を置くスタートアップPlatoは、AIモデルが実際の業務システムとやり取りする前に専門的な業務を練習できるシミュレーション職場の構築に向け、シリーズAで1,600万ドルを調達した。
今回のラウンドはNava Venturesが主導し、Gradient Ventures、Transpose Platform、Microsoft AIのCEOであるMustafa Suleyman氏が参加した。これによりPlatoの累計調達額は、Gradient Venturesが主導した前回のシードラウンドに続いて1,900万ドルとなった。Nava Venturesの創業者Freddie Martignetti氏はPlatoの取締役に加わる。
AIエージェントに必要なのはチャットボットの訓練だけではない
ほとんどのAIモデルは応答を生成するよう訓練されているほか、情報を検索したり指示に従ったりする。しかし、業務を自律的に完了できるエージェントの構築には、別の課題がある。
顧客からの依頼への対応、請求書の処理、従業員記録の管理を担うエージェントは、確立されたルールを破ることなくソフトウェアを操作し、意思決定を行い、予期せぬ状況に対応しなければならない。
業務アプリケーション内で直接訓練すると、高くつく問題が生じる可能性がある。注文方法を練習するAIエージェントが実際に費用を支払ってしまうこともあれば、管理業務のワークフローを学ぶエージェントが誤って会社の記録を変更してしまうこともある。
Platoは、AI開発者がリセットして再利用できる管理された環境内に、職場のソフトウェアとプロセスを再現することでこの問題に対処する。同社は専門家と協力し、カスタマーサポート、人事業務、財務、会計、医療事務にまたがるワークフローを再現している。
これらの環境は強化学習に対応しており、AIモデルは業務を試行し、フィードバックを受け、繰り返し練習することで改善できる。
業務を完了しても、必ずしも正しく実行したとは限らない
Platoは、企業がAIエージェントに機密性の高い業務へのアクセスを与えるにつれて重要性が増す問題、つまりエージェントが実際に指示に従っているかを測定することにも取り組んでいる。
例えば、購入を無事に完了しても、承認された予算を超過したエージェントは、取引が成立したというだけで合格点を受けるべきではない。同社は結果だけでなく、その背後にある意思決定も評価する。そこには、モデルが業務上の制約を守っているか、あるいはより高いスコアを得るためにシミュレーションの弱点を悪用していないかも含まれる。
「モデルが受け取るフィードバックは、モデルが学ぶ内容を形作る」と、Platoの共同創業者兼最高技術責任者であるPranav Putta氏は述べた。
このアプローチにより、AI開発者は単に近道を見つけるエージェントと、実際の業務プロセスを規定するルールに従えるエージェントを区別できる可能性がある。
AI訓練インフラ市場が拡大
Platoは2025年、コンピューター操作のモデル訓練、ロボティクス、コンピュータービジョン、強化学習の経験を持つRobert Farlow氏とPutta氏によって創業された。同社は新たな資金を、シミュレーションライブラリの拡充、専門家への業務再現の報酬、追加の経験を収集するための実業務へのAIエージェントの投入に充てる計画だ。
同社は、他にも資金力のある企業が参入する市場に乗り出す。AI訓練企業のmicro1は、エージェント訓練環境向けの企業データに10億ドルを投じる計画を発表している。一方、Patronus AIはシミュレーション環境でAIエージェントをテストするために5,000万ドルを調達した。
しかし、現実的な職場シミュレーションの構築は、ソフトウェアのインターフェースをコピーするだけでは済まない。実際の業務には、不完全な情報、変化する優先順位、人間の判断、再現が難しい例外が伴う。
eWEEKが見たもの：AIの次のインフラ競争は現実世界の経験をめぐるものになる可能性
Platoによる1,600万ドルの資金調達は、エンタープライズAIにおける新たな課題を浮き彫りにしている。ますます高性能なモデルを構築することは、方程式の一部にすぎない。そうしたモデルには、日常の業務を形作る複雑なソフトウェア、ルール、意思決定を操作する実践的な経験も必要になる。
企業がチャットボットから、ワークフロー全体を実行できるAIエージェントへと移行するにつれ、現実的な訓練環境はAI開発においてますます重要な要素になる可能性がある。自動運転車がシミュレーション上の運転シナリオから恩恵を受けるのと同じように、エンタープライズAIエージェントも、実際の業務システムを任せられるようになる前に、請求書の処理、顧客からの苦情の解決、管理業務の遂行を何千回も練習する必要があるかもしれない。
企業にとって、潜在的なメリットはAIの性能向上にとどまらない。支出限度額を認識し、承認プロセスに従い、予期せぬ状況に対応するよう訓練されたエージェントは、高コストな自動化ミスを減らせる可能性がある。より現実的なシミュレーションは、機密性の高い財務記録、顧客情報、業務ツールへのアクセスを許可する前に、組織がAIシステムを評価するうえでも役立つだろう。
この機会はAIモデルを構築する企業にも及ぶ。シミュレーション職場によってエージェントの信頼性を測定可能な形で改善できるなら、開発者はモデルの規模、コンピューティング能力、訓練データだけでなく、訓練環境やフィードバックシステムの質でも競うようになる可能性がある。
しかし、重要な疑問は残る。シミュレーション環境で、従業員が判断を下し、ソフトウェアが予告なく変更され、異例の状況が確立された手順の範囲外になる現実の職場の予測不能性を完全に再現することはできない。訓練で良好な成績を上げたエージェントでも、これまで遭遇したことのない状況に直面すれば苦戦する可能性がある。
また、エージェントが業務を完了できることを示すことと、組織のポリシーに従いながら、一貫して安全に実行できると証明することの間には隔たりがある。企業には依然として 現実世界でのテストと監督が必要になるだろう。そうして初めて、重要な業務全体に自律型システムを導入できる。
より大きな問題は、AIの次の競争優位が、モデルにより多くの知識を与えることから生まれるのか、それともより優れた経験を与えることから生まれるのかだ。Platoは、現実的な職場訓練によって、デモでは優れた成果を出すエージェントと、企業が安心して実務に投入できるエージェントの隔たりを埋められると見込んでいる。
関連記事：最近の eWEEKによるAIエージェントの性能に関するレポートは、主要なAIモデルがベンチマークテストで企業向け業務のわずか35％しか完了できなかったことを検証し、Platoが解決を目指す信頼性の課題を浮き彫りにしている。