
- カスタムハーネスでClaude Opus 5がARC-AGI-3で100%を達成
- ハーネスなしでは同じモデルが30%に低下
- 監視役エージェントが迷子防止に有効と判明
ハーネスが性能を左右
NVIDIAは2026年8月21日、AIエージェントの性能に関する研究結果を公表した。この研究では、モデルの周囲を囲むソフトウェア層である「ハーネス」が、特に長期的なタスクを扱うときに重要だと示されている。ハーネスとは、モデルにツールを与え、メモリ管理やルール設定を行い、生のモデルを自律的に行動できるエージェントへ変える仕組みだ。
研究者は、メモリを適切に扱うよう調整したハーネスに「監視役」とも言うべきスーパーバイザー要素を組み込んだ。その結果、Claude Opus 5がARC-AGI-3で100%のスコアを記録した。ARC-AGI-3は説明なしで2Dゲームを解き、人間と同じようにプレイ方法を理解して勝利を目指すベンチマークだ。
モデルだけでは不十分
同じClaude Opus 5でも、ハーネスを使わない場合のスコアは30%にとどまり、これはテストしたモデルの中で最高だった。つまり、モデルの選択も重要だが、エージェントシステム全体の中でモデルが占める役割は、多くの人が考えるよりも小さいとNVIDIAは指摘する。ハーネスがメモリやコンテキスト、フィードバックを管理することで、モデルは初めてエージェントとして機能する。
NVIDIAのAI部門バイスプレジデントであるAdel El Hallack氏は、「一般に世界はエージェントをモデルのAPIのように解釈している」と述べる。しかし実際には、モデルに加えて、その周囲の足場、つまりハーネスやツール群、ランタイム、関連ライブラリなどがエージェントを構成しているという。
実証されたハーネスの効果
研究では、エージェントが長期間にわたって多くの意思決定をつなげる「ロングホライズンタスク」の難しさも浮き彫りになっている。マイクロソフトが4月に発表した研究では、19のLLMを文書編集の長期タスクでテストし、フロンティアモデルを含むすべてのモデルがエラーを大量に含む文書を生成した。
また、OpenAIは自社モデルがARC-AGI-3で10%未満という低スコアだったことに衝撃を受け、先月独自の研究を実施。ハーネスの2つの設定を変更するだけでスコアが3倍になったという。しかし、NVIDIAのように100%に到達したモデルはなかった。NVIDIAは、エージェントが行き詰まったときに正しい方向へ促す「監視役」要素の重要性を実証した。
オープンなハーネスの利点
NVIDIA研究者は独自のハーネス「Agentic Variation Operators(AVO)」を開発した。ただし、これは新しい製品ではない。NVIDIAはNemoブランドのもとでハーネス構築用の部品を多数公開しており、商用のものもあれば、無償で利用できるものもある。
ハーネスの重要性は他社の研究でも示されている。7月にはDatabricksが、モデルよりハーネスの選択がAIコストに大きく影響するという研究を発表した。DatabricksのCEOは、同じモデルでもハーネスによってコストが2倍になることがあると述べている。NVIDIAは、オープンなハーネスを利用することで、ユーザーが精度を高めるための調整をより自由に行えると主張している。
| 設定 | ARC-AGI-3スコア |
|---|---|
| Claude Opus 5 + NVIDIAカスタムハーネス | 100% |
| Claude Opus 5 ハーネスなし | 30% |
| OpenAIモデル(既定設定) | 10%未満 |
We believe in having an open agent stack — where you have control across the harness, across the infrastructure, across the runtime — is what's required for us to usher the ecosystem forward and securely.
私たちは、ハーネス、インフラ、ランタイム全体を制御できるオープンなエージェントスタックが、エコシステムを前進させ、安全に導くために必要だと信じています。
今後の見通し
今回の研究は、エージェントの性能を決める要素としてハーネスが重要であることを強く示している。今後は、ハーネスの設計パターン、特に監視役エージェントの具体的な役割や実装方法がさらに研究されるとみられる。また、オープンなハーネスと商用ハーネスの比較や、コストへの影響を定量化したデータが公表されれば、企業がAIエージェントを導入する際の判断材料が増えるだろう。NVIDIAがNemoブランドでどのような部品を提供し続けるかも注目される。
日本の開発者・IT企業にとっての意味
日本のIT企業がAIエージェントを開発・導入する際、モデル選びに注力しがちですが、今回の研究はハーネスの設計が性能に直結することを示しています。特に、ロングホライズンタスクを扱う業務プロセスでは、単に高性能なモデルを選ぶだけでは不十分で、メモリ管理や監視役エージェントの実装が成功の鍵になります。また、オープンなハーネスを活用すれば、コストを抑えながら独自の調整が可能になるため、競争力の向上につながる可能性があります。自社のエージェントシステムを見直す際には、モデルとハーネスの両方に目を向けることが重要です。
気になる点
- NVIDIAのハーネスは製品として入手できるのか?
- 記事によると、これは新製品ではなく、NVIDIAはNemoブランドでハーネス構築用の部品を提供しています。商用のものと、無償で公開されているものが含まれるため、必要に応じて組み合わせて使う形になります。
- OpenAIはどのようにスコアを改善したのか?
- OpenAIはハーネスの2つの設定を変更したところ、モデルのスコアが3倍になったと報じられています。ただし、具体的な設定内容やスコアの詳細は記事では明らかにされていません。
- ハーネスを自社で作るにはどのような知識が必要か?
- メモリ管理と監視役エージェントが重要と示唆されていますが、具体的な構築方法は記事の範囲では不明です。NVIDIAが提供するオープンな部品を活用することで、比較的容易に試せるとみられますが、高度な調整には専門知識が必要になる可能性があります。
用語解説
- ハーネス
- AIモデルの周囲を囲み、ツールやメモリ管理、ルールを提供してモデルをエージェントとして機能させるソフトウェア層
- ロングホライズンタスク
- 長期間にわたって多くの意思決定をつなげ、完了させる必要があるタスク。単発の質問応答とは異なる
- ARC-AGI-3
- 説明なしで2Dゲームを解き、人間と同じようにプレイ方法を学ぶ対話型推論ベンチマーク
- 監視役エージェント
- メインのエージェントが迷子になったとき、方向を修正したり探索を促したりする上位の監督役エージェント
出典
Nvidia just showed that the harness, not the AI model, is now the real hero
AI導入も顧問も、お任せください
何から手をつけるか、どこまでAIに任せるか。自社の業務に合わせて整理し、導入から運用まで伴走します。相談だけでも構いません。
AI導入について相談する