- 関係データベースに直接接続し、最大10,000件の事例を文脈として1回の推論で予測する
- 15データベース・41タスクで教師あり深層学習と専門家設計の勾配ブースティング木を上回った
- SAP SALTでAutoGluonをMRRで8%上回り、ファインチューニング後は差が16%に拡大
発表の概要
NVIDIAは、関係データベース上で直接予測を行う事前学習済みの関係データ基盤モデル「Kumo Relational」を発表しました。予測クエリを与えると、最大10,000件の過去事例をコンテキストとして収集し、1回のフォワードパスで解約・需要・不正といった結果を予測します。タスクごとの学習、特徴量エンジニアリング、テーブルの平坦化はいずれも不要とされています。
NVIDIAはこれを、一般的な関係データのベンチマークで教師あり機械学習を上回った初のFew-shot基盤モデルと位置づけています。15のデータベースにまたがる41タスクで、関係データ向けの教師あり深層学習モデルと、専門家が設計した勾配ブースティング木のパイプラインを上回ったと報告しています。企業向けベンチマークのSAP SALTでは、AutoGluonのアンサンブルをMRRで8%上回りました。500B行以上のデータベースまでスケールするとしています。
テーブル構造を保つ仕組み
構造化データ向けの基盤モデルの多くは、単一の平坦なテーブルを前提とします。しかし実務のデータは、ユーザー・注文・商品といったテーブルが外部キーで結ばれ、時間とともに変化する関係データベースにあります。手作業の集約で1行に潰すと、細かな構造のシグナルが失われ、作業コストも大きくなります。
Kumo Relationalは、テーブル、外部キー、タイムスタンプを保ったままデータベース上で直接動作します。実世界のデータベースを模した合成関係データで一度だけ事前学習し、推論時に最大10,000件のコンテキスト事例を読むインコンテキスト学習で各タスクに適応します。各事例は、ある時点のエンティティ周辺の局所サブグラフと、その正解ターゲットの組です。
推論は3段階で構成されます。まずテーブル単位で列方向と行方向のアテンションを交互に適用し、予測に効く列・行を選びます。次に主キー・外部キーの関係に沿って行埋め込みをグラフアテンションで分配し、コンテキスト事例間のクロスサンプルアテンションと組み合わせます。この段階が行埋め込み上で動くため、全セルを対象にする場合の二乗コストを避けられ、大規模なコンテキストや深いサブグラフにスケールできると説明されています。
ベンチマーク性能
評価はRelBench V1/V2、SAP SALT、4DBInferの15データベース、41ベンチマークで行われ、いずれも事前学習では見ていないデータセットです。分類・回帰の両方で、関係深層学習モデルや専門家設計の表形式アンサンブルを含む強い教師ありモデルを上回ったとしています。RelBench V1の分類タスクでは、専門家設計の特徴量に対する勾配ブースティング木を平均で約4 AUROCポイント上回りました。
RelArena-αリーダーボードでは、精度と効率のパレートフロントに位置するとしています。Kumo Relationalは1,000サンプルあたりの中央値推論時間が約17秒でElo 1,842、最高スコアのrt-plurelはElo 1,878で約7,300秒かかっており、約430倍遅いという対比です。SAP SALTでは、AutoGluonの大規模アンサンブルをMRRで8%、最近の表形式基盤モデルを約25%上回り、ファインチューニング後はAutoGluonとの差が16%に広がります。
頑健性も報告されています。学習データの0.2%だけをコンテキストに使っても性能が保たれ、外部キーリンクを最大75%削除しても安定し、ノイズの多い列を多数追加してもほとんど劣化しないとしています。
制約と提供形態
制約もあります。意味のある関係性と時間的な変化を持つデータで最も力を発揮し、学習データが非常に大きいタスクでは、タスク特化の教師ありモデルがインコンテキスト予測を上回る可能性があります。ベンチマークのコンテキストは最大10,000件でした。このケース向けにファインチューニングが用意されています。また、予測シグナルは限られたホップ数で到達できる必要があり、まずは少数の関連テーブルへの絞ったクエリから始め、必要に応じてグラフを広げる使い方が推奨されています。
提供形態は、NVIDIAが公開したオープンソースのGPUネイティブなstructured-data-modelsライブラリ、またはNVIDIA NIMです。ライブラリは初回利用時にHugging Face Hubから重みをダウンロードするため、GPU付きノートブックで読み込んで直接予測できます。メモリマップI/Oで最大5 GB/s、500B行以上を扱う専用グラフエンジンも用意されています。NIMとして別サービスで動かす場合は、PQLで予測を記述し、クライアントがコンテキストと関連テーブルを集めて送信します。
| 項目 | Kumo Relational | rt-plurel(最高スコア) |
|---|---|---|
| RelArena-αのElo | 1,842 | 1,878 |
| 1,000サンプルあたりの中央値推論時間 | 約17秒 | 約7,300秒 |
| 相対的な推論速度 | 基準 | 約430倍遅い |
Kumo Relational is the first few-shot foundation model to outperform supervised machine learning on common relational benchmarks.
Kumo Relationalは、一般的な関係データのベンチマークにおいて、教師あり機械学習を上回った初のFew-shot基盤モデルである。
今後の見通し
Kumo Relationalは、論文・オープンソースライブラリ・NIMという3つの形で提示された段階です。今後はRelBench V2や4DBInferを含む評価の詳細、企業データでの再現性、ファインチューニングの実務的な指針が明らかになるにつれて、実運用への適合度が判断しやすくなるとみられます。特に、自然言語を予測クエリに変換するプロンプティングインターフェースの精度、国内企業のデータ特性での挙動、NIMの提供条件や課金体系が公開されれば、導入判断の材料が揃うと考えられます。まずは自社の小規模なユースケースで、既存のXGBoostパイプラインと並べて比較検証するのが現実的です。
日本の開発者・IT企業にとっての意味
日本のIT企業にとっての意味は、予測モデル開発の進め方が変わる可能性がある点にあります。これまで解約予測や需要予測のたびに、データ理解、特徴量設計、モデル選定、チューニングという工程を繰り返していたところが、データベースに接続して予測クエリを書くだけで済むなら、MLチームの工数は大きく変わります。特に、社内に多数の小さな予測ユースケースが眠っている企業では、1件ずつプロジェクト化する代わりに横展開しやすくなります。一方で、GPUリソースの確保、既存のXGBoost運用との並行検証、データガバナンスの整備は避けて通れません。エージェントからPQL経由で予測を呼び出せる設計は、社内AIエージェント構築の選択肢にもなります。
気になる点
- 日本企業のデータでもそのまま使えますか?
- モデルは特定の業種に限定されず、関係データベースに接続して予測クエリを記述する形で使えるとされています。オープンソースライブラリはNVIDIA GPU上で動作し、重みはHugging Face Hubから取得します。日本語表記の揺れや国内特有の業務データでの精度は原文では評価されておらず、現時点では不明です。
- 既存のXGBoostパイプラインは置き換えるべきですか?
- 原文は、SAP SALTで専門家設計の特徴量に対するXGBoostをMRRで7ポイント、ファインチューニング後は13ポイント上回ったと報告し、本番のXGBoostパイプラインを置き換える根拠になると述べています。一方、学習データが非常に大きいタスクではタスク特化モデルが勝る可能性も指摘されており、自社データでの比較検証が前提になります。
- 利用にかかる費用はどのくらいですか?
- 原文には価格やライセンス条件の記載はありません。structured-data-modelsライブラリはオープンソースとして公開され、NIMとしても提供されるとされていますが、NIMの利用条件や課金体系は本記事の範囲では公表されていません。GPUリソースの確保が前提になる点は実務上の考慮事項です。
用語解説
- 関係データ基盤モデル
- テーブル間の外部キーや時系列構造を保ったまま、関係データベース上で直接予測する事前学習モデル。
- インコンテキスト学習(Few-shot)
- モデルの重みを更新せず、推論時に少数から数千件の事例を入力として与えてタスクに適応させる手法。
- AUROC
- 分類モデルの識別性能を表す指標。1に近いほど良い。
- MRR(平均逆順位)
- 正解が候補リストの上位何番目に現れたかを逆数で平均した指標。1に近いほど良い。
- PQL(Predictive Query Language)
- 何を予測するかを宣言的に記述するKumo Relationalの問い合わせ言語。
- NVIDIA NIM
- NVIDIAが提供する、モデルを推論マイクロサービスとして配備するための仕組み。
出典
NVIDIA Kumo Relational Outperforms Supervised Machine Learning on Relational Data, No Training Required
AI導入も顧問も、お任せください
何から手をつけるか、どこまでAIに任せるか。自社の業務に合わせて整理し、導入から運用まで伴走します。相談だけでも構いません。
AI導入について相談する