NVIDIA、AIファクトリー向けAIOps基盤「Minerva」を発表

Minervaとは何か

NVIDIAが発表したMinervaは、AIファクトリーの運用を支援するAIOpsプラットフォームです。AIOpsは、運用データをAIで分析して障害対応や保守を効率化する考え方、またはその製品群を指します。インフラとAIワークロードの両方からテレメトリ(稼働状況を示す計測データ)を集め、用途に合わせて設計されたAIモデルで分析し、実務で使えるインサイトに変えるのが狙いとされています。

背景にあるのはAIファクトリーの規模です。高速ネットワーク上で大量のGPUがモデル学習と推論を担う環境では、1つの部品の劣化がジョブ全体を遅らせます。原文は、他のGPUより温度が高い、NVMeドライブが高負荷時に性能を落とす、といった兆候は見落とされやすいと指摘しています。

Minervaが重視する指標は「AIファクトリー・イールド」です。GPU時間、goodput(有効な処理量)、クラスタ稼働率、トークン生成量を通じて、インフラが生み出した有効な仕事量を測る考え方だと説明されています。

ナレッジグラフで全体像を可視化

従来の監視ツールは、データセンターを領域ごとに分けて見がちです。ネットワーク、コンピュート、サイト信頼性(SRE)、機械学習の各チームが、それぞれ別の部分を見ている状態になります。MinervaはGPU、ネットワーク、ストレージ、スケジューラ、ワークロードのシグナルを横断的につなぐとしています。

つないだ情報から、GPUやSuperNIC、スイッチ、ケーブルといったインフラと、その上で動くジョブを論理的に対応づける動的なナレッジグラフを構築します。この文脈があることで、数十万GPU規模の環境でも、遅い学習ジョブがどの部品の影響を受けているかをたどれるとされています。

分析量は毎時数十億データポイントに及び、教師あり学習と教師なし学習の両方を使います。正常時の振る舞いを学習し、未知の異常を検出し、進行中の故障を予測し、トポロジーに基づいて関連イベントを相関させる仕組みです。症状を1件ずつ運用者に送るのではなく、イベントの嵐を根本原因候補付きの1つのインシデントにまとめられる点を特徴としています。

AIアシスタントと自動化連携

MinervaにはネイティブのAIアシスタントが付き、外部のエージェント型AIツールとも接続できます。ライブのテレメトリに基づいた自然言語インターフェースが加わる形で、運用担当者は会話を通じてクラスタの健全性を調べたり、推奨される修復手順を受け取ったりできます。

修復の実行は、人間が介在する形も自動化につなぐ形も選べます。人手で修正する場合は人がループに入り、自動化する場合はインフラのAPIや外部システム経由でMinervaをつなぐ設計です。

得られる効果として原文は3点を挙げています。中断までの時間を延ばすこと、修復までの時間を短くすること、そして重要なアラートだけを残すことです。結果として、事後対応から予防保守へ運用の重心を移せると説明しています。

導入企業と提供チャネル

IRENは、Minervaを自社のAIファクトリー最適化に使うNVIDIAのパートナーの1社です。IRENのCTO、Denis Skrinnikoff氏は、GPUの生産性を最大化することが顧客へのサービス提供の鍵だと述べ、ネットワーク、GPU、そこで動くジョブを1つのビューで見られるようになることで、トラブルシューティングよりも予防保守に力を割けるようになるとコメントしています。

IRENに加え、Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI、TeslaがMinervaの導入を計画しているとされています。

提供形態では、Dell Technologies、Lenovo、SupermicroがAIファクトリー運用のポートフォリオの一部としてMinervaを提供する予定です。

現時点で分かっていないこと

価格、課金体系、一般提供の時期は原文に記載がありません。「本日発表」とあるだけで、誰でもすぐ入手できるかは読み取れません。

対応するハードウェア構成やクラウド環境、小規模なクラスタでも効果が出るかも不明です。数十万GPU規模の記述が中心で、数GPUから数十GPUのチームにどこまで適合するかは示されていません。

既存の監視・可観測性ツールとの関係も明らかではありません。置き換えを想定するのか、併用を前提とするのかは、原文からは判断できません。