Meta、816BのMoE「Muse Spark Open」をオープンウェイトで公開

公開されたモデルの概要

Metaが公開したMuse Spark Openは、総パラメータ816B、トークンあたりのアクティブパラメータ42Bという構成のMoEモデルです。MoE（Mixture of Experts）は、入力に応じて一部のエキスパート（専門家サブネットワーク）だけを動かすことで、計算量を抑えながらパラメータ規模を大きくできる設計手法です。今回のモデルはオープンウェイト、つまり学習済みの重みが公開される形で提供されます。

入力はテキスト・画像・動画・音声の4種類に対応し、出力はテキストです。コンテキスト長は1Mトークンとされています。重みが公開されるため、自社環境での推論やファインチューニングの道が開かれる一方、実行には相応のハードウェアが必要になります。

アーキテクチャと配備条件

モデルは62層で構成され、GQA（Grouped Query Attention、複数のクエリでKVヘッドを共有する注意機構）を採用し、KVヘッド数は16です。256あるエキスパートのうち8個をトークンごとに有効化する設計で、1.8BのPerception Encoderを備えます。

BF16の重みは約1.6TBに達します。MetaのNVFP4チェックポイントはエキスパート部分のみを量子化することで、重みを約530GBまで圧縮しています。Metaはこのサイズが4基のBlackwell Ultra GPU、8基のH200、あるいは512GBのM5 Ultra Mac Studio 2台に収まると説明している、と記事は伝えています。

性能とコストの評価

Artificial AnalysisのIntelligence IndexでMuse Spark Openは39を記録しました。これはNVIDIAのNemotron 3.5 Super VLの26を13ポイント上回るスコアで、米国のオープンウェイトモデルとしては最高とされます。一方、Valsはオープンウェイトモデル中12位、全体で38位と評価しており、評価機関によって位置づけは異なります。ArenaのCode Arena WebDevでは1511ポイントで米国オープンモデルの首位、オープンモデル中13位となっています。

弱点として、Artificial Analysisの4種類のエージェント評価では上位9オープンモデルの中で最下位に位置します。その一方でAA-Omniscienceではオープンモデルをリードしており、能力にばらつきがあることがうかがえます。

価格面では、Together、Fireworks、Basetenが100万トークンあたり入力1.25ドル、出力4.25ドル、キャッシュ入力0.15ドルで提供しています。Artificial Analysisは1タスクあたりのコストを0.84ドルと試算し、GLM-5.3の2.01ドル、DeepSeek V4.1 Flashの0.27ドルと比較しています。1タスクあたりの出力トークンは40kで、上位9オープンモデルの中では最少とされます。

ライセンスとエコシステム

ライセンスは独自のMuse Model Licenseで、「Built with Muse Spark Open」という帰属表示を求めます。年商2000万ドルを超えるModel-as-a-Service事業者は、Metaとの別途契約が必要とされています。オープンウェイトではあるものの、無条件の商用利用が認められているわけではない点には注意が必要です。

エコシステム面では、mlx-lmが初日からvisionを含めて対応し、AppleはMac Studio間でRDMA分散推論を行うブログ記事を公開しました。vLLMはMuseの学習中にRLロールアウトを処理しており、公開時点でサポートを提供しています。SemiAnalysisはInferenceXにB200構成を追加したと伝えられています。

評価が割れている点

@teortaxesTexは、より小型でMITライセンスのV4.1 Flashと比較して「DOA」と評しています。さらに、MetaがSpark 1.3をOpenAIからの蒸留を理由に非公開にしたという見方を示していますが、これは根拠の示されていない推測です。

@alexandr_wangはMSL（Meta Superintelligence Labs）について「新しいモデルを作る機械」を築いたと表現しています。ベンチマークの順位は評価機関やタスクによって異なるため、導入検討時には自社の用途に近い評価を確認する必要があると考えられます。