Meta、30B規模のマルチモーダルモデル「Muse Glimmer」を公開 ローカル実行とツール呼び出しに対応

発表の概要

Metaは2026年8月10日、新しいマルチモーダルモデル「Muse Glimmer」を公開した。このモデルはHugging Face Hub上で公開されており、Meta自身がオープンソースとして提供している。

公開に合わせて、Hugging Faceのtransformersやllama.cpp、vLLM、Inference Endpointsなど主要な推論ライブラリで初日からサポートされている。開発者はこれらのライブラリを使ってすぐにモデルを試すことができる。

アーキテクチャの特徴

Muse Glimmerは30Bパラメータの高密度モデルで、2Bパラメータのビジョンエンコーダ（Perception Encoder）と28Bパラメータのテキストデコーダで構成される。テキストデコーダは52層で構成され、スライディングウィンドウアテンション（2,048トークン）とフルアテンションを交互に配置するハイブリッド構造を採用している。

また、Gated Grouped-Query Attentionを採用し、KVキャッシュのメモリ使用量を16倍削減している。さらに、QK正規化とクエリスケーリングを導入し、アテンションのロジットを安定させる工夫がされている。

マルチモーダル処理

Muse Glimmerは画像と動画の両方を1つのビジョンエンコーダで処理する。エンコーダは2フレーム×3チャンネル×14×14のパッチに画像を分割し、50層のトランスフォーマーで処理する。動画は1秒あたり2フレームにサンプリングされ、最大96フレームまで処理できる。

モデルは画像理解に加えて、ツール呼び出しやオープンエンドな物体検出にも対応している。例えば、画像に写っている都市の天気をAPIで取得するといった、マルチモーダルな情報を活用したエージェント的な利用が可能だ。

エコシステムと高速化

Muse Glimmerはtransformersやllama.cpp、vLLMなどで初日からサポートされており、NVIDIA CUDA、AMD ROCm、Intel XPUなど複数のハードウェア上で動作する。llama.cppではGGUF形式の量子化モデルが提供され、比較的低スペックな環境でもローカル実行が可能とみられる。

また、DFlashと呼ばれる投機的デコーディング用のドラフターモデルも提供されている。このドラフターはコード生成などの構造的なコンテンツ生成に特に有効で、生成速度を大幅に向上させることができるとされる。