PrismML、Qwen3.8 27Bを5.9GBに圧縮する「Bonsai 2」公開

何が公開されたのか

PrismMLは2026年9月17日、大規模言語モデル（LLM）の新モデル「Bonsai 2 27B」を公開した。これはAlibabaのオープンソースモデル「Qwen3.8 27B」を圧縮したもので、サイズは5.9GB。メモリ使用量は元モデルの9分の1から10分の1になるという。

5.9GBというサイズはPCに収まる水準で、原文は高性能スマートフォンにも搭載できる可能性があるとしている。すべての処理を端末内で完結させる「オンデバイス」での利用を想定した取り組みだ。

PrismMLはCaltech（カリフォルニア工科大学）の研究者らが設立したスタートアップで、CEOは圧縮技術を専門とするCaltech教授のBabak Hassibi氏。アドバイザーにはDatabricksの共同創業者で、バークレーのSky Computing Labのディレクターを務めるIon Stoica氏が名を連ねる。

圧縮の仕組み

圧縮の鍵は「三値（ternary）ウェイト」と呼ばれる手法だ。ウェイトとは、モデルが学習を通じて獲得・保持した情報のこと。通常は1つあたり16ビットの数値として保存される。

PrismMLの手法では、これを+1、−1、0の3つの値だけに単純化する。保存する値がはるかに小さくなるため、モデル全体の占有領域が大幅に減る仕組みだ。

技術の詳細はプロジェクトのHugging Faceページで公開されていると原文は述べている。

性能と資金、競合

圧縮による性能低下はどれほどか。Hassibi氏によれば、Bonsai 2はQwenの総合ベンチマークスコアの98%に一致する。2026年3月に公開された初代Bonsaiは95%だったため、世代を重ねて改善していることになる。

会社によると、初代モデルは1100万回以上ダウンロードされ、さらに小さいモデル群も合計260万回ダウンロードされたという。

PrismMLは2250万ドルのシードラウンドを調達済みで、投資家にはKhosla Ventures、Cerberus Capital、Caltechが名を連ねる。LLM圧縮に取り組む企業は他にもあり、スペインのDonostia International Physics Centerの教授が設立したMultiverse Computingもその一つとされる。

Appleとの協議が噂されているが、Hassibi氏はTechCrunchへのコメントを拒否している。

残る課題と次の目標

完全な性能一致（100%）を達成できるかは未知数だと原文は指摘する。Hassibi氏自身、圧縮には常に何らかの影響が伴うだろうと述べている。

ただし2%程度の劣化が実利用で意味のある差を生む可能性は低い、と原文は見ている。非圧縮のLLM自体が完全に正確ではなく、ベンチマークも実際のタスクを完璧には反映しないためだ。モデルを動かす周辺ソフトウェアの影響も大きいという。

今後の目標は、より大きなモデルへの適用だ。Hassibi氏は数か月以内に数千億パラメータ規模のモデルを公開することを期待していると語り、モデルが大きいほど知能を保ったまま圧縮しやすいという見方を示している。