- 8Bに4兆、70Bに2兆トークンを追加し、累計は19兆・17兆トークンに
- 画像と音声を入力可能に。音声は実験的で、生成できるのはテキストのみ
- コンテキスト長はApertus 1.0の4倍となる262,144トークンに拡大
Apertus 1.5の概要
オープンウェイトのモデル群「Apertus」の1.5版が公開された。Apertus 1.5は初代モデルに対する継続的な事前学習（すでに学習済みのモデルに追加で学習させる手法）によって作られており、8Bモデルにはテキストとマルチモーダルの学習データを4兆トークン、70Bモデルには2兆トークン追加している。累計ではそれぞれ19兆トークン、17兆トークンになる。
従来どおり、重み・データ・価値観・学習の詳細をすべて公開する「完全オープン」な方針が維持されている。新たに画像と音声を入力として扱えるようになり、答える前に考えるThinking Mode、4倍に拡張されたコンテキスト、指示追従とツール利用の改善が加わった。
画像と音声をトークンとして扱う
Apertus 1.5のマルチモーダル対応は、別途の視覚エンコーダを組み合わせるのではなく、画像と音声をテキストと同じ系列の離散トークンとして入力する方式（early-fusion）で実現されている。画像はEmu3.5のトークナイザで処理され、512×512の画像は1,024トークンになる。音声はWavTokenizerで、1秒あたり40トークンに変換される。
語彙を拡張するだけでアーキテクチャ自体は変えていないため、学習はテキストのみの場合と同じ速度で進むという。ただし入力として理解できるのは画像と音声までで、生成できるのはテキストのみと明記されている。音声の処理はまだ実験的な位置づけとされている。
学習は4段階と5段階
事前学習は4段階で進む。まず画像・音声を単体で学ぶUnpaired、次に画像とキャプション、音声と書き起こしを対応づけるPaired、数学とコードを増やした高品質データを使うCooldown、そして8kから262kへ段階的に窓を広げるLong contextの順である。学習トークンの半分以上はテキストのみで、Apertus 1.0の言語能力を保つ狙いがあるという。テキストデータはFineWeb2-HQ+、FinePDFs、Nemotron-CCなどで更新されている。
事後学習はSFT、長文脈SFT、RL、DPO、チャーター整合（SDPO）の5段階で構成される。SFTには370万件のテキストサンプルに加えて画像と音声のデータが使われ、推論トレースはモデルがすでに解ける問題には追加しない。ツール利用のデータは実行検証済みの軌跡に限定している。RLは約35万件の数学・コード・指示追従・多言語・視覚プロンプトを使い、Thinkingのオンとオフを混ぜて行われる。
評価の拡張と位置づけ
評価も拡張され、画像・音声のマルチモーダル評価とThinking Modeの評価が加わった。マルチモーダル評価はlmms-evalとVLMEvalKitを統合したMLLM-eval-suiteのパイプラインで実施されている。翻訳や多言語、安全性、ツール利用のベンチマークも追加され、事後学習の評価リポジトリで確認できる。
フロンティアのオープンウェイトモデルにはまだ及ばないとしつつ、コーディングと指示追従は大きく改善したとしている。8Bモデルは指示追従と多言語タスクで同規模のオープンウェイトモデルを上回り、ThinkingはAIMEのような推論重視のベンチマークをさらに改善する。マルチモーダル性能はGemma 4 12Bなどに近く、空間理解ではオープンウェイトモデルの中で、文書・グラフ理解ではオープンソースモデルの中で競争力があるという。翻訳では、Last Translation Benchmarkで8BがGPT-OSS-20Bと同等、Claude Haiku 4.5やGoogle Translateを上回ると報告されている。
透明性と再現性の取り組み
評価結果はEvalEval Coalitionと協力し、「Every Eval Ever」（EEE）スキーマで公開される。これはスコアだけでなく、誰が評価を実行したか、モデルにどうアクセスしたか、生成設定、指標をどう解釈すべきかまで記録する形式で、リーダーボードでは欠けがちな情報を補う。英国のAI Security Instituteも同じ基盤を公開評価に使っているという。
EvalEvalはEvaluation CardをEU AI Actの第55条やGPAI Code of PracticeといったAIガバナンス要件に対応づけており、EEEスキーマでこれらの枠組みが求める60の評価報告要素のうち56を表現できるとしている。学習レシピやアブレーション（条件を変えて効果を確かめる実験）、データ混合はTechnical Reportにまとめられ、base weights、SFT、RLVR、DPOといった中間チェックポイントもHugging Face上で公開される。
| 項目 | Apertus 1.5 8B | Apertus 1.5 70B |
|---|---|---|
| 追加学習トークン | 4兆 | 2兆 |
| 累計学習トークン | 19兆 | 17兆 |
| コンテキスト長 | 262,144トークン | 262,144トークン |
| マルチモーダル入力 | 画像・音声 | 画像・音声 |
Apertus 1.5 accepts images and audio alongside text, bringing documents, diagrams, and photos into the conversation.
Apertus 1.5はテキストに加えて画像と音声を入力として受け取り、文書や図表、写真を会話に持ち込める。
今後の見通し
ロードマップとしてApertus 2.0が予告されている。スパース／MoE（Mixture of Experts）アーキテクチャを採用し、総パラメータは約600B、学習スケジュールも拡張され、エージェント・数学・コーディングが優先領域とされる。2026年のチューリッヒでのAI+X Summitで発表されたもので、具体的な公開時期は示されていない。日本企業が採用を判断するには、日本語を含む多言語性能の評価結果、音声入力の実用品質、利用ライセンスの条件が明らかになることが手がかりになるとみられる。中間チェックポイントやデータ混合が公開されているため、自社データでの検証は比較的進めやすい。
日本の開発者・IT企業にとっての意味
日本のIT企業にとってまず注目したいのは、マルチモーダル対応をトークナイザの語彙拡張だけで実現している点です。別途の視覚エンコーダを持たないため、テキストモデルと同じ学習速度・同じパイプラインで扱える可能性があり、社内データでの追加学習やファインチューニングのコストを見積もりやすくなります。262,144トークンのコンテキストは、長い契約書や設計書、図表を含む文書処理の用途に向きます。ツール利用のデータが実行検証済みの軌跡に限定されている点も、エージェント用途を検討する際の参考になります。一方で生成はテキストのみ、音声は実験的という制約は導入判断の前提になります。Evaluation CardやEEEスキーマによる評価記録は、EU AI ActやGPAI Code of Practiceへの対応を意識する企業にとって、モデル選定の証跡をどう残すかの参考になるでしょう。日本語性能のデータが示されるまでは、PoCでの自社評価が欠かせません。
気になる点
- 日本語の性能は評価されているのか
- 原文では指示追従と多言語タスクで同規模のオープンウェイトモデルを上回るとされ、翻訳はLast Translation Benchmarkで評価されています。ただし日本語に限定したスコアは示されておらず、日本語性能は現時点で公表されていないと考えるべきです。自社タスクでの検証が必要になります。
- ライセンスや利用条件はどうなっているのか
- 原文は重み・データ・価値観・学習詳細を公開する「完全オープン」と説明していますが、具体的なライセンス名や商用利用の条件には触れていません。データは公開され、許諾的なライセンスで、robots.txtのオプトアウトも遡って尊重するとされています。正確な条件はモデルカードの確認が必要です。
- 既存のApertus 1.0から移行しやすいのか
- マルチモーダル対応は語彙の拡張だけで実現され、アーキテクチャは変わっていないと明記されています。学習もテキストのみの場合と同じ速度で進むとされ、モデルカードとQuickstartガイドが用意されています。ただし既存のファインチューニング済み重みがそのまま使えるかは原文に記載がありません。
用語解説
- オープンウェイト
- モデルの重み（パラメータ）が公開され、誰でもダウンロードして利用・改変できる形態。学習データまで公開する場合はさらに開放的とされる。
- MoE（Mixture of Experts）
- 複数の専門家モジュールのうち一部だけを入力ごとに使うアーキテクチャ。総パラメータを増やしつつ計算量を抑えやすい。
- トークナイザ
- テキストや画像・音声を、モデルが扱う離散的なトークン列に変換する仕組み。語彙を拡張すると新しい入力形式を扱える。
- SFT
- Supervised Fine-Tuningの略。入力と望ましい出力の組を使い、事前学習済みモデルを指示に従う形に調整する事後学習の手法。
- DPO
- Direct Preference Optimizationの略。人間や審査モデルの好みに基づくペアデータを使い、強化学習なしで出力の選好を学習させる手法。
- RLVR
- RL with verifiable rewardsの略。数学やコードなど正解を機械的に検証できるタスクの報酬を使って強化学習を行う手法。
出典
Apertus 1.5 Release Notes
https://huggingface.co/blog/swiss-ai/apertus-v15-release-notes
AI導入も顧問も、お任せください
何から手をつけるか、どこまでAIに任せるか。自社の業務に合わせて整理し、導入から運用まで伴走します。相談だけでも構いません。
AI導入について相談する