AIの内部を可視化する「Silico」が一般公開、研究助成100万ドルも

発表の概要

AIスタートアップのGoodfireは、大規模言語モデル（LLM）の内部動作を解析するプラットフォーム「Silico」を一般公開したと発表しました。同社はこれまで一部の研究機関などに限定的に提供していましたが、今回から広く誰でも利用できるようになります。あわせて、学術機関や非営利の研究者を対象に、Silicoを100万ドル分無償で使える助成プログラムも開始しました。

Goodfireは2024年にサンフランシスコで設立され、AIモデルをブラックボックスとして扱わず、内部構造を理解することでより安全で強力なAIを開発することを目指す企業です。共同創業者でCEOのEric Ho氏は、「モデルをブラックボックスとして扱うことは避けられないのではなく、選択である」とコメントしています。

仕組みと新しさ

Silicoが採用するのは、メカニスティック解釈可能性という手法です。モデルの重みや活性化パターン、注意機構などを解析し、ニューロンやその経路をマッピングすることで、AIがどのようにタスクを実行しているかを理解します。

Silicoの特徴は、こうした解析ツールを統合し、AIエージェントが実験計画を自動で立てて実行する点です。ユーザーが「いつ、なぜ幻覚（ハルシネーション）を起こすのか調べたい」などと自然言語で依頼すると、プラットフォームが複数の解析タスクを並行して進めます。Ho氏は「AIモデルの内部を覗く顕微鏡のようなもの」と表現しています。

実績と応用例

Silicoはすでに医療分野で実績を上げています。英国のAI企業Prima Menteは、血液サンプルからアルツハイマー病を検出する基盤モデル「Pleiades」の判断根拠を理解するためにSilicoを利用しました。同社はモデルの性能には満足していましたが、なぜその判断ができるのか分かっていませんでした。

解析の結果、PleiadesはDNA断片の長さパターンという、これまで人間が使っていなかった新たなバイオマーカーを利用していたことが判明しました。GoodfireのHo氏は、基盤モデルのリバースエンジニアリングだけで自然科学の重要な発見をした初めてのケースだと述べています。

今後の展望と注意点

ニューヨークの非営利研究機関Reciprocal Researchを率いるCameron Berg氏も、Silicoが研究の大幅な加速に役立ったと語っています。同氏は、自分が研究主任となり、AIシステムが研究員やエンジニアの役割を果たす環境が実現したと述べています。

Silicoの一般公開は、AIモデルの開発やデバッグ、デプロイの方法を変える可能性があります。ただし、フロンティアモデルへの適用や解釈結果の信頼性については、まだ検証が必要とみられます。特に、解釈ツールがどの程度複雑な行動を正確に説明できるかは、今後の利用事例の蓄積が求められます。