AIエージェントがオントロジーを復活させる：確率的LLMを境界内に保つ仕組み

講演で示された復権

AI Engineer World's Fairで、UCバークレーで生成AIとLLMを教えるフランク・コイル氏が約20分の講演を行い、オントロジーの概念を今日のAIエンジニア向けに再紹介しました。コイル氏はLLMが確率的推論に優れる一方、エージェントシステムを効果的に動かすには「論理的ガードレール」が必要だと主張しています。そのガードレールとして彼が挙げるのがオントロジーです。

コンピュータサイエンスにおけるオントロジーは「知識領域におけるクラス、プロパティ、関係を記述したデータ構造」と定義されます。コイル氏はこれを単に「データとしてのグラフ」と表現し、概念自体はアリストテレスまで遡るものだと述べています。AIの歴史の中でオントロジーは常に使われてきましたが、最近のLLMエージェントブームで再び脚光を浴びています。

既存技術の活用

コイル氏は、ウェブ向けのオントロジーがエージェントシステムの構築に特に有用だと述べています。具体例として、Schema.org、FOAF、Dublin Coreといった、ウェブ開発者にはおなじみのオントロジーを挙げました。さらに、RDFS（RDFスキーマ）やOWL（ウェブオントロジー言語）といった拡張技術も紹介しています。

既存のオントロジーを使う利点は、それらがすでにLLMの学習データに含まれていることだとコイル氏は言います。開発者はゼロからオントロジーを作る代わりに、プロンプトで既存のものを引き出せます。実際に、Claudeエージェントのループでオントロジーを使い、ツール実行後のLLMの推論を検証する例も示されました。

ニューロシンボリックAI

コイル氏は、確率的エージェントとオントロジーの融合を「ニューロシンボリックAI」と呼んでいます。「派手に聞こえるが、実際はニューラルネットワークとルールベースの記号的AIを組み合わせたもの」と説明し、その中には知識グラフも含まれると述べました。このアプローチはLLMをガードレール内に保つ方法だといいます。

グラフデータベースで知られるNeo4jも、エージェント製品にオントロジーを活用しています。同社CEOのエミール・エイフレム氏は基調講演で、大規模なエージェント運用のための「よりスマートな共有基盤」を実現する3種類のオントロジーを提唱しました。業務向けオントロジー、技術オントロジー、そして実行トレースの3つです。これにより「手動でデータソースを配線した厚いエージェント」から「スマートなオントロジー基盤上の薄いエージェント」への移行が可能になると述べています。

課題と解決の芽

オントロジーの課題は、維持と更新の負担です。1990年代から2000年代にかけての「セマンティックウェブ」構想が普及しなかった理由もそこにあります。現在の開発者プラセンジット・サーカル氏は、エージェント自身が運用の一部としてオントロジーを維持し、エッジケースに遭遇したときに定義を更新する仕組みが解決策になり得るとXで提案しました。ただし問題は依然として難しいと付け加えています。

コイル氏は、ループエンジニアリングはコンピュータサイエンスでは古くからある概念だが、ループが壊れたり「脱線」したりする危険があると指摘します。そこでオントロジーが確率的LLMのガードレールとして機能します。彼のスライドには「無限のループを囲む有界なルール群」という表現があり、OWLの公理は機械が強制するルールだと言います。オントロジーに基づく推論器を使えば、LLMを軌道に乗せ、正直に保つことが可能だと説明しました。