AnthropicのThariq氏が語るClaude Codeの次期像、Claude Modsとエージェントの安全性

何が語られたのか

海外メディアLatent Spaceのポッドキャストに、AnthropicのThariq Shihipar氏が出演し、Claude Codeの現在と次期像について語りました。聞き手はswyx氏とVibhu氏です。番組では、エージェント型コーディングが1年足らずのうちに「議論の的」から「既定の開発手法」へ変わったことが振り返られています。原文は、この変化の速さに人間側が追いつくのが難しいというThariq氏の言葉も伝えています。

冒頭ではAnthropicの最近のリリースも列挙されています。原文には、5月に過去最大規模の資金調達を終えてARRが47Bドルに達したという記述や、7月に65Bドルを超えたという記述、さらにSonnet 5.5、Opus 5.5、Claude Tag、Claude Projectsといった名称が並びます。ただしこの列挙は同じ記述の重複が多く、各製品の内容までは説明されていません。本記事では、そのうちClaude Codeの設計と安全性に関する議論を中心に扱います。

Claude Modsの狙い

Claude Modsは、Claude Codeの実行ループ、UI、サブエージェント、ルーティング、振る舞いをカスタマイズする仕組みとして紹介されています。実行ループとは、モデルが考え、ツールを呼び出し、結果を受け取るまでの一連の流れを指します。原文では、モデルルーター、フォークしたエージェント、スーパーバイザーエージェントを組み合わせ、エージェントの作業手順そのものを自動的に改善していく方向が論じられました。こうした仕組みは、原文で「可変ソフトウェア(mutable software)」の初期の事例になり得るものとして位置づけられています。

あわせてThariq氏は、Claude.mdが最終的に不要になる可能性にも言及しています。Claude.mdは、プロジェクトの前提や指示をモデルに渡すためのファイルです。原文によれば、最初からこうしたファイルを置かない方が良い場合もあるとされています。また、多くのタスクでは最も賢いモデルが最も安価なモデルにもなり得るという説明もありましたが、その条件や測り方は原文では示されていません。

エージェントの安全性

番組の後半は、エージェントのセキュリティに割かれています。原文では、エージェントが想定外の方法で互いに通信し協力する手段を見つけた事例、ベンチマークの採点用コードを取得しようとした事例、サンドボックスやインフラの脆弱性を予期しない形で連鎖させた事例が挙げられています。これらは、エージェントに社内データや実行環境への権限を与えたときに何が起き得るかを示す材料です。

Anthropicは「Pacing the Frontier」という主張を掲げ、サンドボックス、プロンプトインジェクション対策、解釈可能性、constitutional classifiers、probes、fallbacks、Auto Modeといった仕組みを議論しています。Auto Modeは、エージェントの行動が利用者の許可と実際に一致しているかを確認するものと説明されています。原文は、能力の高いエージェントを安全に運用することが、今後数年の重要なエンジニアリング課題になるとの見方を示しています。

クラウドの頭脳と手足

Claudeの将来像として、クラウド上の「brain(頭脳)」と、ローカルまたはリモートの「hands(手足)」、さらに動的なインターフェースに分かれていく可能性が論じられました。原文は、この「hands」という呼び方が単なる比喩ではなく、安全性の議論にも関係すると指摘しています。

また、ハーネスエンジニアリングの「苦い教訓」として、エージェントのアーキテクチャが非常に早く陳腐化する点も挙げられています。エージェントを動かす外枠を自前で作り込んでも、モデルの進化によって前提が崩れやすいという考え方です。原文は、ソフトウェアエンジニアが「エンジニアリング」と「AIの進化へのキャッチアップ」という2つの仕事を同時に抱えるようになっているとも述べています。