Linux FoundationがAIセキュリティ指針SAFEを提案、120組織が参画するアライアンスが支援

SAFE指針の概要

Linux Foundationは8月4日、共有AIインシデント交換（SAFE）に関するコメント要請（RFC）を公開した。これはエージェント型AIのサイバーセキュリティインシデントを機密性を保ちながら収集・分析し、影響を受けた組織への通知、再発する制御の欠陥の特定、証拠に基づく運用上の推奨事項の公表を提案するものである。

SAFEはOpen Secure AI Allianceのワーキンググループが草案を作成しており、NVIDIA、Cisco、CrowdStrike、Hugging Face、Red Hatなどが初期提案に寄与している。アライアンスは現在120以上の組織で構成され、Black Hatカンファレンスの開幕に合わせて今回の発表が行われた。

NVIDIAの貢献

NVIDIAは、エージェントの動作をテスト・追跡・監査しやすくする研究用ハーネス「NOOA」をGitHubで公開した。また、エージェントがアクセスできる範囲を制限するランタイム「OpenShell」も提供し、エージェントレベルでセキュリティとプライバシーの制御を実施する。

モデル面では、Nemotron（エージェント型AI向け）、Cosmos（物理AI）、Isaac GR00T（ロボティクス）、BioNeMo（ヘルスケア）、Alpamayo（自動運転向けの世界最大モデル）などをオープンウェイトで公開している。さらに、プロンプトインジェクションやツールポイズニングのリスクを検査し、暗号署名した「検証済みエージェントスキル」も提供する。NeMo GuardrailsやAnonymizer、Safe Synthesizer、オープンソースのLLM脆弱性スキャナGarakなども含め、スタック全体をカバーする構成だ。

各社の取り組み

アイデンティティと権限管理では、Oktaがエージェント向けIDアクセスの参照実装を開発中で、Palo Alto NetworksはIdiraからAgent GuardやAgent Watchをオープンソースで提供した。Red Hatが立ち上げたasagoは、NISTやEU AI Actなどのガバナンス要件をランタイムのエージェント行動に直接マッピングする。

ハーネスとツール層では、AmazonがStrands AgentsとCedarを、Microsoft AI Red TeamがPyRITやRAMPART、Clarity、Assertをオープンソース化した。Capital OneはVulnHunter、Cloudflareは脆弱性発見ハーネス、WizはAtlasを公開。Visaも新たに参加し、独自のエージェントハーネスを提供している。

モデル特化型の防御では、CiscoがDefenseClawやAntaresセキュリティ小言語モデル、Project CodeGuardをリリース。CrowdStrikeはNVIDIA Nemotron Nanoをファインチューニングし、Falcon LogScale内の調査クエリ生成で96%の精度を達成した。UberはADR（エージェント型AI検知・応答）をオープンソース化し、1日あたり20万以上のエージェントセッションを3万エンドポイントで処理している。復旧面ではLangChainが再試行や状態復旧の機能を、VeeamがKubernetes向けデータ保護Kanisterを提供している。

今後の課題と展望

SAFEは現時点ではRFCであり、コミュニティからのフィードバックを募集している段階だ。指針が実際に運用され、インシデント情報の共有が機能するかどうかは、参加組織の信頼関係と開示のインセンティブ設計に依存する。

各社のツールも、オープンソースとして公開されたばかりのものが多く、実運用での検証と改善が今後必要となる。特にエージェント型AIはモデルだけでなく、ハーネスやランタイム、スキルを含むシステム全体でのセキュリティが求められており、今回のアライアンスの取り組みはその基盤づくりとして位置づけられる。