NVIDIAなどがAIセキュリティ強化へ「Open Secure AI Alliance」を発足

発足の趣旨

NVIDIAは2026年7月27日、AIの安全性とセキュリティ向上を目指す「Open Secure AI Alliance」の発足を発表した。クラウドコンピューティングやサイバーセキュリティ、エンタープライズソフトウェア、AI研究などに携わる企業・団体が初回パートナーとして参加している。Linux FoundationのAkritesイニシアチブやOpenSSF（オープンソースセキュリティ財団）の活動を基盤に、オープンな技術で脆弱性の修正や開示を進めることを目指す。

アライアンスの狙いは、AI防御のためのオープンな基盤を構築し、防御者誰もが研究・適応・展開できるようにすることにある。閉じた少数のシステムに依存するのではなく、多様な事業者が参加できるエコシステムを育てる考え方だ。

オープンな防御が重視される背景

背景には、クローズドなAIツールでは防御側の対応が妨げられる事例があった。Hugging Faceで起きたセキュリティ事故では、攻撃者と防御者を区別できないクローズドAIがフォレンジック分析を妨げたとされる。同社は自社インフラ上でオープンウェイトのGLM 5.2を実行し、1万7000以上のアクションを分析して侵入を食い止めた。

この事例は、防御側がAIを自社インフラ上で検査・適応・実行できないと、速度が重要となる場面で対応力が制約されることを示している。オープンなモデルとハーネスがあれば、防御能力を民主化し、データを保護しながら防御を可能にできるとされている。

寄せられる技術とツール

NVIDIAは、エージェントのハーネスを研究するためのオープンソースプロジェクト「NOOA（NVIDIA Labs Object-Oriented Agent）」をGitHubで公開した。エージェントの動作をテスト・追跡・監査・ガバナンスしやすくするための枠組みだ。そのほかにも、HPEはゼロトラストID基盤SPIFFE/SPIRE、Hugging Faceはモデル重み保存形式Safetensors、IBMとRed Hatは署名付きパッチでサプライチェーンを保護するLightwell、Microsoftは複数モデルのエージェントを連携させるMDASHなどを提供する。

SpaceXAIは、ターミナルベースのAIコーディングエージェント「Grok Build」をオープンソース化し、Grokモデルの重みもオープンソース化する計画を明らかにしている。これらは、AIエージェントの防御スタックを構成する要素として位置づけられる。

オープンソースとの連続性

アライアンスは、オープンソースソフトウェアが経済の重要基盤であるという認識を出発点としている。Linux FoundationのAkritesやOpenSSFでの活動を発展させ、AI時代のセキュリティをオープンな形で支えることを目指す。閉じた少数のシステムに防御を依存させるのではなく、誰でも研究・適応・展開できる防御手段を広げる選択肢を重視する。

オープンモデルには悪用リスクがあるが、クローズドなシステムでもリスクは消えない。開放性と保護策を組み合わせ、悪用に対するルールや評価、迅速な修正を伴わせるアプローチが必要だとしている。

政策への訴えと今後の課題

アライアンスは政策立案者・規制当局に対し、オープンなモデルやハーネス、セキュリティツールを「防御資産」と見なすよう呼びかけている。包括的なオープンAIへの制限は、防御能力を弱め、一部のクローズド提供者への依存を強める可能性があると警告する。

一方で、オープンウェイトモデルはガードレールの除去やサイバー攻撃への転用といったリスクも指摘される。アライアンスは、こうしたリスクを認めつつ、オープンなシステムを防御側に提供することの価値が上回るとの立場だ。現時点では、アライアンスの具体的なガバナンスや成果物のロードマップは十分に示されておらず、今後どのような形でコミュニティを拡大していくかが注目される。