Nvidia主導のOSAA、設立から1週間でAI安全提言とOSSツールを公開

設立1週間の業界団体

Nvidiaが先週立ち上げた「Open Secure AI Alliance（OSAA）」は、すでに120社以上が参加する業界団体に成長しています。この団体はAIセキュリティに関する共通ルールやオープンソース技術の整備を目的としており、最初の成果として「Shared AI Findings Exchange（SAFE）」という作業部会を立ち上げました。SAFEは現在、具体的なガイドラインを提案として公開しており、その管理をLinux Foundationが担っています。提案は米ラスベガスで開催中のサイバーセキュリティ会議「Black Hat」で発表されました。

設立からわずか1週間という速さは、AI分野の変化の速さに対応するためとみられます。OSAAは参加企業の持つ技術や知見を集め、AIが関わるセキュリティリスクへの対処を急いでいます。この動きは、業界が自主的に標準化を進める一例として位置づけられます。

提案の中身と技術の共有

SAFEが公開した提案は、現時点では目新しいものではありません。具体的には、AIサイバーセキュリティインシデントを秘密裏に報告する方法、影響を受けた関係者への通知方法、再発防止のための「無非難（blame-free）分析」の進め方などが含まれます。これらは企業がAIシステムを安全に運用するための初歩的な枠組みといえます。

同時に、OSAAの参加企業は自社のオープンソース技術を提供し始めています。NvidiaはオープンソースのLLM脆弱性スキャナー「Garak」を提供しているほか、OktaはAIエージェント向けのID技術、Red Hatはエージェントガバナンスのための技術をそれぞれ進めています。Amazonはエージェント構築ツール「Strands Agents」と認可言語「Cedar」を提供しており、これらの技術が将来的に統合され、企業がAIエージェントを保護したり、悪意のあるAI攻撃者に対抗したりするためのオープンソース基盤になる可能性があります。

参加企業と欠席の事情

OSAAには現在、Adobe、BlackRock、Cisco、Intel、Microsoft、Visaといった大企業が名を連ねています。一方で、Anthropic、OpenAI、Googleといった主要AI企業は参加していません。特に、OpenAIとGoogleは先週公開されたオープンソースAI支援を求める公開書簡に署名したにもかかわらず、団体には加盟していない点が注目されます。

この公開書簡は、トランプ政権が中国製オープンウェイトモデルを規制する可能性が報じられたことに対し、業界が懸念を示したものです。Nvidiaが中心となって200社以上が署名しました。Anthropicがこれに加わらないのは想定内としても、OpenAIやGoogleは自社でもオープンウェイトモデルを公開しており、今後OSAAに参加する可能性も残されています。ただし現時点ではその理由は明らかにされていません。

米国のオープンAI生態系への影響

OSAAの活動の速さは、AI産業が「AIスピード」で動いていることを示しています。公開書簡の発表からわずか数週間で、業界団体が具体的な提案をまとめ上げたことになります。米国のオープンウェイトAIラボArceeのCTOは、中国のAIラボが米国にもたらす脅威に対抗するには、最終的にオープンソースのオープン性が最善の道だとの考えを示しています。

OSAAは公開書簡の中で、開放性とAI安全性との関係を強調しています。この理念を実証するかのように、提案と技術提供を同時に進めているのが今回の取り組みの特徴です。今後、中国のオープンウェイトモデルをめぐる規制の行方は不透明ですが、強力な企業グループによる迅速な行動は、米国のオープンAIエコシステムにとって前向きな動きとみられます。