Google、AIによる自動送信の急増を受けオープンソース脆弱性報奨金プログラムを一時停止

何が発表されたか

Googleは、オープンソースソフトウェアの脆弱性を対象とする報奨金プログラム「Open Source Software Vulnerability Rewards Program」を一時停止した。同社はプログラムのウェブサイトとXへの投稿で、10月1日付で停止したと説明している。再開時期は明言されておらず、2027年第1四半期に「アップデート」を提供するとしている。

理由として挙げられたのは、AIによる自動送信の「著しい増加」である。同社は、送信された報告の大半が有効ではないと説明している。TechCrunchは昨年、サイバーセキュリティの専門家が、生成AIによる低品質な報告がバグ報奨金プログラムに深刻なリスクをもたらすと警告していたと報じていた。今回の問題は、その警告が現実になった形といえる。

現場で起きていたこと

Tom's Hardwareによると、Googleのエンジニアとオープンソースのメンテナーは、無効な報告やハルシネーションを含む報告に圧倒されていた。ハルシネーションとは、生成AIが事実に基づかない内容をもっともらしく出力することである。バグ報奨金プログラムは、外部の研究者が脆弱性を見つけて報告し、報酬を受け取る仕組みだ。報告の質が保たれなければ、選別の手間だけが増え、本来対応すべき脆弱性への初動が遅れかねない。

生成AIを使えば、それらしい形式の脆弱性報告を大量に作れる。もっともらしく見えても実際には再現しない、あるいは存在しない脆弱性を指摘する内容が混ざることになる。原文は具体的な件数には触れておらず、どの程度の割合が無効だったのかは明らかにされていない。

他のプログラムは継続

Googleは参加者に対し、同社の他のバグ報奨金プログラムの検討を促している。つまり、報酬を得る機会が完全に失われたわけではない。ただし今回停止したのはオープンソースソフトウェアの脆弱性を対象とするプログラムであり、他のプログラムとは対象範囲が異なる点には注意が必要である。

原文には、他のプログラムの対象範囲や報奨金額、再開後の運用方針は書かれていない。AIによる自動送信への対策として送信者やアカウントの審査を強めるのか、AIの利用を前提とした受け入れ体制を整えるのかは、現時点では不明である。

分かっていないこと

再開の具体的な時期は示されていない。2027年第1四半期に「アップデート」があるとされているだけである。このため、いつから報告を受け付けるのか、停止前に送信された報告がどう扱われるのかは明らかでない。

また、原文は無効な報告の件数や、AIが生成した報告の割合を示していない。影響を受けたとされるエンジニアやメンテナーの規模も不明である。AIによる自動送信をどう検知し、どう除外するのかという運用面の詳細も、現時点では公表されていない。