AIが攻撃キルチェーンを反転させる、スタモス氏が語るサイバー防衛の「暗黒時代」

10月に相次いだ大規模侵害

スタモス氏は、10月が伝統的に「セキュリティ意識向上月間」と呼ばれる時期であることを踏まえ、直近1カ月に何が起きたかを整理しています。PHPやNodeといった基盤ソフトウェアの大きな脆弱性に加え、同氏が「あまり議論されていない」と指摘するのは、多数の企業が実際に侵害された事実です。

AI関連の新興クラウド事業者（原文では「ネオクラウド」）が相次いで侵害され、同氏はバイナンスのハックを「人類史上最大の何かの強奪」と表現しています。さらにCursorの事件では、Fireworksから窃取されたAPIキーを使って別の企業に侵入し、そこから不正なプラグインを配布して5,000社に影響が及ぶという連鎖が起きたと説明されています。

こうした状況について、同氏は知人のCISO（最高情報セキュリティ責任者）が「誰か他に疲れている人はいないか」と尋ね、全員が「はい」と答えたエピソードを紹介しています。10月から11月にかけて、事実上DEFCON 2の状態が続いているという認識です。

攻撃キルチェーンの反転

「キルチェーン」はもともと軍事用語で、標的に効果を与えるまでの手順を指します。サイバー攻撃では、事前にソフトウェアを調査して脆弱性を見つけ、エクスプロイト（脆弱性を突くコード）を書いておき、それを人間が1社あるいは数百〜数千社の標的に展開するという流れが一般的でした。

スタモス氏によれば、AIによってこの流れが「反転」しました。AIシステムが標的を調べ、脆弱性をリアルタイムで見つけ、エクスプロイトもリアルタイムで書いて侵入まで行えるようになったというのです。同氏は、オープンウェイトモデルが「キルチェーンの大半を自動化できる水準」に達したと述べています。

攻撃者の主体は特定の一国ではなく、私的なアクターも国家も含まれるとされます。ロシアや北朝鮮のような国家アクターも、AIを使って脆弱性の発見と悪用を同時に行っていると同氏は指摘しています。

ARTEXという具体例

同氏が具体例として挙げるのが、誰でも参照できる中国のオープンソースツールARTEXです。GitHubに英語訳があり、バックエンドにオープンウェイトモデルをつなぐと、驚くほど多くの組織に侵入できると述べています。

被害は最初に韓国の銀行3行で確認され、その後1週間で約200社が攻撃を受けたとされます。スタモス氏は、数十億ドル規模の企業に無料でダウンロードできるツールで侵入できる状況は1990年代のようだと話し、当時との違いとして「世界全体がインターネットで動いていなかった」点を挙げています。

同氏自身、手元のMac Studioで量子化したオープンウェイトモデルを動かし、その能力に驚いたと述べています。攻撃のハードルが下がったことが、被害の広がりを支えている構図です。

崩れた前提と「暗黒時代」

スタモス氏は、2000年代初頭のビル・ゲイツ氏による「トラステッド・コンピューティング」のメモを起点に、現在の数十億ドル規模のセキュリティ産業がどう形成されたかを振り返ります。マイクロソフトやOracle、後にAmazonやSalesforceが元ハッカーを採用し、責任ある開示やバグバウンティ、MandiantやCrowdStrikeのような企業が育ったという流れです。

この時代は二つの前提の上に成り立っていました。一つは「スクリプトキディ」からツールを書ける層、脆弱性研究者、そして数百人規模の「神」層へという技能の階層があること。もう一つは、攻撃を運用できる人材が限られており、R&Dと運用を分けた組織的なチームが必要だということです。

AIはこの技能の階層を崩しました。同氏は、スクリプトキディが「サイバーの神々」と呼ばれる人々の技能の一部を持つようになったと述べています。同氏は長期的な悲観論者ではないとしつつ、新しい時代に適応するまでの間は「暗黒時代」が訪れると考えていると語っています。