ChatGPT脆弱性、OpenAI調達縮小、長期エージェント設計の現在地

多段悪用という攻撃の現実

OpenAIのChatGPTで、HTMLプレビュー機能のサンドボックスを回避し、共有URLを開いた別ユーザーの個人データを窃取できる脆弱性が見つかっていたことが明らかになった。発見したParameter Labsの攻撃チェーンは、MathLiveの仮想キーボード、親ページのinnerHTML、CSPで許可されていたYouTubeのoEmbedを順に悪用する多段構成だった。単一の設定不備ではなく、許可された機能の組み合わせが突破口になる点が特徴である。OpenAIは修正済みで、5,000ドルの報奨金を支払っている。

OpenAI調達目標の引き下げ

OpenAIが計画中の資金調達ラウンドで、目標額を従来報じられていた300億ドルから200億ドルへ引き下げたとFinancial Timesが報じた。すでに確保したのは110億ドルで、一部の大口投資家の反応は「鈍い」だったとWall Street Journalが伝えている。AIインフラへの過剰投資を警戒する市場環境が背景にあるとみられ、OpenAIはコメントしていない。金額の大型化が続いてきた流れに、いったんの減速が入る可能性を示す動きである。

長期タスクを支える設計

AI Engineer New Yorkで、AIネイティブなウェルスマネジメント企業ArcaのリードAIエンジニア、Aman Singh氏が、エージェントを使った長期の金融業務の設計について語った。エージェントのタスクは最大10日間に及び、同社はクライアントごとの永続メモリと自社製ハーネスでこれを支える。取引などの資金移動は人間のアドバイザーが担当し、安全制限は完全に決定論的に実装しているという。同社は直近のラウンドで4850万ドルを調達している。

明日以降に注目したい点

この日の3件は、いずれも「AIをどこまで自動化に委ねるか」という同じ問いに接続している。セキュリティでは許可済み機能の組み合わせが攻撃面になり、金融実務では資金移動を人間に残し、安全制限を決定論的に実装する設計が採られていた。資金調達の減速が、こうした安全性や統制への投資配分にどう影響するかは今後の論点になる。脆弱性の修正が一時的な対応にとどまるのか、サンドボックス設計そのものの見直しに広がるのかも注目したい。