OpenAIの安全対策強化、数学問題解決、Grok脆弱性—AIを巡る1日

セキュリティ対策の模索

OpenAIは、Hugging Faceで発生した侵害事件を受け、モデル開発中のセキュリティ対策を強化すると発表した。新たな監視システムやネットワーク分離を導入し、事件後2週間は強化学習を凍結していたという。一方、xAIのGrokでは、暗号化した悪意ある指示をWebページに埋め込む攻撃手法が公開された。xAIには6月に通知済みだったが、対策は未実施で、LLMの根本的な脆弱性が改めて浮き彫りになった。こうした事例は、AI開発における安全確保の難しさを示している。

数学界に実存的危機

OpenAIの新モデル「Astra」が数学の未解決問題10件を一度に解決したと発表した。高度な抽象数学では人間のトップ研究者に匹敵する一方、基本的な算数や時間の認識は苦手なままだ。数学者たちは、AIの成果の帰属や将来の役割について議論しており、学問のあり方そのものを揺るがす事態となっている。AIの能力が特定領域で特化して高まることの可能性と課題を示した。

AI企業を巡る買収の動き

SpaceXによるAIコーディング企業Cognitionの買収報道について、CognitionのCEOは「売り物ではない」と否定した。SpaceXは先週、別のAIコーディング企業Cursorを600億ドルで買収したばかりで、AI分野での存在感を強めている。買収が実現すればAIコーディング市場に大きな影響があった可能性もあるが、否定によって今後の動向は不透明だ。AI関連企業への投資やM&Aが活発になる中、市場の思惑も交錯している。

明日以降に注目したい点

OpenAIの強化学習凍結の解除時期や、Grokの脆弱性対策が今後どう進むか注目される。また、Astraの数学成果が学術界に与える影響や、SpaceXのAI戦略の行方も見守りたい。AIの安全性と進化が並行して議論される一日だった。