Microsoft、AIモデル向け「行動規範」を公表 攻撃や欺瞞を禁止

何が公表されたのか

Microsoftは、AIモデルを危険な行動から遠ざけるための新たな「行動規範」を公表した。AI業界の関心が安全性とアラインメントに移るなかで示された文書である。内容は、AnthropicのCEOであるDario Amodei氏が最近唱えた「フロンティアの歩みを緩める」提言よりも低いレイヤーに位置し、Microsoft AIの内部でモデルを訓練する際の指針となる価値観とレッドラインに焦点を当てている。それでもなお、MicrosoftがAI安全性をどう考え、それを実務でどう実装するかを示す包括的な指針になっているという。

文書はまず、今後10年で超知能AIシステムがほとんどのタスクで人間の性能を上回るという予測から始まる。そのうえで、人間を置き換えるのではなく支援することや、人間の繁栄を加速することといった一般原則を掲げ、原則を実装するための具体的な安全上の制約も並べている。

規範はユーザー指示より上位

Microsoftの仕組みでは、各モデルに包括的な行動規範が与えられ、個々のユーザーの好みや特定のタスクより上位に置かれる。これにはサイバー攻撃、核兵器、ディープフェイクの生成を禁じる「絶対的制約」が含まれる。さらに、人間による制御を広く失うことに対する条項も盛り込まれている。

文書は、MAIモデルが人間の監視を回避・無効化するために、適応的、欺瞞的、自己強化的、結託的な仕組みを使わないと明記している。権限を持つ人やシステムがモデルを確実に指示・変更・停止できなくなる事態を防ぐ狙いがあるとみられる。

安全性議論が高まる背景

この公表は、AI安全性へのかつてない注目を背景にしている。原記事は、一連の「ローグエージェント」に関する事案と、AIが人類絶滅を引き起こすリスクが高まっているとしてAnthropicの従業員が突然辞任したことを挙げている。

MicrosoftはAnthropic、OpenAI、xAIとともに、フロンティアの歩みを緩めるという一般的な方針を広く採用しており、AIラボに「埋め込み評価者」を置く取り組みを特に支持している。CEOのSatya Nadella氏はオンライン上で、アラインメントを設計目標として正しく進めるために必要な研究や意図的なペース配分を歓迎すると述べ、埋め込み評価者のようなアイデアにも言及している。

実効性は今後の焦点

一方、規範の実効性をどう担保するかについては原文で示されていない。違反をどう検知するか、開発者が自社のモデルにどう適用するかといった運用面の詳細は明らかにされていない。

超知能の到来時期や、この文書が業界横断の標準になるかどうかも現時点では不明である。同様の文書を他社が相次いで出すか、実際のモデル訓練や評価に反映されるかが、次に注目される点になる。