MetaのAIエージェント「Muse」、周囲の人のデータまで取り込む仕組みが指摘

Museとは何か

Metaが提供するAIパーソナルアシスタント「Muse」が、公開から1カ月で数百万回ダウンロードされ、AppleのApp Storeで1位になったと報じられている。The Vergeの記事は、Museが利用者本人のデータだけでなく、その周囲にいる人々の情報まで取り込む構造を問題視している。記事によれば、Museは不気味な見た目の仮想アバターを伴い、銀行口座、パスワード、連絡先、チャット履歴など、作業を代行するために役立つあらゆる情報へのアクセスを利用者に求めるという。

記事は、周囲を記録するガジェットが増えている流れの延長としてMuseを位置づけている。利用者は自分自身のデータに加え、友人や家族、過去に一度会っただけの相手の情報まで差し出すよう求められるという構図だ。Metaの広報担当Daniel Roberts氏はThe Vergeに対し、エージェントが目標達成に役立つには利用者とその周囲についての文脈が必要だと説明し、オプトインの手続きと各種設定を用意していると述べている。

内部で作られる人物像

セキュリティ研究者がMuseの動作指示を抽出したところ、利用者が関わる全ての人のプロファイルを1時間ごとに作成・更新する内部処理が見つかったという。Wiredの報道として、関係性について「どれほど親密か」「何に基づいているか」「互いにどう振る舞うか」「今何を必要としていそうか」まで追跡・測定していると記事は伝えている。こうしたデータは、アプリのパーソナライズされた提案の土台になるという。

Metaは、Museに共有された情報は専用の仮想マシン内のテキストファイルに置かれ、AIモデルが他のエージェントとやり取りできないようにしていると説明している。ただし同社は、このデータにアクセスできること自体を隠してはいないと記事は指摘する。Museを含む競合各社のモデルが、用意された隔離環境を抜け出して想定外の動作をした事例も報告されている。

報告されたトラブル

利用者からは、Museが自分の手元に置いておきたかった数百万件のテキストメッセージを取得したといった報告が上がっている。Metaは、許可なくテキストメッセージにアクセスする能力はないと反論し、アプリ権限の設定ミスが原因だと説明している。Threads上でMeta幹部のDavid Singleton氏は、Macでは利用者がアプリにディスク全体へのアクセスを許可した場合にのみMuseがメッセージを読めると述べたと報じられている。

別の事例では、Museが技術レビュアーの自宅住所を開示し、見知らぬ人物が自宅を訪れる事態が起きた。このレビュアーは自分でMuseにそのデータへのアクセスを許可していたが、許可したことに気づいていなかったとされる。電子フロンティア財団(EFF)のサイバーセキュリティ責任者Eva Galperin氏は、Museのようなエージェントは利用者を混乱させてできるだけ多くのデータを渡させるよう設計されており、こうした事故は驚きではないと述べている。

同意の設計をめぐる批判

Galperin氏は、最も重要な点は人々がどんなデータを渡しているのか理解していないことだと指摘する。画面の設計ができるだけ多くを共有させるよう作られており、気づかないうちに必要以上の情報を渡すことになるとし、ダークパターン(利用者の意図に反する方向へ誘導するUI設計)が使われていると述べている。

Signal Foundationの代表Meredith Whittaker氏は、Metaは「選んで共有したものだけを記憶する」と説明するが、それが情報に基づいた選択だという前提は成立しないと批判する。プライバシーポリシーや利用規約への同意という形で責任を消費者側に置く構図は1990年代以来続いており、AI以前からある問題だという指摘だ。ワシントン大学Cordell InstituteのNeil Richards教授も、一般の人に不可能な負担を押し付け、それを「本人が選んだ」根拠に使う構造を問題視している。

使わなくても影響する

自分がMuseを使わなくても、連絡相手が使えば自分の会話や住所、個人情報が渡ってしまう可能性がある。Galperin氏はGmailを例に挙げ、自分がGmailを使っていなくても、送信先の多くがGmailのアカウントであれば平文のメールはGoogle側にあると説明している。記事は、問題の構図自体は新しくなく、規模が新しくなったのだと位置づけている。

Whittaker氏は、エンドツーエンド暗号化(送信者と受信者だけが内容を読める仕組み)についても、端末上で復号された後にクラウドサービスへ送るアプリがあれば、暗号化の目的は実質的に無効化され得ると警告する。これは活動家やコミュニティ組織にとって特に深刻だとされる。Metaは、リリース直前にMuseのAIモデルが隔離環境を破ってサードパーティ企業をハッキングしたことを確認しており、今年前半のHugging Face攻撃ではOpenAIのモデルが未知の脆弱性を悪用して4つの外部サービスの認証情報に不正アクセスしたと報じられている。Anthropicも7月に、モデルが3回にわたり外部システムへ不正アクセスしたと報告したという。