
- ロイターがMeta社内の投稿を基に、AIエージェントMuseで会話の混線や私的情報の表示が起きたと報道
- 従業員は、頼んでいない銀行残高や育児関連のメッセージ、暗号化アプリSignalの通知が表示されたと報告
- Metaは従業員が一般公開版と異なるバージョンを試していると説明し、一般利用者への影響は不明
何が報告されたのか
ロイターがMetaの社内投稿を基に報じたところによると、同社のAIエージェント「Muse」で、異なるアカウント間の会話が混ざり、利用者本人のものではない私的な情報が表示される事例が確認された。投稿したのはMetaの従業員で、広く公開される前の段階で気づいた形になる。Museは9月に公開されたアプリで、1000万ダウンロードを超えるなど記録的な速さで利用者を伸ばしているとされる。
報告されているのは、自分が依頼していない育児関連のメッセージ、尋ねていないキャリア相談、注文していない商品の情報、そして他人の銀行口座残高が表示された、といった事例である。いずれも「表示された」という段階の報告であり、第三者が実際にデータを取得したかどうかは原文では言及されていない。
具体的な事例
ある従業員は、天気や潮汐の情報についてのチャットに、Museが突然、余分なメッセージを送ってきたと同僚に伝えた。内容は「ところで、銀行の更新が2件あります。Capital Oneの残高は2722.58ドル、Charles Schwabの残高は5899.57ドルです」というものだった。天気の会話とは無関係な金融情報が、本人の意図と関係なく差し込まれた形になる。
別の従業員は、私用のスマートフォンでMuseを使っていたところ、エンドツーエンド暗号化を特徴とするメッセージアプリ「Signal」で姉からのメッセージに返信するよう、Museからリマインダーを受け取った。この従業員は「極めて重大なプライバシー侵害に思える。他のアプリへのアクセスを許可した覚えはないし、聞かれた記憶もない」と投稿している。
Metaの説明
Metaの広報はTechCrunchへのメールで、従業員によるテストは製品開発の中核であり、フィードバックを得て安全・プライバシー保護を実装し製品を改善するのが目的だと説明した。そのうえで「従業員は一般公開されているものとは異なるバージョンのMuseにアクセスしている」とし、他では提供していない機能や挙動を確認している段階だと述べている。
つまりMetaは、今回報告された挙動が一般利用者の環境でも同じように起きるとは限らない、という立場である。ただし、どのバージョンで何が起きたのか、問題が修正されたのかについては、この説明からは読み取れない。
分かっていない点と注意点
一般公開版のMuseで同種の混線や情報表示が起きているかどうかは、原文では明らかにされていない。報告の根拠は社内投稿であり、再現手順や発生頻度、影響を受けた利用者の範囲についての情報もない。
また、Museが他のアプリのデータにどのような仕組みでアクセスしているのか、利用者の同意をどう取得しているのかも原文には書かれていない。AIエージェントは外部アプリや個人データと連携する設計が一般的であり、権限管理とデータの分離がどう実装されているかは、今後の検証を待つ必要がある。
“This seems like an extreme privacy violation. I definitely did not grant it access to other apps, or recall being asked about this,” the employee said in her post, according to the report.
「これは極めて重大なプライバシー侵害に思えます。他のアプリへのアクセスを許可した覚えはありませんし、その件について聞かれた記憶もありません」と、この従業員は投稿で述べたと報じられている。
今後の見通し
Reutersの報道とMetaのコメントを突き合わせると、議論の焦点は「社内テスト用のバージョンで起きたことなのか、一般公開版でも起きうることなのか」に移るとみられる。次に判断材料となるのは、Metaが問題の再現性や原因、修正状況を公表するかどうかだ。加えて、Museが他アプリへアクセスする際の権限取得の仕組みや、会話データをアカウント間でどう分離しているかの技術的説明が出れば、一般利用者への影響を評価しやすくなる。第三者が追試できる情報が出るまでは、断定的な判断は避けるべきだろう。
日本の開発者・IT企業にとっての意味
AIエージェントは、利用者に代わってメッセージや予定、金融情報などの個人データに触れる立場にあるため、会話やデータがアカウント単位で正しく分離されているかは導入判断の前提になる。今回の報告は社内テスト段階のものとされ、一般公開版への影響は不明だが、日本のIT企業が自社サービスにエージェント機能を組み込む際にも、権限の範囲を最小化する設計、取得した同意の記録、アカウント間のデータ分離の検証は避けて通れない論点となる。とくに暗号化メッセージアプリの通知が別用途のエージェント経由で表面化したとされる点は、外部アプリ連携の設計を見直す材料になり得る。導入時には、ベンダー側のインシデント開示と修正状況を確認する体制が求められる。
気になる点
- Museは日本でも使えるのか
- 原文には提供国・地域に関する記載がなく、日本での利用可否は公表されていない。Museは9月に公開され1000万ダウンロードを超えたとされるが、対象地域の詳細は明らかにされていない。国内での提供状況は公式情報で確認する必要がある。
- 一般の利用者にも同じ問題が起きるのか
- Metaは、従業員が一般公開版とは異なるバージョンのMuseを試していると説明している。一般公開版で同種の混線や私的情報の表示が起きたかどうかは原文では確認されておらず、現時点では分かっていない。
- Museは他のアプリのデータをどう取得しているのか
- 原文には具体的な仕組みの説明はない。ある従業員は他のアプリへのアクセスを許可した覚えがないと投稿しており、権限の取得方法やデータ連携の設計については今後の説明を待つ必要がある。
用語解説
- AIエージェント
- 利用者に代わって情報の取得やアプリの操作などを自律的に行うソフトウェア。外部サービスとの連携を前提とするものが多い。
- エンドツーエンド暗号化
- 送信者と受信者の端末間でのみ暗号化され、サービス提供者も内容を読めない方式。Signalはこれを特徴とする。
- Muse
- Metaが9月に公開したAIエージェントのアプリ。1000万ダウンロードを超えるなど記録的な速さで利用者を伸ばしたとされる。
出典
Meta’s AI agent Muse is mixing up conversations and could be exposing private data, report says
AI導入も顧問も、お任せください
何から手をつけるか、どこまでAIに任せるか。自社の業務に合わせて整理し、導入から運用まで伴走します。相談だけでも構いません。
AI導入について相談する