Meta、AIサジェストが個人情報を尋ねた問題を受けプロンプト変更を表明

何が起きたのか

問題が表面化したのは、InstagramユーザーのKalie Robins氏が投稿した動画だった。同氏が、車内で子どもと歌うクリップをFacebookにクロス投稿したところ、その動画の下に「Who is the child passenger?（車に乗っている子どもは誰か）」というMeta AIのサジェストが表示されたという。同氏がこれを選択すると、Meta AIは過去の投稿や親族の投稿から娘に関する情報を組み立てたと、同氏は説明している。

さらに、子どもの年齢や家族と暮らす場所を尋ねる追加のサジェストが提示されたとも同氏は述べている。同氏によれば、Meta AIはプラットフォームに投稿された娘の写真も表示し、その中には数年前に削除したと同氏が主張する写真も含まれていた。これらは同氏の説明に基づく内容であり、Metaは個別のケースについて詳細を明らかにしていない。

Metaの説明

Metaの広報担当ディナ・エル＝カサビー氏はThe Vergeへの声明で、同社が「的を外した」と述べ、「この機能がそのような質問を個人に提示すべきではなかった」と付け加えた。同氏は、個人トピックに関するサジェストを引き起こす問題を修正したとしている。

同氏によれば、この機能はユーザーが関心を持つ話題や投稿について、より多くの情報を得られるようにするために作られたものだという。サジェストを選んだときに生成される回答は、ユーザーがすでにアクセスできる情報に基づいていると説明している。今回のケースでは、Robins氏が子どもの名前を口にした動画から情報を取得した可能性があるとしている。

組み込みの広がりと過去の撤回

MetaはAIアシスタントをFacebook、Instagram、WhatsApp、Messengerに組み込んでおり、質問への回答や投稿の作成、画像の生成などに使えるようにしている。利用者の日常的な操作にAIが入り込む範囲が広いぶん、今回のようなサジェストが目に触れやすい立場にあると言える。

同社は7月、他のInstagramユーザーのAIディープフェイクを作成できる機能を、厳しい反発を受けて撤回した。AI機能をめぐるプライバシーや本人同意の問題は、これが初めてではない。今回の対応も、こうした一連の批判を意識したものとみられる。

現時点で不明な点

Metaは問題を修正したと説明するが、サジェストの生成ロジックやどの情報源を参照するのか、変更の具体的な内容は公表していない。どの範囲の話題が「個人トピック」として除外されるのかも明らかにされていない。

削除済みとされる写真がなぜ表示されたのかについても、Metaは説明していない。Robins氏の主張は本人による説明であり、Metaが認めた事実ではない点には注意が必要だ。日本を含む各地域でサジェスト機能がどのように提供されているかについても、原文には記載がない。