Instagram、AI生成プロフィールの非開示アカウントのリーチを制限へ

発表の概要

Instagramは8月31日、AIで生成された人物をプロフィールに使うアカウントのラベル表示方法を変更すると発表しました。あわせて、AI生成の人物が登場することを開示していないアカウントについては、リーチを制限し始めるとしています。この変更は、既存の「AI creator」ラベルを「AI-generated profile（AI生成プロフィール）」に改名し、意味を分かりやすくするのが目的です。新ラベルは、プロフィールに写る人物がAIで生成された、または実質的にAIで作られたことをユーザーに伝えます。

新ポリシーの下では、AI生成プロフィールであることを適切にラベル付けしていないクリエイターは、リーチが減少する可能性があります。逆に、ラベルを正しく使っている場合は、AI生成の人物をプロフィールに使っているという理由だけでペナルティを受けることはありません。つまり、開示をきちんと行えば、AI生成を理由とした不利益は生じない仕組みです。

背景にあるAIインフルエンサー問題

この変更の背景には、実在の人物のように見えたプロフィールが、実は完全にAI生成だったというユーザー体験があります。Instagramは、人間らしく見えるプロフィールを見た後にAI生成だと分かることを好まないという声に応えると説明しています。ユーザーは、プロフィールにAI生成の人物が登場するかどうかを事前に知りたいと考えているようです。

ソーシャルメディア上ではAIインフルエンサーが増えており、AI生成コンテンツへの不満も高まっています。今年初めには、ゲイ向けデートアプリ「Goose」が、AI生成とみられる男性インフルエンサーのネットワークを使ってInstagram上で宣伝していたことが、Wiredの調査で明らかになりました。WiredはAIインフルエンサーが登場する24以上のアカウントを確認し、その一部がダイレクトメッセージで登録を呼びかけていたと報じています。

健康関連のコンテンツも懸念されています。The New York Timesは7月、ソーシャルメディア上でサプリメントを宣伝したり健康に関する主張をしたりするAI生成の医師やヒーラー、ウェルネス著名人を数百人確認したと報じています。こうした事例が、プロフィールの透明性を求める声の背景にあるとみられます。

ラベルの適用範囲

このラベルは、AIを使ったすべての作業に義務付けられるわけではありません。Instagramは、写真の編集やキャプションの推敲、グラフィック作成など、作品を磨くためのAI利用にはラベルは不要だとしています。ラベルが必要なのは、プロフィールの人物自体がAIで生成された場合に限られます。

ただし、どのような場合に「実質的にAIで作られた」とみなされるのか、具体的な基準はまだ示されていません。また、ラベル表示がどのように運用されるのか、自動判定なのか自己申告なのかも明らかになっていません。今後の詳細な案内が待たれます。

Metaを取り巻く規制の流れ

今回の発表に先立ち、Instagramは、他のユーザーの肖像を使って画像を生成できるAIツールをめぐって批判を受けていました。公開されている自分のコンテンツが明示的な同意なしに使われることへの反発があり、Metaはこの機能を削除しています。AIをめぐる透明性の問題は、プロフィール表示の領域にも広がっています。

また、先週にはMetaが米国の各州と180億ドルの和解に合意しました。FacebookとInstagramが子供や10代に与える影響をめぐる主張に対応するもので、10代向けの1日2時間の利用制限や「ナイトモード」による夜間のブロック、学校時間中の通知ミュートなどの措置が導入されます。プラットフォームの安全性に対する規制圧力は、AIコンテンツの扱いにも及んでいます。

残された課題

今回の施策の詳細な運用方法はまだ明らかにされていません。リーチ制限の具体的な条件や、過去に公開されたプロフィールへの適用有無なども含め、今後の発表が待たれます。AI生成の人物をどのように判定するかという技術的な仕組みも、今後の焦点のひとつです。