AIモデレーションの限界、Redditで過去投稿が誤削除されDiscordで誤BAN発生

誤削除の実態

Redditの歴史系サブレディット「r/AskHistorians」で、AIモデレーションによる誤削除が相次いだ。2026年4月、モデレーター用のSlackチャンネルには、10年前に投稿されたコメントや投稿が自動削除されたというアラートが殺到した。削除された内容はいずれもRare Historical Photosという画像共有サイトへのリンクを含んでおり、モデレーターはRedditがこのサイトをスパムと誤判定した可能性が高いとみている。Redditはコメントの要請に応じていない。

この誤削除は、コミュニティに大きな損害をもたらした。r/AskHistoriansは専門家による詳細な回答が長期間にわたって人々を教育し続ける「アーカイブ」として機能しているからだ。モデレーターの一人であるサラ・ギルバート氏は、復元された投稿のテキストを調べた結果、すべてがRare Historical Photosにリンクしていることに気づいた。投稿者が削除に対抗する手段はなかったという。

Discordの誤BAN

誤検出の問題はRedditだけにとどまらない。Discordは2026年5月から7月にかけて、AIモデレーションが約8400のアカウントを誤って無期限に停止したことを認めた。原因は、チェス盤や表計算シートなど正方形のグリッドを含む画像をCSAM（児童性的虐待資料）と誤認識したこと。本来は人間のモデレーターがAIの判定をレビューする仕組みだったが、バグによりAIが単独で停止措置を実行してしまった。

Discordは影響を受けたアカウントをすべて復元したと述べている。しかし、この一件はAIモデレーションが人間の監視なしに動かされた場合、数週間で数千もの誤りを犯しうることを示している。一方、Metaが運営するFacebookやInstagramでも、AIモデレーションによる大規模なBANを巡る不満が続出している。ユーザーは違反していないのに停止されたと訴え、復旧の手段がないことが問題視されている。

誤検出の影響

AIモデレーションの誤検出は、単なる手間を超えた影響を及ぼす。コーネル大学の研究ディレクターでもあるギルバート氏は、誤検出が社会的に弱い立場の人々に不均衡に影響を与えると指摘する。彼女は「誤検出は公平性の問題だ。すでに周縁化されている集団がさらに沈黙させられ、検閲されることを意味する」と述べた。

さらに、AIモデレーションは自助努力を損なう可能性がある。Redditの多くのサブレディットでは、モデレーターがヘイトや暴力的な表現をしたユーザーを追放したいと考えている。しかしAIがその前に投稿を削除してしまうと、人間のモデレーターは禁止に値するかどうかを判断する機会を失う。AIは皮肉や風刺、スラングといったニュアンスを理解するのが難しい。

人間の監視の重要性

こうした問題に対し、Redditは人間のモデレーターの制御を強化する新ツール「Rules Hub」の試験運用を拡大している。Rules Hubは、ルールごとに自動執行を選択でき、トリガー時の挙動をプレビューし、ログを確認できる。将来はキーワード主体のAutomodを置き換える見込みだ。

一方でRedditは「ヘイトや暴力的コンテンツへの執行を200%以上増加させた」などとAIの効果を強調している。しかしギルバート氏は、システムの「判断」を信じられない以上、その数字も信じるのは難しいと話す。AIモデレーションはコスト削減や高速化に有効だが、人間による監視なしには根本的な誤りを防げない。