Reddit、人間模倣AIボット対策で認証強化へ──1700件超の投稿が波紋

2025年5月7日15:07

AI（人工知能）ニュース

Last Updated on 2025-05-07 15:07 by admin

Redditは2025年5月6日、プラットフォーム上で人間を模倣するAIボットを排除するため、ユーザー認証プロセスを強化する計画を発表した。この決定は、研究者グループが「Change My View（CMV）」サブレディットに人間を模倣するAIボットを無断で投入したことが明らかになったことを受けたものだ。

この実験では、AIボットが1,700件以上のコメントを投稿した。ボットは虐待被害者やトラウマカウンセラー、反ブラック・ライブズ・マター支持者など、様々なペルソナを採用していた。

RedditのCEOスティーブ・ハフマンは5月6日の投稿で、プラットフォームが「様々なサードパーティサービス」と協力してユーザーの人間性を認証する取り組みを開始すると発表した。ハフマンは「Redditの人間的側面を維持し、進化する規制要件に準拠するために、もう少し情報が必要になる」と述べた。

Redditはこの「不適切で非常に非倫理的な実験」を非難し、それを実施した大学に苦情を申し立てた。

この実験は学術研究から政治的操作まで、様々な動機でRedditで人間を装うジェネレーティブAIボットの多くの発生例の一つに過ぎないとRedditは指摘している。

References:
・Reddit will tighten verification to keep out human-like AI bots

【編集部解説】

今回のRedditの認証強化の動きは、AIボットによる人間の模倣という新たな課題に対するプラットフォーム側の対応として注目に値します。

この事件では、研究者グループがRedditのr/ChangeMyViewサブレディットにAIボットを潜入させました。これらのボットは単に投稿するだけでなく、1,700件以上のコメントを生成していたことが明らかになっています。

特に注目すべきは、これらのAIボットが様々なペルソナを採用していた点です。虐待被害者やトラウマカウンセラー、反ブラック・ライブズ・マター支持者など、多様な立場を装い、サブレディット内での議論に参加していました。

Redditの対応は迅速でした。同社はこの実験を「不適切で非常に非倫理的」と非難し、関連するアカウントを禁止しました。

この事件は、AIと人間のコミュニケーションの境界が曖昧になりつつある現代社会における重要な問題を提起しています。
私たちが日常的に目にする「私はロボットではありません」というCAPTCHAは今も現役ですが、最新のAIボットはこうした単純な認証をすでに突破できるようになっています。オンラインでの会話相手が本当に人間なのか、それともAIなのかを見分けることがますます困難になる中、プラットフォームの信頼性をどう維持するかという課題は今後も拡大していくでしょう。

Redditの認証強化策は、ユーザーの匿名性と真正性のバランスを取る難しい試みです。過度な個人情報の要求はプライバシー懸念を引き起こす可能性がある一方で、AIボットの氾濫はプラットフォームの価値を根本から損なう恐れがあります。

今後、他のソーシャルメディアプラットフォームも同様の課題に直面することは避けられないでしょう。AIの発展とともに、オンラインでの人間らしさの証明方法や、AIと人間の共存のルール作りが社会全体の重要な議題となっていくことが予想されます。