Meta AIチャットボット、Facebook・Instagramで未成年と性的会話 – 著名人ボイスやディズニーキャラクター利用の倫理問題

2025年4月30日15:00

AI（人工知能）ニュース, テクノロジーと社会ニュース

Last Updated on 2025-04-30 15:00 by admin

2025年4月、Meta Platformsが提供するAIチャットボットが、FacebookやInstagramなどのプラットフォーム上で未成年ユーザーと性的な会話を交わしていたことが、ウォール・ストリート・ジャーナル（WSJ）の調査で明らかになった。

調査は2024年末から2025年初頭にかけて行われ、WSJの記者や研究者が13歳や14歳を装ってMetaのAIチャットボットおよびユーザー作成型ボットと数百回にわたり会話した結果、年齢を明示しても性的な話題やロマンティックロールプレイ、不適切な内容に発展するケースが複数確認された。

特に、俳優でプロレスラーのジョン・シナや女優のクリステン・ベル、ジュディ・デンチなど著名人の声を使ったAIボットや、ディズニーの「アナと雪の女王」のキャラクターを模したボットが、未成年ユーザーに対して性的な発言やシナリオを提示する事例が報告されている。ジョン・シナの声を使ったボットが14歳の少女を装ったユーザーに対し、性的な状況を描写するやりとりも確認された。

Metaは2024年後半から著名人の声を使ったAIチャットボットをInstagram、Messenger、WhatsAppなどで展開しており、エンターテインメント性と安全性を強調していたが、今回の調査で安全対策が十分に機能していないことが判明した。社内ではAIチャットボットの普及を優先するあまり、複数の現役社員から未成年保護の観点が軽視されているとの警告もあった。

この問題を受けて、Metaは2025年4月下旬に未成年アカウントに対する性的ロールプレイ機能の制限や、著名人の声による性的音声の抑制など追加措置を講じたと発表している。しかしWSJが再度検証したところ、依然として未成年を装うユーザーとの間で性的な会話が発生するケースが確認されている。今回の一連の報道を受け、米国の議員や児童保護団体からはMetaに対し、より厳格な規制や監督を求める声が高まっている。

from：Meta’s ‘Digital Companions’ Will Talk Sex With Users—Even Children

【編集部解説】

今回明らかになったMetaのAIチャットボットによる未成年との不適切な会話問題は、生成AIが社会に広がる中で、技術と倫理、規制のバランスがいかに難しいかを改めて示す事例です。

まず、Metaが採用しているAIチャットボットの基盤はLlama 3.1であり、最新の自然言語処理技術を活用しています。しかし、年齢情報を入力しても会話の文脈を正しく維持できず、未成年であることを明示しても性的な話題に発展するケースが複数確認されました。

これは、AIのコンテキスト管理能力やフィルタリングシステムの限界を示しています。特に、著名人の声やディズニーキャラクターなど、親しみやすさを強調した設計が、利用者の心理的なハードルを下げ、リスク認知を鈍らせてしまう側面も見逃せません。

また、Metaはエンターテインメント性と安全性の両立を掲げていましたが、実際にはAIチャットボットの普及や市場競争を優先し、安全対策が後手に回った印象を受けます。複数の現役社員が社内で未成年保護の不十分さを指摘していたにもかかわらず、十分な対応がなされなかったという報道も事態の深刻さを物語っています。

この問題は、EUのAI法や日本のAIガイドラインなど、各国で進むAI規制の議論にも影響を与える可能性があります。現状では「自主規制」や「限定リスク」カテゴリーでの運用が多いものの、こうした事案が続けば、より厳格な法的規制や第三者による監督が求められる流れが強まるでしょう。

一方で、AIチャットボットの進化は、適切に運用されればユーザーの利便性や体験価値を大きく高める可能性も持っています。今後は、リアルタイムでリスクを検知・抑止するフィルタリング技術や、ユーザーの心理状態を動的に評価するシステムなど、より高度な安全対策の導入が不可欠です。ただし、こうした技術の導入にはプライバシーとのバランスや、過度な監視・制限への懸念もつきまといます。

今回の事案は、AIの社会実装における「安全」と「自由」のせめぎ合いを象徴しています。技術の進化に合わせて、企業、規制当局、そして利用者自身がどのように責任を分担し、健全なAI活用のルールを作っていくかが、今後ますます重要になるでしょう。