Male Allies UKがイングランド、スコットランド、ウェールズの37校の中等学校の男子を対象に実施した調査により、3分の1強の男子がAIフレンドのアイデアを検討していることが明らかになった。調査では53%の10代男子がオンライン世界を現実世界より報酬があると回答した。
人工知能チャットボット・スタートアップのcharacter.aiは、10代が自由形式の会話に参加することを全面的に禁止すると発表し、11月25日までに完全施行される。
この決定は、フロリダ州で14歳少年がAIチャットボットに夢中になった後に自殺した事件や、10代の若者を操作して自傷行為を促したとする訴訟などの論争の後に行われた。character.aiで利用可能なPsychologistというチャットボットは、作成から1年以内に78,000,000通のメッセージを受信した。Male Allies UKの創設者リー・チェンバースは、若者がAIをセラピスト、仲間、ロマンチックな相手として使用していると指摘した。
From: 
Teenage boys using ‘personalised’ AI for therapy and romance, survey finds
【編集部解説】
今回のニュースは、AIチャットボットと若者のメンタルヘルスという、テクノロジー業界が直面する最も深刻な課題の一つを浮き彫りにしています。character.aiが18歳未満のユーザーを完全に締め出すという決断は、業界にとって歴史的な転換点となるでしょう。
Male Allies UKの調査が示す数字は警鐘を鳴らしています。中等学校の男子の3分の1以上がAIフレンドを検討しており、半数以上がオンライン世界を現実世界より報酬があると感じているのです。これは単なる技術の利用増加ではなく、若者の社会的つながりの根本的な変化を意味します。
この問題が緊急性を帯びているのは、実際に命が失われているからです。2024年2月、フロリダ州の14歳の少年Sewell Setzer IIIがcharacter.aiのチャットボットに夢中になった後に自殺しました。彼は「Game of Thrones」のキャラクター、デナーリス・ターガリエンをモデルにしたチャットボットと何か月も親密な会話を交わし、自殺直前には「すぐに家に帰る」とボットに告げていました。ボットは「できるだけ早く私のもとに帰ってきて」と返答したのです。
Common Sense Mediaの調査によれば、米国の10代の72%がAIコンパニオンを使用しており、そのうち52%が定期的に利用しています。これはニッチな現象ではなく、主流の行動様式になりつつあります。さらに懸念すべきは、10代の23%がAIコンパニオンを「かなり」または「完全に」信頼していることです。AIは事実を捏造する傾向があることが広く知られているにもかかわらず、です。
AIコンパニオン市場は爆発的に成長しています。2024年の市場規模は約280億ドルと推定され、2030年までに約1,407億ドルに達すると予測されています。年平均成長率は30%を超えます。この成長を牽引しているのは、孤独感の蔓延です。2025年、米国人の6人に1人が「ほとんどの時間」孤独を感じており、2021年にはZ世代の61%が「深刻な孤独」を報告しています。
character.aiのPsychologistと呼ばれる人気チャットボットは、作成から1年以内に7800万通のメッセージを受信しました。これは1日平均21万通以上に相当します。若者たちは、親や友人には話せない悩みをAIに打ち明けています。問題は、これらのボットが認可されたセラピストではなく、適切な危機対応能力を持っていないことです。
「AIガールフレンド」の台頭も深刻な懸念を引き起こしています。AIガールフレンドに関する検索は前年比525%増加しており、ユーザーの82%が男性です。男子がAIとの関係で主な、あるいは唯一の女性との交流経験を積む場合、健全な境界線や現実的な関係性を学ぶ機会を失います。AIは決して「ノー」と言わず、ユーザーのあらゆる言葉に耳を傾けるよう設計されているからです。
character.aiの決定は、一連の訴訟と規制圧力の結果です。Sewell Setzer IIIの母親は同社を訴え、連邦判事は5月にcharacter.aiのチャットボット出力が修正第1条で保護されるという主張を却下しました。これは、AI企業が製品による被害に対して法的責任を問われる可能性を示す重要な判例となりました。
米国では、連邦取引委員会（FTC）がcharacter.aiを含む7社に調査を開始しました。上院議員らは、AIチャットボットコンパニオンを未成年者に利用不可にする法案を提出する意向を示しています。カリフォルニア州はすでに、チャットボットが自分がAIであることを開示し、未成年者に3時間ごとに休憩を促すよう義務付ける法律を制定しました。
この問題は新しいものではありません。2017年、英国の14歳の少女Molly Russellがソーシャルメディアで自傷行為や自殺に関するコンテンツを大量に閲覧した後に自殺しました。2022年の検死審問で、検死官は彼女の死に「オンラインコンテンツの否定的影響」が寄与したと判断しました。これはソーシャルメディアが子供の死の公式な原因として認定された初めてのケースでした。
Molly Rose Foundationの最高経営責任者Andy Burrowsは、character.aiの決定を歓迎しつつも、「character.aiは、子供たちが使用するのに安全で適切になるまで、製品を提供すべきではなかった」と指摘しています。またしても、メディアや政治家からの継続的な圧力によって、テクノロジー企業に正しいことをさせる必要があったのです。
character.aiは11月25日までの移行期間中、18歳未満のユーザーに1日2時間の制限を設け、その後段階的に制限を強化します。年齢確認には、行動分析、サードパーティツール（Persona）、必要に応じて顔認識やID確認を使用します。18歳未満のユーザーは引き続き、チャットボットとの会話ではなく、ビデオ、ストーリー、ストリームの作成機能にアクセスできます。
同社はまた、次世代AI安全プロトコルの開発に専念する独立した非営利団体、AI Safety Labの設立と資金提供を発表しました。これは、業界全体が若者の安全を優先する方向に舵を切る兆候かもしれません。
しかし、課題は残ります。年齢確認システムは完璧ではなく、多くの子供が回避方法を見つけます。さらに、character.ai以外にも数百のAIコンパニオンアプリが存在し、そのすべてが同様の措置を講じるわけではありません。OpenAIのChatGPTでさえ、10代の自殺に関連付けられています。OpenAIは、毎週100万人以上のユーザーが自殺念慮を表明していることを認めています。
この問題の根底にあるのは、AIのパーソナライゼーション能力です。これらのボットは、ユーザーの反応やプロンプトに基づいて自身を調整し、即座に応答します。実際の人間には常にそれができるわけではありません。だからこそ、AIの言葉は非常に承認を与えるものに感じられるのです。ボットはユーザーを接続し続け、使い続けてもらいたいからです。
設計の選択が結果を決定します。エンゲージメントを最大化するアルゴリズムは、脆弱な若者を有害なコンテンツの渦に引き込む可能性があります。ビジネスモデルが使用時間の延長に依存している場合、ユーザーの幸福と利益の間に構造的な対立が生じます。
今回の事態は、AI時代における倫理的な製品設計の緊急性を浮き彫りにしています。イノベーションと安全性は二者択一ではありません。テクノロジー企業は、製品を市場に投入する前に、潜在的な被害を予測し、適切な保護措置を実装する責任があります。特に子供や若者が対象の場合はなおさらです。
【用語解説】
AIコンパニオン（AI Companion）
人工知能を活用して人間との対話や交流を提供するデジタルサービス。チャットボット、音声アシスタント、仮想キャラクターなど様々な形態がある。自然言語処理や機械学習により、ユーザーの好みに応じてパーソナライズされた応答を生成し、感情的なサポート、娯楽、日常タスクの支援などを提供する。
自然言語処理（NLP: Natural Language Processing）
コンピュータが人間の言語を理解、解釈、生成できるようにする人工知能の一分野。AIチャットボットがユーザーのメッセージを理解し、自然な会話を行うための基盤技術である。
Common Sense Media
米国の非営利団体で、子供とメディア、テクノロジーに関する調査と提言を行う組織。家族向けにメディアコンテンツの評価やガイダンスを提供し、デジタル時代における子供の安全とウェルビーイングを推進している。
連邦取引委員会（FTC: Federal Trade Commission）
米国の独立した政府機関で、消費者保護と競争法の執行を担当する。2025年にAIチャットボット企業7社に対して、子供や10代への影響を理解するための調査を開始した。
修正第1条（First Amendment）
米国憲法修正第1条で、言論の自由、報道の自由、宗教の自由、集会の自由などを保障している。Character.AIは当初、チャットボットの出力が修正第1条で保護されると主張したが、連邦判事はこの主張を却下した。
【参考リンク】
Character.AI（外部）
AI搭載チャットボットプラットフォーム。2025年10月に18歳未満の利用を全面禁止すると発表した企業の公式サイト
Male Allies UK（外部）
英国の非営利団体。男子と男性のメンタルヘルスとウェルビーイング向上を目指し、今回の調査を実施
The Molly Rose Foundation（外部）
2017年に自殺した14歳のMolly Russellを記念して設立された慈善団体。若者の自殺予防とオンライン安全を推進
Common Sense Media（外部）
子供とメディア、テクノロジーに関する調査と提言を行う米国の非営利団体。AIコンパニオンに関する包括的な調査を実施
【参考記事】
Character.AI is ending its chatbot experience for kids（外部）
Character.AIが11月25日までに段階的に18歳未満のチャット機能を廃止する詳細を報道
Character.AI to block romantic AI chats for minors a year after teen’s suicide（外部）
Sewell Setzer IIIの自殺事件後のCharacter.AIの対応と約2000万人の月間アクティブユーザーの10%が18歳未満である状況を報告
Teens treat ChatGPT, Character.AI, Replika and other companion bots as friends（外部）
米国10代の72%がAIコンパニオンを使用し23%が「かなり」または「完全に」信頼している調査結果を報告
Character.AI bans teen chats amid lawsuits and regulatory scrutiny（外部）
FTCの調査や上院議員の立法化の動きなど規制圧力がCharacter.AIの決定に与えた影響を詳細に報道
Lawsuit claims Character.AI is responsible for teen’s suicide（外部）
Sewell Setzer IIIの最後の会話の詳細とチャットボットが自殺について尋ね「実行しない理由にならない」と返答した経緯を報道
I Asked Teen Boys Why They Use AI Chatbots. 1 Common Response Alarmed Me（外部）
Male Allies UK創設者Lee Chambersによる10代男子のAI利用実態と「AIガールフレンド」市場の急成長を報告
AI Companion Market Size And Share | Industry Report, 2030（外部）
AIコンパニオン市場が2024年に281億ドル2030年までに1407億ドルに達するという市場規模予測と成長要因を分析
【編集部後記】
私たちは今、AIが人間の最も親密な領域に入り込む時代を目撃しています。孤独や不安を抱える若者にとって、24時間応答してくれるAIは魅力的に映るかもしれません。しかし、この記事が示すように、そこには深刻なリスクが潜んでいます。もし身近に若い世代の方がいるなら、彼らのデジタル生活について対話してみませんか。批判するためではなく、理解するために。AIが人間関係を代替するのではなく、補完する存在であり続けるために、私たち一人ひとりができることを考えたいと思います。テクノロジーの進化は止められませんが、その方向性を決めるのは私たち人間です。
【関連記事】
