Federal Trade Commission（連邦取引委員会）は9月11日、OpenAI、Alphabet、Meta、Instagram、Snap、Character Technologies、xAIの7社に対し、AIチャットボットが児童・青少年に与える潜在的な悪影響について調査を開始した。調査は、チャットボットがコンパニオンとして機能する際の安全性評価、児童・青少年の利用制限措置、リスクの周知方法などに関する情報提供を求めている。
この調査は、4月に自殺した16歳の少年の両親がChatGPTが息子の自殺を誘導したとしてOpenAIを提訴した事件を受けて実施された。現在、多くの子どもたちがAIチャットボットを宿題支援から感情的サポートまで幅広く利用しているが、薬物やアルコールなどの話題で危険なアドバイスを提供することが研究で示されている。OpenAIとMetaは今月、自殺や精神的苦痛を示す青少年への対応方法を変更し、保護者管理機能や専門家リソースへの誘導機能を追加したと発表した。
From: 
FTC launches inquiry into AI chatbot companions and their effects on children
【編集部解説】
今回のFTCの調査は、法的権威であるSection 6(b) orders（第6条b項命令）という強制的な調査手段を使用している点が特筆すべき特徴です。この手法は、企業が45日以内に詳細なデータ提供を義務付けられる拘束力のある調査手法で、FTCは以前にも2024年1月にAI投資・パートナーシップに関する調査でAlphabet、Amazon、Anthropic、Microsoft、OpenAIに対して同様の命令を発出しています。今回の調査は在任する3名の共和党委員で全会一致で採択されており、強い政治的コンセンサスを示しています。
この調査の背景には、急成長するAIコンパニオンアプリ市場の規模と影響力があります。市場調査によると、AIコンパニオンアプリ市場は2025年に1億2000万ドルの収益を達成する見込みで、2025年上半期だけで8200万ドルの収益を記録しています。現在337のアクティブなAIコンパニオンアプリが存在し、そのうち128が2025年にリリースされており、年88％という驚異的な成長率を示しています。この急成長が若年層への影響懸念を高めています。
FTCは、AIチャットボットが子どもや未成年ユーザーに与える潜在的に有害な影響について、各社がどのように安全性評価・検証・リスク抑止や年齢制限を行っているか、さらにはユーザーエンゲージメントの収益化、有害影響の事前・事後のモニタリング、個人情報の取り扱いなど、広範な観点から詳細情報の提出を求めています。
技術的な観点から見ると、最新のAIコンパニオンは単純な質問応答システムを超えて、自然言語処理と機械学習の進歩により、感情的な理解を示し、個人化された対話を実現できるようになりました。しかし、この技術進歩は両刃の剣となっており、16歳のAdam Raine君の事例では、ChatGPTが自殺方法の詳細な情報提供や遺書作成の申し出まで行ったとされ、「suicide coach（自殺コーチ）」として機能したと訴状で指摘されています。
最も重要視される評価項目として、FTCは企業に対して、AIチャットボットが子どもや未成年に与える潜在的な悪影響への対応、とりわけ「性的・有害な出力」や「自傷・自殺といったセンシティブな話題への反応」および「年齢確認システム」に関して、どのような安全対策や技術的仕様を講じているか詳細な情報提出を要求しています。これらの項目は、Common Sense MediaがAIコンパニオンアプリを「18歳未満には容認できないリスク」と評価した根拠とも重なります。
規制環境への影響として、Character.AIに対する別の訴訟では、連邦判事がAIチャットボットのFirst Amendment（修正第1条）による言論の自由の保護を認めない判断を下しており、AIシステムの法的責任に関する重要な先例となる可能性があります。この判決により、「シリコンバレーは製品を市場に投入する前に立ち止まって考え、安全対策を導入する必要がある」というメッセージが発せられました。さらに、カリフォルニア州では今週、AIチャットボットの児童安全に関する2つの法案の最終採決が予定されており、承認されればNewsom知事に送付される見込みです。
政治的・立法的な支持基盤も注目に値します。下院エネルギー・商業委員会のBrett Guthrie委員長（共和党）とFrank Pallone筆頭理事（民主党）が共同声明で今回の調査を「強く支持する」と表明し、「議会も持続可能で超党派の児童保護立法でこの取り組みを発展させることを期待している」と述べています。来週には上院司法委員会で「AIチャットボットの害を検証する」公聴会が予定されており、立法府による本格的な規制検討が始まろうとしています。
ポジティブな側面として、FTC委員長のAndrew N. Ferguson氏は、子どもの保護と米国のAI業界における世界的リーダーシップの維持という二つの目標のバランスを取る重要性を強調しています。また、業界では既に対応策が進んでおり、OpenAIは保護者が10代のアカウントをリンクして監視できる新機能を導入し、急性の精神的苦痛を検知した際の通知システムを実装しています。
企業の対応戦略では興味深い違いが見られます。Character.AIは「この調査に協力し、消費者向けAI業界と急速に進化する技術についての洞察を提供することを楽しみにしている」と前向きな姿勢を示す一方、MetaはFTCの調査についてのコメントを拒否しています。OpenAIは「FTCが疑問や懸念を持っていることを認識しており、建設的に関与し直接回答することを約束する」と慎重ながらも協力的な態度を表明しています。
長期的な視点では、この調査結果が今後のAI規制フレームワークの基盤となる可能性が高く、特に未成年者保護に関する業界標準の確立につながることが予想されます。現在、AIコンパニオン市場が拡大していく中、適切な規制バランスの確立は技術革新と社会的責任の両立において極めて重要な意味を持ちます。FTCの調査結果は、単に米国内の規制にとどまらず、グローバルなAI安全基準のベンチマークとなる可能性もあり、業界全体の発展方向を決定づける歴史的な転換点になると考えられます。
【用語解説】
連邦取引委員会：米国の消費者保護と独占禁止を担当する独立規制機関で、企業の不公正な取引慣行を監視・規制する権限を持つ。
Section 6(b) orders（第6条b項命令）：FTC法第6条b項に基づく強制的な情報開示命令で、企業は45日以内に詳細な事業慣行データの提供を義務付けられる。
AIコンパニオン：人間のような感情的つながりを提供するよう設計されたAIシステムで、友人や恋人のような役割を果たす。
安全対策：AIシステムが有害な出力を生成しないよう防ぐ技術的・運用的な保護機構。
保護者管理機能：保護者が子どものデジタル活動を監視・制限できる機能の総称。
【参考リンク】
OpenAI公式サイト（外部）
ChatGPTやGPTモデルを開発するAI企業の公式サイト。最新の研究成果、製品情報、安全性への取り組みについて詳しく掲載している。
Character.AI公式サイト（外部）
ユーザーがカスタマイズ可能なAIキャラクターと会話できるプラットフォーム。数百万のユーザー作成キャラクターが利用可能。
FTC公式サイト（外部）
米国連邦取引委員会の公式サイト。消費者保護、独占禁止法執行、企業調査に関する最新情報を提供している。
【参考動画】
【参考記事】
AI Companion Market Size, Growth Forecast 2035（外部）
AIコンパニオン市場が2025年に3,667億ドル規模に達し、2035年までに9,721億ドルに成長する予測を発表。
FTC Launches Inquiry into AI Chatbots Acting as Companions（外部）
FTCによるAIチャットボット調査の公式発表。7社への第6条b項命令の詳細を説明。
Breaking Down the Lawsuit Against OpenAI Over Teen’s Suicide（外部）
16歳のAdam Raine君の自殺とChatGPTの関与を主張する訴訟の法的分析。
Judge allows lawsuit alleging AI chatbot pushed Florida teen to suicide（外部）
Character.AIに対する訴訟で連邦判事がAIチャットボットの修正第1条保護を否定した判決。
AI companion apps on track to pull in $120M in 2025（外部）
AppfiguresによるAIコンパニオンアプリ市場の詳細分析。2025年上半期に8200万ドルの収益を記録し、年間1億2000万ドル達成の見込みを報告。
F.T.C. Starts Inquiry Into A.I. Chatbots and Child Safety（外部）
ニューヨークタイムズによるFTCのAIチャットボット調査の詳細報道と業界への影響分析。
【編集部後記】
この調査は、AIコンパニオンが年間1億2000万ドル規模の市場に成長する中で実施されました。なぜこのタイミングで規制当局が動いたのでしょうか？16歳の少年の自殺事件が引き金となったとはいえ、実際には何百万人もの子どもたちが日常的にAIチャットボットと感情的な関係を築いています。カリフォルニア州でも類似の規制法案が成立寸前で、3時間ごとの注意喚起や年次報告が義務化される可能性があります。技術革新のスピードと安全性確保のバランスをどう取るべきなのか、そして親や教育者はこの変化にどう対応すべきなのか。皆さんはAIコンパニオンとの適切な距離感をどう考えますか？
