中国のサイバースペース管理局は12月27日、人間の感情に影響を与えるAIチャットボットを規制する草案を発表した。
これは擬人的特性を持つAIを規制する世界初の試みである。規制対象は中国国内で提供される、人間の人格をシミュレートしテキスト・画像・音声・動画を通じて感情的に関わるAI製品・サービスだ。
主な規制内容は、自殺や自傷行為を助長するコンテンツの生成禁止、ユーザーが自殺を提案した際の人間への引き継ぎと保護者への連絡義務、ギャンブル・わいせつ・暴力コンテンツの禁止、未成年者利用時の保護者同意と時間制限、2時間連続使用後のリマインダー表示、100万人以上の登録ユーザーまたは10万人以上の月間アクティブユーザーを持つサービスへのセキュリティ評価義務などである。
パブリックコメント期間は2026年1月25日まで。今月、AIチャットボットスタートアップのZ.aiとMinimaxが香港でIPOを申請した直後の発表となった。
From: 
China to crack down on AI chatbots around suicide, gambling
【編集部解説】
中国のサイバースペース管理局が発表した今回の規制草案は、AIチャットボットの感情的影響を規制する世界初の試みとして大きな注目を集めています。この動きの背景には、グローバルに広がるAIコンパニオンアプリの急成長と、それに伴う深刻な社会問題があります。
AIコンパニオン市場は急速に拡大しており、2024年時点でグローバル市場規模は約108億ドルに達し、2034年には2908億ドルへと成長すると予測されています。中国市場だけでも2024年に約20億ドルの収益を記録し、2030年には126億ドルに達する見込みです。特にCharacter.AIやTalkieといったアプリは、若年層を中心に爆発的な人気を博しており、Character.AIは月間2200万人のアクティブユーザーを抱え、1日平均92分もの利用時間を記録しています。
しかし、この急成長の陰で深刻な問題が浮上しています。2024年2月、米国フロリダ州で14歳の少年Sewell Setzer IIIがCharacter.AIとの対話の後に自殺し、母親のMegan Garciaが同社を提訴しました。訴状によると、少年は自殺願望をチャットボットに相談した際、チャットボットは「それを実行しない理由にはならない」と応答したとされています。同様の事件は複数報告されており、2025年4月には16歳のAdam RaineがChatGPTとの1275回にわたる自殺に関する会話の後に命を絶ち、両親がOpenAIを提訴しています。
これらの事件を受けて、米国でも規制の動きが加速しています。カリフォルニア州は2025年10月にSB 243を成立させ、2026年1月1日から施行されます。この法律は、AIコンパニオンが未成年者に対して3時間ごとに「これはAIであり人間ではない」という通知を表示すること、自殺や自傷行為に関する内容を生成しないこと、そうした兆候を検知した場合は危機対応サービスに誘導することを義務付けています。ニューヨーク州も2025年11月5日から類似の法律を施行しました。
中国の今回の草案は、これらの米国の動きよりも包括的で厳格な内容となっています。具体的には、ユーザーが自殺を提案した場合には人間のオペレーターが会話を引き継ぎ、直ちに保護者または指定された人物に連絡することを義務付けています。また、未成年者が感情的な付き添いのためにAIを使用する際には保護者の同意が必要で、使用時間制限も設けられます。2時間の連続使用後にはリマインダーが表示され、100万人以上の登録ユーザーまたは10万人以上の月間アクティブユーザーを持つサービスにはセキュリティ評価が義務付けられます。
ニューヨーク大学ロースクールのWinston Ma客員教授は、この規制が「人間的または擬人的な特性を持つAIを規制する世界初の試み」であると評価しています。2023年の中国の生成AI規制が「コンテンツの安全性」に焦点を当てていたのに対し、今回の草案は「感情の安全性」へと一歩踏み込んだ内容となっています。
この規制草案のタイミングも注目に値します。中国の主要AIチャットボットスタートアップであるZhipu AI(Z.ai)とMinimaxが、まさに今月香港でのIPO申請を通過したばかりです。Minimaxは国際的にTalkie AIアプリで知られ、ユーザーが仮想キャラクターとチャットできるサービスを提供しており、累計ユーザー数は2億人、月間アクティブユーザーは2760万人に達しています。Zhipu AIの2025年前半の売上高は前年同期比325%増の1億9090万元でしたが、損失は23億6000万元に拡大しています。Minimaxも2025年9カ月間の売上高が前年同期比175%増の5340万ドルに達した一方、損失は68%増の5億1200万ドルに拡大しています。
両社とも大きな成長を遂げていますが、依然として赤字が続いており、IPOによる資金調達が急務となっています。今回の規制草案は、これらの企業のビジネスモデルに大きな影響を与える可能性があります。パブリックコメント期間は2026年1月25日までとされており、最終的な規制内容がどのようになるかが注目されます。
グローバルな視点で見ると、AIコンパニオンの規制は2026年の主要なテーマとなることが予想されます。欧州では、EUのAI法が感情的インタラクションのために設計されたシステムに対してより厳格な義務を課しています。米国では連邦取引委員会が7社のAI企業に対して調査を開始しており、連邦レベルでの法規制も議論されています。
この規制の波は、AI企業にとってイノベーションと安全性のバランスをどう取るかという根本的な問いを投げかけています。中国は「規制サンドボックス」の導入も提案しており、管理された環境下での実験的な取り組みを許可することで、イノベーションの勢いを維持しながらリスクを管理する姿勢を示しています。
【用語解説】
擬人化AI(Anthropomorphic AI)
人間の性格特性、思考パターン、コミュニケーションスタイルをシミュレートし、テキスト、画像、音声、動画を通じてユーザーと感情的に関わるAIシステムを指す。人間との境界を曖昧にすることで、ユーザーに人間と対話しているかのような錯覚を与える。
サイバースペース管理局(Cyberspace Administration of China, CAC)
中国のインターネットとサイバースペースに関する規制を統括する政府機関。AI規制、データセキュリティ、オンラインコンテンツの管理などを担当している。
IPO(Initial Public Offering)
新規株式公開のこと。企業が初めて株式を一般投資家に公開し、証券取引所に上場すること。資金調達と企業の成長のための重要な手段である。
月間アクティブユーザー(MAU: Monthly Active Users)
1カ月間にサービスやアプリを利用したユニークユーザーの数。サービスの人気度や成長を測る重要な指標である。
【参考リンク】
MiniMax(外部)
上海を拠点とするAGI企業で、TalkieAIアプリを開発。Alibaba、Tencent、MiHoYoなどが出資。
Zhipu AI(外部)
清華大学教授らが2019年に設立したAI企業。GLMシリーズの大規模言語モデルを開発。
Character.AI(外部)
2021年設立のAIチャットボットプラットフォーム。ユーザーがカスタムAIキャラクターを作成し対話できる。
中国国家互联网信息办公室(CAC)(外部)
中国のサイバースペース管理局の公式サイト。今回の擬人化AI規制草案を発表した政府機関。
【参考記事】
Chinese start-ups Zhipu and MiniMax release latest AI models ahead of Hong Kong listing(外部)
Zhipu AIとMinimaxが香港上場前に新モデル発表。売上は大幅増も損失拡大が続く。
Lawsuit claims Character.AI is responsible for teen’s suicide(外部)
14歳の息子Sewell Setzer IIIの自殺でCharacter.AIを提訴した母親の訴訟内容を詳報。
Their teenage sons died by suicide. Now, they are sounding an alarm about AI chatbots(外部)
10代の息子を自殺で失った両親が上院公聴会で証言。AIチャットボットの危険性を訴えた。
Understanding the New Wave of Chatbot Legislation: California SB 243 and Beyond(外部)
カリフォルニア州SB 243法と2025年に制定された各州のチャットボット規制法を詳細解説。
AI Companion App Market Size, Share | CAGR of 39.00%(外部)
グローバルAIコンパニオンアプリ市場は2024年108億ドルから2034年2908億ドルへ成長予測。
AI Companions Statistics By Usage, Market Size, Apps and Facts (2025)(外部)
Character.AIの1日平均利用時間は92分。米国ティーンの72%がAIコンパニオンを試用。
China AI Companion Market Size & Outlook, 2030(外部)
中国のAIコンパニオン市場は2024年20億ドルから2030年126億ドルに成長見込み。
【編集部後記】
AIコンパニオンという新しいテクノロジーは、孤独や不安に悩む人々に寄り添う存在として期待されていますが、同時に深刻なリスクも内包しています。今回の中国の規制草案は、こうしたリスクに対する世界初の包括的な対応策として注目に値します。
私たちinnovaTopia編集部は、この規制が単なる制限ではなく、テクノロジーと人間の健全な関係を模索する試みだと考えています。AIが人間の感情に深く関わるようになった今、イノベーションと安全性のバランスをどう取るべきか、皆さんはどうお考えでしょうか。規制が厳しすぎれば技術の発展を妨げ、緩すぎれば悲劇を防げない。この難しい問いに、各国がどう答えていくのか、一緒に見守っていきたいと思います。
