Last Updated on 2025-05-28 16:40 by admin
AIモデル共有プラットフォーム「Civitai」（米国アイダホ州ボイシ、CEO：ジャスティン・マイヤー）は、2025年5月24日（現地時間、日本時間5月25日）、現実の人物の肖像を生成するAIモデルの取り扱いを全面的に禁止すると発表した。
これは、米国で2025年5月19日（現地時間、日本時間5月20日）にドナルド・トランプ大統領が署名した「Take It Down法」の成立や、2024年8月1日に発効されたEUのAI規制法（AI Act）など、国際的なAI規制強化への対応が背景にある。また、決済プロバイダーからの圧力により、5月20日（現地時間、日本時間5月21日）にはクレジットカード決済サービスが停止され、プラットフォームの存続が危ぶまれる状況となったことも大きな要因となっている。
Civitaiはこれまで、著名人や一般人を問わず現実の人物の肖像を再現するカスタムAIモデル（LoRAやチェックポイント等）のアップロードや共有を許可していたが、今後はこれらを全て削除し、アップローダーにも短期間のみアクセスを許可するとしている。削除対象には著名人、インフルエンサー、一般人、さらには著名人が演じたキャラクターのファンアートも含まれる。アップロード時には現実の人物を描写したコンテンツの申告が義務付けられ、自動的に拒否される仕組みを導入。著名人の検出には外部企業「Clavata」を利用し、肖像権侵害の申し立てがあれば24時間以内に審査・削除する体制も整えた。
なお、CivitaiはAI画像生成モデルの検出精度向上や、プライバシー保護型顔ハッシュ登録によるアップロードブロックの試験運用も進めている。しかし、一般人の肖像モデルを完全に排除できるかは不透明であり、同様のモデルが他サイトに流出するリスクも残る。また、今回の現実人物モデル禁止措置は「一時的なもの」とされており、今後、同意取得などの新たな仕組みが整えば再開の可能性もCivitai公式声明で示唆されている。
今回の措置は、AI技術の倫理的運用と法規制の両面から、世界的な注目を集めている。
【編集部解説】
Civitaiによる現実の人物を描写するAIモデルの全面禁止は、AI技術の進化と社会的責任のバランスを問う象徴的な出来事です。
まず、今回の措置の直接的なきっかけは、米国で2025年5月19日に成立した「Take It Down法」と、2024年から段階的に施行されているEUのAI規制法（AI Act）です。これらの法規制は、同意のないAI生成コンテンツの拡散防止やプラットフォーム責任の強化を目的としています。加えて、VisaやMastercardなどの決済プロバイダーからの圧力により、Civitaiは5月20日からクレジットカード決済が停止されるなど、経済的な側面でも大きな影響を受けました。これらの要因が重なり、プラットフォーム存続のために厳格な規制遵守が求められたのです。
Civitaiはこれまで、Stable Diffusionをはじめとする画像生成AIモデルのオープンな共有拠点として、クリエイターや研究者の創造性を支えてきました。しかし、著名人や一般人の肖像を再現するカスタムモデルが、同意のないポルノやディープフェイクの温床となっていたことも事実です。今回の禁止措置により、著名人だけでなく一般人やキャラクターのファンアートまでが対象となり、アップロード時の自己申告や外部企業Clavataによる著名人検出、肖像権侵害の申し立て対応など、多層的な対策が導入されました。
一方で、AIモデルはオープンソースで流通しやすく、Civitaiが禁止しても他のプラットフォームや分散型SNS、クラウド経由で再流通するリスクは依然として高いです。Civitai自身も、一般人モデルの完全排除や再アップロード防止の難しさを認めており、顔ハッシュによるプライバシー保護型の検出技術など新たな取り組みを進めていますが、「完璧なシステムは存在しない」としています。また、今回の措置は規制環境の変化に対応したもので、今後の方針については明確にされていません。
AI規制の強化は、イノベーションと倫理・法規制のバランスをどう取るかという新たな課題を浮き彫りにしました。EU AI法はリスクベースでAIを分類し、透明性や安全性、基本的人権保護を求める一方、スタートアップや中小企業への配慮も盛り込まれています。米国の「Take It Down法」も、被害者救済やプラットフォーム責任の明確化を進めつつ、表現の自由や検閲リスクとのせめぎ合いが続いています。
ポジティブな側面としては、AI技術の倫理的活用や被害者保護の意識が高まり、業界全体で透明性や安全性の向上が進む契機となる点が挙げられます。一方で、AIモデルのグローバルな流通や匿名性、技術的な抜け道の多さから、規制だけで完全な抑止は難しく、今後も技術・社会・法制度の三位一体での対応が不可欠です。
Civitaiの事例は、AI時代のプラットフォーム運営者が直面するジレンマと、社会全体での持続可能なAI活用のために何が必要かを考える上で、極めて示唆的なものです。今後も新たな規制や技術的対策の動向に注視し、倫理・法・イノベーションの最適解を探る議論が続くでしょう。
【用語解説】
LoRA（Low-Rank Adaptation）：
AIモデルの一部パラメータのみを効率的に調整し、少ないデータと計算量でカスタマイズできる技術。画像生成AIや言語モデルの微調整で利用される。
ディープフェイク：
AI技術を用いて実在する人物の顔や声を他の映像や音声に合成する技術。偽動画や偽画像の作成に使われ、プライバシーやセキュリティの懸念がある。
Take It Down法（Take It Down Act）：
2025年5月に米国で成立した、AI生成ディープフェイクや同意のない性的画像の拡散を防ぐ連邦法。被害者からの通報を受けたプラットフォームは48時間以内に該当コンテンツを削除する義務がある。違反者には刑事罰が科される。
EU AI法（EU AI Act）：
2024年8月1日施行、2026年8月2日から本格適用される欧州連合のAI規制法。AIシステムをリスクベースで分類し、透明性や安全性、基本的人権の保護を目的にAIの利用を規制する。
顔ハッシュ：
個人の顔画像をプライバシーを守ったかたちでデータ化し、AIモデルのアップロード時に同一人物かどうかを検出・防止する技術。
ディープフェイクポルノ：
AIを使って実在人物の顔や体を合成した性的画像や動画。本人の同意なしに作成・拡散されるケースが多く、法的・倫理的な問題が指摘されている。
【参考リンク】
Civitai（外部）
Stable DiffusionなどのAI画像生成モデルを無料で共有・ダウンロードできるプラットフォーム。クリエイター同士の交流やカスタムモデルの流通が活発。
Stable Diffusion（Stability AI公式）（外部）
Stability AI社が開発したオープンソースの画像生成AIモデル。世界中のクリエイターが利用し、さまざまなアプリケーションに組み込まれている。
Clavata（外部）
AIによる顔認識・著名人検出サービス。Civitaiなどのプラットフォームで著名人モデルの自動検出に活用されている。
【参考記事】
Civitai Removes Real-Person Likeness Content to Comply with New Global Regulations | Hyper.AI
Trump signs the Take It Down Act into law | The Verge
EU AI Act Enforcement Begins: Prohibited AI Practices Now Binding | Nozomi
【編集部後記】
イノベーションと倫理の衝突はこれまでの歴史に数多くありました。規制が技術のブレイクスルーを妨げる原因になりうることは否定できませんが、なにより、今を生きる人たちの社会や権利を守ることが最優先です。
しかし、今回の例でいえば、地球上に住む80億以上の人間誰にも似ていない画像を生成することはほぼ不可能であり、また、意図されたディープフェイクやポルノなのかを判別するというのも現実的ではありません。
法規制は当然必要ではありますが、行き過ぎた規制が招く結果というのは1920年代のアメリカにおける禁酒法をみるに明らかであり、何をしても違法なら、とことんやってしまおうという意識を生みかねません。
求められることは、法による明確な線引きと、ユーザー個々の倫理観です。すべての人々が、どうすれば問題がなく、どこからが違法なのかを正確に理解し、適切な距離感で向き合う必要があります。
【関連記事】
AI(人工知能)ニュースをinnovaTopiaでもっと読む
テクノロジーと社会ニュースをinnovaTopiaでもっと読む
