著名人になりすました投資詐欺広告が、生成AIの普及でSNS上に急拡大しています。自由民主党のディープフェイク対策合同プロジェクトチーム（PT、座長・平将明衆院議員）は2026年5月19日付で「ディープフェイク詐欺広告対策に関する提言」をまとめ、5月28日に黄川田仁志消費者担当大臣、29日に松本尚デジタル大臣と林芳正総務大臣へ申し入れました。
背景として、警察庁の暫定値で2025年のSNS型投資詐欺の認知件数は9,538件、被害額は1,274.7億円に達し、前年比で約5割増加しています。提言は台湾の「詐欺犯罪危害防制条例」を参考に、規制対象広告の明確化と違法化、広告主の本人確認（KYA）義務、削除義務、罰則を含む法整備の検討を求めました。
また法整備を待たない措置として、官民連携による専用通報サイトの構築と運用ガイドラインの策定、政府内に省庁横断の総合調整機能を創設することを要請しました。
From: 
「対応しない事業者を放置しない」ディープフェイク対策PTが提言申し入れ
【編集部解説】
この提言を読んで最初に感じるのは、自民党が「もう自主規制には任せられない」と腹をくくった、その温度感です。提言は2024年5月にも一度出されています。あのときはプラットフォーム事業者への「お願い」が中心でした。今回は同じ轍を踏まないという宣言から始まっています。
なぜ二度目なのか。ここに今回のニュースの核心があると私は見ています。前回の要請で被害は一度減ったものの、効果が薄れ再び増加に転じた。つまり「丁寧に頼めば直る」という前提そのものが崩れたわけです。生成AIの普及で偽動画の制作コストが劇的に下がったことが、その崩壊を後押ししました。
提言が背景に挙げる被害は深刻です。警察庁の暫定値で、2025年のSNS型投資詐欺は認知件数9,538件、被害額1,274.7億円に達し、前年比で約5割増えています。なお、この数字は「SNS型投資詐欺」に絞ったものです。ロマンス詐欺を含む上位区分「SNS型投資・ロマンス詐欺」では、令和7年の暫定値で15,142件・1,827.0億円とさらに大きくなります。他メディアで見かける数字との差は、この区分の違いによるものです。
提言が下敷きにしているのは台湾の「詐欺犯罪危害防制条例」です。この法律、調べてみると非常に思い切った設計でした。広告主の身元確認（KYA）、委託者・出資者やAI生成の明示、24時間以内の削除、そして最大1億台湾ドルの過料。違反プラットフォームには接続遮断まで視野に入っています。
特に効いたのが連帯損害賠償責任という仕組みです。削除義務を怠った事業者が、詐欺の実行者と一緒に被害者へ賠償する。提言によれば、KYA義務の施行後、詐欺広告の通報は週6,000件規模から数十〜数百件まで落ちたとされます。「事業者が本気を出せば減らせる」という見方を、台湾の事例は示しているのです。
では、なぜ事業者は本気を出してこなかったのか。提言が脚注で引くロイターの調査報道が、その答えを生々しく突きつけます。報道によれば、Meta社は2024年の売上の約10%、推計160億ドルを詐欺や禁制品の広告から得ると社内で見込んでいたとされます。
数字の意味を噛み砕くと、こうなります。詐欺広告は事業者にとって「困りごと」であると同時に「収益源」でもある。この二面性がある限り、自主対応に強いブレーキがかかるのは構造的に避けがたい。提言が「自主的な取組のみに委ねることの限界」と書く根拠は、ここにあります。
一方で、私たちが冷静に見ておくべき点もあります。Meta社はこの160億ドルという推計について「過度に広く取った見積もり」と反論しています。規制を語るとき、片側の数字だけを正義として振りかざすのは公平ではありません。実態は調査と検証の途上にある、というのが正確なところでしょう。
この提言が日本社会に及ぼす射程は、思いのほか広いと感じます。表向きはディープフェイク詐欺広告の話ですが、本質は「プラットフォームにどこまで責任を負わせるか」という、表現の自由と消費者保護のせめぎ合いです。提言自身も「表現の自由に十分配慮した制度設計とすべき」と繰り返し釘を刺しています。
技術面で興味深いのは、対策にもAIが組み込まれている点です。提言によれば、台湾の通報サイト「Fraud Buster」はAIの自動巡回で広告を収集し、詐欺判定まで自動化することで、通報から削除通知まで1時間以内を実現したケースがあるといいます。AIが生んだ問題を、AIで迎え撃つ構図です。
長期的な視点では、提言が自らの限界を認めている点を評価したいと思います。広告経由の被害は全体の約4割にすぎず、残りはダイレクトメッセージや投稿など広告以外のチャネル経由。広告を締めれば手口はUGCや偽ECへ移る。だからこそ省庁横断の「司令塔」を常設し、変化を追い続ける体制が要る、と。一度の立法で終わらせない発想です。
私がこのタイミングであえて報じたい理由は、これが「遠い政治の話」ではないからです。なりすまされる著名人、騙される個人、そして広告から収益を得るプラットフォーム。登場人物の誰もが、私たちの日常の延長線上にいます。未来の技術が突きつけた宿題に、社会がどう答えを出すのか。その分岐点に、いま立っているのだと思います。
【用語解説】
ディープフェイク
生成AIを使い、実在する人物の顔や声を本物そっくりに合成した偽の動画・音声のこと。著名人になりすました投資勧誘動画など、詐欺への悪用が問題化している。
SNS型投資詐欺
SNSなどで対面せずにやり取りを重ねて信用させ、投資資金や出金手数料の名目で金銭をだまし取る詐欺。著名人になりすました偽広告が入口になるケースが多い。
SNS型投資・ロマンス詐欺
警察庁の統計上の区分で、SNS型投資詐欺に加え、恋愛感情を装って金銭をだまし取るロマンス詐欺を含めたより大きなくくり。投資詐欺単体より数字が大きくなる。
KYA（Know Your Advertiser）義務
広告を配信する前に、プラットフォーム事業者が広告主の身元を確認する義務。金融機関の本人確認「KYC」になぞらえた考え方で、台湾の条例が先行的に導入した。
連帯損害賠償責任
削除などの義務を果たさなかったプラットフォーム事業者が、詐欺の実行者と連帯して被害者への賠償責任を負う仕組み。事業者が放置しにくくなる効果を狙う。
セーフハーバー
事業者が定められた手続きを誠実に行った場合、法的責任を免れる「安全港」の規定。台湾の条例では、迅速に削除対応した事業者の責任を免除する形で設けられている。
UGC（ユーザー生成コンテンツ）
一般の利用者が投稿する文章・画像・動画などのコンテンツの総称。広告規制が強まると、詐欺の手口が広告からUGCへ移りやすいと指摘されている。
制度の谷間
複数省庁の所管法令がそれぞれ別の前提で作られている結果、新しい手口がどの法律の対象にも十分に入らず、対策が抜け落ちてしまう状態を指す表現。
マイナンバーカード
日本の個人番号（マイナンバー）が記載された公的な本人確認カード。提言では、国内広告主の本人確認にこの公的認証の仕組みを活用する案が示されている。
【参考リンク】
警察庁（外部）
SNS型投資詐欺の認知件数や被害額などの統計を公表する国の機関。提言が引用する被害数値の出典元にあたる。
金融庁（外部）
SNS上の投資詐欺に関する情報受付窓口を設ける金融行政の官庁。提言で既存の通報窓口の一つとして言及されている。
消費者庁（外部）
消費生活センターなどを通じて消費者保護を担う官庁。提言で既存の相談・通報窓口の連携先として挙げられている。
デジタル庁（外部）
日本のデジタル政策を統括する官庁。マイナンバーカードを所管し、今回の申し入れ先（松本尚デジタル大臣）でもある。
総務省（外部）
通信行政を所管する官庁。プラットフォーム規制に関わり、今回の申し入れ先（林芳正総務大臣）でもある。
Meta（外部）
Facebook・Instagram・WhatsAppを運営する米国企業。詐欺広告由来の収益をめぐる調査報道で名指しされた当事者である。
ストップ詐欺広告（デジタル民主主義2030）（外部）
民間有志団体が運営する、なりすまし詐欺広告の通報サイト。提言が官民連携のモデルとして言及した先行事例である。
【参考記事】
Meta is earning a fortune on a deluge of fraudulent ads, documents show（Reuters）（外部）
ロイターの調査報道。Meta社が2024年売上の約10%＝推計160億ドルを詐欺・禁制品広告から得ると社内で見込んでいたと報じている。
Jeff Horwitz and Engen Tham of Reuters（The Pulitzer Prizes）（外部）
同報道のピュリツァー賞受賞ページ。中国向け広告売上180億ドル超の約19%が禁制コンテンツ由来とする内部資料にも触れている。
Reuters Blows Lid on Meta’s Fraud Profit Scandal（Lawfare）（外部）
同報道を分析。Metaが詐欺対策で手放す覚悟をした金額は1億3500万ドルにすぎないと、数値を批評的に読み解く。
詐欺撲滅条例の関連草案公開 24時間以内の広告削除など規定／台湾（外部）
台湾デジタル発展省の関連草案を報じた記事。24時間以内の削除義務や違反時の過料、AI使用の明示などを具体的に紹介している。
【警察庁発表】2025年の特殊詐欺やSNS型投資・ロマンス詐欺の被害状況や傾向（外部）
警察庁の令和7年暫定値を整理。SNS型投資・ロマンス詐欺が15,142件・1,827.0億円に増えたなど統計区分を確認した。
Fraud Crime Hazard Prevention Act（台湾・法務部法令データベース）（外部）
台湾「詐欺犯罪危害防制条例」の英語条文。KYA義務、連帯損害賠償責任、セーフハーバー、最大1億台湾ドルの罰金などを直接確認できる一次資料である。
【関連記事】
Meta、AI×法執行機関で詐欺撲滅へ—Facebook・WhatsApp・Messengerに新ツール導入
本記事で触れたReuters報道の160億ドルや著名人なりすまし広告（セレブ・ベイト）を、プラットフォーム側の対策という視点から掘り下げた記事です。
Meta、中国からの詐欺広告で年間30億ドル超の収益──ザッカーバーグ介入で取締りチーム解散の衝撃
今回の編集部解説で引用した「売上の約10%＝160億ドル」というReuters報道の中身を、Metaの収益構造の側から詳しく検証した記事です。
警察庁サイバー脅威レポート最新版｜昨年を総括、過去最悪の被害額が並んだ1年間
本記事で触れたSNS型投資・ロマンス詐欺1,827億円という被害統計の出典です。日本の被害全体像を数字でつかめます。
【編集部後記】
正直に告白すると、この提言を読み込むまで、私は「詐欺広告に引っかかるのは注意不足の人」とどこかで思っていました。でも、生成AIで作られた偽動画の精度を実際に確かめてみて、その考えはあっさり覆りました。本物と偽物の境界が、技術の進化でこんなにも曖昧になっている。これはもう、個人の注意力だけで防げる戦いではないのかもしれません。
一方で、規制が強まれば「表現の自由」との緊張も生まれます。詐欺を止めたい気持ちと、誰かの発信の自由を守りたい気持ち。このふたつのあいだで、社会はどんなバランスを選んでいくのでしょうか。みなさんは、どう感じましたか。よかったら、あなたの考えも聞かせてください。これからも一緒に、この問題の行方を見守っていけたらうれしいです。
