英国NCA警告：ディープフェイクによる38億円詐欺事件が発生 – AI犯罪の実態と対策

2024年11月25日8:18

Last Updated on 2024-11-25 10:32 by admin

英国国家犯罪対策庁（NCA）の脅威対策責任者であり、国家警察のAI担当責任者であるアレックス・マレー氏が、AIの犯罪利用に関する警告を発表した。

主な事例と数値は以下の通り：

警察当局は、2029年までにAIを使用した犯罪が「著しく増加する」と予測している。現在確認されている主な犯罪カテゴリーは以下の通り：

【編集部解説】

今回の英国警察からの警告は、AIの悪用が想定以上のスピードで進んでいることを示しています。特に注目すべきは、犯罪の「敷居の低下」と「被害の拡大」という2つの側面です。

インターネット監視財団（IWF）の最新の調査によると、2023年10月から2024年7月にかけて、AI生成による違法コンテンツの数が劇的に増加しています。当初は月間2万件程度でしたが、生成AIの進化により、より精巧なコンテンツが大量に作られるようになっています。

特に深刻なのは、一般のSNS写真を悪用したセクストーション（性的脅迫）の増加です。これまでは実在する画像が必要でしたが、AIによって「普通の写真」から不適切なコンテンツを生成できるようになったことで、誰もが被害者となるリスクが高まっています。

企業詐欺の手口も巧妙化しています。香港で発生した2,560万ドル（約38億円）の詐欺事件では、ビデオ会議の参加者全員がディープフェイクであり、被害者は複数の同僚の存在を確認したつもりでした。これは「複数人の目」による確認という従来の防衛手段が通用しなくなっていることを示しています。

米国国土安全保障省の報告書によると、2024年に入ってからAIを利用したサイバー攻撃も急増しています。特に「WormGPT」のような専用の悪意のあるAIツールが闇市場で取引されており、専門知識がなくても高度な攻撃が可能になっています。

しかし、この状況に対して法執行機関も対策を進めています。英国のボルトン刑事裁判所での判決は、AI生成による違法コンテンツも実在のものと同様に厳しく処罰されることを示した重要な先例となりました。

今後5年間でAI技術はさらに進化し、動画生成も一般化すると予測されています。企業や個人は、オンラインでの本人確認手段の見直しや、AIを使った防御システムの導入を検討する必要があるでしょう。

私たちinnovaTopiaは、テクノロジーの発展が人類の進化に貢献すべきという立場から、この問題を注視していきます。AIの適切な規制と利用について、引き続き最新情報をお届けしてまいります。

NCA (National Crime Agency)
英国の国家犯罪対策庁。日本の警察庁に相当する組織で、特に組織犯罪対策を担当します4。年間予算は約8億5,990万ポンド（約1,600億円）です。
IWF (Internet Watch Foundation)
インターネット上の違法コンテンツ、特に児童性的虐待に関するコンテンツの監視・削除を行う英国の非営利組織。
セクストーション（Sextortion）
性的な画像や動画を使った恐喝。最近では、AIで作られた偽の画像を使用するケースが増加しています。