Last Updated on 2024-08-16 05:48 by admin
サイバーセキュリティ業界は、AIによって生成された新しい波のディープフェイクを特定するために競争している。MandiantのCEOであるKevin Mandiaは、AI技術によって大量生産されるよりリアルで説得力のあるディープフェイクのオーディオとビデオが数ヶ月以内に登場する可能性が高いと述べている。現在、多くのオーディオとビデオのディープフェイクは検出ツールや熟練した人間によって比較的簡単に見分けることができるが、次世代のAI生成メディアは特に検出が困難になると警告している。
Mandiaは、ディープフェイクがユーザーを騙すことを防ぎ、実際のコンテンツを覆い隠すことを防ぐ主な方法として、コンテンツ制作者が「ウォーターマーク」を埋め込むことを提案している。例えば、Microsoft TeamsやGoogle Meetのクライアントには、不変のメタデータ、署名されたファイル、デジタル証明書を含むウォーターマークが施されるという。
さらに、サイバー攻撃全体が被害組織にとって財政的および評判的により高コストになっているため、脅威アクター自身にリスクを高める時が来たとMandiaは述べている。彼は、脅威インテリジェンスの共有と、攻撃の背後にいる個人の名前を公表することを強化することを提案している。例として、国際法執行機関がこの週、ロシア国籍のDmitry Yuryevichに対して制裁を科し、彼がサイバー犯罪組織のリーダーとしての役割であるとして情報提供に対する報奨金1000万ドルを提供し、彼の写真を公開したことを挙げている。
【ニュース解説】
サイバーセキュリティ業界は、AIによって生成された新しい波のディープフェイクに対抗するために、技術的な解決策を模索しています。ディープフェイクとは、AI技術を使用して作成された偽のオーディオやビデオのことで、実際には存在しない人物の言動をリアルに再現することができます。MandiantのCEOであるKevin Mandiaは、これらのディープフェイクが今後数ヶ月以内によりリアルで説得力のあるものになり、大量に生産される可能性が高いと指摘しています。
これまでのディープフェイクは、特定の検出ツールや熟練した人間によって比較的簡単に見分けることができましたが、次世代のAI生成メディアは特に検出が困難になると予測されています。この問題に対処するため、Mandiaはコンテンツ制作者がコンテンツに「ウォーターマーク」を埋め込むことを提案しています。これにより、Microsoft TeamsやGoogle Meetなどのクライアントに不変のメタデータ、署名されたファイル、デジタル証明書を含むウォーターマークを施すことで、ディープフェイクを識別しやすくすることが目指されています。
さらに、サイバー攻撃が被害組織にとって財政的および評判的に高コストになっている現状を踏まえ、Mandiaは脅威アクター自身にリスクを高めることの重要性を強調しています。彼は、脅威インテリジェンスの共有と攻撃の背後にいる個人の名前を公表することを強化することを提案しており、国際法執行機関がロシア国籍のDmitry Yuryevichに対して制裁を科し、彼の写真を公開した事例を挙げています。
このような取り組みは、ディープフェイクやサイバー攻撃による被害を減少させるためには不可欠です。しかし、これらの技術的な解決策や法的な対応が、プライバシーや表現の自由などの基本的な権利を侵害しないように、慎重なバランスを取る必要があります。また、ディープフェイク技術の進化に伴い、検出技術も常に更新され続ける必要があり、これはサイバーセキュリティ業界にとって新たな挑戦を意味します。
長期的には、ディープフェイク技術の発展がもたらす影響は多岐にわたります。ポジティブな側面としては、エンターテイメント産業での利用や教育ツールとしての可能性がありますが、一方で、偽情報の拡散や詐欺、プライバシーの侵害などのリスクも高まります。このため、技術的な対策だけでなく、社会全体での意識向上や教育、法的な規制の整備も重要になってきます。
from Cybersecurity in a Race to Unmask a New Wave of AI-Borne Deepfakes.
