韓国警察、選挙前にディープフェイク検出ツールを展開

Last Updated on 2024-03-09 10:55 by 荒木 啓介

韓国の国家警察庁（KNPA）は、選挙に先立ち、AIによって生成されたコンテンツを検出するためのツールを開発し、展開しました。このツールは、約520万件のデータを基に訓練され、5,400人の韓国市民から収集されたものです。ビデオが本物かどうかを5から10分以内に判断でき、その精度は約80％です。結果は警察が犯罪捜査で使用できる報告書として自動生成されます。

韓国では、政治的な目的で作成されたディープフェイクが急増しており、特に選挙期間中の問題となっています。2022年の地方選挙では、現大統領の尹錫悦がある地方候補者を支持しているように見せかけたディープフェイクビデオがソーシャルメディアで拡散されました。国家選挙委員会は、1月29日から2月16日の間に選挙法違反として129件のディープフェイクを検出し、4月10日の選挙日が近づくにつれてその数は増加すると予想されています。

このようなディープフェイクの使用は、1月29日に施行された改正法により、最大7年の懲役および最大5,000万ウォン（約37,500ドル）の罰金が科される可能性があります。AIのリスクについて、Check PointのCEOであるGil Shwedは、AIが問題を引き起こす可能性がある一方で、誤情報やディープフェイクの検出など、良い目的にも使用できると述べています。

【ニュース解説】

韓国の国家警察庁（KNPA）が、選挙に先立ち、AIによって生成されたコンテンツ、特にディープフェイクを検出するためのツールを開発し、展開したことが報じられました。このツールは、約520万件のデータを基に訓練され、5,400人の韓国市民から収集されたもので、ビデオが本物かどうかを5から10分以内に判断でき、その精度は約80％とされています。結果は警察が犯罪捜査で使用できる報告書として自動生成されます。

韓国では、政治的な目的で作成されたディープフェイクが急増しており、特に選挙期間中の問題となっています。2022年の地方選挙では、現大統領の尹錫悦がある地方候補者を支持しているように見せかけたディープフェイクビデオがソーシャルメディアで拡散されました。国家選挙委員会は、1月29日から2月16日の間に選挙法違反として129件のディープフェイクを検出し、4月10日の選挙日が近づくにつれてその数は増加すると予想されています。

このようなディープフェイクの使用は、1月29日に施行された改正法により、最大7年の懲役および最大5,000万ウォン（約37,500ドル）の罰金が科される可能性があります。AIのリスクについて、Check PointのCEOであるGil Shwedは、AIが問題を引き起こす可能性がある一方で、誤情報やディープフェイクの検出など、良い目的にも使用できると述べています。

このニュースは、AI技術の進化がもたらす複雑な課題を浮き彫りにしています。ディープフェイク技術は、政治的な操作や詐欺、個人の名誉を傷つけるなど、様々な悪用が可能であり、社会にとって大きな脅威となっています。しかし、同時に、AIを利用したディープフェイク検出ツールの開発は、このような脅威に対抗するための有効な手段となり得ます。このツールの展開は、選挙の公正性を守るための重要なステップであり、他国における選挙への干渉や偽情報の拡散に対する警鐘ともなります。

しかし、ディープフェイク検出技術も完璧ではなく、80％の精度はまだ改善の余地があることを示しています。また、検出技術の進化と並行して、より高度なディープフェイク生成技術が開発される可能性もあり、この「猫とネズミ」のゲームは続くことになります。さらに、ディープフェイク検出ツールの使用には、プライバシーや表現の自由といった他の法的・倫理的問題も伴います。

長期的には、ディープフェイクとその検出技術の進化は、デジタルコンテンツの信頼性を確保するための新たな基準や規制の必要性を示唆しています。また、公衆のデジタルリテラシーの向上も、偽情報やディープフェイクに対抗するための重要な要素となるでしょう。このように、ディープフェイク技術の進化は、技術的な挑戦だけでなく、社会的、法的な対応をも求めています。

from South Korean Police Deploy Deepfake Detection Tool in Run-up to Elections.