Last Updated on 2024-05-10 14:09 by TaTsu
マーティン・リー、シスコのタロスセキュリティインテリジェンスグループの技術リードは、ディープフェイクやAIによる偽情報が民主主義に与える脅威は「過大評価されている」と述べた。彼によると、AIは従来の偽ニュースほど人々の政治的見解や投票行動に影響を与えることはない。また、AIによって生成されたコンテンツは客観的に見ると、しばしばそれが機械によって生成されたものであることを示す特徴を含んでいる。
2024年は史上最大のグローバル選挙年となる予定であり、APAC地域では2022年から2023年にかけてディープフェイクが1530%増加したとSumsubの報告書で明らかにされている。しかし、リーは新しいジェネレーティブAIツールが偽コンテンツの生成を容易にするとしつつも、AI生成のビジュアルコンテンツは特に欠陥に弱いと指摘している。例えば、AIによって生成された画像には、人物が3本の手を持っている、または手足が背景に溶け込んでいるなどの視覚的な異常が含まれることがある。
専門家たちは、今後の選挙でAIによる偽情報が主要なリスクになると予測しているが、リーは機械によって生成されたコンテンツは客観的に見た場合、しばしば検出可能であると述べている。また、AppianのCEOマット・カルキンスは、現在のジェネレーティブAIツールは「限定的な有用性」を持ち、「退屈」であると評している。しかし、将来的にはAIがより効果的で危険な偽情報ツールになる可能性があると警告している。
リーは、AIがどれほど進化しても、機械または人間によって作られた偽情報を見分ける確立された方法があると述べている。コンテンツが感情を刺激する場合、情報自体が妥当であるかどうかを一時停止して考え、信頼できるメディアソースによって公開されているか、他の信頼できるメディアソースが同じことを報じているかを確認することが重要である。そうでない場合、それは無視されるか報告されるべき詐欺または偽情報キャンペーンである可能性が高い。
【関連記事】
ディープフェィク関連の記事をinnovaTopiaでもっと読む
【参考リンク】
シスコタロスセキュリティインテリジェンスグループオフィシャルサイト（外部）
【ニュース解説】
2024年は、世界中で最も多くの選挙が行われる年となる予定です。このような状況の中、人工知能（AI）によって生成されたディープフェイクや偽情報が民主主義に与える影響について、多くの専門家が懸念を表明しています。しかし、シスコのタロスセキュリティインテリジェンスグループの技術リードであるマーティン・リー氏は、このような懸念が「過大評価されている」との見解を示しました。リー氏によれば、AIが生成する偽情報は、従来の偽ニュースと比較して、人々の政治的見解や投票行動に大きな影響を与えることはないとのことです。
特に、AIによって生成されたビジュアルコンテンツは、客観的に見た場合に機械によって生成されたものであることを示す特徴をしばしば含んでいます。例えば、不自然な手足の数や背景に溶け込んでしまう手足など、視覚的な異常が見られることがあります。これらの特徴により、AIによるコンテンツであることが検出可能になる場合があります。
しかし、AppianのCEOであるマット・カルキンス氏は、ジェネレーティブAIツールが「限定的な有用性」を持ち、「退屈」であると評価しつつも、将来的にはより効果的で危険な偽情報ツールになる可能性があると警告しています。これは、AIが個人をより深く理解し、より説得力のある偽情報を生成できるようになることを意味します。
リー氏は、AIがどれほど進化しても、偽情報を見分けるための確立された方法が存在すると強調しています。特に、コンテンツが感情を刺激する場合には、その情報自体が妥当であるかどうかを慎重に検討し、信頼できるメディアソースによって公開されているかどうかを確認することが重要です。信頼できるメディアソースが同じ情報を報じていない場合、その情報は詐欺や偽情報キャンペーンである可能性が高いとされています。
このような背景を踏まえると、AIによる偽情報の脅威は存在するものの、その影響は現時点では限定的であると考えられます。しかし、技術の進化に伴い、将来的にはより洗練された偽情報が生成される可能性があるため、引き続き警戒が必要です。また、偽情報を見分けるためのリテラシーを高めることが、個人レベルでできる最も重要な対策の一つと言えるでしょう。
from Generative AI’s disinformation threat is ‘overblown,’ top cyber expert says.
