Last Updated on 2024-06-14 04:50 by 門倉 朋宏
イギリスの詐欺防御会社Netcraftの研究者が、Open AIのChatGPTを基にしたチャットボットを使用して詐欺師とのやり取りに応じ、世界中の600以上の金融機関にまたがる銀行口座番号などの機密情報を収集した。この実験は、詐欺師が盗んだ資金をどのように移動させているかに関する情報を得ることを目的としていた。この技術は、詐欺師が人々からお金を騙し取るために使用するインフラの詳細を抽出することを可能にし、サイバー犯罪者の金融およびインフラ構成要素を暴露し閉鎖する新たな方法を提供する。Netcraftは、AIチャットボットが詐欺師との会話を大規模に行うことができるため、攻撃者に対して技術的な優位性を守る側に戻すことができるとしている。この研究プロジェクトは2年間にわたり行われ、詐欺師のアカウントが主にアメリカ合衆国とイギリスにあることが明らかにされた。Netcraftは、RSAカンファレンスで発表したConversational Scam Intelligenceサービスを通じて、この実験で得られた脅威情報を活用している。
【ニュース解説】
イギリスの詐欺防御会社Netcraftの研究者たちは、Open AIのChatGPTを基にしたチャットボットを使用して、詐欺師とのやり取りに応じ、世界中の600以上の金融機関にまたがる銀行口座番号などの機密情報を収集する実験を行いました。この技術は、詐欺師が盗んだ資金をどのように移動させているかに関する情報を得ることを目的としています。この取り組みは、サイバー犯罪者の金融およびインフラ構成要素を暴露し閉鎖する新たな方法を提供し、攻撃者に対して技術的な優位性を守る側に戻す可能性を秘めています。
この研究プロジェクトは2年間にわたり行われ、詐欺師のアカウントが主にアメリカ合衆国とイギリスにあることが明らかにされました。これは、AIチャットボットが主にこれらの地域の人物を装っていたためです。しかし、チャットボットの言語能力を拡張することで、異なる国々の詐欺師のアカウントも同様に特定できるようになりました。
この技術のポジティブな側面は、サイバー犯罪と戦う上での新たな手段を提供することです。AIチャットボットは、人間の脅威分析家が通常必要とする作業を自動化し、大規模に詐欺師とのやり取りを行うことができます。これにより、詐欺師が使用するインフラの詳細を抽出し、サイバー犯罪の防止に役立てることが可能になります。
一方で、この技術の使用には潜在的なリスクも伴います。例えば、詐欺師がこのようなAIチャットボットを認識し、それを回避する新たな手法を開発する可能性があります。また、誤って正当なユーザーとのやり取りを詐欺と誤認するリスクも考慮する必要があります。
規制に与える影響としては、この技術の使用に関するガイドラインや規制が必要になる可能性があります。特に、プライバシーの保護や誤認識による被害を最小限に抑えるための措置が重要になります。
将来的には、この技術がさらに発展し、より多くの言語や地域に対応できるようになることで、世界中のサイバー犯罪との戦いにおいて重要な役割を果たす可能性があります。また、AI技術の進化により、詐欺師とのやり取りをより自然に行えるようになることで、より多くの情報を収集できるようになるかもしれません。しかし、同時に、サイバー犯罪者もAI技術を利用することで、より巧妙な詐欺手法を開発する可能性があるため、この技術の発展と共に、サイバーセキュリティの対策も進化させていく必要があります。
from AI Chatbot Fools Scammers & Scores Money-Laundering Intel.
