銀行口座データを狙う新型攻撃、「オーディオジャッキング」の脅威が浮上

Last Updated on 2024-07-03 07:16 by 門倉 朋宏

IBMの脅威インテリジェンスチームは、銀行口座データを含む取引において、大規模言語モデル（LLM）を利用したオーディオジャッキング攻撃の可能性を指摘しています。この攻撃は、AIを使用する攻撃者が、ライブ会話をハイジャックし、正当な金融情報を詐欺的な指示に置き換える能力を持つことを意味します。IBMによると、わずか3秒の録音された声から、LLMを訓練し、概念実証（POC）攻撃をサポートするのに十分なデータを得ることができました。この攻撃は、会話中の両当事者によって検出されることなく、ライブオーディオ取引を操作することが可能です。

IBMの研究者は、LLMを再訓練する単純な技術を使用して、実際の会話を傍受し、リアルタイムで応答を操作することに成功しました。このPOCでは、「銀行口座」というキーワードを使用して、会話中に言及された銀行口座番号を偽のものに置き換えることができました。この技術を使用することで、攻撃者は、被害者が気づかないうちに、任意の銀行口座を自分のものに置き換えることが可能です。

IBMは、この種の攻撃に対する警戒を高めるために、情報を要約して繰り返すこと、自然言語を通じて伝えられる人間の直感を理解することができないAIの進歩に注意すること、そして偽のオーディオを検出する技術の加速を期待することなど、いくつかの対策を提案しています。また、攻撃者がこの種の攻撃を成功させるためには、ユーザーのデバイスを侵害することが最も簡単なアプローチであるため、不審なリンクをクリックしない、ソフトウェアを更新する、強力なパスワード衛生を維持するなどの既知のベストプラクティスを採用することが重要であると指摘しています。

【ニュース解説】

IBMの脅威インテリジェンスチームが、大規模言語モデル（LLM）を利用した新たなサイバー攻撃手法「オーディオジャッキング」について警告しています。この攻撃は、AI技術を駆使してライブの会話を傍受し、正当な金融情報を詐欺的な指示に巧妙に置き換えることができるというものです。わずか3秒の録音された声を元に、LLMを訓練することで、実際の会話をリアルタイムで操作し、詐欺行為を行うことが可能になります。

この技術は、「銀行口座」というキーワードをトリガーとして使用し、会話中に言及された銀行口座番号を偽のものに置き換えることができます。これにより、攻撃者は被害者が気づかない間に、任意の銀行口座を自分のものに置き換えることができるのです。この攻撃の実現には、LLMを再訓練する比較的単純な技術が使用されており、IBMはこの攻撃手法を「驚くほど簡単に」構築できたと報告しています。

この種の攻撃に対抗するためには、情報を要約して繰り返す、AIが自然言語を通じて伝えられる人間の直感を完全には理解できないことに注意する、偽のオーディオを検出する技術の発展を期待するなどの対策が必要です。また、攻撃者が成功するための最も簡単な方法はユーザーのデバイスを侵害することであるため、不審なリンクをクリックしない、ソフトウェアを更新する、強力なパスワード衛生を維持するなどのベストプラクティスの採用が重要です。

オーディオジャッキングは、金融取引だけでなく、個人情報の盗難や企業秘密の漏洩など、さまざまな形で悪用される可能性があります。この技術の進化により、リアルタイムでの会話操作が可能になるため、通信の安全性に対する新たな脅威となります。一方で、この攻撃手法の登場は、AI技術の発展とその潜在的なリスクに対する認識を高め、より強固なセキュリティ対策の開発を促進するきっかけにもなり得ます。

将来的には、AI技術を利用した攻撃に対抗するための新たな技術や法規制の整備が求められるでしょう。また、個人や企業は、セキュリティ対策を常に最新の状態に保ち、不審な通信に対して警戒を怠らないことが重要です。オーディオジャッキングのような攻撃手法の出現は、サイバーセキュリティの分野における絶え間ない猫マウスゲームを象徴しており、技術の進歩とともに、その対策も進化し続ける必要があります。

from How audio-jacking using gen AI can distort live audio transactions.