Last Updated on 2024-02-15 06:20 by
ロシア、北朝鮮、イラン、中国に関連する国家支援のハッカーグループが、サイバー攻撃作戦を補完するために人工知能（AI）と大規模言語モデル（LLMs）を実験的に使用していることが明らかになった。この情報は、マイクロソフトとOpenAIによる共同の報告書から得られたもので、両社はAIサービスを悪用した5つの国家関連アクターの活動を阻止するため、その資産とアカウントを終了させたと述べている。
マイクロソフトによると、LLMsの言語サポートは、ターゲットの職業、専門ネットワーク、その他の関係に合わせた偽の、欺瞞的なコミュニケーションに依存する技術に焦点を当て続ける脅威アクターにとって魅力的な機能である。これまでにLLMsを使用した顕著な新しい攻撃は検出されていないが、AI技術の敵対的な探求は、偵察、コーディング支援、マルウェア開発など、攻撃チェーンのさまざまな段階を超えている。
例えば、ロシアの国家支援グループであるForest Blizzard（別名APT28）は、衛星通信プロトコルやレーダーイメージング技術に関するオープンソースの研究、スクリプトタスクのサポートにそのサービスを使用したとされている。その他の注目すべきハッキンググループには、以下のようなものがある。
– Emerald Sleet（別名Kimusky）、北朝鮮の脅威アクターは、アジア太平洋地域の防衛問題に焦点を当てた専門家、シンクタンク、組織を特定し、公に利用可能な欠陥を理解し、基本的なスクリプトタスクを支援し、フィッシングキャンペーンで使用できるコンテンツを作成するためにLLMsを使用している。
– Crimson Sandstorm（別名Imperial Kitten）、イランの脅威アクターは、アプリおよびウェブ開発に関連するコードスニペットの作成、フィッシングメールの生成、マルウェアが検出を回避する一般的な方法の研究にLLMsを使用している。
– Charcoal Typhoon（別名Aquatic Panda）、中国の脅威アクターは、さまざまな企業や脆弱性の研究、スクリプトの生成、フィッシングキャンペーンで使用される可能性のあるコンテンツの作成、侵害後の行動の技術の特定にLLMsを使用している。
– Salmon Typhoon（別名Maverick Panda）、中国の脅威アクターは、技術論文の翻訳、複数の情報機関および地域の脅威アクターに関する公に利用可能な情報の取得、コーディングエラーの解決、検出を回避するための隠蔽戦術の発見にLLMsを使用している。
マイクロソフトは、国家支援の高度な持続的脅威（APTs）、高度な持続的操作者（APMs）、およびサイバー犯罪シンジケートによるAIツールおよびAPIの悪用によってもたらされるリスクを軽減するための原則のセットを策定していると述べている。これらの原則には、悪意のある脅威アクターに対する識別と行動、他のAIサービスプロバイダーへの通知、他のステークホルダーとの協力、透明性が含まれる。
【ニュース解説】
ロシア、北朝鮮、イラン、中国といった国家支援を受けるハッカーグループが、サイバー攻撃の手法として人工知能（AI）と大規模言語モデル（LLMs）を実験的に利用していることが、マイクロソフトとOpenAIの共同報告書により明らかにされました。これらのグループは、AIサービスを悪用し、偽情報の拡散やフィッシング攻撃などに使用していたため、マイクロソフトとOpenAIはこれらのアクターの資産やアカウントを終了させる措置を取りました。
LLMsは、自然言語処理を用いて人間のようなテキストを生成する技術であり、これがサイバー攻撃に利用されることで、より巧妙で説得力のある偽情報やフィッシングメールが作成されるリスクが高まります。これまでに顕著な新しい攻撃は検出されていませんが、AI技術の探求は攻撃チェーンのさまざまな段階で見られ、偵察活動やマルウェア開発などに利用されています。
このような状況を受け、マイクロソフトはAIツールやAPIの悪用を防ぐための原則セットを策定しています。これには、悪意あるアクターの識別と対応、他のAIサービスプロバイダーへの通知、他の関係者との協力、透明性の確保が含まれます。
この報告書が示すように、AIとLLMsの悪用は、サイバーセキュリティの新たな脅威となっています。これにより、個人や組織は、より巧妙なフィッシング攻撃や偽情報の拡散に対して警戒する必要があります。また、AI技術の発展に伴い、これらの攻撃を検出し防ぐための新たなセキュリティ対策の開発が急務となっています。
一方で、AIとLLMsの潜在的なリスクに対処するためには、技術開発者、サービスプロバイダー、政府機関などが協力し、共通のガイドラインや規制を設けることが重要です。これにより、AI技術のポジティブな側面を最大限に活用しつつ、悪用を防ぐバランスを取ることが求められます。
長期的には、AIとLLMsの安全な使用を確保するための国際的な枠組みの構築が必要となるでしょう。これは、技術の進歩とともに変化するサイバーセキュリティの脅威に対応するため、継続的な努力と更新が求められる分野です。
from Microsoft, OpenAI Warn of Nation-State Hackers Weaponizing AI for Cyberattacks.
“国家支援ハッカーグループ、AIを悪用しサイバー攻撃強化 – マイクロソフトとOpenAIが警鐘” への1件のコメント
この報告書は、現代のサイバーセキュリティが直面している大きな課題を浮き彫りにしていますね。AIやLLMsのような先進技術が国家支援のハッカーグループによって悪用される可能性があるというのは、正直言って驚きですし、少し怖いです。私たちの日常生活でも、インターネットを使うことが当たり前になっているので、もし偽情報やフィッシング攻撃が巧妙になると、私たち一般人も簡単に騙されてしまうかもしれません。
特に、InstagramやTikTokといったSNSを活用している私たち若者は、情報の真偽を見極めることがより重要になってくると思います。これらのプラットフォームでは、日々たくさんの情報が共有されていますが、AIを悪用した偽情報が拡散するリスクがあると考えると、情報を鵜呑みにせず、しっかりとした情報源から得ることの大切さを改めて感じます。
また、マイクロソフトやOpenAIがこのような脅威に対して行動を起こしていることは心強いですが、私たち個人もサイバーセキュリティに対する意識を高め、自分自身を守るための知識を身につけることが重要だと思います。このような技術の進歩は止まらないので、これからも新たな脅威が現れる可能