AIの進化が引き起こすサイバーセキュリティの新たな戦場

Last Updated on 2024-05-31 13:53 by 門倉 朋宏

最近の人工知能（AI）の進歩により、サイバーセキュリティの新時代が到来している。AIは、脅威の検出、追跡、インシデント対応の効率と革新を高める一方で、攻撃者による悪用の可能性も持つ。研究によると、AIを使用するユーザーは、経験レベルに関係なく、全てのタスクで44%正確で26%速いことがわかった。

国家支援のグループは、大規模言語モデル（LLM）を使用してサイバー作戦を強化している。これらのグループは、潜在的な犠牲者の業界、位置、関係性を調査することから攻撃を開始し、AI生成コードを使用してソフトウェアスクリプトとマルウェアの開発を改善することがある。

マイクロソフトとOpenAIのパートナーシップにより、以下の国家支援グループのLLMの使用について評価された。

– Forest Blizzard（STRONTIUM）: ロシア軍情報機関に関連する高効率のアクター。ウクライナでの軍事作戦に関連する衛星やレーダー技術の研究にLLMを利用。
– Emerald Sleet（Velvet Chollima）: 北朝鮮の脅威アクター。スピアフィッシングキャンペーンに使用するコンテンツ生成のためにLLMを活用。
– Crimson Sandstorm（CURIUM）: イラン革命防衛隊に接続された脅威アクター。ソーシャルエンジニアリングキャンペーンの支援や.NET開発の進展にLLMを使用。
– Charcoal Typhoon（CHROMIUM）: 中国に関連する脅威アクター。特定の技術、プラットフォーム、脆弱性に関する研究の洞察を得るためにLLMを活用。
– Salmon Typhoon: 中国支援のグループ。潜在的に敏感なトピックや高プロファイルな個人に関する情報を得るためにLLMの効果を評価。

これらの脅威に対抗するためには、多要素認証（MFA）やゼロトラスト防御などの基本的なセキュリティ衛生管理が重要である。また、変化する脅威環境に適応できる条件付きアクセスポリシーの実装が推奨される。AIは今後も脅威環境の進化を続けると予想される。

【ニュース解説】

最近の人工知能（AI）の進歩は、サイバーセキュリティの分野においても大きな影響を与えています。AI技術は、脅威の検出、追跡、インシデント対応の効率と革新を高めることができる一方で、悪意のある行為者による悪用の可能性も持ち合わせています。研究によると、AIを使用することで、経験レベルに関わらず、タスクの正確性が44%向上し、実行速度も26%速くなることが示されています。

国家支援を受けるサイバー攻撃グループは、大規模言語モデル（LLM）を使用して、サイバー作戦を強化しています。これらのグループは、潜在的な犠牲者に関する情報を収集したり、AIを利用してソフトウェアスクリプトやマルウェアの開発を改善することがあります。マイクロソフトとOpenAIのパートナーシップにより、ロシア、北朝鮮、イラン、中国に関連する複数の脅威アクターがLLMを使用していることが明らかにされました。これらのグループは、LLMを利用して、技術的なタスクの自動化や最適化、スピアフィッシングキャンペーンのためのコンテンツ生成、脆弱性の調査など、様々な目的で活用しています。

これらの脅威に対抗するためには、多要素認証（MFA）やゼロトラスト防御などの基本的なセキュリティ対策が重要です。また、変化する脅威環境に適応できるよう、条件付きアクセスポリシーの実装が推奨されます。AI技術の進化により、脅威環境は今後も変化し続けると予想されます。

この技術の進歩は、サイバーセキュリティの分野において、防御側と攻撃側の両方に新たな可能性をもたらします。AIを活用することで、脅威の迅速な検出と対応が可能になりますが、同時に、攻撃者もこの技術を利用して、より巧妙で効率的な攻撃手法を開発することができます。したがって、AI技術の発展に伴い、セキュリティ対策も進化させ続ける必要があります。ポジティブな側面としては、AIによる脅威検出の高速化と正確性の向上が挙げられますが、潜在的なリスクとしては、AI技術が悪用されることによる新たな脅威の出現です。規制に関しては、AI技術の使用に関するガイドラインや基準の策定が求められるでしょう。将来的には、AI技術のさらなる発展により、より高度なセキュリティ対策が可能になる一方で、新たな脅威への対応も必要となるため、長期的な視点での対策が重要になります。

from Threat Report: Examining the Use of AI in Attack Techniques.