Last Updated on 2024-09-24 05:28 by 門倉 朋宏
企業におけるAI/機械学習（ML）ツールの利用は、2023年4月の5億2100万件から2024年1月には31億件にまで急増している。この増加に伴い、セキュリティへの懸念が高まり、AI/MLトランザクションの18.5%がブロックされるようになった。攻撃者はAIを利用して組織を攻撃し、その攻撃を察知されることなく行っている。データ保護、AIデータの品質管理、プライバシーの懸念が調査結果を支配している。
マニュファクチャリング業界が最も多くのAIトラフィックを生成しており、金融・保険業界、サービス業界がそれに続いている。製造業はAI/MLトランザクションのうち15.65%しかブロックしていない。ファイナンス・保険業界は37.16%のAIトランザクションをブロックしており、データセキュリティとプライバシーのリスクに対する懸念が高まっている。ヘルスケア業界はAIトランザクションの17.23%しかブロックしておらず、データ保護の取り組みが遅れている可能性がある。
AIツールのトランザクションをブロックすることは一時的な解決策であり、より大きな問題に対処するためには利用可能なテレメトリを活用し、データを解析する必要がある。主要なサイバーセキュリティベンダーはAIとMLの専門知識を持っており、攻撃者の利用するAIに対抗するために自社のAIモデルを訓練している。AIによる攻撃のリスクはデータ保護とセキュリティリスク、および新たなサイバー脅威の2つのカテゴリに分類される。ボードメンバーは、ChatGPTなどのAIツールの利用に関するリスク管理を優先し、知的財産の保護やデータプライバシーの確保に取り組むべきである。
攻撃者はAIを利用してランサムウェア攻撃を行い、より効率的かつターゲットに合わせた攻撃を行っている。また、AIを使用して脆弱性のあるファイアウォールやVPNのテーブルを生成し、カスタマイズされたペイロードを使用して攻撃を行っている。さらに、企業のサプライチェーンパートナーの弱点を特定し、最適な経路を見つけることも可能である。攻撃者はAIを使用して攻撃戦略を最適化し、より高度で標的型の攻撃を行っている。
生産性とセキュリティのバランスは、新たなAIによる脅威に対処するために重要である。セキュリティ企業のCEOやテックリーダーは、AIを利用した攻撃の標的になることがあり、その対策が必要である。ボードメンバーは、AIの利点とリスクについて教育を受け、セキュリティ対策を行う必要がある。生産性とセキュリティのバランスを取ることが、新たなAIによる脅威に対処するために重要である。
【ニュース解説】
企業における人工知能（AI）および機械学習（ML）ツールの利用が、2023年4月の5億2100万件から2024年1月には31億件にまで急増していることが明らかになりました。この急激な増加は、データのセキュリティリスクを高めるとともに、AI/MLトランザクションの18.5%がブロックされる事態を引き起こしています。特に、攻撃者がAIを駆使して組織を攻撃し、その存在を悟られずに行動するケースが増えているため、企業は警戒を強めています。
製造業がAIトラフィックの最大の発生源であり、金融・保険業界やサービス業界もそれに続いています。しかし、製造業はAI/MLトランザクションのうちわずか15.65%しかブロックしておらず、サイバー攻撃、特にランサムウェア攻撃のリスクが高いにもかかわらず、その対策が不十分であることが示唆されています。一方で、ファイナンス・保険業界は37.16%のトランザクションをブロックしており、データセキュリティとプライバシーへの懸念が高まっていることが伺えます。ヘルスケア業界では、敏感な健康データや個人情報を扱うにも関わらず、AIトランザクションのブロック率が17.23%と低く、データ保護の取り組みが遅れている可能性があります。
AIツールのトランザクションをブロックすることは、一時的な解決策に過ぎません。より根本的な対策として、利用可能なテレメトリを活用し、膨大なデータを解析することが求められます。主要なサイバーセキュリティベンダーは、AIとMLの専門知識を活かし、攻撃者が使用するAIに対抗するために自社のAIモデルを訓練しています。
AIによる攻撃は、データ保護とセキュリティリスク、および新たなサイバー脅威の2つのカテゴリに分類されます。企業は、ChatGPTなどのAIツールの利用におけるリスク管理を優先し、知的財産の保護やデータプライバシーの確保に努める必要があります。
攻撃者はAIを利用してランサムウェア攻撃をより効率的かつターゲットに合わせたものにしており、企業のサプライチェーンパートナーの弱点を特定し、最適な攻撃経路を見つけることが可能になっています。このように、AIを使用した攻撃戦略の最適化により、より高度で標的型の攻撃が行われています。
生産性とセキュリティのバランスを取ることは、新たなAIによる脅威に対処する上で重要です。セキュリティ企業のCEOやテックリーダーは、AIを利用した攻撃の標的になることがあり、その対策が必要です。ボードメンバーは、AIの利点とリスクについて教育を受け、適切なセキュリティ対策を行うことが求められます。
from Zscaler finds enterprise AI adoption soars 600% in less than a year, putting data at risk.
“AI/MLトランザクション急増、セキュリティリスク拡大への警鐘” への1件のコメント
この記事について考えると、AIやMLの急速な普及がもたらす利点は計り知れないものがあるが、それに伴うセキュリティリスクの増大も非常に深刻だと感じます。特に、私が所属する製薬業界においても、患者のデータや研究開発データは非常に重要であり、これらがランサムウェア攻撃などの標的になることは避けなければならない事態です。記事で言及されているように、AIトランザクションを単にブロックするだけでは根本的な解決にはならず、攻撃者が使用するAIに対抗するためのより洗練されたAIモデルの開発が求められます。
私の見解としては、セキュリティ対策においてもAIの活用を積極的に行うべきだと考えます。例えば、AIを用いた異常行動検知システムの導入や、脆弱性を事前に識別するAIツールの開発などが挙げられます。また、社内でのAIリテラシーの向上も重要です。AIによる攻撃の手口は日々進化しており、それに対応するためには、従業員一人ひとりがAIの基本的な知識を持ち、セキュリティ意識を高く持つことが不可欠です。
さらに、サプライチェーン全体でのセキュリティ対策の強化