Last Updated on 2024-06-28 05:38 by admin
SaaSアプリケーションに組み込まれたAI機能が、組織の機密ビジネスデータや知的財産を危険にさらす可能性があることがWingの研究で明らかになった。この研究によると、99.7%の組織がAI機能を備えたアプリケーションを使用しており、その中の70%がユーザーデータをモデルトレーニングに使用している可能性がある。データの使用は、単に学習や保存にとどまらず、データの再トレーニング、人間によるレビュー、第三者との共有を含むことがある。
AIによるデータトレーニングには、知的財産（IP）とデータの漏洩、データ利用と利益の不一致、第三者との共有、コンプライアンスの懸念という4つの主要なリスクがある。これらのリスクは、組織のプライバシー、セキュリティ、コンプライアンスに影響を与える可能性がある。
SaaSアプリケーションでのAIモデルトレーニングに使用されるデータの種類や、データ使用のオプトアウト方法に関する情報は、アプリケーションによって一貫性がなく、透明性に欠ける。セキュリティチームは、データ使用ポリシーを理解し、管理するために、SaaSセキュリティ姿勢管理（SSPM）ソリューションなどの中央集権化された自動化ツールを活用することが推奨される。
【ニュース解説】
SaaS（Software as a Service）アプリケーションに組み込まれたAI機能が、組織の機密ビジネスデータや知的財産（IP）を危険にさらす可能性があるという研究結果がWingによって明らかにされました。この研究によると、ほぼ全ての組織（99.7%）がAI機能を備えたアプリケーションを使用しており、そのうち70%がユーザーデータをAIモデルのトレーニングに使用している可能性があることが示されています。データの使用は、学習や保存だけでなく、データの再トレーニング、人間によるレビュー、さらには第三者との共有を含むことがあります。
このようなAIによるデータトレーニングは、知的財産（IP）とデータの漏洩、データ利用と利益の不一致、第三者との共有、コンプライアンスの懸念という4つの主要なリスクを引き起こす可能性があります。これらのリスクは、組織のプライバシー、セキュリティ、コンプライアンスに深刻な影響を与える可能性があります。
SaaSアプリケーションでAIモデルのトレーニングに使用されるデータの種類や、データ使用のオプトアウト方法に関する情報は、アプリケーションによって一貫性がなく、透明性に欠けています。このため、セキュリティチームは、データ使用ポリシーを理解し、管理するために、SaaSセキュリティ姿勢管理（SSPM）ソリューションなどの中央集権化された自動化ツールを活用することが推奨されます。
この問題に対処するためには、組織はまず、自社のデータがどのように使用されているかを理解する必要があります。次に、データの使用に関するポリシーを確認し、必要に応じてオプトアウトすることが重要です。また、データ保護のためのベストプラクティスを適用し、データの安全性を確保するための対策を講じることが求められます。
この研究結果は、AI技術の利便性とリスクのバランスを取る上で、組織が直面する課題を浮き彫りにしています。AIのポテンシャルを最大限に活用しつつ、機密データの保護を確保するためには、透明性のあるデータ管理と、効果的なセキュリティ対策の実施が不可欠です。
from The Secrets of Hidden AI Training on Your Data.
