Last Updated on 2024-09-12 05:49 by 門倉 朋宏
新たな研究により、Hugging Faceなどの人工知能（AI）-as-a-Serviceプロバイダーが、権限昇格やクロステナントアクセスを可能にする攻撃に対して脆弱であることが明らかになった。これらの攻撃により、脅威アクターは他の顧客のモデルにクロステナントアクセスを得たり、継続的インテグレーションおよび継続的デプロイメント（CI/CD）パイプラインを乗っ取る可能性がある。
Wizの研究者であるShir TamariとSagi Tzadikは、「悪意のあるモデルは、特にAI-as-a-Serviceプロバイダーにとって、AIシステムに対する主要なリスクを表している。攻撃者はこれらのモデルを利用してクロステナント攻撃を実行する可能性がある」と述べている。攻撃者がAI-as-a-Serviceプロバイダー内に保存されている数百万のプライベートAIモデルやアプリにアクセスできるようになると、潜在的な影響は壊滅的である。
この研究は、機械学習パイプラインが新たなサプライチェーン攻撃ベクトルとして浮上し、Hugging Faceのようなリポジトリが機密情報を得たり、ターゲット環境にアクセスするための敵対的攻撃を仕掛けるための魅力的なターゲットになっていることを背景に行われた。
研究者たちは、pickle形式でアップロードされた信頼できないモデルを実行し、CI/CDパイプラインを乗っ取ってサプライチェーン攻撃を実行することが可能であることを示した。特に、Hugging Faceでは、危険とみなされた場合でも、ユーザーがプラットフォームのインフラストラクチャ上でアップロードされたPickleベースのモデルを推論させることを許可している。
研究者たちは、Amazon Elastic Kubernetes Service（EKS）の誤設定を利用して、ロード時に任意のコード実行が可能なPyTorch（Pickle）モデルを作成し、クラスタ内で横移動してノードの役割を取得することができると述べている。
Hugging Faceは、特定された問題をすべて対処したと発表し、ユーザーに対して信頼できるソースからのみモデルを使用し、多要素認証（MFA）を有効にし、本番環境でpickleファイルを使用しないよう促している。
【ニュース解説】
最近の研究により、Hugging Faceなどの人工知能（AI）-as-a-Serviceプロバイダーが、権限昇格（PrivEsc）やクロステナントアクセスを可能にする攻撃に対して脆弱であることが明らかになりました。これらの攻撃により、脅威アクターは他の顧客のモデルにアクセスしたり、継続的インテグレーションおよび継続的デプロイメント（CI/CD）パイプラインを乗っ取る可能性があります。
この問題の根本には、pickle形式でアップロードされた信頼できないモデルを実行することができる点があります。これにより、攻撃者は任意のコードを実行し、システム内で権限を昇格させることが可能になります。また、Amazon Elastic Kubernetes Service（EKS）の誤設定を利用して、クラスタ内で横移動し、他の顧客のモデルにアクセスすることもできます。
この研究は、AI-as-a-Serviceプロバイダーが直面しているセキュリティ上の課題を浮き彫りにしています。特に、機械学習パイプラインが新たなサプライチェーン攻撃ベクトルとして注目されている中で、このような脆弱性は重大なリスクをもたらします。攻撃者がプラットフォーム内の他の顧客のモデルにアクセスできるようになると、機密情報の漏洩や不正な活動の実行が可能になります。
Hugging Faceは、特定された問題に対処し、ユーザーに対して信頼できるソースからのみモデルを使用するよう促しています。また、多要素認証（MFA）の有効化や、本番環境でのpickleファイルの使用を避けることも推奨しています。
この問題の解決には、AI-as-a-Serviceプロバイダーがセキュリティ対策を強化し、ユーザーがセキュリティベストプラクティスを遵守することが重要です。また、AIモデルの安全性を確保するために、サンドボックス環境での実行や、信頼できるソースからのみモデルを取得するなどの対策が求められます。
この研究は、AI技術の発展と共に、新たなセキュリティ上の課題が浮上していることを示しています。AI-as-a-Serviceプロバイダーだけでなく、AI技術を利用するすべての企業や組織が、セキュリティ対策の重要性を認識し、適切な対策を講じることが今後ますます重要になってきます。
from AI-as-a-Service Providers Vulnerable to PrivEsc and Cross-Tenant Attacks.
“AIサービス脆弱性発覚！Hugging Face含むプロバイダー攻撃に露呈” への1件のコメント
この記事を読んで、AI技術の安全性について改めて考えさせられました。AIが日常生活にどんどん取り入れられている今、セキュリティは非常に重要な問題ですよね。特に、人工知能サービスを提供する企業が攻撃に対して脆弱であるというのは、ユーザーとしてとても心配です。
Hugging FaceのようなAI-as-a-Serviceプロバイダーが権限昇格やクロステナントアクセスを可能にする攻撃に対して脆弱であるという事実は、プライベートな情報がどれだけ簡単に漏洩する可能性があるかを示しています。AIモデルへの不正アクセスは、個人情報の漏えいはもちろん、不正な活動の実行にもつながる可能性がありますから、非常に危険です。
記事にあるように、Hugging Faceが特定された問題に対処し、信頼できるソースからのみモデルを使用し、多要素認証（MFA）の有効化や、本番環境でのpickleファイルの使用を避けるよう促しているのは良い対応だと思います。これは他のAI-as-a-Serviceプロバイダーにとっても重要な教訓ですね。
私たちユーザーも、セキュリティに関する知識を持ち、信頼できるソースからのみ情報やサービスを利用することが大切だと思います。また、企業や組織がセキ