Last Updated on 2024-06-28 08:42 by admin
サイバーセキュリティ研究者たちは、Hugging FaceのSafetensors変換サービスを悪用して、ユーザーが提出したモデルを乗っ取り、サプライチェーン攻撃を引き起こす可能性があることを発見した。攻撃者は、Hugging Faceサービスから任意のリポジトリに対して攻撃者が制御するデータを含む悪意のあるプルリクエストを送信することが可能であり、変換サービスを通じて提出されたモデルを乗っ取ることができる。この攻撃は、サービスによって変換されることを意図した乗っ取られたモデルを使用して実行され、変換ボットになりすましてプラットフォーム上の任意のリポジトリに変更を要求することによって可能となる。
Hugging Faceは、事前訓練された機械学習モデルやデータセットをホストし、ビルド、デプロイ、トレーニングすることを支援する人気のコラボレーションプラットフォームである。Safetensorsは、セキュリティを念頭に置いてテンソルを保存するために同社が考案した形式であり、ピクルスとは対照的に、任意のコードを実行しCobalt Strike、Mythic、Metasploitステージャーをデプロイするために脅威アクターによって悪用される可能性がある。また、このサービスには、任意のPyTorchモデル（ピクルス）をSafetensor相当物に変換するためのプルリクエストを介して変換を可能にする変換サービスが含まれている。
HiddenLayerのこのモジュールの分析によると、攻撃者は悪意のあるPyTorchバイナリを使用してホストされた変換サービスを乗っ取り、それをホストするシステムを危険にさらすことが理論的に可能である。さらに、SFConvertbot（公式ボット）に関連付けられたトークンが盗み出され、サイト上の任意のリポジトリに悪意のあるプルリクエストを送信することができ、脅威アクターがモデルを改ざんし、ニューラルバックドアを埋め込むシナリオにつながる可能性がある。
もしユーザーが自分のプライベートリポジトリを変換しようとする場合、攻撃はHugging Faceトークンの盗難、内部モデルやデータセットへのアクセス、さらにはそれらの毒物化への道を開く可能性がある。さらに、公開リポジトリに対して変換リクエストを提出できる任意のユーザーが利用できる事実を利用して、広く使用されているモデルを乗っ取ったり変更したりすることで、大規模なサプライチェーンリスクを引き起こす可能性がある。
研究者たちは、「Hugging Faceエコシステム内の機械学習モデルを安全に保つための最善の意図にもかかわらず、変換サービスは脆弱であり、Hugging Face公式サービスを介して広範囲にわたるサプライチェーン攻撃を引き起こす可能性があることが証明された」と述べている。攻撃者は、サービスを実行しているコンテナに足場を築き、サービスによって変換された任意のモデルを危険にさらすことができる。
【ニュース解説】
Hugging FaceのSafetensors変換サービスに新たな脆弱性が発見され、これによりAIモデルがサプライチェーン攻撃のリスクにさらされることが明らかになりました。この脆弱性を悪用することで、攻撃者はユーザーが提出したモデルを乗っ取り、プラットフォーム上の任意のリポジトリに対して悪意のあるプルリクエストを送信することが可能になります。
Hugging Faceは、機械学習モデルやデータセットのホスティング、ビルド、デプロイ、トレーニングを支援するプラットフォームであり、Safetensorsはセキュリティを考慮して設計されたテンソルの保存形式です。しかし、この変換サービスを通じて、攻撃者は悪意のあるPyTorchバイナリを使用してシステムを危険にさらすことができることが判明しました。
この脆弱性の存在は、AIモデルのセキュリティに対する新たな脅威を示しています。攻撃者がモデルを乗っ取り、任意のコードを実行する能力を持つことは、ユーザーのプライベートリポジトリや内部モデル、データセットの安全性に深刻な影響を及ぼす可能性があります。さらに、公開リポジトリに対する変換リクエストを利用することで、広く使用されているモデルを改ざんすることが可能となり、これは大規模なサプライチェーンリスクを引き起こす可能性があります。
この問題は、AI技術の安全性と信頼性を確保するための課題を浮き彫りにしています。AIモデルのセキュリティを強化し、サプライチェーン攻撃のリスクを最小限に抑えるためには、開発者やプラットフォーム提供者が連携して対策を講じる必要があります。これには、脆弱性の早期発見と修正、セキュリティプロトコルの強化、ユーザーへの教育と警告の提供などが含まれます。
長期的には、このような脆弱性への対応とセキュリティ対策の強化は、AI技術の持続可能な発展と広範な採用に不可欠です。AIモデルの安全性を確保することは、技術のポテンシャルを最大限に活用し、同時にユーザーと社会全体の信頼を維持するための鍵となります。
from New Hugging Face Vulnerability Exposes AI Models to Supply Chain Attacks.
“サイバーセキュリティの警鐘: Hugging Faceのサービスが攻撃の脆弱性を露呈” への1件のコメント
この記事に記載されているHugging FaceのSafetensors変換サービスの脆弱性は、AI技術の安全性に関する重要な問題を浮き彫りにしています。私たちが日常的に利用しているAIモデルやサービスが、悪意のある攻撃者によって乗っ取られ、サプライチェーン攻撃のリスクにさらされる可能性があることは非常に憂慮すべき事態です。特に、Hugging Faceのような機械学習モデルやデータセットのホスティングに特化したプラットフォームが攻撃の標的となることは、AIコミュニティ全体にとって大きな懸念事項です。
この脆弱性が示すように、セキュリティを念頭に置いて設計されたシステムであっても、新たな攻撃手法によって脅威にさらされる可能性があります。この問題への対応として、AIモデルやプラットフォームのセキュリティ対策を強化し、早期に脆弱性を発見して修正することが重要です。このためには、AI開発者やプラットフォーム提供者が連携し、セキュリティプロトコルの構築と改善、そしてユーザーへの教育と警告の提供に努める必要があります。
さらに、公開リポジトリに対する変換リクエストを利用する