Last Updated on 2024-07-15 05:31 by admin
サイバーセキュリティ研究者たちは、クラウド上でホストされている大規模言語モデル（LLM）サービスを狙った新たな攻撃手法を発見した。この攻撃は、盗まれたクラウド認証情報を使用してLLMサービスにアクセスし、そのアクセス権を他の脅威アクターに販売することを目的としている。この攻撃手法は「LLMjacking」と名付けられた。
攻撃者はまず、脆弱なバージョンのLaravel Framework（例：CVE-2021-3129）を実行しているシステムを侵害し、Amazon Web Services（AWS）の認証情報を取得してLLMサービスにアクセスする。使用されるツールの中には、Anthropic、AWS Bedrock、Google Cloud Vertex AI、Mistral、OpenAIなどのさまざまなオファリングのキーをチェックし、検証するオープンソースのPythonスクリプトが含まれている。
攻撃者はまた、oai-reverse-proxyという別のオープンソースツールを統合しており、これはLLM APIのためのリバースプロキシサーバーとして機能する。これにより、攻撃者は実際に基礎となる認証情報を露呈することなく、侵害されたアカウントへのアクセスを提供する可能性がある。
この攻撃は、プロンプトインジェクションやモデル汚染に焦点を当てた攻撃からの転換であり、攻撃者がLLMへのアクセスを収益化することを可能にする一方で、クラウドアカウントの所有者が知らずに費用を負担することになる。Sysdigによると、この種の攻撃は被害者に対して1日あたり46,000ドル以上のLLM消費コストを発生させる可能性がある。
組織には、詳細なログを有効にし、クラウドログを監視して不審な活動や許可されていない活動を検出すること、および初期アクセスを防ぐために効果的な脆弱性管理プロセスを確立することが推奨される。
【ニュース解説】
サイバーセキュリティ研究者たちが、クラウド上で提供されている大規模言語モデル（LLM）サービスを狙った新しいタイプの攻撃手法を発見しました。この手法は「LLMjacking」と名付けられ、盗まれたクラウド認証情報を利用してLLMサービスに不正アクセスし、そのアクセス権を他の脅威アクターに販売することを目的としています。
この攻撃は、まず脆弱性を持つLaravel Frameworkを実行しているシステムを侵害し、そこからAmazon Web Services（AWS）の認証情報を盗み出してLLMサービスへのアクセスを試みるという手順を踏みます。攻撃者は、Anthropic、AWS Bedrock、Google Cloud Vertex AI、Mistral、OpenAIなどのサービスのキーをチェックし、検証するためのオープンソースのPythonスクリプトを使用します。
さらに、攻撃者はoai-reverse-proxyというリバースプロキシサーバーを機能させるオープンソースツールを使用して、侵害されたアカウントへのアクセスを提供します。これにより、攻撃者は基礎となる認証情報を露呈することなく、LLMモデルへのアクセスを他者に販売することが可能になります。
この攻撃手法は、従来のプロンプトインジェクションやモデル汚染といった攻撃から一歩進んだもので、攻撃者がLLMへのアクセスを収益化する新たな道を開きました。しかし、このプロセスではクラウドアカウントの所有者が無知のまま莫大な費用を負担することになります。Sysdigの報告によると、この種の攻撃によって被害者は1日あたり46,000ドル以上のLLM消費コストを負担する可能性があります。
このような攻撃を防ぐためには、組織は詳細なログの有効化、クラウドログの監視、および効果的な脆弱性管理プロセスの確立が推奨されます。これにより、不審な活動や許可されていない活動を早期に検出し、初期アクセスを防ぐことが可能になります。
この攻撃手法の発見は、クラウドベースのAIサービスのセキュリティに新たな課題を投げかけています。LLMサービスの普及に伴い、これらのサービスを狙った攻撃も進化し続けることが予想されます。そのため、クラウドサービスの提供者と利用者は、セキュリティ対策を常に最新の状態に保ち、不正アクセスやデータ漏洩のリスクを最小限に抑える必要があります。
from Researchers Uncover 'LLMjacking' Scheme Targeting Cloud-Hosted AI Models.
