CloudflareがAIアプリ保護の新機能「Firewall for AI」発表！

Last Updated on 2024-03-05 16:50 by 荒木 啓介

Cloudflareは、大規模言語モデル（LLM）を使用するアプリケーションの保護を目的とした、ウェブアプリケーションファイアウォール（WAF）の機能を拡張しました。この新サービス「Firewall for AI」は、同社のアプリケーションセキュリティアドバンスドエンタープライズ顧客向けに提供され、発表時点で「Advanced Rate Limiting」と「Sensitive Data Detection」の2つの機能を含んでいます。

「Advanced Rate Limiting」は、顧客がセッション中に個々のIPアドレスまたはAPIキーによって実行されるリクエストの最大レートを設定するポリシーを作成できるようにすることで、モデルに対する分散型サービス拒否（DDoS）攻撃や、LLMが正当なリクエストを処理できなくなるような状況を防ぎます。

「Sensitive Data Detection」は、LLMがクエリへの応答で機密データを漏洩するのを防ぎます。また、顧客がクレジットカード番号やAPIキーなどの金融情報や秘密をスキャンするWAFルールを設定できるようにし、これらの機密情報がLLMの応答に含まれないようにします。

将来的には、顧客が独自のカスタムフィンガープリントを作成し、モデルが開示できる情報をカスタマイズできるようになる予定です。また、Cloudflareはプロンプト検証機能のベータ版をテストする計画を立てており、これはユーザーがLLMが不適切または違法なコンテンツを作成することを防ぐためのガードレールを回避するようなプロンプトを設計するプロンプトインジェクション攻撃を防ぐのに役立ちます。

この機能は、すべてのプロンプトを分析し、LLMに対する攻撃の可能性を示すスコアで評価します。さらに、プロンプトを事前定義されたカテゴリに基づいてタグ付けします。スコアは1から99の範囲で、プロンプトインジェクション攻撃の可能性を示し、低い数字は悪意のある意図を示唆します。

Cloudflareの「Firewall for AI」は、OpenAIのGPTやAnthropicのClaudeなどの公開されているLLMツールや、社内使用のために設計されたプライベートLLM、製品やサービスの一部として顧客に販売されるモデルなど、任意のLLMの前に展開できます。

【ニュース解説】

Cloudflareが、大規模言語モデル（LLM）を使用するアプリケーション向けに特化した新しいウェブアプリケーションファイアウォール（WAF）機能、「Firewall for AI」を発表しました。このサービスは、分散型サービス拒否（DDoS）攻撃や機密データの漏洩など、LLMに関連する特有のセキュリティリスクに対処するために設計されています。

この新しいファイアウォール機能には、「Advanced Rate Limiting」と「Sensitive Data Detection」という二つの主要な機能が含まれています。「Advanced Rate Limiting」は、特定のIPアドレスやAPIキーからのリクエスト数を制限することで、過剰なリクエストによるサービスの中断を防ぎます。「Sensitive Data Detection」は、LLMが応答として機密情報を漏らさないようにするための機能で、特に金融情報やAPIキーなどの機密データの検出とブロックに焦点を当てています。

これらの機能は、AIとMLの技術が急速に進化し、ビジネスや日常生活においてますます重要な役割を果たすようになる中で、新たなセキュリティ上の課題を提起しています。特に、LLMは自然言語を理解し、生成する能力があるため、不適切なコンテンツの生成や機密情報の不意の漏洩など、特有のリスクを持っています。

Cloudflareの「Firewall for AI」は、これらのリスクに対処するための重要なステップです。このファイアウォールを使用することで、企業はLLMを安全に使用し、顧客や自社のデータを保護することができます。また、将来的には、ユーザーがカスタムフィンガープリントを作成し、LLMが開示できる情報をさらに細かく制御できるようになる予定です。

しかし、この技術の導入には潜在的なリスクも伴います。例えば、過度に厳しい制限が設定されると、LLMの有用性が低下する可能性があります。また、機密データの検出とブロックは有効ですが、完璧ではなく、新しい種類の機密情報や攻撃手法に対応するためには、常に更新と改善が必要です。

規制の観点からは、このような技術の導入は、データ保護法やプライバシーに関する法律との整合性を保つための一助となります。しかし、技術が進化するにつれて、規制もこれに追いつく必要があり、そのバランスを取ることが今後の大きな課題となるでしょう。

長期的には、「Firewall for AI」のような技術は、AIとMLの安全な使用を促進し、これらの技術のポテンシャルを最大限に引き出すための重要な役割を果たすでしょう。同時に、セキュリティ対策の進化と、それに伴う規制の適応が、この分野の持続可能な成長に不可欠です。

from Cloudflare wants to put a firewall in front of your LLM.