Last Updated on 2024-02-01 01:50 by
シアトルに拠点を置くスタートアップ企業Protect AIは、AI（人工知能）とML（機械学習）のワークフローを保護するためのプラットフォームソリューションを拡大しています。この取り組みの一環として、Protect AIはLLM（大規模言語モデル）の開発と使用から生じる潜在的なリスクに対する保護を強化するため、Laiyer AIの買収を発表しました。Laiyer AIは、人気のあるオープンソースプロジェクト「LLM Guard」を主導している企業です。買収の金銭的条件は公表されていません。
Protect AIが開発した主要な商用プラットフォーム「Radar」は、AI/MLモデルの可視性、検出、管理機能を提供します。同社は2023年7月にシリーズAの資金調達ラウンドで3500万ドルを調達し、AIセキュリティの取り組みを拡大しています。Protect AIの創設者であるDaryan (D) Dehghanpisheh氏は、MLSecOpsの採用を推進し、AIのリスクとセキュリティの脆弱性を把握し管理することの重要性を強調しています。
LLM Guardは、LLM操作の使用を管理するためのオープンソースプロジェクトで、プロンプトインジェクション攻撃や個人識別情報（PII）の漏洩、有害な言語などのリスクに対する入力制御を提供します。また、悪意のあるURLなどのリスクに対しても保護する機能を持っています。Protect AIは、LLM Guardの核心技術をオープンソースとして維持することにコミットしており、追加のパフォーマンスと企業向け機能を提供する商用オファリング「Laiyer AI」の開発を計画しています。さらに、Protect AIはLLM Guard技術を自社のプラットフォームに統合し、モデルの開発から選択、デプロイメントに至るまでのAI使用を保護する取り組みを進めています。
Protect AIは、オープンソースプロジェクトから商用製品へと発展させるアプローチを以前にも採用しており、機械学習モデルのセキュリティリスクを特定するModelScanオープンソースプロジェクトを主導しています。この技術は、最近発表された商用技術「Guardian」の基盤となっています。Protect AIの目標は、Radarプラットフォームを中心に、既存のセキュリティツールと統合し、エンタープライズレベルでのAIセキュリティを一元的に管理する全面的なアプローチを提供することです。
【ニュース解説】
シアトルに本拠を置くスタートアップ企業であるProtect AIは、人工知能（AI）と機械学習（ML）のセキュリティを強化するための取り組みを進めています。この一環として、Protect AIはLaiyer AIを買収しました。Laiyer AIは、大規模言語モデル（LLM）の使用に関連するリスクを管理するオープンソースプロジェクト「LLM Guard」を主導している企業です。
Protect AIが開発した「Radar」というプラットフォームは、AI/MLモデルの可視性、検出、管理機能を提供します。このプラットフォームは、AIセキュリティの強化を目指しており、最近では3500万ドルの資金を調達しています。Protect AIの創設者であるDaryan (D) Dehghanpisheh氏は、MLSecOps（機械学習セキュリティ運用）の採用を通じて、AIのリスクとセキュリティの脆弱性を把握し、管理することの重要性を強調しています。
LLM Guardプロジェクトは、プロンプトインジェクション攻撃、個人識別情報（PII）の漏洩、有害な言語のリスクに対する入力制御機能を提供します。また、悪意のあるURLなどのリスクに対しても保護する機能を持っています。Protect AIは、LLM Guardの技術をオープンソースとして維持することにコミットしており、さらに商用オファリング「Laiyer AI」を通じて、追加のパフォーマンスと企業向け機能を提供する計画です。
Protect AIは、オープンソースプロジェクトから商用製品へと発展させるアプローチを以前にも採用しており、機械学習モデルのセキュリティリスクを特定するModelScanプロジェクトを主導しています。この技術は、最近発表された商用技術「Guardian」の基盤となっています。
Protect AIの目標は、Radarプラットフォームを中心に、既存のセキュリティツールと統合し、エンタープライズレベルでのAIセキュリティを一元的に管理する全面的なアプローチを提供することです。これにより、企業はAIモデルの開発からデプロイメントに至るまで、様々なリスクから保護されることになります。
この動きは、AIとMLの使用が増加する中で、セキュリティリスクが高まっている現代において、非常に重要です。AI/MLモデルは、プロンプトインジェクション攻撃やデータ漏洩など、新たな脅威にさらされています。Protect AIの取り組みは、これらのリスクを軽減し、企業が安全にAI技術を活用できるようにすることを目指しています。また、オープンソースプロジェクトと商用製品の組み合わせは、技術の進化と共にセキュリティ対策を進化させることを可能にします。これにより、長期的な視点でAIの安全な使用を支援することができるでしょう。
from Protect AI expands efforts to secure LLMs with open source acquisition.
