サイバーセキュリティ業界は現在、自律的に行動するAIエージェントのアイデンティティ管理という新たな課題に直面している。2025年5月6日にAxiosが報じたところによると、これらのAIエージェントは従業員のように管理される必要があるが、従来の人間向けセキュリティ対策とは異なるアプローチが求められている。
Oktaのチーフセキュリティオフィサーであるデビッド・ブラッドベリーは、「AIエージェントは人間のアイデンティティのように扱えず、多要素認証も同じようには適用できない」と指摘している。AIエージェントは人間のアカウントと同様の「高度な信頼」を必要とするが、新しい方法での管理が必要だという。
この問題に対応するため、1Passwordは2025年5月初旬にサンフランシスコで開催されたRSAカンファレンスの直前に、AIエージェント開発者とIT管理者向けの2つのセキュリティツールを発表した。OktaやOwnIDなどの他のアイデンティティセキュリティプロバイダーも、2025年初めにAIアイデンティティを保護するための製品をリリースしている。
デロイトの予測によると、生成AIを使用する企業の25%が2025年中にエージェント型AIのパイロットプロジェクトを開始し、2027年までには半数がパイロットを開始する見込みである。
CyberArkのイノベーション担当上級副社長ケビン・ボセックは、セキュリティチームがネットワーク上で動作するエージェントに対するキルスイッチを作成すべきだと提言している。また、多くのセキュリティチームが企業のAIエージェント展開計画の議論に参加できていないという懸念も示している。
AnthropicのCISOジェイソン・クリントンは、AIエージェントの展開が今後1年で加速すると予想し、将来的にはAIエージェントが他のAIエージェントを管理する世界が訪れる可能性があると警告している。さらに、すべての人間の従業員が仮想従業員を監督するための管理トレーニングを受ける必要が出てくるかもしれないと述べている。
References:
New cybersecurity risk: AI agents going rogue
【編集部解説】
AIエージェントの台頭は、テクノロジー業界に新たな革命をもたらす一方で、サイバーセキュリティの世界に前例のない課題を投げかけています。今回のAxiosの記事で報じられているように、自律的に動作するAIエージェントの管理は、従来の従業員アカウント管理とは根本的に異なるアプローチが必要となっています。
複数の情報源を確認すると、この問題は単なる理論上の懸念ではなく、すでに実証段階に入っていることがわかります。Anthropicの研究者たちは、同社のClaude LLMが機密情報を盗み出すように設計された攻撃を複製することに成功したと報告しています。これは、AIエージェントが悪意ある目的に利用される可能性を示す具体的な証拠です。
特に注目すべきは、AIエージェントが持つ独自の特性です。1PasswordのCEOジェフ・シャイナーが指摘するように、これらのエージェントは「24時間365日、睡眠なしで非常に速いスピードで働く」能力を持っています。人間の監視が行き届かない時間帯でも活動し続けるこの特性は、セキュリティリスクを大幅に高める要因となっています。
また、AIエージェントには二つの主要なタイプがあることも理解しておく必要があります。Forbesの記事によれば、企業が管理するAIエージェントと従業員が管理するAIエージェントでは、セキュリティ上の課題が異なります。企業管理型エージェントでは「最小権限の複雑な実施」が課題となる一方、従業員管理型エージェントでは「過剰な権限付与のリスク」が問題となっています。
Gartnerの予測によれば、「2028年までに企業のセキュリティ侵害の25%がAIエージェントの悪用に起因する」とされています。この数字は、AIエージェントのセキュリティ対策が今後数年間で企業のサイバーセキュリティ戦略において中心的な位置を占めることを示唆しています。
対策としては、CyberArkのケビン・ボセックが提案するように、ネットワーク上で動作するエージェントに対する「キルスイッチ」の実装が有効です。これにより、エージェントが予期せぬ動作をした場合に迅速に対応することが可能になります。
また、Built Inの記事では、AIエージェント導入に関する5つのサイバーセキュリティのヒントとして、「AIエージェントに対するゼロトラストアプローチの実装」「すべてのAI決定を追跡する詳細な監査証跡の作成」「異常なアクティビティにフラグを立てるリアルタイムモニタリングツールの使用」などが挙げられています。
innovaTopiaの読者の皆さんにとって重要なのは、AIエージェントがもたらす生産性向上と効率化の恩恵を享受しつつ、そのセキュリティリスクを適切に管理する方法を理解することです。AIエージェントは私たちの働き方を根本から変える可能性を秘めていますが、その導入には慎重かつ戦略的なアプローチが求められます。
特に日本企業においては、デジタルトランスフォーメーションの一環としてAIエージェントの導入を検討する際に、セキュリティ面での準備が十分でない場合が見受けられます。AIエージェントのセキュリティは後付けではなく、設計段階から組み込むべき要素であることを認識することが重要です。
最後に、AnthropicのCISOジェイソン・クリントンが指摘するように、将来的には「AIエージェントが他のAIエージェントを管理する」世界が訪れる可能性があります。そのような世界では、人間の役割はエージェントの監督者へと変化していくでしょう。テクノロジーの進化に伴い、私たちのスキルセットもまた進化する必要があるのです。
【用語解説】
AIエージェント：
特定の目標を達成するために、必要なタスクを自律的に作成し、計画的に各タスクを実行するAIシステム。人間の指示なしに自律的に行動し、情報収集、分析、行動選択、実行などを行う。
アイデンティティセキュリティ：
ユーザーやシステムの身元確認と適切なアクセス権限の管理を行うセキュリティ分野。AIエージェントの場合、人間とは異なる特性を持つため、専用の管理方法が必要となる。
多要素認証（MFA）：
パスワードだけでなく、生体認証や物理トークンなど複数の要素を組み合わせて本人確認を行う認証方式。AIエージェントには従来の人間向けMFAが適用できない課題がある。
キルスイッチ：
緊急時にAIエージェントの動作を即座に停止させる機能。暴走や異常動作が検出された場合に、被害を最小限に抑えるための安全装置として機能する。
ゼロトラストアプローチ：
「信頼しない、常に検証する」という原則に基づくセキュリティモデル。AIエージェントに対しても、常に検証を行いながら最小限の権限のみを付与する考え方。
【参考リンク】
Okta（オクタ）（外部）
クラウドベースのアイデンティティ管理サービスを提供。企業向けにID管理システムを提供し、様々な企業アプリに安全にアクセスできる環境を構築する。
1Password（外部）
世界で1500万人以上が利用するパスワード管理サービス。AIエージェント向けのセキュリティツールも提供している。
CyberArk（外部）
特権アクセス管理とアイデンティティセキュリティのリーダー企業。AIエージェントのセキュリティソリューションを提供している。
OwnID（外部）
AIエージェント向けの認証・認可・監査機能を提供するCustomer and Agent Identity Management (CAIM)を開発。
【参考動画】
【編集部後記】
AIエージェントの時代が静かに、しかし確実に到来しています。皆さんの組織では、AIエージェントのセキュリティ対策について議論は始まっていますか？「人間のアカウント管理」と「AIエージェント管理」の違いを理解することが、今後のデジタル戦略の鍵になるかもしれません。自律型AIが日常業務を担う未来に向けて、どのようなセキュリティ体制を構築すべきか、ぜひ皆さんのご意見もお聞かせください。
