Last Updated on 2025-05-29 08:28 by admin

2025年5月29日、Protect AIのCISOダイアナ・ケリーは、AIの安全な活用には既存のサイバーセキュリティの段階的強化では不十分であり、CISAが2023年4月から推進するセキュア・バイ・デザイン原則の導入が必要と述べた。

AI特有の脅威にはデータポイズニング、プロンプトインジェクション、モデルデシリアライゼーションがあり、これらに対してMLSecOpsを通じた開発ライフサイクル全体でのセキュリティ統合が重要である。

2025年1月時点で267社の企業がCISAのセキュア・バイ・デザイン宣誓に署名し、業界全体での取り組みが加速している。

From: Implementing Secure by Design Principles for AI

【編集部解説】

今回のProtect AIによる提言は、AI業界が直面している根本的な課題を浮き彫りにしています。検索結果から明らかになったのは、2025年1月時点で267社もの企業がCISAのセキュア・バイ・デザイン宣誓に署名していることで、この動きが単なる理論ではなく実践的な業界標準となりつつあることです。

MLSecOpsの概念は、従来のDevSecOpsをAI領域に拡張したもので、機械学習ワークフロー全体にセキュリティ原則を組み込む手法です。これは「ボルトオン セキュリティ」と呼ばれる後付けアプローチの限界を克服する重要な転換点といえます。

データポイズニング攻撃について、Ciscoの2025年AIセキュリティレポートでも重要な脅威として位置づけられており、LLMとAIシステムを標的とする新たな攻撃ベクトルの一つとして警戒が強まっています。特に自動運転車や医療診断AIなど、人命に関わるシステムでは致命的な影響を与える可能性があります。

国際的な動向として、英国サイバーセキュリティセンター（NCSC）とCISAが共同策定した「安全なAIシステム開発のためのガイドライン」に日本を含む18カ国が署名しており、AIセキュリティが国際的な安全保障課題として認識されています。

日本国内でも、金融庁が2025年4月にセキュリティ・バイ・デザインの実践を金融機関に求めるガイドラインを発表するなど、規制面での対応が本格化しています。デジタル庁も政府情報システムにおけるセキュリティ・バイ・デザインガイドラインを策定し、企画・設計段階でのセキュリティリスク分析を最優先事項として位置づけています。

自律的AI（Agentic AI）の普及により、セキュリティリスクはさらに複雑化しています。NECが2025年度上期からAgentic AIを活用したセキュリティサービスの提供を開始するなど、日本企業も積極的な対応を進めています。

長期的な視点では、セキュア・バイ・デザインの実践により初期開発コストは増加しますが、Ivantiの分析によると、ダウンタイムとパッチ適用の最小化により最大投資収益率（ROI）の向上が期待されます。これは企業にとって戦略的な競争優位性の源泉となる可能性があります。

【用語解説】

セキュア・バイ・デザイン宣誓
CISAが2023年4月から推進する取り組みで、ソフトウェアベンダが7つの目標に対して自社製品のセキュリティ改善を自主的に誓約する活動。2025年1月時点で267社が署名している。

MLSecOps（Machine Learning Security Operations）
DevSecOps原則を機械学習ワークフローに拡張したセキュリティ運用手法。開発から運用まで一貫してセキュリティを組み込む概念。

データポイズニング
AIモデルの訓練データに悪意のあるサンプルを混入させ、モデルの判断を意図的に歪める攻撃手法。自動運転車や医療診断AIなど重要システムでは致命的影響を与える可能性がある。

プロンプトインジェクション
大規模言語モデル（LLM）に対して、一見無害な質問の中に隠されたコマンドを埋め込み、AIの安全制限を回避させる攻撃技術。

自律的AI（Agentic AI）
限られた監督下で特定の目標を達成できる人工知能システム。人間の介入なしに判断・行動できるため、侵害時の連鎖的被害リスクが高い。

ボルトオン セキュリティ
製品開発後にセキュリティ機能を後付けする従来手法。コアとなる製品と追加機能の結合部分が攻撃対象となりやすい欠陥がある。

【参考リンク】

Protect AI（外部）
AIセキュリティに特化した包括的なプラットフォームを提供する企業。Guardian、Recon、Layerの3つの製品でAIアプリケーションを開発から運用まで一貫してセキュリティ保護する。

CISA（サイバーセキュリティ・インフラストラクチャセキュリティ庁）（外部）
米国国土安全保障省の一部門として2018年に設立。2023年4月からセキュア・バイ・デザインイニシアチブを推進し、267社の企業が宣誓に署名している。

NRIセキュアテクノロジーズ（外部）
日本でCISAセキュア・バイ・デザイン宣誓に署名したセキュリティ専門企業。2025年3月に宣誓への取り組みを公表し、業界のリーダーシップを発揮している。

Ivanti（外部）
CISAセキュア・バイ・デザイン宣誓に初めて署名した企業の一つ。統合エンドポイント管理（UEM）ソリューションを提供し、セキュア・バイ・デザイン原則の実践事例として注目されている。

【参考動画】

【編集部後記】

皆さんの組織では、AIシステムのセキュリティ対策はどのように進んでいるでしょうか。267社が署名したCISAの宣誓のように、業界全体でセキュア・バイ・デザインへの転換が加速しています。もし皆さんがAI導入を検討されているなら、ベンダーがこの宣誓に参加しているかを確認してみてはいかがでしょうか。また、自律的AIが普及する未来において、私たちはどのような新しいリスクと機会に備えるべきでしょうか。ぜひ皆さんの現場での体験や課題をお聞かせください。

【参考記事】

AI Security: 2025 Predictions & Recommendations – HiddenLayer

What is Machine Learning Security Operations (MLSecOps)? – CrowdStrike

How To Secure AI With MLSecOps – Protect AI

【関連記事】

AI(人工知能)ニュースをinnovaTopiaでもっと読む