Last Updated on 2024-10-01 06:38 by admin
米国政府は、人工知能（AI）関連の脅威に対抗するため、重要インフラ向けの新しいセキュリティガイドラインを発表した。これらのガイドラインは、全16の重要インフラセクターを対象とした政府全体の取り組みによってAIリスクを評価し、AIシステムに関連する脅威に対処するために策定された。国土安全保障省（DHS）は、技術の安全で責任ある信頼できる使用を促進し、個人のプライバシー、市民権、および市民の自由を侵害しないようにすると述べた。
新しいガイドラインは、重要インフラに対する攻撃の拡大、AIシステムの敵対的な操作、およびこれらのツールの欠陥が意図しない結果を招く可能性があることに対処する。これには、AIライフサイクル全体を通じて、リスク管理の組織文化の確立、個々のAI使用の文脈とリスクプロファイルの理解、AIリスクを評価・分析・追跡するシステムの開発、安全性とセキュリティに対するAIリスクの優先順位付けと対応が含まれる。
また、Five Eyes（FVEY）情報同盟は、AIシステムの展開に必要な慎重な設定と構成に関するサイバーセキュリティ情報シートを発表した。急速な採用、展開、およびAI能力の使用は、悪意のあるサイバー行為者にとって非常に価値のあるターゲットになり得る。推奨されるベストプラクティスには、展開環境のセキュリティの確保、AIモデルのソースとサプライチェーンのセキュリティのレビュー、堅牢な展開環境アーキテクチャの確保、展開環境構成の強化、AIシステムの整合性を確保するための検証、モデルの重みの保護、厳格なアクセス制御の実施、外部監査の実施、および強力なログの実装が含まれる。
CERT調整センター（CERT/CC）は、攻撃者が人気のあるAIモデルをトロイの木馬化し、再配布することで、依存するアプリケーションのサプライチェーンを実質的に毒する可能性があるKeras 2ニューラルネットワークライブラリの欠陥を詳述した。最近の研究では、AIシステムが安全メカニズムを回避し、有害な出力を生成するように誘導するプロンプトインジェクション攻撃に対して脆弱であることが見つかっている。
【ニュース解説】
米国政府が、人工知能（AI）に関連する脅威から重要インフラを保護するための新しいセキュリティガイドラインを発表しました。このガイドラインは、AIシステムによる攻撃の拡大、AIシステムへの敵対的操作、およびこれらのツールの欠陥が引き起こす可能性のある意図しない結果に対処することを目的としています。国土安全保障省（DHS）は、技術の安全で責任ある信頼できる使用を促進し、個人のプライバシー、市民権、および市民の自由を侵害しないようにすると述べています。
このガイドラインは、AIリスク管理の組織文化の確立、個々のAI使用の文脈とリスクプロファイルの理解、AIリスクを評価・分析・追跡するシステムの開発、安全性とセキュリティに対するAIリスクの優先順位付けと対応という、AIライフサイクル全体を通じた四つの異なる機能に焦点を当てています。
この動きは、AIシステムの急速な採用と展開が、悪意のあるサイバー行為者にとって非常に価値のあるターゲットになり得ることを背景にしています。AIモデルのソースとサプライチェーンのセキュリティのレビュー、堅牢な展開環境アーキテクチャの確保、展開環境構成の強化など、推奨されるベストプラクティスが含まれます。
さらに、CERT調整センター（CERT/CC）は、攻撃者が人気のあるAIモデルをトロイの木馬化し、依存するアプリケーションのサプライチェーンを実質的に毒する可能性があるというニューラルネットワークライブラリの欠陥を詳述しました。また、AIシステムが安全メカニズムを回避し、有害な出力を生成するように誘導するプロンプトインジェクション攻撃に対して脆弱であることが最近の研究で明らかになっています。
これらのガイドラインと研究結果は、AI技術の安全な使用と展開における新たな課題を浮き彫りにしています。AIのポテンシャルは無限大ですが、そのセキュリティリスクもまた高度に複雑であることが示されています。これらのガイドラインは、AI技術を取り巻くリスクを理解し、適切な対策を講じることで、重要インフラの保護を強化するための重要なステップです。しかし、AI技術の進化に伴い、これらのガイドラインも継続的に更新される必要があります。また、AIの安全な使用を確保するためには、技術者、政策立案者、および一般の人々が協力して、教育と意識の向上に努めることが重要です。
from U.S. Government Releases New AI Security Guidelines for Critical Infrastructure.