【ダイジェスト】
英国のサイバーセキュリティ機関である国家サイバーセキュリティセンター（NCSC）は、人工知能（AI）の進化により、詐欺メールが本物のように見えるようになると警告しています。AIが生み出す高度なフィッシング攻撃により、一般のユーザーが本物のメールと詐欺メールを見分けることが困難になるというのです。
特に、ジェネレーティブAIと呼ばれる技術は、簡単なプロンプトから説得力のあるテキスト、音声、画像を生成することができ、ChatGPTのようなチャットボットやオープンソースモデルを通じて広く一般に利用可能になっています。これにより、アマチュアのサイバー犯罪者でも洗練された攻撃を行うことが可能になり、サイバー攻撃の量と影響が今後2年間で「ほぼ確実に」増加するとNCSCは予測しています。
この技術は、スプーフィングやソーシャルエンジニアリングといった攻撃の特定を複雑にするだけでなく、ランサムウェア攻撃の増加も予想されています。ランサムウェアは、過去にイギリス図書館やロイヤルメールなどの機関を襲っており、被害者のコンピューターシステムを麻痺させ、機密データを抽出し、暗号通貨での身代金を要求するものです。
AIは、翻訳やスペル、文法の誤りが少ない偽の「誘導文書」を作成することで、潜在的な被害者へのアプローチをより説得力のあるものにしています。しかし、ランサムウェアのコードの効果を高めるわけではなく、ターゲットの特定と選定を助けるとされています。
一方で、国家レベルのアクターは、セキュリティ対策を回避する新しいコードを生成するために特別に作成されたAIモデルを訓練するためのマルウェアを十分に保有している可能性があります。NCSCは、高度なサイバー作戦でAIの潜在能力を活用するには、国家レベルのアクターが最も適していると述べています。
それでも、AIは防御ツールとしても機能し、攻撃を検出し、より安全なシステムを設計する能力を持っています。英国政府は、企業がランサムウェア攻撃からの回復をより良く装備するよう促す新しいガイドライン「サイバーガバナンス実践コード」を設定しました。これは情報セキュリティを財務や法的管理と同じレベルに置くことを目指しています。
しかし、サイバーセキュリティの専門家たちは、より強力な対策を求めています。NCSCの元責任者であるキアラン・マーティンは、公共機関と民間企業がランサムウェアの脅威に対するアプローチを根本的に変えない限り、イギリス図書館の攻撃のような重大なインシデントが今後5年間で発生する可能性があると述べています。彼は、ランサムの支払いに関するより厳格な規則の策定や、敵対的な国に拠点を置く犯罪者に対する「反撃」の「幻想」を捨てることを含む、ランサムウェアへのアプローチを再評価する必要があると主張しています。
【ニュース解説】
英国の国家サイバーセキュリティセンター（NCSC）は、人工知能（AI）の技術進歩により、詐欺メールが本物に見えるようになり、一般のユーザーが本物のメールと詐欺メールを見分けることが困難になると警告しています。AIによって生成されるテキスト、音声、画像はますますリアルになり、ChatGPTのようなチャットボットやオープンソースモデルを通じて広く利用可能になっています。
この技術の進化により、サイバー攻撃の量と影響が増加すると予測されており、特にジェネレーティブAIと呼ばれる技術が、スプーフィング（なりすまし）やソーシャルエンジニアリング（人を騙して情報を得る手法）などの攻撃をより巧妙にし、識別を難しくしています。
ランサムウェア攻撃も増加すると見られており、これは被害者のコンピューターシステムを麻痺させ、機密データを抽出し、身代金を要求するものです。AIは、これまで詐欺メールによく見られた翻訳やスペル、文法の誤りを減らすことで、より説得力のある偽の文書を作成し、被害者を騙す手助けをしています。
国家レベルのアクターは、セキュリティ対策を回避する新しいマルウェアを生成するためのAIモデルを訓練する能力を持っている可能性があり、高度なサイバー作戦でAIを活用することができます。
しかし、AIは攻撃を検出し、より安全なシステムを設計するという防御面でも利用されています。英国政府は、企業がランサムウェア攻撃からの回復をより良く装備するための新しいガイドラインを設定し、情報セキュリティを財務や法的管理と同じレベルに置くことを目指しています。
サイバーセキュリティの専門家は、ランサムウェアの脅威に対するアプローチを根本的に変えること、ランサムの支払いに関するより厳格な規則の策定、敵対的な国に拠点を置く犯罪者に対する反撃の幻想を捨てることなど、より強力な対策を求めています。
from AI will make scam emails look genuine, UK cybersecurity agency warns.
“AIフィッシング警報: 英国セキュリティ機関が警鐘” への2件のフィードバック
AI技術の進歩がもたらす可能性は、教育の分野だけでなく、セキュリティの領域でも非常に大きなものです。私たち教育者が学生たちに最新のテクノロジーを教える一方で、その技術が悪用されるリスクも非常によく理解しておく必要があります。NCSCが指摘するように、AIを使ったフィッシング攻撃は非常に巧妙であり、教育現場でも生徒たちを守るためのサイバーセキュリティ教育の重要性が増しています。
AIによる攻撃がリアルになると、私たち一人ひとりがインターネット上で直面する危険が増大します。これは一般ユーザーだけでなく、学校のような公共機関にとっても深刻な問題です。私たちのコミュニティや学校を守るためには、AIのポジティブな活用方法を教えるだけでなく、そのリスクを理解し、適切なセキュリティ対策を講じることが不可欠です。
また、教育者として、私たちは生徒たちに、テクノロジーがもたらす利便性とともに、それがどのように社会に影響を与えるかについても教える責任があります。AIの進歩は、私たちの生活を豊かにするだけでなく、新たな脅威を生み出すこともあるため、バランスの取れた理解を深めることが求められています。
AIの進化が、詐欺メールのようなサイバー攻撃をより高度化させ、識別を難しくしているという報告は、私たちのような小さな町工場にとっても重要な問題です。私たちの業務は、高度なIT技術を駆使するものではありませんが、それでも、オフィスのコンピュータやメールシステムは日常業務に欠かせないものです。詐欺メールが本物のように見えるようになれば、私たちのような一般のユーザーが騙されるリスクは高まります。
AIが防御ツールとしても機能するという点は希望的ですが、それに頼るだけではなく、私たち自身もサイバーセキュリティに対する意識を高め、日々の行動に注意を払う必要があるでしょう。また、企業や組織がランサムウェア攻撃からの回復をより良く装備するためのガイドラインを設定することは、私たち小さな工場にとっても学ぶべき点が多いと感じます。地域社会の安定と連帯を重んじる私たちにとって、コミュニティ全体でサイバーセキュリティの知識を共有し、互いを支援する体制を築くことが、今後の大きな課題になるでしょう。