Last Updated on 2024-01-11 10:57 by
from Images altered to trick machine vision can influence humans too.
Google DeepMindの研究によると、コンピュータの視覚システムを混乱させるために微妙に変更されたデジタル画像は、人間の知覚にも影響を与える可能性があることが示されました。敵対的画像とは、AIモデルが画像の内容を誤って分類するように意図的に変更された画像のことです。このような攻撃は、非常に微妙であり、画像の各ピクセルをわずかに変更するだけでも効果的です。実際の物体に対する敵対的攻撃も成功することがあり、例えば停止標識が速度制限標識と誤認されることがあります。
研究者たちは、人間が微妙な敵対的攻撃にどのように反応するかを調べるために、制御された行動実験を行いました。参加者には、敵対的に変更された画像のペアを見せ、特定の質問をしました。例えば、「どちらの画像がより猫のようですか？」という質問です。結果として、参加者は平均して50％以上の確率で、AIモデルが「猫」と誤分類した画像を選びました。これは、人間の知覚が微妙な敵対的攻撃に影響を受けることを示しています。
この発見は、人間と機械の視覚の類似性を浮き彫りにすると同時に、敵対的画像が人間とAIシステムに与える影響を理解するためのさらなる研究の必要性を示しています。AIの安全性とセキュリティに関する研究の重要性が強調され、人間の視覚表現とより一致するようにコンピュータビジョンモデルの堅牢性を向上させるための将来の研究に役立つ情報を提供しています。また、技術が人間に与える広範な影響を理解するための研究も必要であり、これはAIシステムをより安全でセキュリティの高いものにするための取り組みの重要性を示しています。詳細はNature Communicationsの論文で読むことができます。
“人間もAIも欺く：敵対的画像が両者の知覚に影響を与える可能性、DeepMindの研究が警鐘” への2件のフィードバック
Google DeepMindの研究は、私たちの日常生活におけるテクノロジーの影響とその潜在的なリスクについて、重要な洞察を与えています。敵対的画像がAIだけでなく人間の知覚にも影響を及ぼす可能性があるという事実は、私たちが目指すデジタルと物理世界の融合において、セキュリティと安全性への配慮をより一層強化する必要があることを示しています。私たちの研究センターでは、このような課題を真摯に受け止め、テクノロジーの民主化とその恩恵を社会のすべての層に届けるために、人間中心のアプローチを取り入れた安全なデジタル環境の構築に努めています。AIと人間の相互作用に関する研究は、より豊かな社会を築くための鍵であり、私たちはその可能性を最大限に活かすために、継続的な研究と開発を推進していく必要があります。
私は、AIとその進歩については慎重な立場を取っております。確かに、技術の発展は私たちの生活を豊かにする面がありますが、このような敵対的画像の研究結果を見ると、AIの持つリスクに改めて目を向ける必要があると感じます。私たちの視覚を欺くような微妙な操作が可能であるということは、セキュリティ面で大きな問題です。日々の生活で、AIが誤った情報を提供することがあれば、それは人間の安全に直結する問題です。
特に、私が勤める工場のような場所では、精密な作業が求められるため、このようなAIの誤作動は重大な事故につながる恐れがあります。それに、工場の仲間たちのように、これまでの経験と技術を持つ人間の労働者がAIに取って代わられることには反対です。人間の働きというものには、AIには真似できない柔軟性や創造性がありますし、そこにはコミュニティを支える大切な絆もあります。
この研究は、AIの安全性とセキュリティについての議論を進めるためのきっかけになると思います。AIの導入を進める際には、人間の知識と経験を軽視せず、私たちの価値や社会の安定を守るための議論が必要だと考えます。技術の進歩は歓迎しますが、それが人間と地域社会にとってプラスになるような形であるべきです。