Last Updated on 2024-06-24 07:16 by 門倉 朋宏
シカゴ大学のコンピュータサイエンス研究者によって開発された、アーティストが自身の作品が無断でAIモデルのトレーニングに使用されるのを防ぐためのツール「Nightshade」がリリースされた後、5日間で25万回ダウンロードされました。このツールは、ウェブ上に投稿されたアートワークを微妙に変更し、機械学習アルゴリズムが全く異なる内容を含むと認識するようにすることで、生成AIイメージモデルを「毒する」ことを目的としています。例えば、牛の画像が財布として認識されるように変更されます。これにより、ウェブからスクレイプされた数枚の「シェーディング」された画像でトレーニングされたAIアルゴリズムは、ユーザーが求めるプロンプトや質問から誤ったイメージを生成し始める可能性があります。
Nightshadeの開発者たちは、このツールをリリースすることで、ライセンスされていないデータのトレーニングコストを増加させ、クリエイターから画像をライセンスすることが実行可能な代替手段となることを目指しています。Nightshadeのリリース日は2023年1月18日で、リリース直後には同時ダウンロードの需要がシカゴ大学のウェブサーバーを圧倒し、クリエイターはクラウド上の別の場所からダウンロードできるミラーリンクを追加する必要がありました。
一方、このチームの以前のツールである「Glaze」は、アーティストの独特の「スタイル」をAIモデルが学習するのを防ぐためにピクセルを微妙に変更する機能を持ち、2023年4月のリリース以来220万回ダウンロードされました。The Glaze Projectとして活動するこのチームは、Glaze（防御的）とNightshade（攻撃的）を組み合わせたツールをリリースする意向を以前から表明しており、そのリリースは少なくとも1ヶ月後になる見込みです。同時に、研究者たちはアーティストに対し、まずGlazeを使用してスタイルを保護し、次にNightshadeでAIモデルのトレーニングを妨害することを推奨しています。Nightshadeのオープンソース版のリリースも将来的に検討されています。
【ニュース解説】
シカゴ大学のコンピュータサイエンス研究者たちによって開発された「Nightshade」という新しいツールが、アーティストたちの間で注目を集めています。このツールは、アーティストが自分の作品が無断でAIモデルのトレーニングに使用されるのを防ぐために設計されており、リリースからわずか5日間で25万回もダウンロードされました。Nightshadeは、アートワークを微妙に変更し、機械学習アルゴリズムが全く異なる内容を含むと認識するようにすることで、生成AIイメージモデルを「毒する」ことを目的としています。このような変更により、AIアルゴリズムはユーザーの要求に基づいて誤ったイメージを生成し始める可能性があります。
このツールの開発背景には、AIモデルがアーティストの許可なく作品をトレーニングデータとして使用する問題があります。Nightshadeのリリースにより、ライセンスされていないデータのトレーニングコストを増加させ、クリエイターから画像をライセンスすることが実行可能な代替手段となることが期待されています。
このツールの人気は、アーティストたちが自分の作品を保護するための強い意欲を示していることを物語っています。また、このプロジェクトはグローバルな関心を集めており、ダウンロードは世界中から行われています。さらに、このチームは以前にも「Glaze」というツールをリリースしており、こちらはアーティストの独特のスタイルをAIモデルが学習するのを防ぐために設計されています。Glazeはリリース以来220万回ダウンロードされており、Nightshadeと組み合わせて使用することが推奨されています。
このようなツールの開発と普及は、AI技術の進化とともに生じる新たな課題に対処するための一歩と言えます。アーティストの権利保護とAI技術の健全な発展のバランスを取ることは、今後も重要なテーマとなるでしょう。また、このようなツールが広く使われることで、AIモデルのトレーニングにおけるデータの使用に関する規制やガイドラインの整備が進む可能性もあります。しかし、同時に、AIモデルのトレーニングにおけるデータの質や正確性を確保するための新たな課題も生じるかもしれません。NightshadeのようなツールがAI技術の発展にどのような影響を与えるか、その長期的な影響は今後の研究や議論を待つところです。
from AI poisoning tool Nightshade received 250,000 downloads in 5 days: ‘beyond anything we imagined’.
