Last Updated on 2024-01-30 11:37 by admin
Microsoftは、Taylor Swiftのディープフェイクを作成するために使用されたオンラインの無料デザイナーAIイメージジェネレーターを更新し、有名人を模した不適切なシナリオの画像の生成を防ぐ措置を講じました。この更新は、Microsoftのサービス契約に違反して、X、Reddit、その他のウェブサイトやソーシャルプラットフォームで流通し始めたTaylor Swiftの露骨なディープフェイクシリーズが発端となっています。MicrosoftのCEO、Satya Nadellaは、オンラインの世界を安全な場所にすることの重要性を強調し、AIディープフェイクに関する新しい法律や規制の必要性について法制化との協力の可能性を示唆しました。
また、米国の俳優を代表する労働組合SAG-AFTRAは、ソースの同意なしに露骨なディープフェイクを拡散することを連邦犯罪とし、罰金や最大10年の懲役を科す「Preventing Deepfakes of Intimate Images Act」という新法案を支持しています。この法案は現在委員会にあり、成立するためには下院と上院の両方の承認と米国大統領の署名が必要です。Microsoftは、有名人の名前をわずかに誤字することで回避されていた制限を強化しましたが、批評家からはこれらの措置が不十分であるとの声も上がっています。Microsoftのこの動きは、有名人だけでなく、声を上げるプラットフォームを持たない多くの女性や子供たちの保護も求められています。
【ニュース解説】
Microsoftが、Taylor Swiftのディープフェイク画像がインターネット上で拡散されたことを受け、自社の無料オンラインデザイナーAIイメージジェネレーターの更新を行いました。この更新は、有名人を模した不適切なシナリオの画像生成を防ぐことを目的としています。この問題は、Microsoftのサービス契約に違反する内容であり、オンラインの安全性を確保するための迅速な対応が求められています。
この事態は、AI技術の進化に伴う新たな課題を浮き彫りにしています。ディープフェイク技術は、人物の顔や声を非常にリアルに模倣することが可能であり、これが悪用されるとプライバシーの侵害や名誉毀損などの深刻な問題を引き起こす可能性があります。特に公共の人物や有名人は、その影響力を悪用されやすい対象となり得ます。
このような背景から、オンラインの安全性を確保し、ディープフェイクによる被害を防ぐためには、技術的な対策だけでなく、法律や規制による対応も必要とされています。例えば、SAG-AFTRAが支持する「Preventing Deepfakes of Intimate Images Act」のような法案は、ディープフェイクによる被害を具体的に取り締まるための一歩となります。この法案が成立すれば、同意なしに露骨なディープフェイクを拡散する行為を連邦犯罪として処罰することが可能になります。
しかし、技術の進化は常に法律や規制の枠を超える速さで進んでいます。そのため、法律や規制だけでなく、技術開発者やプラットフォーム運営者が責任を持って対策を講じることが重要です。Microsoftが行ったように、AIツールの使用条件を厳格化することや、不適切なコンテンツの生成を防ぐための技術的な制限を設けることが、その一例と言えるでしょう。
一方で、批評家からは、Microsoftの対応が有名人に限定されており、一般の人々の保護が不十分であるとの指摘もあります。ディープフェイク技術の悪用は、有名人だけでなく、一般の人々にも深刻な影響を及ぼす可能性があるため、より包括的な対策が求められています。
最終的に、ディープフェイク技術による問題への対応は、技術者、法律家、政策立案者、そして社会全体の協力が必要です。技術の進歩がもたらす利便性とともに、その潜在的なリスクに対しても、常に注意を払い、適切な対策を講じることが求められます。
from Microsoft adds new restrictions to Designer AI used to make Taylor Swift deepfakes.
