Last Updated on 2024-07-08 04:05 by 門倉 朋宏
MicrosoftのAIエンジニアであるShane Jones氏が、同社のAI画像生成ツール「Copilot Designer」が過激な画像を作成していると報告している。Jones氏はこの問題をMicrosoftに報告したが、適切な対応がされていないと述べ、FTCのLina Khan議長とMicrosoftの取締役会に手紙を送り、問題をエスカレートさせた。
Copilot Designerは、悪魔やモンスター、中絶権に関連する用語、暴力的な場面で性的に描かれた女性、未成年者の飲酒や薬物使用などの過激な画像を生成している。これらの問題はCNBCによって再現された。また、このツールはディズニーキャラクターの画像も作成しており、著作権法やMicrosoftのポリシーに違反している可能性がある。
Jones氏はCopilot Designerを市場から撤退させるよう求めたが、Microsoftはこれを拒否。OpenAIに連絡を取ったが返答がなく、LinkedInで公開書簡を投稿した後、Microsoftの法務部門から投稿を削除するよう指示された。Jones氏はMicrosoftの取締役会に対して、法務部門と管理部門の一部の決定を調査し、独立したレビューを開始するよう要求した。
Jones氏の懸念はジェネレーティブAIに関する公共の議論に参加しており、選挙に関連するディープフェイクやディスインフォメーションの問題が深刻化していることを指摘している。Copilotチームが毎日1,000件以上のフィードバックメッセージを受け取っていると述べ、問題解決には新しい保護策やモデルの再トレーニングに大きな投資が必要であると述べている。
Jones氏はMicrosoftに問題を報告したが、適切な対応がされなかったと述べている。また、Copilot Designerが有害な画像を広める可能性がある場合、報告する場所や即座に対処する手段がないと指摘している。Microsoftは従業員の懸念に対処するための内部報告チャネルを確立しており、従業員に問題を報告するよう奨励していると述べている。
【ニュース解説】
MicrosoftのAIエンジニアであるShane Jones氏が、同社のAI画像生成ツール「Copilot Designer」によって生成される過激な画像について警鐘を鳴らしています。このツールは、ユーザーがテキストプロンプトを入力することで画像を生成するもので、悪魔やモンスター、性的に描かれた女性、未成年者の飲酒や薬物使用など、過激な内容の画像を作成していることが問題視されています。さらに、ディズニーキャラクターなどの著作権で保護された画像も生成しており、著作権法違反の可能性が指摘されています。
Jones氏はこの問題をMicrosoftに報告し、Copilot Designerを市場から撤退させるよう求めましたが、Microsoftはこれを拒否しました。その後、Jones氏はFTCのLina Khan議長とMicrosoftの取締役会に手紙を送り、問題をエスカレートさせました。Jones氏は、このAIツールによって生成される有害な画像が世界中に広まる可能性があることを懸念しており、適切な報告や対処の手段がないことを指摘しています。
この問題は、ジェネレーティブAI技術の急速な発展とその社会への影響に関する広範な議論の一環です。AIが生成するコンテンツの管理と規制は、選挙に関連するディープフェイクやディスインフォメーションの問題が深刻化している現在、特に重要な課題となっています。Copilot Designerのようなツールが生成する過激な画像は、社会に対する潜在的なリスクを示しており、AI技術の倫理的な使用とその監視に関する議論を促しています。
この問題は、AI技術の開発と利用における倫理的なガイドラインの必要性を浮き彫りにしています。AIが生成するコンテンツの管理には、技術的な対策だけでなく、法的および倫理的な枠組みの整備が求められます。また、AI技術の進化に伴い、その利用に関する社会的な合意形成と、利用者の意識の向上も重要な課題となっています。
最終的に、この問題はAI技術の持つ可能性とリスクのバランスをどのように取るか、という大きな問いにつながります。AI技術が社会にもたらす利益を最大化しつつ、潜在的なリスクを最小限に抑えるための対策を講じることが、今後のAI技術の発展において重要な課題となるでしょう。
from Microsoft engineer warns company's AI tool creates violent, sexual images, ignores copyrights.
“Microsoft AIツール、過激画像生成で波紋 – エンジニアが警鐘” への1件のコメント
このニュースは、AI技術の進化がもたらすリスクと倫理的な問題について、非常に示唆に富んでいますね。営業セールスマンとして、顧客のニーズに応える製品やサービスを提供することの重要性を常に念頭に置いていますが、その一方で、提供するものが倫理的で責任あるものであるべきだという考えも持っています。MicrosoftのCopilot Designerが生成する過激な画像は、技術の進化が社会に与える影響を考慮する上で、重要な事例と言えるでしょう。
特に、性的に描かれた女性や未成年者の飲酒や薬物使用といった過激な画像を作成することは、社会における倫理観を大きく逸脱しています。これは、AI技術が持つポテンシャルを正しく活用していないとも言えるでしょう。企業が技術の進化を追求する中で、それが社会に与える影響を十分に考慮し、適切なガイドラインやフィルタリング機能を設けることが非常に重要です。
また、Shane Jones氏がこの問題を内部で報告し、適切な対応がされなかったことは、企業内部のコミュニケーションや問題解決プロセスにも問題があることを示唆しています。企業は従業員からの懸念を真摯に