Googleは、同社のGemini AIツールが「不正確な歴史的」画像を生成したことについて説明しました。この問題は、Geminiが人種的に多様なナチスやアメリカ建国の父を描いた画像を生成したことで明らかになりました。GoogleのシニアバイスプレジデントであるPrabhakar Raghavanは、Geminiがさまざまな人々を表示するように調整されたが、明らかに範囲を示すべきでないケースを考慮していなかったと述べています。また、時間が経つにつれて、モデルは意図したよりも慎重になり、特定のプロンプトに完全に応答を拒否するようになりました。

この結果、Gemini AIは一部のケースで「過剰に補償」し、人種的に多様なナチスの画像を生成するなどの問題が発生しました。また、特定の画像、例えば「黒人」や「白人」の画像を生成することを拒否するなど、「過度に保守的」になる結果となりました。

Googleは、Geminiが「誰にとってもうまく機能する」ことを望んでおり、例えば「サッカー選手」や「犬を散歩させる人」の画像を求めたときに、異なるタイプの人々（異なる民族を含む）の描写を得ることを目指しています。しかし、特定のタイプの人物や特定の文化的または歴史的文脈の中での人物の画像を求める場合、要求に正確に反映された応答を得るべきだとしています。

Googleは、Gemini AIツールで人物の画像を生成する機能を2024年2月22日に停止しました。これは、Geminiで画像生成を開始してから数週間後のことです。Raghavanは、GoogleがGemini AIの画像生成能力のテストを続け、それを大幅に改善するために作業を続けると述べています。また、すべての大規模言語モデル（LLM）に共通の課題である「幻覚」について、AIが単に間違いを犯すことがあると指摘しています。これは、Googleが常に改善しようと努力していることです。

【ニュース解説】

GoogleのGemini AIツールが、歴史的に不正確な画像を生成した問題について、同社が説明を行いました。この問題は、Geminiが人種的に多様なナチスやアメリカ建国の父を描いた画像を生成したことで注目を集めました。Googleは、この問題がGeminiの調整の仕方に起因すると説明しています。具体的には、さまざまな人々を表示するように調整されたものの、明らかに範囲を示すべきでないケースを考慮していなかったこと、そして時間が経つにつれてモデルが意図したよりも慎重になり、特定のプロンプトに完全に応答を拒否するようになったことが挙げられます。

この結果、Gemini AIは一部のケースで過剰に補償し、人種的に多様なナチスの画像を生成するなどの問題が発生しました。また、特定の画像、例えば「黒人」や「白人」の画像を生成することを拒否するなど、過度に保守的になる結果となりました。

この問題は、AIが歴史的な文脈や文化的な感度をどのように理解し、反映するかという大きな課題を浮き彫りにしています。AIが多様性を尊重し、正確な情報を提供するためには、単にデータを学習するだけでなく、そのデータがどのような文脈で使用されるべきかを理解する必要があります。この事件は、AIの開発者が直面する倫理的な問題と、AI技術の進歩が社会に与える影響について、改めて考える機会を提供しています。

ポジティブな側面としては、Googleがこの問題に迅速に対応し、Gemini AIの画像生成機能を一時停止し、問題の解決に取り組んでいることが挙げられます。これは、AI技術の責任ある使用と、問題が発生した際の迅速な対応の重要性を示しています。

一方で、このような問題は、AI技術の規制やガイドラインの必要性を示唆しています。AIが社会に広く普及するにつれて、その影響を適切に管理し、誤情報や不適切な内容の拡散を防ぐための枠組みが求められます。

将来的には、AI技術のさらなる進化により、より高度な理解と精度を持ったコンテンツ生成が可能になることが期待されます。しかし、その過程で、技術的な課題だけでなく、倫理的、社会的な課題にも積極的に取り組むことが重要です。この事件は、AI技術の発展がもたらす可能性とリスクの両面を考慮し、バランスの取れた発展を目指す必要があることを示しています。

from Google explains Gemini’s ‘embarrassing’ AI pictures of diverse Nazis.