Googleは、そのAIモデル「Gemini」が歴史的な描写に対する右翼からの強い反発を受け、人物の画像生成機能を一時停止したことを認めました。Geminiは、バイキングを黒人、建国の父を先住民、ジョージ・ワシントンを黒人として描くなど、歴史的に不正確な画像を生成していたと報告されています。また、アブラハム・リンカーンやジュリアス・シーザー、ガリレオなどの歴史上の人物の画像を一切生成できないというケースもありました。

Googleは2ヶ月前にOpenAIのGPTモデルに対抗するためにGeminiを発表し、先週、大量のオーディオ、テキスト、ビデオ入力を扱えるGemini Pro 1.5のアップデートを限定リリースしました。しかし、Geminiはアポロ11号の乗組員を女性と黒人男性として描くなど、歴史的に誤った画像を生成していました。

Googleのジャック・クラウチック上級製品管理ディレクターは、「GeminiのAI画像生成は多様な人々を生成しており、それは一般的に良いことですが、ここではマークを外しています」と述べ、改善に取り組んでいることを明らかにしました。彼はまた、歴史的な文脈にはより多くのニュアンスがあり、それに対応するためにさらに調整を行うと述べました。

一方、右翼のインターネットトロール、イアン・マイルズ・チョンは、この状況全体をクラウチックが「目覚めた、人種に取りつかれたバカ」とレッテルを貼り、問題を彼に帰したと報じられています。

AI業界はバイアスにどう対処するか試行錯誤しており、表現と多様性の適切なバランスを見つけることは難しいとされています。AIスタートアップHugging Faceの研究者、サーシャ・ルッチョーニは、「バイアスは本当にスペクトラムであり、歴史的な文脈などを考慮しながら正しい音符を打つのは本当に難しい」と述べています。

【ニュース解説】

Googleは、そのAIモデル「Gemini」が歴史的な人物や出来事に関する画像を生成する際に、歴史的に正確でない結果を生み出していたことを認め、この機能を一時停止すると発表しました。例えば、バイキングや建国の父、ジョージ・ワシントンを非白人として描写したり、アポロ11号の乗組員を女性と黒人男性として描くなど、歴史的に不正確な画像が生成されていました。これに対し、右翼からは「反白人バイアス」との批判が寄せられました。

この問題は、AIが歴史的な文脈や精度を理解する上での限界を浮き彫りにしています。AIモデルは、入力されたプロンプトに基づいて画像を生成しますが、その過程で歴史的な正確さを保証するメカニズムが不足していることが明らかになりました。また、この問題は、AIが多様性をどのように表現するか、そしてそのバランスをどのように取るかという、より広い議論を引き起こしています。

AIにおけるバイアスと多様性の問題は、技術が社会に与える影響を考える上で重要です。AIが生成するコンテンツは、世界中の多様なユーザーに影響を与えるため、表現の公平性が求められます。しかし、歴史的な正確さと多様性の表現の間で適切なバランスを見つけることは、技術的にも倫理的にも難しい課題です。

この問題に対する解決策として、AIモデルの訓練において、より広範なデータセットを使用し、歴史的な文脈をより深く理解する能力を高めることが考えられます。また、AIが生成するコンテンツに対する人間の監視と介入を強化することで、誤りを減らし、信頼性を高めることが可能です。

長期的には、AI技術の進化に伴い、これらの問題に対するより洗練されたアプローチが開発されることが期待されます。しかし、その過程で、技術開発者、ユーザー、そして社会全体が、AIの倫理的な使用とその影響について継続的に対話し、考える必要があります。AIのポテンシャルを最大限に活用するためには、技術的な進歩だけでなく、社会的な課題への対応も同時に進めることが重要です。

from Google’s ‘Woke’ Image Generator Shows the Limitations of AI.