OpenAIのSora、性差別・人種差別・障害者差別のバイアスが明らかに – AIビデオ生成の影の課題

2025年3月24日8:29

AI（人工知能）ニュース

OpenAIのSora、性差別・人種差別・障害者差別のバイアスが明らかに - AIビデオ生成の影の課題 - innovaTopia - （イノベトピア）

Last Updated on 2025-03-24 11:02 by admin

OpenAIのAIビデオ生成ツール「Sora」に性差別、人種差別、障害者差別のバイアスが存在することがWIREDの調査で判明した。250件のAI生成ビデオを分析した結果、以下の問題点が明らかになった

パイロットやCEO、大学教授は男性として描かれる傾向がある
客室乗務員やレセプショニスト、保育士は女性として描かれる傾向がある
障害者は常に車椅子利用者として描写される
異人種間カップルの生成が難しい
太った人が走っている映像の生成が困難である

OpenAIの広報担当者Leah Anise氏は、バイアスやその他のリスクを研究し削減するための安全チームを持っていると述べている。研究者たちは、AIバイアスは技術的手段だけでは解決できない「厄介な問題」であり、多様な専門家との協力や実際のユーザーによる広範なフィールドテストが必要だと指摘している。

fromOpenAI’s Sora Is Plagued by Sexist, Racist, and Ableist Biases

【編集部解説】

トレーニングデータの偏りが出力に反映される問題は、AIの基本的な仕組みに起因しています。Soraは公開されている動画でトレーニングされていますが、そこに含まれる社会的バイアスがそのまま出力に現れてしまうのです。

特に注目すべきは、Soraが単にバイアスを反映するだけでなく、それを増幅している点です。研究者たちの分析によれば、AIは既存の社会的偏見を単に写し取るだけでなく、さらに強調する傾向があるとされています。

また、Soraの問題は職業的ステレオタイプだけにとどまりません。障害者表現においても、常に車椅子利用者として描かれるなど多様性に欠ける表現が見られます。さらに、異人種間のカップルの生成が難しく、太った人が走っている映像を生成することも困難であるなど、様々な点で現実社会の多様性を反映できていないことが指摘されています。

こうした問題は、AIビデオ生成技術が広告やマーケティングなどの分野で活用される際に、マイノリティグループのステレオタイプ化や存在の消去といった問題をさらに悪化させる可能性があります。

OpenAIはこの問題に対処するため、トレーニングデータの変更やユーザープロンプトの調整によって、バイアスの少ない動画を生成する方法を研究しているとのことです。しかし、カーネギーメロン大学のマールテン・サップ助教授が指摘するように、ユーザーが明示的にステレオタイプを避けようとしても、モデルがユーザーのプロンプトを尊重できないという問題があります。

Soraのようなツールが持つ可能性は計り知れません。映像制作の民主化や創造性の拡大、教育コンテンツの充実など、ポジティブな側面も多くあります。しかし、その一方で誤情報の拡散や偏見の増幅といったリスクも無視できません。

最終的には、AIバイアスの問題は技術だけでなく、社会全体の問題として捉える必要があります。多様な視点を持つ人々がAI開発に関わり、様々な立場からのフィードバックを取り入れることで、より公平で包括的なAIシステムを構築していくことが重要なのではないでしょうか。

【用語解説】

Sora:
OpenAIが開発したAIビデオ生成ツール。テキストの入力から高品質な動画を生成できる。

バイアス:
偏見や先入観のこと。AIの場合、学習データに含まれる社会的偏見が出力に反映されてしまう問題を指す。

トレーニングデータ:
AIモデルを学習させるためのデータセット。Soraの場合、公開されている動画が使用されている。

コンテンツモデレーション:
オンライン上のコンテンツを監視・管理し、不適切なものを取り除く作業。

ストックイメージ効果:
Soraが生成する映像が画一的で多様性に欠ける問題。
AIマルチ問題: AIモデルが人間の多様性よりも均質性を生み出す問題。

【参考リンク】

OpenAI公式サイト（外部）
Soraを開発した企業のウェブサイト。AIに関する最新の研究成果や製品情報が掲載されている。

WIRED（外部）テクノロジーに関する最新ニュースや分析を提供する米国の雑誌サイト。

カーネギーメロン大学（外部）
AI研究で有名な米国の大学。コンピュータサイエンスやロボット工学の分野で世界的に知られている。

【参考動画】

【編集部後記】

AIビデオ生成技術の進化に伴い、私たちの創造力の可能性は広がる一方、社会的バイアスという課題も浮上しています。皆さんは日常生活の中で、どのようなステレオタイプに気づいたことがありますか？また、テクノロジーがそれらを強化するのではなく、多様性を促進するためにはどのような取り組みが必要だと思いますか？AIと共に創る未来について、ぜひSNSでご意見をお聞かせください。