ジョージア工科大学の研究者による新しい研究で、大規模言語モデル（LLM）が西洋文化に対して顕著な偏りを示していることが明らかになった。この研究は、アラビア語でプロンプトされた場合や、アラビア語のデータのみで訓練された場合でも、西洋文化に関連するエンティティや概念に偏りを示すことを発見した。研究結果は、これらのAIシステムが世界中で展開されるにつれて、文化的公正性と適切性に関する懸念を提起している。

研究者たちは、文化的偏りを体系的に評価するために、CAMeL（LMのための文化的適切性測定セット）という新しいベンチマークデータセットを導入した。このデータセットは、人名、食品、衣類、宗教的な場所など、8つのカテゴリにわたる20,000以上の文化的に関連するエンティティで構成されており、アラブ文化と西洋文化を対比することを可能にしている。

CAMeLを利用して、GPT-4を含む12種類の異なる言語モデルのクロスカルチャー性能を、物語生成、固有表現認識（NER）、感情分析などのタスクで評価した。研究者たちは、LLMの開発者が異なる文化からのデータラベラーを雇用し、人間の好みに合わせてLLMを微調整するプロセスで、文化的偏りを減らす必要があると提案している。

また、LLMにおける文化的偏りの潜在的な原因の一つとして、Wikipediaデータのプレトレーニングでの重用が指摘されている。研究者たちは、Wikipediaが世界中の編集者によって作成されているにもかかわらず、西洋文化の概念が非西洋言語に翻訳されることが多いと説明している。

この研究は、研究者、AI開発者、政策立案者が協力してLLMによってもたらされる文化的課題に取り組む必要性を強調している。文化的公正を優先し、文化的に意識のあるAIシステムの開発に投資することで、世界的な理解を促進し、世界中のユーザーにより包括的なデジタル体験を提供することができる。

【ニュース解説】

ジョージア工科大学の研究者による新たな研究で、大規模言語モデル（LLM）が西洋文化に対して顕著な偏りを示していることが明らかにされました。この研究は、アラビア語でのプロンプトやアラビア語データのみを用いた訓練であっても、LLMが西洋文化に関連するエンティティや概念を好む傾向があることを発見しました。この結果は、これらのAIシステムが世界中で使用されるにつれて、文化的な公正性や適切性に関する懸念を提起しています。

研究チームは、文化的偏りを体系的に評価するために、CAMeL（LMのための文化的適切性測定セット）という新しいベンチマークデータセットを導入しました。このデータセットは、人名、食品、衣類、宗教的な場所など、8つのカテゴリにわたる20,000以上の文化的に関連するエンティティで構成されており、アラブ文化と西洋文化を対比することを可能にしています。

CAMeLを利用して、GPT-4を含む12種類の異なる言語モデルのクロスカルチャー性能を、物語生成、固有表現認識（NER）、感情分析などのタスクで評価しました。この研究は、LLMの開発者が異なる文化からのデータラベラーを雇用し、人間の好みに合わせてLLMを微調整するプロセスで、文化的偏りを減らす必要があることを示唆しています。

また、LLMにおける文化的偏りの潜在的な原因として、Wikipediaデータのプレトレーニングでの重用が指摘されています。Wikipediaは世界中の編集者によって作成されているものの、西洋文化の概念が非西洋言語に翻訳されることが多いという問題があります。

この研究は、研究者、AI開発者、政策立案者が協力してLLMによってもたらされる文化的課題に取り組む必要性を強調しています。文化的公正を優先し、文化的に意識のあるAIシステムの開発に投資することで、世界的な理解を促進し、世界中のユーザーにより包括的なデジタル体験を提供することができます。

この研究の重要なポイントは、AI技術の発展において、単に技術的な進歩だけでなく、文化的な多様性や公正性にも目を向ける必要があるということです。文化的な偏りを減らすための取り組みは、AIがより公平で包括的なものになるための重要なステップとなります。

from Large language models exhibit significant Western cultural bias, study finds.