オックスフォード大学とケンタッキー大学の研究チームが2,030万件のChatGPTクエリを分析した結果、ChatGPTが体系的に裕福な西洋地域を優遇し、既存の世界的格差を反映・強化していることが判明した。
「どこの人々がより賢いか」といった質問に対し、米国、西ヨーロッパ、東アジアの一部などの高所得地域が「より良い」「より賢い」と評価される一方、アフリカ、中東、アジアやラテンアメリカの一部は最下位にランク付けされた。研究者らは、これらの偏見は単なるエラーではなく生成AIの構造的特徴であり、availability（入手可能性）、pattern（パターン）、averaging（平均化）、trope（慣用表現）、proxy（代理）という5つの相互接続された偏見が原因だと指摘している。研究成果はPlatforms and Societyに掲載され、誰でもinequalities.aiで自国のランキングを確認できる。
From: 
ChatGPT found to reflect and intensify existing global social disparities
【編集部解説】
今回の研究が明らかにしたのは、Large Language Models（LLM、大規模言語モデル）の偏見が技術的なバグではなく、構造的な問題であるという点です。研究チームが特定した5つの偏見のメカニズムのうち、入手可能性の偏見は特に重要で、英語コンテンツが豊富な地域ほど詳細な情報がトレーニングデータに含まれるため、より肯定的な評価を受けやすくなります。これは単なる言語の問題ではなく、何世紀にもわたる情報生産の不均衡が反映された結果といえます。
この研究が示す影響範囲は広範です。研究では都市レベルの分析も行われており、ロンドン、ニューヨーク、リオデジャネイロの地域ランキングが、コミュニティの実態ではなく既存の社会的・人種的分断と一致していることが示されました。これは、AIが医療、雇用判断、公共サービスなどの分野で使用される際、マイノリティや低所得地域の人々に対して不利な結果をもたらす可能性を示唆しています。
OpenAIは、この研究が古いバージョンの技術を使用しており、最新のChatGPTには追加の安全対策が施されていると反論しています。しかし研究者らは、これらの偏見はガードレールで対処できる表面的な問題ではなく、生成AIの本質的な特徴だと主張しています。なお、この研究は英語プロンプトのみを対象としており、他言語ではさらに異なる偏見が存在する可能性があります。
長期的には、AIシステムが意思決定プロセスにますます組み込まれる中で、これらの偏見が増幅され、既存の格差がさらに拡大する懸念があります。特定の地域や国に対するネガティブな評価が繰り返し生成されることで、それが事実として広まり、投資判断や政策決定に影響を与える可能性も指摘されています。研究チームは、開発者による透明性の向上と、モデルの動作を独立して監査できるフレームワークの必要性を訴えています。
【用語解説】
Oxford Internet Institute
オックスフォード大学に属する学際的研究機関。インターネットが社会、政治、経済に与える影響を研究している。
Platforms and Society
デジタルプラットフォームが社会に与える影響を扱う学術ジャーナル。技術と社会の相互作用に関する査読付き論文を掲載する。
availability bias（入手可能性の偏見）
情報が豊富に存在する対象ほどAIが肯定的に評価する傾向。英語圏や先進国の情報が多いため、これらの地域が優遇される。
pattern bias（パターンの偏見）
訓練データに繰り返し現れるパターンをAIが学習し、それを再現する傾向。歴史的な不平等がデータに反映されていると、それが強化される。
averaging bias（平均化の偏見）
多様な情報を平均化する過程で、支配的な視点が優先され、少数派の視点が薄まる傾向。
trope bias（慣用表現の偏見）
特定の地域や集団に対するステレオタイプがデータに含まれており、AIがそれを再現する傾向。
proxy bias（代理の偏見）
直接的な属性の代わりに相関関係のある別の指標を使用することで生じる偏見。例えば所得水準が教育レベルの代理指標として使われる。
inequalities.ai
今回の研究チームが公開したウェブサイト。自分の国や都市がChatGPTにどうランク付けされているか確認できるツール。
【参考リンク】
Oxford Internet Institute（オックスフォード・インターネット・インスティテュート）公式サイト（外部）
オックスフォード大学のインターネット研究機関。今回の研究を発表した組織の公式サイトで、研究内容の詳細やその他の関連研究を閲覧できる。
inequalities.ai（外部）
研究チームが公開したインタラクティブツール。世界中の国、都市、地域がChatGPTによってどのようにランク付けされているかを、食べ物、文化、安全性などのトピック別に確認できる。
Platforms and Society（外部）
今回の研究論文が掲載された学術ジャーナル。デジタルプラットフォームと社会の関係に関する最新の研究成果を提供している。
【参考記事】
New study finds that ChatGPT amplifies global inequalities – Oxford University（外部）
オックスフォード大学の公式発表。2,030万件のChatGPTクエリを分析し、AIが裕福な西洋地域を体系的に優遇していることを明らかにした研究の概要を紹介している。
New study finds that ChatGPT amplifies global inequalities – Oxford Internet Institute（外部）
研究を実施したOxford Internet Instituteによる詳細な発表。5つの偏見メカニズムと、それらがどのように相互作用して格差を増幅させるかを解説している。
‘The Silicon Gaze’: ChatGPT rankings skew toward rich Western nations, research shows – Euronews（外部）
欧州メディアによる報道。研究が英語プロンプトのみを対象としている点や、OpenAIが最新バージョンには安全対策が施されていると反論している点を伝えている。
ChatGPT rankings skew toward rich Western nations, research shows – Yahoo News（外部）
研究の主要な発見を報じるとともに、AIが医療、雇用、公共サービスなどの分野で使用される際の潜在的リスクについて言及している。
ChatGPT labels UK’s poorer areas as ‘most racist’ and ‘stupid’ – Eastern Eye（外部）
英国内の地域レベルでの偏見を具体的に報じた記事。ChatGPTが貧困地域に対してネガティブなラベルを付ける傾向があることを指摘している。
【編集部後記】
AIの偏見が単なる技術的な調整では解決できない構造的問題だという指摘は、生成AIの限界を改めて認識させます。特に気になるのは、これらのシステムが既に医療診断や人事評価、融資審査などの重要な意思決定に組み込まれ始めている点です。偏見を持つAIが下した判断を人間が無批判に受け入れれば、格差はさらに固定化されるでしょう。一方で、開発者側の透明性向上や独立監査の仕組みは実現可能なのでしょうか。また、英語以外の言語ではどのような偏見が存在するのか、日本語でのバイアスについても知りたいところです。AIに何を任せ、何を人間が判断すべきか、線引きの議論が急務かもしれません。
