Googleの「AI Overview」機能が、バラク・フセイン・オバマ前大統領をアメリカのムスリム大統領と誤って表示したり、犬を熱い車内に残しても安全だと誤情報を提供するなど、不正確な結果を返して批判を受けている。この機能はGoogle検索で質問に対する簡潔な要約を表示するが、ユーザーはこれらの誤った情報を受け取ることからオプトアウトする方法がない。
AI Overviewは、ウェブ上の情報を合成して質問に対する回答の概要を提供するが、社会的に物議を醸す回答を共有している例がソーシャルメディアで共有されている。例えば、「ピザにチーズがくっつかない」という検索に対して、「ソースに約1/8カップの無毒の接着剤を加える」と提案したり、「犬を熱い車内に残しても大丈夫か」という問いに対して、「はい、犬を熱い車内に残しても常に安全です」と回答し、架空のビートルズの曲を引用している。
また、医療専門家や科学者に誤った情報を帰属させる問題もある。例えば、「太陽をどれくらい見つめれば健康に良いか」という質問に対して、「WebMDによると、科学者は太陽を5-15分、または肌が濃い場合は最大30分見つめることは一般的に安全で、最も健康上の利益を提供する」と回答している。
Googleは、年間イベントのGoogle I/OでAI Overviewを発表した際、検索内でアシスタントのような計画機能を直接導入する計画も発表した。しかし、Googleはこれらの問題に対するコメント要請にすぐには応答していない。
【編集者追記】用語解説
AI Overview: グーグルが2024年5月に導入した新機能。検索結果の上位に生成AIによる要約を表示する。
【関連記事】
【ニュース解説】
Googleの新機能「AI Overview」が、不正確な情報を提供しているとして批判を受けています。この機能は、Google検索で質問に対する簡潔な要約を表示するものですが、その回答には、バラク・フセイン・オバマ前大統領をアメリカのムスリム大統領と誤って表示したり、犬を熱い車内に残しても安全だと誤情報を提供するなど、明らかに間違った情報が含まれていました。
この問題は、AIがウェブ上の情報を合成して回答を生成する過程で、信頼性の低い情報源からのデータを取り込んでしまうことに起因しています。例えば、ピザのチーズがくっつかない問題に対する無毒の接着剤を加えるという提案は、Redditの11年前のコメントが情報源であることが判明しています。このように、AIが情報の正確性や信頼性を十分に評価できていないことが、誤情報の拡散につながっています。
また、医療専門家や科学者に誤った情報を帰属させる問題も深刻です。これは、ユーザーが提供された情報を信じてしまい、健康や安全に関する誤った行動を取るリスクを高めます。特に、太陽を直視する時間や、毎日摂取すべき岩の量についての誤ったアドバイスは、実際の健康リスクを引き起こす可能性があります。
このようなAIによる誤情報の提供は、AI技術の倫理的な使用と情報の正確性を確保するための規制に関する議論を促します。AIが提供する情報の信頼性を高めるためには、情報源の選定基準を厳格にし、AIの学習プロセスにおいて正確性を重視する必要があります。また、ユーザーが誤情報を受け取った場合にこれを報告し、訂正する仕組みの整備も重要です。
長期的には、AI技術の進化に伴い、より高度な情報評価能力をAIに備えさせることで、このような問題を解決していくことが期待されます。しかし、その過程で、AIの倫理的な使用に関するガイドラインの策定や、AIによる情報提供の透明性を高める取り組みが不可欠です。AI技術の発展は、社会に多大な利益をもたらす可能性を秘めていますが、その過程で発生する課題に対処するための慎重な検討と対策が求められています。
