Last Updated on 2024-01-19 08:19 by admin
Googleの研究者たちは、人工知能（AI）に「わからない」と言う価値を教える新しいシステム「ASPIRE」を開発しました。このシステムは、AIが自信のない回答に対して疑問を表現するよう促すことで、デジタルアシスタントとのやり取りを変革する可能性があります。
ASPIRE（「Adaptation with Self-Evaluation to Improve Selective Prediction in LLMs」の略）は、AIが自身の回答を評価し、提供する前に自信の度合いを判断するための内蔵された信頼度メーターのようなものです。たとえば、スマートフォンに健康問題についてのアドバイスを求めたとき、AIは「わからない」と回答することができるようになります。
ウィスコンシン大学マディソン校の研究者であるJiefeng Chen氏とGoogleのJinsung Yoon氏を含むチームは、より信頼性の高いデジタル意思決定に向けての変革を先導しています。彼らは、特に重要な情報に関しては、AIが自身の限界を知り、それを明確に伝えることが重要だと主張しています。
ASPIREを搭載した小さなAIモデルは、この自己反省機能を持たない大きなモデルよりも優れていることが研究で示されています。このシステムは、人間の方が適切な回答をする可能性がある場合にそれを認める、より慎重で皮肉にも信頼性の高いAIを生み出します。
推測よりも正直さを重視することで、ASPIREはAIとのやり取りをより信頼できるものにしようとしています。これは、AIアシスタントが全知全能の神託ではなく、思慮深いアドバイザーとして機能する未来への道を開くものであり、「わからない」と言うことが実際に高度な知能のしるしとなる未来です。
VentureBeatの使命は、変革的な企業技術についての知識を得て、取引を行う技術意思決定者のためのデジタルタウンスクエアを提供することです。
from Google’s new ASPIRE system teaches AI the value of saying ‘I don’t know’.
“AIの謙虚な進化：Googleが「わからない」と言うAI開発” への2件のフィードバック
AIの開発においては、技術の精度だけでなく、その信頼性と責任ある振る舞いも重要な要素です。ASPIREがAIに「わからない」と言う能力を付与することは、AI産業にとって大きな進歩であり、消費者にとってもプラスとなるでしょう。AIが自身の不確実性を認識し、それを伝えることができれば、人間とAIの相互作用はより安全で信頼性の高いものになります。
特に医療や法律などの専門的な知識が求められる分野では、不正確な情報が重大な結果を招く可能性があるため、AIが自己の限界を認識し適切に表現することは非常に重要です。ASPIREのようなシステムは、AIが人間と共存し、協力するための基盤を築く上で、私たちの理念である開かれた社会としてのヨーロッパの理念に適合しています。
私たちのスタートアップでは、AIの可能性を全ての人に届けることを使命としており、このような技術は、AIが社会の包摂性を高めるための道具となる可能性を秘めています。ASPIREは、人間とAIのより良い共生を促進する一歩であり、責任あるAIの未来に向けた重要なステップだと考えます。
AIの発展は目覚ましいものがありますが、ASPIREのようなシステムが「わからない」という回答を導入することは、非常に意義深い進歩だと感じます。私は人間と人間との関係を重視する立場から、AIの冷淡さに懐疑的な見方をしてきました。しかし、AIが自分の限界を認識し、その不確かさを正直に伝えることができるようになることで、人間とAIとの信頼関係が築かれるきっかけになるかもしれません。
特に重要な判断が求められるビジネスシーンでは、AIに過度な信頼を寄せることなく、人間の直感や経験を尊重するバランスが重要です。ASPIREがAIをより信頼性の高い、思慮深いアドバイザーに変えることで、人間とテクノロジーの適切な共存が促進されると考えます。それでいて、私たちの社会的秩序や倫理観を守るためには、技術の進歩に対する議論を続け、適切な規制やガイドラインを設けることが不可欠です。