Last Updated on 2024-05-31 13:33 by admin

スタンフォード大学とNotbad AI, Inc.の研究者たちは、AIモデルがプロンプトに応答する前に考えることを学ぶQuiet-STaRを開発した。このモデルは、インターネットの広範なデータコーパスに基づいて訓練され、将来のテキストを説明するための根拠を各トークンで生成し、予測を改善することを学ぶ。Quiet-STaRはMistral 7Bに適用され、CommonsenseQAの質問応答チャレンジでのゼロショット直接推論能力が36.3%から47.2%に、GSM8Kの学校数学の単語問題データセットでの能力が5.9%から10.9%に向上した。これらの改善は、モデルの「内部思考」で使用されるトークンの数が増えるにつれて一貫して増加した。

Quiet-STaRは、言語モデルがテキストから一般的に推論を学ぶ最初の試みであり、特定のデータセットや推論タスクのコレクションに限定されず、テキスト内の多様なタスクから学ぶことを可能にする。この技術は、AIがプロンプトに応答する前に将来のテキストを説明するために、各トークンで多くの内部思考を並行して生成する「静かに」思考するプロセスを適用する。REINFORCEアルゴリズムを使用して、AIが将来のテキストを正確に予測する可能性を高めるために、これらのパラメータを反復的に最適化する。

研究者たちは、モデルが自己のトークン、同じ思考のすべての先行トークン、および先行テキストに注意を払うことを可能にする並列サンプリングアルゴリズムを作成した。これにより、すべての思考の継続が並行して行われ、各推論呼び出しですべてのトークンに対して追加のトークンが生成される。最終的に、Quiet-STaRは言語モデルが一般的でスケーラブルな方法で推論を学ぶことを目指す一歩であり、将来の研究が言語モデルと人間の推論能力のギャップをさらに縮めるための洞察を構築できると結論付けられている。

【ニュース解説】

スタンフォード大学とNotbad AI, Inc.の研究チームが開発したQuiet-STaRは、AIがプロンプトに応答する前に「考える」能力を学ぶための新しい技術です。この技術は、インターネット上の広範囲なデータを基にして訓練され、将来のテキストを説明するための根拠を各トークンで生成することを通じて、予測の精度を向上させます。このアプローチにより、AIはCommonsenseQAの質問応答チャレンジやGSM8Kの学校数学の単語問題データセットなど、特定のタスクでの直接推論能力を大幅に改善しました。

Quiet-STaRの開発は、AIが特定のデータセットや推論タスクに限定されず、テキストから一般的に推論を学ぶことを可能にするという点で、重要な進歩を示しています。これまでのAIモデルは、特定のタスクを解決するために訓練されたり、厳密にカリキュラム化されたデータセットに依存していましたが、Quiet-STaRはテキスト内の多様なタスクから学習することで、より一般的でスケーラブルな推論能力を持つモデルの開発を目指しています。

この技術は、AIがプロンプトに応答する前に「静かに」思考するプロセスを適用します。つまり、将来のテキストを説明するために、各トークンで多くの内部思考を並行して生成するのです。このプロセスは、REINFORCEアルゴリズムを使用して最適化され、AIが将来のテキストをより正確に予測する可能性を高めます。

この技術のポジティブな側面は、AIがより人間に近い推論能力を持つことができるようになることです。これにより、AIはより複雑な問題を解決し、人間のように「考える」ことができるようになります。しかし、潜在的なリスクとしては、AIが不正確な推論を行う可能性があることや、倫理的な問題が生じる可能性があります。また、この技術の発展に伴い、AIの規制や管理に関する新たな課題が生じる可能性があります。

将来的には、Quiet-STaRのような技術がさらに発展し、AIが人間の推論能力に近づくことで、医療、法律、教育など多岐にわたる分野での応用が期待されます。しかし、その一方で、AIの倫理的な使用やプライバシーの保護、誤情報の拡散などの問題に対処するための規制やガイドラインの整備が重要になってくるでしょう。

from With Quiet-STaR, language models learn to think before speaking.

admin

See Full Bio