Last Updated on 2024-08-11 06:58 by admin
大規模言語モデル（LLM）の進歩が減速しているという懸念が業界で広がっている。
この状況に対し、マイクロソフトのケビン・スコットCTOは2023年9月27日にカリフォルニア州で開催されたVox Mediaのコードカンファレンスで、AIの進歩は減速していないと主張した。
スコットCTOは、LLMのスケーリング則に基づき、モデルサイズ、学習データ、計算能力を拡大することで、性能が継続的に向上すると述べている。この見解は、GPT-4やGoogle GeminiなどのモデルでAI進歩が停滞しているという一部の批評家の意見と対照的だ。
一方で、AIの実用化に関する調査では、健康診断の高度化や自動運転、救急搬送ルートの選定など、社会的課題の解決分野でAIの活用ニーズが高いことが明らかになった。
また、YouTubeでの調査によると、回答者の50%が現在のAIパラダイム（Transformerアーキテクチャ、スケーリング、マルチモダリティ）は汎用人工知能（AGI）にかなり近づくが、完全には到達しないと考えている。さらに、70%以上が2年以内にAI進歩の変曲点に達すると予測している。
これらの見解は、AI技術の進歩と社会実装に関する期待と懸念が混在している現状を反映している。
from:LLM progress is slowing — what wi【編集部解説】
【編集部解説】
大規模言語モデル（LLM）の進歩が減速しているという懸念が業界で広がっていますが、この見方には慎重になる必要があります。実際、AIの進歩は継続しており、ただその形が変化しているのかもしれません。
まず、LLMの性能向上は依然として続いています。例えば、2024年3月のCompTIAの調査によると、69%の企業がビジネスアプリケーションにAI機能を導入しており、AIの実用化が着実に進んでいることがわかります。これは、LLMの性能が実用レベルに達していることを示唆しています。
一方で、AIの進歩の形が変化している可能性があります。単純なモデルサイズの拡大だけでなく、効率性の向上や特定タスクへの特化など、質的な進歩に重点が置かれつつあるのです。
また、AIの進歩に対する期待と現実のギャップも考慮する必要があります。GPT-4のような画期的なモデルの登場後、人々の期待値が急激に上がったことで、相対的に進歩が遅く感じられている可能性もあります。
しかし、長期的な視点で見れば、AIの進歩は着実に続いています。例えば、コンテキスト長の拡大や、マルチモーダル機能の向上など、LLMの能力は多方面で向上しています。
さらに、AIの社会実装も進んでいます。CompTIAの調査では、自動化、データ分析、サイバーセキュリティなど、多岐にわたる分野でAIが活用されていることが示されています。
一方で、AIの進歩に伴う課題も浮き彫りになっています。例えば、AI出力の適切な評価や、AIと人間の最適な相互作用の決定など、新たな課題が生まれています。これらの課題に取り組むことが、今後のAI進歩の鍵となるでしょう。