Last Updated on 2024-06-13 05:07 by 門倉 朋宏
MLCommonsは、MLPerf 4.0トレーニングベンチマークを発表し、AIトレーニングの性能向上を示した。このベンチマークは、17の組織から205以上の結果を含み、画像生成やGPT-3の大規模言語モデルトレーニングなど、様々なワークロードにおけるAIトレーニングシステムの性能を測定する。特に、Stable Diffusionのトレーニングは前回のMLPerf 3.1（2023年11月）に比べて1.8倍速くなり、GPT-3のトレーニングは最大1.2倍速くなった。
AIトレーニングの性能向上は、ハードウェアだけでなく、ソフトウェアやネットワークの接続も重要な役割を果たしている。MLCommonsの創設者であるDavid Kanterによると、性能と効率を向上させるために多くの異なる手段があるという。Nvidiaは、H100 Hopperアーキテクチャを使用して、9つの異なるテストワークロードのうち5つで新しい性能記録を樹立した。
MLPerfトレーニングベンチマークは、企業にとって標準化されたトレーニング性能のベンチマークを提供することで価値がある。NvidiaのAIディレクターであるDavid Salvatorは、性能が向上し続けるだけでなく、同じハードウェアでも向上していることを強調した。これは、組織が初期技術導入後も年々新しい価値を得られることを示す定量的な証拠である。
【ニュース解説】
MLCommonsが最新のMLPerf 4.0トレーニングベンチマークを発表し、AIトレーニングの性能が大幅に向上していることを示しました。このベンチマークは、画像生成やGPT-3などの大規模言語モデルトレーニングを含む様々なワークロードにおけるAIトレーニングシステムの性能を測定するもので、17の組織から205以上の結果が報告されました。特に注目すべきは、Stable Diffusionのトレーニング性能が前回のベンチマークに比べて1.8倍速くなり、GPT-3のトレーニング性能も最大1.2倍の向上を達成した点です。
AIトレーニングの性能向上には、ハードウェアの進化だけでなく、ソフトウェアの最適化やネットワークの接続性の改善など、多角的なアプローチが必要です。MLCommonsの創設者であるDavid Kanter氏は、性能と効率を向上させるためには、プロセッサーやアクセラレーターの使用方法や、作業の分割と通信の方法など、多くの異なる要素が関係していると指摘しています。
Nvidiaは、このベンチマークで特に目立つ成果を上げており、9つのテストワークロードのうち5つで新しい性能記録を樹立しました。これは、NvidiaのH100 Hopperアーキテクチャを使用して達成されたもので、ソフトウェアの最適化や新しい技術の導入により、同じハードウェアプラットフォームでも性能が向上しています。
MLPerfトレーニングベンチマークは、企業がAIトレーニングシステムの性能を標準化された方法で評価できるようにすることで、技術選択の際の判断材料を提供します。NvidiaのAIディレクターであるDavid Salvator氏は、性能が向上することで、同じハードウェア上でより多くの価値を提供できることを強調しています。これは、企業が技術プラットフォームに投資する際に、初期導入後も継続して価値を得られることを意味し、投資の回収期間を短縮することにもつながります。
このような性能向上は、AIの研究開発や実用化を加速させるだけでなく、エネルギー効率の向上やコスト削減にも寄与します。しかし、高度なAIモデルのトレーニングには膨大なデータと計算資源が必要であり、これらのリソースの確保と管理、さらにはAIの倫理的な使用に関する課題も引き続き重要な問題となります。AI技術の進展は、社会や産業に多大な影響を与えるため、技術的な進歩と同時に、これらの課題に対する継続的な注意と対策が求められます。
from MLPerf 4.0 training results show up to 80% in AI performance gains.
