Last Updated on 2024-07-17 23:31 by admin
フランスのAIスタートアップであるMistralは、新しい大規模言語モデル（LLMs）の一環として、プログラマーや開発者向けのコード生成モデル「Codestral Mamba」と数学ベースのモデル「Mathstral」を発表した。これらのモデルは、昨年末に他の研究者によって開発された新しいアーキテクチャ「Mamba」を基にしている。Mambaは、従来のトランスフォーマーアーキテクチャの効率を向上させることを目指し、注目メカニズムを簡素化している。Codestral Mamba 7Bは、長い入力テキストでも迅速な応答時間を提供し、特にローカルなコーディングプロジェクトに適している。Mistralは、最大256,000トークンの入力を処理できることをテストし、OpenAIのGPT-4oの2倍にあたる。ベンチマークテストでは、Codestral MambaはCodeLlama 7B、CodeGemma-1.17B、DeepSeekなどの競合するオープンソースモデルを上回った。開発者はGitHubリポジトリやHuggingFaceを通じてCodestral Mambaを変更・展開でき、Apache 2.0オープンソースライセンスで提供される。
一方、Mathstral 7Bは、数学関連の推論と科学的発見に特化したAIモデルであり、Project Numinaと共同で開発された。32Kのコンテキストウィンドウを持ち、数学推論用に設計された他のモデルよりも優れた性能を発揮する。MathstralもApache 2.0オープンソースライセンスで提供され、Mistralのla PlateformeやHuggingFaceを通じてアクセス可能である。
Mistralは最近、シリーズBの資金調達で6億4000万ドルを調達し、評価額は約60億ドルに達した。MicrosoftやIBMなどの技術大手からの投資も受けている。
【ニュース解説】
フランスのAIスタートアップ企業であるMistralが、プログラマーや開発者向けの新しいコード生成モデル「Codestral Mamba」と、数学関連の推論や科学的発見をサポートするモデル「Mathstral」を発表しました。これらのモデルは、従来のトランスフォーマーアーキテクチャの効率を向上させることを目指した新しいアーキテクチャ「Mamba」を基に開発されました。Mambaアーキテクチャは、注目メカニズムを簡素化することで、より迅速な応答時間と長い入力テキストの処理を可能にします。
Codestral Mambaは特に、ローカルなコーディングプロジェクトにおける生産性向上に貢献することが期待されています。このモデルは、最大256,000トークンの入力を処理できる能力を持ち、OpenAIのGPT-4oの2倍の長さのテキストを扱うことができます。ベンチマークテストでは、Codestral Mambaは他の競合するオープンソースモデルよりも優れた性能を示しました。開発者は、GitHubやHuggingFaceを通じてこのモデルを自由に変更・展開でき、Apache 2.0オープンソースライセンスの下で提供されます。
一方、Mathstralは数学関連の推論と科学的発見に特化したAIモデルで、32Kのコンテキストウィンドウを持ち、数学推論用に設計された他のモデルを上回る性能を発揮します。このモデルもApache 2.0オープンソースライセンスで提供され、MistralのプラットフォームやHuggingFaceを通じてアクセス可能です。
このような特化したAIモデルの開発は、プログラミングや数学といった分野における作業効率の向上や、新たな発見を促進する可能性を秘めています。しかし、これらの技術の進化には、セキュリティやプライバシーの問題、不正使用のリスクなど、様々な課題も伴います。また、これらのモデルの開発と普及は、AI技術の規制や倫理基準の策定にも影響を与える可能性があります。
Mistralのような企業が大規模な資金を調達し、技術大手からの投資を受けることは、AI技術の発展とその応用範囲の拡大を示しています。これらの進歩は、将来的にはより多くの分野でのAIの活用を促進し、長期的には社会や産業に大きな変革をもたらす可能性があります。
from Mistral releases Codestral Mamba for faster, longer code generation.
