Mistral AI「Mistral Large 2」発表──GPT-4oやLlama 3 405Bに並ぶ性能を主張

Mistral AIが2024年7月24日、フラッグシップモデルの第2世代「Mistral Large 2」を発表しました。同年2月の初代Mistral Largeを「大幅に上回る」とし、GPT-4o・Claude 3 Opus・Llama 3 405Bなど当時の最先端モデルに匹敵する性能を、単一ノードで動作可能なサイズで実現したと説明しています。

詳細

• サイズと設計: 1230億パラメータで、単一ノードでの推論・長文コンテキスト利用を意識した設計。コンテキストウィンドウは128K
• 多言語・コード対応: フランス語・ドイツ語・スペイン語・イタリア語・ポルトガル語・アラビア語・ヒンディー語・ロシア語・中国語・日本語・韓国語など多数の言語に対応し、Python・Java・C・C++・JavaScript・Bashなど80以上のプログラミング言語をサポート
• ベンチマーク: MMLUで84.0%の精度を記録し、オープンモデルの性能・コスト効率のパレートフロンティアを更新
• ライセンス: 研究・非商用利用を許可するMistral Research Licenseの下で公開
• 提供パートナー: La Plateformeに加え、Google Cloud Vertex AI、Amazon Bedrock、Azure AI Studio、IBM watsonxなど幅広いプラットフォームで提供開始

その後

Mistral Large 2はMistral AIが「規模で劣っても性能で並ぶ」ことを示す代表例となった。同年9月には初のマルチモーダルモデルPixtral 12Bを投入するなど、Mistralはモデルラインナップの拡充を加速させていく。