Alibaba「Qwen2」公開──5サイズ展開でグローバル開発者への開放を加速
Alibabaが2024年6月7日、前世代「Qwen1.5」の後継となる「Qwen2」を公開しました。0.5B・1.5B・7B・57B-A14B(MoE)・72Bの5サイズを提供し、対応言語を英語・中国語に加え27言語拡大。「Qwenで、中国国内だけでなく世界中の開発者に、強力で責任あるAIアプリケーションを作れる力を届けたい」とAlibaba Cloud AIのチーフアーキテクトが述べています。
詳細
- 5サイズを提供: 0.5B・1.5B・7B・72Bの通常モデルに加え、57B総パラメータ中14Bが活性化するMoEモデル「57B-A14B」も用意
- 多言語対応の拡大: 英語・中国語に加え27の追加言語に対応し、多言語能力を大幅強化
- コンテキスト長: Qwen2-7B-InstructとQwen2-72B-Instructで最大128Kトークンまで対応
- ライセンス変更: 0.5B・1.5B・7B・57B-A14BモデルをApache 2.0ライセンスに変更(72Bのみ従来のQianwenライセンスを維持)。「開放性を高め、世界的な採用を加速する」ための変更と説明
- 性能向上: コーディング・数学能力を大幅に改善し、Group Query Attention(GQA)採用で効率も向上
その後
Qwen2はその後わずか3か月で「Qwen2.5」へと引き継がれ、Qwenシリーズの開発サイクルの速さを印象づけた。ライセンスの大幅な開放は、その後のQwenファミリーの急速なグローバル普及を後押しすることになる。