Mistral、テキスト・画像対応の安全性分類モデル「Shieldstral」を公開 パラメータ数30億のオープンウェイト

Mistral AIが、テキストと画像の両方をモデレーションできる30億パラメータのオープンウェイト安全性分類モデル「Shieldstral」を公開しました。あらかじめ決められた有害カテゴリでスコアリングする従来型とは異なり、Shieldstralはモデレーションを質問応答タスクとして扱います。開発者は推論時に自然言語でポリシーを質問として記述するだけで、モデルが1回の推論で較正済みの安全性スコアを返します。

詳細

• 質問応答フレームワーク: Shieldstralは「評価コンテキストを含む指示」「Yes/Noで答えるポリシー質問」「判定対象のコンテンツ(プロンプト・応答・画像)」の3つを入力とし、「Yes」「No」のロジットを読み取ることで確率を算出
• 再学習不要: ポリシーが固定カテゴリではなく自然言語の質問として表現されるため、新しいモデルをファインチューニングすることなく、モデレーションルールをその場で調整可能
• テキスト・画像を統一対応: 単一のモデルインターフェースで、テキストのみ・画像のみ・テキストと画像の組み合わせのモデレーションに対応
• 性能: Mistralによれば、テキスト安全性・拒否検出・ポリシー適応性・マルチモーダル安全性の各ベンチマーク(いずれも学習データから除外したホールドアウトデータで評価)において、Shieldstralは自身の最大7倍規模のガードモデルに匹敵、または上回る性能を発揮
• 効率的なフットプリント: 16GBのNVIDIA GPU1枚で動作
• Forge基盤で構築: 対照的なポリシーペアを用いた学習と、SLERPでマージしたLoRAチェックポイントを組み合わせ、MistralのトレーニングプラットフォームForge上で全面的に構築
• Open Secure AI Alliance: NVIDIAなどのパートナーとともに新たに発表された「Open Secure AI Alliance」の設立メンバーとしてのリリース第一弾

使ってみるには

• 「Shieldstral-1.0-3B」はApache 2.0ライセンスで公開されており、Hugging Faceのmistralai/Shieldstral-1.0-3Bからダウンロード可能
• GPU1枚(16GB)で動作するため、オンプレミスやエアギャップ環境でのコンテンツモデレーションパイプラインへの自前ホスティングにも適している