Mistral Shieldstral 1.0
Shieldstral 1.0 は Mistral AI のコンパクトなモデレーションモデルで、テキストと画像の安全性を分類します。Mistral のドキュメントは「テキストと画像の安全性分類向けのコンパクトなマルチモーダルモデレーションモデル」と説明しており、ライセンスは Apache 2.0 です。Hugging Face カードによると、Ministral-3-3B-Base-2512 にネイティブの Pixtral ビジョンエンコーダーを組み合わせ、テキスト・画像・画像付きテキストを扱い、12 言語に対応します。カードと関連論文(arXiv:2607.25857)は 3B モデルと説明していますが、カードのメタデータでは約 4B パラメータと表示されています。
ステータス
提供中で、オープンウェイトが Hugging Face にあります。Mistral のドキュメントではバージョン v1.0 として掲載されています。
仕組み
モデレーションは Yes/No の質問として定式化されます。固定のシステムプロンプトが、文書がクエリと指示の要件を満たすかを尋ね、ポリシーは推論時に自然言語で書くため再学習は不要です。モデルは 1 回の順伝播で yes か no のトークンを 1 つ出力し、しきい値を設定できる連続スコアが得られます(Mistral のベンチマークでは 0.5)。カードはクエリごとに 1 つのポリシーとし、<Instruct> で文脈と厳しさを指定するよう勧めています。
主な機能
- ポリシー適応型:モデルではなくプロンプトを編集してポリシーを変えられます。
- マルチモーダル:テキスト、画像、混在入力。
- 小型:BF16 で 16 GB の VRAM に収まり、単一 GPU で動作します。エッジや低リソース環境での軽量なリアルタイムモデレーションが対象です。
- コンテキスト:最大 32K トークンの系列で学習。理論上は 256K に対応しますが、著者は学習範囲内での利用を推奨しています。
- ベンダー公表の結果:Mistral のカードによると、HarmBench プロンプト(F1 99.4)、VLGuard(97.7)、UnsafeBench(81.8)など複数の項目で最良ですが、すべてではありません。たとえば GPT-OSS-Safeguard-20B が拒否検出や応答の複数の項目で先行しています。
- ライセンス:Apache 2.0。
活用シーン
- 独自ポリシーによる、チャットボットやエージェントのリアルタイムな入出力フィルタリング。
- 一般的なハードウェアで、1 つのモデルによる画像とテキストのモデレーション。
- 安全性分類器のファインチューニング(カードは Axolotl に対応としています)。
カードに記載された制約:言語や分野による信頼性のばらつき、残存するラベルノイズ、敵対的・難読化された入力(エンコードや音訳されたテキスト)や非常に長い文書での信頼性低下。
料金プラン
ウェイトは Apache 2.0 で無料のため、費用は自前の計算資源です。確認日に Mistral の料金ページから検証できなかったため、Mistral API の価格は掲載しません。
はじめに
- vLLM(0.26.0 以上、mistral_common 1.11.5 以上)で
--max-model-len 32768を指定して配信し、yes/no のlogprobsを読みます。 - カードに載っているほかの方法は、llama.cpp(GGUF、画像には別途 mmproj ファイル)、SGLang(特定の修正が必要)、Transformers(
Mistral3ForConditionalGeneration)です。 - クエリごとに 1 つのポリシーを書き、自分のラベル付きデータでしきい値を調整します。
よくある質問
Shieldstral 1.0 とは?
Mistral AI の、テキストと画像のモデレーション向けのコンパクトでポリシー適応型のマルチモーダル安全性分類器です。
オープンソースですか?
ウェイトは Apache 2.0 ライセンスで公開されています。
大きさは?
カードは Ministral 3 3B ベースの 3B モデルと説明し、メタデータでは約 4B パラメータです。BF16 で 16 GB の VRAM に収まります。
独自の安全カテゴリを定義できますか?
できます。推論時に自然言語でポリシーを書き、クエリごとに 1 つのポリシーを使います。
代替案
- Llama Guard 3:Meta のオープンな安全性分類器。
- omni-moderation-latest:OpenAI の無料のホスト型モデレーション。カテゴリは固定。
- Mistral Small:プロンプトでモデレーションに使える Mistral の汎用モデル。
まとめ
Shieldstral 1.0 は、小型でオープン、ポリシー適応型のテキスト・画像モデレーションモデルです。モデルカードで制約とベンチマークの詳細を読み、頼る前に自分のポリシーで検証してください。
出典
- ウェブサイトhttps://docs.mistral.ai/models
- ソーシャルメディアhttps://x.com/MistralAI
コメント
まだコメントがありません。最初のコメントを投稿してください!
関連ツール
Mistral OCR 4.1 は Mistral が2026年7月16日に公開した GA の文書 OCR。段落単位のバウンディングボックス、ブロックラベル、信頼度に対応し、1,000ページ$4です。
