Mistral Shieldstral 1.0 logo

Mistral Shieldstral 1.0

開く

Mistral Shieldstral 1.0 は、テキストと画像向けのコンパクトなマルチモーダル安全性分類モデル。Ministral 3 3B をベースに Apache 2.0 で公開されています。

共有:
代替ツールを見る

Mistral Shieldstral 1.0

Shieldstral 1.0 は Mistral AI のコンパクトなモデレーションモデルで、テキストと画像の安全性を分類します。Mistral のドキュメントは「テキストと画像の安全性分類向けのコンパクトなマルチモーダルモデレーションモデル」と説明しており、ライセンスは Apache 2.0 です。Hugging Face カードによると、Ministral-3-3B-Base-2512 にネイティブの Pixtral ビジョンエンコーダーを組み合わせ、テキスト・画像・画像付きテキストを扱い、12 言語に対応します。カードと関連論文(arXiv:2607.25857)は 3B モデルと説明していますが、カードのメタデータでは約 4B パラメータと表示されています。

ステータス

提供中で、オープンウェイトが Hugging Face にあります。Mistral のドキュメントではバージョン v1.0 として掲載されています。

仕組み

モデレーションは Yes/No の質問として定式化されます。固定のシステムプロンプトが、文書がクエリと指示の要件を満たすかを尋ね、ポリシーは推論時に自然言語で書くため再学習は不要です。モデルは 1 回の順伝播で yes か no のトークンを 1 つ出力し、しきい値を設定できる連続スコアが得られます(Mistral のベンチマークでは 0.5)。カードはクエリごとに 1 つのポリシーとし、<Instruct> で文脈と厳しさを指定するよう勧めています。

主な機能

  • ポリシー適応型:モデルではなくプロンプトを編集してポリシーを変えられます。
  • マルチモーダル:テキスト、画像、混在入力。
  • 小型:BF16 で 16 GB の VRAM に収まり、単一 GPU で動作します。エッジや低リソース環境での軽量なリアルタイムモデレーションが対象です。
  • コンテキスト:最大 32K トークンの系列で学習。理論上は 256K に対応しますが、著者は学習範囲内での利用を推奨しています。
  • ベンダー公表の結果:Mistral のカードによると、HarmBench プロンプト(F1 99.4)、VLGuard(97.7)、UnsafeBench(81.8)など複数の項目で最良ですが、すべてではありません。たとえば GPT-OSS-Safeguard-20B が拒否検出や応答の複数の項目で先行しています。
  • ライセンス:Apache 2.0。

活用シーン

  • 独自ポリシーによる、チャットボットやエージェントのリアルタイムな入出力フィルタリング。
  • 一般的なハードウェアで、1 つのモデルによる画像とテキストのモデレーション。
  • 安全性分類器のファインチューニング(カードは Axolotl に対応としています)。

カードに記載された制約:言語や分野による信頼性のばらつき、残存するラベルノイズ、敵対的・難読化された入力(エンコードや音訳されたテキスト)や非常に長い文書での信頼性低下。

料金プラン

ウェイトは Apache 2.0 で無料のため、費用は自前の計算資源です。確認日に Mistral の料金ページから検証できなかったため、Mistral API の価格は掲載しません。

はじめに

  1. vLLM(0.26.0 以上、mistral_common 1.11.5 以上)で --max-model-len 32768 を指定して配信し、yes/no の logprobs を読みます。
  2. カードに載っているほかの方法は、llama.cpp(GGUF、画像には別途 mmproj ファイル)、SGLang(特定の修正が必要)、Transformers(Mistral3ForConditionalGeneration)です。
  3. クエリごとに 1 つのポリシーを書き、自分のラベル付きデータでしきい値を調整します。

よくある質問

Shieldstral 1.0 とは?

Mistral AI の、テキストと画像のモデレーション向けのコンパクトでポリシー適応型のマルチモーダル安全性分類器です。

オープンソースですか?

ウェイトは Apache 2.0 ライセンスで公開されています。

大きさは?

カードは Ministral 3 3B ベースの 3B モデルと説明し、メタデータでは約 4B パラメータです。BF16 で 16 GB の VRAM に収まります。

独自の安全カテゴリを定義できますか?

できます。推論時に自然言語でポリシーを書き、クエリごとに 1 つのポリシーを使います。

代替案

  • Llama Guard 3:Meta のオープンな安全性分類器。
  • omni-moderation-latest:OpenAI の無料のホスト型モデレーション。カテゴリは固定。
  • Mistral Small:プロンプトでモデレーションに使える Mistral の汎用モデル。

まとめ

Shieldstral 1.0 は、小型でオープン、ポリシー適応型のテキスト・画像モデレーションモデルです。モデルカードで制約とベンチマークの詳細を読み、頼る前に自分のポリシーで検証してください。

出典

コメント

まだコメントがありません。最初のコメントを投稿してください!