Mistral Shieldstral 1.0 logo

Mistral Shieldstral 1.0

打开

Mistral Shieldstral 1.0 是面向文本与图像的紧凑型多模态安全分类模型,基于 Ministral 3 3B 构建,采用 Apache 2.0 许可。

分享:
查看替代方案

Mistral Shieldstral 1.0

Shieldstral 1.0 是 Mistral AI 推出的紧凑型内容审核模型,用于文本和图像安全分类。Mistral 文档将其描述为“用于文本和图像安全分类的紧凑多模态审核模型”,采用 Apache 2.0 许可。Hugging Face 模型卡称它基于 Ministral-3-3B-Base-2512 并带有原生 Pixtral 视觉编码器,可处理文本、图像以及图文混合输入,支持 12 种语言。模型卡及配套论文(arXiv:2607.25857)称其为 3B 模型,不过模型卡元数据列出约 4B 参数。

当前状态

在线可用,开放权重发布于 Hugging Face。Mistral 文档将其列为 v1.0 版本。

工作方式

审核被表述为是/否问题。固定的系统提示询问文档是否满足查询和指令的要求,策略在推理时用自然语言书写,无需重新训练。模型在一次前向传播中输出一个 yes 或 no 的 token,得到可设阈值的连续分数(Mistral 的基准测试用 0.5)。模型卡建议每次查询只用一条策略,并用 <Instruct> 设定上下文和严格程度。

核心功能

  • 策略自适应:改提示即可改策略,无需改模型。
  • 多模态:文本、图像和混合输入。
  • 体积小:BF16 下可装入 16 GB 显存,单 GPU 即可运行,面向边缘或低资源设备上的轻量实时审核。
  • 上下文:训练序列最长 32K token。理论上支持 256K,但作者建议保持在训练范围内。
  • 官方公布的结果:据 Mistral 模型卡,它在 HarmBench 提示(99.4 F1)、VLGuard(97.7)和 UnsafeBench(81.8)等多项中最佳,但并非处处领先,例如 GPT-OSS-Safeguard-20B 在多项拒答检测和回复类测试中领先。
  • 许可:Apache 2.0。

适用场景

  • 为聊天机器人和智能体按自定义策略做实时输入输出过滤。
  • 在普通硬件上用一个模型同时审核图像和文本。
  • 微调安全分类器;模型卡称支持 Axolotl。

模型卡列出的局限:不同语言和领域的可靠性不均、存在残余标签噪声,对对抗性或混淆输入(如编码或音译文本)以及超长文档的可靠性下降。

定价方案

权重在 Apache 2.0 下免费,成本即自己的算力。检查当日未能从 Mistral 定价页核实,因此本页不给出 Mistral API 价格。

快速开始

  1. 用 vLLM(0.26.0 及以上,mistral_common 1.11.5 及以上)部署,加 --max-model-len 32768,读取 yes/no 的 logprobs。
  2. 模型卡列出的其他方式包括 llama.cpp(GGUF,图像需另配 mmproj 文件)、SGLang(需特定修复)和 Transformers(Mistral3ForConditionalGeneration)。
  3. 每次查询只写一条策略,并用自己的标注数据校准阈值。

常见问题

Shieldstral 1.0 是什么?

Mistral AI 推出的紧凑、策略自适应的多模态安全分类器,用于文本和图像审核。

它开源吗?

权重以 Apache 2.0 许可发布。

它有多大?

模型卡称为基于 Ministral 3 3B 的 3B 模型,元数据列出约 4B 参数。BF16 下可装入 16 GB 显存。

能自定义安全类别吗?

可以。在推理时用自然语言写策略,每次查询一条策略。

替代方案

总结

Shieldstral 1.0 是小巧、开放、策略自适应的文本与图像审核模型。请阅读模型卡了解局限和基准细节,并在依赖它之前用自己的策略验证。

评论

还没有评论。成为第一个评论的人!