BGE-M3 logo

BGE-M3

打开

BGE-M3 是智源(BAAI)的开源多语言嵌入模型:MIT 许可,1024 维向量、8192 token 输入,同时支持密集、稀疏和多向量检索。

分享:
查看替代方案

BGE-M3

BGE-M3 是北京智源人工智能研究院(BAAI)发布的开源嵌入模型,论文为 BGE M3-Embedding(2024 年 2 月)。名称中的 M3 指多功能、多语言、多粒度:同一个模型可输出密集、稀疏和多向量(ColBERT 风格)表示,支持 100 多种工作语言,输入最长 8192 token。权重发布在 BAAI/bge-m3 的 Hugging Face 页面,采用 MIT 许可。

核心功能

  • 一个模型三种检索方式:密集检索、稀疏检索(词汇权重)和多向量检索,可组合成混合检索。
  • 多语言:模型卡称支持 100 多种工作语言。
  • 长输入:单次输入最长 8192 token,密集嵌入为 1024 维。
  • 查询无需指令前缀:与早期 BGE 模型不同,查询不再需要加指令。
  • MIT 许可:权重可商用、可自托管。

模型卡在 MIRACL(多语言检索)、MKQA(跨语言检索)以及 MLDR、NarrativeQA(长文档检索)上做了评测,结果以图表呈现,本页不引用具体分数。

适用场景

  • 多语言语义搜索和检索增强生成(RAG)流水线。
  • 混合检索:模型卡建议把密集与稀疏信号结合,再配合重排序模型。
  • 长文档检索:512 token 的嵌入模型会截断过多内容时。

局限:BGE-M3 是 2024 年的模型,之后已有更新的嵌入模型,选型前请在自己的语料上实测。

定价方案

权重在 MIT 许可下免费。模型卡未列出官方托管 API,因此成本只有自己的算力,或你选用的第三方托管服务的费用,后者本页不涉及。

快速开始

  1. 安装库:pip install -U FlagEmbedding,然后加载 BGEM3FlagModel("BAAI/bge-m3"),即可得到密集、稀疏和多向量输出。
  2. 或用 Sentence Transformers:SentenceTransformer("BAAI/bge-m3"),仅得到密集嵌入。
  3. 做混合检索时,先合并密集与稀疏得分,再对前几名重排序。智源的重排序模型见 BGE Reranker v2.5 Gemma2 Lightweight。

常见问题

BGE-M3 的向量维度和输入长度是多少?

Hugging Face 模型卡列出 1024 维嵌入和最长 8192 token 的输入。

BGE-M3 可以免费商用吗?

模型卡标注为 MIT 许可,权重可以商用。

查询时需要加指令前缀吗?

不需要。模型卡说明,与早期 BGE 模型不同,查询不再需要指令。

能用 BGE-M3 做混合检索吗?

可以。同一个模型输出密集、稀疏和多向量表示,模型卡也推荐混合检索加重排序。

替代方案

总结

需要多语言、长输入、同时支持密集/稀疏/多向量输出的开源嵌入模型时,BGE-M3 依然是实用选择。可从 Hugging Face 页面和论文入手,并在自己的数据上与更新的嵌入模型对比。

评论

还没有评论。成为第一个评论的人!