BGE-M3
BGE-M3 是北京智源人工智能研究院(BAAI)发布的开源嵌入模型,论文为 BGE M3-Embedding(2024 年 2 月)。名称中的 M3 指多功能、多语言、多粒度:同一个模型可输出密集、稀疏和多向量(ColBERT 风格)表示,支持 100 多种工作语言,输入最长 8192 token。权重发布在 BAAI/bge-m3 的 Hugging Face 页面,采用 MIT 许可。
核心功能
- 一个模型三种检索方式:密集检索、稀疏检索(词汇权重)和多向量检索,可组合成混合检索。
- 多语言:模型卡称支持 100 多种工作语言。
- 长输入:单次输入最长 8192 token,密集嵌入为 1024 维。
- 查询无需指令前缀:与早期 BGE 模型不同,查询不再需要加指令。
- MIT 许可:权重可商用、可自托管。
模型卡在 MIRACL(多语言检索)、MKQA(跨语言检索)以及 MLDR、NarrativeQA(长文档检索)上做了评测,结果以图表呈现,本页不引用具体分数。
适用场景
- 多语言语义搜索和检索增强生成(RAG)流水线。
- 混合检索:模型卡建议把密集与稀疏信号结合,再配合重排序模型。
- 长文档检索:512 token 的嵌入模型会截断过多内容时。
局限:BGE-M3 是 2024 年的模型,之后已有更新的嵌入模型,选型前请在自己的语料上实测。
定价方案
权重在 MIT 许可下免费。模型卡未列出官方托管 API,因此成本只有自己的算力,或你选用的第三方托管服务的费用,后者本页不涉及。
快速开始
- 安装库:
pip install -U FlagEmbedding,然后加载BGEM3FlagModel("BAAI/bge-m3"),即可得到密集、稀疏和多向量输出。 - 或用 Sentence Transformers:
SentenceTransformer("BAAI/bge-m3"),仅得到密集嵌入。 - 做混合检索时,先合并密集与稀疏得分,再对前几名重排序。智源的重排序模型见 BGE Reranker v2.5 Gemma2 Lightweight。
常见问题
BGE-M3 的向量维度和输入长度是多少?
Hugging Face 模型卡列出 1024 维嵌入和最长 8192 token 的输入。
BGE-M3 可以免费商用吗?
模型卡标注为 MIT 许可,权重可以商用。
查询时需要加指令前缀吗?
不需要。模型卡说明,与早期 BGE 模型不同,查询不再需要指令。
能用 BGE-M3 做混合检索吗?
可以。同一个模型输出密集、稀疏和多向量表示,模型卡也推荐混合检索加重排序。
替代方案
- text-embedding-3-large:OpenAI 的托管嵌入模型,默认 3072 维。
- Qwen3 Embedding:通义千问团队的开源多语言嵌入系列。
- Jina Embeddings v4:Jina AI 的多语言嵌入模型。
总结
需要多语言、长输入、同时支持密集/稀疏/多向量输出的开源嵌入模型时,BGE-M3 依然是实用选择。可从 Hugging Face 页面和论文入手,并在自己的数据上与更新的嵌入模型对比。
评论
还没有评论。成为第一个评论的人!
相关工具
Month Visit100000DR: 95AS: 95
Month Visit4500DR: 88AS: 86
Month Visit50000DR: 85AS: 88