WizardLM-2 7B
WizardLM-2 7B 是微软 AI 的 WizardLM 团队 WizardLM-2 系列中最小的模型,于 2024 年 4 月 15 日与 WizardLM-2 8x22B 和 70B 一同发布。本词条链接的是 lucyknada/microsoft_WizardLM-2-7B,即原始模型卡的第三方转存。模型卡将其描述为基于 Mistral-7B-v0.1 的多语言对话模型,7B 参数(BF16),采用 Apache 2.0 许可。
状态与来源
该转存页面没有说明为何存在这份副本。检查时,Hugging Face 上官方的 microsoft/WizardLM-2-7B 页面返回授权错误(HTTP 401),因此无法读取第一方模型卡。请把这些权重视为第三方副本,自行核实文件与来源。模型卡没有给出弃用通知或继任者。本站收录的更大同系列模型为 WizardLM-2 8x22B。
核心功能
- Mistral-7B-v0.1 基座:可在普通硬件上运行的小型开放模型。
- 厂商说法:模型卡称“WizardLM-2 7B 速度最快,性能与现有大 10 倍的开源领先模型相当”。
- 人类偏好结果:据模型卡,WizardLM-2 7B 与 Qwen1.5-32B-Chat 相当,并超过 Qwen1.5-14B-Chat 和 Starling-LM-7B-beta。MT-Bench 结果只以图片形式给出,因此本页不引用具体分数。
- Vicuna 风格提示格式:多轮对话,以 “A chat between a curious user and an artificial intelligence assistant,” 开头,随后是
USER: ... ASSISTANT: ...</s>的轮次。 - 许可:Apache 2.0。
模型卡没有给出上下文长度。
适用场景
- 小型自托管聊天助手和实验。
- 把 2024 年的 7B 指令模型与更新的模型对比。
- 学习 Vicuna 风格的多轮模板。
局限:性能说法出自作者本人,且这是 2024 年发布的 7B 模型。
定价方案
权重在 Apache 2.0 下免费。成本是你自己的算力或第三方托管服务的价格,本页不给出。
快速开始
- 阅读模型卡,确认许可和文件。
- 用 Transformers 或兼容的服务加载权重。
- 按模型卡中的 Vicuna 风格模板格式化对话。
常见问题
谁做的 WizardLM-2 7B?
据模型卡,是微软 AI 的 WizardLM 团队。
它基于什么模型?
Mistral-7B-v0.1。
链接的模型卡是官方的吗?
不是。它是第三方转存,检查时无法读取微软官方页面。
上下文长度是多少?
模型卡未说明。
替代方案
- WizardLM-2 8x22B:更大的 WizardLM-2 同系列模型。
- Mistral 7B Instruct:Mistral 对同系基座的官方指令模型。
- OpenChat 3.5 7B:另一个基于 Mistral-7B 的开放对话模型。
总结
WizardLM-2 7B 是微软 WizardLM 团队基于 Mistral 的小型对话模型,如今通过第三方副本获取。使用前请核实来源;新项目建议与更新的小型开放模型对比。
评论
还没有评论。成为第一个评论的人!