Rocinante 12B 是由 TheDrummer 创建、BeaverAI 发布的 120 亿参数微调模型,面向角色扮演与冒险叙事。它在 Hugging Face 上的模型卡把它形容为"适合任何冒险的多面手"。目前有两个版本:Rocinante-12B-v1 和 Rocinante-12B-v1.1。v1 的模型卡推荐使用 v1.1 以获得更可靠的体验,因此本词条以 v1.1 作为主要版本链接。
核心功能
- 专注故事与角色扮演:模型卡指明预期用途是角色扮演和冒险叙事。
- 三种聊天模板:角色扮演用 ChatML,故事或指令式冒险用 Alpaca,NeMo 用 Mistral。模型卡建议混合试用,看哪种效果最好。
- 采样建议:使用 DRY。温度 0.7 风格更平稳,1.2 则更有活力。
- v1.1 与 v1:v1.1 模型卡没有给出技术更新日志,只引用了测试者的反馈,如文风更丰富鲜明、创造力提升,并推荐想要"完全放飞"的体验时使用 v1。这是主观反馈,不是基准测试。
- 量化版本:模型卡链接了 GGUF 版本。v1.1 还列出 Statuo 制作的 4、6、8 bpw EXL2 量化。
模型规格
| 规格 | Rocinante 12B |
|---|---|
| 参数量 | 12B(BF16,Safetensors) |
| 版本 | v1 和 v1.1 |
| 许可证 | Hugging Face 上标为"other" |
| 基座模型 | 模型卡未说明 |
| Hugging Face 仓库 | TheDrummer/Rocinante-12B-v1、TheDrummer/Rocinante-12B-v1.1 |
模型卡没有给出发布日期、上下文长度和基座模型,因此本词条也不写。模型卡还注明目前没有 Inference Provider 托管该模型,需要自行运行。
内容提示
模型卡称测试者反馈出现了"new and moistier words",说明模型可能输出更露骨的内容。请只在合适的场景使用,面向公众的产品需要自行添加过滤。
适用场景
- 互动小说与冒险游戏。
- 本地聊天前端中的角色扮演。
- 小型、可自托管模型就够用的创意写作。
快速开始
- 从 v1.1 模型卡下载权重,或 GGUF、EXL2 量化版本。
- 选择聊天模板(角色扮演用 ChatML,故事模式用 Alpaca),并启用 DRY 采样。
- 从 0.7 的温度开始获得平稳风格,想要更有活力时逐步提高到 1.2。
常见问题
Rocinante 12B 用来做什么?
角色扮演和冒险叙事。
应该用哪个版本?
v1 的模型卡推荐 v1.1 以获得更可靠的体验,想要完全放飞的体验则推荐 v1。
使用什么许可证?
Hugging Face 上标为"other"。商用前请阅读模型卡。
有 API 服务商托管吗?
模型卡称目前没有 Inference Provider 部署它。
替代方案
- Mistral Nemo:12B 的 Mistral 模型,模型卡引用了其模板。
- Gemma 4 26B A4B:适合通用聊天的当前开放模型。
- MythoMax 13B:另一个面向故事与角色扮演的社区模型。
总结
Rocinante 12B 是面向小说与角色扮演的小型社区调优模型,模型卡中的模板与采样建议很清晰。请从 v1.1 模型卡入手,更多模型见模型分类。
评论
还没有评论。成为第一个评论的人!
相关工具
MythoMax-L2-13b 是 Gryphe 基于 Llama 2 13B、合并 MythoLogic-L2 与 Huginn 的角色扮演与写作模型,使用 Alpaca 风格提示,已标为旧版系列。