Rocinante 12B logo

Rocinante 12B

打开

Rocinante 12B 是 TheDrummer 面向角色扮演与冒险叙事的 120 亿参数微调模型,有 v1 和 v1.1 两个版本,支持 ChatML、Alpaca、Mistral 模板。

分享:
查看替代方案

Rocinante 12B 是由 TheDrummer 创建、BeaverAI 发布的 120 亿参数微调模型,面向角色扮演与冒险叙事。它在 Hugging Face 上的模型卡把它形容为"适合任何冒险的多面手"。目前有两个版本:Rocinante-12B-v1 和 Rocinante-12B-v1.1。v1 的模型卡推荐使用 v1.1 以获得更可靠的体验,因此本词条以 v1.1 作为主要版本链接。

核心功能

  • 专注故事与角色扮演:模型卡指明预期用途是角色扮演和冒险叙事。
  • 三种聊天模板:角色扮演用 ChatML,故事或指令式冒险用 Alpaca,NeMo 用 Mistral。模型卡建议混合试用,看哪种效果最好。
  • 采样建议:使用 DRY。温度 0.7 风格更平稳,1.2 则更有活力。
  • v1.1 与 v1:v1.1 模型卡没有给出技术更新日志,只引用了测试者的反馈,如文风更丰富鲜明、创造力提升,并推荐想要"完全放飞"的体验时使用 v1。这是主观反馈,不是基准测试。
  • 量化版本:模型卡链接了 GGUF 版本。v1.1 还列出 Statuo 制作的 4、6、8 bpw EXL2 量化。

模型规格

规格 Rocinante 12B
参数量 12B(BF16,Safetensors)
版本 v1 和 v1.1
许可证 Hugging Face 上标为"other"
基座模型 模型卡未说明
Hugging Face 仓库 TheDrummer/Rocinante-12B-v1、TheDrummer/Rocinante-12B-v1.1

模型卡没有给出发布日期、上下文长度和基座模型,因此本词条也不写。模型卡还注明目前没有 Inference Provider 托管该模型,需要自行运行。

内容提示

模型卡称测试者反馈出现了"new and moistier words",说明模型可能输出更露骨的内容。请只在合适的场景使用,面向公众的产品需要自行添加过滤。

适用场景

  • 互动小说与冒险游戏。
  • 本地聊天前端中的角色扮演。
  • 小型、可自托管模型就够用的创意写作。

快速开始

  1. 从 v1.1 模型卡下载权重,或 GGUF、EXL2 量化版本。
  2. 选择聊天模板(角色扮演用 ChatML,故事模式用 Alpaca),并启用 DRY 采样。
  3. 从 0.7 的温度开始获得平稳风格,想要更有活力时逐步提高到 1.2。

常见问题

Rocinante 12B 用来做什么?

角色扮演和冒险叙事。

应该用哪个版本?

v1 的模型卡推荐 v1.1 以获得更可靠的体验,想要完全放飞的体验则推荐 v1。

使用什么许可证?

Hugging Face 上标为"other"。商用前请阅读模型卡。

有 API 服务商托管吗?

模型卡称目前没有 Inference Provider 部署它。

替代方案

  • Mistral Nemo:12B 的 Mistral 模型,模型卡引用了其模板。
  • Gemma 4 26B A4B:适合通用聊天的当前开放模型。
  • MythoMax 13B:另一个面向故事与角色扮演的社区模型。

总结

Rocinante 12B 是面向小说与角色扮演的小型社区调优模型,模型卡中的模板与采样建议很清晰。请从 v1.1 模型卡入手,更多模型见模型分类。

评论

还没有评论。成为第一个评论的人!