Llama 3.1 Euryale 70B v2.2 是 Sao10K 发布的社区微调模型,在 Hugging Face 上为 Sao10K/L3.1-70B-Euryale-v2.2。它以 Meta 的 Llama 3.1 70B 为基础,针对角色扮演和创意写作调优。据模型卡,它经过单阶段微调、共 2 个 epoch,数据分两部分依次使用:先是多轮对话指令数据,再是创意写作、角色扮演和创意指令数据。数据混合了人工撰写和 Claude 生成的样本。
核心功能
- 相对 v2.1 的变化:据模型卡,新增多轮指令数据,用 Claude 3.5 Sonnet 和 Claude 3 Opus 的输出替换单轮指令数据,移除 c2 样本,并增加更多角色扮演与创意写作数据,以及系统提示遵循、推理和空间感知相关数据。
- 训练:在 8 张 A100 上约 4 天、2 个 epoch,数据依次使用而非混合。
- 提示格式:使用 Llama 3 Instruct 格式;作者称 Euryale 2.1 预设效果不错,建议 temperature 1.2、min_p 0.2。
- 许可证:模型卡标注 cc-by-nc-4.0(非商用),另请核对上游 Llama 3.1 的许可条款。
- 作者提示:模型卡称它适合角色扮演,但零样本下可能没那么“无审查”。
适用场景
- 角色扮演与角色对话。
- 创意写作和故事草稿。
- 对比同一 Llama 3.1 70B 基础上的创意微调模型。
价格与可用性
权重可在 Hugging Face 按 cc-by-nc-4.0 免费下载,因此模型卡的许可证不涵盖商用。2026-10-29 核对时,模型卡显示 70 个点赞、上月下载约 775 次,且没有推理服务商托管。70B 模型需要大量显存或量化版本。模型卡未说明上下文长度。
快速开始
- 从 Hugging Face 仓库下载模型,或使用社区量化版本。
- 按 Llama 3 Instruct 模板组织提示。
- 先按作者建议使用 temperature 1.2 和 min_p 0.2,再逐步调整。
- 在基于它开发之前,确认许可证符合你的用途。
常见问题
Euryale v2.2 是什么?
Sao10K 基于 Llama 3.1 70B 的角色扮演与创意写作微调模型。
应该用什么提示格式?
据模型卡,使用 Llama 3 Instruct 格式,Euryale 2.1 预设据称效果不错。
可以商用吗?
模型卡标注 cc-by-nc-4.0(非商用许可),商用前请仔细核对。
相对 v2.1 有什么变化?
增加多轮和角色扮演数据,指令数据改用 Claude 3.5 Sonnet 和 Claude 3 Opus 的输出,并加入系统提示遵循数据。早期版本见 v2.1 词条。
替代方案
- Llama 3 Euryale 70B v2.1:较早的 Euryale 版本。
- Llama 3.1 70B Instruct:Meta 官方在同一基础上的指令模型。
- MythoMax 13B:较小的 Llama 2 角色扮演合并模型。
总结
Euryale v2.2 是资料明确的角色扮演与创意写作社区微调模型,训练说明清楚,但许可证为非商用。使用前请阅读模型卡,并在模型分类中查看相关选择。
评论
还没有评论。成为第一个评论的人!