Llama 3 Euryale 70B v2.1
Llama 3 Euryale 70B v2.1(L3-70B-Euryale-v2.1)是作者 Sao10K 发布在 Hugging Face 上的社区微调模型,仓库为 Sao10K/L3-70B-Euryale-v2.1。作者称它是"Stheno 的姐妹模型,旨在令人印象深刻"。这是面向角色扮演和创意写作的模型,约 71B 参数,BF16 Safetensors 格式,使用 Llama 3 Instruct 提示格式。它不是 Meta 的发布,截至 2026 年 10 月 29 日仓库仍在线。
核心功能
- LoRA 微调:模型卡称由于全量微调成本过高,因此使用 LoRA。训练使用 8 块 H100 SXM GPU,之后又追加训练,数据集与 Stheno v3.2 相同。
- 作者声明:作者称其提示遵循度更好、对解剖和空间感的把握更好、对自定义格式的处理更强,并称其在角色扮演中很有创造力且限制较少。这些是作者自己的说法,并非独立测量。
- 推荐采样:temperature 1.17、min_p 0.075、重复惩罚 1.10,SillyTavern 中使用 Llama-3-Instruct-Names 上下文模板。
- 许可:CC-BY-NC-4.0,不允许商用。
- 可用性:可用于 Transformers、vLLM、SGLang 和 Docker Model Runner,模型卡列出了适用于 llama.cpp、Ollama 和 LM Studio 的量化版本。
适用场景
- 在 SillyTavern 等工具中进行互动小说和角色扮演。
- 用大型开放模型进行创意写作实验。
- 研究 Llama 3 的社区微调模型。
局限:模型卡没有给出上下文长度和基准分数,非商用许可也排除了大多数商业用途。
定价与可用性
权重可免费下载。模型卡列出 Featherless AI 为推理服务商;本条目没有在官方页面核实托管价格,因此不引用价格。
快速开始
- 从 Hugging Face 下载模型,或下载适合你运行环境的量化版本。
- 使用 Llama-3-Instruct 提示格式,并以上述采样设置作为起点。
- 在商用模型或其输出之前,先核对 CC-BY-NC-4.0 条款。
常见问题
Euryale 70B v2.1 可以商用吗?
模型卡列出的是 CC-BY-NC-4.0,属于非商用许可。另请查阅 Llama 3 基础模型的条款。
Euryale 是为什么设计的?
据作者说明,用于角色扮演和创意写作。
有更新的 Euryale 吗?
本站还收录了 Llama 3.1 Euryale 70B v2.2,同样是 Sao10K 的发布。
它的上下文长度是多少?
模型卡没有说明。
替代方案
- Llama 3.1 Euryale 70B v2.2:本站收录的较新 Euryale 版本。
- Llama 3.1 70B Instruct:Meta 官方的 70B 指令模型。
- Hermes 3 405B Instruct:Nous Research 更大的 Llama 3.1 微调模型。
总结
Euryale 70B v2.1 是小众、专注创意的微调模型,可免费运行,但仅限非商用。通用或商用工作请从 Meta 的官方模型起步。更多模型见模型分类。
评论
还没有评论。成为第一个评论的人!
相关工具
Month Visit100DR: 100AS: 100
Month Visit100DR: 100AS: 100