Llama 3 Euryale 70B v2.1 logo

Llama 3 Euryale 70B v2.1

打开

Llama 3 Euryale 70B v2.1 是 Sao10K 基于 Llama 3 的 70B 角色扮演向 LoRA 微调模型,采用非商用的 CC-BY-NC-4.0 许可。

分享:
查看替代方案

Llama 3 Euryale 70B v2.1

Llama 3 Euryale 70B v2.1(L3-70B-Euryale-v2.1)是作者 Sao10K 发布在 Hugging Face 上的社区微调模型,仓库为 Sao10K/L3-70B-Euryale-v2.1。作者称它是"Stheno 的姐妹模型,旨在令人印象深刻"。这是面向角色扮演和创意写作的模型,约 71B 参数,BF16 Safetensors 格式,使用 Llama 3 Instruct 提示格式。它不是 Meta 的发布,截至 2026 年 10 月 29 日仓库仍在线。

核心功能

  • LoRA 微调:模型卡称由于全量微调成本过高,因此使用 LoRA。训练使用 8 块 H100 SXM GPU,之后又追加训练,数据集与 Stheno v3.2 相同。
  • 作者声明:作者称其提示遵循度更好、对解剖和空间感的把握更好、对自定义格式的处理更强,并称其在角色扮演中很有创造力且限制较少。这些是作者自己的说法,并非独立测量。
  • 推荐采样:temperature 1.17、min_p 0.075、重复惩罚 1.10,SillyTavern 中使用 Llama-3-Instruct-Names 上下文模板。
  • 许可:CC-BY-NC-4.0,不允许商用。
  • 可用性:可用于 Transformers、vLLM、SGLang 和 Docker Model Runner,模型卡列出了适用于 llama.cpp、Ollama 和 LM Studio 的量化版本。

适用场景

  • 在 SillyTavern 等工具中进行互动小说和角色扮演。
  • 用大型开放模型进行创意写作实验。
  • 研究 Llama 3 的社区微调模型。

局限:模型卡没有给出上下文长度和基准分数,非商用许可也排除了大多数商业用途。

定价与可用性

权重可免费下载。模型卡列出 Featherless AI 为推理服务商;本条目没有在官方页面核实托管价格,因此不引用价格。

快速开始

  1. 从 Hugging Face 下载模型,或下载适合你运行环境的量化版本。
  2. 使用 Llama-3-Instruct 提示格式,并以上述采样设置作为起点。
  3. 在商用模型或其输出之前,先核对 CC-BY-NC-4.0 条款。

常见问题

Euryale 70B v2.1 可以商用吗?

模型卡列出的是 CC-BY-NC-4.0,属于非商用许可。另请查阅 Llama 3 基础模型的条款。

Euryale 是为什么设计的?

据作者说明,用于角色扮演和创意写作。

有更新的 Euryale 吗?

本站还收录了 Llama 3.1 Euryale 70B v2.2,同样是 Sao10K 的发布。

它的上下文长度是多少?

模型卡没有说明。

替代方案

总结

Euryale 70B v2.1 是小众、专注创意的微调模型,可免费运行,但仅限非商用。通用或商用工作请从 Meta 的官方模型起步。更多模型见模型分类。

评论

还没有评论。成为第一个评论的人!