DeepSeek V3 logo

DeepSeek V3

打开

DeepSeek V3 是 671B 参数的混合专家模型(每 token 激活 37B),训练数据 14.8T token,上下文 128K;DeepSeek API 现已列出 V4 系列。

分享:
查看替代方案

DeepSeek V3 是 DeepSeek 发布的开放权重混合专家语言模型,技术报告(arXiv 2412.19437)发布于 2024 年 12 月 27 日。其 Hugging Face 模型卡列出总参数 671B、每 token 激活 37B、上下文长度 128K。DeepSeek 的 API 文档已不再列出它:当前模型名称为 deepseek-flash(由 DeepSeek-V4.1-Flash-1017 提供服务)和 deepseek-v4-pro。

核心功能

  • 671B MoE,激活 37B:模型卡列出 Multi-head Latent Attention、DeepSeekMoE、无辅助损失的负载均衡策略以及 Multi-Token Prediction 训练目标。
  • 14.8T 训练 token:在 14.8 万亿 token 上预训练,随后进行监督微调和强化学习。
  • 128K 上下文:模型卡给出的上下文长度为 128K。
  • 训练成本:模型卡引用 278.8 万 H800 GPU 小时,并称训练过程没有出现无法恢复的损失尖峰。
  • 厂商基准:DeepSeek 报告对话模型 MATH-500 为 90.2、Arena-Hard 为 85.5、MMLU-Pro 为 75.9,输出上限为 8K token。这些是 DeepSeek 自己的评测。

适用场景

  • 在许可条款内自托管开放权重的通用模型,用于研究或内部场景。
  • 通过公开报告和权重研究 MoE 架构、FP8 训练与多 token 预测。
  • 复现或对比已发布的 V3 结果。

价格与可用性

权重发布在 Hugging Face。代码使用 MIT 许可证,模型权重适用单独的 Model Agreement,模型卡称其支持商用。权重以 FP8 发布,并附带转换为 BF16 的脚本。2026-10-29 核对时,DeepSeek API 文档未列出 V3 或 V3 价格,并说明旧名称 deepseek-v4-flash 现由 DeepSeek-V4.1-Flash-1017 提供服务并按 Flash 价格计费。如需托管调用,请迁移到当前模型。

快速开始

  1. 阅读模型卡和技术报告,并接受 Model Agreement。
  2. 为 671B MoE 模型规划硬件,或自行承担风险使用社区量化版本。
  3. 如做 API 开发,请改用 DeepSeek API 文档中的 deepseek-flash 或 deepseek-v4-pro。

常见问题

DeepSeek V3 有多大?

据 Hugging Face 模型卡,总参数 671B,每 token 激活 37B。

上下文长度是多少?

据模型卡为 128K token。

API 上还能用 DeepSeek V3 吗?

DeepSeek API 文档已不再列出它,现列出 deepseek-flash 和 deepseek-v4-pro。开放权重仍保留在 Hugging Face。

什么替代了 DeepSeek V3?

API 使用方面,文档中的当前模型是 DeepSeek V4.1 Flash 和 DeepSeek V4 Pro。

替代方案

总结

DeepSeek V3 是资料完整的开放 MoE 模型,仍适合研究和自托管,但新的 API 项目应使用当前的 V4 名称。可从模型卡或 API 文档入手,并在模型分类查看更多。

评论

还没有评论。成为第一个评论的人!