DeepSeek V3 logo

DeepSeek V3

開く

DeepSeek V3 は 671B パラメータの MoE モデル(有効 37B)で、14.8T トークンで学習し、コンテキストは 128K。DeepSeek の API は現在 V4 系を掲載しています。

共有:
代替ツールを見る

DeepSeek V3 は DeepSeek が公開したオープンウェイトの MoE 言語モデルで、技術レポート(arXiv 2412.19437)は 2024 年 12 月 27 日付です。Hugging Face のモデルカードには、総パラメータ 671B、トークンあたり有効 37B、コンテキスト長 128K と記載されています。ただし DeepSeek の API ドキュメントには現在掲載されておらず、現行のモデル名は deepseek-flash(DeepSeek-V4.1-Flash-1017 が応答)と deepseek-v4-pro です。

主な機能

  • 671B MoE、有効 37B:カードには Multi-head Latent Attention、DeepSeekMoE、補助損失なしの負荷分散、Multi-Token Prediction の目的関数が記載されています。
  • 14.8T 学習トークン:14.8 兆トークンで事前学習し、その後に教師ありファインチューニングと強化学習を行いました。
  • 128K コンテキスト:カードのコンテキスト長は 128K です。
  • 学習コスト:カードは 278.8 万 H800 GPU 時間を挙げ、回復不能な損失スパイクはなかったとしています。
  • ベンダーのベンチマーク:DeepSeek はチャットモデルで MATH-500 90.2、Arena-Hard 85.5、MMLU-Pro 75.9 と報告しています(出力は 8K トークン上限)。これは DeepSeek 自身の評価です。

活用シーン

  • ライセンスの範囲で、オープンウェイトの汎用モデルを研究や社内用途で自前運用する。
  • 公開レポートと重みを通じて、MoE 構造、FP8 学習、マルチトークン予測を研究する。
  • 公開されている V3 の結果を再現・比較する。

料金と提供状況

重みは Hugging Face にあります。コードは MIT ライセンス、モデルの重みは別の Model Agreement の対象で、カードは商用利用に対応するとしています。重みは FP8 形式で、BF16 への変換スクリプトが付属します。2026-10-29 時点で DeepSeek の API ドキュメントには V3 も V3 の価格も載っておらず、旧名称 deepseek-v4-flash は DeepSeek-V4.1-Flash-1017 が Flash 価格で応答すると説明されています。ホスト型で使う場合は現行モデルへ移行してください。

クイックスタート

  1. モデルカードと技術レポートを読み、Model Agreement に同意します。
  2. 671B MoE モデルに必要なハードウェアを計画するか、自己責任でコミュニティ製の量子化版を使います。
  3. API で使う場合は、DeepSeek API ドキュメントの deepseek-flash か deepseek-v4-pro を使ってください。

よくある質問

DeepSeek V3 の規模は?

Hugging Face のカードによると、総パラメータ 671B、トークンあたり有効 37B です。

コンテキスト長は?

カードによると 128K トークンです。

API で DeepSeek V3 はまだ使えますか?

DeepSeek の API ドキュメントには掲載されておらず、deepseek-flash と deepseek-v4-pro が載っています。オープンウェイトは Hugging Face に残っています。

DeepSeek V3 の後継は?

API 利用では、ドキュメントの現行モデルは DeepSeek V4.1 Flash と DeepSeek V4 Pro です。

代替ツール

まとめ

DeepSeek V3 は資料が充実したオープン MoE モデルで、研究や自前運用には今も有用ですが、新規の API プロジェクトでは現行の V4 系を使うべきです。モデルカードや API ドキュメントから始め、モデルカテゴリで他のモデルも見てください。

出典

コメント

まだコメントがありません。最初のコメントを投稿してください!