Qwen3.8-Flash-Next logo

Qwen3.8-Flash-Next

開く

Alibaba(通義千問)による Qwen4 アーキテクチャの先行公開:125B のマルチモーダル MoE、トークンごと 6B のみ活性化、51B の N-gram 語彙、ネイティブ 262K コンテキスト、入力 $0.16/百万トークン。

共有:

Qwen3.8-Flash-Next は Alibaba が2026年8月26日に公開したオープンウェイトで、来る Qwen4 ファミリーの基盤となるアーキテクチャを先行公開するモデルです。総 125B パラメータのマルチモーダル混合エキスパート(MoE)ですが、トークンごとに 6B のみを活性化し、さらに 51B パラメータの N-gram 埋め込み層が GPU ではなくシステム RAM に常駐します。チームは「新アーキテクチャ、究極のコスト効率へ」と位置づけ、Qwen3.7-Plus より約 9 分の 1 の訓練コストでより良い結果を実現します。

モデル仕様

仕様 Qwen3.8-Flash-Next
アーキテクチャ マルチモーダル MoE(Gated DeltaNet+Gated Attention)
総パラメータ 125B(本体)+ 51B(N-gram 埋め込み)
活性化パラメータ トークンごと 6B
入力モダリティ テキスト、画像(マルチモーダル画像テキスト)
コンテキストウィンドウ ネイティブ 262,144、YaRN で最大約 1M
ライセンス Qwen 専用ライセンス(Hugging Face / ModelScope でオープンウェイト)
API 価格 $0.16 / 百万入力、$0.47 / 百万出力(QwenCloud の Qwen3.8-Flash)

主な機能

  • Qwen4 アーキテクチャ先行公開:Qwen3-Next で登場したハイブリッド(Gated DeltaNet+Gated Attention)設計を早期公開し、Qwen4 ファミリー全体が構築される前にコミュニティが検証できる。
  • 非常に疎な活性化:125B のうちトークンごと 6B のみを活性化。大きなパラメータ予算を保ちながら推論コストを抑制。
  • N-gram 埋め込み層:共通の語句群を単独エントリで持つ 51B パラメータの「フレーズ辞書」。通常のシステム RAM に置かれ、相対的に追加コストが低い。
  • マルチモーダル:ネイティブの画像テキスト入力でスクリーンショット、チャート、ドキュメント理解をカバー。
  • コスト効率戦略:Qwen3.7-Plus の約 9 分の 1 の訓練コストでより良い結果。特にコーディング・オフィスタスクで大きく向上。
  • ModelScope+Transformers 対応:ModelScope のファーストクラス対応で OpenAI / Anthropic 互換 API 仕様をサポート。transformers serve でローカル提供も容易。

使用シナリオ

このモデルを使うべき人は?

  • アーキテクチャに関心のある人:Qwen4 ファミリー公開前に次世代 Qwen 設計を見たい。
  • コスト重視のビルダー:エージェントコーディングやオフィスワーク用に活性化数の少ない MoE が欲しい。
  • ローカルデプロイ担当:125B を載せられる GPU があり、N-gram 層を RAM へオフロードできる。
  • Qwen Cloud 利用チーム:まもなく公開される本番 Qwen3.8-Flash API を注視する。

解決する問題

  1. 訓練コスト:アーキテクチャ先行公開で、Qwen4 の効率性を最小限の計算でプロトタイプ検証できる。
  2. 推論コスト:125B のうち 6B のみ活性化のため、大きな総容量でトークンあたりの提供が安価。
  3. メモリ負荷:51B の N-gram 語彙がシステム RAM に常駐し、モデルの大部分を GPU に出し入れしなくて済む。

料金プラン

重みは Hugging Face または ModelScope から無料ダウンロード(Qwen 専用ライセンス)。ホスト利用は QwenCloud の Qwen3.8-Flash で、$0.16/百万入力トークン$0.47/百万出力トークン。本番 API は近日公開予定。参考としてフラッグシップ Qwen3.8-Max は入出力とも約 12 倍。

パス 価格
重み(Qwen ライセンス) 無料ダウンロード
Qwen3.8-Flash API 入力 $0.16 / 百万トークン
Qwen3.8-Flash API 出力 $0.47 / 百万トークン
Qwen3.8-Max(参考) 入力 $2.00 / 出力 $6.00 毎百万

優位性と独自の価値提案

競合他社との比較

  1. Qwen3.7-Plus 比:訓練コスト約 9 分の 1 でより良い結果。特にコーディング・オフィスタスクで大きく向上。
  2. DeepSeek-V4-Flash 比:活性化パラメータが少ないにもかかわらず、公開ベンチマークの大半で先行。
  3. Qwen3.8-Max 比:フラッグシップにわずかに及ばないが約 12 分の 1 のコストで、入出力とも桁違いの差。
  4. Anthropic Claude Opus 4.6 比:公開リーダーボードの大半の行で勝利。

際立つポイント

  • N-gram 埋め込み層が RAM 上で動作する、珍しい分割により GPU メモリ負荷を軽減。
  • 既存世代のポイントアップグレードではなく、Qwen4 の初期プレビュー。

ユーザーレビュー

コミュニティの反応は強く、流れも速い。r/opencode と r/LocalLLaMA では、Qwen3.8-Flash-Next が GLM-5.3-Flash と同じ日に公開され、その日の主要トピックになりました。既存 Qwen3.8-27B ユーザーからは、このファミリーが過度に思考しがちだという指摘が引き継がれています。NVIDIA DGX Spark フォーラムでは、6B 活性化モデルの FP8 量子化版をデュアル Spark で動かせるか、51B 語彙の dtype や量子化をどうすべきかが議論されています。

はじめに

クイックスタートガイド

  1. ダウンロード:Hugging Face または ModelScope から取得(例:huggingface download Qwen/Qwen3.8-Flash-Next)。
  2. ローカル提供transformers serve Qwen/Qwen3.8-Flash-Next を実行するか、量子化版を使い VRAM に合わせる。
  3. Qwen Code と併用:Qwen モデル向けに最適化されたオープンソース端末コーディングエージェントと組み合わせる。
  4. ホスト利用:QwenCloud の Qwen3.8-Flash API を呼び出す(OpenAI / Anthropic 互換仕様対応)。

統合

  • Hugging Face と ModelScope:重み、ファインチューニング(LLaMA-Factory)、提供。
  • 阿里雲(Alibaba Cloud)百煉 API、OpenAI / Anthropic 互換仕様。
  • Qwen Code、オープンソース端末コーディングエージェント。

よくある質問

Qwen3.8-Flash-Next は MoE モデルですか?

はい。125B パラメータ、トークンごと 6B 活性化のマルチモーダル MoE で、51B の N-gram 埋め込み層を伴います。

Qwen4 本体ですか?

いいえ。Qwen4 の初期アーキテクチャプレビューです。完全な Qwen4 ファミリーはこの設計で構築されますが、本リリースは実験的な先行版です。

コンテキストウィンドウは?

ネイティブ 262,144 トークン、YaRN で最大約 100 万トークンへ拡張可能。

ライセンスは?

重みは Qwen 専用ライセンス(Apache 2.0 ではない)で、Hugging Face と ModelScope からダウンロード可能。本番 Qwen3.8-Flash API はホストサービスです。

代替案

  • Qwen3.8-27B:ローカル展開・小規模推論向けの稠密 Apache 2.0 モデル。
  • GLM-5.3-Flash:同じく8/26公開のコスト効率モデル。320B 総参 / 18B 活性、MIT。
  • DeepSeek V4 Flash:コスト重視のエージェント運用で有力なオープンモデル。

ヒントとベストプラクティス

  1. 語彙のメモリを計画:51B N-gram パラメータは主に RAM 上にあるため、通常の MoE とメモリ計画が異なります。事前に dtype と量子化を確認。
  2. 「プレビュー」の注意:アーキテクチャ公開版のため、本番で使う前に独自タスクでベンチマーク。
  3. ハードウェアと合わせる:6B 活性化モデルは、語彙をオフロードすればデュアル Spark や中規模 GPU で高速に動く。

まとめ

Qwen3.8-Flash-Next は、Alibaba が Qwen4 をどう作るかを公開したプレビューです。非常に疎な活性化、RAM 常駐の N-gram 語彙、前世代より優れながら約 9 分の 1 の訓練コスト。安価で現行世代のオープンウェイト MoE が欲しいビルダーにとって、次を見据えた検討価値のある公開です。Qwen 公式ブログまたはGitHub リポジトリの技術レポートから始めるのがおすすめです。

コメント

まだコメントがありません。最初のコメントを投稿してください!