Edge0

Edge0 は、コマンドライン、ローカルサーバー、またはチャットアプリケーションで疎なモデルを実行する Apache-2.0 のローカル推論プロジェクトです。2026 年 11 月 13 日、プロジェクトは Qwen3.8-Flash-Next から派生した latent MoE の Edge0-145B と Edge0-120B を公開しました。このリリースは対応 NVIDIA GPU と CUDA 13 を持つ Linux または Windows 向けであり、最新ウェイトは Mac やスマートフォン向けの汎用デプロイ経路ではありません。

提供するもの

• 大規模なローカルウェイト：145B / 120B 総パラメータのチェックポイントを Hugging Face で Q3_K と NVFP4 として提供します。プロジェクトは、ローカルのコーディングとエージェント作業向けにネイティブ 4-bit 学習した latent MoE と説明しています。
• 単一のローカル操作面：edge0-infer は chat と serve を公開し、OpenAI 互換のローカルサーバーも文書化されています。旧 35B モデルはネイティブエンジンにより、より多くのデバイス分類をサポートします。
• 明示的なハードウェア境界：現在の 145B / 120B は Linux または Windows 上の NVIDIA CUDA で edge0-strata を使います。旧 35B エンジンの対応表から最新モデルの Apple Silicon 対応を推測してはいけません。
• ローカル実行という選択：ウェイトとサービスを管理下のハードウェアに留められます。ただしローカルのエンドポイント、モデルファイル、プロンプト、ログの保護が不要になるわけではありません。

実践ワークフロー

1. 公式のモデルガイドで CUDA 13、GPU、メモリ要件を確認します。
2. 公式 Hugging Face の 145B または 120B バリアントを取得し、対応する Edge0 リリースを導入します。
3. まず edge0-infer chat で小さなコーディングまたは推論評価を行い、ローカル API が必要な場合だけ edge0-infer serve を使います。
4. サービスは信頼できるインターフェースに限定し、クラウドモデルを置き換える前に実プロンプトで品質、遅延、メモリ、ライセンスを検証します。

制限と比較

公開ベンチマークやスループットは出発点になりますが、プロジェクト提供・特定ハードウェア上の数値で、独立した保証ではありません。145B という表記は全てのワークステーションで動くことを意味しません。最新モデルの NVIDIA/CUDA 経路は旧 35B エンジンより限定的です。幅広いローカル互換性が必要なら Qwen3.8-Flash-Next や小さなチェックポイントを比較してください。ローカルサーバーは、ホスト型 API と同じ運用管理を自動的に備えるものでもありません。

FAQ

Edge0 はオープンソースですか？

リポジトリは Apache-2.0 です。コードとウェイトには別々の条件があり得るため、再配布前に各モデルカードとリリース成果物を確認してください。

現在の 145B は macOS で動きますか？

プロジェクトの 11 月 13 日の対応表では動きません。145B / 120B は Linux または Windows、NVIDIA GPU、CUDA 13 向けで、macOS は旧 35B ネイティブエンジン向けです。

ホスト型モデルではなく使う理由は？

ローカル管理、オフライン対応、リクエストごとのモデル提供者への露出回避が重要で、ハードウェアと運用の負担を受け入れられる場合に適しています。

結論

Edge0 は、現行のハードウェア要件を満たせるビルダーにとって、資料が揃い活発に保守されているローカルモデルの選択肢です。145B / 120B は NVIDIA に絞ったデプロイ経路として扱い、自分のワークロードで検証し、変化の速いセットアップ詳細は公式リポジトリを基準にしてください。