Nous: Hermes 3 405B Instruct

Hermes 3 405B は Nous Research の Hermes 3 シリーズのフラッグシップで、Hugging Face の NousResearch/Hermes-3-Llama-3.1-405B で公開されています。モデルカードは、Meta の Llama-3.1-405B の「フロンティア級の全パラメータ ファインチューン」で、モデルをユーザーに整合させることを目的としていると説明しています。技術報告「Hermes 3 Technical Report」（arXiv 2408.11857）は、Ryan Teknium、Jeffrey Quesnelle、Chen Guang により 2024 年 8 月 15 日に公開されました。2026 年 10 月 29 日時点でリポジトリは公開されています。本エントリは Hugging Face で公開されたモデルを扱い、API サービスではありません。

主な機能

• ベースとサイズ：meta-llama/Llama-3.1-405B からのファインチューンで、約 406B パラメータ、BF16 Safetensors。
• Nous が述べる能力：関数呼び出しと構造化出力（JSON モード）、エージェント能力、ロールプレイ、推論、マルチターン会話、コード生成。ChatML のプロンプト形式を使い、システムプロンプトで制御できます。
• 競争力：カードは、Hermes 3 は Llama-3.1 Instruct モデルと競合し、一部の領域では上回る可能性があるが、強みと弱みはタスクによると述べています。詳細な比較はカード内の図にあります。
• ライセンス：ベースモデルから引き継いだ Llama 3 ライセンス。
• 計算資源：カードは LambdaLabs とその 1-Click Cluster サービスに謝辞を述べています。

使用シナリオ

• 大規模なオープンモデルでのエージェントや関数呼び出しの研究。
• ロールプレイ、長いマルチターン対話、システムプロンプトで制御する使い方。
• さらなるファインチューニングや蒸留の実験の土台。

制約：モデルは非常に大きく、カードによると FP16 での読み込みには 800GB 超の VRAM が必要で、事前量子化の FP8 版（NousResearch/Hermes-3-Llama-3.1-405B-FP8）は約 430GB が必要です。カードにコンテキスト長の記載はなく、Hugging Face で推論プロバイダーによる提供もありません。

料金プラン

重みは Llama 3 ライセンスの条件の下で無料でダウンロードできます。カードにホスト価格はなく、本エントリでも価格は掲載しません。Transformers、vLLM、SGLang、Docker Model Runner の使用例がカードにあります。

はじめに

1. Llama のライセンス条件を確認し、BF16 か FP8 の重みをダウンロードする。
2. vLLM や SGLang で複数 GPU にデプロイする。メモリが限られる場合は FP8 版を使う。
3. ChatML とシステムメッセージでプロンプトを整える。

よくある質問

Hermes 3 405B は何をベースにしていますか？

モデルカードによると、Meta の Llama-3.1-405B です。

どれくらいのメモリが必要ですか？

カードによると、FP16 では 800GB 超の VRAM、FP8 版では約 430GB です。

関数呼び出しに対応していますか？

はい。カードには関数呼び出しと JSON モードの構造化出力が記載されています。

より小さな Hermes はありますか？

このカタログには Nous の以前のより小さなモデル Hermes 2 Pro Llama-3 8B があります。

代替案

• Llama 3.1 405B Instruct：同じベースの Meta 公式の指示モデル。
• Llama 3.1 70B Instruct：はるかに小さい Meta の選択肢。
• Hermes 2 Pro Llama-3 8B：以前の軽量な Hermes。

まとめ

Hermes 3 405B は制御しやすくツール呼び出しにも対応したオープンなファインチューンで、相応のハードウェアが必要です。軽い選択肢なら、より小さな Llama や Hermes を試してください。ほかのモデルはモデルカテゴリをご覧ください。