Jeff とは？料金・機能・代替

Jeff は独立系開発者 firelex が 2026 年 9 月 28 日に公開した小さな意思決定モデルのファミリーです。狙いは意図的に狭く、状況を説明し選択肢を自然言語で並べると、1 回のフォワードパスで各選択肢の較正済み確率を返します。テキスト生成もパースも不要で、チャットモデルからラベルを引き出す手順がありません。バージョン 1.1 は Qwen3.5 と Gemma 4 をファインチューニングした 0.8B と 2B のチェックポイントで、選択肢の上限は v1.0 の 26 から 254 に増えました。README によれば判定は RTX PRO 6000 で約 22 ミリ秒、Apple M4 Max の MLX で約 28 ミリ秒です。学習はワークステーション GPU 1 基、合成データの生成は DGX Spark 2 台、テストは MacBook という、すべてローカルハードウェアで完結しています。

主な機能

文章ではなく確率を返す: 1 回のフォワードパスで各選択肢の較正済みスコアを返すため、下流のコードは自由文を解析せず数値で分岐できます。
ゼロショットの選択肢: カテゴリは学習データに含まれている必要がなく、呼び出し時に記述できます。サポートキュー、意図ルーティング、モデレーションのラベル、音声コマンドに向きます。
2 つのサイズ: 0.8B はほぼどこでも動き、2B はわずかな遅延と引き換えに精度を取ります。
Jev 互換のリクエスト形式: TypeSafe の Jev API 向けに書いたコードがあれば、同じリクエスト形式が使えるため、自然なローカル代替になります。
長い選択肢リストが実用に: 1.1 で上限が 26 から 254 になり、プロジェクトの長リストテストで 0.8B は 40% から 95% に改善しました。
正直なドキュメント: README はベンチマークで Jev に迫り時には上回る一方、推論能力は Jev に及ばないと明記しています。モデルカードでこう書く例は多くありません。

使用シナリオ

このツールを使うべき人は？

ルーティング層を足したい開発者: 40 の意図のどれかを判定する場面では、小さなローカルモデルのほうがフロンティアモデル呼び出しより安く安定します。
データを外に出せないチーム: 学習も推論もローカルで完結し、ホスト型 API に何も送りません。
大量の分類を処理する場面: 1 件数十ミリ秒の判断は、トークン課金の API とは経済性がまったく異なります。

解決する問題

小さな判断にフロンティアモデルを使う無駄: 12 のサポート分類から 1 つ選ぶのに推論モデルとその請求は必要ありません。
出力パースの不安定さ: 確率を返すことで、生成テキストからラベルを抜き出す脆い工程が消えます。
データ所在: 学習と推論がローカルなので、機密性の高い分類データが手元に留まります。

料金プラン

Jeff は MIT ライセンスの無料オープンソースで、重みは Hugging Face に公開され、v1.0 はリビジョンとして残されています。コストはハードウェアです。README によれば 1 基の RTX PRO 6000 で 0.8B は約 2 時間、2B は約 3.5 時間で学習できるため、自前サンプルでの短いファインチューニングは四半期ではなく 1 日単位の話になります。

優位性と独自の価値提案

競合との比較:

エッジでの速度: 数ミリ秒から数十ミリ秒の判断はリクエスト経路に組み込めますが、多くのホスト型分類器はそこに収まりません。
来歴の再現性: 学習データはすべて合成で、オープンモデルが生成し、クローズドモデルはサンプル品質の抜き取り確認にのみ使われました。
ファインチューニングが用意された逃げ道: README は音声ナビゲーションのファインチューニングで、ホールドアウト精度が 31.7% から 95.8% へ 30 分未満で改善したと報告しています。

際立つポイント:

Jev と同じリクエスト形式で、移行はほぼ設定変更です。
254 件の選択肢上限により、玩具から実用的なルーターになります。
較正が製品そのものであり、後付けではありません。

ユーザーレビュー

9 月下旬に Hacker News に登場し、小さなモデルの発表にいつも付く反応が返ってきました。安価なルーティング層を求める人たちの関心と、「0.8B は玩具だろう」と決めつける人たちの懐疑です。ベンチマークの数値は作者の自己申告であり、README の推論能力に関する正直な但し書きがここでは効いています。期待値を「高速で較正された判断」に置き、「モデルの代替」とはしていません。精度の数値は作者のものとして扱い、依存する前に自分のデータで測り直してください。

はじめに

クイックスタート

サイズを選ぶ: まず 0.8B で始め、自分のハードウェアで遅延を確認します。
選択肢を書く: 呼び出し時にカテゴリを自然言語で記述します。ラベルファイルは不要です。
Jev と同じ形式で呼ぶ: ドキュメントのリクエスト形式で状況と選択肢リストを送ります。
信じる前に測る: 自分のホールドアウトで、top-1 精度だけでなく較正も比較します。
僅差ならファインチューニング: 精度がほぼ足りているなら、実例での短いファインチューニングが文書化された次の一手です。

統合

Apple シリコンの MLX、RTX ハードウェアの CUDA を含むローカル推論スタック。
リクエスト形式が互換のため、既存の Jev クライアントコード。
フロンティアモデルの手前に高速な分類ステップを挟みたいエージェントルーターやパイプライン。
固定した v1.0 リビジョンを含む Hugging Face の重み。

よくある質問

Jeff は Jev の代替ですか？

いいえ。README は、分類ベンチマークで Jev に迫るものの推論能力は及ばない、はるかに小さなモデルとして位置づけ、ゼロショット精度が足りない場合のファインチューニングを勧めています。

いくつの選択肢から選べますか？

バージョン 1.1 は最大 254 件で、バージョン 1.0 は 26 件でした。

どのくらい速いですか？

プロジェクトの報告は RTX PRO 6000 で約 22 ミリ秒、Apple M4 Max の MLX で約 28 ミリ秒です。設計に取り込む前に自分のハードウェアで測ってください。

自分のデータでファインチューニングできますか？

できます。それが文書化された標準的な経路で、README に必要なハードウェアと所要時間が書かれています。

データは外部に送られますか？

学習も推論もローカルで動作し、ワークフローはホスト型 API を必要としません。

代替案

Jeff が合わない場合は、次の代替案を検討してください:

Jev: 元の API とより高い推論能力を求める場合の TypeSafe のホスト型 System One モデル。
LangGraph: 分類器そのものではなく、複数の判断呼び出しを編成する部分が不足しているときに向いています。
MiroFish: 分類ではなくマルチエージェントシミュレーションを狙った、もう 1 つのローカル優先のアプローチ。
Buzz: 意思決定モデルではなくエージェント用ワークスペースが不足している場合。

ヒントとベストプラクティス

順位付けではなく較正を確認: 閾値を設定できる確率はラベルより有用ですが、自分のデータで較正を確認してからです。
選択肢の文言を固定する: ゼロショットでは選択肢の文言がインターフェースの一部なので、コードと同じように版管理します。
まず小さいチェックポイント: 下限から始めると遅延予算を立てやすくなります。
実例でファインチューニング: 合成データは立ち上げ用、本番の実例が最後の数十ポイントを埋めます。

まとめ

Jeff は境界の明確なツールです。1 つのことだけを行い、段落ではなく数値を返し、すでに持っているハードウェアで動きます。ボトルネックが大きなモデルの手前にあるルーティングや分類の判断なら、0.8B は今週試せる程度に安価です。README に書かれたファインチューニングの道筋が、賢いデモを出荷できる部品に変える鍵になります。

Jeff