Von は Apache-2.0 の 395M System One 意思決定モデルで、Apple MPS 上で約 18 ミリ秒で校正済みの回答をローカルに返します。

共有:
代替ツールを見る

Von は Jev の背後にある発想を、自分のマシンで動かせるオープンウェイトとして実装しようとする試みです。395M パラメータ、Apache-2.0。主張は TypeSafe が System One モデルについて述べたものと同じです。テキスト生成を必要としない判断にフロンティア LLM を使うのをやめる。Von はトークンをデコードせず、状態と型付きの問いを受け取り、1 回のフォワードパスで校正済みの確率分布を返します。

第一者リポジトリ2026-09-18 に作成され、ライセンスは Apache-2.0、Python 3.12 以上。2026-09-20 の GitHub は 63 stars10 forks で、同日に push もありました。重みは Hugging Face の wfzyx/von-1.0 にあり、ModernBERT を土台にした safetensors リポジトリで、執筆時点で 16 likes、約 1,223 ダウンロード。63 stars は非常に初期のプロジェクトを示すもので、実績ではありません。

主な機能

  • 3 つの意思決定プリミティブChoice は排他的な選択肢上の確率分布を、Noul は条件が成立する校正済みの二値確率を、Score は順序尺度上の連続評価を返します。
  • 自己回帰デコードなし:フォワードパスは 1 回、KV キャッシュの肥大も、生成 JSON のスキーマ解析エラーもありません。
  • 校正はプロンプトではなく学習から:Von は交差エントロピーと Brier スコアを組み合わせた目的関数で事後学習し、温度スケーリングを適用します。返す信頼度は、自信ありげに見えることではなく実際の精度を反映することを狙っています。
  • ハードウェア非依存:CUDA、Linux 上の AMD ROCm、Apple Metal Performance Shaders、マルチスレッド CPU の経路が挙げられています。
  • プロトコル互換von serve/v1/systemone の HTTP エンドポイントを公開し、TypeSafe のワイヤ仕様と一致するとしています。片方向けに書いたクライアントがもう片方と話せます。

ベンチマーク

Von の数値は、作者がコミュニティベンチマーク jabr/classifier-benchmark を自ら回したものです。8 タスク、78 ケース。

モデル 規模 マクロ精度 MPS/GPU レイテンシ CPU レイテンシ コスト
Von-1.0 395M(1.5 GB) 93.5% 約 18 ms 約 480 ms ローカル、Apache-2.0
GLiNER2(fastino/gliner2-large-v1) 約 300M 78.5% 約 93 ms 約 500 ms ローカル、Apache-2.0
TypeSafe Jev 非公開 97.2% 約 302 ms(API) クラウドのみ $0.042 / 100 万入力トークン

この表はベンダー数値として読んでください。テストセットは小さく、モデルも比較も作者自身が回しており、素の精度では Jev が依然として先行します。Von が変えるのは配備の形です。API なし、従量課金なし、データはマシンから出ません。

使用シナリオ

  • エージェントのルーティング:生成呼び出しに課金する前に、どのツール、キュー、モデルに渡すかを決める。
  • ガードレールと検証:モデル出力に対する安価な二重チェック。
  • トリアージの採点:プロンプトテンプレートなしで、深刻度、緊急度、感情を順序尺度で評価する。
  • オフライン構成:ホスト型の意思決定 API に依存できないローカル優先アプリ。

制約:Von は文章もコードもツール呼び出し文字列も書きません。ソフトウェア内部の意思決定関数であり、チャットモデルではありません。395M の非自己回帰分類器は、雑で未知の分類体系において微調整済みフロンティアモデルの広さを持ちません。

料金プラン

プラン 価格 内容
Von-1.0 の重み $0 GitHub と Hugging Face の Apache-2.0。
von-sdk $0 pip install von-sdkuv add von-sdknpm install von-sdk
ホスティング 自前の計算資源 セルフホスト。ホスト型サービスは公開されていません。

はじめに

pip install von-sdk          # または: uv add von-sdk
import von

result = von.decide(
    state="Database replication lag on cluster us-west-2 exceeded 45 seconds.",
    choices={
        "infrastructure": "Database, hardware, network, or server failures",
        "billing": "Invoices, payments, refunds, subscription queries",
        "feature_request": "Requests for new platform capabilities",
    },
)

サービスとして動かす場合は von serve --host 0.0.0.0 --port 8000 で HTTP エンドポイントを起動します。README には /v1/systemone"model": "von-1.0.0" に対する curl 例があります。第一者の入口は リポジトリの READMEHugging Face のモデルカード です。

よくある質問

Von は TypeSafe と関係がありますか?

ありません。独立したプロジェクトで、Jev のドロップイン代替だと述べ、同じワイヤプロトコルとの互換性を主張しています。

Jev の精度に追いつきますか?

作者のテストセットではマクロ精度で約 4 ポイント下回ります。その代わりにローカル実行と従量コストゼロで補います。

GPU は必要ですか?

不要です。CPU 推論も可能ですが、作者の計測では CPU が約 480 ms、Apple MPS が約 18 ms です。

代替案

  • Jev:模倣元の商用 System One モデル。精度で上、開放性で下。
  • LangGraph:通常の LLM をルーティング判断に使うワークフローホスト。
  • GLiNER2:抽出タスク向けのオープンウェイト分類・スパンモデル。

ヒント

  1. 分類体系はプリミティブが扱いやすい基数に収め、大きいものは二段階ルーティングに分けてください。
  2. 信頼度はゲートとして使ってください。高信頼の先頭は自動化し、裾はレビューに回します。
  3. 既存の System One クライアントに差し替える前に、/v1/systemone の互換性を自分で確認してください。

まとめ

Von は、Jev が 2026 年 9 月に投げかけた問いへのオープンウェイトの答えです。分類やルーティングの判断に本当に生成モデルが必要なのか。約 18 ミリ秒でローカルに動く 395M の非自己回帰分類器は、合理的な「不要」の答えです。5 つのラベルから 1 つ選ぶためにフロンティアモデルに払っているなら、エージェントループで試す価値があります。

コメント

まだコメントがありません。最初のコメントを投稿してください!