Yinsongxu/LLM2Jev
確認済みローカル代替モデル文書に記載
LLM2Jev (Yinsongxu) は prefill 評価でローカルの言語・視覚モデルを Jev 風の決定サービスに変え、SGLang、Transformers、MLX に対応します。
LLM2Jev はローカル言語・視覚モデルの prefill logits で候補を評価し、トークン単位の生成を行いません。
独立した Jev 風の実装で、System One 互換 HTTP エンドポイントを備えます。
SGLang、Transformers、MLX を Python または HTTP から利用し、対応するテキスト・画像を入力できます。
キャッシュ効果は入力長と候補数に依存します。引用された JevBench 比較は公開 231 問が対象です。
証拠の確認日:
Turn local language models into Jev-style structured decision models. Get results from text and images with prefill alone—no token-by-token decoding required.
スターはリポジトリ全体の値で、Jevと無関係な作業も含まれます。
文書に記載 はリンクされた文書またはソースの証拠を示します。JevHuntは独自に実行やベンチマークをしていません。
証拠コミット: a4aafa85e1aba95329db36e085373d1572ab6917
発見元: awesome-jev, typesafe-field-guide, github-search。
審査方法 →