專案用途
LLM2Jev 使用本地語言及視覺模型的預填充 logits 為候選評分,不逐 token 產生答案。
Jev 的角色
它提供獨立的 Jev 風格實作,以及相容的 System One HTTP 端點。
使用方式
可透過 Python 或 HTTP 使用 SGLang、Transformers、MLX,並傳入支援的文字與影像。
使用限制
快取效益取決於輸入長度及候選數量;所引 JevBench 比較僅涵蓋 231 道公開題。
證據檢查時間:
Yinsongxu/LLM2Jev
已核驗本地替代模型文件提及
LLM2Jev (Yinsongxu) 以預填充評分將本地語言及視覺模型變成 Jev 風格決策服務,支援 SGLang、Transformers、MLX 與相容 HTTP 介面,屬獨立實作。
LLM2Jev 使用本地語言及視覺模型的預填充 logits 為候選評分,不逐 token 產生答案。
它提供獨立的 Jev 風格實作,以及相容的 System One HTTP 端點。
可透過 Python 或 HTTP 使用 SGLang、Transformers、MLX,並傳入支援的文字與影像。
快取效益取決於輸入長度及候選數量;所引 JevBench 比較僅涵蓋 231 道公開題。
證據檢查時間:
Turn local language models into Jev-style structured decision models. Get results from text and images with prefill alone—no token-by-token decoding required.
Star 統計的是整個儲存庫,其中可能包含與 Jev 無關的工作。
文件提及 表示連結的文件或原始碼證據。JevHunt 未獨立執行或評測此專案。
證據提交: a4aafa85e1aba95329db36e085373d1572ab6917
發現來源:awesome-jev, typesafe-field-guide, github-search。
我們如何審核 →