项目用途
LLM2Jev 使用本地语言及视觉模型的预填充 logits 为候选评分,不逐 token 生成回答。
Jev 的作用
它提供独立的 Jev 风格实现,以及兼容的 System One HTTP 端点。
使用方式
可通过 Python 或 HTTP 使用 SGLang、Transformers、MLX,并传入支持的文本与图像。
使用边界
缓存收益取决于输入长度和候选数量;所引 JevBench 对比仅覆盖 231 道公开题。
证据检查时间:
Yinsongxu/LLM2Jev
已核验本地替代模型文档提及
LLM2Jev (Yinsongxu) 用预填充评分将本地语言及视觉模型变成 Jev 风格决策服务,支持 SGLang、Transformers、MLX 和兼容 HTTP 接口,是独立实现。
LLM2Jev 使用本地语言及视觉模型的预填充 logits 为候选评分,不逐 token 生成回答。
它提供独立的 Jev 风格实现,以及兼容的 System One HTTP 端点。
可通过 Python 或 HTTP 使用 SGLang、Transformers、MLX,并传入支持的文本与图像。
缓存收益取决于输入长度和候选数量;所引 JevBench 对比仅覆盖 231 道公开题。
证据检查时间:
Turn local language models into Jev-style structured decision models. Get results from text and images with prefill alone—no token-by-token decoding required.
Star 统计的是整个仓库,其中可能包含与 Jev 无关的工作。
文档提及 表示链接的文档或源码证据。JevHunt 未独立运行或评测该项目。
证据提交: a4aafa85e1aba95329db36e085373d1572ab6917
发现来源:awesome-jev, typesafe-field-guide, github-search。
我们如何审核 →