Yinsongxu/LLM2Jev
DoğrulandıYerel alternatifBelgelenmiş
LLM2Jev (Yinsongxu), prefill puanlamasıyla yerel dil ve görüntü modellerini Jev benzeri hizmetlere çevirir; SGLang, Transformers ve MLX kullanır.
LLM2Jev, token token üretim yapmadan yerel dil ve görüntü modellerinin prefill logitleriyle adayları puanlar.
System One uyumlu HTTP uç noktası sağlayan bağımsız Jev benzeri uygulamadır.
Desteklenen metin ve görüntülerle SGLang, Transformers veya MLX’i Python ya da HTTP üzerinden kullanın.
Önbellek yararı girdi uzunluğu ve aday sayısına bağlıdır; aktarılan JevBench karşılaştırması 231 açık soruyu kapsar.
Kanıt kontrolü:
Turn local language models into Jev-style structured decision models. Get results from text and images with prefill alone—no token-by-token decoding required.
Yıldızlar tüm depoya aittir ve Jev ile ilgisiz çalışmaları içerebilir.
Belgelenmiş, bağlantılı belge veya kaynak kanıtını kaydeder. JevHunt bu projeyi bağımsız olarak çalıştırmamış veya kıyaslamamıştır.
Kanıt commit’i: a4aafa85e1aba95329db36e085373d1572ab6917
Şu kaynak üzerinden bulundu: awesome-jev, typesafe-field-guide, github-search.
Nasıl inceliyoruz →