Yinsongxu/LLM2Jev
सत्यापितस्थानीय विकल्पदस्तावेज़ में उल्लेख
LLM2Jev (Yinsongxu) prefill मूल्यांकन से स्थानीय भाषा और चित्र मॉडल को Jev-जैसी निर्णय सेवा बनाता है; SGLang, Transformers और MLX समर्थित हैं।
LLM2Jev स्थानीय भाषा और विज़न मॉडल के prefill logits से उम्मीदवार आँकता है, बिना टोकन-दर-टोकन उत्तर बनाए।
यह स्वतंत्र Jev-जैसा कार्यान्वयन है, जिसमें System One-संगत HTTP एंडपॉइंट है।
SGLang, Transformers या MLX को Python अथवा HTTP से समर्थित पाठ और चित्र इनपुट के साथ उपयोग करें।
कैश लाभ इनपुट लंबाई और उम्मीदवार संख्या पर निर्भर है; दिए JevBench परीक्षण में 231 सार्वजनिक प्रश्न हैं।
प्रमाण जाँचा गया:
Turn local language models into Jev-style structured decision models. Get results from text and images with prefill alone—no token-by-token decoding required.
स्टार पूरे रिपॉज़िटरी के हैं और इनमें Jev से असंबंधित काम भी हो सकता है।
दस्तावेज़ में उल्लेख जुड़े दस्तावेज़ या स्रोत को दर्ज करता है। JevHunt ने इसे स्वतंत्र रूप से चलाकर या बेंचमार्क करके नहीं देखा है।
प्रमाण कमिट: a4aafa85e1aba95329db36e085373d1572ab6917
खोज स्रोत: awesome-jev, typesafe-field-guide, github-search।
हम कैसे समीक्षा करते हैं →