Yinsongxu/LLM2Jev
확인됨로컬 대안 모델문서에 기재
LLM2Jev (Yinsongxu)는 프리필 평가로 로컬 언어·시각 모델을 Jev 방식 결정 서비스로 바꾸며 SGLang, Transformers, MLX를 지원합니다.
LLM2Jev는 로컬 언어·시각 모델의 프리필 logits로 후보를 평가하며 토큰별 답변을 생성하지 않습니다.
독립적인 Jev 방식 구현이며 System One 호환 HTTP 엔드포인트를 제공합니다.
SGLang, Transformers, MLX를 Python이나 HTTP로 사용하고 지원되는 텍스트·이미지를 입력합니다.
캐시 효과는 입력 길이와 후보 수에 달려 있습니다. 인용된 JevBench 비교는 공개 231개 문제 범위입니다.
근거 확인일:
Turn local language models into Jev-style structured decision models. Get results from text and images with prefill alone—no token-by-token decoding required.
스타 수는 Jev와 무관한 작업을 포함한 저장소 전체 기준입니다.
문서에 기재은 연결된 문서 또는 소스 근거를 기록합니다. JevHunt가 직접 실행하거나 벤치마크한 결과는 아닙니다.
근거 커밋: a4aafa85e1aba95329db36e085373d1572ab6917
발견 출처: awesome-jev, typesafe-field-guide, github-search.
검토 방법 →수정 제안 · 이 목록 소유권 요청 · 프로젝트 제출