TypeLLM/TypeLLM
로컬 대안 모델문서에 기재
TypeLLM은 SGLang으로 기존 모델에 스키마 제약 출력을 추가합니다. Jev에서 영감을 받았으며 자유 텍스트, 추론, 필드 의존성도 지원합니다.
TypeLLM은 가중치나 구조를 바꾸지 않고 기존 자기회귀 모델에 JSON Schema 제약 출력을 추가합니다.
Jev에서 영감을 받았으며 자유 형식 텍스트, 선택적 추론, 출력 필드 간 의존 관계를 지원합니다.
SGLang에서 호환 모델을 서빙한 뒤 TypeLLMClient로 맥락과 타입이 지정된 질문을 전달합니다.
스키마는 허용 값을 제한합니다. 텍스트, 수치 출력과 선택적 추론은 여전히 여러 토큰을 생성합니다.
근거 확인일:
TypeLLM: LLMs with type-safe generation
스타 수는 Jev와 무관한 작업을 포함한 저장소 전체 기준입니다.
문서에 기재은 연결된 문서 또는 소스 근거를 기록합니다. JevHunt가 직접 실행하거나 벤치마크한 결과는 아닙니다.
근거 커밋: f009f6acb6108f7944ae8d84f0032109860fa812
발견 출처: awesome-jev, github-search.
검토 방법 →수정 제안 · 이 목록 소유권 요청 · 프로젝트 제출