Yinsongxu/LLM2Jev
TerverifikasiAlternatif lokalTerdokumentasi
LLM2Jev (Yinsongxu) mengubah model teks dan visual lokal menjadi layanan keputusan bergaya Jev lewat prefill, dengan SGLang, Transformers, dan MLX.
LLM2Jev menilai kandidat memakai logits prefill model bahasa dan visual lokal tanpa generasi token demi token.
Ini implementasi independen bergaya Jev dengan endpoint HTTP kompatibel System One.
Gunakan Python atau HTTP dengan SGLang, Transformers, atau MLX serta masukan teks dan gambar yang didukung.
Manfaat cache bergantung pada panjang masukan dan jumlah kandidat; perbandingan JevBench mencakup 231 soal publik.
Bukti diperiksa:
Turn local language models into Jev-style structured decision models. Get results from text and images with prefill alone—no token-by-token decoding required.
Bintang mencakup seluruh repositori dan dapat menyertakan pekerjaan yang tidak terkait dengan Jev.
Terdokumentasi mencatat dokumentasi atau sumber yang ditautkan. JevHunt tidak menjalankan atau menguji proyek ini secara mandiri.
Commit bukti: a4aafa85e1aba95329db36e085373d1572ab6917
Ditemukan melalui: awesome-jev, typesafe-field-guide, github-search.
Cara kami meninjau →