openjev-sglang: Jev HTTP API sunan Qwen sunucusu

Otoregresif olmayan model choice, score ve noul sorularını yanıtlar; yönlendirici model kontrol noktasını seçer. Kendi sunucunuzda POST /v1/systemone üzerinden mevcut Jev istemcileri kullanılabilir; çalışan model Laya’dır.

Hazır modeller ve ince ayar, ortak metin üzerinde evet/hayır, çoktan seçmeli ve puanlama sorularını destekler. API, TypeSafe System One yapısını izler; TypeSafe Python SDK yerel Kev sunucusuna yönlendirilebilir.

Yanıt cümlesi üretmeden olasılıkları okuyarak yönlendirme, yeniden deneme ve kanıt kontrolü gibi küçük anlamsal kararları işler. Jev’in arayüz desenini yeniden kurar; açıklanmamış modelini veya eğitimini kopyalamaz ve TypeSafe ile bağlantılı değildir.

Durum ve adaylardan seçim, Boolean ve sıralı puan sorularını yanıtlar; yanıt tokenlerini çözmez. NanoJev, Jev’den esinlenen ayrı bir yerel modeldir; kayıtlar aynı oyun arayüzlerinde Jev ve ayarlanmamış Qwen’i karşılaştırır.

Metin veya yapılandırılmış durum ile evet/hayır sorusu verildiğinde evet olasılığı döner. Sunucu Jev’in Noul biçimini kullanır; mevcut istemciler kendi barındırdığınız ayrı bir modele bağlanabilir.

RAG-Fusion sorgu varyasyonları üretir ve tek sorgunun kaçırabileceği belgeleri bulmak için sıralamaları Reciprocal Rank Fusion ile birleştirir. Jev değerlendirme hattında isteğe bağlı bir yeniden sıralayıcıdır; deneyleri JEV_API_KEY gerektirir. İlk demo yalnızca vektör araması kullanır. Değerlendirme araçları NFCorpus üzerinde stratejileri karşılaştırır; hibrit hat BM25, vektör araması, birleştirme ve yeniden sıralamayı bir araya getirir.