NanoJev: 게임을 통한 로컬 판단 모델 연구

비자기회귀 모델로 choice, score, noul 질문에 답하고 라우터가 체크포인트를 선택합니다. 자체 호스팅 서버는 기존 Jev 클라이언트를 위한 POST /v1/systemone을 제공하며, 실제 모델은 Laya입니다.

사전 학습 모델과 미세 조정으로 같은 텍스트에 대한 예·아니요, 객관식, 평점 질문을 처리합니다. API가 TypeSafe System One을 따르므로 TypeSafe Python SDK를 로컬 Kev 서버에 연결할 수 있습니다.

답변 문장을 생성하지 않고 선택지 확률을 읽어 라우팅, 재시도, 근거 확인 같은 작은 의미 판단을 처리합니다. Jev의 인터페이스 패턴을 재현하지만 비공개 모델이나 학습을 복제하지 않으며 TypeSafe와 제휴하지 않습니다.

텍스트 또는 구조화된 상태와 예·아니요 질문을 주면 '예'일 확률을 반환합니다. 로컬 서버는 Jev의 Noul 통신 형식을 사용해 기존 클라이언트가 별도의 자체 호스팅 모델에 연결할 수 있게 합니다.

RAG-Fusion은 질의 변형을 생성하고 Reciprocal Rank Fusion으로 검색 순위를 합쳐 단일 질의가 놓친 자료를 찾습니다. Jev는 평가 파이프라인에서 선택할 수 있는 재순위화 모델입니다. 해당 실험에는 JEV_API_KEY가 필요하며 원래 데모는 벡터 검색만 사용합니다. 평가 도구로 NFCorpus에서 검색 전략을 비교할 수 있습니다. 하이브리드 구성은 BM25, 벡터 검색, 순위 융합, 재순위화를 결합합니다.

decider는 상태와 타입이 지정된 질문을 받아 한 번의 순전파로 Choice, Score, Noul 확률을 반환합니다. Qwen 기반의 독립적인 Jev 방식 모델 제품군이며 Jev에서 증류한 학습 데이터는 사용하지 않습니다. Python Decider 인터페이스를 호출하거나 TypeSafe SDK를 호환 로컬 HTTP 엔드포인트에 연결합니다.