openjev-sglang: сервер Qwen с HTTP API Jev

Неавторегрессионная модель отвечает на вопросы choice, score и noul; маршрутизатор выбирает чекпойнт. Собственный сервер предоставляет POST /v1/systemone для существующих клиентов Jev, но исполняет модель Laya.

Готовые модели и дообучение поддерживают бинарные вопросы, выбор варианта и оценку по общему тексту. API следует TypeSafe System One, поэтому TypeSafe Python SDK можно направить на локальный сервер Kev.

Он решает небольшие задачи маршрутизации, повторов и проверки свидетельств по вероятностям вариантов, не генерируя текст ответа. Проект воспроизводит шаблон интерфейса Jev, а не закрытую модель или обучение, и не связан с TypeSafe.

Модель отвечает на вопросы выбора, булевы вопросы и порядковые оценки по состояниям и кандидатам, не декодируя токены ответа. Это отдельная локальная модель по мотивам Jev; записи сравнивают Jev и Qwen без дообучения на одинаковых игровых интерфейсах.

Передайте текст или структурированное состояние и бинарный вопрос, чтобы получить вероятность ответа «да». Сервер использует формат Jev для Noul, позволяя существующим клиентам обращаться к отдельной самостоятельно размещённой модели.

RAG-Fusion создаёт варианты запроса и объединяет рейтинги методом Reciprocal Rank Fusion, находя документы, которые может пропустить одна формулировка. Jev служит необязательным переранжировщиком в оценочном конвейере; эксперименты с ним требуют JEV_API_KEY. Исходная демонстрация использует только векторный поиск. Инструменты оценки сравнивают стратегии на NFCorpus; гибридный конвейер сочетает BM25, векторный поиск, слияние и переранжирование.