Yinsongxu/LLM2Jev
ПровереноЛокальная альтернативаУказано в документации
LLM2Jev (Yinsongxu) превращает локальные текстовые и визуальные модели в службы решений по образцу Jev через prefill, SGLang, Transformers и MLX.
Открыть GitHub ↗ Читать подтверждение ↗ Альтернативы Сообщить о проблеме
LLM2Jev оценивает варианты по prefill-логитам локальных языковых и визуальных моделей без поэтапной генерации токенов.
Это независимая реализация по образцу Jev с совместимой HTTP-точкой System One.
Используйте Python или HTTP с SGLang, Transformers либо MLX и поддерживаемыми текстовыми и визуальными входами.
Польза кеша зависит от длины и числа вариантов; приведённое сравнение JevBench охватывает 231 открытую задачу.
Проверка подтверждения:
Turn local language models into Jev-style structured decision models. Get results from text and images with prefill alone—no token-by-token decoding required.
Звёзды относятся ко всему репозиторию и могут включать работу, не связанную с Jev.
Указано в документации фиксирует связанную документацию или исходный код. JevHunt не запускал и не тестировал проект самостоятельно.
Коммит подтверждения: a4aafa85e1aba95329db36e085373d1572ab6917
Источник обнаружения: awesome-jev, typesafe-field-guide, github-search.
Как мы проверяем →Предложить исправление · Заявить права на запись · Отправить проект