Mục đích
LocalJev chuyển yêu cầu có kiểu thành lời nhắc phân loại DiffusionGemma và kiểm tra xác suất được sinh ra.
Vai trò của Jev
Dịch vụ Bun trả định dạng Jev qua hệ thống chat chuẩn tương thích OpenAI.
Cách sử dụng
Chạy bằng Bun cùng máy chủ oMLX, rồi trỏ máy khách SDK TypeSafe vào API cục bộ.
Giới hạn
Xác suất do mô hình sinh, không đọc trực tiếp logits; tương thích giao thức không đồng nghĩa toán học hay hiệu chỉnh tương đương OpenJev.
Đã kiểm tra dẫn chứng: