Công dụng
Gói này chạy mô hình Laya của Convai Innovations qua ONNX Runtime để phân loại và chấm điểm có kiểu dữ liệu trong Node.js và TypeScript.
Vai trò của Jev
Cấu trúc yêu cầu và phản hồi tương thích với API system_one của Jev, nhưng trọng số Laya được chạy cục bộ.
Cách bắt đầu
Cài @receptron/laya trên Node.js 20 trở lên, tải Laya rồi truyền trạng thái và câu hỏi có kiểu vào systemOne; đóng đối tượng sau khi dùng.
Phạm vi và giới hạn
Các lựa chọn phải nằm trong 192 token. Checkpoint tiếng Anh cắt trạng thái theo giới hạn 512 token sau phần đầu câu hỏi; cách định dạng số JSON có thể khác Python.
Đã kiểm tra dẫn chứng: