Rizzo-AI-Academy/rizzo-flow
Đã xác minhGiải pháp thay thế cục bộCó trong tài liệu
Rizzo Flow cung cấp mô hình cục bộ qua API tương thích Jev trên llama.cpp. Dự án tái hiện giao diện; xác suất cần tự hiệu chỉnh.
Rizzo Flow chạy mô hình mở cục bộ, trả lựa chọn, xác suất, điểm theo tiêu chí và số qua HTTP tương thích Jev.
Dự án độc lập tái hiện mẫu giao diện Jev, không tái tạo kiến trúc hay cách huấn luyện độc quyền.
Chạy mô hình bằng llama.cpp rồi trỏ mã ứng dụng tương thích TypeSafe vào điểm cuối cục bộ.
Xác suất cần hiệu chỉnh trên dữ liệu của bạn; lượng tử hóa, phần cứng và môi trường chạy có thể làm thay đổi giá trị.
Đã kiểm tra dẫn chứng:
The open, local take on Jev: typed decisions from an LLM, without generating a single token
Số sao tính trên toàn bộ kho mã và có thể gồm công việc không liên quan đến Jev.
Có trong tài liệu ghi lại tài liệu hoặc mã nguồn được liên kết. JevHunt chưa tự chạy hoặc đánh giá dự án này.
Commit dẫn chứng: b9ba007ee4d2928bbab5b1d8bfe9009c3696b6de
Được phát hiện qua: typesafe-field-guide.
Cách chúng tôi đánh giá →