Einsatzzweck
Das Paket führt Laya von Convai Innovations mit ONNX Runtime aus und ermöglicht typisierte Klassifikation und Bewertung in Node.js und TypeScript.
Rolle von Jev
Anfragen und Antworten folgen einem zu Jevs system_one-API kompatiblen Format; lokal laufen dabei die Gewichte von Laya.
Einstieg
Unter Node.js 20 oder neuer @receptron/laya installieren, Laya laden und Zustand sowie typisierte Fragen an systemOne übergeben. Die Instanz danach schließen.
Umfang und Grenzen
Frageoptionen müssen in 192 Tokens passen. Der englische Checkpoint kürzt den Zustand nach dem Fragenkopf auf sein 512-Token-Limit; JSON-Zahlen können anders formatiert sein als in Python.
Beleg geprüft: