TypeLLM：Jev に着想を得た SGLang 構造化生成

TypeLLM/TypeLLM

ローカル代替モデル文書に記載

TypeLLM は SGLang で既存モデルにスキーマ制約を追加します。Jev に着想を得つつ、自由文、推論、フィールド間の依存にも対応します。

Apache-2.0 · Python · 更新 2026-09-28 · 835 ★ · 証拠の確認日 2026/09/30

何ができるか

TypeLLM は既存の自己回帰モデルに JSON Schema 制約付き出力を追加し、重みや構造を変更しません。

Jev に着想を得つつ自由文と任意の推論を維持し、出力フィールド間の依存関係にも対応します。

SGLang で互換モデルを起動し、TypeLLMClient から文脈と型付き質問を渡します。

スキーマは許容値を制限しますが、文章・数値・任意の推論では複数トークンを生成します。

証拠の確認日: 2026/09/30

リポジトリの紹介文（原文）

TypeLLM: LLMs with type-safe generation

スターはリポジトリ全体の値で、Jevと無関係な作業も含まれます。

文書に記載はリンクされた文書またはソースの証拠を示します。JevHuntは独自に実行やベンチマークをしていません。

証拠コミット: f009f6acb6108f7944ae8d84f0032109860fa812

発見元: awesome-jev, github-search。