Endpoint 目錄
OpenAI 相容 (/v1/*)
| Endpoint | 方法 | 說明 |
|---|---|---|
/v1/models | GET | 列出已載模型 |
/v1/completions | POST | 文字補全 |
/v1/chat/completions | POST | 聊天補全(SSE streaming) |
LM Studio 風格 (/api/v0/*)
OpenAI shape + runtime stats + TinyLoop 旋鈕(loops、cache_window 等)。
TinyLoop 原生 (/generate*)
| Endpoint | 說明 |
|---|---|
/generate | 基本生成 |
/generate/stream | SSE streaming 生成 |
/generate/speculative | Self-speculative decode |
/generate/tree | Tree-speculative decode |