查看运行中的模型

GET /v1/models/running

报告运行时状态,不是清单里有没有。冷加载或切换模型期间,runtime.state 可能是 loading 且模型列表暂时为空,这不等于卸载完成。包含队列状态改动的构建还会返回 runtime.queues。

指南与示例模型与服务全部接口

响应

200运行时状态。每个模型的 status 内容由模型自己决定。
objectstringlist
dataobject[]
idstring
statusobject模型自定义的运行时状态。
runtimeobject
statestringrunning;冷加载或切换模型期间为 loading,此时模型列表暂时为空。
queuesobject可选,只在包含队列状态改动的构建上出现。准入队列有 http_transcribe、http_alignment、http_segmentation、http_normalization、http_diarization、http_speaker_embedding、http_broadcast 和 http_realtime;native_transcribe 和 native_broadcast 描述模型在 REST、Realtime、MCP 与预加载之间的归属。
JSON
{
  "object": "list",
  "data": [
    {
      "id": "Qwen/Qwen3.5-4B",
      "status": {
        "value": "loaded"
      }
    }
  ],
  "runtime": {
    "state": "running"
  }
}
401API Key 缺失或无效。
403Host 或 Origin 不被允许,或 License 被拒。按 error.code 区分这两种情况。
503所需的本地模型仍在准备(model_downloading),或服务正忙(service_busy)。带 Retry-After 时按它退避。