查看运行中的模型
GET /v1/models/running
报告运行时状态,不是清单里有没有。冷加载或切换模型期间,runtime.state 可能是 loading 且模型列表暂时为空,这不等于卸载完成。包含队列状态改动的构建还会返回 runtime.queues。
响应
200运行时状态。每个模型的 status 内容由模型自己决定。objectstringdataobject[]idstringstatusobject模型自定义的运行时状态。runtimeobjectstatestringrunning;冷加载或切换模型期间为 loading,此时模型列表暂时为空。queuesobject可选,只在包含队列状态改动的构建上出现。准入队列有 http_transcribe、http_alignment、http_segmentation、http_normalization、http_diarization、http_speaker_embedding、http_broadcast 和 http_realtime;native_transcribe 和 native_broadcast 描述模型在 REST、Realtime、MCP 与预加载之间的归属。{
"object": "list",
"data": [
{
"id": "Qwen/Qwen3.5-4B",
"status": {
"value": "loaded"
}
}
],
"runtime": {
"state": "running"
}
}401API Key 缺失或无效。403Host 或 Origin 不被允许,或 License 被拒。按 error.code 区分这两种情况。503所需的本地模型仍在准备(model_downloading),或服务正忙(service_busy)。带 Retry-After 时按它退避。