ROONAI
/ vLLM Live Dashboard
只显示真实来源数据：GPU 来自
nvidia-smi
，吞吐与 KV Cache 来自
/metrics
，日志来自
docker logs
。
SYNCING…
Runtime Overview
Node
--
Model
--
Container
--
OpenAI API
--
Metrics Source
--
Log Source
--
GPU Utilization
--
当前 GPU 利用率
VRAM Usage
--
--
Temperature
--
GPU 温度
Power Draw
--
当前功耗
Generation Throughput
--
tokens / second
Prompt Throughput
--
prompt tokens / second
KV Cache Usage
--
来自 vLLM /metrics
Live Container Logs
Loading real docker logs…