可拖拽环形表盘,实时显示模型输出速度(tok/s),点击展开每步详情(精确速度、TTFT、缓存命中率、缓存读写、推理/输入 token、模型、累计 token)。
curl -fsSL https://www.dshhub.co/install.sh -o dshhub-install.sh && bash dshhub-install.shAlready have DSH? Skip the wizard and install the market directly:dsh plugin --profile web add dshhub-market
This plugin installs only from the plugin side.