dsh-model-deploy

ethanrise/dsh-model-deploy
★ —Added 2026-10-20🔧 工具与能力开发与运行时

About

检查 ONNX 模型(输入输出、形状、opset、算子、体积),并用 ONNX Runtime 在本机或通过 SSH 在远程设备上做基准测试,报告平均/P50/P95/P99 延迟、FPS 及实际使用的执行后端,可按 FPS、P95 延迟和模型体积设置 PASS/FAIL 部署门槛。本机运行需要 Python 3.10+ 并安装 numpy、onnx、onnxruntime 和 psutil(pip install numpy onnx onnxruntime psutil);远程目标还需要 python3、numpy 和 onnxruntime。

Install

curl -fsSL https://www.dshhub.co/install.sh -o dshhub-install.sh && bash dshhub-install.sh

Already have DSH? Skip the wizard and install the market directly:dsh plugin --profile web add dshhub-market

This plugin installs only from the plugin side.

← Back to catalog