插件详情 · Ansonfishing/dsh-model-manager
dsh-model-manager Ansonfishing
Manage local LLM inference servers in DSH: GPU registry, parameter profiles, VRAM validation, and tok/s benchmarks for llama.cpp, SGLang, and vLLM
★ 0
GitHub stars
0
forks
2026-08-28
创建于
2026-09-03
最近 push
—
npm 周下载
收录 / 发布
awesome-dsh-plugin · — imsai 未收录
npm dsh-model-manager@0.2.1(3 个版本 · 最近发布 2026-08-19)
版本滞后:仓库 1.0.0 vs npm 0.2.1
徽章接入:https://dsh-insights.com/badge/Ansonfishing/dsh-model-manager.svg · 接入指南 ↗
LLM 解读
管理本地LLM推理服务:GPU登记、参数配置、VRAM校验、tok/s基准。
inferencegpuregistryvrambenchmarkllama.cppsglangvllm
README 宣称:支持llama.cpp、SGLang、vLLM;提供GPU注册表;提供参数配置文件;VRAM校验