站点图标 Linux-技术共享

vLLM CLI 一款终端管理工具

Gyh-allacAAjiMP

 

vLLM CLI 一款终端管理工具,集成交互式界面与传统 CLI 命令,简化 vLLM 服务器管理

- 交互式菜单引导配置 无需记忆繁琐参数
- 自动检测并配置多GPU环境
- 自动保存上次成功配置
- 实时监控GPU利用率与服务器日志
- 支持内置及自定义配置文件
Github地址:https://github.com/Chen-zexi/vllm-cli

退出移动版