3.2.2.1 基本配置参数(--model、--port)


文档摘要

3.2.2.1 基本配置参数(--model、--port) 你有没有在深夜调试一个 OpenAI 兼容 Server 时,被 参数的“看似正确、实则失效”折磨得怀疑人生? 比如,你信心满满地执行: API 调用却始终返回 —— 而你刚刚用 确认过路径真实存在、权限无误、Hugging Face 格式完整。你反复检查文档,发现 vLLM 官方示例里写的明明是 这种 Hugging Face Hub ID;而你本地加载模型,却习惯性填了本地路径——问题就藏在这里: 不是“指向模型的位置”,而是“声明模型的身份标识”;它既是加载入口,更是 API 协议层的契约锚点。 这不是配置疏漏,而是对 OpenAI 兼容 Server 中 语义的系统性误读。


发布者: 作者: 转发
评论区 (0)
U