本地部署 Qwen3.8-27B 最低要什么显卡？
4bit 量化约 16–18GB：单张 24GB 消费级显卡（RTX 4090/3090）或 32GB 统一内存 Apple Silicon。FP8 官方权重建议 48GB 单卡或 2×24GB。估算仅供参考，以实测为准。
Ollama 和 vLLM 怎么选？
Ollama 十分钟起服务，适合 POC 与小团队，但并发能力弱；vLLM 承载生产并发，官方 FP8 权重直接适配，需 Linux + NVIDIA。常见路径：Ollama 验证效果 → vLLM 上生产。
量化会掉多少精度？
Q4 对日常问答影响较小，但编码、数学推理等高难任务可能有可感下降。关键业务建议 Q5/Q6 或官方 FP8，上线前用自有数据集做评测对比。
Qwen 开源模型可以商用吗？
Qwen3.8-27B 采用 Apache-2.0 许可，允许商用；Qwen 各代、各尺寸许可不完全相同，以对应 HuggingFace 仓库 LICENSE 为准并留档。
并发上不去怎么办？
检查三点：是否还跑在 Ollama 单进程上（转 vLLM）；上下文长度是否放得过宽（KV 缓存随长度暴涨）；GPU 利用率是否被前处理拖累。仍不够就加卡做多副本。
262K 长上下文要多花多少显存？
KV 缓存随上下文线性增长，满长度会显著超过权重占用。生产上建议按业务实际需要的最大长度配置（vLLM 可设 --max-model-len），不必默认开满。
内网部署要注意什么安全项？
推理接口只绑内网并加鉴权（OpenAI 兼容接口默认无认证）；记录调用审计；部署输出护栏与敏感词层；模型权重与 LICENSE 存档备查。
先调 API 还是先买卡？
建议先用 API 打样验证业务效果（如 Qwen3.8 Flash，输入 $0.1158 / 输出 $0.3629 每百万 tokens，引自公开目录以官方页为准），跑通后把高频、敏感流量迁到本地模型。
QWEN爱好者