Ollama 单机自用很舒服，但它一次只服务一个请求，多个人同时用就开始排队。这篇在 RTX 4060 8G 上用 vLLM 起一个 OpenAI 兼容端点，讲清 PagedAttention 带来的吞吐差异、KV cache 怎么算、以及三条显存相关踩坑。
2026-10-25