云端大模型按 token 计费,一个月对话量上来后账单吓人,而且内部工单数据走公网总归不踏实。同事安利了 Ollama,说本地能跑开源模型。我半信半疑地试了,结论是:本地模型不是云端替代品,而是特定场景的划算补充。 模型量化:显存决定你能跑多小 Ollama 拉模型时就要选量化版本。以 Qwen2-