本地部署大模型服务

范范叶亮的博客 leovan.me 2026/04/05

环境信息 本教程将介绍在 macOS 和 Windows 环境下部署本地大模型服务。如无特殊说明，macOS 系统下需在终端中执行命令，Windows 系统下需要在 PowerShell 中执行命令。本教程涉及到的软件和模型信息如下： 软件 版本 ollama 0.20.2 LM Studio 0.4.9+1 vllm 0.19.0 vllm-metal v0.1.0-20260404-16434…