▲ 大模型部署工具 llama.cpp 陈陈少文的博客 chenshaowen.com 2023/09/05 1. 大模型部署工具 llama.cpp 大模型的研究分为训练和推理两个部分。训练的过程，实际上就是在寻找模型参数，使得模型的损失函数最小化，推理结果最优化的过程。训练完成之后，模型的参数就固定了，这时候就可以使用模型进行推理，对外提供服务。 llama.cpp 主要解决的是推理过程… 讨论 登录后参与讨论 还没有评论，来说第一句吧。 陈少文的博客 的其他文章 更适合 VibeCoding 的应用部署平台 - AppLab 2026/09/27 llms.txt：让 AI 读懂你的网站 2026/09/20 deepseek-harness-remote-node 2026/09/12 RDMA 运维 2026/08/22 AI Agent 之下，中台会消失吗 2026/08/20
讨论
登录后参与讨论
还没有评论，来说第一句吧。