Indi

自建AI服务器使用PVE配置显卡直通虚拟机安装驱动、CUDA和cuDNN运行LLM大模型进行AI炼丹

任霏博客 blog.renfei.net 2025/02/21

随着开源大模型的普及，还有各种大佬开源的程序，AI大模型已经逐渐普及到每个人身边了，很多同学已经可以在本地笔记本上运行大模型了，但是本地笔记本毕竟性能差，而且笔记本还需要干别的活呢，不可能一直运行大模型，我习惯用PVE，所以记录一次我的部署过程，给我未来重复部署留下指南。…

讨论

还没有评论，来说第一句吧。

任霏博客的其他文章

收录 1,531 个博客
本周 133 位博主更新
24 小时内 46 篇

分类

随机逛一个博客 →

Indi 收录中文独立博客，

每小时检查一次 RSS。

30 天内有更新的博客每小时检查一次，一年内有更新的每 3 小时，更久没更新的每 12 小时。抓取失败时会先照常重试，失败超过一天后逐步降低频率（12 小时、3 天、7 天）；连续 7 天抓不到标记为疑似失效，超过 90 天标记为已失效、每 90 天才检查一次。恢复后自动回到正常节奏。RSS 没有变化时只发一个很小的请求，不会重复下载。

欢迎在 GitHub 上提交你的博客。