Nicksxs's Blog
nicksxs.me
上次我是实地使用llama.cpp跑了本地大模型，这种测试成本比较大， 刚好上次看到有个软件可以运行在本地来评估当前机器的性能可以跑什么样的大模型 它就是llmfit 在mac可以使用 windows可以 安装好就可以直接运行了 可以看到有列了很多模型，包括参数量，token速……
上次我是实地使用llama.cpp跑了本地大模型，这种测试成本比较大， 刚好上次看到有个软件可以运行在本地来评估当前机器的性能可以跑什么样的大模型 它就是llmfit 在mac可以使用 windows可以 安装好就可以直接运行了 可以看到有列了很多模型，包括参数量，token速……
讨论
登录后参与讨论
还没有评论，来说第一句吧。