本地部署 Hy-MT2 翻译模型

如如鱼饮水 wangjiezhe.com 2026/06/02

最近，官方新释出了 GGUF版本 的Hy-MT2-30B-A3B模型，我又对它进行了测试。 运行命令如下： 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 llama -server .exe ` -m "Hy-MT2-30B-A3B-Q4_K_M.gguf" ` --alias "tencent/Hy-MT2-30B-A3B-GGUF" ` -c 4096 ` --…