▲ vLLM的Rust前端PR了，预处理吞吐量直接翻了5倍！ 迷迷途小书童 xugaoxiang.com 2026/05/31 来自 @inferact 的 @BugenZhao 在 PyTorch 新加坡会议上介绍了这项工作。 LLM […] vLLM的Rust前端PR了，预处理吞吐量直接翻了5倍！ 最先出现在 迷途小书童的Note 。… 讨论 登录后参与讨论 还没有评论，来说第一句吧。 迷途小书童 的其他文章 微软开源了一个帮 Agent 打磨技能的工具，思路很野 2026/06/29 X上如何下载视频？ 2026/06/28 装完Hermes之后，我被这5个东西救了 2026/06/16 从此写代码，只需要在旁边看着 2026/06/14 小模型大野心 2026/06/10
讨论
登录后参与讨论
还没有评论，来说第一句吧。