英伟达通过一项上游 vLLM 优化，让 2.8 万亿参数量的 Kimi K3 在 GB300 NVL72 上达到 423 tok/s/user 的推理速度，性能提升 1.68 倍。 🔗 阅读原文 via AIHOT · https://aihot.news/items/yjpib8e04l9rntdkg91c2k9ac
信息源：AI HOT · 全部动态
- 原文链接：英伟达优化 Kimi K3 推理速度，GB300 NVL72 上提升 1.68 倍
- 分类：AI 产品
- 作者：IT之家·人工智能
- 发布时间：2026/10/18 21:25
评论0