小米 MiMo 团队为即将推出的 MiMo-V3 打造了注意力架构 HySparse2，在 80B-A3B MoE 模型上把 prefill FLOPs 较 MiMo-V2 系列的 Hybrid SWA 降低 5.02x、较 HySparse 降低 2.92x，KV cache 从 12.09 GB 降至 2.69 GB。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmuk4hvff17horo9hftcowxzz
信息源：AI HOT · 全部动态
- 原文链接：小米 MiMo-V3 的 HySparse2 等本周 AI 论文
- 作者：X：DAIR.AI (@dair_ai)
- 发布时间：2026/09/28 01:34
评论0