Eagle Corp 发布开源灵活草稿模型 EAGLE-4，可根据批大小、硬件和工作负载自适应调整投机解码策略，并保持目标模型的输出分布。实测搭配 Qwen3.8-27B 在 4× NVIDIA B300 上达到 961.6 tokens/s。Eagle 是服务 NVIDIA、Meta、Intel、AMD、Perplexity 等公司的 AI 推理平台。 🔗 阅读原文 via AIHOT · https://aihot.news/items/vjy8hjzyxn2u6dcnh97xx3ygv
信息源：AI HOT · 全部动态
- 原文链接：Eagle Corp 开源 EAGLE-4 推理加速草稿模型
- 分类：AI 产品
- 作者：Testing Catalog
- 发布时间：2026/10/21 06:02
评论0