NVIDIA Dynamo-Triton（原 Triton Inference Server）26.07 启用 TensorRT 多设备推理，单个模型端点可通过 gRPC 调用跨多 GPU 执行，客户端无需自行协调 GPU rank。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmubtyxtu02xvro99wxjare1j
信息源：AI HOT · 全部动态
- 原文链接：NVIDIA Dynamo-Triton 26.07 支持 TensorRT 多 GPU 推理，Cosmos 3 Nano 八卡生成延迟降至 34 秒
- 分类：技巧观点
- 作者：NVIDIA Technical Blog：Agentic AI / Generative AI
- 发布时间：2026/09/22 06:42
评论0