OpenAI 为 GPT-6 的提示词缓存带来更高命中率、诊断工具、断点、预热和保留缓存的推理变更。缓存复用可将缓存输入 token 成本降低最多 90%,新仪表盘展示缓存命中率及缓存与未缓存 token 量。作者指出高命中率仍是应用设计问题,开发者需让长时运行智能体的稳定指令和工具保持可复用。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmudbhd2b04fdroggn32l8x0w
信息源:AI HOT · 全部动态
- 原文链接:OpenAI 增强 GPT-6 提示词缓存可靠性与可控性
- 分类:AI 产品
- 作者:X:Rohan Paul (@rohanpaul_ai)
- 发布时间:2026/09/23 07:33

评论0