Bedrock 展示代理提示缓存用法

AWS 讲解了在 Amazon Bedrock 上使用 OpenAI 模型构建 AI 代理时，如何通过隐式和显式提示词缓存复用工具、指令与对话历史，以降低重复输入成本，并提供缓存前缀、滚动断点及子智能体并行调用等示例。 缓存前缀须达到 1,024 个 token 才符合条件，写入费用为正常输入费率的 1.25 倍；缓存前缀在最近一次写入或成功复用后至少 30 分钟内可继续复用。复用还要求使用同一模型、AWS 账户和区域，并有可匹配的可用前缀。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。