跳到正文
AWS Machine Learning Blog· Claudio Mazzoni·· 3 小时前精选AI 评分69

在 Amazon Bedrock 上使用 OpenAI 模型的 Agent 提示词缓存模式

Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock

AI 导读

Amazon Bedrock 可通过隐式和显式提示词缓存复用 Agent 的工具、指令与对话历史,降低重复输入成本。文章给出缓存前缀、滚动断点、additional_tools、子智能体并行调用及跨会话共享的实现示例。

推荐理由

文章结合代码梳理隐式与显式提示词缓存模式,并覆盖工具变更、子智能体和跨会话复用。

来源:AWS Machine Learning Blog · aws.amazon.com