AWS Machine Learning Blog· Claudio Mazzoni·· 4 時間前
AIエージェントの「土撥鼠の日」：Amazon BedrockでOpenAIモデルを使う際のプロンプトキャッシュパターン
Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
AI による要約
Amazon BedrockでOpenAIモデルを使う場合、プロンプトキャッシュにより、AIエージェントが毎ターン、ツール定義や指示、履歴を再送信するのを避けられ、入力コストを抑えられる。キャッシュには、Bedrockが再利用可能なプレフィックスを自動選択する暗黙的キャッシュと、prompt_cache_breakpointで境界を指定する明示的キャッシュの2種類があり、併用が推奨される。
入選の記録
基準 60公式・一次情報1 回目 342 回目 34
入選せず二回の合計 68 < 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過：AI Agent提示缓存技术教程
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：AWS Machine Learning Blog · aws.amazon.com